November 5th, 2021

2021 год

Чайник -- заваривает, молоток -- забивает, интеллект -- мыслит

Вот посмотрите (там в комментах), как люди путаются в системных уровнях, когда нужно обсуждать AI — https://www.facebook.com/yuriy.kuznetsov.5/posts/5565884930105057

Для кого какой уровень привычней, тот о том уровне и говорит. Кто видит "антропоморфный супермозг на ножках, а вместо рук базуки", а кто видит набор программ на языке ассемблера на классическом компьютере, но многие видят AI "из библиотек алгоритмов для глубоких нейросетей". Всё это мимо, мимо, мимо. Даже если обсуждать интеллект (неважно уже естественный, или искусственный, или гибридный) как "нейросеть", то легко сделать разумный вывод: никакого интеллекта там не будет. Но если из нескольких нейросетей собрать систему (а сейчас так и делают), то там ведь тоже эмерджентность -- и возникают новые свойства, которых не было у одной глубокой нейросети. На одной нейросети AI не получается какой надо, а вот из нескольких -- уже не факт. Системность нужно учитывать, без неё все эти рассуждения не работают.

Глубокие нейронные сети: первый класс универсальных алгоритмов, который не выходит на плато результатов по мере добавления вычислительной мощности. Вопрос в том, какого сорта результаты требуются в конечном итоге, ибо у нейросетей это "промежуточные результаты", в итоговом интеллекте этих сетей могут быть тысячи (а то и десятки тысяч, а то и миллионы, и дальше там могут быть не только нейронные сети, почему бы и нет).

Ну, и тезис Sutton 2019 как раз про наращивание вычислительных мощностей: в конечном итоге работает именно оно, муравья мудрецом не сделаешь. И если добавить вычислительной мощности, то "взлетают" самые странные вычислительные архитектуры, начинают проявлять те или иные свойства интеллекта. Это ж не бинарная характеристика.

В "Образовании для образованных 2021" (https://system-school.ru/uptodate, чат поддержки курса https://t.me/odo_course, это как раз про усиление интеллекта образованного человека, в том числе за счёт использования компьютера как добавки к мозгу) этот вопрос про природу интеллекта уточняется (ибо у многих наших выпускников сегодня системы включают какие-то вычислители, относимые к AI, а сами они вполне NI, "естественные интеллекты" и даже гибридные интеллекты из AI и NI вместе, так что непонятно где кончается один и начинается другой).

Интеллект – это вычислитель/устройство.
— Это мыслительное мастерство -- функциональный объект (важно, что делает, неважно как устроено).
— Он как-то реализуется конструктивно (структуры мозга, структуры компьютера, или даже с выносом в тело и фрагменты окружения)

И важно, на каком системном уровне делаются все эти утверждения. Без системного мышления интеллект обсуждать трудно. Если вы погрузитесь в "как устроен", то легко будете плодить утверждения типа "человек танцует всеми клетками своего тела" или даже "стадо пасётся своими молекулами", но в случае интеллекта не замечать этого редукционизма. Ну, или впадать в холизм, когда появляется полностью оторванная от реальности всемогущая сущность.

Функциональный/ролевой объект [существительное] – функция/поведение в роли [отглагольное существительное]. Аккуратней с типами (особенно для отглагольных существительных, это обычно процессы, а не вещи)! Примеры:
— Чайник – заваривание
— Молоток – забивание
— Река – течение
— Интеллект – мышление (мыслительное мастерство – мастерение знаний)
Поведение/функция интеллекта – мышление/познание:
— Неважно, человеческое или животное, или машинное, или гибридное, или коллективное. Важно решить проблему, а там хоть лаптем.
— Важно: универсальность (типы проблем) [батарея тестов]
— Важно: скорость познания [секунды или годы]

Продукт/результат познания как работы интеллекта: знания о практиках, «как делать», метод работы [дисциплина/объяснения и инструментарий, поддерживающий объекты дисциплины]

Познание неважно откуда (учитель, книги, самостоятельные исследования природы или техносферы).

Прикладное мастерство – это не интеллект, это вычислитель, использующий знания, как продукт интеллекта. Медведь, который научился ездить на велосипеде -- ни разу не интеллектуал, равно как человек, научившийся в уме перемножать стозначные числа. Мастер в одном -- не интеллектуал ни разу. Универсальность в части классов решаемых проблем и скорость решения этих проблем, вот что важно.

Никакой эзотерики (рациональность!).

Никакой антропоцентричности («человек – случайный носитель мышления»).

Никакой дискретности, непрерывная шкала: у муравья интеллект тоже есть, но он не ахти какой интеллектуал. У Эйнштейна интеллект был будь здоров, но и он решал не все классы задач, которые можно представить во вселенной.

UPDATE: обсуждение в чате блога с https://t.me/ailev_blog_discussion/11088, в фейсбуке с https://www.facebook.com/ailevenchuk/posts/10221958734251513.