May 30th, 2020

2019

Учим работать с понятиями: из homo делаем homo sapiens

Большинство наших студентов приходит на курсе онтологики примерно в том же состоянии, что самая большая в мире нейронная сеть GPT-3 (175млрд.параметров, https://arxiv.org/abs/2005.14165). Эта сетка умеет сгенерировать несколько абзацев новостного текста, неотличимых людьми от написанных людьми же. Эта сетка очень хорошо моделирует быстрое интуитивное мышление S1 по Канеману, и именно это мышление хорошо развито у наших курсантов. Мышление говорящего попугая, но на стероидах. У сетки (даже такой большой как GPT-2, даже такой крутой, как нейросетка попугая) слабый интеллект: она не переключается в режим медленного рассудочного мышления S2, и поэтому решает меньше задач, чем нейронная сетка человека. У homo такая аппаратная возможность есть, и поэтому homo -- sapiens/разумный.

Работа с GPT-3 показала, что журналистам и другим литераторам иметь рассудочное мышление необязательно, просто много читать (думать не обязательно), и их нейросетка будет генерировать отличные новости, наполненные яркими образами! У них в голове оказывается модель языка, в которой отражена модель мира (тексты, на которых обучают такие компьютерные и/или человеческие сетки, описывают мир -- и модель одновременно получается моделью мира и моделью языка). Но модели мышления, модели понятийного рассуждения в голове нет, равно как и в компьютерной нейросетке. Инженерам, менеджерам, предпринимателям это не подойдёт, им нужно уметь рассуждать. Для этого нужна работа с понятиями, онтологическая работа.

На курсах онтологики мы заставляем студентов писать на онтологическом псевдокоде (за 36 часов мы из них точно не делаем онтологов, которые могут писать на онтологическом языке, чудес не бывает). Через некоторое время у них в голове что-то щёлкает, и они начинают выдавать приемлемый онтопсевдокод. Из просто homo, генерирующих простые тексты, они становятся homo sapiens -- научаются схематизировать и обсуждать полученную понятийную схему в связке с реальностью. Вот как об этом пишет Максим Цепков, обсуждая лекцию Петра Щедровицкого и наши результаты (https://mtsepkov.org/Блог:Максима_Цепкова/2020-05-28:_Щедровицкий._Что_такое_мышление-2 ):
Петр рассказывал про исследования, которые сейчас проводятся на старших школьниках, это было упомянуто, а в ответах на вопросы в третьей лекции было подробно. Результат – 90% отечественных школьников к 9-му классу ничего не понимают ни в физике, ни в математике, ни в литературе. Стоит их чуть-чуть потрясти, и выясняется, что за словами никаких значений не стоит. Они умеют плести какие-то плетенки из слов, но за этими словами не стоит ни референтов, ни денотатов, не видят схем и даже значений слов, не понимают, о чем идет речь. А как они при этом воспроизводят информацию - надо исследовать. Дети не могут перейти от формулировки условий задачи к мысленному образу практической ситуации, которую надо разрешить. Не могут, как ни бейся, хоть меняешь птичек на стахановцев и на бассейны, из которых вода вытекает, все равно не могут. Это была почти цитата из лекции.

Кстати, в IT тоже встречается. Аналитик берет диаграмму бизнес-процессов, и играет ее квадратиками, совершенно не представляя сути вещей, которая за ними стоит. В которых, помимо собственно работы софта есть какая-то деятельность в реальном мире, которая лишь регистрируется в системе, и ее нельзя так произвольно тасовать и изменять.

С моей точки зрения, это очень интересный и проблематизирующий результат. Потому что в другой форме он проявился, например, в курсе системноинженерного мышления Левенчука: Анатолий обнаружил, что слушатели, а у него – не только аспиранты и студенты, но в действующие менеджеры и инженеры не умеют проводить онтологическую работу, выделять понятия в своем проекте и связи между ними. И результатам у него был запрос к философам-рационалистам на обучение этому. Курс создали, Прапион Медведева ведет его. То есть имеем ситуацию: человек относительно успешно действует в некоторой области, но при этом не умеет выделять понятия и строить онтологии, для действия это оказывается не обязательно. Да, отсутствие этого не позволяет научиться определенным способом действия, которые дает системная инженерия, делать какие-то сложные вещи.

А теперь Петр говорит, что аналогичная ситуация, просто на другом уровне – у школьников. Они успешно сдают ЕГЭ и поступают в ВУЗы, учатся там – без мышления, если говорить результатами его исследований.

И тут возникает вопрос: а может быть, речь идет о каких-то других формах мышления? Которые позволяют действовать, в том числе вести совместную деятельность, строить и осуществлять планы, вести проекты, но не укладываются в привычные представления? Которые пренебрежительно называют «клиповым мышлением», не думая, что именно за счет этого дети эффективно осваивают картину мира и действуют в ней, и сохранение такого подхода во взрослом состоянии, в синтезе с другими методами будет эффективно?

Почему мне это важно? Потому что в формулировке Петра проблем с мышлением школьников я узнал известную в IT проблему проектирования, которая приводит к не работающим решениям. Аналитики получают запрос на новый функционал, например, о том, что поступивший платеж надо отнести к договору, и проектируют решение: на форме ввода платежей добавим поле с договором. Не задумываясь о том, что бухгалтер, импортирующий платежи из выписки не знает о том, к какому договору платеж относится и не сможет заполнить поле.

Или проектируя рабочее место сотрудника магазина, отбирающего товар по интернет-заказам делают простое решение: поступил заказ со списком товаров, сотрудник их отбирает по одному и нажимает кнопку «отобрал». Опять-таки не задумываясь о деятельности – сотруднику надо пойти, как-то опознать товар по названию, не читая подряд все этикетки, товары могут быть в разных местах магазина, если надо три штуки – он находит их по одной. И если в случае с бухгалтером еще можно как-то предположить, что аналитик просто не знает специфики работы и не может представить, то во втором случае ситуация более явная, в магазинах все были и знают, как они устроены.

Раньше я полагал, что проблема просто в том, что люди думают в рамках IT-системы, не выходя за ее границы в надсистему деятельности. Системный подход на этом фокусирует внимание. А после этих лекций Петра задумался о том, что, возможно, просто выйти в натуральное описание – недостаточно, нужно, чтобы у людей была соответствующая онтология, описывающая этот кусочек мира. Которая устроена как-то по-другому, чем онтология IT-систем, в которой они ведут проектирование.
Вот именно это место мы и исправляем. Курс онтологики прежде всего говорит, что есть ты, есть мир, есть модель мира -- и есть другие люди с их моделями мира. И нужно понимать связь модели, мира и людей в их ролевом многобразии. А системное мышление -- это уже поверх этого. Системное мышление -- это понимание, какие модели удобно использовать в сложных ситуациях.

Ужас в том, что курс онтологики демонстрирует на первых занятиях непонимание того, что написано в учебнике системного мышления. Люди читают текст, как художественное произведение -- не соотнося с миром, не понимая учебник как модель. Вот это и исправляем. Буквально раскрываем глаза: кроме самого текста заставляем видеть автора текста (текст -- это модель мира, сделанная автором), себя (и составляемую для себя модель мира) и сам мир, общий для вас с автором. Сложно? На первых порах -- сложно, к концу курса это уже беглый навык. И ещё 20% студентов этот навык откуда-то получают ещё до прихода на курс, на курсе они только научаются этот свой способ работы обсуждать, распознавать его у других людей, получают для этого слова. А остальным 80% этот навык приходится ставить по факту с нуля.

А дальше? А дальше системное мышление, системный менеджмент и системная инженерия. И вот тогда уже можно получить реальную пользу для своих проектов.

Самый для меня интересный момент -- это понятийная работа, нужная для функционального именования системы по её типу. Когда это удаётся сделать (а мы тратим на курсе пару дней обсуждения целевых систем участников курса), лифтовый тест (можно ли про систему понятно рассказать за 2 минуты поездки в лифте) проходится. И это ведёт к резкому облегчению в коммуникации по поводу системы. Жизнь в проекте драматически улучшается. Мы начали такую работу вести на текущем 18 потоке не только на занятиях, но и на форуме группы. Сегодня как раз был один из очередных прорывов -- система получила своё функциональное имя, основанное на типе. Нет работы с понятиями, рассудочного мышления S2 -- нет системного мышления, есть только журналистское мышление, как в нейронной сетке GPT-3. Помним, что люди не отличают тексты GPT-3 от текстов других людей. Но в других задачах эта нейронная сетка плоха, думать она не умеет. Она умеет плести тексты, очень правдоподобные тексты. Для литературного творчества сойдёт, для проектной работы -- нет.

Мой пойнт в том, что без понятийной работы в проектах жить нельзя. Нужно уходить от работы со своим мозгом как с обучающейся каким-то языковым паттернам нейросеткой. Нужно учиться понятийным паттернам и рассуждениям с ними, а это другое. Нужно осваивать онтологику, системное мышление, деятельностные кругозоры -- системный менеджмент, системную инженерию, предпринимательство. И тогда будет совершенно другая жизнь. Один из наших выпускников так и сказал, что не может сейчас представить, как он жил без хорошего мышления раньше -- а ведь он был не самым глупым в своём окружении. Он стал человеком, который осознанно умеет включить рассудочное мышление S2 и провести сложное рассуждение. Это даёт ему другое качество восприятия мира. Я его хорошо понимаю. Я сам не понимаю, как я работал ещё десяток лет назад. Онтологическая машинка у меня, по счастью, в мозгу была включена сразу после вуза -- я занимался пару лет AI в исследовательском вычислительном центре РГУ. Но вот чем отличаются функциональные схемы от конструктивных я внятно не мог объяснить, а ведь я в какой-то момент называл себя системным архитектором! У меня на "Системном мышлении и стратегировании" обязательно присутствуют сейчас на курсе один-два архитектора. Один из них сказал, что только после курса понял, в чём состоит его работа. Эх, я понял, в чём состояла моя работа как системного архитектора сильно позже того, как перестал им работать!

Мы берём людей ровно в том состоянии, в каком их описывает Максим Цепков, повторю: "Стоит их чуть-чуть потрясти, и выясняется, что за словами никаких значений не стоит. Они умеют плести какие-то плетенки из слов, но за этими словами не стоит ни референтов, ни денотатов, не видят схем и даже значений слов, не понимают, о чем идет речь. А как они при этом воспроизводят информацию - надо исследовать. Дети не могут перейти от формулировки условий задачи к мысленному образу практической ситуации, которую надо разрешить. Не могут, как ни бейся, хоть меняешь птичек на стахановцев и на бассейны, из которых вода вытекает, все равно не могут". И учим. Это совсем не глупые люди. Просто их никто никогда в явном виде связи моделей мира, мира и отношениям их самих к миру и моделям не учил. Мы учим. Мы делаем из них не просто хороших homo, а homo sapiens. Меняем их интеллект-прошивку мозга из древней вузовской версии на свежую версию 2020 года. Прежними эти люди уже не будут.

UPDATE: обсуждение в фейсбуке -- https://www.facebook.com/ailevenchuk/posts/10218563664736897, https://www.facebook.com/alexey.tigarev/posts/10157531467681173
2019

lytdybr

Очередной поток моего курса "Системный менеджмент и стратегирование 2020" пойдёт с 21 июня 2020 (https://system-school.ru/sms). Карантинная скидка 25% действует до 1 июня, в июне она будет 15%, в июле её уже не будет. К онлайн-курсу "Системное мышление 2019" это тоже относится (https://system-school.ru/sm2019). И ко всем остальным курсам (которые веду не я) тоже -- https://system-school.ru/

Вот сегодняшний твит François Chollet (https://twitter.com/fchollet/status/1266426784876126208), мы ровно это переносим на людей, ровно поэтому у нас в Школе нет акцента на сугубо прикладное знание:
Here's the thing about AI: you get what you optimize for. If you optimize for a specific skill, like chess or StarCraft, your final system will possess this skill and nothing else. It won't generalize to any other task.

To generalize, you must optimize for generality itself.

And for many high-value real-world tasks, that's just about every day. Consider self-driving cars, or domestic robotics. You can't enumerate the set of possible situations a driver might ever encounter -- billions of miles are not nearly enough.

You can't even enumerate the set of possible kitchens a robot might operate in. If you want to ever be able to deploy a L5 self-driven system or a human-level domestic robot, you have to figure out how to implement broad cognitive abilities -- beyond task-specific skills.
Вьюнош побывал вчера на последнем звонке, это происходило главным образом как демонстрация видеоклипов через zoom. Всё, эта каторга для него закончена. Я относился к своей школе именно как к каторге, хорошо это помню -- работать нужно, за работу никаких тебе плюшек, сбежать невозможно, всем должен и ты нижний чин в социальной иерархии. Вьюнош, насколько я понимаю, к своему лицею относится так же. Из происходящего радует только то, что он проходит сейчас курс онтологики. Но в голове у него не онтологика, а предстоящие сдачи ЕГЭ: вся школьная (и, увы, семейная -- у жены и тёщи тут пунктик) машина тщательно мыла ему мозг, что эти ЕГЭ важнее всего в жизни. А потом важней всего будут сдачи сессии, и продолжится всё то же самое (предлог незанятия ничем другим останется тот же: "иначе я попаду в армию. Поэтому все отстаньте"). Так и вырастают инфантилы -- и я вижу, что моего сына это не минует, он органическая часть своего поколения, не хуже и не лучше. Мне это печально. Мало иметь какие-то мыслительные компетенции, нужно ещё и свою жизнь уметь организовать. Вот с этим пока проблемы.

Три дня провёл в ответах на вопросы к моим последним постам, затраты времени списал по статье "просвещение". Такое впечатление, что это время мне лучше бы потратить на написание учебников ровно с теми же объяснениями, что я давал в коротких комментах. Это было бы более эффективно и пригодилось бы большому числу людей. Так что буду по возможности воздерживаться от подробных ответов всем проходящим мимо и честно делать курсы.

Сделал репост Crystal PITE's, The Statement, Nederlands Dans Theater с ремаркой "в онлайне так не посовещаешься" -- за сутки получил 55 лайков, 14 перепостов. Оно того стоит. Офисный балет, удивительная вещь -- https://www.facebook.com/ailevenchuk/posts/10218558626570946

Обнаружил, что у меня 56 дней подряд прослушивания плейлиста дня в яндекс.музыке -- вон он, режим домашнего ареста. Сегодняшний плейлист дня -- https://music.yandex.ru/users/yamusic-daily/playlists/23664675. Начинается с Роберта Планта, затем musica Andina, и такое разнообразие и далее по всем 5 часам плейлиста.

Яндекс.музыка хороша, но этого не скажешь про яндекс.новости. Главная новость там была пару дней назад -- "президент бросил ручку на стол во время совещания" (я не шучу, пару дней было в ротации по всем медиа, главное событие в жизни страны!). Сейчас в ротации -- глубокомысленное "Путин предложил определить шаги РФ после открытия зарубежных границ". Путин бы не предложил, так никто бы не догадался, что эти "шаги РФ" нужно определить! Один из заголовков -- "Мишустин включил СМИ в перечень пострадавших отраслей". Они пострадали мозгами IMHO уже давно, недаром журналист -- это вторая древнейшая профессия. Исключения бывают, это те же 5% журналистского сообщества, которые способны к понятийной работе. Эти 5% журналистов могут оперировать не только разрознёнными историями, но и их взаимоувязанными логическими цепочками -- и таких журналистов среди всех журналистов так же мало, как и думающих людей среди всего населения глобуса. Тексты этих 5% утопают в продуцируемых остальными 95% мутных потоках сознания. Пандемия глупости неостановима. С журналистами отдельно ничего не сделаешь, делать нужно только со всеми людьми в целом, повышать процент думающих. Пошёл писать учебник "образование для образованных", всем остальным ведь некогда!