lytdybr
Прошёл пятый день СМС25, всё было более-менее традиционно: разбор ситуации с "власть не дают, а власть берут", обсуждение цикла управления работами из пяти пунктов, в которых собственно управление работами занимает полтора пункта (этот цикл прописан в курсе, а курс сегодня уже опубликован в Aisystant). Из интересного ещё обсуждали вопросы тесной переплетённости личного и корпоративного. В курсе теперь есть учебный фильм "Чужие деньги", и один из студентов выполнил его моделирование "в табличках", разобрав роли -- и там выяснилось, что "семья" тоже вполне себе оргзвено в цепочках создания и там тоже есть что моделировать. Равно есть что моделировать в части оргзвеньев людей самих по себе, "личностей, определяющихся со своими ролями в проекте". Отметили, что табуирование слова "предпринимательство" и понимание разнообразия ролей, скрывающихся за этим словом (это тоже даётся в новом учебнике), существенно помогает в разговорах с партнёрами по бизнесу (в группе есть и собственники бизнеса). Дальше вышли по этой линии в экзокортекс: зачем писать в блог. В очередной раз разобрались, что это делается для упражнения мозга (сосредоточенное размышление на какую-то важную тему, документирование результатов как практика собранности), а не для внешней публики. Пишем не для каких-то там читателей, а упражняем мозг, и таки публикуем (ибо есть дополнительные нюансы, связанные именно с публикацией), но это "журнал/log" (дневник для себя, утрясание своих же мыслей по тому, что прошло и по тому что встретил, и идей по тому, что будет -- мышление, которое само по себе важно, а не важно для потенциальных читателей). Об инсайте, что ведение журнала, написание постов, работа с публичным экзокортексом главным образом -- это работа для своего мозга, типа как походы в спортзал или на танцы это работа для своего тела, часть образа жизни, а не что-то другое, было уже много постов студентов, но вот тут опять обсудили. Каждый раз это приходится объяснять дополнительно. Дальше обсуждали моделеры -- традиционно "моделер из воздуха", "моделер из руки", "моделер в компьютере" -- и тут ищем "таблички". У кого-то нашлось coda.io, а у кого-то сначала "ничего, ибо нам нельзя облачные сервисы", а потом таки нашёлся "один облачный сервис можно" (и это MS Teams, а внутри там Lists, то есть таблички, и вроде как потенциально можно что-то автоматизировать). Обсудили новости AI (прежде всего CICERO). И в таких разговорах прошёл полный день, как обычно.
Начал писать часть учебника про практики оргразвития (оргдизайн и лидерство), должен справиться за пару недель. Затем архитектура и администрирование, на это ещё пара недель -- и здравствуй, здравствуй Новый год. Очень хочу успеть, буду работать по timeboxing -- даже если главы будут всего по десятку страниц (это я себя уговариваю, а там как пойдёт). Впрочем, я в уже написанном уже столько сказал, что оставшиеся тексты по определению должны быть короткими. В этой версии курса решено огромное число и методологических, и методических проблем, которые сильно мешали в предыдущих потоках. Но вот текущая группа СМС показывает, что вроде как текущий рассказ получился более-менее понятным для топ-менеджеров, хотя в нём много контринтуитивного и непривычного. На занятии СМС как раз обсуждали вчера, почему я так волнуюсь о переписке всех учебников. Управление конфигурацией нужно, чтобы предотвращать конфигурационные коллизии. Конфигурационные коллизии ведут к rework, "переделкам". Это удлиняет проект. В моём случае сначала студент учит очень старый материал в "Системном саморазвитии" (там ещё "обеспечивающая система"), делая все возможные ошибки, которые были убраны в следующих версиях. Потом узнаёт много интересного о требованиях в "Практическом системном мышлении" и переучивается (тот самый rework, лишняя работа). Потом в "Системной инженерии" узнаёт, что требований уже нет -- и опять rework. То есть обучение идёт более длинным путём, чем если бы во всех учебниках была бы сейчас одна версия интеллект-стека. Вот эти коллизии нужно немедленно убрать, и обучение у нас будет быстрее. А чтобы в будущем эти коллизии убирались быстро (они неизбежны, просто надо их быстро убирать), мы делаем continuous delivery на базе нашего Aisystant. Поэтому так озабочены все материалы курсов перевести в текстовую форму, которую проще всего и надёжней всего менять. Что делать не с новыми студентами, у которых всё будет быстро, а со старыми студентами, которые учились у нас пару лет назад, и хотят обновить свои знания на новую версию -- отдельный разговор, но и для них всё будет быстрее. В этом году всё идёт с курсами медленно из-за того, что я выпустил полностью новый курс "Системная инженерия", а теперь выпускаю по факту полностью новый "Системный менеджмент". Системный менеджмент и стратегирование были до этого только на видео, да и содержание тоже пришлось сильно менять, это оказалось долго. Занят всей этой перепиской я, похоже, буду до весны. Потом жизнь должна резко улучшиться, коллизий должно быть уже не так много, чтобы мне заниматься этим full time. Впрочем, уже и сейчас коллизий не так много, основные я уже убрал.
Лучи поноса программерам в ватной броне, которые блокируют разные VPN (начиная с тех программеров, которые вообще заставляют знать, что такое VPN, включая тех зарубежных программеров, которые не пускают читать их сайты из России, для меня они тоже в ватных телогрейках, того же уровня мышление, "результатом коммуникации является её результат, а не благое намерение"). Работать же невозможно! Итак, берём WARP (1.1.1.1), который ни разу не работает, но включаем его. Затем берём NordVPN, который тоже не работает. Потом включаем NordVPN (там ещё есть варианты с obfuscated servers -- выбрать пункт в менюшке стран, но не факт, что это важно), WARP говорит "всё, вы неконфиденциальны" и выключает свой оранжевый значок. Сети при этом нет никакой, доступ в интернет пропадает. Вы теперь даже не в Москве, а вообще нигде. Тут все останавливаются, и опускают руки. Но мы не все, поэтому не верим, открываем панельку WARP и выключаем вручную (вау, они говорят, что "неконфиденциальны", гасят значок, но себя автоматом не выключают! Вот и выключим). Ура, сеть есть, и мы по IP не в Москве, а там, куда подключились по NordVPN. Хотя по location всё одно в Москве, но нероссийского IP хватает, чтобы вообще всё работало. Потренируйтесь в доступе вот на этой страничке, пять фокусирующих шагов POOGI -- страшное враждебное всем знание, как я понял все благие и добрые намерения самых разных сетевых администраторов. Именно после невозможности захода на эту страницу меня заело, и я таки разобрался: https://www.tocinstitute.org/five-focusing-steps.html. Там главный пункт 5, "не останавливайся", PREVENT INERTIA from becoming the constraint! Это мне нужна была ссылка примера с различением "совершенствования" (операционный менеджмент, тот же POOGI) и развития (когда у фирмы появляется новая оргвозможность). И дальше пляски с этим админским бубном, вопрос ведь про "держать и не пущать" -- он же архиважный, я ведь не должен добраться до цитаты, причём то ли меня защищают, то ли от меня обороняются -- мне уже без разницы, результат один. Дальше нужно обсуждать интеллект принимающих решения, но это уже в следующем абзаце.
Во многих местах на этой неделе встретил обсуждение ужаса, который внушаить Galactica -- https://venturebeat.com/ai/what-metas-galactica-missteps-mean-for-gpt-4-the-ai-beat/. Там два главных контраргумента: 1. полное отсутствие цензуры -- поэтому никакой политкорректности в ответах. 2. Ответы настолько убедительны и складны, там так ловко перемешана правда и неправда, гениальные догадки и ахинея, а предмет (наука во всей её полноте) настолько сложен, что можно легко поверить ахинее. John Sowa и многие другие (https://groups.google.com/g/ontolog-forum/c/_V0AZPcV_EA/m/SZ52mHeZAgAJ) утверждают, что люди в этом отношении много, много лучше. Мой пойнт тут в том, что большинство людей не лучше, они такие же по этим критериям: удивительно прозорливы в некоторых ситуациях, а в некоторых удивительно тупо ошибаются. Просто паттерны ошибок и гениальности разнятся (и даже у разных людей, а уж у разных когнитивных архитектур и людей -- и подавно). Вопли о том, что люди грубы и тупы и сказанному ими нельзя верить легко проверить на обсуждении высказываний президентов США: я не отличаю дискуссию по анализу речей того же Трампа от речей той же Galactica. Но Трампа допустили к управлению государством, а Galactica выключили из Сети. Впрочем, и Трампа выключили из Сети. Но сейчас хотят назад включить. А Galactica не включат! Я же считаю, что тут caveat emptor, включить надо всех. И всех проверять -- эти сетки друг об друга, мокрые об кремниевые, кремниевые об мокрые. Порождение гениальных идей (smart mutations) всеми, а затем критика всех этих идей всеми. Нет, я не считаю большие языковые модели (они же foundations models) как-то приближающимися к AGI. Но я и многих людей не считаю сильно близкими к AGI: быть способными аппаратно к решению самых разных типов задач и бегло решать нужные типы задач на приличном неновичковом уровне -- это ведь разное. И отдельные люди, и отдельные языковые модели без их окружения очень плохи в части интеллекта. А вот если их архитектурно правильным образом соединить, то можно получить совсем другого уровня интеллект. И Galactica там вполне может пригодиться, вперемешку с людскими мокрыми сетками.
Продолжая рассуждение о том, что "чисто нейро" недостаточно, причём надо добавить логику, вспоминаю CYC, там сделали вывод, что победить должна выразительность и медленные вычисления, поэтому сделали 1100 "ускорителей" на эвристиках разного разного типа, и нейросетки -- только один из типов "ускорителей", плюс ещё там ещё был отказ от "главного логического движка" (очень интересная история с этим архитектурным решением), вот на это тоже надо смотреть, ибо большие языковые модели сами по себе -- это типа как получить хорошо работающую лобную долю, надо всё-таки учитывать, что там ещё много чего добавляют до полного мозга, а мозг потом ещё и в тело надо обернуть, и CYC тут может дать хорошие идеи -- https://ailev.livejournal.com/1610230.html. Это был доклад примерно годичной давности, всё там ещё достаточно свежее. Позиционирует сейчас себя CYC попсово, как "левополушарный и правополушарный искусственный интеллект в одном" (наверняка тамошние учёные хорошо знают, что никакого такого разделения нет, но тамошние маркетологи тоже знают, что они делают), https://cyc.com/. Что продают? Например, Hospital Advisor -- "Cyc Reduces the average hospital patient length of stay by 20%". Или supply chain advisor -- уже продают, но убедительных цифр не приводят (да и как их привести? Вот наняли вы умного консультанта по supply chain, и все к нему пошли за советами, все вроде довольны. Ну, и как посчитать его эффективность?!).
Начал писать часть учебника про практики оргразвития (оргдизайн и лидерство), должен справиться за пару недель. Затем архитектура и администрирование, на это ещё пара недель -- и здравствуй, здравствуй Новый год. Очень хочу успеть, буду работать по timeboxing -- даже если главы будут всего по десятку страниц (это я себя уговариваю, а там как пойдёт). Впрочем, я в уже написанном уже столько сказал, что оставшиеся тексты по определению должны быть короткими. В этой версии курса решено огромное число и методологических, и методических проблем, которые сильно мешали в предыдущих потоках. Но вот текущая группа СМС показывает, что вроде как текущий рассказ получился более-менее понятным для топ-менеджеров, хотя в нём много контринтуитивного и непривычного. На занятии СМС как раз обсуждали вчера, почему я так волнуюсь о переписке всех учебников. Управление конфигурацией нужно, чтобы предотвращать конфигурационные коллизии. Конфигурационные коллизии ведут к rework, "переделкам". Это удлиняет проект. В моём случае сначала студент учит очень старый материал в "Системном саморазвитии" (там ещё "обеспечивающая система"), делая все возможные ошибки, которые были убраны в следующих версиях. Потом узнаёт много интересного о требованиях в "Практическом системном мышлении" и переучивается (тот самый rework, лишняя работа). Потом в "Системной инженерии" узнаёт, что требований уже нет -- и опять rework. То есть обучение идёт более длинным путём, чем если бы во всех учебниках была бы сейчас одна версия интеллект-стека. Вот эти коллизии нужно немедленно убрать, и обучение у нас будет быстрее. А чтобы в будущем эти коллизии убирались быстро (они неизбежны, просто надо их быстро убирать), мы делаем continuous delivery на базе нашего Aisystant. Поэтому так озабочены все материалы курсов перевести в текстовую форму, которую проще всего и надёжней всего менять. Что делать не с новыми студентами, у которых всё будет быстро, а со старыми студентами, которые учились у нас пару лет назад, и хотят обновить свои знания на новую версию -- отдельный разговор, но и для них всё будет быстрее. В этом году всё идёт с курсами медленно из-за того, что я выпустил полностью новый курс "Системная инженерия", а теперь выпускаю по факту полностью новый "Системный менеджмент". Системный менеджмент и стратегирование были до этого только на видео, да и содержание тоже пришлось сильно менять, это оказалось долго. Занят всей этой перепиской я, похоже, буду до весны. Потом жизнь должна резко улучшиться, коллизий должно быть уже не так много, чтобы мне заниматься этим full time. Впрочем, уже и сейчас коллизий не так много, основные я уже убрал.
Лучи поноса программерам в ватной броне, которые блокируют разные VPN (начиная с тех программеров, которые вообще заставляют знать, что такое VPN, включая тех зарубежных программеров, которые не пускают читать их сайты из России, для меня они тоже в ватных телогрейках, того же уровня мышление, "результатом коммуникации является её результат, а не благое намерение"). Работать же невозможно! Итак, берём WARP (1.1.1.1), который ни разу не работает, но включаем его. Затем берём NordVPN, который тоже не работает. Потом включаем NordVPN (там ещё есть варианты с obfuscated servers -- выбрать пункт в менюшке стран, но не факт, что это важно), WARP говорит "всё, вы неконфиденциальны" и выключает свой оранжевый значок. Сети при этом нет никакой, доступ в интернет пропадает. Вы теперь даже не в Москве, а вообще нигде. Тут все останавливаются, и опускают руки. Но мы не все, поэтому не верим, открываем панельку WARP и выключаем вручную (вау, они говорят, что "неконфиденциальны", гасят значок, но себя автоматом не выключают! Вот и выключим). Ура, сеть есть, и мы по IP не в Москве, а там, куда подключились по NordVPN. Хотя по location всё одно в Москве, но нероссийского IP хватает, чтобы вообще всё работало. Потренируйтесь в доступе вот на этой страничке, пять фокусирующих шагов POOGI -- страшное враждебное всем знание, как я понял все благие и добрые намерения самых разных сетевых администраторов. Именно после невозможности захода на эту страницу меня заело, и я таки разобрался: https://www.tocinstitute.org/five-focusing-steps.html. Там главный пункт 5, "не останавливайся", PREVENT INERTIA from becoming the constraint! Это мне нужна была ссылка примера с различением "совершенствования" (операционный менеджмент, тот же POOGI) и развития (когда у фирмы появляется новая оргвозможность). И дальше пляски с этим админским бубном, вопрос ведь про "держать и не пущать" -- он же архиважный, я ведь не должен добраться до цитаты, причём то ли меня защищают, то ли от меня обороняются -- мне уже без разницы, результат один. Дальше нужно обсуждать интеллект принимающих решения, но это уже в следующем абзаце.
Во многих местах на этой неделе встретил обсуждение ужаса, который внушаить Galactica -- https://venturebeat.com/ai/what-metas-galactica-missteps-mean-for-gpt-4-the-ai-beat/. Там два главных контраргумента: 1. полное отсутствие цензуры -- поэтому никакой политкорректности в ответах. 2. Ответы настолько убедительны и складны, там так ловко перемешана правда и неправда, гениальные догадки и ахинея, а предмет (наука во всей её полноте) настолько сложен, что можно легко поверить ахинее. John Sowa и многие другие (https://groups.google.com/g/ontolog-forum/c/_V0AZPcV_EA/m/SZ52mHeZAgAJ) утверждают, что люди в этом отношении много, много лучше. Мой пойнт тут в том, что большинство людей не лучше, они такие же по этим критериям: удивительно прозорливы в некоторых ситуациях, а в некоторых удивительно тупо ошибаются. Просто паттерны ошибок и гениальности разнятся (и даже у разных людей, а уж у разных когнитивных архитектур и людей -- и подавно). Вопли о том, что люди грубы и тупы и сказанному ими нельзя верить легко проверить на обсуждении высказываний президентов США: я не отличаю дискуссию по анализу речей того же Трампа от речей той же Galactica. Но Трампа допустили к управлению государством, а Galactica выключили из Сети. Впрочем, и Трампа выключили из Сети. Но сейчас хотят назад включить. А Galactica не включат! Я же считаю, что тут caveat emptor, включить надо всех. И всех проверять -- эти сетки друг об друга, мокрые об кремниевые, кремниевые об мокрые. Порождение гениальных идей (smart mutations) всеми, а затем критика всех этих идей всеми. Нет, я не считаю большие языковые модели (они же foundations models) как-то приближающимися к AGI. Но я и многих людей не считаю сильно близкими к AGI: быть способными аппаратно к решению самых разных типов задач и бегло решать нужные типы задач на приличном неновичковом уровне -- это ведь разное. И отдельные люди, и отдельные языковые модели без их окружения очень плохи в части интеллекта. А вот если их архитектурно правильным образом соединить, то можно получить совсем другого уровня интеллект. И Galactica там вполне может пригодиться, вперемешку с людскими мокрыми сетками.
Продолжая рассуждение о том, что "чисто нейро" недостаточно, причём надо добавить логику, вспоминаю CYC, там сделали вывод, что победить должна выразительность и медленные вычисления, поэтому сделали 1100 "ускорителей" на эвристиках разного разного типа, и нейросетки -- только один из типов "ускорителей", плюс ещё там ещё был отказ от "главного логического движка" (очень интересная история с этим архитектурным решением), вот на это тоже надо смотреть, ибо большие языковые модели сами по себе -- это типа как получить хорошо работающую лобную долю, надо всё-таки учитывать, что там ещё много чего добавляют до полного мозга, а мозг потом ещё и в тело надо обернуть, и CYC тут может дать хорошие идеи -- https://ailev.livejournal.com/1610230.html. Это был доклад примерно годичной давности, всё там ещё достаточно свежее. Позиционирует сейчас себя CYC попсово, как "левополушарный и правополушарный искусственный интеллект в одном" (наверняка тамошние учёные хорошо знают, что никакого такого разделения нет, но тамошние маркетологи тоже знают, что они делают), https://cyc.com/. Что продают? Например, Hospital Advisor -- "Cyc Reduces the average hospital patient length of stay by 20%". Или supply chain advisor -- уже продают, но убедительных цифр не приводят (да и как их привести? Вот наняли вы умного консультанта по supply chain, и все к нему пошли за советами, все вроде довольны. Ну, и как посчитать его эффективность?!).