lytdybr
В воскреcенье прошёл пятый день СМС26 -- такое было впечатление, что вся группа срочно села в самолёты и куда-то полетела, включения в онлайне начинались с "еду из аэропорта", "в пути и связь пропадает". Полдня обсуждали prompt engineering. По факту эта "сверхмодная дисциплина" подробно растолкована в наших курсах -- там общие закономерности общения с нейросетками личности своей и чужой, LLM типа GPT-4 и даже "объединённой нейросеткой" людей и компьютеров предприятия: в основе там понятие роли, практики, задание контекста. Заодно пообсуждали природу четырёх месяцев, необходимых на старт оргизменений. Механистичную (бездушную!) природу предприятия, инженерный подход "развитие вместо психотерапии". Вот примерно половина того, что было на занятии от одного из участников: https://blog.system-school.ru/2023/04/02/post-po-itogam-5-dnya-sms-2023-1/.
Это последний "Системный менеджмент и стратегирование" в его традиционном виде. Мы обсуждаем сейчас в чате, что там будет дальше (это станет вторым семестром годичной учебной программы, обсуждаем там черновик landing page): https://t.me/sys_mngmt_course/1301.
Закончил вчерне главу по математике в новый курс "Интеллект-стек". Я думаю, что дальше пройдусь по физике и теории понятий, после чего опубликую пререлиз части курса на этой неделе -- и пойду дальше, чтобы полностью опубликовать его до нашей конференции (22-23 апреля 2023, https://system-school.ru/conf-2023 -- заявляйтесь там на доклады, за них будем давать квалификации). А дорабатывать сильно похудевшее после выкидывания интеллект-стека и стратегирования "Образование для образованных" буду уже после конференции (может быть, надо будет объединять его с "Мастерством обучать образованных", но не факт).
Позаседал вчера в Active Inference Institute Advisory Board, и там поднял несколько вопросов:
-- как разобраться в поколениях active inference? Пока их два: на базе классического байеса и на базе квантовоподобности.
-- что там понятийное ядро? Похоже, это математика вариационного вывода как эвристика/аксиома, но дальше как это отражается в "поколениях" теории?
-- хорошо бы там запустить бота типа нашего Aisystant (и это считать интерфейсом к ActInf Institute)
-- различение строгости и серьёзности. Строгость -- это возможность вычислить что-то по формальному алгоритму, противоположность -- это нейросетевая "оценка", то есть поэзия-философия. Проблема не в недостатке строгости, проблема в рассуждениях уровня "псевдокода" (ср. с informal type theory, я поднимал этот вопрос в https://ailev.livejournal.com/1679544.html), при этом псевдокод должен быть такой, который потом относительно легко сделать строим выводом. А серьёзность -- это если результаты рассуждения принимать основой для действия, полагаться на них (это по Дойчу: полагаемся на результаты нефальсифицированных объяснений, строим на них свою деятельность).
В чате собранности приведён пример создания не только своих собственных частей личности, но и субличностей GPT-4, с которыми можно обсуждать понятия TameFlow: https://t.me/self_collectedness/450
По поводу регулятивного запрета исследований по AI мне больше всего понравилось от Владимира Гуриева (чуть подправлю формулировку): "Тысяча учёных в области искусственного интеллекта и примкнувший к ним Элон Маск написали открытое письмо самим себе с просьбой перестать его исследовать" (https://www.facebook.com/vguriev/posts/pfbid032pJ8nnnMEmLXQQYrvbcNJyUfq7hqVj6Pu1ZaPvQtZ8ap3zxB7Vf11jjvvpgAvi7jl), критика тут -- "нет, письмо написали ни разу не те люди, которые реально делают этот интеллект", я флегматично замечаю, что просто у них не было, и не будет таких денег, которые нужны для этого, иначе бы ещё пару месяцев назад они активно соревновались бы своими поделками с Bart, ERNIE Bot, а некоторые даже подумывали бы, что соревнуются с будущей GPT-4. Юдковский поясняет про требуемые им бомбардировки датацентров из империй зла: если Россия с её ядерным оружием вдруг построит ферму с GPU, то надо будет бобмить эту ферму даже при риске получить в ответ ядерный удар, ибо "человечество опасносте" (https://twitter.com/ESYudkowsky/status/1641953192761266177, и там длинный текст твита, эта социальная сетка становится настоящей!): "You would not want Russia believing that the Allies would back down from destroying the GPU farm given a credible commitment by Russia to nuke in reply to any conventional attack, and the Allies in fact believing that the danger to humanity meant they had to airstrike the GPU farm anyways". Рассмотрения там все более-менее одноуровневые (экосистемы даже типа проектов вроде SETI не рассматриваются, AI рассматривается как "злобный вирус", эволюция ни разу не со smart mutations, а прямо таки дарвиновская с видами на выбывание). Голосов вроде Yann LeCun https://twitter.com/ylecun, David Deutsch https://twitter.com/DavidDeutschOxf не так много, но всё-таки большинство исследователей никаких писем не подписывали. Правительства могут отреагировать как в случае ковида: чем-то реально безумным, типа "взорвать все электростанции, тогда у AI не будет шанса, ибо уже поздно взрывать заводы чипов для AI". Баттлерианский джихад наверняка тоже начинался с каких-то "писем трудящихся". Мой доклад про AI от 4 апреля 2016 года, я там говорил "всё будет быстро", https://ailev.livejournal.com/1257449.html (я знал, что всё будет быстро! Но что реакция будет "бомбить", я не догадывался, хотя мог бы).
Как быстро люди в массе своей переквалифицируются в эпидемиологов, потом быстро назад в политологов и частично экономистов, затем в AI-эсхатологов, проявляя удивительные познания и скорость переквалификации. У меня в чате SPQR чётко назвал правильную новую массовую профессию ( https://t.me/ailev_blog_discussion/20105): човащепроисходологи. Надо добавить ещё, что диванные човащепроисходологи.
Насколько наш Aisystant (https://chat.aisystant.com/) представляет собой просто хороший поиск по курсам, но насколько сам по себе умён и может рассуждать на базе материала курсов?
-- Я: Сочини шутку на тему системного мышления.
-- Aisystant: Шутка на тему системного мышления: "Какой ответ даст системное мышление на вопрос жизни, вселенной и всего такого? Наверное, 42 системных уровня!" (ссылка на пункт 4 "Системные уровни")
Вышла версия нейрохудожника Kandinsky 2.1 (https://t.me/complete_ai/108 -- и там где взять и что это), утверждают, что "FID на датасете COCO_30k достигает значения 8.21🔥 По публичным данным на сегодняшний день лучше только eDiffI (NVidia) и Imagen (Google Reseacrh)". Проверял традиционно: попросил нарисовать "Системный мыслитель, сидящий на пеньке в лесу", стиль аниме. И правда, результат впечатляет, не любой человек бы придумал такое, рисовал настоящий талант:
ВКонтакте нашлась моя первая партнёрша по танцам Лида Путилова (когда-то Бартенева), с которой мы выиграли первый конкурс бальных (они же спортивные, как потом оказалось) танцев в городе Анапа в 1973 году. В этом году ансамблю "Современник", в котором мы начинали (и мы были в первом наборе, мне было 15 лет!) исполняется 50 лет, и эта моя партнёрша до сих пор в нём работает балетмейстером (это она уже на пенсии, а до этого просто возглавляла ансамбль), она заслуженный работник искусств Кубани. Формально это "народный ансамбль спортивного бального танца". Сам я танцую больше двадцати лет, но примерно на 30 лет у меня был в танцах перерыв (как я сейчас понимаю, очень зря). На этих выходных был на весеннем мультиданс-фестивале Q-Fest https://vk.com/qfestvesna, через пару месяцев пойду на фестиваль кизомбы KizzAfro https://vk.com/kizzafro, а в сентябре поеду поеду в Анапу (вернее, "под Анапу", 20 минут от Анапы на машине, это посёлок Витязево) на морской танцевальный мультиданс-фестиваль Q-Fest в сентябре, https://vk.com/qfestdance, и там проведаю "Современник". Кто хочет заняться танцами, но ещё не понимает, какими, и как это вообще выглядит "изнутри", вам на Q-Fest: можно будет близко в одном месте поглядеть на десяток совсем разных танцев (хастл, зук, модерн свинг, кизомба, сальса, бачата, танго и т.д.) и получить первые уроки для начинающих (стоимость их входит в билетик на фестиваль).
UPDATE: обсуждение в чате блога с https://t.me/ailev_blog_discussion/20111
Это последний "Системный менеджмент и стратегирование" в его традиционном виде. Мы обсуждаем сейчас в чате, что там будет дальше (это станет вторым семестром годичной учебной программы, обсуждаем там черновик landing page): https://t.me/sys_mngmt_course/1301.
Закончил вчерне главу по математике в новый курс "Интеллект-стек". Я думаю, что дальше пройдусь по физике и теории понятий, после чего опубликую пререлиз части курса на этой неделе -- и пойду дальше, чтобы полностью опубликовать его до нашей конференции (22-23 апреля 2023, https://system-school.ru/conf-2023 -- заявляйтесь там на доклады, за них будем давать квалификации). А дорабатывать сильно похудевшее после выкидывания интеллект-стека и стратегирования "Образование для образованных" буду уже после конференции (может быть, надо будет объединять его с "Мастерством обучать образованных", но не факт).
Позаседал вчера в Active Inference Institute Advisory Board, и там поднял несколько вопросов:
-- как разобраться в поколениях active inference? Пока их два: на базе классического байеса и на базе квантовоподобности.
-- что там понятийное ядро? Похоже, это математика вариационного вывода как эвристика/аксиома, но дальше как это отражается в "поколениях" теории?
-- хорошо бы там запустить бота типа нашего Aisystant (и это считать интерфейсом к ActInf Institute)
-- различение строгости и серьёзности. Строгость -- это возможность вычислить что-то по формальному алгоритму, противоположность -- это нейросетевая "оценка", то есть поэзия-философия. Проблема не в недостатке строгости, проблема в рассуждениях уровня "псевдокода" (ср. с informal type theory, я поднимал этот вопрос в https://ailev.livejournal.com/1679544.html), при этом псевдокод должен быть такой, который потом относительно легко сделать строим выводом. А серьёзность -- это если результаты рассуждения принимать основой для действия, полагаться на них (это по Дойчу: полагаемся на результаты нефальсифицированных объяснений, строим на них свою деятельность).
В чате собранности приведён пример создания не только своих собственных частей личности, но и субличностей GPT-4, с которыми можно обсуждать понятия TameFlow: https://t.me/self_collectedness/450
По поводу регулятивного запрета исследований по AI мне больше всего понравилось от Владимира Гуриева (чуть подправлю формулировку): "Тысяча учёных в области искусственного интеллекта и примкнувший к ним Элон Маск написали открытое письмо самим себе с просьбой перестать его исследовать" (https://www.facebook.com/vguriev/posts/pfbid032pJ8nnnMEmLXQQYrvbcNJyUfq7hqVj6Pu1ZaPvQtZ8ap3zxB7Vf11jjvvpgAvi7jl), критика тут -- "нет, письмо написали ни разу не те люди, которые реально делают этот интеллект", я флегматично замечаю, что просто у них не было, и не будет таких денег, которые нужны для этого, иначе бы ещё пару месяцев назад они активно соревновались бы своими поделками с Bart, ERNIE Bot, а некоторые даже подумывали бы, что соревнуются с будущей GPT-4. Юдковский поясняет про требуемые им бомбардировки датацентров из империй зла: если Россия с её ядерным оружием вдруг построит ферму с GPU, то надо будет бобмить эту ферму даже при риске получить в ответ ядерный удар, ибо "человечество опасносте" (https://twitter.com/ESYudkowsky/status/1641953192761266177, и там длинный текст твита, эта социальная сетка становится настоящей!): "You would not want Russia believing that the Allies would back down from destroying the GPU farm given a credible commitment by Russia to nuke in reply to any conventional attack, and the Allies in fact believing that the danger to humanity meant they had to airstrike the GPU farm anyways". Рассмотрения там все более-менее одноуровневые (экосистемы даже типа проектов вроде SETI не рассматриваются, AI рассматривается как "злобный вирус", эволюция ни разу не со smart mutations, а прямо таки дарвиновская с видами на выбывание). Голосов вроде Yann LeCun https://twitter.com/ylecun, David Deutsch https://twitter.com/DavidDeutschOxf не так много, но всё-таки большинство исследователей никаких писем не подписывали. Правительства могут отреагировать как в случае ковида: чем-то реально безумным, типа "взорвать все электростанции, тогда у AI не будет шанса, ибо уже поздно взрывать заводы чипов для AI". Баттлерианский джихад наверняка тоже начинался с каких-то "писем трудящихся". Мой доклад про AI от 4 апреля 2016 года, я там говорил "всё будет быстро", https://ailev.livejournal.com/1257449.html (я знал, что всё будет быстро! Но что реакция будет "бомбить", я не догадывался, хотя мог бы).
Как быстро люди в массе своей переквалифицируются в эпидемиологов, потом быстро назад в политологов и частично экономистов, затем в AI-эсхатологов, проявляя удивительные познания и скорость переквалификации. У меня в чате SPQR чётко назвал правильную новую массовую профессию ( https://t.me/ailev_blog_discussion/20105): човащепроисходологи. Надо добавить ещё, что диванные човащепроисходологи.
Насколько наш Aisystant (https://chat.aisystant.com/) представляет собой просто хороший поиск по курсам, но насколько сам по себе умён и может рассуждать на базе материала курсов?
-- Я: Сочини шутку на тему системного мышления.
-- Aisystant: Шутка на тему системного мышления: "Какой ответ даст системное мышление на вопрос жизни, вселенной и всего такого? Наверное, 42 системных уровня!" (ссылка на пункт 4 "Системные уровни")
Вышла версия нейрохудожника Kandinsky 2.1 (https://t.me/complete_ai/108 -- и там где взять и что это), утверждают, что "FID на датасете COCO_30k достигает значения 8.21🔥 По публичным данным на сегодняшний день лучше только eDiffI (NVidia) и Imagen (Google Reseacrh)". Проверял традиционно: попросил нарисовать "Системный мыслитель, сидящий на пеньке в лесу", стиль аниме. И правда, результат впечатляет, не любой человек бы придумал такое, рисовал настоящий талант:
ВКонтакте нашлась моя первая партнёрша по танцам Лида Путилова (когда-то Бартенева), с которой мы выиграли первый конкурс бальных (они же спортивные, как потом оказалось) танцев в городе Анапа в 1973 году. В этом году ансамблю "Современник", в котором мы начинали (и мы были в первом наборе, мне было 15 лет!) исполняется 50 лет, и эта моя партнёрша до сих пор в нём работает балетмейстером (это она уже на пенсии, а до этого просто возглавляла ансамбль), она заслуженный работник искусств Кубани. Формально это "народный ансамбль спортивного бального танца". Сам я танцую больше двадцати лет, но примерно на 30 лет у меня был в танцах перерыв (как я сейчас понимаю, очень зря). На этих выходных был на весеннем мультиданс-фестивале Q-Fest https://vk.com/qfestvesna, через пару месяцев пойду на фестиваль кизомбы KizzAfro https://vk.com/kizzafro, а в сентябре поеду поеду в Анапу (вернее, "под Анапу", 20 минут от Анапы на машине, это посёлок Витязево) на морской танцевальный мультиданс-фестиваль Q-Fest в сентябре, https://vk.com/qfestdance, и там проведаю "Современник". Кто хочет заняться танцами, но ещё не понимает, какими, и как это вообще выглядит "изнутри", вам на Q-Fest: можно будет близко в одном месте поглядеть на десяток совсем разных танцев (хастл, зук, модерн свинг, кизомба, сальса, бачата, танго и т.д.) и получить первые уроки для начинающих (стоимость их входит в билетик на фестиваль).
UPDATE: обсуждение в чате блога с https://t.me/ailev_blog_discussion/20111