Вот ссылки на современные статьи некоторых интересных людей: -- Артём Колчинский, https://scholar.google.ru/citations?hl=en&user=RmRwJJIAAAAJ&view_op=list_works&sortby=pubdate -- David Hilton Wolpert (термодинамик), https://scholar.google.ru/citations?hl=en&user=PRjgI8kAAAAJ&view_op=list_works&sortby=pubdate -- Daniel Wolpert (COIN), https://scholar.google.ru/citations?hl=en&user=YM8BRlUAAAAJ&view_op=list_works&sortby=pubdate -- Виталий Ванчурин, https://scholar.google.com/citations?hl=en&user=nEEFLp0AAAAJ&view_op=list_works&sortby=pubdate -- Андрей Хренников, https://scholar.google.com/citations?hl=en&user=wdhkzPMAAAAJ&view_op=list_works&sortby=pubdate -- Judea Pearl, https://scholar.google.com/citations?hl=en&user=bAipNH8AAAAJ&view_op=list_works&sortby=pubdate -- Chiara Marletto, https://scholar.google.com/citations?hl=en&user=mQfUdwwAAAAJ&view_op=list_works&sortby=pubdate -- и у меня там страничка тоже есть, https://scholar.google.ru/citations?hl=en&user=fc8RhicAAAAJ&view_op=list_works&sortby=pubdate -- а у Дойча вот странички там нет. Симпатичная статья Judea Pearl про необходимость рационализма и в пику текущему эмпирицизму ( https://plato.stanford.edu/entries/rationalism-empiricism/ ) в ML ( https://ftp.cs.ucla.edu/pub/stat_ser/r502-reprint.pdf ). Рационализм: знания получаются model-based/cognitive bias плюс данные измерений – наш путь! Эмпирицизм: знания получаются из данных/измерений плюс innate priors -- не наш путь! Вот три аргумента: -- Целесообразность (expediency). Просто данные и innate priors вполне можно использовать для эволюции. Но это дикое количество вычислений и времени. Алгоритмика open-endedness тут поможет, конечно, но не радикально. Так что при появлении неожиданной проблемы – просто не успеем! Метод проб и ошибок работает, но человечество явно придумало и другие методы получения ответов на вопросы! Для того, чтобы выбирать новые эксперименты в ходе эволюции («что пробовать» в методе проб и ошибок), нужно уметь строить рациональные модели (в том числе модели причинности). -- Прозрачность (transparency). Откомпилированное (абстрагированное и компактно представленное) знание удобно хранить и переиспользовать без компиляции. Понятно, как проводить с ним вычисления. Понятна его модульная организация. Разделение learning (один раз задорого) и inference (многократно задёшево) это очень выгодно вычислительно! Рациональные (откомпилированные, формальные, в том числе причинные) модели могут отвечать на вопросы, не выводя эти ответы эволюцией из данных. -- Объяснимость (explainability). Ответы на вопросы должны быть объяснимы, что обычно происходит в терминах причин и следствий и правил рассуждений. Знание передаётся от агента к агенту не путём передачи исходного набора данных, из которого потом агент сам получит новое знание, но путём объяснения. Объяснение делается на причинных (с контрфактуалами!) моделях. Мне ещё не пришло время опять на политические и экономические темы писать, но в 90е я часто этим занимался, была откуда-то уверенность, что прям вот сейчас мы наладим восторг какое государство! Тогда я довольно много занимался и теорией и даже практикой госстроительства, бросил окончательно только в 2007 году. После более-менее глубокого изучения вопроса я оказался по факту либертарианцем, и даже попал в список "твёрдых либертарианцев" Бориса Львина, https://bbb.livejournal.com/918617.html . Например, мне до сих пор всё равно, какие у государств границы, если они не изменяются силовыми методами, ибо для меня государство как осёдлый бандит ( https://ru.wikipedia.org/wiki/Теория_оседлого_бандита ) не самый ценный конструкт, жители важней. Население по моему мнению само вольно выбирать (скажем, на референдуме) -- отделяться и становиться независимыми, присоединяться и становиться зависимыми, с кем блокироваться, селиться ли где компактно, а потом уже отделяться, плавать ли на искусственных островах в нейтральных водах и объявлять своё государство на этих островах, гомстедничать на Луне, и так далее, вариантов ведь бесчисленное количество. Думаем о жителях каждой местности, а не о исторически случившемся правительстве по соседству с этой местностью: для любого правительства попытка жителей сбежать -- "сепаратисты". Я хорошо помню, как Россель предъявил Ельцину ровно те же аргументы, которые Ельцин предъявлял Горбачёву по поводу автономности, и получил по шапке: говорит всегда тут не логика с её аргументами, не право, а личные амбиции центральной власти по отношению к регионам. Домохозяйство не отпустят, город не отпустят, район не отпустят, область и больше -- по-разному бывает, но чаще всего это просто объявят "сепаратизмом" и право народа на сецессию ( https://ru.wikipedia.org/wiki/Сецессия ) вспоминать не будут, а единство или наоборот, неединство волеизъявления "народа" будут подчёркивать с разных сторон совершенно по-разному и при разнобое в признании-непризнании государства даже термин будут использовать не "государство", а "полития" ( https://ru.wikipedia.org/wiki/Полития ). Прецедентов в мире полно. Мне государство представляется излишней конструкцией. Вот я писал ещё в 1999 году про провайдеров сотовой государственности (погуглите также про "контрактные юрисдикции"): https://old.computerra.ru/1999/320/196008/ . Ну да ладно, сначала нужно учебные курсы сделать, поднимаясь по уровню систем вещество -- существо -- разумное существо с компьютером -- команда/фирма с компьютерами -- сообщество -- общество (можно и страны) -- агентечество (ибо агенты необязательно будут люди). Пока курсы у нас только для разумных существ с компьютером и команды с компьютером. Обучать вещество (программировать, в том числе программировать универсальные алгоритмы и создавать какие-нибудь языковые модели) мы пока не берёмся, животных не дрессируем. Также не работаем пока с сообществами, обществами и человечеством в целом (поскольку про нечеловеческих агентов сегодня пока ещё рановато говорить). Но всё будет, хотя не сразу. Как раз доклад буду делать для AGIRussia "Интеллект-стек для xGI" 10 марта 2022 ( https://aigents.timepad.ru/event/1412596/ ), и там буду в том числе вопрос ставить про "проблему индивида для xGI".