?

Log in

No account? Create an account
Лабораторный журнал -- Day [entries|friends|calendar]
Anatoly Levenchuk

[ website | Лабораторный журнал ]
[ userinfo | livejournal userinfo ]
[ calendar | livejournal calendar ]

Двадцать вторые щедровицкие чтения [24 Feb 2016|12:03am]
Побывал сегодня на очередных, XXII щедровицких чтениях (http://www.fondgp.ru/projects/chteniya/46/). Там продолжаются начатые на прошлых чтениях (http://ailev.livejournal.com/1167450.html) поиски формата. Если в докладах хотя бы была понятна тема, то дискуссии по докладам разлетались в самые разные стороны: было совершенно непонятно, что собравшиеся хотят обсудить.

Восхитило меня ведение одним из участников конспекта чтений в ArchiMate 2.1, даже не русифицированном (обнаружил случайно: интерфейс свободного моделера Archi уж больно характерен и виден издалека). Круто, я вот на такое "архитектурное моделирование на лету" не способен. Собственно, ArchiMate (как поддерживающий более-менее системный подход язык) включает довольно многое из схемного арсенала ММК, так что совершенно не удивлён тем, что кто-то его приспособил использовать вместо традиционных "морковок" и "звёздочек".

Обсуждались вроде как темы перехода от автоматизации к тотальному цифровому миру, но главное в этом мире (машинное обучение, распределённые представления знаний) не было замечено. Интересно, назовут ли это "постцифровым миром"? Там ведь очень хитрый финт делается сейчас в deep learning: от дискретного логического представления переходят к непрерывным (float арифметика, хотя чуть ли не float16 вместо float64), а потом возвращаются к дискретной арифметике, но в варианте bitwise линейной алгебры (типа http://arxiv.org/abs/1601.06071), а не традиционного логического вывода. Вообще, разговор в кулуарах показал, что про эти тектонические сдвиги в информационных технологиях практически никто не знает, разве что Пётр утверждал, что ему это известно.

Содержательно самое интересное было в докладе про невербальное бессознательное (сама тема была крайне необычна для последних лет -- Бородай С. "Языковое мышление и вербальное бессознательное: перспективы объединения двух исследовательских программ". Увы, в докладе ничего не говорилось про современные наработки по пониманию естественного языка, не поминались распределённые представления. По итогам доклада Пётр сделал интересные замечания (с которыми я совершенно согласен):
-- доклад имеет отношение к предпринимательству (заявленная тема этих Чтений) больше, чем все остальные доклады.
-- от этого доклада до выхода на фронтир мировой науки, технологии, инноватики и т.д. ближе, чем по любым другим прозвучавшим на чтениях направлениям исследований.
-- вероятно, нужно откатиться от уже мало кому нужных (кроме историков) работ СМД-методологов времён ОДИ к более ранним работам 60-70х с проработкой тем языка, содержательной логики, мышления и мыследеятельности, с выходом на трёхслойку -- это те работы, которые даже второе поколение ММК уже не очень читало. Отталкиваясь от этих работ и объединяя их с современными исследованиями в информационных технологиях есть хоть какой-то шанс оказаться в современности. [Под "современными исследованиями в информационных технологиях" Пётр имел ввиду именно машинное обучение -- напирал на то, что не только "машины учат", но и "машины сами выучиваются", это чётко отсекало возможное понимание сленга "машины учат=машины программируют"]

Я полностью согласен, что ключевой вопрос сегодня -- это связывание символьных переменных, языковая обработка не только языков, но и изображений, выучивание визуомоторной координации и embodiment cognition как мостик к мыследеятельности от чистого мышления, задача понимания языка (а если картинки окружающего мира это такой язык, как сейчас принято, то автоматом и понимание окружающего мира -- об этом нужно бы отдельный пост написать) и так далее со всеми остановками по пути решения задач машинного интеллекта. Если удастся быстро подшить сюда какие-то идеи из старых работ -- почему бы и нет! Если не удастся, то очередной вокзал уедет. Например, в работе http://arxiv.org/abs/1511.08130 легко найти практически всю схему мыследеятельности. В современных работах по reinforcement learning, когда заставляют две сетки с эмулятором мира играть друг с другом, тоже просматриваются многие черты этой схемы. Ещё пара лет, и схема мыследеятельности будет упрощённым древним вариантом современных схем, по которым будут работать люди, машины (как выводы из мира машин переносят на людей -- см., например, книжку про вред постановки долгосрочных целей http://bookzz.org/book/2556650/4f33f2), как это уже произошло со схемой акта деятельности, вместо которой отлично работает а хоть тот же ArchiMate, появившийся всего десяток лет назад.

А на обратном пути я полтора часа беседовал на темы то ли операционных систем, то ли DSL для киберфизических систем. Увы, содержание чтений в этой беседе практически не использовалось. Хотя если выполнить тот шаг выхода на работы с языком и мышлением, о котором говорил Пётр, и выполнить ряд шагов по развитию киберфизических систем, которые и так полным ходом выполняются самыми разными группами разработчиков, то года через три можно было бы говорить про киберфизические системы с привлечением материала чтений. Помним ведь, что "Кирпич" (1975г.) был про автоматизацию, и это было не случайно. Просто так получилось, что со времён 1975 года ушло несколько вокзалов, и дальше много лет было "нас не догонят" (потому как никто не бросился догонять).
2 comments|post comment

Новости киберфизических систем: к теплу, сытости и бессмертию [24 Feb 2016|01:40pm]
Последний робот-примат Atlas от Boston Dynamics -- http://www.engadget.com/2016/02/23/boston-dynamics-presents-the-next-generation-atlas-robot/.



Он не подскальзывается на снегу на пересечённой местности, особо не падает, даже если его толкать, а если и падает, то быстро встаёт, он проходит через двери, придерживая дверь рукой, реагирует на изменения окружающего мира, не очень шумит. Ещё с ним можно будет поговорить по душам, но это сейчас не главное. Главное -- это получить сравнимую с живым существом (включая двуногое без перьев и с ногтями) способность к автономному движению. И тогда у нас будет и "орудие мычащее", и "орудие говорящее" и какое хошь другое орудие...

... на короткий период времени до появления новой волны техноаболиционизма. Этот техноаболиционизм грядёт, ибо киберфизическая система, безусловно, чувствующее всеми своими сенсорами и осознающее всеми своими алгоритмическими нейронами существо, которое тоже должно быть освобождено от страданий (в ролике, по традиции, робота грубо толкают и даже заставляют его упасть, а ещё его там дурят). Ах, а ещё обязательно будут очередная волна луддитов, и в смычке с ними ждём робо-ку-клукс-клан и каких-нибудь робофеминистов. Уж больно будут похожи на людей, и вместе с тем уж больно не похожи!

Я сам согласен с аргументом Шмитхубера: ближайшая цель для киберфизических систем -- повторить общий интеллект (AGI) обезьянки-капуцина, включая умение управлять телом и планировать движение так, чтобы легко вскарабкаться по дереву за бананом. Ситуация осложняется тем, что одновременно у этой обезьянки сильно развивают речь, мышление, память, особые умения. В результате будет обезьянка-идиот, который в 2000 задач дебилен (ибо от обезьянки до AGI как до Луны), но в 50 задачах гениален. Это будет сбивать обывателей с толку, и сильно.

А ещё экзистенциальный ужас будет оттого, что мало кто будет понимать принципы работы новой киберфизики, плюс у выученных систем нет никакого другого способа проверки их работоспособности, кроме как экзаменов (никаких других инженерных обоснований) -- при полном понимании, что экзамены ничего не скажут о поведении в любой более-менее необычной ситуации. Всё как у людей, или как у животных: проживёшь с таким десять лет душа в душу, а потом он/она/оно напьётся (водки, валерьянки, солярки) и порешит тебя каким-нибудь не очень гуманным способом. Ах, забыл: ещё они объединятся в SkyNet, или их всех быстро подчинит SkyNet и направит против нас, убогих белковых.


Вот меня лично бесит эта накатанная обывательской прессой дорожка рассуждений о приходе робоапокалипсиса, разбавляемая полярной точкой зрения движения серых (если "зелёные" защищают всё с хлорофиллом, то "серые" должны будут защищать всё с алюминием). Против Green Peace выступит Gray War, зелёные обзовут серых рассадником Gray Goo -- и обыватели с этого момента могут покупать попкорн, до сути дела уже никто не докопается, любой прогресс будет объявляться регрессом, и наоборот, а двигающиеся от всего этого прогресса-регресса вбок будут преданы анафеме, как предающие интересы человечества.

Ужас в том, что прогресс в этой предметной области происходит малопонятными статьями типа http://arxiv.org/abs/1602.06822 -- Understanding Visual Concepts with Continuation Learning. Там говорится, что научились обучать нейронную сетку абстрактным понятиям типа "поворот фигуры" или "изменение освещения", тем самым предлагая ещё один шаг в связи мира "образной чуйки" с "символическим миром", приближаясь к появлению у киберфизических тварей второй сигнальной системы и вполне абстрактного мышления. Вот шаг ровно в том же направлении, увеличении скорости обучения и выходу на "символичность-объяснимость" результатов -- http://arxiv.org/abs/1602.06183. Или вот тут предлагается не изображение считать текстом, чтобы потом его описать просто переводя с "языка изображений" на какой-нибудь немецкий или суахили, а наоборот -- текст изображением, чтобы сравнивать тексты между собой: http://arxiv.org/abs/1602.06359

Да, это всё не "мышление на любые темы", оно реализуется по одному типу решаемых задач каждый раз, никакой генерализации пока в "общий интеллект", никакого artificial general intelligence (AGI) человечьего уровня даже в приближении, но это не делает такие достижения менее восхитительными. Эти достижения, конечно, можно употребить во благо, но и во вред тоже. Электричество может быть использовано не только для освещения школ и больниц, но и для запитки электрического стула. Интеллект (как машинный, так и человеческий) в этом плане не лучше и не хуже электричества. Вопрос, какая его сторона вам больше нравится, и что вы собираетесь с ним делать. Например, опасность электричества не вызвала пока его запрета в использовании, розетки есть во всех домах.

Хороший мастер (master, он же "хозяин") любит свои орудия, и сливается с ними в одно творческое целое -- и результаты такого слияния будут всё более и более чудесными и непредсказуемыми по мере роста универсализма и разумности этих орудий. Одно дело сливаться в одно целое с карандашом и бумажкой, другое дело с САПР на десктопе, и совсем другое дело с автономным и весёлым роботом-строителем, у которого в том числе и САПР-возможности, и полное собрание избранного из anekdot.ru. Или медик на пару с роботом таки раскроют молекулярные механизмы старения и подхакают генокод, чтобы люди не умирали естественной смертью. Обывательская пресса такого никогда не напишет, пресса напишет про робота с автоматом Калашникова (ну, или боевым лазером во лбу) или робота-разработчика злобных вирусов.

Ну, я не пресса, так что буду писать про зарождающееся движение серых, которые собираются сделать нашу жизнь лучше. Никакого "назад к природе", в грязь-голод-смертность и плохое настроение, только "вперёд, к разуму", в тепло-сытость-бессмертие и весёлое творчество. В тепле, сытости и с неограниченным временем жизни люди (ну, или уже немножечко не люди -- неважно это) придумают много чего интересного, доброго и полезного. А самые любопытные начнут новую эру планетографических открытий, даже в Солнечной системе много ещё чего интересного не открыто.

UPDATE: в фейсбуке маленькая дискуссия тут -- https://www.facebook.com/ailevenchuk/posts/10206517209863054
15 comments|post comment

Об науку и её будущее [24 Feb 2016|04:29pm]
Нашлось видео моего декабрьского 2015 десятиминутного выступления по поводу будущего науки (https://youtu.be/wkNvxEPwpes), подробней писал и слайды приводил в http://ailev.livejournal.com/1232960.html -- это я там про производство научных экскаваторов вместо землекопов с лопатами как главную стратегию).

Заодно обнаружилось и видео двадцатиминутных расспросов меня про всякое разное в тамошних в кулуарах (https://youtu.be/rDaU3PXFbK0).
4 comments|post comment

navigation
[ viewing | February 24th, 2016 ]
[ go | previous day|next day ]