?

Log in

No account? Create an account
Лабораторный журнал -- Day [entries|friends|calendar]
Anatoly Levenchuk

[ website | Лабораторный журнал ]
[ userinfo | livejournal userinfo ]
[ calendar | livejournal calendar ]

Интернет воюющих вещей [06 Apr 2018|01:31am]
Интернет воюющих вещей, какой термин! Это статья "Challenges and Characteristics of Intelligent Autonomy for Internet of Battle Things in Highly Adversarial Environments" от Alexander Kott, U.S. Army Research Laboratory -- https://arxiv.org/abs/1803.11256.

В понедельник 9 апреля 2018 мне выступать на нашей IoT конференции -- http://internetofthings.ru/sobytiya/208-iot-day-moscow-2018, с кратеньким сообщением "Может вещь в интернете системно мыслить?". Но именно это и хотят армейские от вещей в интернете. Вещи в интернете по их версии должны а) системно мыслить, почему бы и нет, б) быть автономными, все вычисления on the edge, ибо интернет не гарантирован, время реальное и задержки в сети мешают быстро двигаться -- а двигаться это менять физический мир, действовать в) универсальными, ибо кто знает чем им придётся заниматься в быстро меняющемся мире, в) быть всегда на связи, друг с другом и выяснять, что вокруг происходит, кто и что делает, согласовывать планы и действия, г) отлично общаться с людьми, кратко и по делу, ибо длинно общаться некогда -- вокруг ведь нервно. Всё как в "обычном IoT", только армейские добавляют, что работать Battle Things должны в крайне враждебном окружении и поэтому чётко делить мир на своих и чужих.

Я на слайдах "всё будет быстро" уже давно зачёркиваю: "будет" и пишу "всё быстро". Похоже, большинство людей вокруг меня не понимают, насколько всё уже быстро. Человечество стало вдруг резко умнее, ткацкие машины для творческой работы уже изобретены. Работа мысли уже не вся порождается мокрыми мозгами, и это происходит уже повсеместно там, где этого не ждёшь. Мысль ткётся ткацкой машиной существенно быстрей и качественней, чем ткацким станком: Computer Sapience с интеллект-стеком (http://ailev.livejournal.com/1356016.html, с когнитивной архитекторой внутри него -- https://ailev.livejournal.com/1322862.html) совершенно другая штука, чем традиционный компьютер для записи, хранения и обработки информации -- где информация обрабатывалась без интеллект-стека.

Этого поумнения человечества за счёт интеллект-стека современных компьютеров пока народные массы не замечают: вы же не замечаете, что какие-то ваши коллеги поумнели за последний десяток лет. А тут поумнели компьютеры, это не бросается в глаза так же, как не бросается в глаза поумнение обычных людей.

Вот, например, неестественный интеллект сочиняет форму зубной коронки с качеством лучше, чем люди -- https://arxiv.org/abs/1804.00064. Берём коронки, изготовленные людьми, но кроме этого берём естественные здоровые зубы и учим, как должен выглядеть правильный зуб, правильно взаимодействующий с противоположной челюстью. Учим компьютер, дальше даём ему челюсть с дыркой в ряду зубов и противоположную челюсть. Компьютер сочиняет идеальный (beyond human expertize, как говорится в статье) зуб, который встал бы на это место. Дальше 3D-модель печатаем на 3D-принтере, профит. И это доступно уже сейчас, можно масштабировать. Даже не обсуждаем, что будет потом: робот, который поставит эту коронку с качеством beyond human expertise, или печать как-то пройдёт на биологическом принтере, и роботы просто пересадят зуб, или биологи придумают что-то по восстановлению зуба -- и все эти короночные изобретения уйдут в прошлое, едва появившись, или человечество вдруг резко захочет что-то изменить вообще в конструкции (а то и функции) зубов, а у нас просто сегодня фантазии это предвидеть не хватает.

А вот как компьютер сочиняет картинки, чтобы нас разжалобить. Берём руины, и спрашиваем, какие более душещипательные. Я сознательно снижаю тут пафос, юмор у меня тут чёрный и мрачный. Учим нейросетку понятию "душещипательность" в руинах (перенос стиля, это ж оно! Это ж отработано давно и в совершенстве). Далее спрашиваем, какой город ваш самый любимый. Переносим стиль душещипательной руинности, и вас пробирает до самой лимбической системы -- https://deepempathy.mit.edu/. Глубокая эмпатия, тщательно спланированная -- против кого эта эмпатия (ага, "против кого дружить будем?").

Берём дофаномику (бихевиористские игры с правильно расставленными "подкреплениями", как в дрессировке -- все эти лайки и залипания в фейсбуке, проверки почты по ночам, видеоклипы, ожидания выхода очередной серии неважно чего, https://knife.media/dopamine-loop/) и добавляем глубины: учим нейросеточку тому, что нас там цепляет. И переносим этот стиль, отработанная уже процедура. "Это не спам, это direct mail" -- помните такое "оправдание"? Так и тут: "это не интернет воюющих с вашим мозгом вещей, это просто такой хороший нейромаркетинг". А ведь это воюющие с моим мозгом вещи, которые тщательно настраиваются неестественным интеллектом на уровне beyond human expertise, чтобы победить. И ведь победят.

Один интернет воюющих вещей будет биться за землю, а другой за куски вашего мозга. Впрочем, это будет один и тот же интернет вещей, а не два. Помните в Spora была одна раса, которая выигрывала войны пропагандой? Нынешние войны тоже серьёзно завязаны на пропаганду. А это тот же "глубокий нейромаркетинг", он уже идёт (все скандалы с Cambridge Analytica ровно про это, и это сегодняшние скандалы, а не скандалы будущего -- https://ru.wikipedia.org/wiki/Cambridge_Analytica).

Но у меня всё равно оптимизм. Невоюющих вещей, которые могут системно мыслить в мире будет больше, чем воюющих. И они будут мне помогать. Например, помогут починить мне зубы, этот пример в тексте ведь не зря. Или даже восстановят кусок мозга, если какой-нибудь нейромаркетинг мне его вынесет (как восстановят зуб, вынесенный какой-нибудь пулей).

С людьми ведь тоже так: злые гении есть, но на одного злого гения приходится два десятка нормальных. И военный бюджет, равно как и маркетинговые бюджеты отравляют жизнь человечества, но не на все 100% всех бюджетов. С компьютерами всё будет так же: затраты на военные и маркетинговые бюджеты на компьютеры будут всего лишь долей затрат на продуктивное использование компьютеров, на продуктивный интернет созидательных вещей. Так что пусть военные и спамеры занимаются интеллект-войной и интеллект-спамом, а я займусь другими интересными вещами. Например, системно мыслящими вещами в компанию к системно мыслящим людям. Я могу сколько угодно отказываться работать с военными (вот буквально пару дней назад отказался в очередной раз), но желающих помочь в создании воюющих вещей всегда будет достаточно. А все остальные пусть определяются сами, на какие бюджеты они работают.

Вот, например, сотрудники Гугля пытаются что-то делать в этом направлении -- https://geektimes.ru/post/299713/ (и мне нравится, что используется традиционный аргумент -- "что вы, у нас не министерство нападения, у нас министерство обороны!", то есть технология «призвана спасать человеческие жизни и избавить людей от необходимости выполнять очень утомительную работу»). Пожелаем им успеха. Я вот не могу представить, что что-то подобное сбору подписей против подобных проектов проходит в каком-нибудь Яндексе, или Cognitive Technologies. Ну, и от этих одиночных сопротивлений милитаризму в его самых оборонных (конечно, конечно, верим!) проявлениях IMHO мало что зависит. Так что будем обсуждать (и давно обсуждаем, вот пост 2009 года -- https://ailev.livejournal.com/662638.html) этику военных роботов, но не само строительство таких роботов.

Реальный успех в демилитаризации был бы только, если бы были сокращены военные бюджеты, и во всём мире. Тогда бы на интернет воюющих вещей просто не было бы денег, и разговоры оставались разговорами. А пока имеем, что имеем.

UDATE: обсуждение в фейсбуке -- https://www.facebook.com/ailevenchuk/posts/10212696776948369
10 comments|post comment

Когнитивные архитектуры: два прорыва в неделю продолжаются [06 Apr 2018|02:59pm]
Вот это всё, как мы любим: иерархические the top-down memory (для priors!) and bottom-up perception (со сжатием информации воспринимаемого!) are combined to produce the code representing an observation -- https://arxiv.org/abs/1804.01756, "The Kanerva Machine: A Generative Distributed Memory" от DeepMind. Увы, это больше к учебным алгоритмам, меньше к когнитивным архитектурам -- но всё точнее и точнее понимается, чему учим и что от этого обучения хотим. Меняется язык, на котором говорим об обучении, добавляем порождение как необходимое свойство.

Сжатие (я писал о нём в "жми, господь!" https://ailev.livejournal.com/1414038.html) учтено. Ещё нужно внимание, конечно. Если уж у нас появилась память, то нужно иметь к ней и деконцентрированное внимание (искать фигуру на фоне -- внимание к фону в поиске важного) и концентрирование (работать с важным, игнорируя всё неважное).

И нужно ещё понять, как туда добавлять символьные вычисления и разные другие варианты вычислений. Полусвежий (ноябрь 2017 года) обзор по нейро-символическому обучению и выводу был, например, тут -- https://arxiv.org/abs/1711.03902. Но там всё как-то плохо, прорывов особых нет.

Мой подход к когнитивным архитектурам по-прежнему остаётся тут: https://ailev.livejournal.com/1322862.html (а их место в интеллект-стеке обсуждается в "болванах для искусственного интеллекта": http://ailev.livejournal.com/1356016.html

И нужно ещё понять, как устроены симуляции мира на множестве имитационных моделей. "Воображение", как это сегодня называют всё чаще, т.е. мультимасштабное и мультифизическое (мультимодельное) моделирование возможных миров, требует исключительного разнообразия в вычислительных ресурсах, самых разных ускорителей. Я об этом говорил, когда писал про NVIDIA-инфраструктуру вычислений, не слишком зацикливающуюся именно на deep learning моделях, хотя и предусматривающую их: https://ailev.livejournal.com/1416697.html

Когнитивные архитектуры -- это будет место самой большой конкуренции среди поставщиков инфраструктуры искусственного интеллекта. Ибо все учебные алгоритмы это уже коммодити, а предметные узкие приложения -- они именно что узкие. Тот, кто предложит более-менее универсальную когнитивную архитектуру, тот и будет править бал. Счастье только в том, что править бал ему дадут недолго. Конкуренция, прогресс, развитие, когнитивные архитектуры, которые изобретают свои более продвинутые версии в ходе когнитивной эволюции (это системным уровнем выше, так что это не "нейроэволюция").

Я не уверен даже, что слово "когнитивный" и слово "архитектура" тут выживут. Так, я писал в интеллект-стеке "драйвер", а это стало называться "компилятор". Но мы ж тут не про названия, мы тут про суть дела.

Какое чудесное время! Всё, что вы выучили в школе, в вузе, на производстве и даже поняли в лаборатории, нужно теперь забыть. Приходит молодая (человеческая или кремниевая тут уже неважно, они сливаются быстро) шпана, которая сотрёт все наши придумки -- теории, расхожие архитектуры инженерных решения -- с лица земли. Всё быстро.
9 comments|post comment

navigation
[ viewing | April 6th, 2018 ]
[ go | previous day|next day ]