Anatoly Levenchuk (ailev) wrote,
Anatoly Levenchuk
ailev

Интернет воюющих вещей

Интернет воюющих вещей, какой термин! Это статья "Challenges and Characteristics of Intelligent Autonomy for Internet of Battle Things in Highly Adversarial Environments" от Alexander Kott, U.S. Army Research Laboratory -- https://arxiv.org/abs/1803.11256.

В понедельник 9 апреля 2018 мне выступать на нашей IoT конференции -- http://internetofthings.ru/sobytiya/208-iot-day-moscow-2018, с кратеньким сообщением "Может вещь в интернете системно мыслить?". Но именно это и хотят армейские от вещей в интернете. Вещи в интернете по их версии должны а) системно мыслить, почему бы и нет, б) быть автономными, все вычисления on the edge, ибо интернет не гарантирован, время реальное и задержки в сети мешают быстро двигаться -- а двигаться это менять физический мир, действовать в) универсальными, ибо кто знает чем им придётся заниматься в быстро меняющемся мире, в) быть всегда на связи, друг с другом и выяснять, что вокруг происходит, кто и что делает, согласовывать планы и действия, г) отлично общаться с людьми, кратко и по делу, ибо длинно общаться некогда -- вокруг ведь нервно. Всё как в "обычном IoT", только армейские добавляют, что работать Battle Things должны в крайне враждебном окружении и поэтому чётко делить мир на своих и чужих.

Я на слайдах "всё будет быстро" уже давно зачёркиваю: "будет" и пишу "всё быстро". Похоже, большинство людей вокруг меня не понимают, насколько всё уже быстро. Человечество стало вдруг резко умнее, ткацкие машины для творческой работы уже изобретены. Работа мысли уже не вся порождается мокрыми мозгами, и это происходит уже повсеместно там, где этого не ждёшь. Мысль ткётся ткацкой машиной существенно быстрей и качественней, чем ткацким станком: Computer Sapience с интеллект-стеком (http://ailev.livejournal.com/1356016.html, с когнитивной архитекторой внутри него -- https://ailev.livejournal.com/1322862.html) совершенно другая штука, чем традиционный компьютер для записи, хранения и обработки информации -- где информация обрабатывалась без интеллект-стека.

Этого поумнения человечества за счёт интеллект-стека современных компьютеров пока народные массы не замечают: вы же не замечаете, что какие-то ваши коллеги поумнели за последний десяток лет. А тут поумнели компьютеры, это не бросается в глаза так же, как не бросается в глаза поумнение обычных людей.

Вот, например, неестественный интеллект сочиняет форму зубной коронки с качеством лучше, чем люди -- https://arxiv.org/abs/1804.00064. Берём коронки, изготовленные людьми, но кроме этого берём естественные здоровые зубы и учим, как должен выглядеть правильный зуб, правильно взаимодействующий с противоположной челюстью. Учим компьютер, дальше даём ему челюсть с дыркой в ряду зубов и противоположную челюсть. Компьютер сочиняет идеальный (beyond human expertize, как говорится в статье) зуб, который встал бы на это место. Дальше 3D-модель печатаем на 3D-принтере, профит. И это доступно уже сейчас, можно масштабировать. Даже не обсуждаем, что будет потом: робот, который поставит эту коронку с качеством beyond human expertise, или печать как-то пройдёт на биологическом принтере, и роботы просто пересадят зуб, или биологи придумают что-то по восстановлению зуба -- и все эти короночные изобретения уйдут в прошлое, едва появившись, или человечество вдруг резко захочет что-то изменить вообще в конструкции (а то и функции) зубов, а у нас просто сегодня фантазии это предвидеть не хватает.

А вот как компьютер сочиняет картинки, чтобы нас разжалобить. Берём руины, и спрашиваем, какие более душещипательные. Я сознательно снижаю тут пафос, юмор у меня тут чёрный и мрачный. Учим нейросетку понятию "душещипательность" в руинах (перенос стиля, это ж оно! Это ж отработано давно и в совершенстве). Далее спрашиваем, какой город ваш самый любимый. Переносим стиль душещипательной руинности, и вас пробирает до самой лимбической системы -- https://deepempathy.mit.edu/. Глубокая эмпатия, тщательно спланированная -- против кого эта эмпатия (ага, "против кого дружить будем?").

Берём дофаномику (бихевиористские игры с правильно расставленными "подкреплениями", как в дрессировке -- все эти лайки и залипания в фейсбуке, проверки почты по ночам, видеоклипы, ожидания выхода очередной серии неважно чего, https://knife.media/dopamine-loop/) и добавляем глубины: учим нейросеточку тому, что нас там цепляет. И переносим этот стиль, отработанная уже процедура. "Это не спам, это direct mail" -- помните такое "оправдание"? Так и тут: "это не интернет воюющих с вашим мозгом вещей, это просто такой хороший нейромаркетинг". А ведь это воюющие с моим мозгом вещи, которые тщательно настраиваются неестественным интеллектом на уровне beyond human expertise, чтобы победить. И ведь победят.

Один интернет воюющих вещей будет биться за землю, а другой за куски вашего мозга. Впрочем, это будет один и тот же интернет вещей, а не два. Помните в Spora была одна раса, которая выигрывала войны пропагандой? Нынешние войны тоже серьёзно завязаны на пропаганду. А это тот же "глубокий нейромаркетинг", он уже идёт (все скандалы с Cambridge Analytica ровно про это, и это сегодняшние скандалы, а не скандалы будущего -- https://ru.wikipedia.org/wiki/Cambridge_Analytica).

Но у меня всё равно оптимизм. Невоюющих вещей, которые могут системно мыслить в мире будет больше, чем воюющих. И они будут мне помогать. Например, помогут починить мне зубы, этот пример в тексте ведь не зря. Или даже восстановят кусок мозга, если какой-нибудь нейромаркетинг мне его вынесет (как восстановят зуб, вынесенный какой-нибудь пулей).

С людьми ведь тоже так: злые гении есть, но на одного злого гения приходится два десятка нормальных. И военный бюджет, равно как и маркетинговые бюджеты отравляют жизнь человечества, но не на все 100% всех бюджетов. С компьютерами всё будет так же: затраты на военные и маркетинговые бюджеты на компьютеры будут всего лишь долей затрат на продуктивное использование компьютеров, на продуктивный интернет созидательных вещей. Так что пусть военные и спамеры занимаются интеллект-войной и интеллект-спамом, а я займусь другими интересными вещами. Например, системно мыслящими вещами в компанию к системно мыслящим людям. Я могу сколько угодно отказываться работать с военными (вот буквально пару дней назад отказался в очередной раз), но желающих помочь в создании воюющих вещей всегда будет достаточно. А все остальные пусть определяются сами, на какие бюджеты они работают.

Вот, например, сотрудники Гугля пытаются что-то делать в этом направлении -- https://geektimes.ru/post/299713/ (и мне нравится, что используется традиционный аргумент -- "что вы, у нас не министерство нападения, у нас министерство обороны!", то есть технология «призвана спасать человеческие жизни и избавить людей от необходимости выполнять очень утомительную работу»). Пожелаем им успеха. Я вот не могу представить, что что-то подобное сбору подписей против подобных проектов проходит в каком-нибудь Яндексе, или Cognitive Technologies. Ну, и от этих одиночных сопротивлений милитаризму в его самых оборонных (конечно, конечно, верим!) проявлениях IMHO мало что зависит. Так что будем обсуждать (и давно обсуждаем, вот пост 2009 года -- https://ailev.livejournal.com/662638.html) этику военных роботов, но не само строительство таких роботов.

Реальный успех в демилитаризации был бы только, если бы были сокращены военные бюджеты, и во всём мире. Тогда бы на интернет воюющих вещей просто не было бы денег, и разговоры оставались разговорами. А пока имеем, что имеем.

UDATE: обсуждение в фейсбуке -- https://www.facebook.com/ailevenchuk/posts/10212696776948369
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

  • 10 comments