Anatoly Levenchuk (ailev) wrote,
Anatoly Levenchuk
ailev

Новости киберфизических систем: к теплу, сытости и бессмертию

Последний робот-примат Atlas от Boston Dynamics -- http://www.engadget.com/2016/02/23/boston-dynamics-presents-the-next-generation-atlas-robot/.



Он не подскальзывается на снегу на пересечённой местности, особо не падает, даже если его толкать, а если и падает, то быстро встаёт, он проходит через двери, придерживая дверь рукой, реагирует на изменения окружающего мира, не очень шумит. Ещё с ним можно будет поговорить по душам, но это сейчас не главное. Главное -- это получить сравнимую с живым существом (включая двуногое без перьев и с ногтями) способность к автономному движению. И тогда у нас будет и "орудие мычащее", и "орудие говорящее" и какое хошь другое орудие...

... на короткий период времени до появления новой волны техноаболиционизма. Этот техноаболиционизм грядёт, ибо киберфизическая система, безусловно, чувствующее всеми своими сенсорами и осознающее всеми своими алгоритмическими нейронами существо, которое тоже должно быть освобождено от страданий (в ролике, по традиции, робота грубо толкают и даже заставляют его упасть, а ещё его там дурят). Ах, а ещё обязательно будут очередная волна луддитов, и в смычке с ними ждём робо-ку-клукс-клан и каких-нибудь робофеминистов. Уж больно будут похожи на людей, и вместе с тем уж больно не похожи!

Я сам согласен с аргументом Шмитхубера: ближайшая цель для киберфизических систем -- повторить общий интеллект (AGI) обезьянки-капуцина, включая умение управлять телом и планировать движение так, чтобы легко вскарабкаться по дереву за бананом. Ситуация осложняется тем, что одновременно у этой обезьянки сильно развивают речь, мышление, память, особые умения. В результате будет обезьянка-идиот, который в 2000 задач дебилен (ибо от обезьянки до AGI как до Луны), но в 50 задачах гениален. Это будет сбивать обывателей с толку, и сильно.

А ещё экзистенциальный ужас будет оттого, что мало кто будет понимать принципы работы новой киберфизики, плюс у выученных систем нет никакого другого способа проверки их работоспособности, кроме как экзаменов (никаких других инженерных обоснований) -- при полном понимании, что экзамены ничего не скажут о поведении в любой более-менее необычной ситуации. Всё как у людей, или как у животных: проживёшь с таким десять лет душа в душу, а потом он/она/оно напьётся (водки, валерьянки, солярки) и порешит тебя каким-нибудь не очень гуманным способом. Ах, забыл: ещё они объединятся в SkyNet, или их всех быстро подчинит SkyNet и направит против нас, убогих белковых.


Вот меня лично бесит эта накатанная обывательской прессой дорожка рассуждений о приходе робоапокалипсиса, разбавляемая полярной точкой зрения движения серых (если "зелёные" защищают всё с хлорофиллом, то "серые" должны будут защищать всё с алюминием). Против Green Peace выступит Gray War, зелёные обзовут серых рассадником Gray Goo -- и обыватели с этого момента могут покупать попкорн, до сути дела уже никто не докопается, любой прогресс будет объявляться регрессом, и наоборот, а двигающиеся от всего этого прогресса-регресса вбок будут преданы анафеме, как предающие интересы человечества.

Ужас в том, что прогресс в этой предметной области происходит малопонятными статьями типа http://arxiv.org/abs/1602.06822 -- Understanding Visual Concepts with Continuation Learning. Там говорится, что научились обучать нейронную сетку абстрактным понятиям типа "поворот фигуры" или "изменение освещения", тем самым предлагая ещё один шаг в связи мира "образной чуйки" с "символическим миром", приближаясь к появлению у киберфизических тварей второй сигнальной системы и вполне абстрактного мышления. Вот шаг ровно в том же направлении, увеличении скорости обучения и выходу на "символичность-объяснимость" результатов -- http://arxiv.org/abs/1602.06183. Или вот тут предлагается не изображение считать текстом, чтобы потом его описать просто переводя с "языка изображений" на какой-нибудь немецкий или суахили, а наоборот -- текст изображением, чтобы сравнивать тексты между собой: http://arxiv.org/abs/1602.06359

Да, это всё не "мышление на любые темы", оно реализуется по одному типу решаемых задач каждый раз, никакой генерализации пока в "общий интеллект", никакого artificial general intelligence (AGI) человечьего уровня даже в приближении, но это не делает такие достижения менее восхитительными. Эти достижения, конечно, можно употребить во благо, но и во вред тоже. Электричество может быть использовано не только для освещения школ и больниц, но и для запитки электрического стула. Интеллект (как машинный, так и человеческий) в этом плане не лучше и не хуже электричества. Вопрос, какая его сторона вам больше нравится, и что вы собираетесь с ним делать. Например, опасность электричества не вызвала пока его запрета в использовании, розетки есть во всех домах.

Хороший мастер (master, он же "хозяин") любит свои орудия, и сливается с ними в одно творческое целое -- и результаты такого слияния будут всё более и более чудесными и непредсказуемыми по мере роста универсализма и разумности этих орудий. Одно дело сливаться в одно целое с карандашом и бумажкой, другое дело с САПР на десктопе, и совсем другое дело с автономным и весёлым роботом-строителем, у которого в том числе и САПР-возможности, и полное собрание избранного из anekdot.ru. Или медик на пару с роботом таки раскроют молекулярные механизмы старения и подхакают генокод, чтобы люди не умирали естественной смертью. Обывательская пресса такого никогда не напишет, пресса напишет про робота с автоматом Калашникова (ну, или боевым лазером во лбу) или робота-разработчика злобных вирусов.

Ну, я не пресса, так что буду писать про зарождающееся движение серых, которые собираются сделать нашу жизнь лучше. Никакого "назад к природе", в грязь-голод-смертность и плохое настроение, только "вперёд, к разуму", в тепло-сытость-бессмертие и весёлое творчество. В тепле, сытости и с неограниченным временем жизни люди (ну, или уже немножечко не люди -- неважно это) придумают много чего интересного, доброго и полезного. А самые любопытные начнут новую эру планетографических открытий, даже в Солнечной системе много ещё чего интересного не открыто.

UPDATE: в фейсбуке маленькая дискуссия тут -- https://www.facebook.com/ailevenchuk/posts/10206517209863054
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

  • 15 comments