?

Log in

No account? Create an account
Лабораторный журнал -- Day [entries|friends|calendar]
Anatoly Levenchuk

[ website | Лабораторный журнал ]
[ userinfo | livejournal userinfo ]
[ calendar | livejournal calendar ]

Доклад "Может ли вещь в интернете системно мыслить?" [10 Apr 2018|12:03am]
Сегодня доложился на конференции IoT Day Moscow 2018 (http://internetofthings.ru/sobytiya/208-iot-day-moscow-2018, этих "дней" сегодня на планете было штук тридцать в разных городах) по теме "Может ли вещь в интернете системно мыслить?", доклад шёл аж десять минут. Основной тезис: да, может и будет, да ещё и версия системного мышления будет посложней, чем нынешняя. Видео доклада (https://www.facebook.com/kolesnikov.andrey.3/videos/1627834610597817/, мои там первые 10 минут):

Краткое содержание:
-- я сам состою из вещи-тела, который как енот у меня на майке: ограниченно умный и с лапками
-- всё остальное, что делает меня человеком -- это софт, полученный из культуры. Разные знания-умения.
-- я, кофейник, автомобиль без водителя все входим в интернет вещей, мы там все вещи, и у всех там вещей разный софт, он берётся из культуры
-- зачем кофейнику или автомобилю без водителя мыслить системно? Затем же, что и еноту: преодолевать сложности окружающего мира, время от времени. Лучшее сегодняшнее мышление для преодоления сложностей из имеющихся в культуре -- это системное мышление.
-- системное мышление пользуется преимуществами множественного моделирования мира: множество стейкхолдеров каждый выполняют самые разные моделирования мира. Результирующие формальные модели, соответствующие различным онтологиям, невозможно объединить.
-- системное мышление коллективно: позволяет объединять как-то разные модели мира. Это объединение формально независимых систем может быть выполнено коннективистски (подробности тут опускаем).
-- современные вещи, снабжённые коннективистскими вычислителями, тоже могут не только выполнять формальные вычисления, но и принимать участие в совмещении моделей с разными формализмами
-- обучать вещи быстрее всего, если они не сами будут делать эксперименты в мире, а в качестве priors используют уже имеющуюся у человечества культуру. Системное мышление тем самым может быть выучено вещами, например, из моего учебника: как начальное состояние (prior).
-- тем самым системное мышление оказывается размазанным по самым разным людям и другим вещам, связанным между собой
-- но кофейник и автомобиль не ограничены биологической конструкцией мозга, они могут демонстрировать понимание более сложных моделей мира, чем люди. Физиков, которые могут двигать физическую теорию вперёд, уже не так много на планете. Кофейник и автомобиль с более совершенным вычислителем, чем мозг, вполне могут продвинуть физическую теорию: и либо найти интересные способы её упрощения, либо наоборот, сделать её чуть сложней, чем доступно человеку -- но зато более точно моделирующей мир. И то же верно для системного мышления: оно сейчас сложно, но будущий вариант его с участием вещей может оказаться ещё сложней.
-- так что в конечном итоге вещи (люди и другие вещи, неотделимые друг от друга, живущие в общей культуре Земли) смогут не просто системно мыслить, но их системное мышление может оказаться продвинутой версией борьбы со сложностью, недоступной сегодняшним людям.

И, конечно, в кулуарах я много раз ехидно спрашивал, кто входит в состав всяческих "мы" и "наших", о которых говорили собеседники. Ответы были более чем разнообразны. Вся эта "тёплая ламповая человечность" прочно въелась в язык, в расхожую "народную" картину мира. Вот я писал на эту тему в 2014 году, и искусственный интеллект, с которым можно поговорить про системное мышление, тогда не рассматривался "народными массами" даже в проекте -- https://ailev.livejournal.com/1146390.html. А сейчас со смартфонами реально разговаривают, с компьютерами реально разговаривают, с автомобилями начинают реально разговаривать, и кофейники в плане "на поговорить о смысле жизни" уже тоже очень скоро на подходе. Пора, пора как-то перестраивать мозги, мир уже начал меняться, хотя и медленно. Забудьте завтра свой мобильник дома, побегайте денёк -- и вы почувствуете, что значит быть вне интернета вещей, в который, просто по определению, входят и люди тоже. Люди, которые всегда на связи и вещи, которые тоже на связи. Ну, а дальше не нужно сочинять теории видового превосходства по теориям расового превосходства и делать замеры черепа биологических людей и кофейников. Хотя я понимаю, будет очень обидно, если кофейник пройдёт за ночь курс системного мышления http://systemsthinkingcourse.ru/, а вы нет. Но это должна быть личная обида, а не коллективная за всех умственно обездоленных гомо сапиенсов. Нет же обид на автомобиль, что он быстрее человека! И на беспилотный автомобиль не должно быть обид, что он умней -- и не надо басен про "тело". Помним про того же Хокинга: не в здоровом теле енота или человека дело.
25 comments|post comment

What Jensen giveth, Jürgen taketh away [10 Apr 2018|12:33pm]
Новая модель вычислительной архитектуры, наконец, начала как-то обсуждаться в англоязычной литературе под тегом "закон Хуанга" (Дженсен Хуанг -- это CEO NVIDIA, который во всех своих презентациях говорит, что развитие GPU продолжает закон Мура, а то и превосходит его). Вот, например, пост "The Advent of Huang's Law" http://rbharath.github.io/the-advent-of-huangs-law/, который попал с подробными комментариями даже первой новостью в рассылку OpenAI -- https://mailchi.mp/jack-clark/import-ai-89-chinese-facial-recognition-startup-raises-600-million-why-gpus-could-alter-ai-progress-and-improving-language-modeling-via-context. Пост этот от 7 апреля, я об этом же подробненько писал ещё 1 апреля 2018 в NVIDIA как поставщик вычислительной инфраструктуры -- https://ailev.livejournal.com/1416697.html.

I think that there’s something to this new “Huang’s law.” It’s not just in deep learning. Improvements in custom architecture have started to demonstrate real and practical improvements in a number of fields. ... Nvidia’s grand achievement however is in making the case that these improvement in architectures are not merely isolated victories for specific applications but perhaps broadly applicable to all of computer science. -- Это точь в точь мысль из моего текста, и жаль, что я не пишу по английски, а то цитировали бы дальше не Bharath Ramsundar, а меня. ;-)

Что будет дальше? Дальше изменения в архитектуре должны привести к изменениям в языках программирования: они должны будут уметь компилироваться в параллельную архитектуру не только для суперкомпьютеров из CPU или даже мультиядерных CPU (например, компиляторы лаборатории Бориса Штейнберга умеют распознавать параллельность без ручного аннотирования -- http://www.ops.rsu.ru/about_OPS.shtml), но и для GPU -- ибо это и есть сейчас general processing unit для всех видов вычислений.

Ещё нужно учесть, что должны появиться не просто специализированные компиляторы для старых языков, но и языки, которые позволяют более-менее эффективно сажать вычисления на различную GPU аппаратуру, абстрагировать GPU для пользователя. Тут мне нравится Julia, которая делает свою инфраструктуру посадки вычислений на GPU таким образом, что не нужно переписывать алгоритмы для GPU каждый раз, когда хочется указать, что вычисление должно производиться не на CPU, а в GPU -- https://julialang.org/blog/2017/03/cudanative. Тут вариант CUDA-интерфейса с GPU на Julia. CUDA сегодня для новой вычислительной архитектуры стандарт де-факто, все остальные "нейтральные стандарты" почему-то оказываются неудобными для работы, и можно обсуждать -- это их плохая архитектура, или просто нежелание каких-то людей вливать деньги в создание всяческих профайлеров, отладчиков, учебных курсов и прочих нужных вещей для поддержки программирования на этих интерфейсах. NVIDIA же делает программирование для CUDA удобным архитектурно, инструментально, и организационно, вот и результат. Системный подход, когда внимания системному окружению и использующей системе уделяется едва ли не больше, чем самой целевой системе.

Выигрывают же от новой парадигмы универсального программирования все: вычисления, стремительно дешевевшие согласно закону Мура, продолжают дешеветь по закону Мура же (в версии Хуанга, который "продолжает традицию закона Мура"), или по закону Хуанга (как это начали обсуждать сейчас, учитывая предложенную NVIDIA новую архитектуру универсальных вычислений).

Ну, и ещё нужно будет обновить поговорку "What Andy giveth, Bill taketh away" на что-нибудь типа "What Jensen [Huang] giveth, Jürgen [Schmidhuber] taketh away". Так что не радуйтесь, даже с законом Хуанга вычислительной мощности всегда не будет хватать.

UPDATE: обсуждение в фейсбуке -- https://www.facebook.com/ailevenchuk/posts/10212724224674545
7 comments|post comment

navigation
[ viewing | April 10th, 2018 ]
[ go | previous day|next day ]