Anatoly Levenchuk (ailev) wrote,
Anatoly Levenchuk
ailev

Проблемы обезлюживания деятельности

Выступлю в субботу на "зимней тусовке" в Blockchain Club, тема доклада "Деятельность без людей и её проблемы в свете коммуникативной парадигмы" -- https://blockchainacademy.timepad.ru/event/439569/

С блокчейн-технологиями хорошо, но почему-то они не распространяются по миру как пожар. Почему? Причины сходу не видны в текстах любителей финтеха -- они находятся в своём "пузыре фильтров" (https://ru.wikipedia.org/wiki/Пузырь_фильтров), читают и перечитывают свои же статьи, а альтернативные точки зрения для них лишь "мнения ретроградов".

Одно из направлений критики касается желания создать полностью безлюдную систему. Не то чтобы я сам был противником полной (тотальной, экстремальной, дотла) автоматизации, но я не хотел бы и закрывать глаза на её последствия -- и сразу становится понятно, что на текущем уровне технологий тотальная автоматизация недостижима. По крайней мере, пока не придёт более-менее полноценный AGI и весь мир не станет с ног на голову.

Я уже писал, что проблемы, которые пытаются решать люди из финтеха, существенно отличаются от проблем, которые пытаются решать люди из "финансовой инфраструктуры" -- http://ailev.livejournal.com/1258352.html

Теперь я хотел бы зайти с других сторон:
-- политическая философия: почему люди так легко сдают свою privacy в обмен на эээ... стеклянные бусы и другие безделушки.
-- эргономика: самые безопасные системы -- это которыми невозможно пользоваться.
-- и главное: системы без людей (полностью автоматизируемые) оказываются беспомощны перед сбоями. Они защищают своё неправильное поведение со всей мощью, исправить их невозможно: средства безопасности купируют любые попытки вмешаться в их работу. А ещё они поразительно сложны, и починить их сбои оказывается обычно коллективным подвигом.

Коммуникативная парадигма же -- это DEMO (http://ailev.livejournal.com/644440.html), типичный её пример (напомню, что есть три парадигмы определения/описания деятельности: http://ailev.livejournal.com/1195297.html). В DEMO всё повествование начинается с того, что когда ломается банкомат, первое что делает человек, обнаруживший ошибку -- ищет человека, ответственного за функционирование этого банкомата. Слово "ответственный" тут важное. И если ответственного человека нет, то у нарвавшегося на поломанный банкомат человека возникают проблемы.

Хороший тут пример (не из финтеха!) -- это жалоба на безмозглую (тьфу, безлюдную) автоматизацию работы в аэропортах: https://qz.com/881454/automation-is-already-here-and-its-taking-jobs-and-annoying-customers/. Если всё ОК, то всё ОК. Если "запроектная" (т.е. не предусмотренная в проекте) авария, то всё катастрофически плохо. Все ж сталкивались с ситуацией, когда клерки готовы вам помочь, но "машина не даёт"? Особенно, если машина спроектирована так, чтобы люди туда вмешаться не могли -- как это зачастую происходит в финтехе (я жирно намекаю на скандал с DAO).

Можно ещё порассуждать и на теоретические темы:
-- есть ли там деятельность, если нет людей?
-- агент-принципальные проблемы
-- системы систем и агент-принципальные проблемы в системе систем (когда концов не найдёшь, кто там владелец системы систем, перед тобой сеть владельцев -- и некому предъявить претензию, когда что-то пошло не так)
-- слово "обезлюживание" применяется обычно к территориям. Но деятельность -- это не территория.

Можно пообсуждать и тему AGI -- когда можно будет поговорить о поломанном автомате (или их сложной сети) с ответственным хоть за что-нибудь искусственным интеллектом. То есть когда можно будет просто вместо "люди" писать "агенты" в их философском смысле слова, не заморачиваясь не только расой и вероисповеданием, но и белковостью.

UPDATE: выступил. Слайды и видео: http://ailev.livejournal.com/1329314.html
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

  • 5 comments