September 25th, 2016

2019

lytdybr

Вчера побывал в МТИ на демонстрации коллаборативного робота и хотел написать пост про компонуемость и композициональность коллаборативных роботов (как их правильно поделить на платформы, чтобы они продолжали оставаться безопасными при сочетании железа от одного поставщика и управляющего предметно-специфичного софта от другого поставщика) -- но не успел. Ещё там докладчик слово "робот" употреблял как "зонтик" -- "я взял свой зонтик, я поставил свой зонтик в углу". А в обыденной речи слово "робот" в аналогичной ситуации употреблялось бы как "я взял своего зонтика, а поставил своего зонтика в углу". Язык, он мудр. Но язык инженеров отличается от языка всех остальных людей.

А потом там же в МТИ мы посидели с юристами на круглом столе, пообсуждали возможные пути развития права в связи с появлением роботов. И тоже не успел ничего написать -- а там заметок накопилось на целую страницу, и небезынтересных.

Образовательные дискуссии в фейсбуке продолжают тлеть: в старую я только сегодня накидал новых комментов -- https://www.facebook.com/shperk/posts/10157331601870153 и ещё в новую добавил огоньку, про "цифровую педагогику" -- https://www.facebook.com/shperk/posts/10157440476870153

Первые бета-тестеры получили задачи первого пакета, пришли первые отчёты -- решать эти задачи примерно 6 часов (три подхода по 2 часа каждый). Всего у нас задач будет три пакета, тем самым их будет на 18 часов работы (у кого-то чуть быстрее, у кого-то чуть медленнее). Чтение учебника, дни тренинга, решение задач, выполнение упражнений для собственных проектов -- набегает две недели в режиме интенсива (а для студентов это должна быть примерно половина семестра, где-то месяц). Такой вот входной билет в системное мышление.

Отрок сходил сегодня на олимпиаду по физике, школьный этап. Говорит, что решил три с половиной задачи из четырёх. Выяснилось, что забыл понятие поверхностного натяжения (что это сила). После напоминания решил эту задачку за пять минут. Задним-то умом он крепок. Чуть позже будет школьная олимпиада по математике, и на этом будем считать олимпиадный сезон законченным, если лицей не придумает чего-то ещё. К олимпиадам в нашей семье все равнодушны, особой пользы в них не видим.

В восемь утра завтра я на такси -- и в аэропорт, вылет в Красноярск. Яндекс.такси отказывается делать заказ на завтра, можно только прямо на сейчас и на "через 15 минут". Они пишут: "среднее время подачи машины 4 минуты". Я подумал-подумал, и согласился. При таком времени подачи машины заказывать что-то заранее бессмысленно.
2019

lytdybr

В Красноярске гарь, смог, дымка как в какой-нибудь Москве в сезон торфяных пожаров. Только тут пожары не торфяные, а обычные лесные. Всё примерно то же самое, хотя ценители ароматов могут отметить немного другие оттенки вони. Это тут называется "режим "чёрного неба"" -- http://www.tv2.tomsk.ru/news/v-krasnoyarske-deystvuet-rezhim-chernogo-neba.

Поселился в кампусе СФУ, в общаге на 21 этаже. Тут есть всё, даже чего нет (предупреждали, что интернета не будет, а он тут же нашёлся в торчащем из стены Ethernet). Зато все краны открываются в обратную сторону.

Защитник Windows мне сообщил, что мой компьютер "проверен несколько раз: 1". Эх, раз, ещё раз, ещё много-много раз.
2019

Информационные лица с ограниченной ответственностью

Побывал на круглом столе "Робот как новый юридический субъект" в МТИ (http://mti.edu.ru/news/2016-09/493917). Перед этим демонстрировали коллаборативный робот UR3. Или демонстрировали коллаборативного робота UR3? Я уже это писал в http://ailev.livejournal.com/1299111.html: докладчик слово "робот" употреблял как "зонтик" -- "я взял свой зонтик, я поставил свой зонтик в углу". А в обыденной речи слово "робот" в аналогичной ситуации употреблялось бы как "я взял своего зонтика, я поставил своего зонтика в углу". Язык, он мудр. Но язык инженеров отличается от языка всех остальных людей. У всех остальных людей робот вполне выглядит кандидатом в информационные лица ("юридическое лицо" как "юридический субъект" уже занято, так что будем изобретать новые слова) и собравшиеся на круглый стол с удовольствием это обсуждали. Инженеры это и не думали обсуждать. Они продемонстрировали свой зонтик UR3, а не своего зонтика UR3, после чего ушли заниматься своими делами в соседнее помещение.

Конечно, легисты и правозаконники тут же разделились (меня, например, писаное право мало волновало -- мало ли что бешеный принтер напечатает по чьей-то безумной идее)!

Вот мои заметки с этого круглого стола (как всегда, я не столько буду пересказывать докладчиков, сколько использовать их слова для рассказа о собственных мыслях):

Самый традиционный ход при обсуждении правосубъектности роботов -- это их сравнение с животными или рабами. Ведущей характеристикой тут является собственность. Это вещное право, "орудие мычащее", которое вполне может потом стать и "орудием говорящим" -- всё одно им будет кто-то владеть. Из этого следует множество разных выводов:
-- чтобы всегда оставаться в рамках вещного права, а не обязательственного, можно попробовать использовать 4D экстенсионализм. Описания станут проще (в них участвуют только вещи, только 4D-индивиды -- никаких таких "процессов"), и даже сакраментальный вопрос, с которого только у меня и начинается собственно правоведческое рассмотрение (без него всё -- игра в бирюльки, думать обычно нужно только при ответе на этот вопрос) понятней как отвечается: "с какого момента возникает/переходит право собственности?". Опять же, напомню про "квантовую теорию собственности" (2004 год): http://ailev.livejournal.com/213313.html
-- можно поиграться с либертарианской доктриной самопринадлежности ("информационное лицо" всегда на носителе, и носитель -- тело -- принадлежит "информационному лицу", вместе они и есть "физическое лицо", в собственности которого как тело, так и экзотело -- инструменты, а потом и панцирь-дом, и земля и всё остальное). Дальше линия киберпсихики с экзотелом и экзокортексом -- . Вот, например, дееспособность можно определять как киберосознанность (осознанность с помощью экзокортекса и экзотела), а не просто осознанность -- http://openmeta.livejournal.com/237056.html. Это ход не на дееспособность робота, а на дееспособность человека с мощным экзотелом и экзокортексом (дееспособность киборга). Дальше можно развлекаться по линии "владения телом" полиличностей и частей личности, различением киборгов-1 и киборгов-2 -- в http://openmeta.livejournal.com/232122.html есть много идей, нужно только держать при их обсуждении правоведческую рамку.
-- если речь идёт о собственности, то это сразу политическая философия, ибо отнюдь не все люди на Земле одинакового мнения по этому поводу. Коммунисты, например, сразу становятся на дыбы при слове "собственность", поэтому дискуссия с коммунистами про роботов может быть удивительна, хотя коммунисты формально и против рабства -- но они же могут не признать и собственность "информационного лица" на собственное (pun intended) физическое тело. Есть же правовая семья социалистического права!
-- если же дальше разворачивать в сторону развития идеи о собственности в основании роботного права и роботной юстиции, то неминуемо выходишь на тему сравнения прецедентного права и романо-германского статутного права, несмотря на всю их стремительную конвергенцию. Похоже, что с роботами и собственностью на них или наоборот, дееспособностью в странах прецедентного права будут на прецедентах быстрее и точнее разбираться. Рынок более развит и права собственности более защищены в странах прецедентного права, и это не случайно (см., например, доклад А.Верещагина "Свободное общество и прецедентное право" -- это третий, последний, доклад в https://vimeo.com/11778811). Роботам можно всё, что не запрещено -- обычно в прецедентном праве так. А в романо-германской правовой семье право сочиняется долго, трудно, медленно, всегда отстаёт от жизни, решает одни проблемы и при этом создаёт другие проблемы, плюс там работает бешеный принтер (что при прецедентном праве сложней устроить -- и вся эта "конвергенция" идёт зачастую именно из-за желания какой-то партии порулить куда-то по плану, а не реагировать на проблемы-прецеденты при каждом рулящем кто во что горазд). При прецедентном праве робота признают личностью (а хоть и "информационным лицом") по факту появления способного ей быть робота, а в романо-германском праве ситуация абсолютно другая, законы должны этой личности разрешить появиться. Опять же, правозаконность и законность -- в романо-германском праве они путаются чаще, в прецедентном праве есть шансы поразбираться в сути дела. Прецедентное право реагирует быстро, зато статутное право может тоже быстро рубить с плеча (бешеный принтер не менее быстр, но более ошибочен, чем работа нормального суда. Нормального суда, это не случайная оговорка).
-- вопрос о собственности даже не на роботов, а на простые устройства IoT весьма сложен. См., например, кейс с IoT-рубашкой в тексте "Мойдодыр и политическая философия интернет-вещизма": http://ailev.livejournal.com/1106188.html -- "если уже сейчас Apple и NSA управляют содержимым вашего iPhone, то сценарий Мойдодыра уже начал реализовываться "и подушка, как лягушка, ускакала от меня. Я за свечку -- свечка в печку. Я за книжку -- та бежать". Ибо всё вещи уже давно в интернете вещей, и им была команда [силовиков, домовладельца, производителя подушки, местных властей -- добавить по вкусу и нужное подчеркнуть]. Прецеденты удаления книжек (и приложений -- те же "умные книжки") из телефонов уже были, дальше пойдут свечки и подушки. Рубашки в интернете вещей (в том числе экзоскелеты) будут ещё опасней, ибо вмиг по чьей-то команде (и вряд ли её выдаст владелец рубашки) они могут стать смирительными рубашками. Дальше принято рассказывать, что совсем необязательно эти решения по управлению вещами будут принимать люди. Их будут принимать Мойдодыры из интернета вещей: "Вдруг из маминой из спальни, кривоногий и хромой, выбегает умывальник и качает головой: "Ах ты, гадкий, ах ты, грязный, неумытый поросёнок!". Далее умывальник раздаёт необходимые команды другим вещам из своего окружения, и... "ты попал, ничего личного" (ибо в этом случае и личности-то нет)".

Отдельная линия -- это критерии разумного существа, которое можно подвергнуть наказанию. Юристы считают, что оно должно иметь страх, страх наказания. И тогда уголовное право для него вполне реализуемо. А если страха нет, то только гражданское право -- там ведь просто регулируются имущественные отношения, поэтому там и появляются "юридические лица": в отношениях участвуют, а в кутузку не посадишь. Эта линия рассуждений в отношении роботов не так чтобы хороша: у роботов аналога страха нет, но у коровы вполне есть -- что не даёт корове шанса стать дееспособной. Так что разговор о страхе и избегании наказания как основе для признания дееспособным тут тупиковый. А ещё тупиковый разговор о "сознании", "интеллекте" и прочей неформализуемой философии -- все эти варианты "витализма" бесплодны. В публицистике они вполне уместны, а в правоведении я бы этими понятиями не увлекался.

Даже для "юридических лиц" нужно ещё найти конечных их собственников-"физиков", чтобы ограничивать страхом наказания творимые этими не-людьми безобразия. Дальше можно по традиции долго топтаться на том, что такое ограниченная ответственность и что должно нахомутать владеемое "физиками" юрлицо, чтобы в кутузку посадить владельцев-физиков и чего должны бояться люди, чтобы их юридические лица прилично себя вели.

Но всё равно по этой линии понятие "информационное лицо" (чтобы отвязаться от тела-носителя/вычислителя в сервере или облаке) уже вводить можно -- вспоминая при этом Accelerando и тамошний AI, скрывающийся за длинной цепочкой владений юрлицами, я цитировал этот фрагмент в http://ailev.livejournal.com/1258352.html. Информационное лицо с ограниченной ответственностью, с тремя телами на балансе и хитрой схемой собственности на себя. Безлюдные компании, "номинальные держатели".

С одной стороны роботов сравнивают с опасным тигром, с другой -- с опасным паровым прессом, который становится всё умнее и умнее и дальше он уже может быть не менее умным, чем тигр. Какая между ними разница -- роботом и паровым прессом -- чтобы мы робота могли вообразить как лицо, а парового пресса (sic! как "зонтика", "робота") -- нет? Все эти критерии "сложности", "самообучаемости", "самостоятельности" -- это по большому счёту игра словами. Все эти "сознания" и "интеллекты", "умение разговаривать". Критериев тут нет, да и человек-Маугли, выращенный волками отличается от выпускника Кембриджа отнюдь не "сложностью" или "самостоятельностью". Да что там, дееспособность детей и инвалидов, и даже особая защита человеческих зародышей (об этом ведь тоже думают!) тоже ритуальны -- и без понимания, что происходит с человеком и собственностью на него, его дееспособностью в пограничных состояниях, когда он не человек почти, мало что можно будет сказать про роботов. Ага, первое что приходит в голову -- это что рабы не люди, женщины не совсем люди, католики недочеловеки, евреи тоже, и темы эти обсуждались много раз по отношению не только к юродивым-неразумным, но и ко вполне разумным существам, неотличимым генетически и фенотипически. Поэтому по роботам ксенофобские рассуждения будут превалировать, даже если роботы будут лучше людей писать стихи и решать уравнение Шрёдингера.

Ну, и не надо изобретать для роботов ситуации, запрещённые к обсуждению среди людей (часто ведь обсуждается, что нехорошо детям задавать вопросы "ты кого больше любишь -- маму или папу? А если они тонуть будут, кого спасёшь?". Ситуации бывают очень разные, и типовых решений для них нет. А вот для роботов ситуацию "кого должен убить водитель троллейбуса-робот" сегодня только ленивый не обсуждает. То есть робот должен действовать по шаблону, а человек нет? Совсем же недавно обсуждали, что дроны кого-то там вычисляли как потенциальных террористов и ликвидировали -- им в вину вменялось то, что речь шла о тупом приложении паттерна (типа принадлежности к полу, расе, религии -- только тут прилагался паттерн поведения "похож на террориста"), речь не шла о личности, а только о "члене класса". Инженерные и человеческие обсуждения вдруг начинают переплетаться, и нужно в любой момент времени отдавать себе отчёт: что обсуждаем-то? Или кого обсуждаем-то? И как обсуждать, если непонятно, кого или что обсуждаем? Жизнь понятно как обсуждать, и не-жизнь понятно, но как обсуждать эээ... нежить?