Anatoly Levenchuk (ailev) wrote,
Anatoly Levenchuk
ailev

Информационные лица с ограниченной ответственностью

Побывал на круглом столе "Робот как новый юридический субъект" в МТИ (http://mti.edu.ru/news/2016-09/493917). Перед этим демонстрировали коллаборативный робот UR3. Или демонстрировали коллаборативного робота UR3? Я уже это писал в http://ailev.livejournal.com/1299111.html: докладчик слово "робот" употреблял как "зонтик" -- "я взял свой зонтик, я поставил свой зонтик в углу". А в обыденной речи слово "робот" в аналогичной ситуации употреблялось бы как "я взял своего зонтика, я поставил своего зонтика в углу". Язык, он мудр. Но язык инженеров отличается от языка всех остальных людей. У всех остальных людей робот вполне выглядит кандидатом в информационные лица ("юридическое лицо" как "юридический субъект" уже занято, так что будем изобретать новые слова) и собравшиеся на круглый стол с удовольствием это обсуждали. Инженеры это и не думали обсуждать. Они продемонстрировали свой зонтик UR3, а не своего зонтика UR3, после чего ушли заниматься своими делами в соседнее помещение.

Конечно, легисты и правозаконники тут же разделились (меня, например, писаное право мало волновало -- мало ли что бешеный принтер напечатает по чьей-то безумной идее)!

Вот мои заметки с этого круглого стола (как всегда, я не столько буду пересказывать докладчиков, сколько использовать их слова для рассказа о собственных мыслях):

Самый традиционный ход при обсуждении правосубъектности роботов -- это их сравнение с животными или рабами. Ведущей характеристикой тут является собственность. Это вещное право, "орудие мычащее", которое вполне может потом стать и "орудием говорящим" -- всё одно им будет кто-то владеть. Из этого следует множество разных выводов:
-- чтобы всегда оставаться в рамках вещного права, а не обязательственного, можно попробовать использовать 4D экстенсионализм. Описания станут проще (в них участвуют только вещи, только 4D-индивиды -- никаких таких "процессов"), и даже сакраментальный вопрос, с которого только у меня и начинается собственно правоведческое рассмотрение (без него всё -- игра в бирюльки, думать обычно нужно только при ответе на этот вопрос) понятней как отвечается: "с какого момента возникает/переходит право собственности?". Опять же, напомню про "квантовую теорию собственности" (2004 год): http://ailev.livejournal.com/213313.html
-- можно поиграться с либертарианской доктриной самопринадлежности ("информационное лицо" всегда на носителе, и носитель -- тело -- принадлежит "информационному лицу", вместе они и есть "физическое лицо", в собственности которого как тело, так и экзотело -- инструменты, а потом и панцирь-дом, и земля и всё остальное). Дальше линия киберпсихики с экзотелом и экзокортексом -- . Вот, например, дееспособность можно определять как киберосознанность (осознанность с помощью экзокортекса и экзотела), а не просто осознанность -- http://openmeta.livejournal.com/237056.html. Это ход не на дееспособность робота, а на дееспособность человека с мощным экзотелом и экзокортексом (дееспособность киборга). Дальше можно развлекаться по линии "владения телом" полиличностей и частей личности, различением киборгов-1 и киборгов-2 -- в http://openmeta.livejournal.com/232122.html есть много идей, нужно только держать при их обсуждении правоведческую рамку.
-- если речь идёт о собственности, то это сразу политическая философия, ибо отнюдь не все люди на Земле одинакового мнения по этому поводу. Коммунисты, например, сразу становятся на дыбы при слове "собственность", поэтому дискуссия с коммунистами про роботов может быть удивительна, хотя коммунисты формально и против рабства -- но они же могут не признать и собственность "информационного лица" на собственное (pun intended) физическое тело. Есть же правовая семья социалистического права!
-- если же дальше разворачивать в сторону развития идеи о собственности в основании роботного права и роботной юстиции, то неминуемо выходишь на тему сравнения прецедентного права и романо-германского статутного права, несмотря на всю их стремительную конвергенцию. Похоже, что с роботами и собственностью на них или наоборот, дееспособностью в странах прецедентного права будут на прецедентах быстрее и точнее разбираться. Рынок более развит и права собственности более защищены в странах прецедентного права, и это не случайно (см., например, доклад А.Верещагина "Свободное общество и прецедентное право" -- это третий, последний, доклад в https://vimeo.com/11778811). Роботам можно всё, что не запрещено -- обычно в прецедентном праве так. А в романо-германской правовой семье право сочиняется долго, трудно, медленно, всегда отстаёт от жизни, решает одни проблемы и при этом создаёт другие проблемы, плюс там работает бешеный принтер (что при прецедентном праве сложней устроить -- и вся эта "конвергенция" идёт зачастую именно из-за желания какой-то партии порулить куда-то по плану, а не реагировать на проблемы-прецеденты при каждом рулящем кто во что горазд). При прецедентном праве робота признают личностью (а хоть и "информационным лицом") по факту появления способного ей быть робота, а в романо-германском праве ситуация абсолютно другая, законы должны этой личности разрешить появиться. Опять же, правозаконность и законность -- в романо-германском праве они путаются чаще, в прецедентном праве есть шансы поразбираться в сути дела. Прецедентное право реагирует быстро, зато статутное право может тоже быстро рубить с плеча (бешеный принтер не менее быстр, но более ошибочен, чем работа нормального суда. Нормального суда, это не случайная оговорка).
-- вопрос о собственности даже не на роботов, а на простые устройства IoT весьма сложен. См., например, кейс с IoT-рубашкой в тексте "Мойдодыр и политическая философия интернет-вещизма": http://ailev.livejournal.com/1106188.html -- "если уже сейчас Apple и NSA управляют содержимым вашего iPhone, то сценарий Мойдодыра уже начал реализовываться "и подушка, как лягушка, ускакала от меня. Я за свечку -- свечка в печку. Я за книжку -- та бежать". Ибо всё вещи уже давно в интернете вещей, и им была команда [силовиков, домовладельца, производителя подушки, местных властей -- добавить по вкусу и нужное подчеркнуть]. Прецеденты удаления книжек (и приложений -- те же "умные книжки") из телефонов уже были, дальше пойдут свечки и подушки. Рубашки в интернете вещей (в том числе экзоскелеты) будут ещё опасней, ибо вмиг по чьей-то команде (и вряд ли её выдаст владелец рубашки) они могут стать смирительными рубашками. Дальше принято рассказывать, что совсем необязательно эти решения по управлению вещами будут принимать люди. Их будут принимать Мойдодыры из интернета вещей: "Вдруг из маминой из спальни, кривоногий и хромой, выбегает умывальник и качает головой: "Ах ты, гадкий, ах ты, грязный, неумытый поросёнок!". Далее умывальник раздаёт необходимые команды другим вещам из своего окружения, и... "ты попал, ничего личного" (ибо в этом случае и личности-то нет)".

Отдельная линия -- это критерии разумного существа, которое можно подвергнуть наказанию. Юристы считают, что оно должно иметь страх, страх наказания. И тогда уголовное право для него вполне реализуемо. А если страха нет, то только гражданское право -- там ведь просто регулируются имущественные отношения, поэтому там и появляются "юридические лица": в отношениях участвуют, а в кутузку не посадишь. Эта линия рассуждений в отношении роботов не так чтобы хороша: у роботов аналога страха нет, но у коровы вполне есть -- что не даёт корове шанса стать дееспособной. Так что разговор о страхе и избегании наказания как основе для признания дееспособным тут тупиковый. А ещё тупиковый разговор о "сознании", "интеллекте" и прочей неформализуемой философии -- все эти варианты "витализма" бесплодны. В публицистике они вполне уместны, а в правоведении я бы этими понятиями не увлекался.

Даже для "юридических лиц" нужно ещё найти конечных их собственников-"физиков", чтобы ограничивать страхом наказания творимые этими не-людьми безобразия. Дальше можно по традиции долго топтаться на том, что такое ограниченная ответственность и что должно нахомутать владеемое "физиками" юрлицо, чтобы в кутузку посадить владельцев-физиков и чего должны бояться люди, чтобы их юридические лица прилично себя вели.

Но всё равно по этой линии понятие "информационное лицо" (чтобы отвязаться от тела-носителя/вычислителя в сервере или облаке) уже вводить можно -- вспоминая при этом Accelerando и тамошний AI, скрывающийся за длинной цепочкой владений юрлицами, я цитировал этот фрагмент в http://ailev.livejournal.com/1258352.html. Информационное лицо с ограниченной ответственностью, с тремя телами на балансе и хитрой схемой собственности на себя. Безлюдные компании, "номинальные держатели".

С одной стороны роботов сравнивают с опасным тигром, с другой -- с опасным паровым прессом, который становится всё умнее и умнее и дальше он уже может быть не менее умным, чем тигр. Какая между ними разница -- роботом и паровым прессом -- чтобы мы робота могли вообразить как лицо, а парового пресса (sic! как "зонтика", "робота") -- нет? Все эти критерии "сложности", "самообучаемости", "самостоятельности" -- это по большому счёту игра словами. Все эти "сознания" и "интеллекты", "умение разговаривать". Критериев тут нет, да и человек-Маугли, выращенный волками отличается от выпускника Кембриджа отнюдь не "сложностью" или "самостоятельностью". Да что там, дееспособность детей и инвалидов, и даже особая защита человеческих зародышей (об этом ведь тоже думают!) тоже ритуальны -- и без понимания, что происходит с человеком и собственностью на него, его дееспособностью в пограничных состояниях, когда он не человек почти, мало что можно будет сказать про роботов. Ага, первое что приходит в голову -- это что рабы не люди, женщины не совсем люди, католики недочеловеки, евреи тоже, и темы эти обсуждались много раз по отношению не только к юродивым-неразумным, но и ко вполне разумным существам, неотличимым генетически и фенотипически. Поэтому по роботам ксенофобские рассуждения будут превалировать, даже если роботы будут лучше людей писать стихи и решать уравнение Шрёдингера.

Ну, и не надо изобретать для роботов ситуации, запрещённые к обсуждению среди людей (часто ведь обсуждается, что нехорошо детям задавать вопросы "ты кого больше любишь -- маму или папу? А если они тонуть будут, кого спасёшь?". Ситуации бывают очень разные, и типовых решений для них нет. А вот для роботов ситуацию "кого должен убить водитель троллейбуса-робот" сегодня только ленивый не обсуждает. То есть робот должен действовать по шаблону, а человек нет? Совсем же недавно обсуждали, что дроны кого-то там вычисляли как потенциальных террористов и ликвидировали -- им в вину вменялось то, что речь шла о тупом приложении паттерна (типа принадлежности к полу, расе, религии -- только тут прилагался паттерн поведения "похож на террориста"), речь не шла о личности, а только о "члене класса". Инженерные и человеческие обсуждения вдруг начинают переплетаться, и нужно в любой момент времени отдавать себе отчёт: что обсуждаем-то? Или кого обсуждаем-то? И как обсуждать, если непонятно, кого или что обсуждаем? Жизнь понятно как обсуждать, и не-жизнь понятно, но как обсуждать эээ... нежить?
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

  • 16 comments