Anatoly Levenchuk (ailev) wrote,
Anatoly Levenchuk
ailev

Авто без водителя, рентген без рентгенолога: liability crisis

В 2003 году про автомобили без водителей (погрузчики без грузчиков и т.д.) и других автономных агентов я писал (http://ailev.livejournal.com/97634.html):
Есть мнение, что можно не только свалить все на принципала [речь идёт о провале в работе автономного агента -- искусственного интеллекта, например сбой автомобиля без водителя], но и попробовать нагрузить ответственностью изготовителя агента, который сделал этого агента каким-то образом разрешающим принципалу привести себя и агента к провалу (то бишь недостаточно дуракоустойчивым).

И тут же выплывает еще одна тема: какая-то реформа гражданского права (tort law) -- ибо страх перед liability заставляет производителей уходить с рынка с одной стороны, а получателями значительной части платежей по искам к производителям являются адвокаты, а вовсе не пострадавшие. Появился даже новый термин -- liability crisis (Гуголь находит его 10600раз) [сегодня -- 32тыс.раз, не так много, см. работы типа http://scholarship.law.georgetown.edu/cgi/viewcontent.cgi?article=1615&context=facpub], который сейчас раскручивается во множестве отраслей в большинстве развитых стран.

Поэтому судьба автономных агентов может оказаться не такой счастливой, какой ее видят технари, а скорость внедрения систем автономных агентов будет зависеть от скорости и методов решения liability crisis. А то производители просто не будут этих агентов выпускать -- себе дороже.

А ведь софтверщики, как всегда, впереди планеты всей. Они традиционно продают свой софт на условиях as is и ни за что не отвечают, ежели софт почему-то откажется работать. Для них никакого liability crisis не предвидится, хотя голоса за то, чтобы программы подвести под обычное оборудование, раздаются все чаще и чаще. Еще бы не раздавались -- в этом liability бизнесе такие бабки ;)

Поэтому придется автономных агентов делать в виде универсальных компьютеров отдельно и программ отдельно -- зато с законом будет все в порядке... Пока не заштопают дырку...
На сегодня непохоже, чтобы кто-то собрался выпускать отдельно автомобильные коробки со стандартным интерфейсом к софту, а кто-то автомобильный софт для разных коробок. И для оборудования модификации на беспилотную работу для старых автомобилей "с рулём" тоже всё не слишком хорошо складывается в связи с законодательством.

Вот ещё я писал про техническую безопасность и liability crisis в 2009г., "медицина и техрегулирование" -- http://ailev.livejournal.com/744802.html, основной вопрос там -- законодательное отрубание услуг с низкой стоимостью на основнании их "небезопасности" и связанные с ним проблемы.

Текущий ход производителей -- это реальное обеспечение автономной работы на более безопасном уровне, чем работа с участием человека, и при этом сохранение разумной стоимости (ИскИны оказываются дёшевы, чего уж там). Но проблема остаётся: нормы безопасности преспокойненько шагнут вверх. Это верно и для автомобилей без водителя и для какого-нибудь рентгена без рентгенологов.

Напоследок лучшая иллюстрация знаменитой trolley problem:
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

  • 8 comments