Anatoly Levenchuk (ailev) wrote,
Anatoly Levenchuk
ailev

AI Калашникова изобретён, и дикари им уже вооружились

Дебаторша (это она, даром что компьютерная!) из IBM выступила в баттле против финалиста чемпионата мира по дебатам и чемпиона Европы 2012 года Harish Natarajan -- https://venturebeat.com/2019/02/11/ibms-ai-takes-on-world-class-debater-in-argument-about-preschool/, https://edition.cnn.com/2019/02/11/tech/ai-versus-human-ibm-debate/index.html, https://www.dailymail.co.uk/sciencetech/article-6695515/Human-debate-champion-defeats-IBMs-smartest-AI-powered-machine.html. Natarajan and Debater were informed of the debate topic 15 minutes in advance. Each participant was given a total of eight minutes to share an opening argument, a rebuttal, and a two-minute closing argument. Результаты получились смешанные: обоим участникам дебатов удалось изменить мнения присутствующих в зале, склонив их на свою сторону. Но пока победил Natarajan. Но он чемпион по дебатам, а вы не чемпион -- поэтому вас Дебаторша победит влёгкую.

Дебаторша на тех дебатах защищала социалистическую точку зрения (хотя что её защищать? 79% из присутствующих в зале 700 человек разделяли эту точку зрения -- и в любом политическом голосовании эта точка зрения бы победила безо всяких дебатов), а Harish Natarajan -- рыночную/либертарианскую. Для меня проблема именно в том, какую точку зрения взялась защищать Дебаторша. Вернее, какую точку зрения ей поручили защищать, а она взялась, не усомневая её сама. "Дебаторша только выполняла приказ".

Гена Лебедев мне как-то рассказал в начале 90-х годов прошлого века, что всегда считал, что быть социалистом или рыночником/либертарианцем это как в религии: свобода совести, можно верить во что угодно, всё одно ничего не докажешь. Но оказалось, что у социалистов в рассуждениях логические ошибки, и вера в социализм -- это вера в то, что 2*2=5. И каждый раз на провал социализма у очередного диктатора можно говорить, что "в этот раз не получилось, получится в следующий", ровно как в случае каждого получения 2*2=4 говорить "в следующий раз обязательно будет пять!". Так Гена стал либертарианцем: он же математик по образованию, и верить в ошибочную теорию он просто не мог.

Тупая айбиэмовская Дебаторша не интересовалась истинностью своих аргументов и рассуждений в той позиции, которую она защищала. Поручено защитить позицию, что 2*2=5 -- она честно для заказчиков будет её защищать. Если заказчик даст задание защитить идею строительства газенвагенов для устранения недовольных и инакомыслящих, то Дебаторша радостно подберёт все необходимые аргументы из обширной мировой литературы, облечёт их в максимально убедительные высказывания и представит публике. И если сейчас у неё с мировыми чемпионами в дебатах ничья, то следующее поколение софта легко выиграет и у мировых чемпионов, и у других политиков.

Вы думаете, я вру? Вот как выглядят юридические дебаты на русском языке (разработчик -- "Мегафон", такая же профильная в юриспруденции фирма, как IBM профильная в политических дебатах): https://www.youtube.com/watch?v=2IUZnvjN9Z8 (по слухам, сегодня этого робота-юриста "Мегафон" торгует за 1млн.рублей, это явно недорого по сравнению с живыми юристами при сравнимом качестве!). Ключевой момент в этих дебатах -- это фраза юридического робота "я могу обосновать любую позицию!". Для адвоката это нормальное качество, да? При этом человек-адвокат ещё воздержится, может быть, а вот робот-адвокат честно будет обосновывать и 2*2=5, и строительство газенвагенов для устранения инакомыслящих: подберёт для этого законы, сформулирует аргументы, облечёт их в форму страстной и убедительной речи. И убедительно прочтёт эту речь с интонациями народного артиста. Это ведь всё уже доступно: у меня дома Алиса из Яндекс.Станции уже сейчас читает новости с интонациями народного артиста, заслушаешься!

Я писал про то, что этику людей можно будет понять только после того, как подробно разберёмся с этикой роботов: сможем объяснить разницу между этичным и неэтичным машине и проверить понимание -- и начинать в 2009 году предлагал с военных роботов, в "Этика из будущего: сначала военная, затем и гражданская", https://ailev.livejournal.com/662638.html. Но уже прошло 10 лет и пора заняться и роботами гражданскими с их этикой защиты 2*2=5. Ибо дикарь с автоматом Калашникова, которому этот автомат нужен для того, чтобы вас было легче поймать и съесть (мозг съесть, "чтобы стать таким же умным, как тот, чей мозг") -- это большая сила. Тот же дикарь, только с AI Калашникова -- не меньшая сила, он тоже будет использовать AI, чтобы поймать вас и съесть. Только более изощрённым способом: AI вас убедит так, что вы сами к дикарю придёте и сами себя перед его едой сварите, полностью уверенные, что делаете благое для человечества дело. Эту параллель между военными (борющимися за землю) и гражданскими (борющимися за кусок вашего мозга) интернетами воюющих вещей я уже приводил в "интернет воюющих вещей" год назад, https://ailev.livejournal.com/1418468.html. Но будущее уже наступило: айбиэмовская Дебаторша уже агитирует за социализм, и какой-то процент мозгов в одной аудитории она сагитировала. Дикари радуются: AI Калашникова изобретён, и дикари им уже вооружились. Первыми покупателями Дебаторши, конечно, должны стать диктаторские режимы с их идеей лечения головной боли путём усекновения головы. И не спорьте, AI у вас этот спор про необходимость отсечения головы для её лечения легко выиграет, она(!) и у чемпионов мира по дебатам выигрывала, что ей вы с вашими аргументами.

UPDATE: обсуждение в фейбсуке -- https://www.facebook.com/ailevenchuk/posts/10214818827958318, обсуждение в телеграме -- https://comments.bot/thread/tvNjb8KqO
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

  • 100 comments
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →