Anatoly Levenchuk (ailev) wrote,
Anatoly Levenchuk
ailev

Большие фобии маленьких людей

С изумлением наблюдаю эпидемии разных страхов с массовыми призывами непричастных к кому-то неясному (Большому Брату?) немедленно принять меры: глобальное потепление, астероидная атака и вот теперь скорое пришествие злобного искусственного интеллекта.

А тут ещё Элон Маск сотоварищи подписался на гомеопатическое (это когда болезнь лечат ядом, вызывающим похожие симптомы) лечение своего страха: он обещался вложить $1млрд в некоммерческую компанию OpenAI, которая будет разрабатывать опенсорсный дружественный искусственный интеллект, чтобы в час X захвата мира недружественным интеллектом (который разработают злые парни в ВПК, или даже в Гугле -- они там никому уже не верят) обычные простые люди при помощи многих экземпляров разработанного ими дружественного интеллекта победили этот злой.

Вот интервью Элон Маска и Сэма Алтмана (CEO в Y Combinator) -- https://medium.com/backchannel/how-elon-musk-and-y-combinator-plan-to-stop-computers-from-taking-over-17e0e27dd02a#.3r9t9wjc1

Основатели OpenAI признают, что все эти события могут случиться ой-ой как не скоро, ибо до настоящего сравнимого с человеческим интеллекта как до Луны. Но до этого места интервью уже никто не читает, все фрики к этому моменту в сборе и на взводе, они уже с проблем падения астероидов на нашу несчастную Землю переключились на проблемы злобных искусственных интеллектов. То, что при этом они демонстрируют злобный и недружественный характер естественных интеллектов (ибо "во имя человечества!"), они не понимают.

Вот тут я ввязался ровно в такую дискуссию, там борец за права человечества против роботов сходу предлагает учёным и бизнесменам, занимающимся искусственным интеллектом железным шариком из рогатки в затылочек, ссылаясь при этом на Талеба как свидетельство правдивости его страхов: https://www.facebook.com/groups/nevronet/permalink/574781649354827/

Вот ещё одна дискуссия в том же фейсбуке: https://www.facebook.com/sergey.izraylit/posts/870803939706945 -- там не столько страх, сколько попытка говорить языком регулятора (чуть ли не совет немедленно создать что-то вроде МАГАТЭ). Вроде как люди должны прекратить заниматься технологиями, и перейти в режим надзора и контроля.

Пройдитесь по ссылкам, там много разных аргументов.

Но всё-таки, откуда на любое упоминание artificial general intelligence набегает огромное количество фриков, которые мало понимают в технологиях и проблемах, но тут же устраивают буквально политическую деятельность с пропагандой, агитацией, паникой, призывами Сильной Руки и Большого Брата, аппеляцией к бдительной общественности, обращением к Верховному Этическому Надзору и обильным цитированием голливудских кинофильмов и книжек Талеба в качестве аргументов?!

Вот поэтому я и говорю: не нужно поминать и обсуждать AGI, хорошего из этого обсуждения ничего не выйдет, кроме обывательской паники. Нужно убирать слово "искусственный" из словосочетания "искусственный интеллект" и делать хорошие и дружественные интеллектуальные продукты. А паникёров (которые всё время просят им что-то такое доказать и ведут себя так, как будто им все должны) игнорировать, или вежливо осаживать. Хотя вежливо у естественных интеллектов паникёров осаживать плохо получается, даже у тихого-мирного меня.
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

  • 18 comments