Anatoly Levenchuk (ailev) wrote,
Anatoly Levenchuk
ailev

Category:

Об СМИ и интернеты, когнитивные искажения и критическое мышление

Пошёл тренд на "борьбу с фейками, уж как можем", ко мне стали регулярно обращаться с разговорами на темы критического мышления, когнитивных искажений (cognitive biases, я их предпочитаю переводить как "предвзятости" -- и даже "когнитивные" тут не нужно, "предвзятости" только и бывают "когнитивные"), пропаганды и прочего арсенала "как защитить себя от гадости, которая безудержно льётся по социальным сетям". Не читают, гады, гадость, которая льётся по официальным каналам, пользуются той жижей, которая льётся по социальным сетям!

Вот несколько моих тезисов на эту тему:

1. Большинство всех этих плохих предвзятостей относится к попыткам долгой работы на быстром интуитивном мышлении S1 (по Канеману), в которое некоторой deliberated practice не вставлены ещё автоматизмы схематизации, а затем использования онтологики (включая логику, научное мышление и т.д.). Онтологика тренируется обычно в медленном трудном рассудочном мышлении S2. А чтобы овладеть этим мышлением и пройти deliberated practice (гуглите, чёрт возьми!), требуется некоторый тренинг осознанности (присмотр за вниманием) на разных шкалах времени, и упорство/упёртость. Ошибки в нетренированном S1 не детектируются, ибо нетренированное в логике это мышление эти ошибки в упор не замечает, чем и плохо. А тренированное из медленного S2 быстрое S1 имеет уже свои воспитанные тяжёлым умственным трудом предвзятости, и поэтому автоматически будет реагировать на отсылку к авторитетам как "писатели-фантасты утверждают", равно как похожим образом и на все остальные заморочки для нетренированного S1.

Сам по себе поиск когнитивных искажений в разговоре крайне непродуктивен. Человеческая речь на естественном языке неточна по определению, и тот, кто когнитивные искажения ищет специально -- найдёт их всегда. Фишка в том, чтобы не терять суть высказывания и суть аргументации, а уж поиск отдельных типов когнитивных искажений -- это бесконечное занятие, и обычно крайне непродуктивное отвлечение от разговора по существу. Вот я писал в "Об когнитивные искажения" (https://ailev.livejournal.com/1395836.html):
Вы тратите 15 часов на разговоры с любителями выискивать когнитивные искажения про ваши ошибки, их классы, недостатки мышления обезьяны по сравнению с чётким логическим мышлением, важности совпадения описания карты с территорией и т.д.. Через пятнадцать часов вы выясняете, что ошибок тьма, жизнь нелепа, в любом высказывании ошибок можно найти не менее пяти или шести, карта плохо соответствует территории, а быстрое мышление дурит -- и вы не продвинулись ни на шаг, analysis paralysis, ибо в каждой попытке продвинуться вам укажут на очередные когнитивные искажения. Если вы их хотите найти, то всегда найдёте. Если очень хотите, то будете видеть только эти искажения, а продвижения вперёд и интересные идеи будут полностью незаметны и будут ускользать от внимания.

Во фразе "пайди вазьми 150 рублей прямо сейчас вон в том акошке", вы будете обсуждать только ашипки и почему нельзя так ниграматно писать, а до пойти и взять 150 рублей дело не дойдёт!

Беда с этими когнитивными искажениями, даваемыми длинными списками как раз в этом: лекарство незаметно и как-то печально неизбежно становится болезнью.
2. Критическое мышление -- педагогическая традиция 20-го века для "мягкого" (исподволь, через много примеров) обучения адекватности и рациональности в мышлении через выискивание "фактических ошибок". Изучение "критического мышления" обычно не приводит к усилению интеллекта, а само критическое мышление неприменимо в сложных проектах (например, в крупных инженерных проектах), поэтому осталось на уровне учительских обсуждений в старшей школе и в гуманитарных вузах на младших курсах (в силу исторических традиций). При внимательном рассмотрении сводится к использованию в жизни попсовых (на уровне "здравого смысла") знаний по логике и научному мышлению, если вообще речь там идёт хоть о каких-то знаниях, а не просто призывам "думать больше! думать точнее! проверять факты! сомневаться!" разными способами, придумываемыми "на коленке" тем или иным преподом этого критического мышления. Вот мои тексты, раскрывающие бессмысленность критического мышления более подробно: "об вырождение критического мышления" (https://ailev.livejournal.com/1337214.html), "об вопросы критического мышления" (https://ailev.livejournal.com/1364101.html). Перед тем, как говорить, что я ничего не знаю про критическое мышление, не знаком с дельфийским консенсусом и т.д. -- сходите, почитайте тексты по ссылкам. Критическое мышление -- это "онтологика бедного человека", но только у лучших преподов.

3. Но поскольку люди не гении, а мутный поток мутен, то они будут пользоваться подсказчиками в спорах -- персональными AI помощниками, которые сейчас полным ходом тренируются обнаруживать пропаганду, задействующую те самые предвзятости: https://medium.com/@jihwangk/fine-grained-propaganda-detection-and-classification-with-bert-dfad4acaa321. В тексте по ссылке описывается соревнование в алгоритмах AI, обнаруживающих пропаганду в новостных статьях по ряду чаще всего используемых предвзятостей. Дальше такой алгоритм вставляется в браузер примерно как AdBlock -- и тормозит все пропагандистские статьи примерно так, как тормозится спам и реклама. Сначала это будет так же неуклюже, как со спамом и рекламой, потом быстро всё наладится. У меня стоял раньше AdBlock, сейчас uBlock Origin, а дальше будет плагин уже к этим программам -- и нельзя сказать, что жизнь наладится, но станет полегче.

Или потруднее. Ибо если кто-то в Твиттере или Фейсбуке решил, что вы пишете не правду, а фейк -- то фильтровать будут уже вас. А чей-то заведомый фейк -- пропускать, как ни в чём ни бывало.

Конечно, писать тексты с фейками будут после этого не люди, а специально обученные машины -- лучше людей. Впрочем, машины уже пишут, и только чуть-чуть хуже людей. Прошлая ссылка была на соревнование по обнаружению пропаганды, а вот соревнование по писательскому боту (написать полную историю по её аутлайну): https://venturebeat.com/2020/05/04/plotmachines-ai-long-form-stories/

Борьба пойдёт в нападении и защите комплекса мозг+экзокортекс, меча и щита. Через пару тактов люди с их слабыми мозгами будут с интересом наблюдать за ситуацией борьбы за "правильный фейк" между мозгами кремниевыми.

Автоматизация, кстати, уже нацеливается и на проверку фактов и в научной литературе: https://venturebeat.com/2020/05/04/allen-institutes-verisci-uses-ai-to-fact-check-scientific-claims/

Тут всё будет быстро и очень быстро. Человеческий мозг слаб, и поэтому его нужно усиливать:
-- давать тренинг в трансдисциплинах (онтологика с научным мышлением и коммуникацией, системное мышление, вычислительное мышление для работы с моделями, и т.д.)
-- переносить рутинную работу по факт-чеку и отслеживанию грубых логических ошибок на экзокортекс. Тупо фильтровать входящий информационный поток, как спам в почте и рекламные баннеры на страницах вебсайтов.

4. Коммуникация людей идёт со сдвигом в левую часть спектра формальности мышления (посредине между S1 и S2), ибо без этого а) не сможешь управлять вниманием в коммуникации, б) не сможешь добиться объединения онтик -- формальные же онтики не совместимы по определению! Вот тут часть вопросов, которые нужно обсуждать, если речь идёт об убеждающей коммуникации (а другой, "неубеждающей" так и не бывает -- мы ж всегда общаемся для чего-то!), вопрос в том, какие предвзятости при этом вносятся при деформализации/рендеринге, и какие предвзятости вносятся при формализации/схематизации. Вот набор ссылок, позволяющих хоть как-то непопсово это обсудить: https://ailev.livejournal.com/1494762.html (а результат обсуждения этих пунктов привёл к появлению курса "Онтологика и коммуникация", очередной поток начнётся 15 мая 2020 -- https://system-school.ru/united).

5. Фейк (вместе с достоверностью, свидетельствами, дезинформацией, манипуляцией) тоже спорное понятие. Фейком называют художественное произведение (авторский вымысел), выдаваемый за достоверное описание мира. Одна и та же информация может быть признана фейком (актёр или компьютерный алгоритм сыграл политического деятеля в порнофильме -- и автор уверяет, что это был сам политический деятель) или художественным произведением (то же самое, если статус вымысла предъявлен с самого начала). Есть пограничные случаи: во время трансляции радиопостановки "Войны миров" Герберта Уэллса многие люди подумали, что и впрямь идёт вторжение марсиан.

Но с фейком ситуация более тонкая: чтобы показать предмет какого-то интереса, вы должны договориться о способе описания. Если мой интерес к чайникам -- их тепло, а интерес художника -- их цвет, то мы должны договориться о способе описания. Иначе вся информация о чайниках от художника будет только про цвет, а горячий чайник или холодный -- вы не узнаете. Если вам рассказывают о разведчиках, а не шпионах -- сами понимаете, какой метод описания был выбран. Сепаратисты и боевики отличаются от борцов за независимость и ополчения только тем, какими словами вы их будете описывать и какие их "подвиги" будете показывать. Каждая деятельностная роль имеет свои методы описания, по ним мы эту роль и узнаём. А потом делаем вывод, что "описания этой проектной роли -- фейк", если форма описания художественная, даже если там говорится о фактах в рамках выбранного метода описания.

Бороться с фейками нужно, поднимая осознанность и тренируясь в трансдисциплинах. Тебе в ходе коммуникации всех со всеми предъявляют какие-то модели мира:
-- они могут быть сделаны с непривычным для тебя методом описания (viewpoint) из непривычной тебе ролевой позиции с её ролевыми предпочтениями, переданы непривычной (или даже неприятной тебе) терминологией. Это нужно отследить и реагировать рационально, а не эмоционально.
-- у них может быть низкая правдоподобность, так что научное мышление нужно не выключать, оно всегда должно присутствовать.
-- эти модели могут быть редукционистскими, поэтому не нужно выключать системное мышление
-- эти модели могут быть логически кривыми, поэтому не нужно выключать логику

6. Все эти "добавления предвзятостей" появляются на разных шагах коммуникации -- и если речь идёт о СМИ, то в этой коммуникации кучи ролей, и добавление предвзятостей к не-фейку или даже изготовление фейка делается профессионально. И каждая роль может добавить свои предвзятости, тщательно спроектированные, свои придуманные "правдоподобные детали" (в кавычках!) к тщательно отобранным реальным и общеизвестным фактам. В информационной кампании как практике массовой коммуникации есть множество деятельностных ролей: автор (схемы) сообщения, автор рендеринга (помним, что рендеринг из одной схемы может сделать множество самых разных сообщений), редактор/editor (вытаскивает из авторов рендеринга их рендеринги и проверяет на неискажение исходной схемы), контент-менеджер (размещает рендеринги в разных каналах -- социальные сети, реклама, форумы и т.д.), аналитик (изучает эффект воздействия и даёт рекомендации авторам рендеринга и контент-менеджерам). И это ещё не полный набор ролей! Если вы заняты обработкой мозгов большого количества народа, то хорошо работает принцип разделения труда. Как на английской мануфактуре: производство булавки было разбито на от 17 до 20 операций, и вместо одного мастера, умевшего делать все стадии, стали работать "просто рабочие" на каждой из этих операций -- и производительность труда выросла в сотни раз. Информационное производство тут не сильно отличается.

7. Я сам профессионально занимался пиар-компаниями (не одной, и не маленькими), и поэтому знаю ситуацию ещё и изнутри. Вот я писал в 2005 году алгоритм работы пиар-службы для ведения успешной кампании, "влияние на общественное мнение": https://ailev.livejournal.com/325303.html. Вот фрагмент текста по этой ссылке:
Как говаривает Валера Бардин, у нас в стране есть 40000 датчиков, которые равномерно распределены среди населения и выражают его чаяния и общее миропонимание -- это 40000 журналистов, которые пишут, пишут пишут. Что понимают эти журналисты, то и понимает общество. Если очень хочется знать, что понимает какая-то определенная часть общества, то читайте ту прессу, которую читает эта часть общества (скажем, читайте Коммерсант и Ведомости -- и вы узнаете, что на уме у общества, которое читает Коммерсант и Ведомости).

Более того, эти 40000 журналистов являются не только датчиками, но и эффекторами. И еще одно: они выстроены в некоторую иерархию, так что переписывают идеи друг у друга (достаточно заглянуть в news.yandex.ru, чтобы оценить масштаб этого переписывания). Поэтому журналистов нужно рассматривать и в качестве датчиков состояния общества, и в качестве эффекторов, которые меняют состояние общества.

Конечно, высказывание о том, что журналисты и их читатели разделяют (share) один и тот же набор мемов (мем -- это элементарная единица информации, которая передается от человека человеку, в частности передается от журналиста читателю) само по себе весьма спорно в теории. Но в области не столько общественных наук, сколько практик это вполне рабочее упрощение.

Рассматриваемый цикл изменения общественного мнения включает тем самым три субъекта: ньюсмейкера (Организацию, а не человека), журналистов и общества. Если мнение журналистов изменилось, то мы считаем, что через некоторое время изменяется и мнение общества. Ежели мнение общества изменилось, то через некоторое время изменяется мнение журналистов. Тем самым взаимодействие с обществом сводится ко взаимодействию с журналистами: если хотите узнать общественное мнение, слушайте журналистов, а если хотите изменить общественное мнение, говорите журналистам.

Ибо говорить нужно только на те темы, которые они считают важными. Неумение слушать журналистов перед разговором с ними ведет к проигрышу пиар-кампании.
8. Сегодня уже не 2005 год, по факту уже нет независимой прессы, поэтому журналистам можно давать команду -- какие темы считать важными. Журналистов перед этим уже не нужно предварительно слушать.

СМИ -- это экзокортекс (память и средства управления вниманием), который для вас готовят журналисты. То, что современного журналиста называют "блогер", а СМИ -- "блог" или даже "канал", ничего не меняет. Все эти "блоги", "журналы", "газеты", "каналы" -- чужие блокноты для заметок, в которых много людей могут почитать, что пишут журналисты.

Если вы хотите, чтобы эти публичные блокноты показывали не настоящее общественное мнение, а вымышленное -- вам нужно купить перья всего 40тыс. человек. Это недорого. 40млн. долларов в месяц, полмиллиарда долларов в год -- и каждый журналист получит месячную прибавку к зарплате в 75тыс. рублей, и вы после этого никогда не узнаете, что думают сами журналисты (и тем самым все остальные люди -- общественное мнение будет спрятано за вброшенной помехой).

В видео https://www.youtube.com/watch?v=LxHdzGDazXg приведён абсолютно актуальный (даже в части разговора о медицине) на сегодня совет, который применим ныне и к самиздату (то есть социальным сетям и тамошним "блоггерам"):
-- Преображенский: А если вы заботитесь о своём пищеварении, мой добрый совет: не говорите за обедом о большевизме и медицине. И - боже вас сохрани - не читайте до обеда советских газет.
-- Борменталь: Гм... Да ведь других нет!
-- Преображенский: Вот никаких и не читайте.

А в освободившееся от этого тупления в интернеты время займитесь изучением трансдисциплин. Сходите, например, на ту же онтологику. Там подзаголовок курса -- "мыслительный минимум образованного человека".

UPDATE: обсуждение в фейсбуке -- https://www.facebook.com/ailevenchuk/posts/10218344738023866
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

  • 13 comments