Вот несколько моих тезисов на эту тему:
1. Большинство всех этих плохих предвзятостей относится к попыткам долгой работы на быстром интуитивном мышлении S1 (по Канеману), в которое некоторой deliberated practice не вставлены ещё автоматизмы схематизации, а затем использования онтологики (включая логику, научное мышление и т.д.). Онтологика тренируется обычно в медленном трудном рассудочном мышлении S2. А чтобы овладеть этим мышлением и пройти deliberated practice (гуглите, чёрт возьми!), требуется некоторый тренинг осознанности (присмотр за вниманием) на разных шкалах времени, и упорство/упёртость. Ошибки в нетренированном S1 не детектируются, ибо нетренированное в логике это мышление эти ошибки в упор не замечает, чем и плохо. А тренированное из медленного S2 быстрое S1 имеет уже свои воспитанные тяжёлым умственным трудом предвзятости, и поэтому автоматически будет реагировать на отсылку к авторитетам как "писатели-фантасты утверждают", равно как похожим образом и на все остальные заморочки для нетренированного S1.
Сам по себе поиск когнитивных искажений в разговоре крайне непродуктивен. Человеческая речь на естественном языке неточна по определению, и тот, кто когнитивные искажения ищет специально -- найдёт их всегда. Фишка в том, чтобы не терять суть высказывания и суть аргументации, а уж поиск отдельных типов когнитивных искажений -- это бесконечное занятие, и обычно крайне непродуктивное отвлечение от разговора по существу. Вот я писал в "Об когнитивные искажения" (https://ailev.livejournal.com/1395836.html):
Вы тратите 15 часов на разговоры с любителями выискивать когнитивные искажения про ваши ошибки, их классы, недостатки мышления обезьяны по сравнению с чётким логическим мышлением, важности совпадения описания карты с территорией и т.д.. Через пятнадцать часов вы выясняете, что ошибок тьма, жизнь нелепа, в любом высказывании ошибок можно найти не менее пяти или шести, карта плохо соответствует территории, а быстрое мышление дурит -- и вы не продвинулись ни на шаг, analysis paralysis, ибо в каждой попытке продвинуться вам укажут на очередные когнитивные искажения. Если вы их хотите найти, то всегда найдёте. Если очень хотите, то будете видеть только эти искажения, а продвижения вперёд и интересные идеи будут полностью незаметны и будут ускользать от внимания.2. Критическое мышление -- педагогическая традиция 20-го века для "мягкого" (исподволь, через много примеров) обучения адекватности и рациональности в мышлении через выискивание "фактических ошибок". Изучение "критического мышления" обычно не приводит к усилению интеллекта, а само критическое мышление неприменимо в сложных проектах (например, в крупных инженерных проектах), поэтому осталось на уровне учительских обсуждений в старшей школе и в гуманитарных вузах на младших курсах (в силу исторических традиций). При внимательном рассмотрении сводится к использованию в жизни попсовых (на уровне "здравого смысла") знаний по логике и научному мышлению, если вообще речь там идёт хоть о каких-то знаниях, а не просто призывам "думать больше! думать точнее! проверять факты! сомневаться!" разными способами, придумываемыми "на коленке" тем или иным преподом этого критического мышления. Вот мои тексты, раскрывающие бессмысленность критического мышления более подробно: "об вырождение критического мышления" (https://ailev.livejournal.com/1337214.html), "об вопросы критического мышления" (https://ailev.livejournal.com/1364101.html). Перед тем, как говорить, что я ничего не знаю про критическое мышление, не знаком с дельфийским консенсусом и т.д. -- сходите, почитайте тексты по ссылкам. Критическое мышление -- это "онтологика бедного человека", но только у лучших преподов.
Во фразе "пайди вазьми 150 рублей прямо сейчас вон в том акошке", вы будете обсуждать только ашипки и почему нельзя так ниграматно писать, а до пойти и взять 150 рублей дело не дойдёт!
Беда с этими когнитивными искажениями, даваемыми длинными списками как раз в этом: лекарство незаметно и как-то печально неизбежно становится болезнью.
3. Но поскольку люди не гении, а мутный поток мутен, то они будут пользоваться подсказчиками в спорах -- персональными AI помощниками, которые сейчас полным ходом тренируются обнаруживать пропаганду, задействующую те самые предвзятости: https://medium.com/@jihwangk/fine-grained-propaganda-detection-and-classification-with-bert-dfad4acaa321. В тексте по ссылке описывается соревнование в алгоритмах AI, обнаруживающих пропаганду в новостных статьях по ряду чаще всего используемых предвзятостей. Дальше такой алгоритм вставляется в браузер примерно как AdBlock -- и тормозит все пропагандистские статьи примерно так, как тормозится спам и реклама. Сначала это будет так же неуклюже, как со спамом и рекламой, потом быстро всё наладится. У меня стоял раньше AdBlock, сейчас uBlock Origin, а дальше будет плагин уже к этим программам -- и нельзя сказать, что жизнь наладится, но станет полегче.
Или потруднее. Ибо если кто-то в Твиттере или Фейсбуке решил, что вы пишете не правду, а фейк -- то фильтровать будут уже вас. А чей-то заведомый фейк -- пропускать, как ни в чём ни бывало.
Конечно, писать тексты с фейками будут после этого не люди, а специально обученные машины -- лучше людей. Впрочем, машины уже пишут, и только чуть-чуть хуже людей. Прошлая ссылка была на соревнование по обнаружению пропаганды, а вот соревнование по писательскому боту (написать полную историю по её аутлайну): https://venturebeat.com/2020/05/04/plotmachines-ai-long-form-stories/
Борьба пойдёт в нападении и защите комплекса мозг+экзокортекс, меча и щита. Через пару тактов люди с их слабыми мозгами будут с интересом наблюдать за ситуацией борьбы за "правильный фейк" между мозгами кремниевыми.
Автоматизация, кстати, уже нацеливается и на проверку фактов и в научной литературе: https://venturebeat.com/2020/05/04/allen-institutes-verisci-uses-ai-to-fact-check-scientific-claims/
Тут всё будет быстро и очень быстро. Человеческий мозг слаб, и поэтому его нужно усиливать:
-- давать тренинг в трансдисциплинах (онтологика с научным мышлением и коммуникацией, системное мышление, вычислительное мышление для работы с моделями, и т.д.)
-- переносить рутинную работу по факт-чеку и отслеживанию грубых логических ошибок на экзокортекс. Тупо фильтровать входящий информационный поток, как спам в почте и рекламные баннеры на страницах вебсайтов.
4. Коммуникация людей идёт со сдвигом в левую часть спектра формальности мышления (посредине между S1 и S2), ибо без этого а) не сможешь управлять вниманием в коммуникации, б) не сможешь добиться объединения онтик -- формальные же онтики не совместимы по определению! Вот тут часть вопросов, которые нужно обсуждать, если речь идёт об убеждающей коммуникации (а другой, "неубеждающей" так и не бывает -- мы ж всегда общаемся для чего-то!), вопрос в том, какие предвзятости при этом вносятся при деформализации/рендеринге, и какие предвзятости вносятся при формализации/схематизации. Вот набор ссылок, позволяющих хоть как-то непопсово это обсудить: https://ailev.livejournal.com/1494762.html (а результат обсуждения этих пунктов привёл к появлению курса "Онтологика и коммуникация", очередной поток начнётся 15 мая 2020 -- https://system-school.ru/united).
5. Фейк (вместе с достоверностью, свидетельствами, дезинформацией, манипуляцией) тоже спорное понятие. Фейком называют художественное произведение (авторский вымысел), выдаваемый за достоверное описание мира. Одна и та же информация может быть признана фейком (актёр или компьютерный алгоритм сыграл политического деятеля в порнофильме -- и автор уверяет, что это был сам политический деятель) или художественным произведением (то же самое, если статус вымысла предъявлен с самого начала). Есть пограничные случаи: во время трансляции радиопостановки "Войны миров" Герберта Уэллса многие люди подумали, что и впрямь идёт вторжение марсиан.
Но с фейком ситуация более тонкая: чтобы показать предмет какого-то интереса, вы должны договориться о способе описания. Если мой интерес к чайникам -- их тепло, а интерес художника -- их цвет, то мы должны договориться о способе описания. Иначе вся информация о чайниках от художника будет только про цвет, а горячий чайник или холодный -- вы не узнаете. Если вам рассказывают о разведчиках, а не шпионах -- сами понимаете, какой метод описания был выбран. Сепаратисты и боевики отличаются от борцов за независимость и ополчения только тем, какими словами вы их будете описывать и какие их "подвиги" будете показывать. Каждая деятельностная роль имеет свои методы описания, по ним мы эту роль и узнаём. А потом делаем вывод, что "описания этой проектной роли -- фейк", если форма описания художественная, даже если там говорится о фактах в рамках выбранного метода описания.
Бороться с фейками нужно, поднимая осознанность и тренируясь в трансдисциплинах. Тебе в ходе коммуникации всех со всеми предъявляют какие-то модели мира:
-- они могут быть сделаны с непривычным для тебя методом описания (viewpoint) из непривычной тебе ролевой позиции с её ролевыми предпочтениями, переданы непривычной (или даже неприятной тебе) терминологией. Это нужно отследить и реагировать рационально, а не эмоционально.
-- у них может быть низкая правдоподобность, так что научное мышление нужно не выключать, оно всегда должно присутствовать.
-- эти модели могут быть редукционистскими, поэтому не нужно выключать системное мышление
-- эти модели могут быть логически кривыми, поэтому не нужно выключать логику
6. Все эти "добавления предвзятостей" появляются на разных шагах коммуникации -- и если речь идёт о СМИ, то в этой коммуникации кучи ролей, и добавление предвзятостей к не-фейку или даже изготовление фейка делается профессионально. И каждая роль может добавить свои предвзятости, тщательно спроектированные, свои придуманные "правдоподобные детали" (в кавычках!) к тщательно отобранным реальным и общеизвестным фактам. В информационной кампании как практике массовой коммуникации есть множество деятельностных ролей: автор (схемы) сообщения, автор рендеринга (помним, что рендеринг из одной схемы может сделать множество самых разных сообщений), редактор/editor (вытаскивает из авторов рендеринга их рендеринги и проверяет на неискажение исходной схемы), контент-менеджер (размещает рендеринги в разных каналах -- социальные сети, реклама, форумы и т.д.), аналитик (изучает эффект воздействия и даёт рекомендации авторам рендеринга и контент-менеджерам). И это ещё не полный набор ролей! Если вы заняты обработкой мозгов большого количества народа, то хорошо работает принцип разделения труда. Как на английской мануфактуре: производство булавки было разбито на от 17 до 20 операций, и вместо одного мастера, умевшего делать все стадии, стали работать "просто рабочие" на каждой из этих операций -- и производительность труда выросла в сотни раз. Информационное производство тут не сильно отличается.
7. Я сам профессионально занимался пиар-компаниями (не одной, и не маленькими), и поэтому знаю ситуацию ещё и изнутри. Вот я писал в 2005 году алгоритм работы пиар-службы для ведения успешной кампании, "влияние на общественное мнение": https://ailev.livejournal.com/325303.html. Вот фрагмент текста по этой ссылке:
Как говаривает Валера Бардин, у нас в стране есть 40000 датчиков, которые равномерно распределены среди населения и выражают его чаяния и общее миропонимание -- это 40000 журналистов, которые пишут, пишут пишут. Что понимают эти журналисты, то и понимает общество. Если очень хочется знать, что понимает какая-то определенная часть общества, то читайте ту прессу, которую читает эта часть общества (скажем, читайте Коммерсант и Ведомости -- и вы узнаете, что на уме у общества, которое читает Коммерсант и Ведомости).8. Сегодня уже не 2005 год, по факту уже нет независимой прессы, поэтому журналистам можно давать команду -- какие темы считать важными. Журналистов перед этим уже не нужно предварительно слушать.
Более того, эти 40000 журналистов являются не только датчиками, но и эффекторами. И еще одно: они выстроены в некоторую иерархию, так что переписывают идеи друг у друга (достаточно заглянуть в news.yandex.ru, чтобы оценить масштаб этого переписывания). Поэтому журналистов нужно рассматривать и в качестве датчиков состояния общества, и в качестве эффекторов, которые меняют состояние общества.
Конечно, высказывание о том, что журналисты и их читатели разделяют (share) один и тот же набор мемов (мем -- это элементарная единица информации, которая передается от человека человеку, в частности передается от журналиста читателю) само по себе весьма спорно в теории. Но в области не столько общественных наук, сколько практик это вполне рабочее упрощение.
Рассматриваемый цикл изменения общественного мнения включает тем самым три субъекта: ньюсмейкера (Организацию, а не человека), журналистов и общества. Если мнение журналистов изменилось, то мы считаем, что через некоторое время изменяется и мнение общества. Ежели мнение общества изменилось, то через некоторое время изменяется мнение журналистов. Тем самым взаимодействие с обществом сводится ко взаимодействию с журналистами: если хотите узнать общественное мнение, слушайте журналистов, а если хотите изменить общественное мнение, говорите журналистам.
Ибо говорить нужно только на те темы, которые они считают важными. Неумение слушать журналистов перед разговором с ними ведет к проигрышу пиар-кампании.
СМИ -- это экзокортекс (память и средства управления вниманием), который для вас готовят журналисты. То, что современного журналиста называют "блогер", а СМИ -- "блог" или даже "канал", ничего не меняет. Все эти "блоги", "журналы", "газеты", "каналы" -- чужие блокноты для заметок, в которых много людей могут почитать, что пишут журналисты.
Если вы хотите, чтобы эти публичные блокноты показывали не настоящее общественное мнение, а вымышленное -- вам нужно купить перья всего 40тыс. человек. Это недорого. 40млн. долларов в месяц, полмиллиарда долларов в год -- и каждый журналист получит месячную прибавку к зарплате в 75тыс. рублей, и вы после этого никогда не узнаете, что думают сами журналисты (и тем самым все остальные люди -- общественное мнение будет спрятано за вброшенной помехой).
В видео https://www.youtube.com/watch?v=LxHdzGDazXg приведён абсолютно актуальный (даже в части разговора о медицине) на сегодня совет, который применим ныне и к самиздату (то есть социальным сетям и тамошним "блоггерам"):
-- Преображенский: А если вы заботитесь о своём пищеварении, мой добрый совет: не говорите за обедом о большевизме и медицине. И - боже вас сохрани - не читайте до обеда советских газет.
-- Борменталь: Гм... Да ведь других нет!
-- Преображенский: Вот никаких и не читайте.
А в освободившееся от этого тупления в интернеты время займитесь изучением трансдисциплин. Сходите, например, на ту же онтологику. Там подзаголовок курса -- "мыслительный минимум образованного человека".
UPDATE: обсуждение в фейсбуке -- https://www.facebook.com/ailevenchuk/posts/10218344738023866