Институты борьбы с дезинформацией и мисинформацией в СМИ

Раздел: Современная журналистика: тематика и проблематика

Статья посвящена исследованию разницы между понятиями «дезинформация» и «мисинформация». Так как не вся ложная информация в СМИ, при наличии неоспоримых фактов, доказывающих данный момент, является непосредственно дезинформацией, необходимо разделять категории с учетом интенциональной составляющей подобных публикаций. В статье рассматриваются существующие в различных странах социальные институции, занимающиеся борьбой с мисдезинформацией, с разделением их на действующие на уровне одного или нескольких государств официальные комиссии или министерства и более мелкие, существующие в формате, например, издательства. На примере кейса нидерландского издания «DROG» будет рассмотрена реализация стратегии, несколько отличающейся от стандартных методов — по типу фактчекинга (проверки фактов), — и то, как она способствует развитию культуры критического отношения к статьям в разного рода СМИ.

Введение

Практически любой человек неразрывно связан с процессом потребления информации об окружающем его мире как из СМИ, так и из альтернативных каналов коммуникации. Сегодня одной из главных проблем становится качество получаемой информации и ее влияние на общество.

В данной работе проводится попытка разграничить следующие понятия: «дезинформация», относящиеся к ней фейковые ново­сти и «мисинформация». Ставятся следующие вопросы:

1. Что представляет собой дезинформация, «фейковые новос­ти», мисинформация и как различать данные термины?

2. Все ли «фейковые новости» и дезинформацию можно отно­сить к намеренному дезинформированию?

3. Какие существуют методы борьбы с данными явлениями?

В эпоху глобализации многие СМИ используют дезинформа­цию и сами попадают под ее воздействие, неосознанно производя недостоверную информацию — фейковые новости. Прибегают к их помощи для достижения различных целей: навязывание мне­ния и видения мира, расширение аудитории и т. д. (Rubin, Chen and Conroy, 2015), зачастую используя при этом апелляцию как к вполне реальным, так и к иррациональным страхам людей.

В нынешнее же время любое глобальное событие (выборы в различных странах, военные конфликты, ситуации с беженцами и прочие события) практически сразу «обрастает» фейками (Ibid). Что зачастую является результатом информационных противо­борств как различных государств, так и отдельных групп лиц, от­стаивающих свои интересы.

Сама концепция и ее осуществление не являются новым изо­бретением и успешно использовались, например, в СССР с 1923 г (дата создания Дезинформбюро) под названием «дезинформация» (Manning and Romerstein, 2004).

Дезинформация

Для достаточного понимания процесса не будет лишним озна­комиться с теоретическими аспектами. Дезинформация - это рас­пространение искаженных или заведомо ложных сведений для до­стижения пропагандистских, военных (введение противника в заблуждение) или других целей (Коновалов, 2010). Дезинформа­цией (или дезинформированием) называется сам процесс манипу­лирования информацией: введение кого-либо в заблуждение путем предоставления неполной информации, искажения контек­ста, искажения части информации.

По версии «Оксфорд ливин дикшионари» (Oxford Living Dic­tionary) понятие выглядит немного иначе. В нем дезинформацией называется «ложная информация, которая направлена на введе­ние в заблуждение, это пропаганда, созданная правительственны­ми организациями по отношению к противникам или СМИ»¹.

Цель такого воздействия всегда одна — оппонент должен пос­тупить так, как это необходимо манипулятору. Поступок субъекта, против которого направлена дезинформация, может заключаться в принятии нужного манипулятору решения или в отказе от при­нятия невыгодного для манипулятора решения. Но в любом слу­чае конечная цель — это действие, которое будет предпринято оп­понентом.

Дезинформация, таким образом, — это осознанный акт дея­тельности человека, попытка создать ложное впечатление и, соот­ветственно, подтолкнуть объект к желаемым действиям или без­действию. Характерной особенностью «дезы» становится то, что она активно используется в военное время, не важно, «горячая» эта война или «холодная». Масштаб, методы и формат «войны» становятся не ее основополагающим факторами, а, скорее, лишь отражают специфику конкретной конфликтной ситуации.

Как один из примеров использования данного метода проана­лизируем следующий момент времен «холодной» войны. Мнение о роли СССР в развитии института создания и распространения дезинформации высказывается в статье «Вашингтон Пост» (The Washington Post) «Before "fake news", there was Soviet "disinformation"» (До «фейковых новостей» была советская «дезинформация»)².

Публикация начинается с рассказа о событиях 80-х гг., связан­ных с мифом о том, что США собирается запустить в Индию

СПИД. Началом череды событий стала статья в небольшой просо­ветской, как утверждается в статье, газете в Индии под названием «Патриот» (Patriot) - «AIDS may invade India: Mystery disease caused by US experiments» от 17 июля 1983 г., в которой процитировано письмо пожелавшего сохранить анонимность, но «широко извест­ного американского ученого и антрополога». Там заявлялось, что Пентагон разрабатывает новые виды биологического оружия, но эксперименты вышли из-под контроля и потребовалось срочно перенести их из США в другие страны, преимущественно развива­ющиеся, которые легко поддаются влиянию и давлению Вашинг­тона.

Вначале публикация осталась незамеченной, но в октябре 1985 г., она появилась в «Литературной газете». В следующем году она была опубликована уже на главной странице одного из британских таблоидов. Тут уже нетрудно предположить, как бы­стро она разлетелась по всему миру. В 1987 г., по данным Кэйтлин Бэйли из Бюро разведки и исследований госдепартамента США, статья появилась в крупнейших газетах более 50 стран³.

Лаборатория Форт-Детрик, указанная в статье «Патриота», действительно существует, но до конца не известно, действитель­но ли там занимались созданием вируса ВИЧ. Одним из последст­вий данной информационной кампании можно считать следую­щей момент: опрос, проведенный в 2005 г. в США среди чернокожего населения (500 человек), показал, что почти 50% опрошенных верят в то, что СПИД был создан человеком искусст­венно. В любом случае, общепринятым остается мнение о переда­че данного вируса от обезьяны к человеку⁴.

Действительно трудно оценить насколько много людей под­верглись воздействию данных публикаций. Но если принять во внимание широту распространения информации (более 50 стран) и далее предположить, что, к примеру, 5% от общей массы читате­лей газет искренне поверили этим статьям и готовы отстаивать свою точку зрения различными способами (например, митинга­ми, разгневанными письмами, призывами к принятию правитель­ствами различных решений и т. д.), в итоге может возникнуть большая группа людей, решительно настроенных на изменение ситуации. Причем до конца не известно, правдива была информа­ция в этих публикациях или нет.

Но в процессе создания и распространения недостоверной ин­формации жертвой становится не только аудитория, но и сами СМИ, теряющие как репутацию, так и источники финансирова­ния из-за того, что зачастую не уделяют должного внимания вери­фикации полученных данных и просто перепечатывают наиболее ажиотажные статьи из мало проверенных источников. Впоследст­вии процесс опровержения подобных статей может привести толь­ко к ухудшению ситуации (Nyhan, Reifler, 2015). Неосознанное до­пущение ошибок в публикациях уже будет относиться к понятию мисинформация, которое более распространено в англоязычном мире.

Прежде чем перейти к анализу мисинформации, необходимо рассмотреть феномен «фейковых новостей» («fake news»).

«Фейковые новости»

Данным термином сейчас называют дезинформацию, как мож­но понять из упомянутой ранее статьи «Вашингтон Пост». Попу­лярным термин стал с момента последних президентских выборов в США, что подтверждает рис. 1 от «Гугл Трендс» (Google Trends), который показывает резко возросшую частоту поиска по словосо­четанию «fake news» (фэйковые новости)⁵ .

Во время прошедших президентских выборов стали широко распространены взаимные обвинения кандидатов в президенты (Хиллари Клинтон, Дональда Трампа) в создании «фейковых но­востей». По мнению Дональда Трампа, на тот момент уже ставше­го президентом США, главными виновниками этого являются «Си-Эн-Эн» (CNN), «Баззфид» (Buzzfeed) и «Зэ Нью Йорк Таймс» (The New York Times)⁶.

В статье от «Зэ Телеграф» (The Telegraph) говорится о том, что сами по себе «фейковые новости» не новы и тесно связаны с аме­риканской историей. В публикации Тим Стэнли, британский журналист, напоминает об одном из подобных моментов. Во вре­мя президентских выборов 1828 г. в США один из кандидатов, Эндрю Джэксон, обвинил своего соперника (Джона Квинси Адамса) в том, что во время его пребывания на посту посла США в России «он предоставил русскому царю американскую девушку»⁷.

Исходя из проанализированных данных, можно заключить, что дезинформация как феномен не является исконно советским изо­бретением, а тесно связана и с американским обществом, которое в не меньшей степени может использовать дезинформацию в сво­их внутренних целях. Можно сказать, что само понятие «дезин­формация» стало ассоциироваться с Советским Союзом и его информационной политикой в годы «холодной войны», но ис­пользуемые методы зародились еще до образования СССР.

Для подтверждения изменения понятия дезинформация на «фейковые новости» приведем определение термина «фейковые новости» из работы Ханта Элкота и Мэттью Дженцкау: «Фейковые новости» - это новости, которые намеренно ложны, что может выясниться при их проверке, и они могут ввести в заблу­ждение читателей. (Allcott and Gentzkow, 2017). Здесь мы наблюда­ем отождествление понятий дезинформация и «фейковые ново­сти».

Мисинформация

Данный термин представляет собой распространение ложной, ошибочной информации, но без осознания автором того, что эта информация не соответствует действительности (Lewandowsky, Ecker, Seifert, Schwarz et al, 2012), например, публикации с недо­статочной верификацией фактов, неточные переводы статей и вы­сказываний с иностранных языков. Главной особенностью остает­ся то, что ошибки допущены автором не намеренно.

Примером мисинформации служит недавняя ситуация с рос­сийскими СМИ и высказыванием советника по арктической политике правительства штата Аляска Крейга Флинера. На фору­ме «Арктика - территория диалога», прошедшем в конце марта 2017 г., как раз в 150-ю годовщину продажи Аляски Соединенным Штатам, советник якобы заявил, что Аляска «могла бы быть более развитым регионом, если бы находилась под управлением Рос­сии». В самой цитате приводились слова Флинера, согласно кото­рым «из-за географического положения и близости к Канаде и США, возможно, русские бы развивали Аляску с точки зрения обеспечения национальной безопасности». В связи с этим, как высказался чиновник, «регион мог бы быть более развит в отно­шении безопасности». Статья с данной информацией была опу­бликована на сайте РИА «Новости»⁸. При этом в первом абзаце текста говорилось об общем развитии Аляски.

Однако на уточняющий вопрос корреспондента «Москоу Таймс» (The Moscow Times) Флинер заявил, что считает ровно противопо­ложное: «Аляска очень далеко от развитой части России и поэтому не могла бы быть более развитой».

Тем не менее в день публикации сообщение РИА «Новости» было распространено многочисленными СМИ и за счет ресурсов МИА «Россия сегодня» и телеканала «Раша Тудэй» (Russia Today) (его возглавляет Маргарита Симоньян, также являющаяся и глав­ным редактором МИА, в структуру которого входит сайт РИА «Новости») переведено на несколько языков⁹.

В интервью для «Аляска Диспатч Ньюс» (Alaska Dispatch News) в статье под названием «Советник по арктической политике Аляс­ки стал жертвой фейковых новостей в России» («Alaska's Arctic policy adviser falls victim to fake news - in Russia») Крейг Флинер предположил, что возникшая лавина публикаций стала результа­том языкового барьера, ошибок при переводе¹⁰.

В итоге складывается двоякая ситуация: вполне возможно, что данная проблема действительно возникла в результате того, что российские СМИ всего лишь неправильно перевели слова Флинера. После этого РИА «Новости» поменяли название статьи с «В правительстве Аляски заявили, что регион был бы более развит под управлением России»¹¹ на «Советник правительства Аляски: мы ценим отношения с Россией».

На рис. 2 наглядно представлена разница между терминами¹².

Если применить данные категории к вышеописанному случаю про историю распространения СПИДа, то можно создать следую­щую схему:

1. Первичный источник дезинформации - газета «Патриот» из Индии.

2. Вторичный источник дезинформации/мисинформации - «Литературная Газета» СССР (тут вопрос с отнесением к определенной категории осложняестя отсутствием точных данных о намерениях автора статьи).

3. Начало/продолжение мисинформации - Британский та­блоид.

4. Продолжение мисинформации - различные крупные газе­ты по всему миру.

По ней мы можем подвергать разбору места различных спор­ных публикации для выявления истинных намерений через после­дующий анализ принадлежности первичных источников, в случае с дезинформацией. Но все равно, это применимо в случае, если мы имеем подтверждающие данные или убеждены в том, что име­ем дело с дезинформацией.

В случае с мисинформацией дело обстоит немного иначе, за счет неосознанного характера действий СМИ.

Варианты борьбы с дезинформацией и мисинформацией

Собственно, скрупулезная проверка как самой информации, так и анализ самих источников, является одним из вариантов борьбы с дезинформированием и мисинформированием. Инсти­туты имеют право на создание официальных государственных ко­миссий.

Например, Оперативная рабочая группа по стратегическим коммуникациям «Ист СтратКом Таск Форс» (East StratCom Task Force), которая была создана в марте 2015 г. Группа занимается разработкой коммуникационных материалов и кампаний, при­званных разъяснить политику ЕС в регионе Восточного партнер­ства:

1. Упреждающие кампании по стратегическим коммуникаци­ям, в основе которых лежит предметный анализ, разъясня­ющий ключевые сферы политики ЕС и создающий поло­жительный нарратив ЕС.

2. Ситуативные коммуникации по актуальным и значимым вопросам политики ЕС.

3. Анализ дезинформационных трендов, объяснение дезин­формационных нарративов и опровержение мифов³.

В качестве примера можно привести работу пресс-службы Ми­нистерства иностранных дел РФ, ведущей колонку под названием «Примеры публикаций, тиражирующих недостоверную информа­цию о России»¹⁴.

Дополнительная информация: в начале этого года в Чехии был создан Центр по борьбе с терроризмом и гибридными угрозами при МВД Чехии¹⁵.

В данном случае государственные институты нередко тратят время на борьбу друг с другом, как бы соревнуясь в частоте опро­вержений и взаимных обвинений в дезинформации, а не на изме­нения общего информационного поля и отношения читателя к информации. Государства акцентируют внимание на самой про­блеме, но предлагают трудозатратный инструментарий борьбы с ней. Это связанно с ограниченностью их возможностей. Выража­ется это в соотношении условного количества работников вышео­писанных комиссий и количества разнообразных СМИ, распро­страняющих «фейковую» информацию, и общего объема материалов, которые государственные институции способны про­верять за определенный промежуток времени.

Но существует и иной подход к развитию института борьбы, который, по моему мнению, представляет большой интерес за счет своего неординарного подхода к созданию культуры противо­действия ложной информации - «ДРОГ» (DROG), легальная фабрика выдуманных новостей в Европе, находящаяся в Гааге. Ключевая особенность состоит в том, что DROG не просто созда­ет фейковые новости и публикует их в сети, но и учит других, как их создавать.

«Компания создана для того, чтобы научить людей распозна­вать ложные новости. Кликнув, пользователь переходит не на ста­тью, как ожидал, а на сайт "ДРОГ". Там ему объясняют, что все, что он прочитал, - ложь, и предлагают больше узнать о приемах дезинформации, которые сегодня применяются в Сети»¹⁶.

Далее процитирую Руурда Оостервуда, создателя «ДРОГ»: «Подталкивая людей читать наши выдумки и объясняя им, что с этими новостями не так, мы даем читателям, скажем так, "шестое чувство". Оно им пригодится, когда они встретят аналогичные но­вости в другом месте».

Руурд рассказывает, что впервые по-настоящему испугался за­силья фейковых новостей в Нидерландах во время недавнего ре­ферендума об Ассоциации Украины с ЕС.

Тогда он собрал команду из шести человек, получил грант от госфонда поддержки журналистов и открыл свой метод против фейков - «обмануть и обучить». Руурд понимал, что разоблачать все фейки - слишком затратное дело, а читать теоретические лек­ции о них - слишком скучно.

«Результаты просто фантастические. Как только мы начали по­стить фейки в соцсетях, люди бросились их распространять. Это было просто невероятно, хотя в то же время и страшно: увидеть, что около 55% юзеров нам верили. Они приходили на сайт от пря­мого клика на нашу новость».

Однако не все пользователи считают поучительным такой об­ман. Узнав, что были обмануты, 75% читателей закрывают страни­цу «ДРОГ», но 10% остаются узнать, как работают фейки, а еще 10% желают сыграть в игру «Создай свой фейк и запусти его».

«В нашей игре "Пропаганда" игроки сперва выбирают персо­нажа: это может быть "сторонник теории заговора", "журналист", "создатель поста-наживки", - рассказывает разработчик игры Джон Роозенбейк. - От лица этих персонажей юзерам предлагает­ся создать свой фейк и понять цели и мотивы этих людей».

Выводы

Из анализа терминологии следует, что дезинформация - это осознанная деятельность человека, попытка создать ложное впе­чатление и, соответственно, подтолкнуть объект к желаемым дей­ствиям или бездействию. «Фейковые новости» - современная трансформация понятия «дезинформация», если сравнивать опре­деление термина из оксфордского словаря со значением из работы Элкота и Дженцкау, исчезла государственная роль при создании ложной информации. Мисинформация же представляет собой распространение ложной, ошибочной информации, но без осоз­нания автором того, что эта информация не соответствует дейст­вительности.

Не стоит утверждать, что СССР являлся основоположником и единственным распространителем дезинформации и «фейковых новостей». В том же обвиняют и Россию. Как показывает история американской политики, это не совсем так. Еще можно обратить­ся к колонке МИД РФ и подсчитать количество публикаций, «ти­ражирующих недостоверную информацию о России» (а на момент 25.09.2017 их было 35). Исходя из этого, можно сделать вывод, что созданием различных мифов могут заниматься не только знамени­тые «Russian hackers» (русские хакеры), но и «hackers» из других стран, в том числе и США.

Решение о правдивости информации остается только за кон­кретным читателем. Становится важным отношение читателя к отдельным явлениям, месту действия и личностям в статье, и, что не менее важно, восприимчивость и склонность либо к критиче­скому отношению к информации, либо к ее принятию без вери­фикации.

В последнем пункте заключается нюанс, который переводит мисинформацию в одну плоскость с дезинформацией для воспри­нимающих любое искажение информации радикально и с точки зрения абсолютной осознанности данных искажений авторами при публикации текстов. Тем не менее стоит разделять эти терми­ны для создания наиболее полной картины происходящего, в ко­тором может существовать место для случайности при составле­нии различных публикаций.

Исходя из вышесказанного, мы видим биполярный процесс - пока государства практикуют более агрессивную концепцию борь­бы с дезинформацией, затрачивая на это большие ресурсы (времен­ные, денежные и т. д.), из-за чего вся борьба начинает напоминать замкнутый круг, СМИ по типу «ДРОГ» используют иной метод, вы­страивая новую парадигму взаимодействия аудитории и «фейков» - через первичное привлечение внимания, переходя в игровую фор­му, что вполне может привести к постепенному изменению культуры поведения общества и реагирования на «фейки», не важно какого они формата: дез или мис. Если мы рассматриваем вопрос формирования доверия к источникам информации (как обычного человека, так и автора, подвергающегося мисинформации и про­должающего этот процесс), то подход, который мы наблюдаем у «ДРОГ», выглядит гораздо более привлекательным в данном ди­скурсе. Увеличение количества подобных СМИ по всему миру, мо­жет привести к снижению напряженности не только на уровне ло­кальных информационных полей, но и в глобальном масштабе. Конечно, появление или переход некоторых СМИ на систему, ко­торую практикует «ДРОГ», не сразу приведет к полному решению проблемы, если такое вообще возможно, учитывая специфику ин­дивидуальных особенностей каждого человека.

В этой статье сознательно подробно не раскрывались вопросы, связанные с не менее важным участником процесса перемещения информации - аудиторией, так как для подобной темы необходи­ма отдельная статья. Данной ремаркой хотелось бы еще раз отме­тить, что любой процесс по распространению информации вклю­чает в себя неразрывную связь взаимного влияния участников друг на друга: того, кто предоставляет информацию, и того, кто ее получает.

Таким образом, следует вывод: влияние на формирование лич­ности со стороны мира, в нашем случае со стороны СМИ, велико как никогда, несмотря на часто встречающиеся заявления о само­стоятельном и осознанном остракизме аудитории, как реакцион­ного процесса отказа от потребления огромных объемов информа­ции и, даже звучащего банально, но от этого не перестающего быть одним из инструментов противостояния - внутреннего бло­кирования любой поступающей информации из СМИ вообще.

Но, несмотря на все ухищрения и методы борьбы с огромными потоками разномастной информации, общая мировая тенденция все равно влияет на нашу жизнь, хотим мы этого или нет.

Примечания

¹ Oxford living dictionaries. Definition of disinformation in English. Available at: https://en.oxforddictionaries.com/definition/disinformation (accessed at 25.09.2017).

² The Washington Post. Before "fake news," there was Soviet "disinformation". Available at: https://www.washingtonpost.com/news/worldviews/wp/2016/11/26/before-fake-news-there-was-soviet-disinformation/?utm_term=.0dcf6dd67c47 (accessed at 13.06.2017).

³ Los Angeles Times. Soviets Sponsor Spread of AIDS Disinformation. Available at: http://articles.latimes.com/1987-04-19/opinion/op-1947_1_aids-disinformation/2 (ac­cessed at 13.06.2017).

⁴ The Washington Post. Study: Many Blacks Cite AIDS Conspiracy. Available at: http://www.washingtonpost.com/wp-dyn/articles/A33695-2005Jan24.html (accessed at 13.06.2017)

⁵ Google Trends. People searching for the term "fake news" has increased since the November 2016 US Presidential election. Available at: https://trends.google.co.uk/trends/explore?q=fake%20news (accessed at 25.09.2017).

⁶ Russia Today. Trump slams BuzzFeed as "failing pile of garbage," rejects CNN ques­tion over "fake" report. Available at: https://www.rt.com/usa/373355-trump-buzzfeed-report-reaction/ (accessed at 25.09.2017).

⁷ The Telegraph. What is fake news? Its origins and how it grew in 2016. Available at: http://www.telegraph.co.uk/technology/0/fake-news-origins-grew-2016/ (accessed at 25.09.2017)                  .

⁸ РИА «Новости». Советник правительства Аляски: мы ценим отношения с Россией. Режим доступа: https://ria.ru/world/20170329/1491073706.html (дата обращения: 25.06.2017).

⁹ MK.Ru. СМИ переврали американского чиновника: Аляска не могла развиваться в России. Режим доступа: http://www.mk.ru/politics/2017/03/31/smi-perevrali-amerikanskogo-chinovnika-alyaska-ne-mogla-razvivatsya-v-rossii.html (дата обращения: 25.06.2017).

¹⁰ Alaska Dispatch News. Alaska"s Arctic policy adviser falls victim to fake news — in Russia. Available at: https://www.adn.com/arctic/2017/04/11/alaskas-arctic-policy-ad-viser-falls-victim-to-fake-news-in-ru...(accessed at 20.06.2017).

¹¹ На Аляске заявили, что штат был бы более развитым под управлением Москвы. Режим доступа: http://web.archive.org/web/20170329211810/https://ria.ru/world/20170329/1491073706.htmlдата обращения: 25.06.2017).

¹² Wikimedia Research. Graphic showing differences between misinformation, disin­formation, and hoax, 2015. Available at:https://en.wikipedia.org/wiki/Misinformation#/media/File:Disinformation_vs_Misinformation.jpg (accessed at 20.06.2017).

¹³ European Union External Action. Оперативная рабочая группа по стратегическим коммуникациям East StratCom Task Force в вопросах и ответах. Режим доступа: https://eeas.europa.eu/node/16043_ru (дата обращения: 22.06.2017).

¹⁴ МИД РФ. Примеры публикаций, тиражирующих недостоверную информацию о России. Режим доступа: http://www.mid.ru/ru/nedostovernie-publikacii(дата обращения: 21.06.2017).

¹⁵   Настоящее Время. Как Чехия старается бороться с фейк-новостями. Режим доступа: https://www.currenttime.tv/a/28243386.html (дата обращения: 25.06.2017).

¹⁶ Настоящее Время. Этот сайт начал публиковать фейки, и вот что произошло с его статистикой. Режим доступа: https://www.currenttime.tv/a/28442906.html (дата обращения: 25.06.2017).

Библиография

Коновалов В.Н. Политология: Словарь. М.: РГУ. 2010.

Allcott H., Gentzkow M. (2017) Social Media and Fake News in the 2016 Election. Journal of Economic Perspectives 31 (2): 211–236.

Lewandowsky S., Ecker U.K.H., Seifert C.M., Schwarz N. et al. (2012) Misinformation and its correction: Continued influence and successful debiasing. Psychological Science in the Public Interest 13 (3): 106–131.

Manning M.J., Romerstein H. (2004) Historical Dictionary of American Propaganda. Greenwood.

Nyhan B., Reifler J. (2015) Displacing Misinformation about Events: An Experimental Test of Causal Corrections. Journal of Experimental Political Science 2 (1): 81–93.

Rubin V. L., Chen Y., Conroy N. J. (2015) Deception detection for news: Three types of fakes. Proc. Assoc. Info. Sci. Tech.

Поступила в редакцию 20.07.2017