Производство сомнений: кто и как манипулирует общественным мнением

УДК 316.6

Аннотация

Современные общества существуют в состоянии постоянного напряжения между необходимостью обеспечения свободы и поддержанием социальной стабильности. В этих условиях процессы формирования общественного мнения всё чаще определяются не только содержанием распространяемой информации, но и институциональными, психологическими и технологическими факторами, влияющими на её производство, интерпретацию и распространение.

Цель исследования заключается в анализе механизмов формирования устойчивых информационных искажений через взаимодействие институциональных стимулов, когнитивных механизмов и алгоритмической инфраструктуры цифровых платформ.

Методологическую основу работы составляют междисциплинарный анализ научной литературы, сравнительный анализ исторических кейсов, а также элементы институционального и социально-психологического подходов. Рассмотрены примеры влияния экономических и политических стимулов на производство знаний, психологические механизмы поддержания ошибочных убеждений и роль алгоритмов цифровых платформ в усилении информационных искажений.

В результате исследования показано, что производство сомнения представляет собой не следствие отдельных ошибок или целенаправленных заговоров, а системное свойство современной информационной среды, возникающее вследствие взаимодействия институтов, человеческой психологии и цифровых технологий. Полученные результаты могут быть использованы для дальнейшего изучения механизмов информационного воздействия и разработки подходов к повышению устойчивости общества к дезинформации.

Abstract

Modern societies exist in a state of constant tension between the need to preserve individual freedom and the maintenance of social stability. Under these conditions, the formation of public opinion is increasingly shaped not only by the content of disseminated information but also by institutional, psychological, and technological factors that influence its production, interpretation, and dissemination.

The aim of this study is to analyze the mechanisms underlying persistent informational distortions through the interaction of institutional incentives, cognitive mechanisms, and the algorithmic infrastructure of digital platforms.

The methodological framework combines an interdisciplinary review of the scientific literature, comparative analysis of historical case studies, and elements of institutional and socio-psychological approaches. The study examines examples of how economic and political incentives influence knowledge production, explores the psychological mechanisms that sustain erroneous beliefs, and analyzes the role of digital platform algorithms in amplifying informational distortions.

The findings demonstrate that the manufacturing of doubt should be understood not as the result of isolated errors or deliberate conspiracies but as a systemic property of the contemporary information environment emerging from the interaction of institutions, human psychology, and digital technologies. The findings may contribute to further research on information influence mechanisms and support the development of approaches aimed at increasing societal resilience to misinformation.

Ключевые слова: Институциональные искажения; производство сомнения; когнитивный диссонанс; структура стимулов; социальный порядок; диффузия ответственности.

Keywords: Institutional bias; production of doubt; cognitive dissonance; incentive structures; social order; diffusion of responsibility.

Введение

Распространение дезинформации и снижение доверия к общественным институтам являются одной из ключевых проблем современной информационной среды. Несмотря на большое количество исследований, механизмы формирования устойчивых информационных искажений требуют комплексного анализа.

Цель исследования – проанализировать механизмы формирования информационных искажений как результата взаимодействия институциональных стимулов, когнитивных механизмов и алгоритмической инфраструктуры цифровых платформ.

Задача исследования – определить роль институциональных, психологических и технологических факторов в возникновении и поддержании феномена «производства сомнения».

Материалы и методы

Исследование выполнено на основе междисциплинарного подхода, объединяющего методы институционального анализа, социальной психологии и исследований цифровых коммуникаций. Материалами исследования послужили научные публикации, посвящённые институциональным искажениям информации, когнитивным механизмам принятия решений, а также исторические кейсы и современные исследования алгоритмических систем. Основными методами исследования являются анализ научной литературы, сравнительно-исторический анализ и кейс-анализ.

Результаты и обсуждения

1.1 Институциональные стимулы производства сомнений

Политическая философия давно обсуждает проблему хрупкости социального порядка. Томас Гоббс описывал «естественное состояние» как ситуацию «войны всех против всех», где жизнь становится «одинокой, бедной, отвратительной, жестокой и короткой». Его аргумент в пользу сильной власти строился не на восхищении авторитаризмом, а на страхе анархии [1].

Этот страх сохраняется и в современных институтах. Управление информацией и нарративами часто оправдывается необходимостью предотвращения распада. Но возникает структурный парадокс:

• слабый контроль ведёт к фрагментации;

• чрезмерный контроль подавляет критику и усиливает накопление ошибок.

Свобода и стабильность находятся в состоянии постоянного напряжения.

Картина «злых элит» упрощает реальность, но столь же наивна и вера в абсолютную объективность институтов.

Институты встроены в систему стимулов:

• финансирование,

• карьерная устойчивость,

• репутация,

• власть,

• прибыль,

• политическое влияние.

Механизм диффузии ответственности делает ложь не результатом тайного центра управления, а побочным эффектом ролей. То, что Ханна Арендт называла «банальностью зла», проявляется институционально: юрист защищает компанию, менеджер выполняет KPI, учёный стремится к публикации, чиновник минимизирует скандал. Искажение становится не актом злобы, а логикой самосохранения системы [2].

В классических экспериментах Stanley Milgram около 65 % участников продолжали выполнять инструкции авторитетной фигуры, даже когда полагали, что причиняют серьёзный вред другому человеку [3].

Дополнительным элементом институциональной динамики является феномен «revolving door» — переход специалистов между регулирующими органами и индустрией. Исследования карьерных траекторий показывают, что сотрудники регуляторных агентств нередко после завершения государственной службы переходят в компании или консалтинговые структуры, работающие в регулируемой отрасли. Подобные переходы могут способствовать передаче экспертизы между государством и рынком, однако одновременно создают риск конфликта интересов и смягчения регуляторной политики [4].

Кейс банка Bank of Credit and Commerce International (1972–1991) иллюстрирует, как институциональные стимулы и фрагментация контроля могут поддерживать искажения без единого центра управления. Благодаря сети из сотен офшорных структур в десятках юрисдикций банк фактически эксплуатировал разделённость финансового надзора: каждый регулятор контролировал лишь ограниченную часть операций, что делало целостную картину трудно наблюдаемой.

Последующие парламентские и журналистские расследования показали, что через инфраструктуру BCCI проходили операции, связанные с отмыванием средств, коррупционными платежами и обходом финансовых ограничений. В такой конфигурации институциональная реакция часто запаздывала. Закрытие банка означало бы масштабные финансовые последствия, затрагивавшие международные рынки, политические интересы и сети капитала [5].

1.2 Научные институты и влияние экономических интересов

Наука как метод остаётся мощнейшим инструментом поиска истины. Но научные институты не изолированы от экономических стимулов.

Табачная индустрия

В судебных процессах против Philip Morris International были раскрыты документы, демонстрирующие стратегию «создания сомнения». Часть учёных, получавших финансирование от индустрии, публично подчёркивали неопределённость данных о вреде курения.

Аргументация строилась вокруг следующих тезисов:

• «Корреляция не равна причинности»;

• «Необходимы дополнительные исследования»;

• «Данные противоречивы».

Формально это были корректные научные оговорки. Но в контексте стратегии они использовались как инструмент отсрочки регулирования [6].

Свинец в бензине

General Motors совместно с химическими компаниями продвигала тетраэтилсвинец как технологический прорыв. Некоторые специалисты, работавшие в корпоративных лабораториях, публиковали материалы, минимизирующие риски токсичности.

Ранние сигналы об отравлениях трактовались как «промышленные исключения», а не системная проблема. Экономическая выгода от антидетонационной добавки перевешивала осторожность [7].

Сахарная индустрия

Показательным примером является влияние сахарной индустрии на научную повестку в середине XX века. В 1960-х годах отраслевые структуры финансировали исследования, смещавшие акцент в объяснении сердечно-сосудистых заболеваний с потребления сахара на насыщенные жиры.

Исторический анализ архивных документов, опубликованный в JAMA Internal Medicine, показал, что представители сахарной индустрии участвовали в формировании исследовательских тем и обсуждении интерпретаций. Среди авторов обзорных работ были исследователи из Harvard University [8].

Опиоидный кризис

Purdue Pharma продвигала OxyContin как препарат с низким риском зависимости. В научных публикациях, финансируемых компанией, подчёркивался «контролируемый характер» высвобождения вещества. Зависимость врачебного сообщества от образовательных грантов и спонсируемых конференций создавала среду, где критика ослабевала [9].

Грантовая зависимость сегодня

Современная академическая среда функционирует по модели грантового финансирования.

Исследователь зависит от:

• государственных фондов;

• корпоративных контрактов;

• частных доноров.

Формально гранты не диктуют выводы. Но они формируют рамку вопросов, которые «интересно» изучать. Кроме того, принцип «publish or perish» создаёт давление. Это не означает тотальную коррупцию науки. Но создаёт системный перекос, где научное сообщество структурно зависит от источников ресурсов. Мета-анализ, проведённый Lisa Bero и коллегами, показал, что исследования, финансируемые индустрией, на 27 % чаще сообщают положительные результаты и на 34 % чаще формулируют благоприятные выводы по сравнению с независимыми исследованиями [10].

1.3 Психологические механизмы соучастия

Теория когнитивного диссонанса, предложенная Леон Фестингер, утверждает: когда человек сталкивается с информацией, противоречащей его убеждениям или действиям, возникает внутреннее напряжение [11].

Чтобы снизить его, человек чаще:

• рационализирует поведение («всё не так однозначно»);

• обесценивает источник информации;

• выбирает подтверждающие данные;

• меняет интерпретацию фактов, но не убеждение.

Пример: если человек поддерживал определённую политику, признание её вреда требует признать собственную ошибку. Психологически проще минимизировать проблему.

Исследования Stephan Lewandowsky показывают, что даже после корректировки ложной информации её влияние на рассуждения часто сохраняется — феномен, известный как continued influence effect [12].

Конформизм

Эксперименты Соломон Аш показали, что люди готовы соглашаться с очевидно неверным мнением группы, чтобы избежать социального давления [13].

Механизмы конформизма

• страх социальной изоляции;

• желание принадлежности;

• доверие к «коллективной норме»;

• избегание конфликта.

В институциональной среде это проявляется как молчаливое согласие. Даже сомневающийся сотрудник может не высказываться, если большинство транслирует иную позицию.

Массовая психология

Ещё Гюстав Лебон писал о снижении индивидуальной критичности в толпе. Эмоции усиливаются, сложность редуцируется, нюансы исчезают. Коллективная уверенность начинает подменять эмпирическую проверку. Таким образом, устойчивость системных иллюзий объясняется не только действиями институтов, но и глубинной психологической динамикой групп [14].

Системы способны исправляться при наличии конкуренции институтов, независимых судов и свободы критики. Способность системы к самокоррекции через конкуренцию институтов (независимую журналистику, суды и научную рецензию) является предохранителем, но не гарантией мгновенной безопасности.

Парадокс заключается в институциональном лаге: между выявлением искажения и его исправлением существует временной интервал, в течение которого миллионы людей продолжают подвергаться рискам. Таким образом, наличие механизмов коррекции в долгосрочной перспективе не отменяет высокой «человеческой цены» системных ошибок в краткосрочной и среднесрочной перспективе.

Также существует противоположная опасность — тотальный цинизм. Если «все лгут одинаково», исчезают критерии различения. Радикальный скепсис делает человека уязвимым к любой новой манипуляции. Критическое мышление — это не отрицание всего, а калибровка доверия. Эксперименты Thomas Wood и Ethan Porter с участием более 10 000 респондентов показали, что корректировка ложной информации в большинстве случаев снижает уровень заблуждений, а эффект «обратного действия» практически не наблюдается [15].

1.4 Алгоритмическое усиление информационных искажений

Развитие алгоритмических систем рекомендаций и появление генеративных моделей искусственного интеллекта (large language models, LLM) существенно изменили динамику распространения и производства информационных искажений. Традиционные платформы уже давно используют алгоритмы для приоритизации контента, что может усиливать поляризацию и селективное восприятие информации за счёт персонализированной фильтрации. Генеративные системы позволяют одному субъекту поддерживать сотни или тысячи синтетических аккаунтов, нарративов и точек зрения, создавая иллюзию широкого общественного консенсуса там, где его может не существовать. Кроме того, манипуляция мнением через ИИ опаснее традиционной пропаганды, потому что она выглядит не как крикливый лозунг, а как «логичный, взвешенный и усредненный» ответ на ваш вопрос [16].

Дальнейшее изучение роли генеративных моделей в формировании и усилении информационных искажений представляется одним из приоритетных направлений междисциплинарных исследований [17].

Заключение

Проведённый анализ показывает, что искажение информации в современных обществах нередко возникает не только как результат целенаправленных манипуляций, но и как следствие взаимодействия институциональных стимулов, когнитивных механизмов и технологической инфраструктуры. Институциональные структуры формируют стимулы, которые могут поощрять сохранение доминирующих нарративов и снижать вероятность их критического пересмотра. На уровне индивидуального восприятия устойчивость подобных искажений поддерживается когнитивными процессами, включая когнитивный диссонанс и конформизм. В цифровой среде данные процессы дополнительно усиливаются алгоритмической селекцией контента и возможностями масштабного производства информации.

Таким образом, «производство сомнения» можно рассматривать как системное свойство современной информационной экосистемы. Дальнейшие исследования могут быть направлены на эмпирическое изучение предложенной модели и анализ роли алгоритмических систем в формировании информационных искажений.

Список литературы