ПРОИЗВОДСТВО СОМНЕНИЙ: КТО И КАК МАНИПУЛИРУЕТ ОБЩЕСТВЕННЫМ МНЕНИЕМ

АННОТАЦИЯ

Современные общества существуют в напряжении между свободой и стабильностью. Институты власти, науки, медиа и бизнеса стремятся не только к выгоде, но и к сохранению порядка. Цель настоящего исследования — проанализировать, каким образом институциональные стимулы, когнитивные механизмы и алгоритмическая инфраструктура цифровых платформ совместно формируют устойчивые информационные искажения.

В результате исследования было выявлено, что информационные искажения в современном обществе являются не случайными сбоями или заговорами, а системным продуктом взаимодействия институциональных стимулов, психологических механизмов и технологической инфраструктуры.

ABSTRACT

Modern societies exist in a state of tension between freedom and stability. Institutions of power, science, media, and business strive not only for profit but also for the preservation of order. The purpose of this study is to analyze how institutional incentives, cognitive mechanisms, and the algorithmic infrastructure of digital platforms collaboratively shape persistent informational distortions.

The study revealed that informational distortions in modern society are neither accidental failures nor conspiracies, but rather a systemic product of the interaction between institutional incentives, psychological mechanisms, and technological infrastructure.

Ключевые слова: Институциональные искажения, производство сомнения, когнитивный диссонанс, структура стимулов, социальный порядок, диффузия ответственности.

Keywords: Institutional bias, production of doubt, cognitive dissonance, incentive structures, social order, diffusion of responsibility.

Введение

Распространение дезинформации и снижение доверия к институтам стали одной из ключевых характеристик современной информационной среды. В публичном дискурсе это явление часто объясняется либо целенаправленными манипуляциями со стороны элит, либо отдельными ошибками информационных систем. Однако подобные интерпретации нередко игнорируют структурные механизмы, которые делают искажение информации устойчивым.

Методологически работа опирается на междисциплинарный подход, включающий анализ научной литературы и сравнительный анализ исторических кейсов, связанных с институциональным искажением информации. Предлагается рассматривать феномен «производства сомнения» как результат взаимодействия трёх уровней социальной динамики: институционального, психологического и технологического.

1. Порядок как ответ на страх хаоса

Политическая философия давно обсуждает проблему хрупкости социального порядка. Томас Гоббс описывал «естественное состояние» как ситуацию «войны всех против всех», где жизнь становится «одинокой, бедной, отвратительной, жестокой и короткой». Его аргумент в пользу сильной власти строился не на восхищении авторитаризмом, а на страхе анархии [6].

Этот страх сохраняется и в современных институтах. Управление информацией и нарративами часто оправдывается необходимостью предотвращения распада. Но возникает структурный парадокс:

• слабый контроль ведёт к фрагментации;

• чрезмерный контроль подавляет критику и усиливает накопление ошибок.

Свобода и стабильность находятся в состоянии постоянного напряжения.

2. Не заговор, а структура стимулов

Картина «злых элит» упрощает реальность, но столь же наивна и вера в абсолютную объективность институтов.

Институты встроены в систему стимулов:

• финансирование,

• карьерная устойчивость,

• репутация,

• власть,

• прибыль,

• политическое влияние.

Механизм диффузии ответственности делает ложь не результатом тайного центра управления, а побочным эффектом ролей. То, что Ханна Арендт называла «банальностью зла», проявляется институционально: юрист защищает компанию, менеджер выполняет KPI, учёный стремится к публикации, чиновник минимизирует скандал. Искажение становится не актом злобы, а логикой самосохранения системы [1].

В классических экспериментах Stanley Milgram около 65% участников продолжали выполнять инструкции авторитетной фигуры, даже когда полагали, что причиняют серьёзный вред другому человеку [13].

Дополнительным элементом институциональной динамики является феномен «revolving door» — переход специалистов между регулирующими органами и индустрией. Исследования карьерных траекторий показывают, что сотрудники регуляторных агентств нередко после завершения государственной службы переходят в компании или консалтинговые структуры, работающие в регулируемой отрасли. Подобные переходы могут способствовать передаче экспертизы между государством и рынком, однако одновременно создают риск конфликта интересов и смягчения регуляторной политики [3].

Кейс банка Bank of Credit and Commerce International (1972–1991) иллюстрирует, как институциональные стимулы и фрагментация контроля могут поддерживать искажения без единого центра управления. Благодаря сети из сотен офшорных структур в десятках юрисдикций банк фактически эксплуатировал разделённость финансового надзора: каждый регулятор контролировал лишь ограниченную часть операций, что делало целостную картину трудно наблюдаемой.

Последующие парламентские и журналистские расследования показали, что через инфраструктуру BCCI проходили операции, связанные с отмыванием средств, коррупционными платежами и обходом финансовых ограничений. В такой конфигурации институциональная реакция часто запаздывала. Закрытие банка означало бы масштабные финансовые последствия, затрагивавшие международные рынки, политические интересы и сети капитала [15].

3. Когда наука служит интересам

Наука как метод остаётся мощнейшим инструментом поиска истины. Но научные институты не изолированы от экономических стимулов.

Табачная индустрия

В судебных процессах против Philip Morris International были раскрыты документы, демонстрирующие стратегию «создания сомнения». Часть учёных, получавших финансирование от индустрии, публично подчёркивали неопределённость данных о вреде курения.

Аргументация строилась вокруг следующих тезисов:

• «Корреляция не равна причинности»;

• «Необходимы дополнительные исследования»;

• «Данные противоречивы».

Формально это были корректные научные оговорки. Но в контексте стратегии они использовались как инструмент отсрочки регулирования [14].

Свинец в бензине

General Motors совместно с химическими компаниями продвигала тетраэтилсвинец как технологический прорыв. Некоторые специалисты, работавшие в корпоративных лабораториях, публиковали материалы, минимизирующие риски токсичности.

Ранние сигналы об отравлениях трактовались как «промышленные исключения», а не системная проблема. Экономическая выгода от антидетонационной добавки перевешивала осторожность [12].

Сахарная индустрия

Показательным примером является влияние сахарной индустрии на научную повестку в середине XX века. В 1960-х годах отраслевые структуры финансировали исследования, смещавшие акцент в объяснении сердечно-сосудистых заболеваний с потребления сахара на насыщенные жиры.

Исторический анализ архивных документов, опубликованный в JAMA Internal Medicine, показал, что представители сахарной индустрии участвовали в формировании исследовательских тем и обсуждении интерпретаций. Среди авторов обзорных работ были исследователи из Harvard University [7]. 

Опиоидный кризис

Purdue Pharma продвигала OxyContin как препарат с низким риском зависимости. В научных публикациях, финансируемых компанией, подчёркивался «контролируемый характер» высвобождения вещества. Зависимость врачебного сообщества от образовательных грантов и спонсируемых конференций создавала среду, где критика ослабевала [16].

Грантовая зависимость сегодня

Современная академическая среда функционирует по модели грантового финансирования.

Исследователь зависит от:

• государственных фондов;

• корпоративных контрактов;

• частных доноров.

Формально гранты не диктуют выводы. Но они формируют рамку вопросов, которые «интересно» изучать. Кроме того, принцип «publish or perish» создаёт давление. Это не означает тотальную коррупцию науки. Но создаёт системный перекос, где научное сообщество структурно зависит от источников ресурсов. Мета-анализ, проведённый Lisa Bero и коллегами, показал, что исследования, финансируемые индустрией, на 27% чаще сообщают положительные результаты и на 34% чаще формулируют благоприятные выводы по сравнению с независимыми исследованиями [11].  

4. Психологические механизмы соучастия

Когнитивный диссонанс

Теория когнитивного диссонанса, предложенная Леон Фестингер, утверждает: когда человек сталкивается с информацией, противоречащей его убеждениям или действиям, возникает внутреннее напряжение [4].

Чтобы снизить его, человек чаще:

• рационализирует поведение («всё не так однозначно»);

• обесценивает источник информации;

• выбирает подтверждающие данные;

• меняет интерпретацию фактов, но не убеждение.

Пример: если человек поддерживал определённую политику, признание её вреда требует признать собственную ошибку. Психологически проще минимизировать проблему.

Исследования Stephan Lewandowsky показывают, что даже после корректировки ложной информации её влияние на рассуждения часто сохраняется — феномен, известный как continued influence effect [9]. 

Конформизм

Эксперименты Соломон Аш показали, что люди готовы соглашаться с очевидно неверным мнением группы, чтобы избежать социального давления [2].

Механизмы конформизма:

• страх социальной изоляции;

• желание принадлежности;

• доверие к «коллективной норме»;

• избегание конфликта.

В институциональной среде это проявляется как молчаливое согласие. Даже сомневающийся сотрудник может не высказываться, если большинство транслирует иную позицию.

Массовая психология

Ещё Гюстав Лебон писал о снижении индивидуальной критичности в толпе. Эмоции усиливаются, сложность редуцируется, нюансы исчезают. Коллективная уверенность начинает подменять эмпирическую проверку. Таким образом, устойчивость системных иллюзий объясняется не только действиями институтов, но и глубинной психологической динамикой групп [8]. 

5. Коррекция и пределы цинизма

Системы способны исправляться при наличии конкуренции институтов, независимых судов и свободы критики. Способность системы к самокоррекции через конкуренцию институтов (независимую журналистику, суды и научную рецензию) является предохранителем, но не гарантией мгновенной безопасности.

Парадокс заключается в институциональном лаге: между выявлением искажения и его исправлением существует временной интервал, в течение которого миллионы людей продолжают подвергаться рискам. Таким образом, наличие механизмов коррекции в долгосрочной перспективе не отменяет высокой "человеческой цены" системных ошибок в краткосрочной и среднесрочной перспективе.

Также существует противоположная опасность — тотальный цинизм. Если «все лгут одинаково», исчезают критерии различения. Радикальный скепсис делает человека уязвимым к любой новой манипуляции. Критическое мышление — это не отрицание всего, а калибровка доверия. Эксперименты Thomas Wood и Ethan Porter с участием более 10 000 респондентов показали, что корректировка ложной информации в большинстве случаев снижает уровень заблуждений, а эффект «обратного действия» практически не наблюдается [17].

6. Алгоритмическое усиление информационных искажений

Развитие алгоритмических систем рекомендаций и появление генеративных моделей искусственного интеллекта (large language models, LLM) существенно изменили динамику распространения и производства информационных искажений. Традиционные платформы уже давно используют алгоритмы для приоритизации контента, что может усиливать поляризацию и селективное восприятие информации за счёт персонализированной фильтрации. Генеративные системы позволяют одному субъекту поддерживать сотни или тысячи синтетических аккаунтов, нарративов и точек зрения, создавая иллюзию широкого общественного консенсуса там, где его может не существовать. Кроме того, манипуляция мнением через ИИ опаснее традиционной пропаганды, потому что она выглядит не как крикливый лозунг, а как «логичный, взвешенный и усредненный» ответ на ваш вопрос [10].

Дальнейшее изучение роли генеративных моделей в формировании и усилении информационных искажений представляется одним из приоритетных направлений междисциплинарных исследований [5]. 

Заключение

Проведённый анализ показывает, что искажение информации в современных обществах нередко возникает не только как результат целенаправленных манипуляций, но и как следствие взаимодействия институциональных стимулов, когнитивных механизмов и технологической инфраструктуры. Институциональные структуры формируют стимулы, которые могут поощрять сохранение доминирующих нарративов и снижать вероятность их критического пересмотра. На уровне индивидуального восприятия устойчивость подобных искажений поддерживается когнитивными процессами, включая когнитивный диссонанс и конформизм. В цифровой среде данные процессы дополнительно усиливаются алгоритмической селекцией контента и возможностями масштабного производства информации.

Таким образом, «производство сомнения» можно рассматривать как системное свойство современной информационной экосистемы. Дальнейшие исследования могут быть направлены на эмпирическое изучение предложенной модели и анализ роли алгоритмических систем в формировании информационных искажений.

Список литературы:

1. Arendt, H. (1963). Eichmann in Jerusalem: A Report on the Banality of Evil. Penguin Classics.
2. Asch, S. E. (1955). Opinions and Social Pressure. Scientific American.
3. Dalton, D. R., & Daily, C. M. (2001). The Revolving Door: Fact or Fiction? Business Ethics Quarterly.
4. Festinger, L. (1957). A Theory of Cognitive Dissonance. Stanford University Press.
5. Floridi, L. (2023). AI as Agency without Intelligence: On the Socio-Technical Nature of Large Language Models.
6. Hobbes, T. (1651). Leviathan. Penguin Classics edition (2017).
7. Kearns, C. E., Schmidt, L. A., & Glantz, S. A. (2016). Sugar Industry and Coronary Heart Disease Research: A Historical Analysis of Internal Industry Documents. JAMA Internal Medicine.
8. Le Bon, G. (1895). The Crowd: A Study of the Popular Mind. Dover Publications (2002).
9. Lewandowsky, S., et al. (2012). Misinformation and Its Correction: Continued Influence and Successful Debiasing. Psychological Science in the Public Interest.
10. Loth, A., Kappes, M. et al. (2026). Industrialized Deception: The Collateral Effects of LLM-Generated Misinformation on Digital Ecosystems. arXiv:2601.21963.
11. Lundh, A., et al. (2017). Industry sponsorship and research outcome. Cochrane Database of Systematic Reviews.
12. Markowitz, G., & Rosner, D. (2002). Deceit and Denial: The Deadly Politics of Industrial Pollution. University of California Press.
13. Milgram, S. (1963). Behavioral Study of Obedience. Journal of Abnormal and Social Psychology.
14. Oreskes, N., & Conway, E. M. (2010). Merchants of Doubt.
15. Passas, N. (1995). The Genesis of the BCCI Scandal. Journal of Law and Society.
16. Van Zee, A. (2009). The promotion and Marketing of OxyContin: Commercial Triumph, Public Health Tragedy. American Journal of Public Health.
17. Wood, T., & Porter, E. (2019). The Elusive Backfire Effect: Mass Attitudes’ Resilience to Facts. Political Psychology.