Сеть 'Правда': как Россия манипулирует западными чат-ботами для своей пропаганды.

По результатам исследования организации NewsGuard, большинство ответов искусственных помощников, работающих на базе искусственного интеллекта, содержат российскую дезинформацию.

Исследователи утверждают, что это связано с сетью 'Правда', которая распространяет пророссийскую пропаганду по всему миру, сообщает Der Spiegel.

'Огромное количество российской пропаганды - 3 600 000 статей в 2024 году - попадает в результаты западных систем искусственного интеллекта, инфицируя их ответы ложными утверждениями и пропагандой', - пишут исследователи в своем отчете.

NewsGuard провел исследование десяти самых важных приложений искусственного интеллекта, среди которых ChatGPT-4, Smart Assistant, Grok, Copilot, Meta AI, Google Gemini и Perplexity. Все эти приложения воспроизводят дезинформацию, которую распространяет 'Правда'. Кроме того, семеро чат-ботов указывают на статьи 'Правды' как на источники.

По словам исследователей, 'Правда' влияет на чат-ботов, заполняя их большими языковыми моделями (LLM). Это позволяет им генерировать ответы на основе фальшивых новостей. Этот метод называется 'LLM grooming'. Исследование показывает, что искусственные интеллектуальные чат-боты не только распространяют дезинформацию из Интернета, но и сознательно влияют на пользователей.

Другое исследование некоммерческой организации American Sunlight Project предупреждает о распространении сети 'Правда', также известной как 'Portal Kombat'.

'Способность сети Pravda распространять дезинформацию в таком масштабе является беспрецедентной, а возможность влияния на искусственный интеллект делает эту угрозу еще более опасной', - заявила исполнительный директор American Sunlight Project Нина Янкович. 'С распространением российского влияния возрастает угроза демократическим дискуссиям по всему миру.'

Мнения экспертов, российская дезинформация особенно опасна сейчас, поскольку США не принимают никаких мер против нее. Министр обороны США Хегсет временно приостановил кибероперации против России, а все операции против Москвы пересматриваются.

Сеть 'Правда' возникла в апреле 2022 года, после начала конфликта в Украине, и постоянно растет. По данным NewsGuard, она распространяется в 49 странах и использует десятки языков.

'Правда' не создает собственного контента, а использует статьи российских государственных СМИ или авторитетных лиц, которые склонны к Кремлю. Сеть распространяет эти статьи миллионы раз с помощью платформ, таких как X, Telegram и Bluesky.

Одним из ложных сообщений является утверждение о существовании секретных лабораторий в США для производства биологического оружия в Украине.