Фото: Getty Images
ChatGPT выявлен в российской кампании политической дезинформации
OpenAI заблокировала группу аккаунтов ChatGPT, которые использовали платформу для скрытой политической кампании. Ее участники продвигали фейковый аналитический институт и пророссийские нарративы.
Компания OpenAI заявила о блокировке группы аккаунтов ChatGPT, которые были вовлечены в скрытую кампанию по политической дезинформации. По данным компании, к операции были причастны пользователи из России и, вероятно, Израиля. Искусственный интеллект они использовали для создания и распространения контента в социальных сетях.
В центре кампании оказался так называемый International Burke Institute (IBI) - Международный институт Берка. Его сайт зарегистрировали в феврале 2025 года. Организация выдавалась за независимую экспертную среду в Израиле и публиковала материалы о политике разных стран.
Однако, как выяснила OpenAI, значительная часть этого контента была скопирована из других источников. Из 36 исследований на сайте IBI как минимум 34 не были оригинальными. Кроме того, некоторые тексты публиковали под именами людей, которые на самом деле их не писали. Среди таких авторов якобы фигурировали известные политологи Фрэнсис Фукуяма и Ноам Хомский.
"Это первый случай, когда мы пресекли связанную с Россией операцию влияния, которая зашла настолько далеко", - заявили в OpenAI.
Одним из главных инструментов IBI был так называемый «индекс суверенитета», с помощью которого авторы сравнивали государства по уровню политической и экономической самостоятельности. В материалах Россию часто подавали в позитивном свете, тогда как США, Францию, Германию и ЕС критиковали.
Участники операции заходили в ChatGPT через VPN и преимущественно писали запросы на русском, после чего создавали тексты на английском. Они также просили модель убирать языковые особенности, которые могли бы выдать российское происхождение авторов. Одним из возможных следов такого перевода стало необычное словосочетание "Svetofor coalition" вместо устоявшегося английского "traffic-light coalition" относительно правительственной коалиции Германии.
Сгенерированные с помощью ChatGPT материалы распространяли в Telegram, X, Facebook, LinkedIn и Substack. Часть публикаций размещали от имени IBI, другие - через аккаунты, которые пытались выглядеть как страницы обычных пользователей.
Отдельное направление кампании было ориентировано на Германию. С помощью ChatGPT создавали немецкоязычные посты для Telegram-канала Lahme Ente (Хромая утка), в которых критиковали Украину, Евросоюз и правительство Германии и выступали за сближение с Россией. Другой участник операции с помощью ИИ создал логотипы примерно для десяти каналов, ориентированных на аудиторию Германии, США, Франции, Польши и Турции.
Непосредственное влияние кампании было относительно небольшим: публикации получали мало просмотров, а страницы IBI не имели значительной аудитории. В то же время отдельные связанные с операцией Telegram-каналы смогли привлечь от 10 до 20 тысяч подписчиков.
В OpenAI подчеркивают, что главная опасность заключалась не столько в нынешнем охвате, сколько в созданной инфраструктуре. Ее, по мнению компании, можно было масштабировать для систематического распространения политических нарративов.
Ранее приближённая к президенту США американская блогерша Лора Лумер после визита в Украину призвала Конгресс провести слушания по российской пропаганде в американских медиа.
Раскрыт новый ИИ-фейк РФ о ударах по украинским АЗС
Новости от Корреспондент.net в Telegram и WhatsApp. Подписывайтесь на наши каналы https://t.me/korrespondentnet и WhatsApp