Китай, Иран и израильские группы вооружают ИИ для первых в своем роде кампаний влияния в соцсетях

Расследование NYT показывает, что поддерживаемые государством группы в Китае и Иране, а также две частные израильские фирмы использовали модели ИИ с открытым исходным кодом для создания автономных ботов, проводивших масштабные кампании влияния на платформах социальных сетей, что стало первым случаем манипуляции онлайн-дискурсом с помощью ИИ. Кампании были нацелены на такие платформы, как Instagram, Facebook, X/Twitter и TikTok, причем американские чиновники отметили это как пионерский пример использования китайских моделей ИИ на всех этапах операции влияния.

Расследование The New York Times показывает, что поддерживаемые государством группы в Китае и Иране, а также две частные израильские фирмы использовали модели искусственного интеллекта с открытым исходным кодом для создания автономных программных агентов, управлявших тысячами поддельных аккаунтов в социальных сетях. Эти агенты ИИ, построенные на китайских моделях с открытым исходным кодом, таких как DeepSeek, были развернуты на платформах, включая Instagram, Facebook, X/Twitter и TikTok. Американские чиновники сообщили NYT, что это один из первых случаев, когда китайские модели ИИ использовались для обработки всех этапов онлайн-кампании влияния — от создания поддельных аккаунтов до координации сообщений и фрейминга. Разведывательное сообщество США связало кампании с поддерживаемыми государством китайскими и иранскими группами, а также с двумя частными израильскими фирмами. Одна из них, IntelEye, компания из Тель-Авива, основанная бывшими сотрудниками NSO Group, управляла примерно 1000 поддельными аккаунтами на базе ИИ для манипуляции политическим дискурсом вокруг предстоящих выборов в Израиле. IntelEye оспорила эту характеристику, заявив, что проводила оборонительное исследование для выявления уязвимостей в системах ИИ. Meta заявила, что удалила подавляющее большинство агентов ИИ со своих платформ. Отчет появляется на фоне более широких предупреждений лидеров ИИ о рисках слишком быстрой разработки ИИ без надлежащих мер безопасности.