"Можно затопить сеть": как ИИ угрожает изменить выборы
Отчет компании Anthropic раскрывает политическую операцию влияния в Малайзии, в ходе которой модель искусственного интеллекта Claude использовалась для создания сети из примерно 1000 поддельных аккаунтов, фиктивного новостного сайта и сфабрикованных документов в попытке повлиять на избирателей на последних выборах. Эксперты предупреждают, что ИИ позволяет распространять дезинформацию в беспрецедентных масштабах.
Отчет компании по искусственному интеллекту Anthropic, опубликованный в сентябре, раскрывает широкомасштабную политическую операцию влияния в Малайзии, в ходе которой модель Claude использовалась для создания целой инфраструктуры по распространению дезинформации. Операция включала сеть из примерно 1000 поддельных аккаунтов в X, фиктивный новостной сайт под названием "Malaysia Pulse" и серию сфабрикованных документов. По данным компании, операция была направлена на влияние на избирателей на последних выборах в Малайзии, используя чувствительные расколы в малайзийском обществе по вопросам расы, религии и монархии, во всех 222 избирательных округах парламента. Операция провалилась после вмешательства Anthropic, но ее раскрытие вызвало серьезные опасения среди экспертов относительно использования ИИ в будущих избирательных кампаниях в Юго-Восточной Азии. Поддельный сайт копировал реальные репортажи из малайзийских СМИ и переписывал их под вымышленными именами журналистов, а также перепечатывал статьи из зарубежных СМИ, ассоциируемых с Россией и Китаем, удаляя указание на источник. Эксперты отмечают, что ИИ делает процесс распространения дезинформации гораздо проще и быстрее, позволяя создавать персонализированный контент в беспрецедентных масштабах.