Мошенничество с помощью ИИ – предупреждение израильских экспертов

Израильские эксперты по кибербезопасности выявили кампанию Dark Sourcery: злоумышленники внедряют фальшивые контакты в источники, используемые нейросетями. Атака затронула 374 бренда, включая авиакомпании и банки. Пользователям рекомендуют перепроверять данные на официальных сайтах.

Израильские специалисты по кибербезопасности выявили масштабную кампанию Dark Sourcery, в рамках которой злоумышленники внедряют фальшивые контакты в источники, используемые популярными нейросетями. Атака затронула 374 всемирно известных бренда, включая авиакомпании Lufthansa, United Airlines, Emirates, Qatar Airways, Delta, сервисы бронирования Airbnb и TripAdvisor, а также банки Chase, Citi и Wells Fargo. Механизм атаки не связан со взломом самих языковых моделей, а использует метод поискового отравления (SEO poisoning): преступники массово создают фальшивые страницы служб поддержки и PDF-файлы, которые нейросети принимают за официальные источники. В результате пользователь, обратившийся к ИИ за контактами, может получить номер поддельного колл-центра, где мошенники выманивают данные банковских карт. Реакция IT-гигантов была неоднозначной: Google заявил, что такие случаи не подпадают под их программу раскрытия уязвимостей, а OpenAI закрыл обращение из-за сложности воспроизведения ошибки. Эксперты рекомендуют всегда перепроверять контактные данные на официальных сайтах компаний.