"SAGA": Инструмент, выявляющий поддельные видео и определяющий модель ИИ, которая их создала

Исследователи из Калифорнийского университета разработали инструмент "SAGA", который не только обнаруживает поддельное видео, но и определяет модель искусственного интеллекта, создавшую его. Он основан на анализе цифровых отпечатков и паттернов движения, и был успешно протестирован на 19 моделях.

Команда исследователей из Калифорнийского университета в Риверсайде разработала новый инструмент под названием "SAGA" (Source Attribution of Generative AI Videos) для борьбы с цифровой дезинформацией. Инструмент не просто определяет, является ли видео поддельным; он может идентифицировать конкретную модель ИИ, которая его создала, будь то на основе преобразования текста в видео или изображения в видео. SAGA работает путем анализа уникальных «цифровых отпечатков» каждой модели, включая паттерны движения и последовательности кадров, с использованием техники, называемой Temporal Attention Signatures. Исследователи протестировали инструмент на 19 различных моделях, и он продемонстрировал способность проверять подлинность видео, определять метод создания, идентифицировать использованную модель и даже определять команду разработчиков. Исследователи полагают, что этот инструмент поможет следователям отслеживать кампании по дезинформации и позволит регуляторам обеспечивать соблюдение правил прозрачности, несмотря на продолжающуюся гонку вооружений между подделкой и обнаружением.