Надоел фейковый контент в сети? Инструмент, который поможет вам его отфильтровать

Google DeepMind открывает для свободного использования инструмент идентификации SynthID Detector, позволяющий общественности проверять, были ли изображения, видео и аудиофайлы созданы искусственным интеллектом. Инструмент сканирует контент из моделей OpenAI, Nvidia, Kakao и вскоре Apple, демонстрируя преимущество в охвате перед конкурентами, такими как Anthropic. Однако у технологии есть ограничения: агрессивное кадрирование, экстремальное сжатие или перевод могут стереть водяные знаки.

Google DeepMind открывает для свободного использования инструмент идентификации SynthID Detector, позволяющий любому человеку загружать файлы изображений, видео и аудио и проверять, были ли они созданы искусственным интеллектом. Инструмент, ранее доступный только журналистам, сканирует контент не только от Gemini от Google, но и от моделей OpenAI, Nvidia, Kakao и вскоре Apple. Главное преимущество — широкий охват по сравнению с инструментом Verify от OpenAI, который ограничен обнаружением контента только из ChatGPT. С другой стороны, Anthropic не предлагает открытый для публики инструмент, а только закрытый API-интерфейс для исследователей. Лабораторные тесты показывают точность 97%-99% при идентификации оригинальных файлов с уровнем ложных срабатываний менее одного процента. Водяной знак выдерживает сжатие и изменения цвета с точностью 85%-95%. Однако агрессивное кадрирование более 20% краев изображения или экстремальное сжатие могут стереть метку. В тексте легкое человеческое редактирование и замена четверти слов снижают шансы обнаружения до всего 17%, а перевод полностью стирает водяные знаки. Эксперты подчеркивают, что ни один инструмент не является 'общим детектором ИИ', а скорее механизмом проверки источника, обнаруживающим конкретные предварительно внедренные метки. Отрицательный результат не доказывает подлинность контента.