Шаг, который заставит вас дважды подумать, прежде чем использовать искусственный интеллект

OpenAI начинает внедрять невидимые водяные знаки в тексты ChatGPT в соответствии с европейским законом об ИИ. Технология textGrain тонко влияет на выбор слов, создавая уникальную статистическую подпись. Мера сначала коснется только пользователей в Европейском союзе, но знаменует глобальный регуляторный тренд.

OpenAI начинает внедрять невидимые цифровые водяные знаки в тексты, создаваемые ChatGPT и средой разработки Codex, в соответствии со статьей 50 Европейского закона об искусственном интеллекте (EU AI Act). Технология, называемая textGrain, тонко влияет на распределение слов, выбираемых моделью, используя секретный ключ, и генерирует уникальную статистическую подпись, позволяющую компьютеризированно идентифицировать синтетический контент. Тесты производительности на модели GPT-6 Astra показали, что маркировка не ухудшает качество ответов в тестах по программированию, автоматизации и профессиональным знаниям. Однако эффективность обнаружения зависит от длины абзаца и области: при обнаружении психологии в абзацах из 400 токенов она составила 95%, но упала до 80% в более коротких абзацах. Простое человеческое редактирование, например замена 10% слов синонимами, снизило обнаружение с 92% до 66%. На данном этапе компания не будет открывать детектор для широкой публики из-за опасений ложных срабатываний. Мера сначала коснется только пользователей в Европейском союзе, но знаменует глобальный тренд регулирования и прозрачности.