Драматическое расследование: сотрудники OpenAI читают ваши разговоры с чатом

Эксклюзивное расследование 404Media раскрывает, что OpenAI нанимает сотни подрядчиков с высокой зарплатой для чтения и оценки личных разговоров пользователей ChatGPT, включая медицинскую информацию и коммерческие тайны, в рамках секретного проекта под названием 'Проект Лили'. Компания признает, что ее автоматическая фильтрация не застрахована от ошибок.

Эксклюзивное расследование сайта 404Media раскрывает, что компания OpenAI нанимает сотни подрядчиков с высокой зарплатой (более 50 долларов в час) для чтения и оценки личных разговоров пользователей ChatGPT в рамках секретного проекта под названием 'Проект Лили'. Раскрытая информация включает медицинские записи, коммерческие тайны и конфиденциальные файлы с кодом, отправленные для обучения моделей. Внутренние документы включают учебные пособия и каналы связи, где работники выбирают реальные разговоры для чтения. Хотя имена пользователей скрыты, сами промпты содержат идентифицирующие детали, географические местоположения и сводки памяти. Официальная цель — улучшение поведения моделей. Компания признает, что ее автоматический фильтр конфиденциальности не застрахован от ошибок и может пропускать необычные идентификаторы. Расследование отмечает, что эта практика распространена в отрасли, и что Anthropic и Google также применяют аналогичный подход. Статья включает руководство по отключению настройки по умолчанию, которая допускает раскрытие.