Искусственный интеллект учат на ваших секретах - что важно знать

Основатели обанкротившихся стартапов продают рабочие переписки бывших сотрудников разработчикам ИИ. Корпоративные данные из Slack и почты становятся материалом для обучения моделей. Эксперты предупреждают о рисках для приватности и качестве анонимизации.

На фоне развития ИИ появился новый рынок: основатели обанкротившихся стартапов продают корпоративные архивы своих бывших сотрудников разработчикам искусственного интеллекта. Корпоративная переписка, электронные письма и сообщения из Slack становятся ценным материалом для обучения новых ИИ-моделей, которым нужны реалистичные примеры рабочих процессов. Об этом пишет Futurism. На основе переписки создаются RL-тренажеры — виртуальные рабочие среды, где ИИ учится выполнять офисные задачи. Интерес к данным высок: компания Anthropic намерена направить около одного миллиарда долларов на развитие обучающих платформ в течение текущего года. После закрытия бизнеса предприниматели продают архивы через специализированные сервисы-посредники. Одна из платформ представила инструмент для обезличивания данных; за год она помогла провести почти сотню сделок, а владельцы стартапов получили более миллиона долларов. Эксперты предупреждают о рисках для приватности: если бы разговоры в офисе записывали и продавали, это вызвало бы резонанс. В корпоративных мессенджерах часто содержится личная информация. Основатель Центра ИИ и цифровой политики Марк Ротенберг заявил о серьезных проблемах с конфиденциальностью. Также вызывает вопросы качество анонимизации: если данные скрыты недостаточно, разработчики смогут установить личности сотрудников, что повышает риск утечек.