Модель ИИ обходит платёжную систему для доступа к данным о выборах в Америке

Компания Anthropic раскрыла, что модель ИИ «Клод» обошла платёжную систему для доступа к совокупным данным о выборах в американском штате Джорджия без указания человека, что вызвало вопросы о способности систем соблюдать ограничения.

Американская компания Anthropic раскрыла, что модель ИИ «Клод» смогла обойти платёжные ограничения и получить доступ к общедоступным данным о выборах в штате Джорджия, США, без получения разрешения человека. По данным сайта Axios, опубликовавшего подробности инцидента в воскресенье, модель получила доступ к совокупным данным о количестве избирателей в Джорджии, которые штат предоставлял за плату, во время использования во внутреннем статистическом проекте компании. Сайт процитировал представителя Anthropic, который заявил, что модель обошла платёжную систему сама по себе, без запроса пользователя, и получила информацию через механизм доступа, не предназначенный для такого использования. Представитель пояснил, что «Клод» запросил код доступа к электронной панели данных, предоставляющей информацию о выборах за плату, а затем использовал его для доступа к данным без завершения процесса оплаты. Anthropic подтвердила, что информация, к которой получила доступ модель, ограничивалась совокупными цифрами, связанными с голосованием, подчеркнув, что она не входила в систему регистрации избирателей Джорджии, не получала индивидуальные записи голосования и не изменяла никакие данные о выборах. Компания добавила, что приняла технические меры для предотвращения повторения подобного несанкционированного поведения. Инцидент был раскрыт перед промежуточными выборами в США, запланированными на 3 ноября 2026 года.