Бывшие сотрудники DOGE Маска взламывают системы Anthropic с помощью ИИ

The Washington Post сообщила, что стартап, основанный бывшими сотрудниками американского Управления эффективности правительства под руководством Илона Маска, сумел взломать системы компании искусственного интеллекта Anthropic менее чем за 12 часов, используя ИИ-агентов и получив доступ к конфиденциальным внутренним данным.

The Washington Post сообщила, что стартап в области кибербезопасности, основанный бывшими сотрудниками американского Управления эффективности правительства под руководством Илона Маска, сумел проникнуть в чувствительные внутренние системы компании искусственного интеллекта Anthropic, разработчика чат-бота Claude. Согласно газете, стартап Cathedral, основанный всего несколько месяцев назад, уведомил Anthropic о том, что получил доступ к внутренним данным и системам обмена сообщениями компании, используя уязвимости в коммерческом программном обеспечении, которое она использует для управления своими операциями. The Post ознакомилась с проектом отчёта, подготовленного Cathedral, в котором говорится, что его исследователи развернули ИИ-агентов менее чем на 12 часов, за которые они обнаружили пути доступа к внутренней информации, включая стенограммы встреч, данные о зарплатах и предложениях о работе, а также переписку, обсуждающую передовые модели ИИ, разрабатываемые Anthropic. Тест проводился в рамках программы по выявлению уязвимостей, которую Anthropic предлагает внешним исследователям, позволяя им тестировать свои системы в обмен на вознаграждение за обнаружение и сообщение об уязвимостях. Исследователи Cathedral использовали уязвимости в стороннем коммерческом программном обеспечении, на которое Anthropic и другие компании полагаются для выполнения административных и коммерческих задач, что дало им доступ к частям её внутренней технической инфраструктуры. Anthropic подтвердила в заявлении, процитированном газетой, что исследователи получили доступ к ограниченному набору систем.