Шломо Крамер предлагает приз в 30 000 долларов за взлом AI-агента

Компания Шломо Крамера запускает AgentSense — решение для безопасности AI-агентов, и предлагает приз в 30 000 долларов первым трём участникам, которые успешно внедрят вредоносные инструкции в AI-агента.

Шломо Крамер, основатель и генеральный директор Cato Networks, объявляет о призе в 30 000 долларов, который будет разделен между тремя первыми участниками, сумевшими внедрить вредоносные инструкции в AI-агента и заставить его отклониться от назначенной задачи. Вызов начинается сегодня (вторник) в 15:30. Компания одновременно запускает AgentSense, новое запатентованное решение безопасности, которое в реальном времени отслеживает активность автономных AI-агентов. По словам Крамера, предоставление автономии AI-агентам требует механизмов безопасности, которые предотвратят вредоносные действия, и видение состоит в том, чтобы позволить клиентам полагаться на AI-агентов в управлении критическими бизнес-процессами, не теряя контроля.

Шломо Крамер предлагает приз в 30 000 долларов за взлом AI-агента