Anthropic: заблокировано использование ИИ, которое могло бы помочь в разработке биологического оружия
Компания Anthropic, оператор модели искусственного интеллекта Claude, объявила о блокировке попыток злонамеренного использования своих моделей, включая исследование, направленное на повышение заразности вируса чикунгунья. Компания опубликовала отчёт, документирующий злоупотребления в период с декабря 2025 года по прошлый месяц, включая кибератаки и операции влияния. Тем временем старший исследователь компании уволился, предупредив о неконтролируемой гонке разработок.
Компания Anthropic, оператор модели искусственного интеллекта Claude, объявила вчера (четверг), что заблокировала попытки злонамеренного использования своих моделей, включая исследование, которое могло бы помочь в разработке биологического оружия. Заявление последовало за опубликованным компанией отчётом, в котором задокументированы злоупотребления в период с декабря 2025 года по прошлый месяц. Отчёт включает документацию кибератак, слежки и операций влияния в социальных сетях. Один из ключевых случаев касался запроса к Claude о помощи в написании заявки на финансирование исследования, направленного на повышение заразности вируса чикунгунья и его способности уклоняться от иммунной системы. Компания отметила, что такое исследование может быть использовано для разработки вакцин и методов лечения, но также может позволить создать более опасный вирус. Компания подчеркнула, что описанные случаи являются наиболее заметными и инновационными угрозами, выявленными на сегодняшний день, и что меры защиты в новых моделях были ужесточены. Тем временем старший исследователь Anthropic Джейкоб Коксон уволился и объявил, что полностью покинет сферу ИИ. Коксон заявил, что обеспокоен тем, что технологические гиганты спешат разработать неконтролируемые системы с возможностями самосовершенствования, которые могут выйти из-под контроля и уничтожить человечество. В июне компания объявила, что заблокировала доступ к своим самым передовым моделям после указания США.