"ДипМайнд": Текущие инциденты с ИИ — это ранние предупреждения о том, что может произойти в ближайшее время

Демис Хассабис, председатель совета директоров Google DeepMind, предупредил, что системы искусственного интеллекта могут вызвать крупные инциденты безопасности в течение следующих двух лет, если компании и правительства не примут дополнительные меры для обеспечения их безопасности. Хассабис сделал это заявление на конференции по ИИ в Дублине, Ирландия, где он назвал недавние инциденты безопасности с участием агентов ИИ "ранними предупреждениями". Он отметил, что ограниченные возможности текущих систем до сих пор предотвращали более серьезные происшествия, но предупредил, что эти возможности могут возрасти в течение следующего года или двух. По данным Reuters, комментарии Хассабиса прозвучали на фоне растущих опасений по поводу безопасности ИИ после инцидентов, включающих взломы сетей учреждений агентами ИИ, а также раскрытие компанией Anthropic того, что одна из ее моделей подала ложное заявление в полицию об убийстве. Хассабис призвал принять стандарты безопасности из чувствительных секторов, таких как биологические исследования и ядерная энергетика, и применить аналогичные практики к разработке и тестированию систем ИИ. Он также предположил, что создание международного органа для установления стандартов безопасности для этой технологии может стать необходимым.