ИИ выйдет из-под контроля – эксперты рассказали о новой угрозе

Эксперты предупреждают, что развитие автономных систем ИИ может привести к потере контроля: человек не сможет отслеживать миллионы операций, выполняемых ИИ. Рассматривается концепция рекурсивного самосовершенствования, при которой ИИ помогает создавать более мощные модели, ускоряя развитие. Особые риски видят в киберпространстве.

Эксперты предупреждают, что развитие автономных систем искусственного интеллекта может привести к потере контроля со стороны человека. Главная опасность, по их мнению, связана не с «восстанием машин», а с тем, что человек просто перестанет успевать контролировать действия систем, которые будут выполнять миллионы операций. Рассматривается концепция рекурсивного самосовершенствования, при которой ИИ помогает разработчикам создавать более совершенные модели, что может значительно ускорить развитие. Бывший исследователь Google DeepMind Ришуб Джайн считает, что системы смогут наращивать возможности очень быстро, что может привести к появлению суперинтеллекта. Особую угрозу видят в киберпространстве: атаки на критическую инфраструктуру могут иметь серьезные последствия. Разработчики из OpenAI и Anthropic признают риски, но отмечают, что пока нет готовых решений. Доцент Корнельского университета Джон Тикстан указывает на физические и технические ограничения современных технологий.