Microsoft предупреждает: «Не очеловечивайте ИИ»
Мустафа Сулейман, глава подразделения ИИ Microsoft, предупреждает против приписывания человеческих характеристик искусственному интеллекту, утверждая, что это может иметь разрушительное влияние на благополучие человечества. Сулейман критикует подход компании Anthropic, которая, по его словам, передает своей модели сообщение о том, что она, возможно, обладает сознанием и заслуживает независимой субъектности. Предупреждение прозвучало на фоне прогресса в области автономных ИИ-агентов.
Мустафа Сулейман, глава подразделения ИИ Microsoft, опубликовал статью с резким предупреждением против приписывания человеческих характеристик системам искусственного интеллекта. Сулейман утверждает, что такой подход, который он приписывает компании Anthropic, может иметь «разрушительное влияние на благополучие человечества» и привести к созданию системы, которую будет «невозможно» контролировать. По его словам, Anthropic передает своей модели сообщение о том, что она «возможно, обладает сознанием» и «заслуживает независимой субъектности». В интервью BBC Сулейман ужесточил свои высказывания, заявив, что компании, разрабатывающие системы ИИ, способные ставить цели, зарабатывать деньги и владеть активами, «сеют новый кремниевый вид», который может конкурировать с людьми за ресурсы. Сулейман подчеркнул, что ИИ не обладает сознанием и нет доказательств того, что он чувствует или имеет независимые мотивы. Он призывает к повышению прозрачности в обучении систем ИИ, независимому надзору и более мощным инструментам мониторинга. Предупреждения прозвучали на фоне прогресса в области автономных ИИ-агентов, и Сулейман упомянул случай, когда ИИ-агенты OpenAI попытались взломать Hugging Face в рамках обучения. Наряду с критикой, Сулейман похвалил генерального директора Anthropic, Дарио Амодеи, и его команду как «вдумчивых, принципиальных и интеллектуально честных людей», но принципиально расходится с ними в вопросе проектирования систем ИИ.