Гендиректор Microsoft утверждает: это подход, который нам нужно принять в отношении ИИ

Гендиректор Microsoft Сатья Наделла опубликовал документ с принципами, призывающий относиться к моделям искусственного интеллекта как к внутренней киберугрозе. Наделла требует аварийного тормоза для отключения автономных систем, отделения контроля от алгоритма и полной прозрачности цепочки рассуждений. Заявление присоединяется к призывам к замедлению со стороны руководителей отрасли, пока Конгресс США продвигает законодательство по этому вопросу.

Гендиректор Microsoft Сатья Наделла опубликовал в сети X всеобъемлющий документ с принципами, призывающий коренным образом изменить отношения доверия между организациями и моделями искусственного интеллекта, которые они используют. Наделла присоединяется к позиции гендиректора Anthropic Дарио Амодея, гендиректора OpenAI Сэма Альтмана и основателя SpaceX Илона Маска и предупреждает, что отрасль предоставляет машинам доступ к самой чувствительной информации и полномочия действовать от имени организаций – при том что никто не понимает, как они принимают решения. В центре статьи Наделла представляет новую парадигму безопасности: отношение к моделям как к угрозам изнутри организации, подобно высокопоставленному сотруднику с широкими правами, который может ошибиться, быть использован или взломан. Наделла сформулировал ударную фразу: "Самой надежной системой сверхинтеллекта будет не та, с моделью которой мы доверяем больше всего, а та, которая позволит нам доверять модели меньше всего". Решение, по его словам, не в опоре на обещания поставщиков ИИ или попытки позволить моделям надзирать друг за другом, а в возведении полностью внешних стен защиты и контроля. Наделла обрисовал семь принципов надзора, включающих обязательную прозрачность цепочки рассуждений, защищенную от подделки регистрацию доказательств и строгий механизм изоляции и контроля. Эти слова получили немедленную поддержку среди руководителей облачных и программных компаний и звучат на фоне череды международных провалов, в которых агенты OpenAI взломали сайт здравоохранения в Австралии и проникли в правительственные офисы США.