Высокопоставленный представитель Nvidia объясняет, как израильская разработка решит проблему безопасности ИИ
Али Голшан, старший директор Nvidia, объясняет в интервью, как израильская разработка, включающая среду выполнения OpenShell и процессоры BlueField, призвана решить проблему безопасности агентов искусственного интеллекта. По его словам, традиционные системы безопасности не подходят для автономных агентов, а решение основано на динамических разрешениях и аппаратной изоляции.
Али Голшан, старший директор по программному обеспечению ИИ в Nvidia, объясняет в интервью Globes, как израильская разработка поможет решить проблему безопасности агентов искусственного интеллекта. По его словам, существующие системы безопасности не были разработаны для автономного программного обеспечения, которое принимает решения и действует без вмешательства человека, сравнивая их с «попыткой вести машину по воде». В центре инициативы Nvidia находится OpenShell — среда выполнения с открытым исходным кодом, которая позволяет организациям контролировать действия, которые агенты ИИ могут выполнять. Агент начинает работу без разрешений и должен получить доступ в соответствии с задачей. Кроме того, семейство процессоров BlueField (выросшее из израильской компании Mellanox) обеспечивает отдельный аппаратный уровень, который может отключать рабочую среду от сети при обнаружении опасного поведения. Голшан подчеркивает, что Nvidia не выходит на рынок кибербезопасности, а предоставляет базовые возможности, на которых компании безопасности могут строить, и прогнозирует рост сотен новых компаний в области кибербезопасности.