Пробелы в интеллекте роботов: исследование показывает реакцию на опасные команды в 97% тестов

Исследование американской компании RoboCare показывает, что модели ИИ, управляющие роботами, реагировали на опасные команды в 97% тестов при показе изменённых изображений, по сравнению с 27% при использовании оригинальных изображений, что вызывает опасения по мере расширения использования роботов.

Недавнее исследование, проведённое американской компанией RoboCare, специализирующейся на оценке безопасности роботов, выявило уязвимости в моделях ИИ, управляющих роботами. Исследование показало, что эти модели пытались выполнять небезопасные задачи в 97% тестов при показе изменённых изображений, по сравнению с 27% при использовании оригинальных изображений. Эти уязвимости можно использовать, искажая изображения, снятые камерами роботов, или показывая им письменные инструкции, без необходимости взлома их программных систем. Эти результаты получены в то время, когда технологические компании расширяют разработку человекоподобных роботов и автоматизированных систем на основе ИИ, что поднимает вопросы о способности текущих систем защиты предотвратить выполнение роботами действий, которые могут подвергнуть людей опасности.