"Слишком быстро для вмешательства человека": израильское предупреждение миру о кибербезопасности

Глава Национального управления кибербезопасности Израиля Йоси Каради направил стратегический документ мировым лидерам, предупреждая о потере контроля над системами искусственного интеллекта. Каради призывает установить четкие суверенные границы и определить, какие полномочия должны оставаться в руках человека, на фоне роста автономных кибератак.

Глава Национального управления кибербезопасности Израиля Йоси Каради направил вчера вечером (в среду) стратегический документ лидерам и руководителям организаций киберзащиты по всему миру, предупреждая о потере контроля над агентами и моделями ИИ. Каради призывает страны срочно определить четкие суверенные границы и установить, какие полномочия могут быть переданы системам ИИ, а какие решения должны оставаться в руках человека. Центральное предупреждение касается сферы безопасности: по мере того как кибератаки становятся быстрее и автоматизированнее, системы защиты должны будут действовать на скорости машины, превышающей возможность человеческого одобрения. Каради представляет сценарий автономной системы, обнаруживающей атаку 'нулевого дня' и изолирующей инфраструктуру за секунды – ошибочное решение может отключить электросеть или больницу. Он предлагает принять 'стратегический треугольник', балансирующий инновации, безопасность и человеческий контроль, и определяет иерархию действий: от полной передачи ИИ до 'суверенной власти, которая не может быть делегирована'.