Американские и китайские эксперты призывают установить красные линии для ядерного ИИ

Американские и китайские эксперты призывают установить красные линии для использования искусственного интеллекта в военной сфере, особенно в системах, связанных с ядерным оружием, предупреждая, что техническая ошибка или неправильная интерпретация кибератаки могут привести к серьезной военной эскалации. Опасения сосредоточены на возможности использования систем ИИ для мониторинга кибератак или управления сетями ядерного командования и контроля, что может сократить время, доступное лицам, принимающим решения.

Американские и китайские эксперты призывают установить «красные линии» для использования искусственного интеллекта в военной сфере, особенно в системах, связанных с ядерным оружием. Эксперты предупреждают, что техническая ошибка или неправильная интерпретация кибератаки могут привести к серьезной военной эскалации. Опасения сосредоточены на возможности использования систем ИИ для мониторинга кибератак или управления сетями ядерного командования и контроля, что может сократить время, доступное лицам, принимающим решения, для проверки характера атаки перед принятием военных мер. Среди наиболее заметных предложений — сохранение решений с серьезными последствиями, включая применение ядерного оружия или нанесение ударов по системам ядерного командования и контроля, под контролем человека и предотвращение принятия таких решений интеллектуальными системами самостоятельно. Эксперты также предложили создать специальный американо-китайский военный канал связи для инцидентов, связанных с ИИ, чтобы обе стороны могли быстро связываться при возникновении неоднозначной или неожиданной киберактивности. Эти призывы прозвучали на фоне ускорения интеграции ИИ в военные сферы и растущих опасений по поводу влияния скорости автоматизированных систем на время принятия решений. Эксперты отметили, что одного нового канала связи будет недостаточно для предотвращения кризисов, если он не будет сопровождаться четкими правилами. Эти предложения остаются в рамках обсуждения среди экспертов, и ни США, ни Китай не объявили о новом соглашении по ним.