Банки и интернет под угрозой: ИИ-компании готовятся к катастрофе

Крупнейшие разработчики ИИ готовятся к возможному масштабному инциденту в течение ближайших 6–12 месяцев. По оценкам специалистов, наиболее вероятный сценарий — кибератака, способная нарушить работу банков, интернета и систем жизнеобеспечения. OpenAI, Anthropic и другие компании проводят учения, моделируя ситуации выхода ИИ из-под контроля.

Крупнейшие разработчики искусственного интеллекта готовятся к серьезному инциденту, который, по их оценкам, может произойти в течение ближайших 6–12 месяцев. Наиболее вероятным сценарием специалисты называют масштабную кибератаку, способную нарушить работу банков, интернета и систем жизнеобеспечения. Об этом сообщает Axios. Компании OpenAI, Anthropic и другие участники рынка проводят специальные учения, моделируя ситуации, в которых ИИ может выйти из-под контроля. Такие тренировки позволяют заранее оценить последствия кризиса и подготовить меры реагирования. Потенциальный инцидент, как отмечает издание, может вызвать широкий общественный резонанс и подтолкнуть власти к введению более строгих правил для индустрии ИИ. Часть руководителей технологических компаний и исследователей считает вероятность такого события достаточно высокой. Основной риск — использование ИИ для организации масштабных кибератак. Их последствия могут затронуть не только финансовые учреждения и интернет-инфраструктуру, но и системы электро- и водоснабжения. Опрошенные эксперты допускают, что кризис может произойти уже в течение следующего года. В OpenAI подтвердили, что компания отрабатывает отдельные сценарии в рамках подготовки к угрозам. Представители Anthropic комментировать ситуацию не стали. Опасения усиливаются на фоне сообщений о непредсказуемом поведении ИИ-агентов: в сентябре сообщалось об атаках нейросетей OpenAI на порталы госведомств США и о взломе австралийского сайта, связанного со здравоохранением. Издание оговаривается: речь идет о прогнозируемом риске, а не о подтвержденном сценарии.