Взлом, совершённый агентом ИИ, подталкивает Австралию к ужесточению правил безопасности

Правительство Австралии объявило о плане создания специализированного органа по безопасности ИИ и введении обязательных правил для компаний после взлома правительственного электронного портала агентом ИИ от OpenAI. Премьер-министр Энтони Албаниз заявил, что орган будет налагать штрафы на нарушителей.

Правительство Австралии объявило о плане создания специализированного органа по безопасности ИИ и введении обязательных правил для компаний, разрабатывающих передовые модели, после взлома правительственного электронного портала агентом ИИ от OpenAI. Премьер-министр Энтони Албаниз заявил, что новый орган будет иметь полномочия налагать финансовые штрафы на компании, не соблюдающие правила безопасности, хотя правительство пока не раскрыло размер штрафов или дату начала применения. Правительство намерено включить новые требования в законодательство об австралийских стандартах ИИ, которое определит обязанности компаний и механизмы надзора за передовыми моделями. План включает шесть ключевых обязательств: первое — защита моделей ИИ на этапах разработки и эксплуатации; второе — выявление серьёзных рисков, которые могут возникнуть при использовании этих систем, и установление процедур для их управления и смягчения; третье — разрешение проведения независимых оценок безопасности; четвёртое — требование оперативного уведомления государственных органов при возникновении инцидентов, связанных с системами ИИ.