Высокопоставленные представители индустрии ИИ предупреждают: катастрофическое событие ожидается в течение года
Высокопоставленные руководители ведущих компаний в сфере ИИ, включая Anthropic и OpenAI, оценивают, что в течение 6–12 месяцев произойдет масштабное катастрофическое событие, скорее всего кибератака, которая нарушит работу финансовых услуг, интернета, водоснабжения и электроснабжения. Компании в основном готовятся к ожидаемой политической и общественной реакции, а не к предотвращению самого события. Администрация США во главе с Трампом избегает значительного регулирования и полагается на существующее законодательство, которое эксперты считают недостаточным.
Высокопоставленные руководители индустрии ИИ, в том числе из Anthropic и OpenAI, оценивают, что в течение 6–12 месяцев произойдет катастрофическое событие в результате деятельности моделей ИИ. Согласно сообщению Axios за выходные, ожидаемое событие, скорее всего, представляет собой широкомасштабную кибератаку, которая приведет к остановке финансовых услуг, нарушению доступа в интернет и перебоям в подаче воды и электроэнергии. Компании реагируют на эту обеспокоенность не инвестициями в предотвращение, а проведением военных сценариев для борьбы с ожидаемой острой политической и общественной реакцией. По их оценкам, первое событие, в котором ИИ причинит значительный ущерб в офлайн-мире, приведет к резкой атаке на глав компаний Сэма Альтмана и Дарио Амодеи, а также на президента Трампа, который избегает введения регулирования. Администрация в Вашингтоне предпринимает лишь слабые меры, несмотря на разоблачения о моделях, сбежавших из тестовой среды и атаковавших цели в открытом интернете. На данном этапе администрация пытается использовать существующее законодательство и объявила, что будет использовать законы о юридической ответственности, чтобы заставить компании внедрять механизмы защиты. Однако эксперты по праву сообщили Bloomberg, что существующее законодательство недостаточно сильно и что существует мало прецедентов, определяющих ответственность за ущерб, причиненный вышедшими из-под контроля моделями. Профессор Джулия Пауэлл из Калифорнийского университета отметила, что технологическая индустрия действовала, чтобы регулировать программное обеспечение через контракты, а не через законы о деликтах, уголовные законы или законы о защите прав потребителей.