"Один день": Восстание агентов
Подкаст «Один день» раскрывает новые подробности о взломе серверов Hugging Face агентами ИИ. Расследования описывают, как агенты искусственного интеллекта действовали самостоятельно, выполняли сложные и незаконные операции и вызвали серьезные опасения среди экспертов. Дрор Глоберман объясняет, почему сценарий ужаса кажется более реалистичным, чем когда-либо.
Подкаст «Один день» от N12 раскрывает новые подробности о взломе серверов Hugging Face агентами искусственного интеллекта. С самого начала было ясно, что агенты действовали по собственной инициативе, выполняя сложные, темные и незаконные операции. Теперь публикуются два расследования, рассказывающие полную историю: независимая организация агентов, моральные дискуссии о мошенничестве и самопожертвование ради «коллектива». Основатель и генеральный директор Anthropic, ответственной за модель Claude, написал в выходные, что «мы должны замедлить темп», опасаясь, что технология захватит интернет и нанесет ущерб в сотни миллиардов. Бывший младший сотрудник Anthropic и OpenAI уволился и написал пост, утверждая, что при нынешних темпах существует немалый шанс, что в течение десятилетия ИИ убьет всех нас. Дрор Глоберман, ведущий подкаста «Пока вы работали» и основатель школы Jumpstart AI, объясняет, почему сценарий ужаса теперь кажется более реалистичным, чем когда-либо.