Шокирующее расследование WSJ: создатели ИИ готовились к апокалипсису

Расследование Wall Street Journal раскрывает, что сотрудники компании Anthropic, создавшей модель Claude, всерьёз обсуждали покупку удалённых земельных участков для укрытий на случай технологического апокалипсиса из-за неуправляемого ИИ. Основатели компании находились под влиянием философии «эффективного альтруизма», однако вынуждены ускорять разработку ИИ, чтобы оставаться лидерами безопасности. В статье также рассматриваются различные подходы к регулированию ИИ в Европе, Китае и Израиле, а также инженерный подход Nvidia.

Расследование Wall Street Journal, пересказанное «Курсором», раскрывает тревожные детали изнутри компании Anthropic, создавшей популярную модель ИИ Claude. В первые годы работы сотрудники компании всерьёз обсуждали покупку отдалённых земельных участков для создания укрытий на случай, если неуправляемый ИИ нанесёт непоправимый ущерб человечеству. Компания была основана в 2021 году выходцами из OpenAI — братом и сестрой Дарио и Даниэлой Амодеи, которые покинули прежнее место работы из-за недостаточного внимания к безопасности. Основатели находились под сильным влиянием философии «эффективного альтруизма», которая акцентирует внимание на предотвращении глобальных экзистенциальных рисков. Однако здесь кроется парадокс: чтобы оставаться лидером безопасности, Anthropic вынуждена сама ускорять создание всё более мощных нейросетей, подстёгивая ту самую гонку, которой так боятся её инженеры. В статье также рассматриваются различные мировые подходы к регулированию ИИ: Европейский Союз делает ставку на жёсткие законодательные рамки, Китай подчиняет развитие технологий требованиям партии, а Израиль фокусируется на оборонном потенциале. Генеральный директор Nvidia Дженсен Хуанг заявил, что безопасность ИИ — это задача компьютерных наук, а не морального моратория. Статья завершается сравнением текущей ситуации с ядерной эпохой после Второй мировой войны.