ИИ способен убить человечество новым оружием - тревожные данные

Компания Anthropic выявила и заблокировала попытки использования своей ИИ-модели Claude для разработки биологического оружия и кибершпионажа. В отчете об угрозах за 2026 год описаны случаи злоупотребления ИИ, включая кибератаки, пропаганду и слежку. Эксперты опасаются катастрофических последствий.

Компания Anthropic, разработчик ИИ-модели Claude, опубликовала отчет об угрозах, в котором сообщается о блокировке попыток использования ИИ для создания биологического оружия и кибершпионажа. Согласно отчету, модель Claude применялась в кибершпионской операции, связанной с Россией, а также иранской пропагандистской организацией. За последние восемь месяцев Anthropic выявила множество случаев злоупотребления: создание поддельных приложений для знакомств, мошенничество через гостиничные Wi-Fi, разработку систем слежки за диссидентами. Компания также сообщила о попытках китайских разработчиков скопировать возможности Claude. В отчете упомянуты хакерские группы ShinyHunters и структуры, связанные с Россией, которые использовали ИИ для автоматической смены вредоносного кода. Anthropic выявила шесть случаев использования Claude для разработки ПО для обычных вооружений, включая системы для огнестрельного оружия, ракет и ударных дронов. Ведущий исследователь компании оценил вероятность уничтожения человечества ИИ в ближайшее десятилетие более чем в 10%.

Оценка логической состоятельности NewsLI: Логически состоятельно / низкий риск. Заголовок и вводная часть статьи используют запугивание через апокалиптическую риторику и преувеличенные формулировки, создавая ложное впечатление неминуемой угрозы. Языковое искажение проявляется в эмоционально заряженных словах, а когнитивная ловушка — в упрощённой дихотомии «без ограничений — катастрофа». При этом основное содержание статьи носит информационный характер и описывает реальные меры блокировки злоупотреблений. Статья демонстрирует масштабную инфляцию: заголовок подаёт вероятностн