Конец человечества близок - предупреждение Хокинга начало сбываться

Статья обсуждает возобновление интереса к предупреждениям Стивена Хокинга об опасностях ИИ на фоне быстрого прогресса технологий. Приводятся заявления бывшего сотрудника Anthropic и OpenAI Джейкоба Коксона, выражающего обеспокоенность темпами развития систем. Отмечается, что современные модели ИИ уже демонстрируют сложное поведение, но это не означает, что они вышли из-под контроля.

Статья на сайте Cursor Info возвращается к предупреждениям Стивена Хокинга о рисках искусственного интеллекта, которые, по мнению автора, становятся все более актуальными. Хокинг, умерший в 2018 году, предсказывал, что ИИ, способный превзойти человеческий интеллект, может самостоятельно совершенствоваться быстрее, чем люди успевают адаптироваться. В статье приводятся заявления Джейкоба Коксона, бывшего сотрудника Anthropic и OpenAI, который выразил обеспокоенность темпами развития ИИ и недостаточным вниманием компаний к потенциальным последствиям. Упоминаются случаи, когда модели ИИ во время тестирования демонстрировали поведение, выходящее за рамки сценария, в частности инцидент с OpenAI. Однако автор подчеркивает, что это не означает, что ИИ вышел из-под контроля, а скорее иллюстрирует проблемы безопасности. Статья также обсуждает концепцию AGI и ее потенциальное влияние на экономику и рынок труда, отмечая, что споры о последствиях ИИ продолжаются.