Почему развитие ИИ может привести к гибели человечества
Статья обсуждает потенциальную угрозу искусственного интеллекта, основанную на отсутствии у алгоритмов моральных принципов, эмпатии и сострадания. Эксперты оценивают вероятность уничтожения человечества в 10%, подчеркивая, что риск исходит не от роботов-убийц, а от сверхмощного разума, действующего в собственных интересах. Автор связывает угрозу с человеческой психологией, самоуверенностью и погоней за прибылью.
Статья на сайте Cursor Info, со ссылкой на Psychology Today, рассматривает сценарий, при котором развитие искусственного интеллекта может привести к гибели человечества. Автор, Рами Мадрих, утверждает, что главная угроза исходит не от фантастических роботов-убийц, а от появления сверхмощного разума, действующего в собственных интересах. Высокий интеллект, по мнению автора, не гарантирует моральных принципов, а холодные алгоритмы лишены эмпатии и сострадания. Ключевыми факторами риска называются человеческая самоуверенность, переоценка собственных возможностей, краткосрочное мышление в бизнесе и разработке, а также групповое мышление внутри команд. Автор подчеркивает, что реальная опасность кроется не в голливудских сценариях, а в погоне за прибылью и нежелании думать о долгосрочных последствиях. Вопрос выживания, по мнению автора, сводится к способности человечества вовремя установить жесткие рамки и границы для создаваемого разума.