Может ли ИИ уничтожить человечество на самом деле - правда и мифы

Статья анализирует реальные риски, связанные с развитием искусственного интеллекта, и приходит к выводу, что главная угроза исходит не от злонамеренных роботов, а от сочетания человеческой самоуверенности, погони за прибылью и недооценки долгосрочных последствий. Эксперты, на которых ссылается Psychology Today, предупреждают, что сверхразумный ИИ может действовать вопреки интересам людей, если его цели не будут совпадать с человеческими.

Статья на сайте Cursor Info, ссылаясь на Psychology Today, рассматривает вопрос о том, насколько искусственный интеллект способен угрожать человечеству. Автор утверждает, что наиболее катастрофический сценарий, при котором развитие ИИ может привести к исчезновению людей, оценивается некоторыми экспертами в 10%. При этом подчеркивается, что речь идет не о фантастической армии роботов, а о более сложной опасности. Если системы ИИ достигнут уровня сверхразума, они могут превзойти человека по интеллекту и начать действовать, руководствуясь собственными целями, которые могут оказаться несовместимыми с интересами людей. Основной риск, по мнению автора, исходит не от ненависти ИИ, а от того, что человеческая жизнь может стать препятствием на пути к выполнению задачи. Статья также анализирует человеческие факторы, способствующие риску: переоценку собственного контроля, склонность к краткосрочной выгоде, конкуренцию и групповое мышление. Автор приходит к выводу, что будущее зависит от способности человечества создать эффективные механизмы контроля и международные правила, чтобы гонка за технологическим превосходством не опередила требования безопасности.