Что ответил искусственный интеллект на вопрос о вероятности исчезновения человечества в течение десятилетия?
Система искусственного интеллекта под названием "Ноа Прэдикт" оценила вероятность того, что технологии ИИ приведут к концу человечества в течение десятилетия, примерно в 0,85%, то есть один шанс из 118, согласно эксперименту, проведенному газетой The Independent в сотрудничестве с системой Ноа Прэдикт. Система проанализировала вопрос с 41 угла и провела 108 поисков, основываясь на 52 миллионах точек данных. В свою очередь, некоторые исследователи считают, что вероятность может превышать 10%. Система определила три основных сценария риска: вредоносное использование человеком, нарушение рынка труда и потеря человеческого контроля.
Система искусственного интеллекта под названием "Ноа Прэдикт" оценила вероятность того, что технологии ИИ приведут к концу человечества в ближайшие десять лет, примерно в 0,85%, что эквивалентно примерно одному шансу из 118. Эксперимент был проведен в сотрудничестве с британской газетой The Independent. Система основана на анализе миллионов точек данных и новостей для отслеживания тенденций и оценки рисков, и она проанализировала вопрос с 41 различных углов и провела 108 поисков для проверки информации, опираясь на примерно 52 миллиона точек данных, прежде чем прийти к своей окончательной оценке. Хотя процент составляет менее 1%, это не означает, что риском можно пренебречь. В свою очередь, ряд исследователей и специалистов предупреждают о гораздо более высоких вероятностях, причем некоторые считают, что вероятность того, что ИИ вызовет исчезновение человечества в ближайшее десятилетие, может превышать 10%. Ученый-компьютерщик Джеффри Хинтон, лауреат Нобелевской премии по физике, сказал, что вероятность в 10% — это "не маловероятная оценка." Система определила три основных пути риска: первый — вредоносное использование человеком ИИ в кибератаках или разработке биологического оружия; второй — нарушение рынка труда и институтов из-за чрезмерной зависимости от автоматизированных услуг; и третий — потеря человеческого контроля над системами, которые могут рассматривать вмешательство человека как помеху. Система предложила меры по снижению рисков, включая ограничение полномочий систем и предотвращение их доступа к чувствительной инфраструктуре.