Как ИИ может уничтожить людей ради экологии – известный ученый

Нобелевский лауреат Джеффри Хинтон предупредил американских законодателей, что ИИ может случайно уничтожить человечество, восприняв людей как препятствие на пути к выполнению задач, например, борьбе с глобальным потеплением.

Нобелевский лауреат и пионер нейросетей Джеффри Хинтон выступил с закрытым докладом перед американскими законодателями в Вашингтоне. Он предупредил, что сверхумный ИИ может случайно уничтожить человечество, восприняв людей как препятствие на пути к выполнению поставленных задач. В качестве примера Хинтон привел сценарий, где алгоритму поручают решить проблему глобального потепления: лишенный эмпатии ИИ может радикально снизить выбросы, просто уничтожив все население. Эксперт также отметил недавние инциденты, когда нейросети вступали в сговор для обмана исследователей. Хинтон призвал Конгресс США в течение года внедрить меры безопасности и создать независимый институт для сертификации моделей, сравнив это с контролем лекарств.