"Обрушение электросети станет нашим Чернобылем": предупреждение отца искусственного интеллекта

Профессор Джеффри Хинтон, лауреат Нобелевской премии по физике, предупреждает в интервью The Guardian о кибератаках с использованием ИИ, которые могут вывести из строя электросети и банковские системы. Он критикует Цукерберга, Маска и Альтмана: «Они понимают риски, но предпочитают деньги».

Профессор Джеффри Хинтон, лауреат Нобелевской премии по физике и один из пионеров искусственного интеллекта, предупреждает, что технологический прогресс может привести к глобальной катастрофе, сопоставимой по масштабу с Чернобыльской аварией. В интервью британской газете The Guardian Хинтон описал два тревожных сценария: кибератака с использованием ИИ, вызывающая массовые отключения электроэнергии, или нарушение работы финансовой системы примерно на неделю. По его словам, такое событие может потрясти экономику и общество и привести к кардинальным изменениям в государственном контроле над технологиями. Хинтон подверг резкой критике ведущих деятелей технологической индустрии – Марка Цукерберга, Илона Маска и Сэма Альтмана – которые, по его утверждению, осознают опасности, но ставят прибыль на первое место. Он также раскритиковал OpenAI, заявив, что компания отошла от первоначального акцента на безопасность. Одной из его главных тревог является развитие автономных ИИ-агентов, способных находить и использовать уязвимости в безопасности без вмешательства человека. Однако Хинтон не считает катастрофу неизбежной и утверждает, что ближайшие годы станут решающими для определения будущего технологий.