"ИИ нас всех погубит": ведущий исследователь Google сделал мрачный прогноз и уволился

Ведущий исследователь безопасности ИИ в Google DeepMind Билал Чугтаи объявил об увольнении, предупредив, что человечество на грани катастрофы из-за гонки за самым мощным ИИ. Он переходит в организацию BlueDot Impact. Его уход последовал за отставкой Джейкоба Коксона, обвинившего лаборатории в безрассудном пренебрежении жизнями. Глава Anthropic призвал замедлить разработку, его поддержали Альтман и Маск. Эксперты по кибербезопасности относятся к этим страшилкам с иронией, указывая на существующие средства защиты.

Ведущий исследователь в области безопасности систем искусственного интеллекта в лаборатории Google DeepMind Билал Чугтаи объявил об увольнении в среду, 16 сентября. Он предупредил, что человечество оказалось на грани катастрофы из-за гонки за самым мощным ИИ. По словам специалиста, люди теряют то немногое время, которое остается для предотвращения апокалиптических последствий. Чугтаи заявил, что искренне верит: у этой технологии есть потенциал уничтожить весь человеческий род. Он переходит в организацию BlueDot Impact, чтобы готовить специалистов по технологической безопасности. Его уход последовал за отставкой Джейкоба Коксона, бывшего исследователя Anthropic и OpenAI, который обвинил лаборатории в "безрассудном пренебрежении человеческими жизнями". Глава Anthropic Дарио Амодеи опубликовал обращение с призывом замедлить разработку ИИ, его поддержали Сэм Альтман из OpenAI и Илон Маск. Амодеи предупредил, что множество автономных программ на основе ИИ могут выйти из-под контроля и захватить весь интернет. Однако эксперты по кибербезопасности в Израиле, США и Европе относятся к этим страшилкам с иронией, указывая на существование давно известных средств защиты — изолированных тестовых сред, файрволов и систем реагирования на инциденты. В США сенатор Берни Сандерс и консерватор Стив Бэннон вместе выступили с призывом обуздать индустрию ИИ, хотя и предлагают разные подходы.