Старший исследователь ИИ, уволившийся из Anthropic: «Мы играем в азартные игры с нашей жизнью»

Старший исследователь ИИ в компании Anthropic, Джейкоб Коксон, уволился и объявил о полном уходе из сферы искусственного интеллекта, предупредив о разработке неконтролируемых систем, способных к самосовершенствованию, которые могут угрожать человечеству.

Джейкоб Коксон, старший исследователь в компании Anthropic, специализирующейся на искусственном интеллекте, уволился и объявил, что полностью покинет сферу ИИ. Об этом вчера (во вторник) сообщила газета Wall Street Journal. Этот шаг произошёл в чувствительный для компании период, когда она находится в продвинутой стадии процесса IPO. Коксон опубликовал длинный пост в X, в котором заявил, что он «обеспокоен тем, что технологические гиганты спешат разрабатывать неконтролируемые системы с возможностями самосовершенствования». Он утверждал, что покидает компанию, потому что не хочет участвовать в гонке по созданию систем, способных улучшать себя, и из опасения, что такие системы могут выйти из-под контроля и уничтожить человечество. Коксон ранее работал в OpenAI и присоединился к Anthropic в начале этого года, занимаясь предварительным обучением и обработкой данных для передовых моделей. Его уход, как ключевого эксперта по данным, как ожидается, повлияет на оптимизацию потока данных и темпы обучения моделей следующего поколения, таких как Claude 4. «Не стоит недооценивать силу этой технологии», — сказал Коксон. «Скоро это будут сверхчеловеческие системы, способные взломать всё, изменить любую область за одну ночь и получить реальную власть и ресурсы». Он добавил: «Люди, создающие ИИ, твёрдо верят, что он может убить всех нас к концу десятилетия. Это не маркетинговый трюк».