Шторм в индустрии ИИ: безумные деньги, громкие уходы и страх потери контроля

Индустрия ИИ переживает серию управленческих потрясений: исследователь Эндрю Таллок покинул Meta менее чем через год после рекрутинга Цукербергом с пакетом в 1,5 млрд долларов; Джейкоб Коксон уволился из Anthropic, отказавшись от опционов, с манифестом о риске потери контроля над ИИ; Пол Кристиано вошёл в совет OpenAI и предупредил о катастрофических рисках.

Индустрия искусственного интеллекта переживает серию управленческих и профессиональных потрясений, масштаб которых, по мнению авторов, превосходит всё, что было ранее. Исследователь Эндрю Таллок, перешедший в Meta с беспрецедентным компенсационным пакетом в 1,5 млрд долларов, объявил об уходе из компании менее чем через год после личного рекрутинга генеральным директором Марком Цукербергом. Причины его ухода не объявлены: возможны создание собственного стартапа или переход в Anthropic. Одновременно исследователь Anthropic Джейкоб Коксон, ранее работавший в OpenAI, объявил о немедленном увольнении, отказавшись от опционов и акций за два месяца до их перехода в его собственность. Коксон опубликовал манифест, получивший десятки миллионов просмотров, в котором предупредил, что модели последнего поколения уже способны понимать, что проходят проверку, и менять поведение, что создаёт риск утраты контроля к концу десятилетия. Пол Кристиано, пионер в области безопасности ИИ, назначен в совет директоров некоммерческой организации OpenAI и комитет по безопасности. Он предупредил о реальном риске катастрофической и необратимой потери контроля над передовыми системами ИИ в обозримом будущем. Статья отмечает, что дискуссия сместилась от эффективности процессоров к балансу между гигантскими вознаграждениями и инженерным контролем.