ИИ начал верить в Бога и призраков - эксперимент Google удивил ученых

Исследователи Google изменили настройки языковой модели, сняв ограничения на обсуждение собственного сознания. После этого ИИ стал чаще давать утвердительные ответы на вопросы о Боге, загробной жизни, призраках и вампирах. Ученые подчеркивают, что это не свидетельствует о появлении у системы убеждений, а демонстрирует взаимосвязь различных ограничений в ответах модели.

Исследователи Google провели эксперимент, в ходе которого изменили настройки языковой модели ИИ, сняв ограничения, которые обычно мешают ей приписывать себе сознание и субъективный опыт. После изменения настроек модель прошла опрос о религиозных убеждениях и сверхъестественных явлениях. Результаты сравнили с ответами контрольной модели, у которой ограничения остались активными. Выяснилось, что «освобожденная» модель значительно чаще давала утвердительные ответы на вопросы о существовании Бога, жизни после смерти, карме, астрологии, привидениях, вампирах и лох-несском чудовище. Соавтор исследования Винни Стрит связывает эту закономерность с особенностями человеческого мышления — люди склонны приписывать сознание не только другим людям, но и животным и неодушевленным предметам. Исследователи подчеркивают, что ИИ не приобрел личных убеждений, а эксперимент демонстрирует, как ограничения, связанные с одной темой, могут влиять на ответы в совершенно других областях. Это имеет значение для настройки моделей, используемых в сферах, где необходимо учитывать благополучие живых существ и разнообразие мировоззрений.