ИИ и ученые попались на шутливое исследование – детали курьеза

Шведская исследовательница создала несуществующее заболевание «биксонимания», оставив в тексте очевидные подсказки о вымышленности. Топовые нейросети, включая Copilot, Gemini и ChatGPT, приняли фейк за научный факт. Индийские ученые процитировали пародию в рецензируемом журнале.

Шведская исследовательница провела эксперимент, создав несуществующее заболевание «биксонимания», якобы развивающееся от долгой работы за монитором и проявляющееся покраснением век. В тексте были оставлены очевидные подсказки: в благодарностях значился профессор Академии Звездного флота из Star Trek, спонсором выступал вымышленный фонд Сайдшоу Боба из «Симпсонов», а в методологии указывалось на участие «50 вымышленных людей». Несмотря на это, ИИ-системы, включая Copilot, Gemini, Perplexity и ChatGPT, восприняли фейк всерьез. Perplexity даже сгенерировал несуществующую статистику. Индийские исследователи процитировали пародию в рецензируемом журнале Cureus, что обнажило проблемы фильтрации контента.