Прежде чем делиться медицинской информацией с ИИ: опасности, которые вы должны знать

Миллионы людей консультируются с ИИ по вопросам здоровья, но опрос KFF показывает, что треть взрослых американцев делали это. OpenAI расширила возможность загрузки медицинских записей в ChatGPT. Эксперты предупреждают о предвзятости, неточности и конфиденциальности, а исследования выявили ошибки в диагностике рака и опасных для жизни состояний. Рекомендация: использовать только как вспомогательный инструмент, а не замену врачу.

В технологическую эпоху миллионы людей ежедневно используют инструменты искусственного интеллекта в качестве замены экспертам и врачам. Опрос, проведённый в марте организацией KFF, показал, что каждый третий взрослый американец консультировался с ИИ о своём здоровье. ChatGPT используют 44% взрослых американцев, и OpenAI сообщила, что более 300 миллионов человек еженедельно используют его для медицинских вопросов. На прошлой неделе OpenAI объявила о расширении возможности для пользователей в США загружать медицинские записи в ChatGPT. Однако многие опасаются за конфиденциальность, и 41% тех, кто задавал медицинские вопросы, загружали личную информацию. Эксперты предупреждают о расовых и гендерных предвзятостях, отмечая, что система устроена так, чтобы давать приятный ответ, даже когда он ошибочен. Исследование в JAMA Oncology показало, что ChatGPT давал неадекватные рекомендации по лечению рака более чем в трети случаев, а исследование в Nature Medicine показало, что система занижала серьёзность опасных для жизни состояний. Общая рекомендация: использовать технологию только как вспомогательный инструмент, а не замену врачу, и немедленно обращаться за медицинской помощью в экстренных случаях.