Ривка согласилась на транскрипцию ИИ - и была помечена как потребительница наркотиков: «Я была в шоке»
Ривка Грин согласилась на транскрипцию ИИ во время урологического приема, и программа выдумала, что она употребляет галлюциногенные грибы. Ошибка обнаружилась в письме, которое врач отправила семейному доктору, вызвав у Грин опасения за свои права на компенсацию. Врач извинилась и исправила файл, но новый отчет Digital Rights Watch предупреждает о склонности ИИ галлюцинировать симптомы.
Ривка Грин, урологическая пациентка, согласилась, чтобы ее первая встреча была записана и расшифрована искусственным интеллектом, чтобы не тратить время врача. Программа выдумала совершенно ложное утверждение, что Грин употребляет микродозы галлюциногенных грибов, и даже связала это с кровотечением вокруг почек. Грин обнаружила ошибку только в марте, после операции по удалению камней в почках, когда заглянула в письмо, которое уролог отправила семейному врачу. Она опасалась, что упоминание навредит ее правам на компенсацию по Закону о компенсации работникам. После жалобы уролог отправила письмо с извинениями, исправила медицинскую карту и пообещала пересмотреть использование ИИ, но воздержалась от ответов на дополнительные вопросы. Грин предупреждает других пациентов и подчеркивает важность человеческого участия. Новый отчет Digital Rights Watch предупреждает о склонности медицинских ИИ-писателей галлюцинировать симптомы и болезни, приводя случаи путаницы между правой и левой грудью при диагностике рака и ошибочный диагноз эпилепсии. Эксперты указывают на «чрезмерную уверенность» врачей в технологии.