רבקה הסכימה לתמלול AI - וסומנה כצורכת סמים: "הייתי בהלם"
רבקה גרין הסכימה לתמלול AI בפגישה אורולוגית, והתוכנה המציאה שהיא צורכת פטריות הזיה. הטעות התגלתה במכתב ששלחה הרופאה לרופא המשפחה, וגרמה לגרין חשש לפגיעה בזכויות הפיצויים שלה. הרופאה התנצלה ותיקנה את התיק, אך דוח חדש של Digital Rights Watch מזהיר מפני נטיית AI להזות תסמינים.
רבקה גרין, מטופלת אורולוגית, הסכימה שהפגישה הראשונה שלה תוקלט ותומלל על ידי בינה מלאכותית, כדי לא לבזבז את זמנה של הרופאה. התוכנה המציאה טענה שקרית לחלוטין, לפיה גרין צורכת מיקרו-מינונים של פטריות הזיה, ואף קישרה זאת לדימומים סביב הכליות שלה. גרין גילתה את הטעות רק במרץ, לאחר ניתוח לאבנים בכליות, כשהציצה במכתב ששלחה האורולוגית לרופא המשפחה. היא חששה שהאזכור יפגע בזכויותיה לפיצויים מכוח חוק פיצויי עובדים. לאחר תלונה, האורולוגית שלחה מכתב התנצלות, תיקנה את התיק הרפואי והבטיחה לבחון מחדש את השימוש ב-AI, אך נמנעה מלהשיב לשאלות נוספות. גרין מזהירה מטופלים אחרים ומדגישה את חשיבות המעורבות האנושית. דוח חדש של ארגון Digital Rights Watch מזהיר מפני נטיית כותבי AI רפואיים להזות תסמינים ומחלות, ומציין מקרים של בלבול בין שד ימין לשמאל באבחון סרטן ואבחון שגוי של אפילפסיה. מומחים מצביעים על "אמון יתר" של רופאים בטכנולוגיה.