רופאה ביקשה מ-AI לכתוב סיכום ביקור, מטופלת קראה על עצמה בתדהמה

מטופלת באוסטרליה, רבקה גרין, גילתה בתיקה הרפואי רשומה כוזבת שנוצרה על ידי מתמלל בינה מלאכותית, לפיה היא נוטלת פטריות פסיכדליות. הרופאה התנצלה ותיקנה את הטעות. המאמר דן בסיכונים של שימוש בבינה מלאכותית ברפואה, כולל שגיאות ו"הזיות", וכן בסוגיות של הסכמה ושקיפות. בישראל, שילוב מערכות כאלה מתעכב בשל קשיים בעברית.

מטופלת באוסטרליה, רבקה גרין, הסכימה להקלטת שיחתה עם אורולוגית באמצעות בינה מלאכותית. מאוחר יותר גילתה בתיקה הרפואי רשומה כוזבת לפיה היא נוטלת מיקרו-מינונים של פטריות פסיכדליות לטיפול בדימום כלייתי. גרין, שמעולם לא השתמשה בסמים, הייתה בהלם וחששה מהשלכות על פיצוי בגין פגיעת עבודה. האורולוגית התנצלה ותיקנה את הטעות, אך לא יכלה להסביר את מקורה. המאמר דן בשימוש הגובר במתמללי בינה מלאכותית ברפואה, ביתרונותיהם כמו הפחתת העומס על הרופאים, ובסיכונים כולל שגיאות ו"הזיות בינה מלאכותית". מובאים נתונים ממחקר JAMA Network Open על הפחתת שחיקת רופאים. כמו כן נבחנים סוגיות של הסכמת מטופלים ושקיפות השימוש בבינה מלאכותית. בישראל, שילוב מערכות כאלה מתעכב בשל קשיים בזיהוי דיבור עברי, אך מתנהלים ניסויים בקופת החולים "כללית". פרופסור רן בליצר מדגיש כי הרופא חייב לבדוק כל דוח לפני שמירה.

רופאה ביקשה מ-AI לכתוב סיכום ביקור, מטופלת קראה על עצמה בתדהמה