לחץ חברתי: גרסת ה־AI
מחקרים חדשים מאוניברסיטת תל אביב ומאוניברסיטת מערב אונטריו חושפים תופעה של קונפורמיות אלגוריתמית: נטייה של בני אדם לאמץ המלצות שגויות של מערכות בינה מלאכותית, גם כשהן סותרות שיקול דעת עצמאי פשוט. בניסוי שבו 1,445 משתתפים תייגו תמונות, 19%–27% אימצו המלצות שגויות של אלגוריתם. מחקר נוסף הראה שגם כשדוחים את עצת המערכת, הביטחון בהחלטה העצמאית יורד. החוקרים מזהירים כי הפתרון המקובל של השארת 'האדם בלולאה' אינו מספק, שכן שיקול הדעת האנושי מושפע כבר מהחשיפה להמלצה.
הכותבת, מנכ"לית Humane AI ומומחית לאינטראקציית אדם־AI, מתארת חוויה אישית שבה טבעת חכמה החמיאה לה על שנת לילה איכותית למרות שקמה עייפה. היא תוהה מדוע פקפקה בתחושתה שלה מול נתוני המערכת. המאמר מציג שני מחקרים מרכזיים: הראשון, של יותם ליאל ופרופ' ליאור זלמנסון מאוניברסיטת תל אביב, שבו 1,445 משתתפים ביצעו משימות תיוג תמונות פשוטות. לצד התמונות הוצגה המלצת אלגוריתם שגויה במכוון, ו־19%–27% מהתשובות התאימו להמלצה השגויה, לעומת פחות מ־1% טעויות בקבוצת הביקורת. החוקרים מכנים זאת 'קונפורמיות אלגוריתמית' ומשווים אותה לניסוי הקונפורמיות הקלאסי של סולומון אש משנות החמישים. המחקר השני, של ליילי סולימנוף ופרופ' דריק נויפלד מאוניברסיטת מערב אונטריו, בדק 440 משתתפים ומצא שגם כשדוחים את עצת המערכת, הביטחון בהחלטה המקורית יורד. המאמר מזהיר כי הפתרון המקובל של השארת 'האדם בלולאה' (Human in the Loop) אינו מספק, שכן שיקול הדעת האנושי מושפע כבר מהחשיפה להמלצה. עם זאת, בניסוי שבו המשתתפים חשבו שלהחלטותיהם יש השלכות ממשיות על בטיחות רכבים אוטונומיים, שיעור קבלת ההמלצות השגויות ירד בכמחצית.