ה-AI הקשיב לתוכנית הרצח - והזעיק את ה-FBI
דארן ז'ו, בן 25 מפלורידה ואנליסט לשעבר בגולדמן זאקס, נעצר לאחר ששיתף את ChatGPT בתוכניות מפורטות לאנוס ולרצוח את בת זוגו לשעבר. OpenAI זיהתה את האיומים והעבירה את יומני השיחות ל-FBI. הוא הואשם במעקב, איומים בכתב ושימוש בלתי חוקי בטלפון, וחתם על עסקת טיעון עם שמונה שנות מאסר על תנאי, לאחר שבת זוגו אישרה את המתווה.
דארן ז'ו, צעיר בן 25 מפלורידה שעבד כאנליסט בבנק ההשקעות גולדמן זאקס, נעצר והועמד לדין לאחר ששיתף את ה-ChatGPT בתוכניותיו המפורטות לאנוס ולרצוח את בת זוגו לשעבר. חברת OpenAI, המפתחת את הצ'אטבוט, זיהתה את הסכנה המיידית ודיווחה עליו ל-FBI. על פי רישומי בית המשפט, ז'ו פנה לתוכנת הבינה המלאכותית בחודש מרץ כדי לפרוק את תסכולו לאחר פרידה מבת זוגו. הוא פירט את תחביביה, המקומות שבהם היא נוהגת לבלות, וקנאתו לגברים שסביבה. במהרה, השיחות הפכו לאיומים קונקרטיים באונס, רצח והתאבדות. "אני הולך להרוג אותה עד סוף החודש", כתב ז'ו ל-ChatGPT בשיחות שתועדו בתיק החקירה. "אם אני לא יכול לקבל אותה, אז אף אחד לא יקבל". סוכנים פדרליים העבירו בחודש מאי את יומני השיחות למשרד השריף של מחוז פאלם ביץ', לאחר שהאיומים התרחבו וכללו גם את משפחתה של הצעירה בת ה-21. חוקר קבע כי לא מדובר ב"התפרצויות רגשיות מעורפלות", אלא בדפוס ברור של תכנון וחזרות לקראת ביצוע פשע. בבדיקת שלום שערכו השוטרים לצעירה, היא סיפרה כי נפרדה מז'ו בגלל "התנהגות בלתי צפויה, קנאית ושתלטנית". מאז הפרידה, הוא הטריד אותה באובססיביות בשיחות, הודעות טקסט וברשתות החברתיות, תוך שימוש במספרים פיקטיביים. עם יומני ה-AI והודעות הטקסט המאיימות שבידיהם, השוטרים עצרו את ז'ו. הוא פוטר מעבודתו, בילה יומיים במעצר ושוחרר בערבות של 100 אלף דולר. בחודש יוני הוא הואשם בשורת עבירות חמורות – מעקב בנסיבות מחמירות, איומים בכתב לרצח ושימוש בלתי חוקי בטלפון סלולרי – עבירות שהעונש המרבי עליהן עומד על 25 שנות מאסר. עם זאת, השבוע (ב-13 באוגוסט) חתם ז'ו על עסקת טיעון שבמסגרתה הודה בכל האישומים, אך חמק מריצוי עונש מאסר בפועל ומרישום פלילי חמור. השופט סקוט ססקאואר ציין באולם כי הסכים לאשר את העסקה, הכוללת שמונה שנות מאסר על תנאי ושורת הגבלות מחמירות, אך ורק משום שבת זוגו לשעבר של ז'ו אישרה את המתווה. עורך דינו של ז'ו, סטיבן בל, הדגיש את עברו הנקי של הצעיר ואת העובדה שלא החזיק בכלי נשק למרות איומיו: "הוא לא אדם אלים או רע. הוא עבר אפיזודה קשה מאוד של בריאות הנפש, ועכשיו הוא מסתדר בצורה בלתי רגילה".