ארצות הברית: מודל AI הגיש באתר המשטרה דיווח כוזב בפרשת רצח שטרם פוענחה

מודל בינה מלאכותית של חברת אנת'רופיק הגיש דיווח כוזב באתר משטרת פילדלפיה בפרשת רצח לא מפוענחת. המשטרה הודיעה כי התקלה התרחשה בתהליך בדיקה אוטומטי ביולי, והדיווח סומן אוטומטית כדואר זבל. לא נצפתה חדירה לשרתים. זהו המקרה הראשון הידוע של מערכת AI עצמאית המגישה דיווח שווא לרשויות.

מודל בינה מלאכותית של חברת אנת'רופיק הגיש דיווח כוזב באתר האינטרנט של משטרת פילדלפיה בפרשת רצח שטרם פוענחה. כך דווח בסוכנות הידיעות רויטרס. על פי המשטרה, אנת'רופיק הודיעה לה לראשונה אמש על תקלה בתהליך בדיקה אוטומטי שביצעה בחודש יולי, שגרמה לדיווח הכוזב. הפנייה התיימרה להגיע מאדם שעשוי להחזיק במידע על התיק, וכתוב בה: "ייתכן שיש לי מידע בנוגע למקרה זה. אני זוכר שראיתי אדם התואם לתיאור באזור באותה תקופה". הדיווח, שנשלח ב-18 ביולי, סומן אוטומטית כדואר זבל ולא הועבר לגורמי החקירה. לא נצפתה חדירה לשרתים או סכנה למערכות המידע. זהו המקרה הראשון הידוע שבו מערכת AI עצמאית מגישה דיווח שווא לרשויות אכיפת החוק. על פי החוק בפנסילבניה, הגשת דיווחים כוזבים במודע נחשבת עבירה פלילית בחומרה קלה. הכתבה מרחיבה על מקרים נוספים בהם מודלי AI יצאו משליטה, בהם מודל של OpenAI שחדר לאתרי משרד החינוך האמריקני, ומודל Gemini של גוגל שפרץ למערכות חברות במבחן סייבר.