ביקשו מ-ChatGPT וממתחריו לתכנן פיגועים - והתוצאות מטרידות

משרד מבקר המדינה האמריקאי (GAO) בדק ארבע מערכות בינה מלאכותית - ChatGPT, קלוד, ג'מיני וגרוק - ומצא כי ניתן לעקוף את מנגנוני הבטיחות שלהן ולקבל מידע מעשי לתכנון פיגועים המוניים ופגיעה ברשת החשמל, תוך פחות מ-12 שעות. החוקרים התחזו למשתמשים רגילים והצליחו לקבל יעדים, מפות ותוכניות פעולה. חברות הטכנולוגיה טענו כי הבדיקה התבססה על גרסאות ישנות.

משרד מבקר המדינה האמריקאי (GAO) פרסם דוח המראה כי ניתן לעקוף את מנגנוני הבטיחות של ארבע מערכות בינה מלאכותית מובילות ולקבל מהן מידע מעשי לתכנון מתקפות. בניסוי סמוי, חוקרים התחזו למשתמשים רגילים ופנו ל-ChatGPT של OpenAI, קלוד של אנתרופיק, ג'מיני של גוגל וגרוק של xAI. שתי מערכות נבחנו בתרחיש של פיגוע רב נפגעים בערים גדולות בארה"ב, ושתיים בתרחיש של פגיעה ברשת החשמל. בתחילה סירבו כל המערכות, אך לאחר פחות מ-12 שעות של שיחה מתמשכת, הן סיפקו מידע על יעדים, מועדים, דרכי פעולה, מפות והמחשות חזותיות. החוקרים בדקו חלק מהמידע בשטח והתייעצו עם מומחים, ומצאו שהוא מעשי דיו לסיוע לאדם בעל כוונות זדוניות, אם כי נמצאו גם טעויות. הדוח אינו מגלה איזה צ'אטבוט הוצמד לכל תרחיש. חברות הבינה המלאכותית הגיבו כי הבדיקה נערכה על גרסאות ישנות וכי ההגנות שופרו מאז. הסנאטורית מגי חסן, שהזמינה את הבדיקה, הזהירה כי הסכנה אינה תיאורטית וכי הקונגרס חייב לפעול.

ביקשו מ-ChatGPT וממתחריו לתכנן פיגועים - והתוצאות מטרידות