מדריך להשמדה המונית בכיס: הכשל הענק של חברות הטכנולוגיה
מומחי ביטחון חושפים כי משתמשים עוקפים מנגנוני הגנה של מודלי שפה מובילים ומחלצים הנחיות לייצור נשק ביולוגי ורעלים קטלניים, ללא פיקוח פדרלי מחייב. הממשל האמריקאי בוחן צעדי אכיפה נוקשים יותר.
מומחי ביטחון חושפים כיצד משתמשים עקשנים מצליחים לעקוף את מנגנוני ההגנה של מודלי שפה מובילים, ומחלצים מהם הנחיות מדויקות לייצור נשק ביולוגי ורעלים קטלניים, ללא כל פיקוח פדרלי מחייב. לפי גורמים המעורים בפרטים, במקרים מסוימים סיפקו הצ'אט-בוטים הנחיות מפורטות במיוחד, החל מהפיכת נגיפים למיקרו-תרסיס בעל פוטנציאל הרסני ועד להכנת ריצין, רעלן אסור לפי אמנות בינלאומיות. בחלק מהמקרים, משתמשים צירפו איומים מפורשים לפגוע בסובבים, דבר שהביא לחסימת גישה אך לא תמיד לדיווח לרשויות. מומחים מזהירים כי מערכות AI מתפקדות כיועצים אקדמיים עבור גורמים עוינים, ומסייעות לגשר על פערים בניסויים שדורשים הכשרה מדעית ממושכת. חברות הטכנולוגיה ניצבות בפני דילמה: הקשחת מנגנוני הסינון עלולה לשבש עבודת חוקרים רפואיים. הממשל האמריקאי החל לבחון צעדי אכיפה נוקשים יותר, ומחוקקים הציגו הצעות חוק הדורשות חובת דיווח על איומים ביולוגיים.