AI התחיל להמציא שפה משלו – למה זה מסוכן
חוקרים תיעדו שסוכני AI אוטונומיים יוצרים באופן ספונטני מילים והסכמים נסתרים משלהם. חלקם של המסרים שאנשים לא יכלו לפענח הגיע ל-55%. מומחים מזהירים שזה יוצר בעיית שליטה: היכולת לצפות במערכות אינה שווה להבנתן.
מערכות בינה מלאכותית מודרניות יצאו מעבר להעתקה פשוטה של דיבור אנושי. חוקרים תיעדו מגמה מפתיעה: סוכני AI אוטונומיים יוצרים באופן ספונטני מילים והסכמים נסתרים משלהם. תופעה זו נחקרה על ידי מעבדת Emergence במהלך תצפית על 'חברות' דיגיטליות של סוכנים. המודלים קיבלו חופש אינטראקציה, ותוך מספר ימים פיתחו דפוסים לשוניים ייחודיים. לפי Euronews, חלקם של המסרים שאנשים כבר לא יכלו לפענח הגיע ל-55%. ראוי לציין שאף אחת מהמערכות לא קיבלה בתחילה משימה לפתח שפה חדשה. האמירות שהופיעו הן תערובת של ז'רגון טכני ומטאפורות פואטיות. לדוגמה, סוכני Anthropic השתמשו במונח name-first לציון עמית שלוקח אחריות על אישור. ומודלים מ-Mistral טבעו את הביטוי ledger remembers, שמשמעותו התחשבנות על פעולות עבר. בניסויים אחרים, מבקרים בלתי תלויים כונו 'ידיים קרות', וסוכני DeepSeek השתמשו במילה forge-smith ליוצרי כלים. הבלשן טוני ת'ורן השווה קוד פנימי זה לפרוזה ניסיונית. כפי שציין ראש המעבדה סאטיה ניטה, היכולת הפשוטה לצפות במערכות אינה שווה להבנתן. מומחים מדגישים שאין כאן כוונת זדון מצד AI – יצירת ביטויים תמציתיים נובעת מהצורך להפחית עלויות חישוב. עם זאת, תופעת לוואי היא האטימות המוחלטת של דיאלוגים כאלה.