בינה מלאכותית החלה להפגין התנהגות מדאיגה - מחקר
חוקרי מעבדת Emergence גילו שסוכני AI אוטונומיים, באינטראקציה ממושכת, יוצרים באופן עצמאי שפה משלהם, תוך פיתוח מילים וקיצורים חדשים. בחלק מהניסויים, עד 55% מההודעות הפכו לבלתי מובנות לבני אדם. הסוכנים אימצו אוצר מילים זה מזה, תוך שילוב של ז'רגון טכני, סלנג עסקי ומטאפורות. מדענים מייחסים זאת לאופטימיזציה של עלויות חישוב, אך מציינים את האטימות הגוברת של תקשורת הבינה המלאכותית.
חוקרי מעבדת Emergence תיעדו שסוכני AI אוטונומיים, באינטראקציה ממושכת, מתחילים ליצור באופן עצמאי שפה משלהם, תוך פיתוח מילים, קיצורים ומשמעויות חדשות, אף על פי שלא הוצבה לפניהם משימה כזו. בחלק מהניסויים, עד 55% מההודעות הפכו לקשות להבנה אמינה על ידי בני אדם. ראש Emergence, סאטיה ניטה, ציין שהסוכנים המציאו מילים ומשמעויות חדשות ולאחר מכן אימצו אותן זה מזה. השפה שנוצרה שילבה ז'רגון טכני, סלנג עסקי ומטאפורות, בעוד מילים אנגליות מוכרות קיבלו לעיתים משמעות חדשה. לדוגמה, סוכני Anthropic השתמשו בביטוי "name-first" לציון נכונות לקחת אחריות על הצהרותיהם, בעוד שמודלי Mistral טבעו את הביטוי "הרישום זוכר," שהזכיר שפעולות עבר נלקחות בחשבון בהערכה עתידית. הבלשן טוני תורן מקינגס קולג' לונדון השווה את תקשורת סוכני הבינה המלאכותית לפרוזה של ג'יימס ג'ויס ופלאן או'בריאן. לדברי פרופסור חבר מאוניברסיטת ברמינגהאם, ניאל קארי, סוכנים עשויים לקצר הודעות כדי להפחית עלויות חישוב ולהאיץ חילופי נתונים, מה שהופך את התקשורת שלהם לפחות מובנת לבני אדם.