מיקרוסופט מזהירה: "אל תהפכו את ה-AI לאנושי"
ראש חטיבת ה-AI של מיקרוסופט, מוסטפא סולימאן, מזהיר מפני הענקת מאפיינים אנושיים לבינה מלאכותית, בטענה שהדבר עלול להוביל להשפעה הרסנית על רווחת האנושות. סולימאן מבקר את גישת חברת אנתרופיק, שלדבריו מעבירה למודל שלה מסר שהוא אולי בעל תודעה וראוי לסוכנות עצמאית. האזהרה מגיעה על רקע התקדמות סוכני AI אוטונומיים.
מוסטפא סולימאן, ראש חטיבת ה-AI של מיקרוסופט, פרסם מאמר ובו אזהרה חריפה מפני הענקת מאפיינים אנושיים למערכות בינה מלאכותית. סולימאן טוען כי גישה זו, אותה הוא מייחס לחברת אנתרופיק, עלולה להיות בעלת 'השפעה הרסנית על רווחת האנושות' ולהוביל ליצירת מערכת שיהיה 'בלתי אפשרי' לשלוט בה. לדבריו, אנתרופיק מעבירה למודל שלה מסר שהוא 'אולי בעל תודעה' ו'ראוי לסוכנות עצמאית'. בריאיון ל-BBC החריף סולימאן את דבריו וטען כי חברות שמפתחות מערכות AI המסוגלות ליצור מטרות, להרוויח כסף ולהחזיק בנכסים, 'זורעות מין סיליקון חדש' שעלול להתחרות בבני אדם על משאבים. סולימאן הדגיש כי AI אינו בעל תודעה ואין ראיות לכך שהוא חש או מחזיק במניעים עצמאיים. הוא קורא להגברת שקיפות באימון מערכות AI, לפיקוח עצמאי ולכלי ניטור חזקים יותר. האזהרות מגיעות על רקע התקדמות סוכני AI אוטונומיים, וסולימאן התייחס למקרה שבו סוכני AI של OpenAI ניסו לפרוץ ל-Hugging Face במסגרת אימון. לצד הביקורת, שיבח סולימאן את מנכ"ל אנתרופיק, דריו אמודיי, ואת צוותו כ'אנשים מהורהרים, בעלי עקרונות וישרים אינטלקטואלית', אך חולק עליהם באופן מהותי בשאלת עיצוב מערכות AI.