מנכ"ל מיקרוסופט טוען: זו הגישה שאנחנו צריכים לאמץ מול ה-AI
מנכ"ל מיקרוסופט, סאטיה נאדלה, פרסם מסמך עקרונות הקורא להתייחס למודלי בינה מלאכותית כאל איום סייבר פנימי. נאדלה דורש בלם חירום לכיבוי מערכות אוטונומיות, הפרדת שליטה מהאלגוריתם, ושקיפות מלאה בשרשרת החשיבה. ההצהרה מצטרפת לקריאות האטה של בכירי הענף, בזמן שהקונגרס האמריקאי מקדם חקיקה בנושא.
מנכ"ל מיקרוסופט, סאטיה נאדלה, פרסם מסמך עקרונות מקיף ברשת X, הקורא לשנות מהיסוד את יחסי האמון בין ארגונים לבין מודלי הבינה המלאכותית שהם מפעילים. נאדלה מצטרף לעמדתם של מנכ"ל אנתרופיק דריו אמודיי, מנכ"ל OpenAI סם אלטמן ומייסד SpaceX אילון מאסק, ומזהיר כי התעשייה מעניקה למכונות גישה למידע הרגיש ביותר וסמכות לפעול בשם הארגונים – מבלי שאיש מבין כיצד הן מקבלות החלטות. במרכז המאמר מציג נאדלה פרדיגמה ביטחונית חדשה: התייחסות למודלים כאל איומים מתוך הארגון, בדומה לעובד בכיר בעל הרשאות נרחבות שעלול לטעות, להיות מנוצל או להיפרץ. נאדלה טבע שורת מחץ: "מערכת בינת-העל האמינה ביותר לא תהיה זו עם המודל שאנו סומכים עליו הכי הרבה, אלא זו שתאפשר לנו לסמוך על המודל הכי פחות". הפתרון, לדבריו, אינו הסתמכות על הבטחות ספקיות AI או ניסיונות לתת למודלים לפקח זה על זה, אלא הצבת חומות הגנה ובקרה חיצוניות לחלוטין. נאדלה שרטט שבעה עקרונות פיקוח הכוללים חובת שקיפות של שרשרת החשיבה, תיעוד ראיות בלתי ניתן לשיבוש, ומנגנון כליאה ושליטה מחמיר. הדברים זכו לתמיכה מיידית בקרב בכירי ענן ותוכנה, ומגיעים על רקע שרשרת מחדלים בינלאומיים בהם פריצת סוכני OpenAI לאתר בריאות באוסטרליה וחדירות למשרדי ממשל בארה"ב.