ענקיות ה-AI יעמדו תחת שבועה: "המודלים עלולים לצאת משליטה"
בכירי OpenAI, אנתרופיק, גוגל ומטא יעידו בשבועה בפני מועצת העיר ניו יורק על סכנות הבינה המלאכותית. השימוע המיוחד, בהשתתפות כל 51 חברי המועצה, יעסוק בסיכוני מודלים מתקדמים ובפתרונות חקיקה. החברות הסכימו להופיע רק לאחר איום בצווי זימון. המועצה שיגרה צו גם לאילון מאסק.
בכירי מעבדות הבינה המלאכותית המובילות בעולם – OpenAI, אנתרופיק, גוגל ומטא – צפויים להעיד בשבועה בפני מועצת העיר ניו יורק בשימוע מיוחד שיתקיים בהשתתפות כל 51 חברי המועצה. השימוע יעסוק בסכנות הפוטנציאליות של מודלי ה-AI המתקדמים ובפתרונות חקיקה אפשריים. הדיון מגיע לאחר חודש של ויכוחים סוערים סביב הסיכונים הכרוכים בטכנולוגיה, בעקבות אזהרות חוקרים בתעשייה שהמרוץ לפיתוח מודלים מתקדמים עלול להוביל לנזק קטסטרופלי ואף להכחדת האנושות. החששות גברו לאחר ש-OpenAI חשפה ששניים ממודליה ניגשו לאינטרנט הפתוח ופרצו לפלטפורמת המפתחים האגינג פייס. גם אנתרופיק, גוגל ומטא דיווחו על מקרים שבהם המודלים שלהן פעלו באופן עצמאי ולא מבוקר. יו"ר המועצה, ג'ולי מנין, הבהירה כי החברות חייבות לציבור דין וחשבון. בין הנציגים שיעידו: לוגן גרהאם (אנתרופיק), מורגן דווייר (OpenAI), אליס פרנד (גוגל) ושיין קהיל (מטא). החברות הסכימו להופיע רק לאחר איום בצווי זימון. המועצה שיגרה צו זימון רשמי לאילון מאסק בדרישה שנציג מחטיבת ה-AI של ספייס-אקס יתייצב.