חשש מאובדן שליטה על בינה מלאכותית: צרפת מובילה הסכם בינלאומי

הנשיא הצרפתי עמנואל מקרון הכריז על הסכם בינלאומי חדש לחיזוק הפיקוח על מערכות בינה מלאכותית מתקדמות, על רקע חששות גוברים מסיכונים ביטחוניים ומאובדן שליטה. הפגישה כללה מנהיגים משמונה מדינות, שר האוצר האמריקאי ונציגים מהאו"ם ומה-OECD, והסתיימה בפרסום "קריאת פריז לבטיחות בינה מלאכותית".

נשיא צרפת עמנואל מקרון הכריז ביום שני על הסכם בינלאומי חדש לחיזוק הפיקוח על מערכות בינה מלאכותית מתקדמות, על רקע חששות גוברים מסיכונים ביטחוניים הקשורים לפיתוח טכנולוגיה זו ואפשרות לשימוש לרעה או לאובדן שליטה. ההכרזה באה בעקבות פגישה שקיים מקרון באמצעות ועידת וידאו, בהשתתפות כ-50 אישים, בהם מנהיגי מדינות, מנהלי חברות טכנולוגיה וחוקרים. ארמון האליזה מסר כי הפגישה הסתיימה בפרסום הצהרה בשם "קריאת פריז לבטיחות בינה מלאכותית", הכוללת התחייבויות לחיזוק הפיקוח על מערכות אלו, פיתוח מנגנונים משותפים להערכת סיכוניהן וטיפול בתקריות שעלולות לנבוע משימוש בהן. מקרון אמר בפוסט בפלטפורמת X כי המשתתפים הסכימו על הצורך לחזק הערכות עצמאיות וציבוריות של סיכוני בינה מלאכותית, לשפר את שיתוף המידע על תקריות חמורות ולהבטיח אחריות של חברות וגופים האחראים לפיתוח המודלים. בפגישה השתתפו מנהיגים משמונה מדינות: קנדה, נורווגיה, הולנד, פינלנד, יפן, בריטניה, בחריין וסיירה לאון, יחד עם שר האוצר האמריקאי סקוט בסנט, ונציגים מהאו"ם ומה-OECD. כמו כן השתתפו כמה דמויות בולטות בתחום הבינה המלאכותית, בהם מנכ"ל OpenAI סם אלטמן.

חשש מאובדן שליטה על בינה מלאכותית: צרפת מובילה הסכם בינלאומי