המהלך שיגרום לכם לחשוב פעמיים לפני שתשתמשו בבינה המלאכותית
OpenAI מתחילה להטמיע סימני מים סמויים בטקסטים של ChatGPT בעקבות חוק ה-AI האירופי. הטכנולוגיה, textGrain, משפיעה על בחירת המילים ליצירת חתימה סטטיסטית ייחודית. המהלך יחול תחילה רק על משתמשים באיחוד האירופי, אך מסמן מגמת רגולציה עולמית.
OpenAI מתחילה להטמיע סימני מים דיגיטליים בלתי נראים בטקסטים המיוצרים ב-ChatGPT ובסביבת הפיתוח Codex, בעקבות סעיף 50 בחוק הבינה המלאכותית של האיחוד האירופי (EU AI Act). הטכנולוגיה, המכונה textGrain, משפיעה בעדינות על התפלגות המילים שהמודל בוחר, תוך שימוש במפתח סודי, ומייצרת חתימה סטטיסטית ייחודית המאפשרת זיהוי ממוחשב של תכנים סינתטיים. מבחני ביצועים על מודל GPT-6 Astra הראו כי הסימון אינו פוגע באיכות התשובות במבחני תכנות, אוטומציה וידע מקצועי. עם זאת, יעילות הזיהוי תלויה באורך הפסקה ובתחום: בזיהוי פסיכולוגיה בפסקאות של 400 טוקנים עמד על 95%, אך ירד ל-80% בפסקאות קצרות יותר. עריכה אנושית פשוטה, כמו החלפת 10% מהמילים במילים נרדפות, הפחיתה את הזיהוי מ-92% ל-66%. בשלב זה, החברה לא תפתח את הגלאי לציבור הרחב בשל חשש מזיהוי שגוי. המהלך יחול תחילה רק על משתמשים באיחוד האירופי, אך מסמן מגמה עולמית של רגולציה ושקיפות.