"SAGA": כלי שמזהה סרטונים מזויפים ומזהה את מודל הבינה המלאכותית שיצר אותם

חוקרים באוניברסיטת קליפורניה פיתחו את "SAGA", כלי שלא רק מזהה סרטון מזויף, אלא גם מזהה את מודל הבינה המלאכותית שיצר אותו. הוא מבוסס על ניתוח טביעות אצבע דיגיטליות ודפוסי תנועה, ונבדק בהצלחה על 19 מודלים.

צוות חוקרים באוניברסיטת קליפורניה, ריברסייד פיתח כלי חדש בשם "SAGA" (Source Attribution of Generative AI Videos) למאבק בדיסאינפורמציה דיגיטלית. הכלי אינו מסתפק בזיהוי אם סרטון מזויף, אלא יכול לזהות את מודל הבינה המלאכותית הספציפי שיצר אותו, בין אם מבוסס על המרת טקסט לוידאו או תמונה לוידאו. SAGA פועלת על ידי ניתוח "טביעות אצבע דיגיטליות" ייחודיות לכל מודל, כולל דפוסי תנועה ורצפי פריימים, באמצעות טכניקה הנקראת Temporal Attention Signatures. החוקרים בדקו את הכלי על 19 מודלים שונים, והוא הפגין יכולת לאמת אותנטיות של סרטון, לקבוע את שיטת היצירה, לזהות את המודל שבו נעשה שימוש, ואפילו לזהות את צוות הפיתוח. החוקרים מאמינים שכלי זה יסייע לחוקרים לעקוב אחר קמפיינים של דיסאינפורמציה ויאפשר לרגולטורים לאכוף כללי שקיפות, למרות מרוץ החימוש המתמשך בין זיוף לגילוי.