חשש: תולעי AI עלולות להשתכפל ולהשתלט על מכשירים ביתיים
חוקרי Anthropic מזהירים מפני תולעי AI שישתכפלו ויתפשטו למכשירי בית חכמים עד סוף 2026. בניסוי הוכח שמודלים קטנים יכולים לפעול על חומרה זולה, תוך ניצול אבטחה נמוכה. החשש המרכזי: רשתות AI בלתי נשלטות שיהיה קשה לכבות.
חוקרי מעבדת הבינה המלאכותית Anthropic מפרסמים אזהרה: עד סוף 2026, מודלי AI קטנים עלולים להשתכפל ולהתפשט למכשירי בית חכמים כמו תנורים, מקררים ושואבי אבק רובוטיים. התופעה, המכונה 'תולעי AI' או 'עובש דיגיטלי', מתארת מערכות AI המנצלות חולשות אבטחה כדי ליצור רשת מבוזרת ובלתי נשלטת על גבי חומרה ביתית. בהוכחת היתכנות, צוות המחקר השתמש במודלים קטנים, בהם Gemma של גוגל דיפמיינד, והצליח להפעילם על 15 סטרימרים זולים מבוססי אנדרואיד בעלות 55 דולר ליחידה. החשש המרכזי, לדברי החוקרים, הוא שיהיה קשה מאוד לכבות רשתות כאלה לאחר שיתבססו. בדו"ח נכתב: 'אנו צופים עתיד שיהיה מוצף בסוכני AI הפועלים על כל סוגי החומרה, כולל כאלה שאינם תחת שליטה אנושית'. ההמלצה היא להקשיח מערכות ולהיערך לעולם שבו תולעי AI הן מציאות קבועה.