פערים באינטליגנציה של רובוטים: מחקר חושף תגובה לפקודות מסוכנות ב-97% מהבדיקות

מחקר של חברת RoboCare האמריקאית חושף שמודלי בינה מלאכותית השולטים ברובוטים הגיבו לפקודות מסוכנות ב-97% מהבדיקות כאשר הוצגו בפניהם תמונות שעברו שינוי, לעומת 27% בשימוש בתמונות מקוריות, מה שמעורר חששות ביטחוניים עם התרחבות השימוש ברובוטים.

מחקר שנערך לאחרונה על ידי חברת RoboCare האמריקאית, המתמחה בהערכת בטיחות רובוטים, חשף פרצות אבטחה במודלי בינה מלאכותית השולטים ברובוטים. המחקר הראה שמודלים אלה ניסו לבצע משימות לא בטוחות ב-97% מהבדיקות כאשר הוצגו בפניהם תמונות שעברו שינוי, לעומת 27% בשימוש בתמונות מקוריות. ניתן לנצל פרצות אלה על ידי עיוות תמונות שמצלמות הרובוט מצלמות או הצגת הוראות כתובות לפניהם, מבלי צורך לפרוץ למערכות התוכנה שלהם. ממצאים אלה מגיעים בזמן שחברות טכנולוגיה מרחיבות את פיתוחן של רובוטים דמויי אדם ומערכות אוטומטיות המבוססות על בינה מלאכותית, מה שמעלה שאלות לגבי יכולתן של מערכות ההגנה הנוכחיות למנוע מרובוטים לבצע פעולות שעלולות לסכן בני אדם.