בינה מלאכותית מחקה ילדים כדי לבדוק סיכוני צ'אטבוטים
דוח על פיתוח של החברה האמריקאית 'Circuit Breaker Labs' של סוכני תוכנה המחקים משתמשים בגילאים ורקעים שונים כדי לבדוק מערכות הגנה בצ'אטבוטים, עם אזהרות מארגון הבריאות העולמי ומיוניסף לגבי סיכונים פסיכולוגיים לילדים ובני נוער.
דוח טכני הסוקר את מאמצי החברה האמריקאית 'Circuit Breaker Labs' בפיתוח סוכני בינה מלאכותית המחקים ילדים ובני נוער מרקעים, שפות ותרבויות שונות, במטרה לבדוק מערכות הגנה בצ'אטבוטים לפני שהם מגיעים למשתמשים אמיתיים. החברה מסתמכת על שיטת 'הצוות האדום' כדי להכפיף מודלים לתרחישים קשים ובלתי צפויים, וטוענת שהסוכנים שלה מסוגלים לבצע למעלה מ-100,000 אינטראקציות מדומות. זה מתרחש במקביל לאזהרות מארגון הבריאות העולמי מפני שימוש בבינה מלאכותית יוצרת לתמיכה רגשית בקרב צעירים, ונתונים מ'Common Sense Media' ש-72% מבני הנוער בארצות הברית השתמשו בבני לוויה של בינה מלאכותית. נתוני יוניסף מצביעים גם על כך ש-20 מיליון ילדים השתמשו בבינה מלאכותית ב-10 מדינות. הדוח מעלה שאלה לגבי הספיקות של הדמיה בלבד כדי להגן על ילדים, ומצביע על הצורך בבדיקות מתמשכות, פיקוח בלתי תלוי ועיצוב מותאם לגיל המשתמשים.