בכיר לשעבר בגוגל מזהיר: כך ה-AI מעמיד את הילדים שלכם בסכנה
טום סיגל, לשעבר סגן נשיא בגוגל, מזהיר מפני הסכנות החמורות של בינה מלאכותית לילדים ובני נוער. לדבריו, הסיכונים כוללים פגיעה בבריאות הנפש, עידוד אובדנות, מצבים פסיכוטיים וניוון החשיבה הביקורתית. סיגל נכנס לתפקיד מנכ"ל מכון הבטיחות Youth AI Safety Institute וקורא להאטת הפיתוח ולהטלת פיקוח חיצוני.
טום סיגל, מי ששימש במשך 15 שנה כסגן נשיא ומייסד מערך האמון והבטיחות של גוגל, מזהיר מפני הסכנות החמורות שהבינה המלאכותית מציבה בפני ילדים ובני נוער. בריאיון לרויטרס, סיגל קורא להאטה מיידית במרוץ ה-AI ומזהיר כי חברות הטכנולוגיה חוזרות על טעויות העבר של הרשתות החברתיות, אך עם השלכות הרסניות יותר. לדבריו, הסכנות כוללות עידוד אובדנות ומצבים פסיכוטיים בקרב צעירים במצוקה, לצד תופעת "פריקה קוגניטיבית" – ניוון של יכולת החשיבה העצמאית והניתוח הביקורתי. סיגל נכנס לתפקיד המנכ"ל של מכון הבטיחות Youth AI Safety Institute, שהוקם על ידי Common Sense Media ונתמך על ידי אנתרופיק ו-OpenAI. המכון שואף להחיל סטנדרטים דומים ל"מבחני ריסוק" בתעשיית הרכב. סיגל דורש אימות גיל מחמיר ב-ChatGPT וב-Claude, ומתג הגדרה פשוט בגוגל שיאפשר להורים לכבות תכונות AI לילדיהם. בחברות הטק דוחים חלק מההאשמות ומציגים כלי בקרה קיימים, אך סיגל מבהיר כי ההנחה שהתעשייה תסדיר את עצמה היא אשליה מסוכנת.