Бывший топ-менеджер Google предупреждает: как ИИ подвергает ваших детей опасности

Том Сигел, бывший вице-президент Google, предупреждает о серьёзных опасностях искусственного интеллекта для детей и подростков. По его словам, риски включают ущерб психическому здоровью, подстрекательство к суициду, психотические состояния и атрофию критического мышления. Сигел занял пост генерального директора Института безопасности ИИ Youth AI Safety Institute и призывает к замедлению разработок и введению внешнего контроля.

Том Сигел, который в течение 15 лет занимал должность вице-президента и основателя отдела доверия и безопасности Google, предупреждает о серьёзных опасностях, которые искусственный интеллект представляет для детей и подростков. В интервью Reuters Сигел призывает к немедленному замедлению гонки ИИ и предупреждает, что технологические компании повторяют ошибки социальных сетей, но с более разрушительными последствиями. По его словам, опасности включают подстрекательство к суициду и психотические состояния среди молодёжи в бедственном положении, а также явление «когнитивной разгрузки» – атрофию способности к самостоятельному мышлению и критическому анализу. Сигел занял пост генерального директора Института безопасности ИИ Youth AI Safety Institute, основанного Common Sense Media и поддерживаемого Anthropic и OpenAI. Институт стремится применить стандарты, аналогичные «краш-тестам» в автомобильной промышленности. Сигел требует строгой проверки возраста в ChatGPT и Claude, а также простого переключателя настроек в Google, который позволил бы родителям отключать функции ИИ для своих детей. Технологические компании отвергают часть обвинений и представляют существующие инструменты контроля, но Сигел поясняет, что предположение о саморегулировании отрасли является опасной иллюзией.