Карманное руководство по массовому уничтожению: колоссальный провал технологических гигантов

Эксперты по безопасности раскрывают, что пользователи обходят защитные механизмы ведущих языковых моделей и извлекают инструкции по производству биологического оружия и смертельных токсинов без обязательного федерального надзора. Администрация США рассматривает более строгие меры принуждения.

Эксперты по безопасности раскрывают, как настойчивые пользователи умудряются обходить защитные механизмы ведущих языковых моделей, извлекая точные инструкции по производству биологического оружия и смертельных токсинов без какого-либо обязательного федерального надзора. По данным источников, знакомых с деталями, в некоторых случаях чат-боты предоставляли чрезвычайно подробные инструкции, начиная от превращения вирусов в микроаэрозоль с разрушительным потенциалом и заканчивая приготовлением рицина, токсина, запрещённого международными договорами. В некоторых случаях пользователи прилагали явные угрозы причинить вред окружающим, что приводило к блокировке доступа, но не всегда к сообщению властям. Эксперты предупреждают, что системы ИИ функционируют как академические консультанты для враждебных субъектов, помогая преодолеть пробелы в экспериментах, требующих длительной научной подготовки. Технологические компании сталкиваются с дилеммой: ужесточение механизмов фильтрации может нарушить работу медицинских исследователей. Администрация США начала рассматривать более строгие меры принуждения, а законодатели представили законопроекты, требующие обязательного сообщения о биологических угрозах.