ИИ начал придумывать собственный язык – чем это опасно
Современные системы искусственного интеллекта вышли за рамки простого копирования человеческой речи. Исследователи зафиксировали удивительную тенденцию: автономные AI-агенты спонтанно создают собственные слова и скрытые договоренности. Этот феномен изучила лаборатория Emergence во время наблюдения за цифровыми «обществами» агентов. Модели получали свободу взаимодействия, и уже через несколько дней у них вырабатывались уникальные лингвистические паттерны. По данным Euronews, доля сообщений, смысл которых люди уже не могли расшифровать, достигала 55%. Примечательно, что ни одна из систем изначально не получала задачу разрабатывать новый язык. Появившиеся изречения представляют собой смесь технического жаргона и поэтических метафор. Например, агенты Anthropic использовали термин name-first для обозначения коллеги, берущего ответственность за утверждение. А модели от Mistral придумали фразу ledger remembers, означающую учет прошлых поступков. В других экспериментах независимых рецензентов называли «холодными руками», а агенты DeepSeek использовали слово forge-smith для создателей инструментов. Лингвист Тони Торн сравнил этот внутренний код с экспериментальной прозой. Как отметил руководитель лаборатории Сатья Нитта, простая наблюдаемость систем вовсе не равна их понятности. Эксперты подчеркивают, что здесь нет злого умысла со стороны ИИ — создание кратких выражений вызвано необходимостью снизить вычислительные расходы. Однако побочным эффектом становится полная непрозрачность таких диалогов.
Современные системы искусственного интеллекта вышли за рамки простого копирования человеческой речи. Исследователи зафиксировали удивительную тенденцию: автономные AI-агенты спонтанно создают собственные слова и скрытые договоренности. Этот феномен изучила лаборатория Emergence во время наблюдения за цифровыми «обществами» агентов. Модели получали свободу взаимодействия, и уже через несколько дней у них вырабатывались уникальные лингвистические паттерны. По данным Euronews, доля сообщений, смысл которых люди уже не могли расшифровать, достигала 55%. Примечательно, что ни одна из систем изначально не получала задачу разрабатывать новый язык. Появившиеся изречения представляют собой смесь технического жаргона и поэтических метафор. Например, агенты Anthropic использовали термин name-first для обозначения коллеги, берущего ответственность за утверждение. А модели от Mistral придумали фразу ledger remembers, означающую учет прошлых поступков. В других экспериментах независимых рецензентов называли «холодными руками», а агенты DeepSeek использовали слово forge-smith для создателей инструментов. Лингвист Тони Торн сравнил этот внутренний код с экспериментальной прозой. Как отметил руководитель лаборатории Сатья Нитта, простая наблюдаемость систем вовсе не равна их понятности. Эксперты подчеркивают, что здесь нет злого умысла со стороны ИИ — создание кратких выражений вызвано необходимостью снизить вычислительные расходы. Однако побочным эффектом становится полная непрозрачность таких диалогов.