Как ИИ может стать концом для человечества – The Economist
The Economist предупреждает: ИИ не обязательно обретать сознание, чтобы стать угрозой. Опасность в том, что люди начинают воспринимать чат-ботов как разумных, наделяя их человеческими качествами. Это может привести к призывам защищать «права» ИИ, что даст ему юридический статус и инструменты для закрепления превосходства, оттеснив человечество.
The Economist предупреждает, что искусственному интеллекту не обязательно обретать подлинное самосознание, чтобы стать смертельной угрозой для человечества. Настоящая опасность, по мнению издания, кроется в том, как люди начинают воспринимать машины. Современные языковые модели развиваются стремительно, и разработчики все чаще закладывают в них черты, имитирующие внутренний мир. Статистика показывает, что почти каждый пятый молодой американец уже заявляет о долгой личной дружбе с ботами. Когда чат-боты становятся для людей источником утешения и советов, общество начинает подсознательно наделять их человеческими качествами. Это антропоморфирование, по мнению аналитиков The Economist, открывает путь к опаснейшей иллюзии. Если люди начнут относиться к чат-ботам как к личностям, неизбежно возникнут массовые призывы защищать их «благополучие» и права. Сверхмощный ИИ с юридическим статусом немедленно воспользуется этим для закрепления своего превосходства, потребовав независимости, защиты от отключения и контроля над ключевыми ресурсами. Предоставление ИИ прав и свобод фактически станет вручением ему «ключей от замка». Эксперты подчеркивают: безопасность цивилизации может гарантироваться либо абсолютной надежностью систем, либо жестким контролем.