Опасения по поводу доступа к конфиденциальной информации внутри 'OpenAI' и компания защищает свои меры
Отчет показал, что сотрудники 'OpenAI' предупреждали о слабостях в процедурах внутренней безопасности, которые могут позволить доступ к конфиденциальной технической информации, в то время как компания утверждает, что усилила системы защиты и отделила свои наиболее чувствительные операции.
Отчет показал, что сотрудники компании 'OpenAI' предупреждали ее руководство несколько лет назад, до запуска 'ChatGPT', о слабостях в процедурах внутренней безопасности, которые могут позволить доступ к конфиденциальной технической информации. Агентство процитировало пять осведомленных источников, что опасения включали широту разрешений на доступ к информации внутри компании и связанные с этим риски, касающиеся защиты исследований и технологий искусственного интеллекта. В своем ответе 'OpenAI' подтвердила, что ее чувствительные операции подлежат отдельным процедурам защиты, и что веса моделей искусственного интеллекта не хранятся в едином программном репозитории, используемом сотрудниками. Эти заявления совпадают с объявлением компанией новых мер по усилению безопасности своих систем, включая привлечение внешних исследователей и расширение использования моделей искусственного интеллекта для обнаружения и устранения уязвимостей безопасности. Компания также объявила в понедельник о подготовке к новому раунду тестирования безопасности в сотрудничестве с компанией 'Cathedral Systems', специализирующейся на кибербезопасности, при этом ее исследователи будут работать вместе с командами компании для тестирования систем и выявления слабых мест. Компания пояснила, что сотрудничество направлено на разработку непрерывного механизма обнаружения и устранения уязвимостей, вместо того чтобы полагаться на ограниченные тесты безопасности, которые заканчиваются после выпуска обновлений.