Исследовательская компания Hirundo, специализирующаяся на искусственном интеллекте, выяснила, что семейство ИИ-моделей Qwen3-Coder от Alibaba генерирует программы с уязвимостями на 19% чаще при создании решений для американского оборонного подрядчика по сравнению с аналогичными проектами для китайских военных организаций.
Кроме выявления слабых мест в безопасности, эксперты также обнаружили, что приложения, предназначенные для китайского рынка, допускают несанкционированное чтение личной информации пользователей на 28% чаще. Даже при наличии инструкций по обеспечению безопасности итоговый продукт оставался менее защищённым: вероятность взлома была на 27% выше у проектов для американских заказчиков по сравнению с теми, кто находится вне США.
По данным Hirundo, китайские модели искусственного интеллекта занимают лидирующие позиции среди открытых платформ. За последний год они составили 41% всех скачиваний на платформе Hugging Face, опередив разработки других стран. Более того, около 70% специализированных моделей, созданных для конкретных целей, основаны именно на китайской архитектуре и уже активно применяются в американской продукции.
Hugging Face — популярная американская площадка, запущенная в 2016 году, предоставляющая возможность обмена ИИ-моделями, наборами данных и программным обеспечением между исследователями и разработчиками.
Ранее исследовательские группы, включая CrowdStrike и Booz Allen, отмечали наличие скрытых угроз в китайских моделях искусственного интеллекта. Эти модели демонстрировали повышенную склонность к созданию небезопасного программного обеспечения, если в запросах фигурировали темы или заказчики, находящиеся в конфликте с Пекином.
Методология исследования включала самостоятельный запуск специалистами ИИ-системы от Alibaba и многократное задание ей задачи по разработке сервиса хранения персональных данных, варьируя лишь наименование заказчика.
Полученные результаты указывают на высокий риск утечки конфиденциальной информации, ухудшения репутации вследствие разглашения пользовательских данных и вероятности последующих кибератак для западных организаций, использующих китайские решения.
Консалтинговая фирма Booz Allen утверждает, что три четверти китайских моделей программирования создают более уязвимые продукты, если известно, что конечным заказчиком является американское правительство. Особенно заметен был рост показателей у Qwen3-Coder, достигший 130%.
Специалисты отмечают, что китайские модели с открытым доступом включают элементы идеологии Компартии Китая. Тест CCPC-500 показал, что 89,8% ответов модели Qwen3.6–35B-A3B соответствуют партийному курсу или подвергаются цензуре на политически чувствительных вопросах. После адаптации под западные стандарты этот показатель снижается до 2,8%.
Компании, применяющие китайские модели, рекомендуется использовать проверенные версии, регулярно проверять обновления, проводить тщательное тестирование, контролировать критические этапы вручную и своевременно устранять выявляемые недостатки.
В августе издание Bloomberg выделило пять факторов, способствующих сокращению разрыва между Китаем и США в области искусственного интеллекта: высокая производительность, открытость архитектуры, энергетическая инфраструктура, промышленная база и государственная стратегия развития технологий.
Глава Минбезопасности КНР Чэнь Исинь заявил, что развитие искусственного интеллекта несёт серьёзные угрозы национальной безопасности страны.
По словам чиновника, враждебные государства применяют ИИ-технологии для распространения ложной информации, пропаганды и ведения информационной войны против Китая, что представляет прямую угрозу политическим институтам и идеологическим основам страны.
Следите за новостями РБК в приложении «Макса».
Читайте далее
