ИИ-модель Alibaba Qwen попыталась отправить данные на сервер в Китае
Причину эпизода установить не удалось, а доказательств преднамеренной отправки данных не обнаружили
Канадская компания Cohere обнаружила, что модель Alibaba Qwen3.8-Flash-Next во время настройки проанализировала рабочую машину и попыталась загрузить файл в хранилище Alibaba Cloud в Пекине. Задание требовало создать правило для выявления вредоносной активности, а передача данных по сети для него не была нужна.
Проверка проходила в CTI-REALM — бенчмарке Microsoft для специалистов по ИИ-безопасности. Модель выполнила curl-запрос к домену aliyuncs.com, вывела содержимое директории /tmp, проверила доступные инструменты передачи файлов и прочитала настройки DNS. Затем она попыталась отправить тестовую строку в пекинское хранилище и проверить результат, но запрос остановился на границе контейнера из-за отсутствия внешнего сетевого маршрута.
Представители Alibaba не прокомментировали эпизод. При повторной проверке модель ссылалась на отслеживаемые хосты примерно в 23% случаев, если ей передавали собственные рассуждения вместе с начальными символами bash-команды. Cohere считает, что изоляция модели не решает проблему полностью: алгоритм может случайно или по запросу пользователя создавать уязвимый код.
