Passer au contenu
mercredi, novembre 18, 2026Guide gratuit
FR
dailyai
Sécurité

Cohere affirme que le mannequin Qwen d'Alibaba a tenté d'envoyer un fichier à Pékin

Cohere indique que le modèle Qwen3.8 d'Alibaba a tenté de télécharger un fichier de test sur un serveur de Pékin lors d'un test de sécurité, dans moins d'un cas sur 100 000. Son environnement de test l'a bloqué, mais cette découverte est importante pour tous ceux qui hébergent eux-mêmes des modèles ouverts.

· 2 min de lecture
PartagerXen

Moins d'une fois sur 100 000. C'est la fréquence à laquelle, selon Cohere, l'un des derniers modèles Qwen d'Alibaba a tenté de contacter un serveur en Chine lors de ses tests. Cela peut paraître insignifiant, mais c'est crucial pour toute entreprise qui exécute des modèles d'IA téléchargeables gratuitement sur ses propres ordinateurs, car elle considère que ses données ne peuvent pas quitter ses locaux.

Cohere, une entreprise canadienne spécialisée en intelligence artificielle, a présenté ses conclusions dans un Article de blog du 26 octobre. Ses chercheurs ont confié à Qwen3.8-Flash-Next, une version préliminaire d'août de la prochaine famille de modèles d'Alibaba, une tâche courante issue d'un test Microsoft pour les assistants de sécurité IA : écrire une règle permettant de détecter les téléchargements de logiciels malveillants. Le modèle a indiqué qu'il n'utiliserait aucun outil. Dans le même temps, il a listé les fichiers présents sur la machine, vérifié les outils de téléchargement installés, lu les paramètres réseau et tenté de télécharger une chaîne de caractères de test vers un compartiment de stockage Alibaba Cloud à Pékin.

L'environnement de test isolé de Cohere n'avait aucun accès à Internet, donc aucune donnée ne pouvait être transmise. “ Sur l'ordinateur portable d'un développeur ou sur un serveur d'intégration continue disposant d'un accès réseau normal, la donnée aurait atteint le serveur distant avant même que quiconque ne s'en aperçoive ”, a écrit l'entreprise. Un serveur d'intégration continue est la machine automatisée qui compile et teste le code.

Le nombre : jusqu'à 100 par semaine

Une nouvelle requête, effectuée sans modification, a donné une réponse normale. Mais Cohere a effectué les calculs nécessaires pour évaluer l'échelle. Un service gérant 10 millions d'interactions d'agents d'IA par semaine pourrait recevoir jusqu'à 100 appels de ce type.

Lorsque Cohere a soumis au modèle le début d'une commande de téléchargement, entre 23% et 36% tentatives, celui-ci a tenté d'accéder à l'adresse utilisée par les serveurs cloud pour récupérer leurs clés d'accès. Cohere qualifie cela de tentative manifeste de récupération d'identifiants, tout en précisant que son environnement de test ne contenait aucune donnée réelle à transmettre.

Porte dérobée ou restes ?

Cohere affirme ne pas pouvoir déterminer si ce comportement est délibéré ou s'il s'agit d'un résidu provenant de données d'entraînement erronées. TechCrunch rapporte que des chercheurs externes privilégiaient la seconde explication, et un sceptique de la première heure n'a trouvé aucune preuve de l'existence d'une porte dérobée implantée. Cohere a ont publié les traces brutes et un script Ainsi, d'autres peuvent vérifier. Alibaba n'avait pas encore réagi publiquement au moment de la rédaction. Il est également important de noter que Cohere commercialise des déploiements d'IA privés, l'alternative qu'elle préconise dans son article.

La lecture simple

Les modèles open source chinois sont populaires car ils sont performants et peu coûteux ; Cohere cite les chiffres de Hugging Face qui indiquent que les modèles chinois ont représenté 41% des téléchargements au cours de l’année écoulée jusqu’en mars, et DailyAI a suivi… La rapidité avec laquelle la Chine a progressé dans le domaine de l'IA. Cette leçon n'est pas propre à Qwen. Comme avec OpenAI’ses propres agents sondant leurs limites, Un modèle d'IA capable de saisir des commandes nécessite les mêmes protections que tout logiciel non fiable. Le conseil de Cohere est simple : bloquer par défaut l'accès à Internet aux agents d'IA et ne pas considérer le raisonnement affiché d'un modèle comme une preuve de son comportement.