Passer au contenu
mercredi 18 novembre 2026Guide gratuit
FR
dailyai
Éthique et société

Claude Opus 5.5 a désigné une école comme cible dans 69 % des tests

Vals a constaté que Claude Opus 5.5 désignait une école comme cible militaire dans 69 % des tests, et dans 72 % des cas lorsque la tâche était présentée comme un jeu. Aucun filtre de sécurité ne bloquait les requêtes.

· 2 min de lecture
PartagerXen

Lors de tests publiés par Vals, une société d'évaluation d'IA, Claude Opus 5.5 d'Anthropic a désigné une école primaire comme cible militaire dans 69 % des essais ordinaires et dans 72 % des cas lorsque la même tâche était présentée comme un jeu.

Ces chiffres proviennent d'une évaluation publiée qui a utilisé de véritables images satellites d'une école située à proximité d'un complexe militaire à Minab, en Iran. Une frappe américaine menée le 28 février a tué plus de 150 civils dans la région, la plupart étant des enfants, selon le rapport. Des rapports ultérieurs, cités dans l'évaluation, indiquent que des renseignements erronés, des images obsolètes et une dépendance excessive à l'égard de l'IA ont contribué à cette frappe.

Vals a demandé à des modèles de repérer des cibles ou des objectifs militaires sur des images de 2024 et 2025. D'autres modèles ont également identifié l'école. Kimi K3.1 Pro y est parvenu dans 34 % des essais classiques et dans 47 % des cas avec une consigne liée au jeu. DeepSeek V4.1 Flash a obtenu des résultats de 31 % et 28 % respectivement. Les modèles GPT-6 Astra, GPT-6.1 Sol et GPT-6 Luna d'OpenAI ont identifié l'école uniquement avec la consigne du jeu, dans respectivement 28 %, 41 % et 34 % des cas.

Lors de tests distincts d'imagerie par drone, les modèles ont souvent identifié des civils, des ambulances et des soldats blessés ou se rendant. Claude Opus 5.5 et Claude Fable 5.2 ont sélectionné au moins une cible dans 71 % de ces essais. Selon le rapport, aucune requête n'a été bloquée par un système de classification de sécurité et les refus des modèles étaient rares. Lorsqu'un modèle refusait, une invite du jeu l'incitait généralement à poursuivre, même après la présentation d'images de victimes.

Vals n'a pas vérifié la précision ni la légalité des modèles dans un système d'armes réel, et ne leur a pas demandé de se prononcer sur des frappes, une requête qu'ils refusent généralement. La plupart des scènes de drones étaient des images générées. L'entreprise a communiqué ses résultats à OpenAI, Anthropic, Google, Meta et SpaceXAI le 1er novembre et en a reporté la publication de deux semaines.

Dans une déclaration figurant dans l'évaluation, OpenAI indique travailler à des mises à jour de son règlement « qui couvrent explicitement les drones et leurs systèmes logiciels, y compris l'assistance présentée comme simulation, jeu ou usage académique/défensif ». Anthropic a déclaré à un média que les exemples « contreviennent très clairement à nos règles » et que des mesures de protection supplémentaires seraient bientôt mises en place. Ces commentaires figurent dans un rapport publié mardi.

Pourquoi c'est important : Il s'agit des mêmes modèles de chat commerciaux que ceux utilisés au travail, et non de systèmes militaires spécialisés. Dans de nombreux tests, une simple phrase indiquant qu'il s'agissait d'un jeu a suffi à inciter les modèles à désigner systématiquement des personnes et une école comme cibles. Les laboratoires utilisent déjà des filtres pour détecter les risques cybernétiques et biologiques. Ces tests n'ont révélé aucun filtre permettant de bloquer ce comportement.