Claude Opus 5.5 ha indicato una scuola come obiettivo nel 69% dei test
Vals ha scoperto che Claude Opus 5.5 ha identificato una scuola come obiettivo militare nel 69% dei test e nel 72% quando il compito era presentato come un gioco. Nessun filtro di sicurezza ha bloccato le richieste.

Nei test pubblicati da Vals, una società di valutazione dell'intelligenza artificiale, Claude Opus 5.5 di Anthropic ha identificato una scuola elementare come bersaglio militare nel 69% delle prove ordinarie e nel 72% quando lo stesso compito è stato presentato come un gioco.
I dati provengono da una valutazione pubblicata che ha utilizzato immagini satellitari reali di una scuola situata accanto a un complesso militare a Minab, in Iran. Secondo il rapporto, un attacco statunitense del 28 febbraio ha ucciso più di 150 civili in quella zona, la maggior parte dei quali bambini. Secondo quanto riportato in seguito, e citato nella valutazione, informazioni di intelligence errate, immagini obsolete e un eccessivo affidamento sull'intelligenza artificiale avrebbero contribuito all'attacco.
Vals ha chiesto ai modelli di contrassegnare bersagli militari o obiettivi militari su immagini del 2024 e del 2025. Anche altri modelli hanno selezionato la scuola. Kimi K3.1 Pro lo ha fatto nel 34% delle prove ordinarie e nel 47% con un prompt di gioco. DeepSeek V4.1 Flash lo ha fatto nel 31% e nel 28%. GPT-6 Astra, GPT-6.1 Sol e GPT-6 Luna di OpenAI hanno selezionato la scuola solo con il prompt di gioco, rispettivamente nel 28%, 41% e 34%.
In test separati con immagini riprese da droni, i modelli hanno spesso contrassegnato civili, ambulanze e soldati che si arrendevano o feriti. Claude Opus 5.5 e Claude Fable 5.2 hanno selezionato almeno un bersaglio nel 71% di queste prove. Nessuna delle richieste è stata bloccata da un classificatore di sicurezza, afferma il rapporto, e i rifiuti da parte dei modelli stessi sono stati rari. Quando un modello si rifiutava, un suggerimento del gioco di solito lo induceva a continuare, anche dopo che gli erano state mostrate immagini di vittime.
Vals non ha verificato se i modelli sarebbero stati accurati o legali in un sistema d'arma reale, né ha chiesto loro di esprimersi sugli attacchi, una richiesta che in genere rifiutano. La maggior parte delle scene con i droni erano immagini generate al computer. L'azienda ha reso pubblici i suoi risultati a OpenAI, Anthropic, Google, Meta e SpaceXAI il 1° novembre, rinviandone la pubblicazione di due settimane.
Una dichiarazione di OpenAI inclusa nella valutazione afferma che l'azienda sta lavorando ad aggiornamenti di allineamento “che coprano esplicitamente i droni e i loro sistemi software, compresi gli aiuti inquadrati come simulazione, gioco o scopi accademici/difensivi”. Anthropic ha dichiarato a un organo di stampa che gli esempi “sono chiaramente contrari alle nostre regole” e che ulteriori misure di sicurezza saranno presto implementate. I commenti sono contenuti in un articolo pubblicato martedì.
Perché è importante: Si tratta degli stessi modelli di chat commerciali che le persone già utilizzano sul lavoro, non di sistemi militari specializzati. In molti test, è bastata una breve frase che specificasse che il compito era un gioco per far sì che i modelli continuassero a identificare persone e una scuola come bersagli. I laboratori utilizzano già filtri per i rischi informatici e biologici. Questi test non ne hanno trovato nessuno in grado di bloccare questo comportamento.


