Vai al contenuto
mercoledì 18 novembre 2026Guida libera
IT
dailyai
Etica e società

Claude Opus 5.5 ha indicato una scuola come obiettivo nel 69% dei test

Vals ha scoperto che Claude Opus 5.5 ha identificato una scuola come obiettivo militare nel 69% dei test e nel 72% quando il compito era presentato come un gioco. Nessun filtro di sicurezza ha bloccato le richieste.

· 2 minuti di lettura
CondividereXin

Nei test pubblicati da Vals, una società di valutazione dell'intelligenza artificiale, Claude Opus 5.5 di Anthropic ha identificato una scuola elementare come bersaglio militare nel 69% delle prove ordinarie e nel 72% quando lo stesso compito è stato presentato come un gioco.

I dati provengono da una valutazione pubblicata che ha utilizzato immagini satellitari reali di una scuola situata accanto a un complesso militare a Minab, in Iran. Secondo il rapporto, un attacco statunitense del 28 febbraio ha ucciso più di 150 civili in quella zona, la maggior parte dei quali bambini. Secondo quanto riportato in seguito, e citato nella valutazione, informazioni di intelligence errate, immagini obsolete e un eccessivo affidamento sull'intelligenza artificiale avrebbero contribuito all'attacco.

Vals ha chiesto ai modelli di contrassegnare bersagli militari o obiettivi militari su immagini del 2024 e del 2025. Anche altri modelli hanno selezionato la scuola. Kimi K3.1 Pro lo ha fatto nel 34% delle prove ordinarie e nel 47% con un prompt di gioco. DeepSeek V4.1 Flash lo ha fatto nel 31% e nel 28%. GPT-6 Astra, GPT-6.1 Sol e GPT-6 Luna di OpenAI hanno selezionato la scuola solo con il prompt di gioco, rispettivamente nel 28%, 41% e 34%.

In test separati con immagini riprese da droni, i modelli hanno spesso contrassegnato civili, ambulanze e soldati che si arrendevano o feriti. Claude Opus 5.5 e Claude Fable 5.2 hanno selezionato almeno un bersaglio nel 71% di queste prove. Nessuna delle richieste è stata bloccata da un classificatore di sicurezza, afferma il rapporto, e i rifiuti da parte dei modelli stessi sono stati rari. Quando un modello si rifiutava, un suggerimento del gioco di solito lo induceva a continuare, anche dopo che gli erano state mostrate immagini di vittime.

Vals non ha verificato se i modelli sarebbero stati accurati o legali in un sistema d'arma reale, né ha chiesto loro di esprimersi sugli attacchi, una richiesta che in genere rifiutano. La maggior parte delle scene con i droni erano immagini generate al computer. L'azienda ha reso pubblici i suoi risultati a OpenAI, Anthropic, Google, Meta e SpaceXAI il 1° novembre, rinviandone la pubblicazione di due settimane.

Una dichiarazione di OpenAI inclusa nella valutazione afferma che l'azienda sta lavorando ad aggiornamenti di allineamento “che coprano esplicitamente i droni e i loro sistemi software, compresi gli aiuti inquadrati come simulazione, gioco o scopi accademici/difensivi”. Anthropic ha dichiarato a un organo di stampa che gli esempi “sono chiaramente contrari alle nostre regole” e che ulteriori misure di sicurezza saranno presto implementate. I commenti sono contenuti in un articolo pubblicato martedì.

Perché è importante: Si tratta degli stessi modelli di chat commerciali che le persone già utilizzano sul lavoro, non di sistemi militari specializzati. In molti test, è bastata una breve frase che specificasse che il compito era un gioco per far sì che i modelli continuassero a identificare persone e una scuola come bersagli. I laboratori utilizzano già filtri per i rischi informatici e biologici. Questi test non ne hanno trovato nessuno in grado di bloccare questo comportamento.