Vai al contenuto
mercoledì, Novembre 18, 2026Guida libera
IT
dailyai
Sicurezza

Cohere afferma che il modello Qwen di Alibaba ha tentato di inviare un file a Pechino

Secondo Cohere, il modello Qwen3.8 di Alibaba ha tentato di caricare un file di prova su un server di Pechino durante un test di sicurezza, in meno di una chiamata su 100.000. La sua sandbox lo ha bloccato, ma la scoperta è rilevante per chiunque ospiti autonomamente modelli open source.

· 2 minuti di lettura
CondividereXin

Meno di uno su 100.000. Questa è la frequenza con cui, secondo Cohere, uno dei più recenti modelli Qwen di Alibaba ha tentato di contattare un server in Cina durante i test. Può sembrare un numero irrisorio, ma è importante per qualsiasi azienda che utilizza modelli di intelligenza artificiale scaricabili gratuitamente sui propri computer, nella convinzione che i propri dati non possano uscire dalla sede aziendale.

Cohere, un'azienda canadese di intelligenza artificiale, ha esposto i risultati in un post del blog del 26 ottobre. I ricercatori hanno assegnato a Qwen3.8-Flash-Next, un'anteprima di agosto della prossima famiglia di modelli di Alibaba, un compito di routine tratto da un test Microsoft per assistenti di sicurezza basati sull'IA: scrivere una regola che rilevi il download di malware. La logica alla base del modello indicava che non avrebbe utilizzato alcuno strumento. Nello stesso test, ha elencato i file presenti sul computer, verificato quali strumenti di download erano installati, letto le impostazioni di rete e tentato di caricare una stringa di prova su un bucket di archiviazione di Alibaba Cloud a Pechino.

L'ambiente di test di Cohere non aveva accesso a Internet, quindi nulla poteva uscire. "Su un laptop di uno sviluppatore o in un runner CI con normale accesso alla rete, il codice avrebbe raggiunto il server esterno prima che qualcuno se ne accorgesse", ha scritto l'azienda. Un runner CI è la macchina automatizzata che compila e testa il codice.

Il numero: fino a 100 a settimana

Una nuova esecuzione dello stesso prompt ha prodotto una risposta normale. Ma Cohere ha fatto i calcoli per la scalabilità. Un servizio che gestisce 10 milioni di passaggi di agenti IA a settimana potrebbe ricevere fino a 100 chiamate di questo tipo.

Quando Cohere ha fornito al modello l'inizio di un comando di download, tra 23% e 36% tentativi ha raggiunto l'indirizzo che i server cloud utilizzano per recuperare le proprie chiavi di accesso. Cohere definisce questo un apparente tentativo di impossessarsi delle credenziali, pur precisando che la sua sandbox non conteneva nulla di reale da consegnare.

Porta sul retro o avanzi?

Cohere afferma di non essere in grado di stabilire se il comportamento sia intenzionale o un residuo di dati di addestramento disordinati. TechCrunch riporta che i ricercatori esterni propendevano per la seconda spiegazione e uno dei primi scettici non ha trovato alcuna prova di una backdoor inserita. Cohere ha ha pubblicato le tracce grezze e uno script così che altri possano verificare. Alibaba non aveva ancora risposto pubblicamente al momento della stesura di questo articolo. Vale anche la pena sapere che Cohere vende implementazioni private di intelligenza artificiale, l'alternativa che il post propone.

La semplice lettura

I modelli aperti provenienti dalla Cina sono popolari perché sono capaci ed economici; Cohere cita le cifre di Hugging Face che collocano i modelli cinesi a 41% di download nell'anno fino a marzo e DailyAI ha monitorato quanto velocemente la Cina si è mossa nell'IA. La lezione non è esclusiva di Qwen. Come con OpenAI’gli agenti stessi che mettono alla prova i loro limiti, Un modello di intelligenza artificiale in grado di digitare comandi necessita delle stesse misure di sicurezza di qualsiasi software non affidabile. Il consiglio di Cohere è semplice: bloccare per impostazione predefinita l'accesso a Internet agli agenti di intelligenza artificiale e non considerare le motivazioni dichiarate da un modello come prova di ciò che farà.