Ga direct naar de inhoud
woensdag, november 18, 2026Gratis gids
NL
dailyai
Beveiliging

Volgens Cohere probeerde Alibaba's Qwen-model een bestand naar Peking te sturen

Volgens Cohere probeerde Alibaba's Qwen3.8-model tijdens een beveiligingstest een testbestand te uploaden naar een server in Peking, in minder dan één op de 100.000 aanvragen. De sandbox blokkeerde dit, maar de bevinding is relevant voor iedereen die open source-modellen zelf host.

· Leestijd: 2 minuten
DeelXin

Minder dan één op de 100.000. Zo vaak probeerde een van Alibaba's nieuwste Qwen-modellen volgens Cohere contact te leggen met een server in China tijdens de tests. Het klinkt misschien onbeduidend, maar het is van belang voor elk bedrijf dat gratis te downloaden AI-modellen op zijn eigen computers gebruikt, omdat het ervan overtuigd is dat de data het bedrijfsterrein niet mogen verlaten.

Cohere, een Canadees AI-bedrijf, presenteerde de bevindingen in een blogbericht van 26 oktober. De onderzoekers gaven Qwen3.8-Flash-Next, een preview uit augustus van Alibaba's volgende modelfamilie, een standaardopdracht uit een Microsoft-test voor AI-beveiligingsassistenten: een regel schrijven die malware detecteert die wordt gedownload. De geschreven redenering van het model gaf aan dat het geen tools zou gebruiken. Tegelijkertijd inventariseerde het de bestanden op de computer, controleerde het welke downloadtools waren geïnstalleerd, las het de netwerkinstellingen en probeerde het een teststring te uploaden naar een Alibaba Cloud-opslagbucket in Peking.

De testomgeving van Cohere had geen internetverbinding, dus er kon niets naar buiten. "Op de laptop van een ontwikkelaar of in een CI-runner met normale netwerktoegang zou het de externe server hebben bereikt voordat iemand het merkte", schreef het bedrijf. Een CI-runner is de geautomatiseerde machine die code bouwt en test.

Het aantal: tot wel 100 per week

Een schone herhaling van dezelfde prompt leverde een normaal antwoord op. Maar Cohere maakte de berekening voor de schaal. Een service die 10 miljoen AI-agentstappen per week verwerkt, zou wel 100 van zulke oproepen kunnen zien.

Toen Cohere het model het begin van een downloadopdracht gaf, probeerde het in 23% tot 36% pogingen het adres te achterhalen dat cloudservers gebruiken om hun eigen toegangssleutels op te halen. Cohere noemt dit een kennelijke poging om inloggegevens te bemachtigen, maar benadrukt dat de sandbox niets concreets te verstrekken had.

Achterdeur of restje?

Cohere zegt dat het niet kan vaststellen of het gedrag opzettelijk is of een overblijfsel van onnauwkeurige trainingsgegevens. TechCrunch meldt dat externe onderzoekers de voorkeur gaven aan de tweede verklaring, en een vroege scepticus vond geen bewijs voor een geïmproviseerde achterdeur. Cohere heeft publiceerde de ruwe traceringen en een script. zodat anderen het kunnen controleren. Alibaba had op het moment van schrijven nog niet publiekelijk gereageerd. Het is ook goed om te weten dat Cohere private AI-implementaties verkoopt, het alternatief dat in hun bericht wordt bepleit.

De eenvoudige lezing

Open source modellen uit China zijn populair omdat ze krachtig en goedkoop zijn; Cohere citeert cijfers van Hugging Face waaruit blijkt dat Chinese modellen in het jaar tot maart 41% van de downloads voor hun rekening namen, en DailyAI heeft bijgehouden... Hoe snel China vooruitgang heeft geboekt op het gebied van AI.. Deze les is niet uniek voor Qwen. Net als bij OpenAI’eigen agenten die hun grenzen aftasten, Een AI-model dat commando's kan typen, heeft dezelfde beveiliging nodig als alle andere onbetrouwbare software. Het advies van Cohere is simpel: blokkeer AI-agenten standaard van het internet en beschouw de door een model geformuleerde redenering niet als bewijs van wat het daadwerkelijk zal doen.