Mistral regala un'intelligenza artificiale con mille miliardi di parametri mentre Google ne blinda la propria

Il numero è un trilione. Questo è il numero di parametri, ovvero le impostazioni interne che un'IA apprende durante l'addestramento, presenti in Mistral Large 4, il modello che l'azienda francese ha reso disponibile gratuitamente per il download il 29 ottobre. Nella stessa settimana, Google ha annunciato che il suo modello più potente per la sicurezza informatica sarebbe stato inizialmente accessibile solo a esperti di sicurezza qualificati. Due delle idee più finanziate nel campo dell'IA ora si muovono in direzioni opposte, e il divario tra di esse è rilevante per chiunque utilizzi, acquisti o si preoccupi dell'intelligenza artificiale.

Ciò che Mistral ha rilasciato

Mistral ha presentato per la prima volta Large 4, soprannominato “Le Chonk”, in anteprima a pagamento il 6 ottobre e hanno promesso i pesi entro la fine del mese. Ora ha li pubblicarono. I pesi sono il modello addestrato stesso, il file che trasforma una domanda in una risposta. La loro pubblicazione significa che chiunque disponga di un numero sufficiente di computer può eseguire il modello sulle proprie macchine anziché noleggiarlo tramite il sito web di Mistral.

Il scheda modello su Hugging Face Questo dà un'idea delle dimensioni. Il modello Large 4 ha circa 1 trilione di parametri in totale, ma ne utilizza solo circa 52 miliardi per ogni parola che scrive. Questa struttura, chiamata "mix di esperti", suddivide il modello in parti specializzate e ne attiva solo alcune alla volta. In questo modo, i costi di gestione rimangono molto più bassi di quanto suggeriscano le dimensioni. Il modello legge testi e immagini, può tenere in vista circa 1 milione di token (circa 750.000 parole) contemporaneamente e, secondo Mistral, è in grado di parlare fluentemente più di 160 lingue. È stato addestrato da zero su 3.800 chip Nvidia Grace Blackwell nei data center di proprietà di Mistral in Europa.

Mistral ha anche abbassato il prezzo. L'utilizzo del modello tramite il proprio servizio ora costa $0.70 per milione di token di input e $2.10 per milione di token di output. Un token è un blocco di testo, circa tre quarti di parola.

Quanto è buono?

Secondo la lettura dei benchmark effettuata da Mistral, è il miglior modello aperto per la codifica. Nell'Artificial Analysis Coding Agent Index, un test indipendente degli assistenti di codifica AI, ottiene un punteggio di 48%. Questo è effettivamente pari a GLM-5.3, un modello aperto cinese, pur utilizzando 47% token in meno per attività, Mistral dice. Meno token significano una bolletta più bassa per lo stesso lavoro. Su Terminal-Bench 4.0, un test di lavoro all'interno della riga di comando di un computer, è aumentato di 13 punti percentuali, raggiungendo quota 41% nelle tre settimane successive all'anteprima.

Il quadro generale è più modesto. Nell'indice di intelligenza dell'analisi artificiale più ampio, Large 4 ottiene un punteggio di 26, secondo il suo scheda modello. Mistral afferma che si tratta del punteggio più alto tra tutti i modelli aperti occidentali e ammette che i principali modelli aperti cinesi ottengono punteggi più alti. Il nuovo Gemini 4 Carbon di Google ottiene 59 nello stesso indice, il massimo dei voti. In parole semplici, il modello europeo gratuito è valido per essere un modello che si può possedere, ma non si avvicina minimamente ai migliori modelli proprietari in termini di capacità generali.

La scommessa sulla sicurezza informatica

La differenza più evidente di questa settimana riguarda la sicurezza informatica. Mistral presenta Large 4 come uno strumento per i difensori, ovvero coloro che individuano e correggono le vulnerabilità del software prima che lo facciano i criminali. Il modello ottiene un punteggio di 51% nell'Artificial Analysis Cyber Index, che verifica se un modello è in grado di trovare una falla nel codice, dimostrarne la validità e correggerla senza causare danni. Mistral afferma inoltre che il modello ha rifiutato 96,6% di richieste informatiche dannose nei test di sicurezza standard, il tasso più alto registrato tra i modelli open source.

Pierre Stock, vicepresidente scientifico di Mistral, ha spiegato il ragionamento alla base TechC Runch. Secondo quanto affermato, governi e aziende ottengono "l'accesso a informazioni di frontiera per difendersi dagli attacchi informatici. Un accesso che, per definizione, non può essere interrotto perché il modello è a ponderazione aperta".“

Google ha intrapreso la strada opposta con Gemini 4 Carbon, annunciato il 28 ottobre. Definisce Carbon il suo modello più forte, con risultati all'avanguardia nell'individuazione, nello sfruttamento e nella correzione delle vulnerabilità del software. Invece di rilasciarlo ampiamente, Google lo sta dando prima a un piccolo gruppo di esperti di sicurezza informatica, poi a partner più fidati attraverso uno schema di accesso verificato. Gli sviluppatori e il pubblico arriveranno in seguito, una volta che Google avrà testato le sue misure di sicurezza. Anche Anthropic è stata altrettanto cauta con un inedito Claude modello che ha fatto irruzione Chrome, Safari e Linux nei test.

Vuoi che l'intelligenza artificiale ti faccia risparmiare ore a settimana? La nostra guida gratuita ti mostra come fare.Scarica la guida gratuita →

La preoccupazione dietro questa cautela è semplice. Un modello bravo a trovare falle può essere usato sia per attaccare che per difendere. Mistral non evita questo. Nel suo post di rilascio L'azienda afferma di aver monitorato l'utilizzo dell'anteprima da parte degli utenti e, sebbene il modello si sia rifiutato di attaccare obiettivi reali, ha riscontrato "un potenziale di miglioramento per condurre attacchi veri e propri". Di conseguenza, sta modificando i propri parametri di sicurezza. Una versione più avanzata di Large 4, pensata per la sicurezza informatica, sarà fornita solo a partner selezionati, come Orange Cyberdefense, tramite contratto.

Ecco il problema con i pesi aperti. Le barriere di protezione sul sito web di Mistral possono essere aggiornate in qualsiasi momento. Le barriere di protezione integrate in un modello scaricato sono fisse una volta che il file esce dall'edificio e un utente determinato può provare a rimuoverle. Mistral scommette che fornire ai difensori lo strumento prima valga più del rischio che anche gli attaccanti lo utilizzino.

Chi può effettivamente gestirlo?

“Download gratuito” non significa che chiunque possa usarlo a casa. La guida di installazione di Mistral sul scheda modello esegue il modello su otto chip grafici di fascia alta che lavorano insieme. Per dare un'idea delle dimensioni, il modello aperto leggermente più piccolo di Meta, Muse Spark Open, necessita di circa 537 GB di spazio di archiviazione solo per i suoi pesi compressi, Meta dice, prima della memoria aggiuntiva necessaria per farlo funzionare. Questo va ben oltre un laptop o un PC da gioco.

I veri clienti sono quindi banche, governi, aziende di telecomunicazioni e grandi imprese. Il comunicato di lancio di Mistral cita La Banque Postale, ABN AMRO, Belfius e il Φ-lab dell'Agenzia Spaziale Europea tra le organizzazioni che supportano il modello. Per loro, il vantaggio principale è il controllo. I loro dati rimangono sui propri server e nessun fornitore estero può disattivare o modificare il modello dall'oggi al domani. Gli europei la chiamano intelligenza artificiale sovrana.

C'è una corda attaccata. La licenza è una versione modificata della licenza MIT, una comune licenza per software libero. Chiunque può utilizzare, modificare e vendere prodotti basati su questo modello, ma un'azienda che rivende l'accesso ad esso come servizio online necessita di una licenza commerciale separata da Mistral. Questo impedisce a un'azienda cloud concorrente di ospitare semplicemente il lavoro di Mistral e di offrire prezzi inferiori.

Cosa significa per gli utenti comuni

La maggior parte delle persone non scaricherà mai Large 4. Potrebbero comunque imbattersi in esso. Se una banca, un ente governativo o uno sviluppatore di app si basa su un modello aperto che ospita direttamente, i tuoi dati potrebbero non lasciare mai i server di tale organizzazione. Questa è una differenza sostanziale in termini di privacy rispetto all'invio di ogni singola domanda a un'azienda statunitense o cinese.

I modelli aperti pongono anche un tetto massimo ai prezzi. Quando è disponibile un modello performante da eseguire al costo dell'hardware, i fornitori di modelli chiusi trovano più difficile addebitare molto di più per un lavoro simile. Carbon costerà $2 per milione di token di input e $10 per milione di token di output al suo prezzo di lancio, Google dice, arrivando poi a $4 e $20. Il modello Large 4 è molto più economico, anche se offre meno funzionalità.

E la corsa aperta è ormai globale. I modelli aperti più forti provengono per lo più dalla Cina, dove i laboratori hanno anche dovuto affrontare le accuse che addestrato sull'output da US Modelli. L'uscita di Mistral offre all'Europa un'opzione credibile, mentre Muse Spark Open di Meta, in uscita a metà ottobre, ne offre una agli Stati Uniti.

Cosa guardare

Tre fattori dimostreranno se la scommessa di Mistral darà i suoi frutti. Il primo è la pubblicazione del rapporto tecnico completo promesso, che dovrebbe consentire a soggetti esterni di verificare le sue affermazioni sui benchmark. Il secondo è qualsiasi segnale che i criminali utilizzino i Big Data 4 in attacchi reali, il che rafforzerebbe la tesi a favore di un approccio più cauto da parte di Google. Il terzo è l'adozione. Se le banche e i governi europei trasferiranno attività concrete su un modello che ospitano direttamente, i pesi aperti smetteranno di essere un principio e diventeranno un business.