OpenAI vuole che i limiti allo sviluppo dell'IA vengano misurati in termini di “perplessità” e pubblica i propri dati.

Domenica OpenAI ha proposto che il settore dell'IA misuri e limiti i propri progressi con un singolo numero: la perplessità, ovvero la precisione con cui un modello prevede in media il token successivo, dove un valore inferiore indica una prestazione migliore. Ha inoltre pubblicato i dati interni che utilizza per monitorare il proprio pre-addestramento.
La proposta è contenuta in “Perplexity and Intelligence”, un saggio di Jakub Pachocki, responsabile scientifico di OpenAI. Egli sostiene che gli sviluppatori dovrebbero concordare dei “limiti comuni” che nessun laboratorio può oltrepassare finché non vengono raggiunti traguardi di sicurezza concreti, come ad esempio un successore dei monitor di catena di pensiero, che controllano il ragionamento di un modello per individuare eventuali problemi.
Per rendere possibili tali confronti, Pachocki ha pubblicato i punteggi interni di log-perplexity di OpenAI sul suo principale set di dati di valutazione. GPT-3.5 ha ottenuto un punteggio di circa 0,99 e GPT-4 di circa 0,91, scrive; al di sotto di 0,8 l'azienda ha visto “capacità trasformative in campi come la sicurezza informatica e la matematica”, e a circa 0,76 un modello “ha iniziato a produrre risultati rivoluzionari” in matematica, il campo sta ancora elaborando un Affermazione di prova assistita dall'IA. Egli avverte che “non era affatto chiaro a priori che queste capacità sarebbero emerse una volta raggiunte quelle precise soglie di perplessità”. Queste affermazioni provengono da OpenAI e non sono state verificate in modo indipendente.
Prevede capacità più trasformative nell'intervallo 0,68-0,7 — ammettendo “non so quali saranno queste capacità” — e afferma che una “valanga di progressi fondamentali nel pre-addestramento” potrebbe arrivare “già nel 2027”. I punti deboli che elenca sono: i laboratori si addestrano su dati diversi e non possono essere facilmente confrontati; la perplessità non si mappa su nessun compito che interessi alle persone; un ragionamento migliore non la riduce; il suo livello minimo è sconosciuto.
Pubblicare i dati “ha richiesto una certa riflessione”, scrive, perché offre ai concorrenti un quadro più chiaro della posizione di OpenAI, una preoccupazione che, a suo dire, è controbilanciata “dall'urgenza di stabilire misure di sicurezza condivise in tutto il settore”.
Perché è importante: sembra essere la prima volta che un laboratorio all'avanguardia mette sul tavolo i dati interni di pre-addestramento, trasformando un astratto dibattito sulla sicurezza in un dato concreto e misurabile. Se altri laboratori si rifiutassero di eguagliare la trasparenza, la proposta si bloccherebbe al primo ostacolo: il confronto. Se invece dovessero seguire l'esempio, le future “gare” di intelligenza artificiale potrebbero avere limiti di velocità espressi nelle unità di misura già utilizzate dagli ingegneri.


