L'attività antropica raddoppia, ma METR afferma che le prove sono nascoste.

Secondo una revisione indipendente, Anthropic sta migliorando i suoi modelli di intelligenza artificiale circa due volte più velocemente rispetto a un anno fa. Il problema è che l'azienda ha oscurato la maggior parte delle prove che, secondo i revisori, erano le più importanti, quindi il pubblico deve fidarsi della loro parola riguardo a una conclusione che potrebbe ridefinire la percezione del rischio legato al ritmo di progresso dell'IA.

La valutazione è venuta da Valutazione dei modelli e ricerca sulle minacce (METR), pubblicato giovedì. METR ha trascorso 11 settimane all'interno di Anthropic da metà agosto a fine ottobre, con accesso a punteggi di riferimento interni, metriche di formazione, interviste al personale e sondaggi. Non ha ricevuto alcun compenso dal laboratorio.

Il numero

Nell'indice di capacità interna di Anthropic (AECI), i punteggi del modello sono aumentati a un ritmo stimato 1,9 volte il tasso precedente a ottobre 2025, con un intervallo di confidenza del 95% di 1,5-2,8 volte. In parole semplici, METR afferma che Anthropic ha compiuto circa due anni di progressi storici nell'ultimo anno. La maggior parte del personale METR che lavora al progetto ritiene ora che il laboratorio stia “probabilmente” migliorando su compiti ben definiti a circa il doppio del ritmo del periodo marzo 2024-ottobre 2025, anche se non si sorprenderebbero se la cifra reale fosse più vicina a 1,3 volte o 3 volte.

METR afferma di poter escludere “con certezza” che la crescita più rapida della potenza di calcolo per l'addestramento sia la causa. Interviste e sondaggi indicano invece un uso intensivo di strumenti di intelligenza artificiale per aiutare i ricercatori a scrivere codice, eseguire esperimenti e testare nuove idee. I sondaggi su Slack tra i dipendenti, basati su autovalutazioni, hanno rilevato un'accelerazione di circa 12 volte per l'ultimo modello interno a ottobre: una prova debole, sottolinea METR, ma coerente con un notevole incremento. L'intelligenza artificiale non sta ancora apportando contributi significativi e completamente autonomi alle fasi di addestramento più complesse, è stato detto ai revisori, sebbene stiano emergendo “segnali di sviluppo” in tal senso.

Ciò che non puoi vedere

Anthropic aveva il diritto unilaterale di oscurare le informazioni non pubbliche dal rapporto pubblico. METR afferma che la società ha rimosso la maggior parte delle prove che il team riteneva più utili per le proprie conclusioni sui rischi, tra cui stime dettagliate sull'accelerazione per fase di sviluppo, analisi dei colli di bottiglia e previsioni per i modelli futuri. Anthropic ha dichiarato che i tagli erano finalizzati a eliminare informazioni riservate che avrebbero potuto avvantaggiare sviluppatori concorrenti.

Il METR è esplicito riguardo al risultato: il pubblico non può giudicare le prove in sé né confrontarle con altre fonti. “Questo rapporto non raggiunge la ‘trasparenza sulle prove’”, ha scritto. I lettori devono fare affidamento sul giudizio del METR più di quanto il gruppo ritenga opportuno per questioni di tale importanza. Notizie AP hanno notato la stessa tensione: un avvertimento sui progressi più rapidi, legati a materiali che la maggior parte delle persone non può esaminare.

Perché la rivendicazione del primato è contestata

I revisori elencano i modi in cui potrebbero sbagliarsi in entrambe le direzioni. L'accelerazione potrebbe essere limitata a compiti puliti e valutabili automaticamente, sovrastimando il complesso impatto nel mondo reale. La precedente crescita dell'AECI di Anthropic è stata più lenta rispetto alla media del settore, il che potrebbe gonfiare il confronto del “2x”. D'altro canto, metriche interne oscurate suggerivano che l'accelerazione potesse essere superiore al 2x e ancora in aumento, e METR non ha rilevato colli di bottiglia evidenti che potrebbero bloccare ulteriori accelerazioni nel corso del prossimo anno.

Ciò è importante perché l'auto-miglioramento ricorsivo, ovvero i sistemi di IA che contribuiscono in modo significativo a costruire la prossima generazione più veloce, è lo scenario che i ricercatori della sicurezza temono possa comprimere i tempi. L'ipotesi di METR è che la maggioranza (forse intorno all'80%) dei attuale L'accelerazione è dovuta all'assistenza dell'IA, con maggiore incertezza sui fattori trainanti di fine 2025. Il co-fondatore Sam McCandlish ha affermato che Anthropic prevede di condurre una propria analisi pubblica sulla velocità con cui si stanno muovendo i progressi all'interno dell'azienda, The Verge ha riportato.

Perché è importante

Se i laboratori di frontiera stanno già ottenendo un notevole incremento di produttività dai propri modelli, gli organismi di controllo esterni necessitano di prove che il pubblico possa verificare, non solo di moltiplicatori eclatanti. Il raddoppio del tasso di progresso cambia il tempo a disposizione delle società per testare, regolamentare e adattarsi. L'oscuramento delle misurazioni sottostanti trasforma una valutazione indipendente in qualcosa di più simile all'opinione di un intermediario fidato, il che è utile, ma non equivale a una verifica aperta. Per i lavoratori che già vedono l'IA rimodellare la produzione quotidiana — compresi giorni più lunghi piuttosto che più corti — la questione non è più se gli strumenti siano utili. È la velocità con cui i composti utili vengono sviluppati nei laboratori e chi ha accesso ai dati.