I ricercatori di DeepMind hanno presentato "FunSearch", un metodo innovativo che sfrutta i Large Language Models (LLM) per trovare nuove soluzioni matematiche e informatiche.
Il documento, pubblicato in Natura, descrive FunSearch, che combina un LLM pre-addestrato con soluzioni inventive basate sul codice e un valutatore automatico che attenua le imprecisioni nel processo di risoluzione dei problemi.
Si inizia utilizzando l'LLM per generare soluzioni creative sotto forma di codice informatico. Poi, il sistema automatico verifica queste soluzioni per assicurarsi che siano corrette e utili. Questo processo si ripete, affinando ulteriormente le soluzioni a ogni ciclo, facendo evolvere le idee iniziali in nuove conoscenze verificate.
In parole povere, FunSearch è come una sessione di brainstorming tra un pensatore molto creativo (il LLM) e un rigoroso fact-checker, che lavorano insieme per trovare risposte innovative a problemi complessi.
Questo processo iterativo consente alle idee iniziali di evolvere in nuove conoscenze verificate.
Negli attuali esperimenti di DeepMind, FunSearch ha fornito nuovi spunti di riflessione su problemi matematici chiave, tra cui il problema dell'insieme di tappi e il problema del bin-packing.
Affrontare il problema del cap set
Uno dei principali successi di FunSearch è la sua prestazione nel problema degli insiemi di tappi, una sfida complessa nell'ambito della teoria matematica.
Ecco un approfondimento su questo problema:
- Il problema degli insiemi di punti è basato su uno spazio ad alta dimensionalità, in cui l'obiettivo è trovare l'insieme più grande possibile di punti (un insieme di punti) in cui non ci sono tre punti allineati in linea retta.
- La sfida deriva dalla crescita esponenziale delle combinazioni possibili con l'aumento della dimensionalità dello spazio, che rende inefficaci gli approcci computazionali tradizionali.
- L'innovazione di FunSearch consiste nel generare programmi che hanno identificato insiemi di tappi più ampi di quelli precedentemente conosciuti, dimostrando una capacità senza precedenti di superare la conoscenza matematica guidata dall'uomo.
Un problema più pratico affrontato da FunSearch è il bin packing problem, che cerca strategie ottimali per impacchettare oggetti di varie dimensioni in contenitori, una sfida rilevante sia in scenari fisici, come l'organizzazione di container per le spedizioni, sia nella scienza computazionale, come l'organizzazione di compiti computazionali per l'efficienza.
I metodi tradizionali prevedono l'imballaggio degli oggetti nel primo spazio disponibile o in quello con il minor spazio residuo.
Tuttavia, FunSearch ha introdotto approcci efficaci che evitano strategicamente di lasciare piccole lacune non colmabili.
I potenziali utilizzi di FunSearch
Jordan Ellenberg, professore di matematica all'Università del Wisconsin-Madison e coautore del lavoro, ha sottolineato le implicazioni di FunSearch per il futuro dell'interazione uomo-macchina nell'informatica e nella matematica.
"Ciò che trovo davvero entusiasmante, ancor più dei risultati specifici che abbiamo trovato, sono le prospettive che suggerisce per il futuro dell'interazione uomo-macchina in matematica", ha detto Ellenberg.
E ha aggiunto: "Invece di generare una soluzione, FunSearch genera un programma che trova la soluzione. Una soluzione a un problema specifico potrebbe non darmi indicazioni su come risolvere altri problemi correlati".
"Ma un programma che trova la soluzione, è qualcosa che un essere umano può leggere e interpretare e, auspicabilmente, generare idee per il problema successivo e quello successivo e quello successivo ancora".
Ecco ulteriori dettagli su come FunSearch apre nuovi orizzonti nell'apprendimento automatico:
- Risoluzione creativa di problemi con la generazione di codice: A differenza di molti sistemi di intelligenza artificiale che si concentrano sull'analisi dei dati o sul riconoscimento dei modelli, FunSearch è specializzato nella generazione di soluzioni creative nel codice del computer. Ciò gli consente di affrontare problemi che non riguardano solo l'interpretazione dei dati, ma anche la creazione di nuovi modi per risolvere problemi complessi.
- Raffinamento iterativo: FunSearch impiega un processo iterativo di miglioramento continuo delle soluzioni. Si parte da un'idea iniziale generata dal LLM, poi perfezionata attraverso una serie di valutazioni e miglioramenti. Questo processo imita il modo in cui gli esseri umani spesso risolvono i problemi: partendo da un'idea iniziale e migliorandola nel tempo.
- Creatività e rigore: FunSearch colma il divario tra la risoluzione creativa dei problemi e la valutazione rigorosa. Il LLM apporta creatività e innovazione, generando soluzioni nuove e inesplorate, mentre il valutatore automatico assicura che queste soluzioni siano accurate e praticabili. Questo duplice approccio è fondamentale nei settori scientifici in cui l'innovazione deve essere abbinata alla precisione.
- Trasparenza: Uno degli aspetti unici di FunSearch è la sua capacità di fornire risultati trasparenti e interpretabili. Invece di offrire una risposta finale, genera un programma che spiega in dettaglio come è stata raggiunta la soluzione. Questa trasparenza è fondamentale per la ricerca scientifica, dove la comprensione del processo è importante quanto il risultato.
Pushmeet Kohli, responsabile dell'IA per la scienza di DeepMind, ha spiegato come FunSearch sblocchi una nuova forma di ricerca sull'apprendimento automatico: "Questo trasformerà il modo in cui le persone si avvicinano all'informatica e alla scoperta degli algoritmi. Per la prima volta, vedremo i LLM non prendere il sopravvento, ma sicuramente assistere nello spingere i confini di ciò che è possibile fare con gli algoritmi".
Combinando le capacità creative dei LLM con una valutazione rigorosa, FunSearch illustra un approccio innovativo per affrontare complessi problemi aperti. I suoi usi pratici saranno affascinanti.
