Les chercheurs de DeepMind ont dévoilé "FunSearch", une nouvelle méthode qui s'appuie sur les grands modèles de langage (LLM) pour trouver de nouvelles solutions en mathématiques et en informatique.
L'article, publié dans NatureL'auteur décrit FunSearch, qui combine un LLM préformé chargé de trouver des solutions inventives basées sur des codes et un évaluateur automatisé qui atténue les imprécisions dans le processus de résolution des problèmes.
Il commence par utiliser le LLM pour générer des solutions créatives sous forme de code informatique. Ensuite, le système automatisé vérifie ces solutions pour s'assurer qu'elles sont correctes et utiles. Ce processus se répète, affinant les solutions à chaque cycle, transformant les idées initiales en nouvelles connaissances vérifiées.
En termes simples, FunSearch ressemble à une séance de brainstorming entre un penseur très créatif (le LLM) et un vérificateur de faits rigoureux, qui travaillent ensemble pour trouver des réponses innovantes à des problèmes complexes.
Ce processus itératif permet aux idées initiales d'évoluer vers de nouvelles connaissances vérifiées.
Dans les expériences actuelles de DeepMind, FunSearch a permis d'obtenir de nouvelles informations sur des problèmes mathématiques clés, notamment le problème de l'ensemble des casquettes et le problème de l'empaquetage.
S'attaquer au problème du jeu de casquettes
L'une des principales réussites de l'initiative FunSearch est sa performance dans le problème de l'ensemble des capuchons, un défi complexe dans le cadre de la théorie mathématique.
Voici un examen plus approfondi de ce problème :
- Le problème de l'ensemble de points est basé sur un espace à haute dimension, où l'objectif est de trouver le plus grand ensemble possible de points (un ensemble de points) où aucun des trois points ne s'aligne en ligne droite.
- Le défi provient de la croissance exponentielle des combinaisons possibles à mesure que la dimension de l'espace augmente, ce qui rend les approches informatiques traditionnelles inefficaces.
- La percée de FunSearch réside dans la génération de programmes qui ont identifié des ensembles de casquettes plus importants que ceux connus jusqu'à présent, démontrant une capacité sans précédent à surpasser les connaissances mathématiques pilotées par l'homme.
Un problème plus pratique abordé par FunSearch est le problème de l'emballage des bacs, qui recherche des stratégies optimales pour emballer des articles de tailles variées dans des conteneurs, un défi pertinent à la fois dans les scénarios physiques, comme l'organisation des conteneurs d'expédition, et dans les sciences informatiques, comme l'organisation des tâches informatiques à des fins d'efficacité.
Les méthodes traditionnelles consistent généralement à emballer les objets dans le premier espace disponible ou dans l'espace où il reste le moins de place.
Cependant, FunSearch a introduit des approches efficaces qui évitent stratégiquement de laisser de petites lacunes non comblées.
Utilisations potentielles de FunSearch
Jordan Ellenberg, professeur de mathématiques à l'université du Wisconsin-Madison et co-auteur de l'article, a souligné les implications de FunSearch pour l'avenir de l'interaction homme-machine en informatique et en mathématiques.
"Ce que je trouve vraiment passionnant, plus encore que les résultats spécifiques que nous avons trouvés, ce sont les perspectives qu'ils suggèrent pour l'avenir de l'interaction homme-machine en mathématiques", a déclaré M. Ellenberg.
Il a ajouté : "Au lieu de générer une solution, FunSearch génère un programme qui trouve la solution. Une solution à un problème spécifique peut ne pas me donner d'indications sur la manière de résoudre d'autres problèmes connexes."
"Mais un programme qui trouve la solution, c'est quelque chose qu'un être humain peut lire et interpréter et, espérons-le, générer des idées pour le problème suivant et le suivant et le suivant".
Voici plus de détails sur la façon dont FunSearch innove en matière d'apprentissage automatique :
- Résolution créative de problèmes avec génération de code: Contrairement à de nombreux systèmes d'IA qui se concentrent sur l'analyse des données ou la reconnaissance des formes, FunSearch se spécialise dans la génération de solutions créatives dans le code informatique. Cela lui permet de s'attaquer à des problèmes qui ne consistent pas seulement à interpréter des données, mais aussi à créer de nouvelles façons de résoudre des problèmes complexes.
- Raffinement itératif: FunSearch utilise un processus itératif d'amélioration continue des solutions. Il part d'une idée initiale générée par le LLM, puis l'affine par une série d'évaluations et d'améliorations. Ce processus imite la manière dont les humains résolvent souvent les problèmes - en commençant par une idée brute et en l'améliorant au fil du temps.
- Créativité et rigueur: FunSearch comble le fossé entre la résolution créative de problèmes et l'évaluation rigoureuse. Le LLM apporte créativité et innovation, générant des solutions nouvelles et inexplorées, tandis que l'évaluateur automatisé s'assure que ces solutions sont précises et viables. Cette double approche est cruciale dans les domaines scientifiques où l'innovation doit être associée à la précision.
- Transparence : L'un des aspects uniques de FunSearch est sa capacité à fournir des résultats transparents et interprétables. Au lieu d'offrir une réponse finale, il génère un programme détaillant la manière dont cette solution a été obtenue. Cette transparence est essentielle pour la recherche scientifique, où la compréhension du processus est aussi importante que le résultat.
Pushmeet Kohli, responsable de l'IA pour la science chez DeepMind, a expliqué comment FunSearch ouvre la voie à une nouvelle forme de recherche sur l'apprentissage automatique : "Cela va en fait transformer la façon dont les gens abordent l'informatique et la découverte algorithmique. Pour la première fois, nous constatons que les LLM ne prennent pas le relais, mais qu'ils contribuent à repousser les limites de ce qui est possible en matière d'algorithmes".
En associant les capacités créatives des LLM à une évaluation rigoureuse, FunSearch illustre une nouvelle approche pour aborder des problèmes ouverts complexes. Ses applications pratiques seront fascinantes.
