Google jette le gant avec Gemini, son nouveau grand modèle linguistique (LLM).
Développé principalement par Google DeepMind, le projet Gemini annonce une confrontation prochaine avec ChatGPT d'OpenAI.
L'information a rapporté que Google avait accordé un accès anticipé à Gemini à un groupe restreint de développeurs, ce qui laisse supposer qu'une version bêta est imminente.
Google combinant ses ressources considérables avec les laboratoires de recherche Brain et DeepMind, l'impact potentiel de Gemini sur l'industrie de l'IA pourrait être considérable.
Alors qu'OpenAI a fait irruption sur la scène de l'IA et a pris le contrôle des utilisateurs publics avec ChatGPT, Google est soutenu par des décennies de recherche sur l'IA et possède de nombreux ensembles de données exclusives.
Sundar Pichai, PDG de Google, a dévoilé Gemini lors de la conférence des développeurs Google I/O en mai 2023. Il a déclaré que Gemini est conçu "dès le départ pour être multimodal", combinant les forces du système AlphaGo de DeepMind avec de puissantes capacités de modélisation du langage.
Demis Hassabis, PDG de DeepMind, a ajouté plus de contexte, déclarant que Gemini n'est pas un modèle unique mais plutôt une "série de modèles" et qu'il fonctionnera probablement avec du texte, des images et peut-être même de la parole et de l'audio.
Cette démarche est similaire à celle de Google Bard, qui intègre une fonctionnalité d'image grâce à Google Lens.
Les améliorations futures pourraient inclure des fonctions telles que "la mémoire et la planification, qui pourraient permettre d'effectuer des tâches nécessitant un raisonnement", selon M. Pichai.
Jeffrey Dean, scientifique en chef de Google, a révélé que Gemini utilisera la nouvelle infrastructure d'IA de Google, Pathways, pour augmenter sa formation sur divers ensembles de données.
Dean a laissé entendre que le système pourrait potentiellement dépasser la taille du GPT-3 d'OpenAI, qui contient plus de 175 milliards de paramètres - mais cela signifierait que Gemini reste une génération derrière le GPT-4.
Toutefois, le nombre de paramètres n'est pas tout, et les Gémeaux pourraient se distinguer des autres MLD par d'autres aspects.
Par exemple, en plus de travailler avec plusieurs types de données, Hassabis a indiqué que Gemini pouvait procéder à une validation croisée des informations avec Google Search.
Réaction de l'industrie
Hassabis a révélé que Gemini présentait des "résultats préliminaires très prometteurs" lors d'une conférence de presse organisée en septembre. interview avec Time.
Un rapport de Semi-analyse indique que Gemini dépasse les 430 milliards de paramètres, ce qui est nettement plus élevé que les 200 milliards de paramètres estimés par GPT-3. Le nombre de paramètres de GPT-4 n'est pas connu, bien qu'il soit estimé à environ 1 000 milliards, selon une poignée d'analyses.
L'article de Semi Analysis affirme également que Gemini va "écraser" les flops de pré-entraînement de GPT-4 par 5 fois, et qu'il est prévu de le battre par 20 fois. Bien qu'il s'agisse d'une hypothèse, cela signifierait que Gemini est considérablement plus puissant que GPT-4 sur le plan informatique.
La question de savoir si Google a le courage de rendre ces modèles publics sans nuire à leur créativité ou à leur modèle d'entreprise existant est une autre question.
Comme l'a déclaré Sundar Pichai, les chatbots d'aujourd'hui "paraîtront insignifiants" en comparaison d'ici quelques années.
On ne sait pas encore si Gemini parviendra à mettre fin à la domination du GPT-4.
