L'entreprise xAI d'Elon Musk a publié le code et les poids du modèle d'IA Grok-1, narguant ainsi OpenAI.
Cette publication via GitHub et BitTorrent permet aux chercheurs et aux développeurs du monde entier de construire et d'itérer avec ses 314 milliards de paramètres, soit environ 150 milliards de plus que le GPT-3.
xAI vise à démocratiser l'accès à la technologie LLM avancée en fournissant une version brute et non raffinée de Grok-1, prête à être expérimentée à n'importe quel titre - même à des fins commerciales.
░W░E░I░G░H░T░S░I░N░B░I░O░
- Grok (@grok) 17 mars 2024
Musk, bien sûr, n'a pas pu résister à un peu de badinage (peu) amical sur l'open-sourcing de Grok. Le compte ChatGPT X a commenté le message de Grok ci-dessus en disant : "J'ai volé toute ma blague", ce à quoi Musk a répondu : "Dites-nous en plus sur la partie "Open" d'OpenAI...".
Parlez-nous de la partie "ouverte" de l'OpenAI ...
- Elon Musk (@elonmusk) 17 mars 2024
Musk et les fondateurs d'OpenAI, Sam Altman et Greg Brockman, sont en train d'élaborer un plan d'action. dans une bataille juridique et un débat sur la progression spectaculaire de l'OpenAI, qui est passée d'une société de recherche à but non lucratif et à code source ouvert à une branche lucrative de Microsoft.
Grok est une nouvelle épine dans le pied d'OpenAI, qui subit une pression sur plusieurs fronts avec la sortie récente de l'impressionnant Claude 3 Opus d'Anthropic et de Gemini de Google. Même Apple s'est joint à la mêlée des LLM avec son MM1 nouvellement publié.
Cependant, Grok-1 n'est pas immédiatement prêt et accessible pour les applications d'IA conversationnelle.
D'une part, le modèle n'a pas été affiné à l'aide d'instructions ou d'ensembles de données spécifiques pour fonctionner de manière optimale dans les systèmes de dialogue. Cela signifie que des efforts et des ressources supplémentaires seront nécessaires pour exploiter les capacités de Grok-1 pour de telles tâches, ce qui représente un défi pour les personnes intéressées par le développement de l'IA conversationnelle.
En outre, la taille même des poids du modèle - 296 Go - signifie que l'exécution du modèle nécessite des ressources informatiques considérables, notamment du matériel haut de gamme de type centre de données.
Cependant, la communauté de l'IA anticipe des efforts potentiels pour optimiser Grok-1 par la quantification, ce qui pourrait réduire la taille du modèle et les exigences de calcul, le rendant plus accessible au-delà de ceux qui disposent de plates-formes génératives adaptées à l'IA.
Grok-1 est véritablement open-source
L'un des aspects les plus importants de la publication de Grok-1 est le choix de xAI d'utiliser la licence Apache 2.0, rejoignant ainsi des organisations telles que Mistral's 7B.
Contrairement à certaines licences qui imposent des conditions plus restrictives sur l'utilisation et la distribution du logiciel, la licence Apache 2.0 permet une grande liberté dans la manière dont le logiciel peut être utilisé, modifié et distribué.
Chaque modèle viable de logiciel libre menace d'éroder les revenus des développeurs de logiciels fermés comme OpenAI et Anthropic.
Les poids Grok sont publiés sous Apache 2.0 : https://t.co/9K4IfarqXK
Il s'agit d'un logiciel plus ouvert que d'autres modèles de poids ouverts, qui sont généralement assortis de restrictions d'utilisation.
Il est moins open source que Pythia, Bloom et OLMo, qui sont accompagnés d'un code d'entraînement et d'ensembles de données reproductibles. https://t.co/kxu2anrNiP pic.twitter.com/UeNew30Lzn
- Sebastian Raschka (@rasbt) 17 mars 2024
Cela inclut des utilisations commerciales, ce qui fait de Grok-1 une base attrayante pour les entreprises et les particuliers qui souhaitent s'appuyer sur le modèle ou l'intégrer dans leurs propres produits et services.
Dans l'ensemble, en mettant les poids et l'architecture de Grok-1 en libre accès, xAI fait progresser la vision de Musk en matière d'IA ouverte et confronte la communauté de l'IA dans son ensemble.
OpenAI est probablement ébranlé par les récents développements d'Anthropic, de Google et maintenant de xAI.
Ta communauté se prépare à une sorte de GPT-5 ou de Sora qui lui permettra de reprendre l'avantage.
