L'IA open source, en particulier les modèles Llama de Meta, a suscité un débat sur les risques liés à la mise à disposition de modèles d'IA puissants à tout le monde.
La semaine dernière, un groupe de manifestants s'est rassemblé devant les bureaux de Meta à San Francisco, condamnant la décision de l'entreprise de rendre publics ses modèles d'IA.
Une banderole disait : "Don't open source doomsday" (N'ouvrez pas les sources d'information sur l'apocalypse).
La manifestation a été publiée sur le site Forum sur l'altruisme efficace Avant qu'elle ne diffuse des modèles encore plus avancés - qui auront des capacités encore plus dangereuses - nous demandons à Meta de prendre au sérieux la diffusion responsable et de mettre fin à une prolifération irréversible".
Les manifestants ont également créé un site web iciqui cite Zuckerberg minimise la sécurité les implications des versions de modèles à source ouverte.
En bref, des entreprises de premier plan comme OpenAI et Google limitent l'accès à leurs grands modèles de langage (LLM) à l'API. Ce sont des "boîtes noires" fermées, ce qui signifie que le public ne peut pas voir ce qui se passe à l'intérieur du modèle - seulement les entrées et les sorties.
En revanche, Meta a fait les gros titres en proposant ses modèles LLaMA à la communauté des chercheurs en IA. Cela permet aux experts en technologie d'adapter et de régler les modèles pour qu'ils libèrent tout leur potentiel, contrairement aux IA fermées qui sont programmées avec des garde-fous.
L'approche de Meta en matière de développement de l'IA
Meta a joué un rôle légèrement antagoniste dans le développement de l'IA.
Alors que Google, OpenAI, Microsoft et des startups comme Anthropic et Inflection se précipitent pour construire des IA fermées et gardées sous clé, Meta a choisi de lancer ses modèles open source dans la sphère publique comme une véritable grenade.
L'IA en libre accès certainement menace les structures du marché Microsoft, OpenAI, etc. dépendent pour monétiser leurs produits.
Le modèle de lama de Meta a été célèbre fuite sur 4Chan avant sa sortie officielle, et il n'a pas fallu attendre longtemps pour que l'entreprise aille plus loin en lançant Llama 2.
Les manifestants affirment que les initiatives open source de Meta symbolisent une "prolifération irréversible" d'une technologie potentiellement dangereuse. D'autres, en revanche, ne sont pas du tout d'accord, estimant que l'IA open source est essentielle à la démocratisation de la technologie et à l'obtention de la confiance grâce à la transparence.
Holly Elmore, qui a organisé la manifestation de vendredi devant Meta, a souligné qu'une fois que les poids du modèle qui influencent les entrées et les sorties du modèle sont dans le domaine public, les créateurs perdent le contrôle. Les modèles open source peuvent être modifiés et remaniés à des fins contraires à l'éthique ou illégales.
M. Elmore, précédemment associé au groupe de réflexion Rethink Priorities, a déclaré : "La libération des poids est une politique dangereuse... Plus les modèles seront puissants, plus cette politique sera dangereuse".
L'IA open source restera un sujet controversé, mais laisser la technologie sous le contrôle de quelques privilégiés n'est peut-être pas une solution favorable.
