Le concept d'open source trouve son origine dans la communaut\u00e9 des d\u00e9veloppeurs de logiciels. Les logiciels libres traditionnels mettent le code source \u00e0 la disposition de tous, qui peuvent le consulter, le modifier et le distribuer.\u00a0<\/span><\/p>\n Par essence, le logiciel libre est un dispositif collaboratif de partage des connaissances aliment\u00e9 par l'innovation logicielle, qui a conduit \u00e0 des d\u00e9veloppements tels que le syst\u00e8me d'exploitation Linux, le navigateur web Firefox et le langage de programmation Python.\u00a0<\/span><\/p>\n Cependant, l'application de l'\u00e9thique du logiciel libre aux mod\u00e8les d'IA massifs d'aujourd'hui est loin d'\u00eatre simple.\u00a0<\/span><\/p>\n Ces syst\u00e8mes sont souvent form\u00e9s sur de vastes ensembles de donn\u00e9es contenant des t\u00e9raoctets ou des p\u00e9taoctets de donn\u00e9es, \u00e0 l'aide d'architectures de r\u00e9seaux neuronaux complexes comportant des milliards de param\u00e8tres. <\/span><\/p>\n Les ressources informatiques n\u00e9cessaires co\u00fbtent des millions de dollars, les talents sont rares et la propri\u00e9t\u00e9 intellectuelle est souvent bien prot\u00e9g\u00e9e.\u00a0<\/span><\/p>\n Nous pouvons l'observer \u00e0 l'OpenAI, qui, comme son nom l'indique, \u00e9tait un laboratoire de recherche sur l'IA largement d\u00e9di\u00e9 \u00e0 l'\u00e9thique de la recherche ouverte.\u00a0<\/span><\/p>\n Toutefois, cette une \u00e9thique rapidement \u00e9rod\u00e9e<\/a> une fois que l'entreprise a senti l'odeur de l'argent et qu'elle a eu besoin d'attirer des investissements pour atteindre ses objectifs. <\/span><\/p>\n Pourquoi ? Parce que les produits \u00e0 code source ouvert ne sont pas ax\u00e9s sur le profit, et que l'IA est co\u00fbteuse et pr\u00e9cieuse.\u00a0<\/span><\/p>\n Cependant, avec l'explosion de l'IA g\u00e9n\u00e9rative, des entreprises comme Mistral, Meta, BLOOM et xAI publient des mod\u00e8les libres pour faire avancer la recherche tout en emp\u00eachant des entreprises comme Microsoft et Google de s'accaparer trop d'influence.<\/p>\n Mais combien de ces mod\u00e8les sont r\u00e9ellement ouverts par nature, et pas seulement par leur nom ?<\/p>\n Dans un r\u00e9cent <\/span>\u00e9tude<\/span><\/a>Les chercheurs Mark Dingemanse et Andreas Liesenfeld de l'universit\u00e9 Radboud, aux Pays-Bas, ont analys\u00e9 de nombreux mod\u00e8les d'intelligence artificielle de premier plan pour d\u00e9terminer leur degr\u00e9 d'ouverture. Ils ont \u00e9tudi\u00e9 plusieurs crit\u00e8res, tels que la disponibilit\u00e9 du code source, des donn\u00e9es d'entra\u00eenement, des poids des mod\u00e8les, des documents de recherche et des API.\u00a0<\/span><\/p>\n Par exemple, le mod\u00e8le LLaMA de Meta et le mod\u00e8le Gemma de Google ont \u00e9t\u00e9 jug\u00e9s simplement \"\u00e0 poids ouvert\", ce qui signifie que le mod\u00e8le form\u00e9 est mis \u00e0 la disposition du public pour \u00eatre utilis\u00e9 sans transparence totale sur son code, son processus d'apprentissage, ses donn\u00e9es et ses m\u00e9thodes de mise au point.\u00a0<\/span><\/p>\n \u00c0 l'autre bout du spectre, les chercheurs ont mis en avant BLOOM, un grand mod\u00e8le multilingue d\u00e9velopp\u00e9 par une collaboration de plus de 1 000 chercheurs dans le monde entier, comme un exemple de v\u00e9ritable IA \u00e0 source ouverte. Chaque \u00e9l\u00e9ment du mod\u00e8le est librement accessible \u00e0 des fins d'inspection et de recherche.<\/span><\/p>\n Le document a \u00e9valu\u00e9 plus de 30 mod\u00e8les (texte et image), mais ceux-ci d\u00e9montrent l'immense variation au sein de ceux qui pr\u00e9tendent \u00eatre des sources ouvertes :<\/span><\/p>\n Le manque de transparence entourant les mod\u00e8les d'IA, en particulier ceux d\u00e9velopp\u00e9s par les grandes entreprises technologiques, soul\u00e8ve de s\u00e9rieuses inqui\u00e9tudes quant \u00e0 la responsabilit\u00e9 et \u00e0 la surveillance.<\/p>\n Sans un acc\u00e8s complet au code du mod\u00e8le, aux donn\u00e9es d'entra\u00eenement et \u00e0 d'autres \u00e9l\u00e9ments cl\u00e9s, il devient extr\u00eamement difficile de comprendre le fonctionnement de ces mod\u00e8les et de prendre des d\u00e9cisions. Il est donc difficile d'identifier et de corriger les biais, les erreurs ou l'utilisation abusive de mat\u00e9riel prot\u00e9g\u00e9 par le droit d'auteur.<\/p>\n La violation des droits d'auteur dans les donn\u00e9es d'entra\u00eenement de l'IA est un excellent exemple des probl\u00e8mes qui d\u00e9coulent de ce manque de transparence. De nombreux mod\u00e8les d'IA propri\u00e9taires, tels que GPT-3.5\/4\/40\/Claude 3\/Gemini, sont probablement form\u00e9s \u00e0 partir de mat\u00e9riel prot\u00e9g\u00e9 par le droit d'auteur.<\/p>\n Cependant, comme les donn\u00e9es de formation sont conserv\u00e9es sous cl\u00e9, il est pratiquement impossible d'identifier des donn\u00e9es sp\u00e9cifiques dans ce mat\u00e9riel.<\/span><\/p>\n Le New York Times proc\u00e8s r\u00e9cent<\/a> contre l'OpenAI d\u00e9montre les cons\u00e9quences de ce d\u00e9fi dans le monde r\u00e9el. <\/span>OpenAI a accus\u00e9 le NYT d'utiliser des attaques d'ing\u00e9nierie rapide pour exposer les donn\u00e9es d'entra\u00eenement et inciter ChatGPT \u00e0 reproduire ses articles mot pour mot, prouvant ainsi que les donn\u00e9es d'entra\u00eenement d'OpenAI contiennent des \u00e9l\u00e9ments prot\u00e9g\u00e9s par le droit d'auteur.\u00a0<\/span><\/p>\n \"Le Times a pay\u00e9 quelqu'un pour pirater les produits d'OpenAI\", a d\u00e9clar\u00e9 OpenAI.<\/span><\/p>\n En r\u00e9ponse, Ian Crosby, principal conseiller juridique du NYT, a d\u00e9clar\u00e9 : \"Ce qu'OpenAI qualifie bizarrement de \"piratage\", c'est simplement l'utilisation des produits d'OpenAI pour chercher des preuves qu'ils ont vol\u00e9 et reproduit les \u0153uvres prot\u00e9g\u00e9es par le droit d'auteur du Times. Et c'est exactement ce que nous avons trouv\u00e9.<\/span><\/p>\n En effet, il ne s'agit l\u00e0 que d'un exemple parmi tant d'autres de poursuites judiciaires qui sont actuellement bloqu\u00e9es en partie \u00e0 cause de la nature opaque et imp\u00e9n\u00e9trable des mod\u00e8les d'IA.<\/p>\n Il ne s'agit l\u00e0 que de la partie \u00e9merg\u00e9e de l'iceberg. En l'absence de mesures robustes de transparence et de responsabilit\u00e9, nous risquons de nous retrouver dans un avenir o\u00f9 des syst\u00e8mes d'IA inexplicables prendront des d\u00e9cisions qui auront un impact profond sur nos vies, notre \u00e9conomie et notre soci\u00e9t\u00e9, tout en restant \u00e0 l'abri d'un examen minutieux.<\/p>\n Des appels ont \u00e9t\u00e9 lanc\u00e9s pour que des entreprises comme Google et OpenAI <\/span>donner acc\u00e8s au fonctionnement interne de leurs mod\u00e8les<\/span><\/a> aux fins de l'\u00e9valuation de la s\u00e9curit\u00e9. <\/span><\/p>\n Cependant, la v\u00e9rit\u00e9 est que m\u00eame les entreprises sp\u00e9cialis\u00e9es dans l'IA ne comprennent pas vraiment le fonctionnement de leurs mod\u00e8les.\u00a0<\/span><\/p>\n C'est ce qu'on appelle le probl\u00e8me de la \"bo\u00eete noire\", qui se pose lorsqu'on essaie d'interpr\u00e9ter et d'expliquer les d\u00e9cisions sp\u00e9cifiques du mod\u00e8le d'une mani\u00e8re compr\u00e9hensible pour l'homme.<\/p>\n Par exemple, un d\u00e9veloppeur peut savoir qu'un mod\u00e8le d'apprentissage profond est pr\u00e9cis et performant, mais il peut avoir du mal \u00e0 d\u00e9terminer exactement les caract\u00e9ristiques que le mod\u00e8le utilise pour prendre ses d\u00e9cisions.<\/p>\n Anthropic, qui a d\u00e9velopp\u00e9 les mod\u00e8les Claude, a r\u00e9cemment <\/span>a men\u00e9 une exp\u00e9rience<\/span><\/a> pour identifier le fonctionnement de Claude 3 Sonnet, en expliquant : \"Nous traitons g\u00e9n\u00e9ralement les mod\u00e8les d'IA comme une bo\u00eete noire : quelque chose entre et une r\u00e9ponse sort, sans que l'on sache exactement pourquoi le mod\u00e8le a donn\u00e9 cette r\u00e9ponse particuli\u00e8re plut\u00f4t qu'une autre. Il est donc difficile de croire que ces mod\u00e8les sont s\u00fbrs : si nous ne savons pas comment ils fonctionnent, comment pouvons-nous savoir qu'ils ne donneront pas de r\u00e9ponses nuisibles, biais\u00e9es, mensong\u00e8res ou autrement dangereuses ? Comment pouvons-nous \u00eatre s\u00fbrs qu'ils sont s\u00fbrs et fiables ?\".<\/span><\/p>\n Le fait que le cr\u00e9ateur d'une technologie ne comprenne pas son produit \u00e0 l'\u00e8re de l'IA est un aveu assez remarquable.<\/p>\n Cette exp\u00e9rience anthropique a montr\u00e9 que l'explication objective des r\u00e9sultats est une t\u00e2che exceptionnellement d\u00e9licate. <\/span>En fait, Anthropic a estim\u00e9 qu'il faudrait plus de puissance de calcul pour \"ouvrir la bo\u00eete noire\" que pour entra\u00eener le mod\u00e8le lui-m\u00eame !<\/span><\/p>\n Les d\u00e9veloppeurs tentent de lutter activement contre le probl\u00e8me des bo\u00eetes noires en menant des recherches telles que l'\"IA explicable\" (XAI), qui vise \u00e0 d\u00e9velopper des techniques et des outils pour rendre les mod\u00e8les d'IA plus transparents et plus faciles \u00e0 interpr\u00e9ter.<\/p>\n Les m\u00e9thodes XAI visent \u00e0 fournir des informations sur le processus de prise de d\u00e9cision du mod\u00e8le, \u00e0 mettre en \u00e9vidence les caract\u00e9ristiques les plus influentes et \u00e0 g\u00e9n\u00e9rer des explications lisibles par l'homme. L'IAO a d\u00e9j\u00e0 \u00e9t\u00e9 appliqu\u00e9e \u00e0 des mod\u00e8les d\u00e9ploy\u00e9s dans le cadre d'enqu\u00eates \u00e0 enjeux \u00e9lev\u00e9s. applications telles que le d\u00e9veloppement de m\u00e9dicaments<\/a>o\u00f9 la compr\u00e9hension du fonctionnement d'un mod\u00e8le peut \u00eatre d\u00e9terminante pour la s\u00e9curit\u00e9.<\/p>\n Les initiatives en mati\u00e8re de logiciels libres sont essentielles pour l'IAO et d'autres recherches qui cherchent \u00e0 p\u00e9n\u00e9trer la bo\u00eete noire et \u00e0 assurer la transparence des mod\u00e8les d'IA.<\/p>\n Sans acc\u00e8s au code du mod\u00e8le, aux donn\u00e9es d'entra\u00eenement et \u00e0 d'autres \u00e9l\u00e9ments cl\u00e9s, les chercheurs ne peuvent pas d\u00e9velopper et tester des techniques permettant d'expliquer le fonctionnement r\u00e9el des syst\u00e8mes d'IA et d'identifier les donn\u00e9es sp\u00e9cifiques sur lesquelles ils ont \u00e9t\u00e9 entra\u00een\u00e9s.<\/p>\nClarifier le degr\u00e9 d'ouverture r\u00e9el des mod\u00e8les de logiciels libres<\/h2>\n
\n
![\"L'IA](\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/06\/opensource-928x1024.png\")
Un manque de transparence<\/h2>\n
Appel \u00e0 l'ouverture<\/h2>\n
Les r\u00e9glementations risquent de rendre la situation encore plus confuse en ce qui concerne les logiciels libres<\/h2>\n