OpenAI, le laboratoire de recherche sur l'IA autrefois transparent, s'est encore éloigné de ses principes fondateurs.
Ce n'est pas une nouvelle pour beaucoup, mais un autre changement de position a été mis en lumière à la suite d'une interaction récente avec WIREDqui a découvert que l'OpenAI refuse désormais l'accès à des documents clés.
La société avait précédemment déclaré que "le public peut consulter des copies de ses documents de référence, de ses états financiers et de ses règles en matière de conflits d'intérêts".
Rendre ces documents ouverts et accessibles est inhabituel, alors pourquoi est-ce un problème pour l'OpenAI ?
Un indice réside dans le nom de la société, délibérément choisi pour indiquer qu'elle s'éloigne du développement en vase clos dans le domaine de la technologie. C'est une époque révolue de l'entreprise qui manque cruellement à beaucoup.
En décembre 2015, des entrepreneurs technologiques à succès comme Sam Altman et Elon Musk et des entreprises comme AWS et Infosys ont lancé OpenAI, en promettant plus de $1 milliard.
Ils visaient une collaboration ouverte, promettant de partager publiquement les brevets et les recherches. L'équipe initiale, qui comprenait des talents tels qu'Ilya Sutskever et Wojciech Zaremba, a placé la barre très haut et les premières recherches étaient résolument ouvertes et accessibles.
2019 a marqué une année charnière pour OpenAI, qui a opéré une transition vers une entité à but lucratif "plafonnée". Ce modèle, limitant les bénéfices à 100 fois l'investissement, visait à attirer davantage de fonds et à offrir des participations dans l'entreprise aux employés. L'investissement de $1 milliard de Microsoft a rapidement suivi, alimentant les ambitions de développement et de commercialisation des technologies d'OpenAI.
Pendant ce temps, l'IA générative s'est emparée du monde de la technologie et OpenAI a commencé à voir son impact s'intensifier. Depuis ses origines expérimentales et novatrices, l'entreprise était prête à définir la trajectoire et l'utilisation de l'IA dans la société.
Le départ d'Elon Musk du conseil d'administration d'OpenAI en 2018 a marqué un nouveau tournant. Inquiet du retard pris par rapport à Google et des conflits d'intérêts avec Tesla, la sortie de Musk a laissé un vide. Le financement de $1 milliard qu'il avait initialement promis a été réduit à $100 millions, exacerbant les tensions financières et poussant OpenAI vers son incarnation à but lucratif.
L'injection de capital de Microsoft en 2019 a constitué une autre étape importante, ouvrant la voie à des outils révolutionnaires tels que ChatGPT et DALL-E. Mais ce partenariat n'a pas échappé à l'examen minutieux.
Musk, exprimant son désarroi, s'est interrogé sur la légalité et l'éthique de cette transformation.
"OpenAI a été créée en tant que source ouverte... pour servir de contrepoids à Google, mais elle est maintenant devenue une source fermée, une entreprise à but lucratif contrôlé par Microsoft. Ce n'est pas du tout ce que j'avais prévu", a tweeté Musk le 17 février 2023.
OpenAI a été créée en tant qu'entreprise à but non lucratif et à code source ouvert (c'est pourquoi je l'ai appelée "Open" AI) pour servir de contrepoids à Google, mais elle est maintenant devenue une entreprise à code source fermé et à but lucratif maximum, contrôlée de fait par Microsoft.
Ce n'est pas du tout ce que je voulais dire.
- Elon Musk (@elonmusk) 17 février 2023
Il a ensuite déclaré : "Je ne comprends toujours pas comment une organisation à but non lucratif à laquelle j'ai fait un don de $100 millions a pu devenir une entreprise à but lucratif dont la capitalisation boursière est de $30 milliards. Si c'est légal, pourquoi tout le monde ne le fait-il pas ?"
Je ne comprends toujours pas comment une organisation à but non lucratif à laquelle j'ai donné ~$100M est devenue une organisation à but lucratif avec une capitalisation boursière de $30B. Si c'est légal, pourquoi tout le monde ne le fait-il pas ?
- Elon Musk (@elonmusk) 15 mars 2023
Au début de l'année 2023, la valeur d'OpenAI a grimpé en flèche, avec des discussions sur un financement qui doublerait sa valeur en 2021 pour atteindre $29 milliards. L'investissement supplémentaire de Microsoft, d'un montant de $10 milliards, a renforcé son influence.
Ensuite, nous avons eu le Controverse sur la direction de l'OpenAI qui a vu le PDG Sam Altman licencié puis réembauché, avec une modification du conseil d'administration de l'entreprise, ce qui signifie probablement une moindre résistance aux objectifs de l'entreprise, quelle que soit la sécurité perçue.
Cette saga a également montré que le conseil d'administration ne pouvait pas renverser M. Altman, rendant ainsi obsolète son objectif de protéger les principes fondateurs de l'entreprise et la cause de la protection contre le développement dangereux de l'IA.
L'OpenAI ferme l'accès à ses rapports et documents
Lorsque WIRED a demandé des documents à OpenAI, la réponse de l'entreprise a été restrictive.
Niko Felix, porte-parole de l'entreprise, a clarifié la politique actuelle en déclarant : "Nous fournissons des états financiers sur demande. OpenAI aligne ses pratiques sur les normes de l'industrie, et depuis 2022, cela inclut de ne pas distribuer publiquement d'autres documents internes."
Wired a également déclaré que l'accès à la politique d'OpenAI en matière de conflits d'intérêts aurait pu permettre de mieux comprendre la dynamique de pouvoir entre M. Altman et le nouveau conseil d'administration, en particulier compte tenu de ses investissements personnels dans Les startups liées à l'IA comme Rain AI.
Malgré ces chevauchements d'intérêts, M. Felix assure que les transactions d'Altman sont transparentes et bien gérées : "Altman est transparent avec le conseil d'administration au sujet de ses investissements et suit un processus de gestion des conflits potentiels".
Les modifications apportées aux statuts de la société, en particulier lors du licenciement et du retour explosifs de M. Altman, n'ont pas été divulguées.
Le manque de transparence de l'entreprise, les controverses sur les marchés publics, la débâcle des dirigeants, les procès intentés par les entreprises, et des partenariats avec le ministère américain de la défense signalent une dérive - ou plutôt une forte poussée - par rapport à son éthique initiale.
