Elon Musk a intenté une action en justice contre OpenAI et ses cofondateurs, Sam Altman et Greg Brockman, pour violation présumée de l'accord qu'ils ont signé lorsqu'ils ont fondé OpenAI.
Le procès offre un aperçu intéressant de la genèse de l'entreprise qui est devenue le leader dans le développement de modèles d'IA de pointe. Il s'articule autour des deux principaux objectifs d'OpenAI, qui ont été consignés dans l'"accord de fondation" de l'entreprise.
Les trois hommes ont convenu qu'OpenAI "serait une organisation à but non lucratif développant l'AGI pour le bénéfice de l'humanité, et non pour une société à but lucratif cherchant à maximiser les profits de ses actionnaires".
Ils ont également convenu que l'OpenAI "serait une source ouverte, ne prenant en compte que des considérations de sécurité compensatoires, et ne garderait pas sa technologie fermée et secrète pour des raisons commerciales exclusives".
Musk craignait, et craint toujours, que la poursuite rentable de l'AGI et le contrôle exclusif de la technologie par des entreprises comme Google ne soient préjudiciables à la société humaine.
L'idée sous-jacente à l'accord était que l'OpenAI créerait une AGI ouverte et sûre qui serait librement accessible à l'humanité, éliminant ainsi le risque que des entreprises à but lucratif utilisent la technologie au détriment de l'humanité.
La brèche
Aujourd'hui, le principal modèle d'IA incontesté est le GPT-4 d'OpenAI, mais il n'a rien d'ouvert, malgré le nom de l'entreprise qui l'a développé. Contrairement à GPT-3, OpenAI n'a même pas publié de document technique détaillant le fonctionnement de GPT-4.
Alors que l'accord fondateur stipulait que l'entreprise poursuivrait une technologie à source ouverte, seule OpenAI, et probablement Microsoft, a accès au code, aux poids et aux données d'entraînement de GPT-4.
Le fonctionnement d'une entreprise comme OpenAI coûte de l'argent, il n'est donc pas surprenant qu'elle fasse payer les utilisateurs pour l'utilisation de ses produits. Mais son accord de licence exclusif avec Microsoft signifie que ses modèles sont désormais utilisés pour générer des profits pour Big Tech. C'est exactement le contraire des principes fondateurs sur lesquels Musk dit que tous se sont mis d'accord.
L'action en justice affirme que "OpenAI, Inc. a été transformée en une filiale de facto à code source fermé de la plus grande société de technologie au monde : Microsoft. Sous la houlette de son nouveau conseil d'administration, elle ne se contente pas de développer une AGI, mais la perfectionne pour maximiser les profits de Microsoft, plutôt que pour le bien de l'humanité."
Avons-nous un AGI ?
L'accord de licence de Microsoft ne s'applique qu'à la technologie pré-AGI d'OpenAI. S'il s'avère qu'un modèle OpenAI a atteint le niveau de l'AGI, l'accord de licence empêche Microsoft d'y avoir accès.
L'action en justice de Musk est audacieuse puisqu'elle affirme que "GPT-4 est un algorithme de l'AGI" et que Microsoft ne devrait donc pas y avoir accès. L'action en justice demande au tribunal de statuer sur la véracité de cette affirmation. Je ne sais pas comment le juge et le jury sont censés le faire en l'absence d'une définition acceptée par l'industrie de ce qu'est exactement l'AGI.
Le procès confirme également les rumeurs concernant les travaux des ingénieurs d'OpenAI. Le procès affirme que "OpenAI développe actuellement un modèle connu sous le nom de Q* (étoile Q) qui a une prétention encore plus forte à l'AGI".
En fin de compte, c'est le conseil d'administration de l'OpenAI qui décide ce qui est considéré comme AGI dans le cadre de l'accord de licence de Microsoft. Après l'entrée en vigueur de l'accord de licence Licenciement, réembauche et remaniement du conseil d'administration d'AltmanCette décision appartient désormais aux nouveaux membres du conseil d'administration qui ont été nommés avec la bénédiction de Microsoft.
Est-ce pour cette raison qu'Ilya Sutskever a été écarté du conseil d'administration et qu'il est resté discrètement coincé dans une arrière-salle ? Personne n'a entendu parler de lui depuis des mois ? Qu'a vu Ilya ?
Ne vous attendez pas à ce que le nouveau conseil d'administration s'empresse de déclarer que l'AGI a été atteint, même si c'est l'objectif de l'AGI. objectif expressément déclaré de l'entreprise.
Les craintes liées à l'IA
L'une des raisons invoquées pour justifier cette action en justice est la crainte de Musk de voir l'AGI tomber entre de mauvaises mains.
Le procès raconte comment Musk a rencontré le cofondateur de DeepMind Demis Hassabis en 2012 pour discuter de ces craintes, dont certaines sont partagées par Hassabis.
Elle indique également qu'"à la suite d'une réunion avec M. Hassabis et des investisseurs de DeepMind, l'un des investisseurs a fait remarquer que la meilleure chose qu'il aurait pu faire pour la race humaine aurait été d'abattre M. Hassabis sur-le-champ".
Lorsque Musk a fait part de ses craintes à Larry Page, alors PDG de Google, ce dernier a déclaré qu'une IA superintelligente remplaçant les humains ne serait que "la prochaine étape de l'évolution" et a affirmé que Musk était un "spéciste" avec son point de vue pro-humain.
Musk est-il trop dramatique ou devrions-nous nous inquiéter ?
Le procès vaut la peine d'être lu si vous voulez savoir comment une grande partie de l'industrie est arrivée là où elle est aujourd'hui. L'affaire n'est cependant pas près d'être résolue.
OpenAI pourrait bien confirmer les craintes de Musk en matière d'IA et s'en servir comme principale raison pour ne pas publier ses modèles en open-source. Argumenter sur la recherche de profit de l'entreprise pourrait s'avérer plus difficile pour l'équipe d'OpenAI déjà en place. équipe juridique très active.
