Le 17 novembre 2023, le conseil d'administration d'OpenAI a annoncé le licenciement du PDG Sam Altman et le retrait du président Greg Brockman du conseil d'administration. Quatre jours plus tard, M. Altman a été réintégré dans ses fonctions.
Lorsque M. Altman a été licencié, selon un Article de blog de l'OpenAIAltman n'avait pas été 'franche" avec le conseil d'administrationet ses communications n'ont pas été suffisamment transparentes.
Dans le chaos qui s'en est suivi, Altman et Brockman devaient rejoindre Microsoft au sein d'une nouvelle équipe de recherche. Les employés se sont rebellés contre le conseil d'administration d'OpenAI, la grande majorité d'entre eux déclarant qu'ils démissionneraient si le conseil ne revenait pas sur sa décision.
Emmet Shear, cofondateur de Twitch, a été nommé PDG pendant quelques jours avant que M. Altman, par la force de l'action collective, ne soit rétabli dans ses fonctions.
Il s'agit probablement de la série d'événements la plus extraordinaire de l'histoire de la gouvernance des entreprises de la Silicon Valley.
L'expérience de Sam Altman à OpenAI
Né à Chicago en 1985, Altman a manifesté un intérêt prodigieux pour la technologie dès son plus jeune âge. À huit ans, il programmait et démontait déjà des ordinateurs. En 2015, il a cofondé OpenAI avec d'autres grands noms de la technologie comme Elon Musk.
Avant de rejoindre OpenAI, M. Altman a été président de Y Combinator, un important incubateur de startups technologiques, à partir de 2014. Sous sa direction, Y Combinator a vu un déluge de demandes d'inscription de startups, totalisant 40 000 par an.
L'OpenAI a d'abord été une organisation à but non lucratif.près le départ de Musk en 2018, Altman a pris les rênes en tant que PDG d'OpenAI.
Sous sa direction, l'entreprise est passée à un modèle à but lucratif en 2019, obtenant rapidement un investissement de $1 milliard de dollars de la part de Microsoft. Il s'agit d'un événement clé dans l'histoire d'OpenAI.
Il a jeté les bases du développement et de la diffusion publique de ChatGPT en novembre 2022. À 38 ans, Sam Altman dirigeait une entreprise qui a gagné 100 millions d'utilisateurs en l'espace de deux mois. L'ère de l'IA générative avait commencé, et OpenAI se trouvait au cœur de ce nouvel écosystème.
Le lancement de ChatGPT a catalysé une vague de financement de l'IA dans la Silicon Valley, s'élevant à $17,9 milliards d'euros, d'après Bloomberg.
Malgré le succès de ChatGPT, OpenAI, sous la direction d'Altman, a dû faire face à sa part de défis. Les questions de propriété intellectuelle, de confidentialité des données et d'intégration éthique de l'IA dans la société ont suscité de vifs débats.
Le conseil unique d'OpenAI
OpenAI fonctionne selon un modèle de gouvernance unique. Son conseil d'administration, composé de personnes qui ne détiennent aucune participation dans l'entreprise, est animé par la mission de créer une intelligence artificielle générale (AGI) sûre qui profite à l'humanité dans son ensemble plutôt que de se concentrer sur les profits. L'AGI est une IA qui égale ou dépasse largement la cognition humaine.
La composition inhabituelle du conseil d'administration reflète l'engagement d'OpenAI envers ses principes fondateurs, ainsi que sa progression depuis son statut initial d'organisation à but non lucratif en 2015 jusqu'à celui d'entreprise à but lucratif plafonnée.
Outre Altman et Brockman, le conseil d'administration d'OpenAI avant le licenciement d'Altman comprenait :
- Adam D'Angelo : Le PDG de Quora, Adam D'Angelo, fait partie du conseil d'administration d'OpenAI depuis avril 2018. Connu pour son leadership éclairé en matière d'IA, le point de vue de D'Angelo sur le développement éthique et sûr des technologies d'IA est considéré comme une influence clé dans les décisions du conseil d'administration. D'Angelo est resté sur le tableau après la réintégration d'Altman.
- Tasha McCauley : Chercheuse principale en gestion à la RAND Corporation, Mme McCauley a suivi un parcours marqué par une forte concentration sur l'innovation et la gouvernance de l'IA, depuis la cofondation de Fellow Robots jusqu'à son rôle actuel. Son implication dans le Principes de l'IA d'Asilomar et les lignes directrices pour le développement de l'IA s'alignent étroitement sur les principes fondateurs de l'OpenAI. M. McCauley a été écarté du conseil d'administration après la réintégration de M. Altman.
- Ilya Sutskever : En tant que cofondateur d'OpenAI aux côtés d'Altman et de Brockman, Sutskever a exercé une influence considérable. Sa formation en informatique et son rôle en tant que premier directeur de la recherche, puis scientifique en chef d'OpenAI, lui ont permis de comprendre en profondeur les objectifs technologiques et de recherche de l'entreprise. Ses contributions ont été essentielles pour définir l'orientation et les priorités de recherche de l'organisation. Sutskever a été retiré du conseil d'administration après la réintégration d'Altman.
- Helen Toner : L'expertise de Mme Toner en matière de politique et d'éthique de l'IA, issue de son rôle au Centre pour la sécurité et les technologies émergentes de Georgetown, a été déterminante dans la gestion des implications mondiales et des considérations éthiques du développement de l'IA. Toner a été écarté du conseil d'administration après la réintégration d'Altman.
Depuis le 26/11/23, le nouveau conseil d'administration d'OpenAI comprend D'Angelo et :
- Bret Taylor: Bret Taylor, 43 ans, est une personnalité éminente du secteur technologique, connue pour son rôle de programmeur informatique et d'entrepreneur. Il a été membre du conseil d'administration de Shopify et anciennement co-PDG de Salesforce.
- Larry Summers: Larry Summers, 68 ans, est un économiste américain qui a une longue expérience du service public et du monde universitaire. Il a été secrétaire au Trésor américain de 1999 à 2001 et directeur du Conseil économique national de 2009 à 2010 sous la présidence de Barack Obama. M. Summers est également professeur à l'université Charles W. Eliot et président émérite de l'université de Harvard. Il siège en outre aux conseils d'administration de Block Inc. et de Skillsoft Corp. et est conseiller auprès d'Andreessen Horowitz.
OpenAI a l'intention d'élargir le conseil d'administration jusqu'à neuf membres.
Chronologie des événements du départ et du retour d'Altman
Le départ de M. Altman, qui ne détenait qu'une participation indirecte dans OpenAI grâce à un investissement de Y Combinator, dont il était auparavant le président, a été un choc compte tenu du rôle central qu'il jouait dans l'entreprise.
Selon certaines sources, il n'a pas participé au vote sur sa révocation, ce qui laisse présager des désaccords internes ou des changements de vision quant à l'avenir de l'entreprise.
L'éviction de Brockman du conseil d'administration et sa démission ultérieure ont contribué aux changements spectaculaires survenus à la tête de l'organisation.
Voici une chronologie de ces événements en dents de scie :
Avant le 17 novembre 2023
- Avant l'incident : L'OpenAI fonctionne normalement, sans aucune indication publique sur les changements imminents à la tête de l'organisation. Il poursuit son rôle de PDG, s'engageant dans des activités régulières et représentant l'OpenAI lors de divers événements.
17 novembre 2023
- Heures d'ouverture : Sam Altman s'acquitte de ses tâches habituelles, notamment en prenant la parole au sommet de la coopération économique Asie-Pacifique dans le centre de San Francisco.
- Soirée : Altman participe à une réunion dans un entrepôt à Oakland, s'adressant à un groupe d'artistes au sujet de l'IA générative. Il semble détendu et engagé, ne montrant aucun signe de l'annonce à venir.
- En fin de soirée : Altman quitte l'événement d'Oakland en indiquant qu'il est en retard pour une réunion.
- Décision du conseil d'administration d'OpenAI : Le conseil d'administration de l'OpenAI, après examen, conclut que M. Altman n'a pas toujours été franc dans ses communications avec le conseil d'administration. Ce manquement est perçu comme une entrave à la capacité du conseil d'administration à assumer ses responsabilités.
- Annonce du départ d'Altman : OpenAI annonce publiquement la fin du mandat de Sam Altman en tant que PDG. Le conseil d'administration invoque un manque de confiance dans sa capacité à continuer à diriger l'entreprise comme raison de son licenciement.
17 novembre 2023 (après annonce)
- Réaction de Greg Brockman : Peu après l'annonce, Greg Brockman, cofondateur et ancien président du conseil d'administration d'OpenAI, a démissionné. Bien qu'il ait été initialement prévu qu'il reste dans l'entreprise à un autre titre, il a démissionné. décide de partir complètement.
- Rendez-vous de Mira Murati : Mira Murati, directrice de la technologie d'OpenAI, est nommée directrice générale par intérim à la suite du départ d'Altman.
- Réponse de Sam Altman : M. Altman a fait sa première déclaration publique après son licenciement sur la plateforme de médias sociaux X. Il n'a pas fourni de détails spécifiques sur l'incident, mais a indiqué qu'il discuterait de ses projets futurs plus tard.
- D'autres collègues partent: Plusieurs autres collègues quittent l'entreprise par solidarité.
Sam et moi sommes choqués et attristés par ce que le conseil d'administration a fait aujourd'hui.
Permettez-nous tout d'abord de remercier toutes les personnes incroyables avec lesquelles nous avons travaillé à OpenAI, nos clients, nos investisseurs et tous ceux qui nous ont tendu la main.
Nous aussi, nous essayons toujours de comprendre exactement...
- Greg Brockman (@gdb) 18 novembre 2023
Après le 17 novembre 2023
- Réaction de l'industrie : La communauté de la technologie et de l'IA réagit avec surprise. Les partenaires, dont Microsoft, et les initiés se disent choqués, n'ayant pas eu connaissance des délibérations et de la décision du conseil d'administration.
- Incertitude : L'industrie technologique commence à spéculer sur l'orientation future d'OpenAI, en particulier dans le contexte de sa croissance et de son influence rapides après le lancement de ChatGPT.
La première et dernière fois que je porte l'un d'entre eux. pic.twitter.com/u3iKwyWj0a
- Sam Altman (@sama) 19 novembre 2023
20 novembre 2023
- Nouveau PDG d'OpenAI: Nouveau PDG d'OpenAI : Emmet Shear, cofondateur de Twitch, est nommé PDG d'OpenAI.
- Microsoft engage Altman et Brockman: Microsoft a engagé Sam Altman et Greg Brockman. Ils seront à la tête d'un nouveau laboratoire de recherche sur l'IA. Cependant, des rapports avaient précédemment indiqué que l'augmentation les tensions entre les deux entreprises.
- Employés rebelles: Quelque 550 des 700 employés d'OpenAI, dont la plupart des chercheurs de haut niveau, signer une lettre Les signataires menacent de partir pour rejoindre Microsoft, qui offrirait à tout sortant d'OpenAI un emploi aux côtés d'Altman et de Brockman.
- La pression augmente: La lettre a finalement été signée par la quasi-totalité des employés d'OpenAI.
- Microsoft s'en mêle: Microsoft déclare qu'il y a des places pour tous les employés d'OpenAI dans son entreprise, menaçant ainsi une prise de pouvoir majeure et la disparition d'OpenAI. Les observateurs craignent que Microsoft ne s'approprie tout le pouvoir et le talent dans le domaine de l'IA, y compris Elon Musk, qui a déclaré que ce serait la pire des issues.
- Spéculation: Nombreux sont ceux qui pensent qu'OpenAI tombera dans l'oubli si l'exode massif se précipite. Microsoft pourrait devenir le nouveau leader de l'IA générative, absorber l'expertise d'OpenAI dans sa structure mature à but lucratif.
Aujourd'hui, j'ai reçu un appel m'invitant à considérer une opportunité unique dans une vie : devenir le directeur général intérimaire de @OpenAI. Après avoir consulté ma famille et réfléchi quelques heures, j'ai accepté. J'avais récemment démissionné de mon poste de PDG de Twitch en raison de la naissance de mon...
- Emmett Shear (@eshear) 20 novembre 2023
21 novembre 2023 :
- Sam Altman réintégré: Après une forte pression de la part des employés et des investisseurs, le conseil d'administration est revenu sur sa décision. Altman à son poste de directeur généralet l'OpenAI s'est essentiellement réformée. Brockman a également repris son poste.
- X explose: Altman, Brockman et d'autres postent de nombreuses fois sur X pour souligner leur triomphe dans le retour d'OpenAI à sa gloire d'antan.
Après le 21 novembre 2023:
- Diagnostic: Les partisans et les détracteurs de l'OpenAI commencent à essayer de comprendre ce qui s'est passé. Des arrière-pensées sont dévoilées, mais aucune n'est confirmée.
- Q* : Certains pensent qu'OpenAI est assise sur un modèle dangereux, ce qui a poussé le conseil d'administration à licencier M. Altman, craignant qu'il ne prenne pas la sécurité de l'IA au sérieux. Plus d'informations ici.
- Les affaires comme d'habitude: Alors que la poussière retombe, Altman, Brockman, etc., poursuivent leur mission.
Le conseil d'administration d'OpenAI fait volte-face, mais pourquoi ? Et qu'est-ce que cela signifie ?
La révocation et la réintégration d'Altman au sein de l'OpenAI ont choqué, non seulement parce qu'il s'agit d'une personnalité très en vue du monde de la technologie, mais aussi parce qu'elles symbolisent les défis profonds de la gouvernance de l'IA.
L'IA évolue rapidement et fait l'objet d'un débat public intense, de spéculations et d'un impact réglementaire.
La décision du conseil d'administration de l'OpenAI de révoquer M. Altman aurait été motivée par des désaccords sur la rapidité de la commercialisation de l'IA et des divergences de vues sur la sécurité de l'IA. Elle illustre le conflit entre les progrès rapides de l'IA et la nécessité d'une surveillance responsable et éthique.
Il semble qu'Altman, Brockman et la plupart des employés d'OpenAI aient voulu poursuivre leur trajectoire actuelle. Leur objectif est de créer une intelligence générale artificielle (AGI) qui dépasse la cognition humaine.
Entre-temps, la valeur d'OpenAI s'est rapprochée de la barre des $100 milliards, pour se situer actuellement autour de $86 milliards.
OpenAI était une organisation à but non lucratif, mais elle est passée à une nouvelle structure à but lucratif en 2019.
Cependant, plutôt que de représenter les bailleurs de fonds, le conseil d'administration d'OpenAI était - et est toujours - chargé d'agir dans l'intérêt de l'humanité. Cela se reflète dans la composition du conseil d'administration qui, jusqu'à récemment, comprenait trois des cofondateurs d'OpenAI et trois membres indépendants.
Les critiques ont fait valoir qu'une telle structure, avec son approche autonome et son manque de responsabilité externe, pourrait ne pas être viable à long terme. Ce point de vue s'est avéré exact pour l'instant, et le nouveau conseil d'administration ne prendra probablement pas les mêmes risques que ses prédécesseurs.
Toutefois, cela a montré que si le conseil d'administration se préoccupe de l'orientation de l'entreprise, l'action positive est loin d'être garantie.
Dans de nombreuses entreprises technologiques, les fondateurs influencent souvent l'orientation de l'entreprise. Leur vision et leur charisme peuvent éclipser les structures traditionnelles de gouvernance d'entreprise.
Le "roi Sam", comme l'ont appelé certains grands médias, ne peut pas être évincé par le conseil d'administration.
Les questions de sécurité ont peut-être motivé le licenciement d'Altman
La plupart des gens s'accordent à dire que le conseil d'administration a licencié M. Altman pour des raisons de sécurité, mais bien que cette version des faits soit devenue la norme, il n'existe que peu de preuves tangibles.
Une théorie à l'appui de cette hypothèse suggère un débat sous-jacent sur la sécurité de la part de Dustin Moskovitz, un des premiers employés de Facebook et fondateur d'Asana. Philanthropie ouverte. Moskovitz est une personnalité influente dans le domaine de l'IA, mais il a multiplié les discussions sur la sécurité de l'IA et sur la nécessité de faire preuve de retenue.
Les liens de Moskovitz avec des membres du conseil d'administration comme Adam D'Angelo, Helen Toner et Tasha McCauley, qui ont des liens avec des organisations qu'il soutient, suggèrent son influence potentielle sur la gouvernance de l'OpenAI.
M. Toner a également critiqué l'organisation pour avoir publié des modèles GPT trop tôt, ce qui aurait provoqué une "course vers le bas" dans le développement de l'IA. Cela implique que l'approche d'OpenAI en matière de diffusion de modèles d'IA peut être imprudente ou contraire à l'éthique, ce qui contraste avec des approches plus prudentes comme celle d'Anthropic, que Toner a qualifiée dans un article de meilleur modèle de gouvernance de l'IA.
Certains y ont vu une critique valable des stratégies d'OpenAI, tandis que d'autres ont mis en doute sa qualité et l'opportunité de critiquer publiquement l'entreprise dont on fait partie.
Enfin, il y a eu des spéculations sur le fait qu'OpenAI était assise sur un marché dangereux. un modèle puissant appelé Q*.
Reuters a rapporté que des initiés les avaient contactés pour leur dire que les employés étaient inquiets au sujet de Q* et avaient averti le conseil d'administration - mais cela ne semble pas correspondre à la solidarité qui a ramené Altman dans l'entreprise.
Toutefois, certains ont indiqué que les actions des salariés sont mises en vente bientôt. Le départ d'Altman aurait au moins permis de retarder ce processus.
La sécurité a-t-elle jamais été un problème ?
Nous ne le savons pas encore. Il semble en tout cas que la structure unique d'OpenAI, qui associe des objectifs non lucratifs à des opérations à but lucratif, ait perdu de son éclat cette année.
Sarah Kreps, directrice du Tech Policy Institute de l'université de Cornell, ditSam Altman et Greg Brockman semblent être d'avis que l'accélération de l'IA peut apporter le plus grand bien à l'humanité. La pluralité des membres de l'[ancien] conseil d'administration semble toutefois être d'un avis différent, estimant que le rythme des progrès est trop rapide et pourrait compromettre la sécurité et la confiance".
Alors qu'OpenAI a lancé des produits commercialement performants et attiré des investissements importants, on peut penser qu'Altman, Brockman et la plupart des employés ne sont tout simplement pas prêts à freiner - cela va à l'encontre de la nature humaine, sans parler de la culture de la Silicon Valley.
OpenAI est rapidement devenu l'un des pays les plus influents au monde. Ils ne voudront pas laisser leurs rivaux les dépasser en interrompant leur progression.
Qui a bénéficié de tout cela ?
OpenAI est en train de former un nouveau conseil d'administration, qui comprend actuellement Bret Taylor (ex-Salesforce), Larry Summers (ancien secrétaire au Trésor des États-Unis), et le maintien d'Adam D'Angelo.
Le nombre de directeurs passera à neuf, ce qui déterminera sans aucun doute la trajectoire future de l'organisation.
Retrouvant sa position, Altman est désormais le leader incontesté d'OpenAI. Avec de nouveaux alliés au sein du conseil d'administration et moins de résistance interne, la vision de M. Altman pour l'IA rencontrera probablement moins d'opposition. Il semble que s'appuyer uniquement sur la gouvernance interne soit insuffisant pour gérer les impacts complexes de l'IA.
nous sommes plus unis, plus engagés et plus concentrés que jamais.
Nous allons tous travailler ensemble d'une manière ou d'une autre, et je suis très enthousiaste.
une équipe, une mission.
- Sam Altman (@sama) 20 novembre 2023
L'OpenAI continuera à son rythme implacable, se précipitant vers l'AGI. Nous en connaîtrons les conséquences lorsque nous y parviendrons, car rien ne semble pouvoir l'arrêter.
En tout cas, pas plus de quatre jours.
