La décision de licencier Sam Altam pourrait avoir été influencée par les idéaux altruistes partagés par les membres du conseil d'administration d'OpenAI. Emmett Shear, PDG par intérim, nous fait part de certaines de leurs craintes concernant l'IA.
En termes généraux, le concept d'altruisme efficace (AE) consiste à s'attaquer aux problèmes les plus urgents du monde et à prendre des mesures logiques pour maximiser les résultats positifs pour l'humanité.
Appliqués à l'espace de l'IA, de nombreux partisans de l'EA tirent la sonnette d'alarme sur le rythme effréné du développement et les risques existentiels potentiels pour l'humanité.
De l'autre côté du spectre, les Accélérateurs effectifs (e/acc) affirment que l'IA ne nous tuera pas tous et que nous devrions aller plus vite.
Au moins la moitié des membres actuels du conseil d'administration de l'OpenAI semblent se situer carrément du côté de l'EA et leurs craintes à l'égard de l'IA pourraient être à l'origine de cette situation. Développements récents à l'entreprise.
Helen Toner a dirigé Effective Altruism Melbourne, et Tasha McCauley siège au conseil d'administration d'Effective Ventures, qui gère le Centre for Effective Altruism.
Entrée en jeu de Emmett Shear
Dans un récent podcast, Emmett Shear, le troisième PDG d'OpenAI en presque autant de jours, a exprimé son soutien aux opinions des prophètes de malheur de l'IA.
Emmett Shear, le nouveau PDG d'OpenAI, lors d'un récent podcast.pic.twitter.com/6LGEOinn7r
- Rowan Cheung (@rowancheung) 20 novembre 2023
Shear est également un fan du chercheur en IA Eliezer Yudkowsky, qui a écrit un roman de fanfiction sur Harry Potter qui défend la pensée rationnelle et scientifique. Harry Potter et les méthodes de la rationalité (HPMOR) est populaire au sein de la communauté de l'EA et est utilisé dans ses efforts de recrutement.
Dans le chapitre 104 de ce roman de 660 000 mots, Yudowsky parle d'un sourcier nommé Emmett Shear qui tombe d'un balai lors d'un match de Quidditch.
Si Shear partage les opinions les plus extrêmes de Yudowsky concernant la sécurité de l'IA, il faut s'attendre à ce que l'OpenAI freine davantage.
Au début de l'année, des leaders de la technologie comme Elon Musk et Emad Mostaque se sont joints à des milliers de personnes pour signer une lettre ouverte appelant à une pause de six mois dans le développement de l'IA. M. Yudowsky a refusé de signer cette lettre, estimant qu'elle "sous-estimait la gravité de la situation et demandait trop peu pour la résoudre".
Dans une lettre publié dans Time Yudowsky a déclaré que le développement de l'IA devrait s'arrêter complètement, faute de quoi "tout le monde sur Terre mourra".
Dans sa lettre, M. Yudowsky ne laisse planer aucune ambiguïté : "Si quelqu'un construit une IA trop puissante, dans les conditions actuelles, je m'attends à ce que chaque membre de l'espèce humaine et toute vie biologique sur Terre meurent peu de temps après".
Nous savons que Shear est d'accord avec certains de ces sentiments. Dans le clip ci-dessus, Shear déclare : "Je sais qu'Eliezer pense que nous sommes tous condamnés à coup sûr. J'adhère à son argument de la fatalité. J'adhère à la chaîne et à la logique."
EA va-t-il nous sauver et condamner OpenAI ?
La plupart des gens ont probablement entendu parler pour la première fois de l'altruisme efficace lorsque Sam Bankman Fried, le fondateur de FTX tombé en disgrâce, est entré en scène. Il a affirmé que les principes de l'altruisme efficace étaient à l'origine de son désir de gagner beaucoup d'argent pour faire beaucoup de bien.
Son exemple montre que les personnes qui ont un fort désir de faire une différence positive ne sont pas à l'abri de prendre des décisions très stupides.
Si le conseil d'administration d'OpenAI continue à donner la priorité aux principes de l'EA, on voit mal comment Sam Altman pourrait poursuivre l'AGI et la rentabilité s'il est reconduit dans ses fonctions.
Si le conseil d'administration modère ses positions et écoute les défenseurs de l'e/acc comme l'informaticien Yann LeCunDans ce cas, l'OpenAI peut encore être un projet viable.
Mark Zuckerberg a fameusement encouragé ses ingénieurs à "Bouger vite et casser des choses". Altman partage peut-être ce point de vue sur le développement de l'IA, mais ce n'est manifestement pas le cas des dirigeants actuels de l'OpenAI.
