La RAND Corporation, un groupe de réflexion qui entretient des liens étroits avec les réseaux de financement des milliardaires de la technologie, notamment par l'intermédiaire d'Open Philanthropy, a joué un rôle essentiel dans la rédaction du décret du président Joe Biden sur l'IA.
Selon le PoliticoCette ordonnance, fortement influencée par l'altruisme efficace, une philosophie prônant une approche de la philanthropie fondée sur les données, a introduit des exigences exhaustives en matière de rapports sur l'IA.
L'implication de la RAND a suscité des froncements de sourcils en raison de son financement important par des groupes tels que Open Philanthropy, lié à des leaders de la technologie tels que Dustin Moskovitz. Selon Jeffrey Hiday, porte-parole de la RAND, la raison d'être de la RAND est de "[mener] des recherches et des analyses sur des sujets cruciaux d'actualité, [puis] de [partager] ces recherches, ces analyses et cette expertise avec les décideurs politiques".
Il a fallu pour cela procéder à une consultation approfondie sur la Décret récenty compris la rédaction des documents finaux.
Au début de l'année, la RAND Corporation a reçu plus de $15 millions de subventions discrétionnaires de l'Open Philanthropy, destinées à des projets d'IA et de biosécurité.
Open Philanthropy, connue pour son approche de l'altruisme efficace, entretient des liens personnels et financiers avec des entreprises d'IA telles qu'Anthropic et OpenAI.
En outre, des personnalités de la RAND sont imbriquées dans les structures de ces entreprises d'IA dans ce qui reste une industrie relativement compacte aux échelons les plus élevés, du moins aux États-Unis.
Ses détracteurs estiment que l'alignement du groupe de réflexion sur l'altruisme efficace risque de fausser l'orientation de ses recherches et d'éclipser les préoccupations immédiates en matière d'IA, telles que les préjugés raciaux ou la violation des droits d'auteur.
La dynamique au sein de la RAND reflète également une tendance plus large dans laquelle l'altruisme efficace façonne de plus en plus la politique en matière d'IA - ou du moins à entrer dans son récit. Ce mouvement, défendu par des personnalités controversées comme Sam Bankman-Fried, préconise de s'attaquer aux risques existentiels à long terme, y compris ceux posés par l'IA avancée, tels que le développement d'armes biologiques.
Toutefois, il a été reproché à cette approche de servir les intérêts des grandes entreprises technologiques en détournant l'attention des effets néfastes de l'IA.
Par essence, l'altruisme efficace risque de reporter l'action immédiate et pratique en faveur de plans plus hypothétiques et à long terme.
La lutte interne d'OpenAI : altruisme contre commercialisation
OpenAI, initialement un organisme à but non lucratifAujourd'hui, elle est confrontée à la tension entre ces objectifs altruistes et les réalités de l'entreprise et de la réalisation de bénéfices, en particulier après des investissements tels que le $1 milliard de Microsoft et sa récente évaluation à $86 milliards.
Il était relativement simple pour OpenAI de maintenir cette philosophie alors qu'elle était plutôt seule au sommet de l'industrie de l'IA générative.
Aujourd'hui, avec l'arrivée de la concurrence, en particulier Gemini Ultra de Googlequi menace directement la supériorité de GPT-4, il n'est pas particulièrement facile de faire preuve de retenue et de prudence tout en conservant cette position convoitée au sommet de la pile des modèles d'IA.
Les tensions au sein d'OpenAI ont atteint leur paroxysme sous la direction du PDG Sam Altman. Son approche de la gestion d'OpenAI incarnait le conflit entre le techno-capitalisme de la Silicon Valley et le discours de plus en plus répandu sur les risques de l'IA. Certains ont émis l'hypothèse qu'Altman ne prenait pas la sécurité au sérieux au sein de l'entreprise, mais cette hypothèse n'a pas été confirmée.
Malgré les inquiétudes des membres du conseil d'administration quant à son engagement en faveur de la sécurité et de la transparence, la réintégration d'Altman en tant que PDG a marqué un tournant dans l'histoire de l'entreprise, soulevant des questions sur l'influence de l'altruisme efficace et le pouvoir du conseil d'administration.
La question qui se pose aujourd'hui est la suivante : les idéaux d'altruisme et de long terme peuvent-ils coexister avec les avancées commerciales et technologiques rapides dans le secteur de l'IA ?
La réglementation peut préserver les activités de création de valeur de l'IA
Plus tôt dans l'année, Le mémo de Luke Sernau chez Google a suggéré que la communauté de l'IA à code source ouvert représentait un défi direct à la domination de tous les principaux développeurs d'IA.
Le mémo disait : "Nous avons beaucoup regardé par-dessus nos épaules à l'OpenAI. Qui franchira la prochaine étape ? Quel sera le prochain mouvement ? Mais la vérité désagréable est que nous ne sommes pas en position de gagner cette course aux armements et l'OpenAI non plus. Pendant que nous nous chamaillions, une troisième faction a tranquillement mangé notre déjeuner. Je parle, bien sûr, de l'open source".
Les modèles à source ouverte, illustrés par le LLaMA de Meta et le Mixtral de MistralL'Europe est en train de combler rapidement le fossé entre l'innovation locale et les grandes entreprises technologiques.
Bien qu'elle soit présentée comme une évolution vers un développement responsable de l'IA, la pression exercée par des entreprises comme Google et OpenAI en faveur d'une réglementation de l'IA risque également de nuire à la communauté de l'IA à code source ouvert, qui offre une alternative décentralisée aux modèles centralisés.
Bien entendu, les modèles à code source ouvert sont également moins chers et permettent aux entreprises, aux instituts de recherche, aux étudiants et aux autres utilisateurs d'intégrer un certain niveau de propriété et de souveraineté dans leurs solutions.
Les développeurs commerciaux d'IA sont-ils motivés par de véritables préoccupations concernant le développement sûr et éthique de l'IA, ou s'agit-il en partie de manœuvres stratégiques visant à maintenir la domination du marché et le contrôle sur l'innovation dans le domaine de l'IA ?
Le croisement de l'altruisme, de la politique et du commerce dans l'industrie de l'IA est exceptionnellement complexe. Au fur et à mesure que l'IA progresse, la conciliation de ces divers intérêts continuera à diviser l'opinion.
