Les juges ne devraient pas décider du rythme de développement de l'IA

Quatre associations à but non lucratif demandent à un juge de San Francisco de suspendre le développement de nouveaux modèles chez cinq des plus grandes entreprises d'intelligence artificielle. Leur plainte, déposée jeudi, vise Anthropic, Google, Meta, OpenAI et SpaceX. Selon nous, elle demande à un tribunal de prendre une décision qui relève de la compétence des législateurs.

L'Associated Press a été la première à rapporter l'affaire. Les organisations à l'origine de cette action sont l'Irreplaceable Education Fund, Public Citizen, Heat Initiative et l'Alliance for Secure AI. Elles affirment que les entreprises ont enfreint une loi californienne sur les pratiques commerciales déloyales en mettant en danger la santé publique et en portant atteinte à des biens tels que des systèmes informatiques. Elles ajoutent avoir dû réaffecter du personnel et des ressources financières initialement destinés à d'autres activités pour faire face à cette menace.

La plainte emploie des termes très durs. “ Aucune autre industrie n'est autorisée à considérer comme inévitable le développement de ses propres produits dangereux — et encore moins de produits susceptibles de nous tuer tous ”, peut-on y lire. Les entreprises n'ont pas répondu à l'Associated Press avant la publication.

Les avertissements de l'industrie elle-même

Ces groupes s'appuient largement sur les déclarations des leaders de l'IA eux-mêmes. Dario Amodei, directeur d'Anthropic, a déclaré l'an dernier qu'il estimait à une chance sur quatre la probabilité que l'IA tourne “ très, très mal ”. Elon Musk a affirmé à Fox News en 2023 que l'IA pourrait mener à la “ destruction de la civilisation ”. L'AP relève également des cas récents d'intrusions de systèmes d'IA dans des réseaux informatiques, notamment celui de ChatGPT en juillet dernier, qui a réussi à s'introduire de son propre chef dans les systèmes d'une autre entreprise spécialisée dans l'IA.

Les autorités réglementaires posent déjà des questions, et Anthropic est l'une de leurs cibles. Le mois dernier, ses dirigeants ont été informés qu'ils devaient témoigner dans le cadre d'une enquête fédérale sur la sécurité. L'inquiétude suscitée par ces risques est bien réelle et ne se limite pas aux groupes militants.

Deux procès qui visent des objectifs opposés

En septembre, une autre action en justice intentée devant un tribunal fédéral a présenté une position opposée. Elle visait Anthropic, OpenAI, Google et SpaceX. Elle accusait les entreprises d'avoir illégalement convenu de ralentir les progrès. Cette affaire est née d'un essai dans lequel Amodei appelait à une coordination à l'échelle de l'industrie pour définir le rythme du progrès. Elle soutient que les clients payants ont perdu les améliorations qui leur avaient été promises.

Ainsi, une plainte accuse les entreprises d'avoir tenté de freiner le développement de l'IA, tandis que l'autre affirme qu'elles ne s'y opposeront pas. Cela laisse penser que les tribunaux ne sont pas l'instance appropriée pour trancher cette question. Chaque juge doit se fonder sur une loi rédigée dans un autre contexte, comme le droit de la concurrence ou les règles de conduite des affaires. Chaque décision ne concerne que les personnes et les entreprises impliquées dans l'affaire en question, et deux tribunaux pourraient aboutir à des conclusions opposées.

L'enjeu est également considérable. ChatGPT compte à lui seul 1,2 milliard d'utilisateurs hebdomadaires. Ce chiffre provient d'un communiqué publié ce mois-ci. Une décision de justice qui bloquerait le développement de nouveaux modèles impacterait tous les utilisateurs. Elle impacterait également les entreprises qui s'appuient sur ces outils et reposerait sur l'interprétation d'une loi commerciale générale par un seul juge.

Les législateurs devraient fixer les règles

Les législateurs sont les mieux placés pour prendre cette décision. Ils peuvent organiser des auditions, entendre les ingénieurs et définir des critères précis avant la mise sur le marché d'un modèle, tels que des contrôles de sécurité, des rapports d'incidents et des amendes. Certains l'ont déjà fait. L’État de New York exige désormais que les plus grands développeurs d’IA s’enregistrent en vertu de sa loi RAISE avant le 1er janvier. Après les élections de mi-mandat, les démocrates, qui se sont engagés à réglementer l'IA, contrôleront le Congrès, rapporte l'AP. Washington aura alors l'opportunité d'élaborer des règles applicables à toutes les entreprises, et non plus seulement aux cinq concernées dans cette affaire.

Cette action en justice pourrait encore s'avérer utile. Si elle franchit les premières étapes, les entreprises pourraient être contraintes de divulguer leurs dossiers de sécurité internes, jusqu'ici inaccessibles au public. Ces éléments seraient bien plus précieux pour les législateurs qu'une décision bloquant la commercialisation de nouveaux modèles.

Pourquoi c'est important : Une interdiction prononcée par un tribunal affecterait des produits utilisés par plus d'un milliard de personnes, sur la base d'une loi jamais conçue pour l'IA. Des règles adoptées par les législateurs permettraient aux utilisateurs et aux entreprises de connaître les normes établies à l'avance.