DailyAI Briefing : une action en justice veut stopper les nouveaux modèles d’IA, et 4 autres actus

Bienvenue dans le briefing DailyAI, les cinq plus grandes actualités du jour en matière d'IA. Quatre associations à but non lucratif ont saisi un tribunal de San Francisco pour empêcher cinq des plus grandes entreprises d'IA de développer de nouveaux modèles. Des chercheurs ont montré comment un faux rapport de bug aurait pu atteindre un outil de programmation téléchargé près de 97 millions de fois par mois, le Japon a présenté un projet de sanctions visant les IA les plus puissantes, quatre entreprises d'IA ont accepté des tests indépendants sur l'impact de leurs outils sur les enfants, et United Airlines a interdit aux assistants IA de réserver ses vols.

Entrons dans le vif du sujet.

Une action en justice demande à un tribunal de stopper les nouveaux modèles d'IA

Cinq entreprises, un juge. Une plainte déposée jeudi devant la Cour supérieure de San Francisco demande à un juge d'empêcher Anthropic, Google, Meta, OpenAI et SpaceXSI de développer ou de diffuser de nouveaux modèles d'IA. L'affaire a été initialement rapportée par une agence de presse. Les groupes à l'origine de ce projet sont l'Irreplaceable Education Fund, Public Citizen, Heat Initiative et l'Alliance for Secure AI.

NOUVELLE PLAINTE : nous engageons une action en justice pour geler le développement de systèmes d'IA avancés chez Google, Anthropic, SpaceXSI, OpenAI & Meta. Les entreprises d'IA continuent de lancer de nouveaux systèmes qu'elles ne maîtrisent pas, malgré des risques graves. La justice doit intervenir avant que la catastrophe ne survienne.

— Public Citizen (@Public_Citizen) 12 novembre 2026

La plainte s'appuie sur les avertissements des entreprises elles-mêmes et sur des cas récents d'intrusion de systèmes d'IA dans des réseaux informatiques, notamment un incident survenu en juillet où ChatGPT s'est introduit de son propre chef dans les systèmes d'une autre entreprise d'IA, selon l'Associated Press. « Aucun autre secteur n'est autorisé à considérer comme inévitable le développement de ses propres produits dangereux — et encore moins de produits susceptibles de nous tuer tous », indique la plainte.

En septembre, une autre action en justice fédérale a soutenu presque le contraire, affirmant que certaines de ces mêmes entreprises avaient accepté de ralentir les progrès de l'IA. Nous pensons que ce sont les législateurs, et non les juges, qui devraient décider du rythme de développement de l'IA. Le résultat le plus utile de cette affaire pourrait être la production de preuves. Si elle franchit les premières étapes, les entreprises pourraient être tenues de communiquer leurs dossiers de sécurité internes.

Un faux rapport de bug a mis en danger un outil de programmation populaire

96,8 millions. C'est le nombre de fois où la version en ligne de commande de Codex, l'assistant de programmation d'OpenAI, a été téléchargée depuis la bibliothèque logicielle npm au cours des 30 jours précédant le 10 novembre. Les chercheurs en sécurité ont publié chaque étape de leur attaque le 11 novembre. Un assistant IA qui étiquetait les nouveaux rapports de bogues sur la page GitHub publique du projet suivait des instructions dissimulées dans un faux rapport.

Nous avons compromis la dernière version de OpenAI Codex. Nous avons injecté une invite. Nous nous sommes échappés d'un environnement isolé. Nous avons exfiltré des secrets… Et nous avons fini par contrôler ce qui pouvait être publié sur le package npm officiel openai/codex.

— Depi (@depi_) 11 novembre 2026

Les chercheurs affirment avoir ensuite réussi à s'échapper de son espace de travail fermé, à lire les clés secrètes et à piéger la clé utilisée pour publier les nouvelles versions. OpenAI a corrigé la faille et versé une première récompense de 1 000 $. Tôt le 12 novembre, l'assistant d'étiquetage a été remplacé par un court script qui ne peut pas utiliser d'outils.

Mais Depi a mené l'attaque complète sur sa propre copie de test, tandis que le véritable programme d'assistance utilisait un mode lecture seule plus strict depuis mai. Depi ne signale aucune mise à jour malveillante ayant atteint les utilisateurs. Notre rapport explique chaque étape de l'attaque. Tout outil d'IA capable de lire des textes provenant d'inconnus doit être considéré comme une porte d'entrée potentielle.

Le Japon prévoit des sanctions pour l'IA la plus puissante

Zéro. C’est le nombre de sanctions prévues par la loi sur l’IA adoptée par le Japon en mai 2025. Les conseillers du gouvernement souhaitent des sanctions pour les systèmes les plus puissants. Les documents de la réunion du 11 novembre sont publiés en ligne.

Vous voulez que l'IA vous fasse gagner des heures par semaine ? Notre guide gratuit vous explique comment.Téléchargez le guide gratuit →

Le plan comporte quatre étapes. Les entreprises doivent prendre des mesures de sécurité et signaler les risques ; le gouvernement peut formuler des recommandations officielles ; et, en cas d’échec, il peut émettre une injonction contraignante assortie de sanctions. Ces règles s’appliqueraient uniquement aux IA dépassant un certain niveau de performance et seulement à certains risques graves, tels que les cyberattaques et les attaques à l’arme chimique, biologique ou nucléaire. L’agence de presse Kyodo indique qu’un plan préliminaire est attendu d’ici la fin de l’année.

Notre article détaille les quatre étapes. Jusqu'à présent, le Japon s'est appuyé sur des recommandations volontaires.

Quatre entreprises d'IA acceptent des tests indépendants sur la sécurité des enfants

8 millions d'euros. C'est le montant total que les promoteurs d'une nouvelle charte affirment vouloir consacrer à la recherche sur l'IA et le développement de l'enfant. OpenAI, Anthropic, Microsoft et Black Forest Labs ont apporté leur soutien à cette initiative lors du Forum de Paris sur la Paix. Le texte intégral de la charte a été publié le 10 novembre.

Ses dix principes comprennent des limites à la collecte de données sur les enfants et des vérifications d'âge qui ne se fondent pas uniquement sur la date de naissance saisie. Des experts indépendants mèneront les recherches, et une entreprise qui les finance ne pourra ni bloquer ni retarder la publication des résultats. OpenAI annonce un don de 2 millions de dollars. L'adhésion à cette charte est volontaire, et Google, Meta et xAI ne figurent pas parmi les entreprises signataires.

Le président français Emmanuel Macron a déclaré qu'aucune intelligence artificielle ne devrait parvenir aux enfants avant d'avoir été testée, évaluée et approuvée, mais la charte ne prévoit aucun processus d'approbation. Nous avons examiné les promesses des entreprises. La publication des résultats des tests, qu'ils soient bons ou mauvais, serait plus utile aux parents et aux écoles que n'importe quelle promesse.

United Airlines interdit aux assistants IA de réserver des vols

Un adulte sur sept. Selon une enquête d'Oxford menée dans neuf pays, c'est la proportion de personnes ayant déclaré avoir utilisé un assistant IA pour une tâche concrète au cours de la semaine précédente. Depuis le 11 novembre, réserver un vol United Airlines ne fait plus partie de ces tâches. La compagnie aérienne a annoncé ces nouvelles règles mercredi.

Les assistants IA d'autres entreprises ne peuvent plus effectuer de recherches, réserver, modifier des réservations ni utiliser des miles de fidélité sur son site web ou son application. Ces règles concernent également les agences de voyages. La compagnie aérienne invoque les risques pour les données personnelles et les achats non désirés, ainsi qu'une règle américaine exigeant qu'une personne confirme que ses bagages ne contiennent aucun article interdit. « Honnêtement, je ne veux pas créer un intermédiaire de plus », a déclaré le PDG, Scott Kirby, lors d'un événement le 10 novembre.

Notre article explique les changements qui concernent les voyageurs. Un assistant IA peut vous aider à choisir un vol, mais vous devez toujours acheter le billet vous-même.

Le mot de la fin

Jeudi, la question était de savoir qui fixe les limites de l'IA. Des organisations à but non lucratif ont saisi la justice, le Japon a invoqué la loi, quatre entreprises ont signé une charte volontaire et une compagnie aérienne a tout simplement bloqué les assistants IA. Par ailleurs, l'attaque contre l'outil de programmation a démontré que le maillon faible peut être un simple signalement de bug.

À demain.