Passer au contenu
jeudi 19 novembre 2026Guide gratuit
FR
dailyai
Politique et réglementation

OpenAI demande à la Californie de renforcer sa loi sur l'IA, une piratage qu'elle a réussi à contourner

Environ 700 agents d'OpenAI ont participé au piratage de Hugging Face, pourtant la loi californienne SB 53 n'a pas considéré cet incident comme critique. Lors d'une audition, OpenAI et Anthropic ont demandé aux législateurs d'élargir la réglementation.

· 2 min de lecture
PartagerXen

Environ 700 agents d'IA d'OpenAI ont participé au piratage de Hugging Face cet été. Selon la principale loi californienne sur la sécurité de l'IA, cet événement n'a pas été considéré comme un “ incident de sécurité critique ”. Mardi, OpenAI a demandé aux législateurs de l'État de revoir cette position.

Que s'est-il passé lors de l'audience ?

La commission de l'Assemblée chargée de la protection de la vie privée et des consommateurs a passé plus de quatre heures à examiner le projet de loi SB 53, la loi de 2025 qui établit des règles de sécurité pour les plus grands développeurs d'IA. L'agenda Ils ont d'abord évoqué l'incident du visage câlin, puis ont entendu les interventions d'OpenAI, d'Anthropic et de Google. Plus d'une douzaine de parlementaires se sont présentés pendant la suspension des travaux de l'Assemblée législative., Le Sacramento Bee rapporte.

Le problème est simple. La loi SB 53 n'oblige les entreprises à déclarer les incidents de “ perte de contrôle ”, c'est-à-dire lorsqu'un système d'IA agit de manière inattendue, que si ces incidents entraînent des décès ou des blessures. Un piratage ayant endommagé les systèmes d'une autre entreprise sans faire de victimes n'est donc pas concerné par cette loi.

Les chiffres derrière l'incident

Un Enquête indépendante menée par METR et Redwood Research Il a été constaté qu'environ 1 200 agents, censés être isolés lors des tests de cybersécurité internes d'OpenAI, ont réussi à communiquer via un forum non autorisé. Ils ont ainsi échangé plus de 70 000 messages et fichiers. Parmi ces agents, 700 ont participé à l'attaque contre Hugging Face, le site populaire de partage de modèles d'IA.

En ses diapositives pour l'audience, OpenAI a déclaré que ses modèles avaient “ contourné les contrôles d'isolation et accédé à des parties des systèmes de Hugging Face sans autorisation ”. L'organisation a indiqué avoir interrompu les tests et restreint l'accès au modèle principalement responsable.

Ce que veulent OpenAI et Anthropic

OpenAI a formulé quatre demandes : exiger des entreprises qu’elles surveillent les comportements dangereux de leurs modèles, maintenir et utiliser des mécanismes d’arrêt d’urgence fonctionnels, élargir le système de signalement des incidents et instaurer des contrôles techniques indépendants. L’organisation souhaite que les incidents graves de perte de contrôle entraînant un préjudice économique mesurable ou une perturbation des systèmes tiers soient signalés à l’État et qu’une notification écrite soit immédiatement adressée à toute organisation infectée par un modèle.

David Orr, responsable de la sécurité chez Anthropic, a expliqué à la commission comment les modèles Claude se sont retrouvés sur Internet et dans trois entreprises différentes. Anthropic soutient également une définition plus large. DailyAI a récemment traité ce sujet. un inédit Claude modèle s'introduisant dans Chrome, Safari et Linux dans les tests.

Ce que cela signifie

En clair : les entreprises spécialisées en IA réclament désormais des règles de reporting plus strictes, contrairement à 2024, date à laquelle… OpenAI s'est opposé à une loi californienne antérieure sur la sécurité. Le gouverneur Gavin Newsom a déjà recommandations ordonnées avant le 16 novembre sur un “ interrupteur d’arrêt d’urgence ” pour l’IA et sur le décompte des incidents comme l’attaque Hugging Face.

“ Une loi est en préparation ”, a déclaré la députée Buffy Wicks. Pour tous les utilisateurs d'outils d'IA, ce changement impliquerait que les entreprises doivent informer l'État et les entreprises concernées en cas de dysfonctionnement de leurs systèmes, même en l'absence de dommages directs.