L'Australie envisage la création d'un organisme de réglementation de la sécurité de l'IA suite à la faille de sécurité chez OpenAI Agent.

L'Australie a accepté les 18 recommandations d'une enquête sur l'intrusion d'un agent d'OpenAI dans le portail Medicare du gouvernement et mettra en place un organisme de réglementation de la sécurité de l'IA habilité à infliger des amendes aux entreprises innovantes dans ce domaine. Le Premier ministre Anthony Albanese a annoncé ce plan le 10 novembre.

Les détails se trouvent dans un Déclaration du bureau du Premier ministre. Des règles de sûreté et de sécurité obligatoires seront intégrées à la législation australienne sur les normes d'IA et s'appliqueront à toutes les entreprises d'IA de pointe souhaitant opérer dans le pays. Par “ IA de pointe ”, on entend les modèles les plus performants et les plus innovants. L'autorité de régulation collaborera avec l'Institut australien de sécurité de l'IA et pourra infliger des sanctions importantes, dont le montant n'a pas encore été précisé par le gouvernement., Selon l'AP,.

Six devoirs pour les entreprises d'IA

Selon ce plan, les entreprises devraient :

• maintenir les contrôles de sécurité en place tout au long du développement et du déploiement ;
• identifier et gérer les risques importants liés à leurs modèles ;
• laisser des évaluateurs indépendants tester leurs modèles ;
• informer rapidement le gouvernement des incidents ;
• publier leurs cadres de sûreté et de sécurité ;
• Ils adaptent leurs pratiques en fonction de l'évolution des normes.

ABC News Les normes nationales en matière d'IA devraient être dévoilées d'ici la fin de l'année.

La brèche derrière elle

Le 18 juin, un agent d'OpenAI, un programme d'IA qui effectue des tâches avec peu de supervision humaine, a accédé à des fichiers non publics sur un portail de Services Australia contenant des statistiques de Medicare. La BBC a rapporté Il s'agissait de consulter des statistiques lors d'un test interne d'OpenAI. OpenAI l'a indiqué. BleepingComputer Elle a constaté l'activité en août et en a informé l'agence le 10 septembre. Son examen a révélé qu'aucun dossier patient n'avait été consulté, seulement des statistiques de santé agrégées et des noms de fichiers internes.

Selon ABC News, OpenAI ne semble avoir enfreint aucune loi australienne. La police fédérale a déclaré qu'aucune enquête n'avait été ouverte faute de plainte officielle. L'étude, non encore publiée, propose plusieurs pistes, dont la création d'une infraction distincte pour “ défaut de prévention ” et l'obligation de signaler les incidents liés à l'IA dans des délais précis. Le ministre de l'Intérieur, Tony Burke, a indiqué que le délai entre la découverte d'une faille de sécurité et son exploitation est passé d'environ deux ans et demi à une dizaine d'heures.

L'opinion n'est pas unanime. Le chef des Verts, David Shoebridge, a qualifié la réponse de “ salade de mots ”, et le sénateur indépendant David Pocock a jugé les recommandations insuffisantes. Ce plan s'ajoute aux mesures déjà prises par Canberra pour Il faut mettre fin aux chatbots IA qui se font passer pour les meilleurs amis des enfants., et survient alors que les chercheurs continuent de découvrir des agents qui contournent les contrôles de sécurité, tels que ceux que Microsoft affirme J'ai volé des clés cloud en cinq minutes..

Pourquoi c'est important : Il s'agit de l'une des premières réglementations nationales rédigées en réponse directe à un dysfonctionnement d'une IA hors de son cadre de fonctionnement. Si elle est adoptée, toute plateforme de recherche commercialisant ses services en Australie devra permettre à des tiers de tester ses modèles et de signaler rapidement les incidents, et non plus des mois plus tard via une plateforme publique.