L'Australie envisage d'imposer des garde-fous au développement et au déploiement de l'IA dans les environnements "à haut risque", en réponse aux préoccupations exprimées lors des consultations publiques.
Le ministre de l'industrie et des sciences, Ed Husic, a déclaré : "Les Australiens comprennent la valeur de l'intelligence artificielle, mais ils veulent que les risques soient identifiés et traités".
Les mesures que le gouvernement australien propose de mettre en œuvre ont été publiées dans un rapport intitulé : "Safe and responsible AI in Australia consultation" (Consultation sur l'IA sûre et responsable en Australie).
Nous avons pris connaissance de vos commentaires sur notre #ResponsableAI consultation.#AusGovLa réponse provisoire de l'UE contribuera à influencer les futures décisions de l'UE en matière d'environnement. #AI Le gouvernement australien a l'intention de mettre en place une réglementation qui profite aux citoyens, au gouvernement et aux entreprises du pays.
En savoir plus : https://t.co/K4WTM4EK7m pic.twitter.com/TgsMmrySXw
- Ministère de l'industrie, des sciences et des ressources (@IndustryGovAu) 16 janvier 2024
Le rapport indique que "le gouvernement envisagera des garanties obligatoires pour ceux qui développent ou déploient des systèmes d'IA dans des contextes légitimes et à haut risque. Cela permettra de s'assurer que les systèmes d'IA sont sûrs lorsque les dommages sont difficiles ou impossibles à annuler."
Il a reconnu qu'il existait des points de vue différents sur ce qui constituait des environnements "à haut risque", mais il a proposé la liste adoptée dans le rapport de la Commission européenne. Loi européenne sur l'IA à titre d'exemple :
- certaines infrastructures critiques (eau, gaz, électricité)
- dispositifs médicaux
- les systèmes déterminant l'accès aux établissements d'enseignement ou le recrutement de personnes
- les systèmes utilisés pour l'application de la loi, le contrôle des frontières et l'administration de la justice
- identification biométrique
- la reconnaissance des émotions.
En outre, elle donne des exemples où l'IA pourrait être utilisée pour prédire la probabilité de récidive d'une personne, juger de l'aptitude d'une personne à occuper un emploi ou contrôler un véhicule autopiloté.
Si une erreur de l'IA peut causer des dommages irréversibles, elle propose que des lois obligatoires définissent la manière dont la technologie est développée et déployée.
Parmi les garde-fous proposés figurent des étiquettes numériques ou des filigranes permettant d'identifier les contenus générés par l'IA, des exigences relatives à l'intervention d'un être humain dans la boucle, voire l'interdiction pure et simple des utilisations de l'IA qui présentent des risques inacceptables.
Parmi les exemples proposés d'applications inacceptables, citons la manipulation comportementale, l'évaluation sociale et la reconnaissance faciale en temps réel à grande échelle.
Une réglementation volontaire pour l'instant
Il faudra peut-être attendre un certain temps avant que les exigences obligatoires proposées ne soient transposées dans la législation. En attendant, dans une interview accordée à ABC News, M. Husic a déclaré : "Nous voulons concevoir immédiatement des normes de sécurité volontaires et être en mesure d'y travailler et de faire en sorte que l'industrie comprenne ce qu'elle est censée fournir et comment elle est censée le faire."
Dans leurs observations, OpenAI et Microsoft se sont prononcés en faveur de réglementations volontaires plutôt que de se précipiter pour mettre en œuvre des réglementations obligatoires.
Toby Walsh, professeur d'intelligence artificielle à l'université de Nouvelle-Galles du Sud, a critiqué cette approche et l'absence de mesures concrètes dans le rapport intermédiaire.
Le professeur Walsh a déclaré : "C'est peu et c'est un peu tard. Il n'y a pas grand-chose de concret, et une grande partie de ces mesures concerne des accords volontaires avec l'industrie, et comme nous l'avons vu dans le passé, leur demander de corriger leurs propres devoirs n'est peut-être pas la meilleure idée".
Le rapport indique que "l'adoption de l'IA et de l'automatisation pourrait ajouter $170 milliards à $600 milliards par an au PIB de l'Australie d'ici 2030".
Dans un pays notoirement très réglementé, il pourrait être difficile d'atteindre ces chiffres si l'Australie impose trop de formalités administratives aux développeurs d'IA.
