Mercredi, l'Union européenne a accompli des progrès significatifs dans la mise en œuvre de la loi sur l'IA, premier texte législatif complet au monde sur l'IA.
Le Parlement européen a approuvé un projet de loi qui adopte une approche à plusieurs niveaux pour réglementer l'IA en classant les utilisations dans différentes catégories de risque.
Les niveaux comprennent une catégorie de risque "inacceptable" pour les IA qui mettent en péril la sécurité des personnes et les droits de l'homme, et une catégorie de risque "élevé" pour les IA qui concernent les infrastructures critiques, les élections, l'emploi et d'autres domaines susceptibles de causer des dommages.
Viennent ensuite les catégories "risque limité" et "risque minimal".
Le vote de mercredi a confirmé plusieurs modifications apportées à la proposition de loi et a recueilli 499 voix pour, 28 contre et 93 absents.
BREAKING : Le Parlement européen adopte à une écrasante majorité la première loi globale sur l'IA au monde.
L'UE établit une norme mondiale : L'IA doit être au service de la démocratie, de la sécurité et de la planète.
Interdiction des systèmes de reconnaissance des émotions et de recommandation des médias sociaux classés "à haut risque" !https://t.co/BBrxznStdR pic.twitter.com/9fLwEiqKTf
- Alice St⭕️llmeyer (@StollmeyerEU) 14 juin 2023
Quels étaient les amendements ?
Tout d'abord, l'UE a élargi la liste des IA à risque "inacceptable" interdites, qui comprend désormais les suivantes
- IA pour l'évaluation sociale, où les individus sont classés en fonction de leur comportement social ou de leurs caractéristiques personnelles.
- Systèmes d'identification biométrique à distance en temps réel dans les espaces publics.
- Les systèmes d'identification biométrique à distance, sauf dans les cas où les forces de l'ordre poursuivent des crimes graves et uniquement sur autorisation judiciaire.
- Les systèmes de catégorisation biométrique qui utilisent des caractéristiques sensibles telles que le sexe, la race, l'appartenance ethnique, le statut de citoyen, la religion et l'orientation politique.
- Les systèmes de police prédictive qui dépendent du profilage, de la localisation ou du comportement criminel antérieur.
- Les systèmes de reconnaissance des émotions sont déployés dans les services de police, la gestion des frontières, les lieux de travail et les établissements d'enseignement.
- Collecte non ciblée d'images faciales à partir de l'internet ou de séquences de vidéosurveillance pour créer des bases de données de reconnaissance faciale.
Les applications d'IA à "haut risque" de deuxième niveau comprennent désormais des systèmes susceptibles d'influencer les élections et des algorithmes de recommandation utilisés par les grandes plateformes de médias sociaux.
En ce qui concerne les IA génératives comme ChatGPT, les développeurs sont tenus d'évaluer et d'atténuer activement les risques pour la santé, la sécurité, les droits fondamentaux, l'environnement, la démocratie et l'État de droit. Ils devront également enregistrer leurs modèles dans la base de données de l'UE pour pouvoir opérer sur le marché européen.
En outre, les entreprises d'IA doivent renforcer les mesures de protection contre la production de contenus illégaux et fournir des résumés détaillés des données de formation protégées par le droit d'auteur. D'autres modifications ont été apportées à la loi, notamment des exemptions pour les PME et les activités de recherche à source ouverte.
En cas de non-respect, les entreprises pourraient être contraintes de supprimer des applications et se voir infliger des amendes pouvant aller jusqu'à 7% de leur chiffre d'affaires. Dragos Tudorache, fonctionnaire européen, a déclaré : "Il y a beaucoup de dents acérées là-dedans". Les amendes infligées pour des violations du GDPR - notamment une amende de 1,2 milliard d'euros pour Meta et une amende de 746 millions d'euros pour Amazon - montrent que l'UE peut faire respecter de telles mesures.
La présidente du Parlement européen, Roberta Metsola, a qualifié ce texte de "législation qui, sans aucun doute, établira la norme mondiale pour les années à venir", ajoutant que l'IA entrait dans "une nouvelle ère de contrôle".
Après le vote, un fonctionnaire de l'UE Brando Benifei a déclaréAujourd'hui, tous les regards sont tournés vers nous. Alors que les grandes entreprises technologiques tirent la sonnette d'alarme au sujet de leurs propres créations, l'Europe est allée de l'avant et a proposé une réponse concrète aux risques que l'IA commence à poser. Nous voulons que le potentiel positif de l'IA en termes de créativité et de productivité soit exploité, mais nous nous battrons également pour protéger notre position et contrer les dangers qui pèsent sur nos démocraties et nos libertés au cours des négociations avec le Conseil".
Après le vote de mercredi, l'acte entre dans sa phase finale, y compris les négociations avec le Parlement européen, la Commission européenne et le Conseil de l'Union européenne.
La loi devrait entrer en vigueur en 2026.