Des députés britanniques affirment que les failles de sécurité de l'IA risquent de compromettre les gains économiques de 400 milliards de livres sterling
Une commission parlementaire, s'appuyant sur des estimations de l'OCDE, affirme que l'IA pourrait accroître l'économie britannique de 400 milliards de livres sterling d'ici dix ans. Elle préconise une nouvelle loi et la création d'un organisme de réglementation indépendant capable de retarder ou d'interdire l'entraînement et la mise en circulation de modèles non sûrs.

Citant des estimations de l'OCDE, une commission de la Chambre des communes affirme que l'intelligence artificielle pourrait accroître l'économie britannique de 400 milliards de livres sterling après dix ans, mais seulement si les ministres comblent dix lacunes dans la manière dont les systèmes les plus puissants sont testés et arrêtés.
La commission des entreprises, de l'innovation, des sciences et du commerce a publié son rapport le 18 novembre. Ce document, intitulé « Garde-fous pour la croissance : sûreté et sécurité de l'IA », est un ensemble de recommandations et non une nouvelle loi. Les ministres ont deux mois pour y répondre.
Le comité convertit une estimation de l'OCDE, qui prévoit une croissance annuelle de la productivité du travail au Royaume-Uni comprise entre 0,4 et 1,3 point de pourcentage, en un gain de production pouvant atteindre 38 milliards de livres sterling par an. Il précise que les particuliers et les entreprises n'adopteront pas cette technologie à grande échelle s'ils n'ont pas confiance en elle.
Les dix lacunes identifiées par les députés
Le Royaume-Uni ne dispose d'aucune législation encadrant la sécurité des IA de pointe, c'est-à-dire des modèles généralistes les plus performants. L'AI Security Institute, organisme gouvernemental de test créé en 2023, n'est pas un organe de réglementation et repose sur le volontariat. Le rapport indique que cela ne garantit ni inspection préalable à la mise en production, ni intervention en cas de désaccord entre les testeurs et l'entreprise.
Ces dix lacunes comprennent l'absence de définition convenue du risque acceptable, l'absence de droit légal d'inspecter les modèles, l'absence de vérification indépendante des affirmations en matière de sécurité, l'absence d'obligation de signaler les incidents et les quasi-accidents, et l'absence de pouvoir pour un organisme public d'interrompre un déploiement.
Une nouvelle loi et un organisme de réglementation distinct
Le comité souhaite un plan législatif incluant un projet de loi sur la sûreté et la sécurité de l'IA, qui sera présenté lors de la prochaine session parlementaire. Il souhaite également la création d'un organisme de réglementation statutaire, distinct de l'Institut afin que ce dernier puisse continuer à collaborer avec les entreprises.
Lorsque le risque ne peut être maîtrisé de manière adéquate, le gouvernement devrait pouvoir retarder, restreindre ou interdire l'entraînement, les essais ou le déploiement d'un modèle au Royaume-Uni. Les développeurs de systèmes officiellement classés comme à haut risque seraient tenus de justifier leurs affirmations en matière de sécurité et d'accorder aux évaluateurs indépendants l'accès nécessaire à leur examen.
Les députés recommandent également d'imposer aux développeurs une obligation légale de prévenir tout préjudice, y compris après la mise sur le marché. Certains modèles, une fois largement copiés, ne peuvent être retirés du marché de manière fiable. Un accord international, notamment dans le cadre de la prochaine présidence britannique du G20, ne devrait pas retarder l'adoption de réglementations au niveau national. Le rapport demande aux ministres de publier les objectifs du G20 dans un délai de trois mois.
Pourquoi c'est important : Le même rapport officiel qui fait état d'un gain économique de 400 milliards de livres sterling indique également qu'aucun organisme de réglementation britannique ne peut actuellement interrompre l'entraînement d'un modèle ni empêcher sa mise sur le marché. Tant que les ministres n'auront pas statué sur ce point, l'organisme de test restera tributaire de la bonne volonté des entreprises.


