Selon les experts, le moyen le plus efficace de garantir la sécurité de l'IA pourrait être de réglementer son "matériel", c'est-à-dire les puces et les centres de données, ou "compute", qui alimentent les technologies de l'IA.
Le rapport, fruit d'une collaboration entre des institutions de renom, dont le Center of AI Safety (CAIS), le Leverhulme Centre for the Future of Intelligence de l'université de Cambridge et l'OpenAI, propose un registre mondial de suivi des puces d'IA, fixant des "plafonds de calcul" afin de maintenir l'équilibre de la R&D entre les différents pays et entreprises.
Cette nouvelle approche centrée sur le matériel pourrait être efficace en raison de la nature physique des puces et des centres de données, ce qui les rend plus faciles à réglementer que des données et des algorithmes intangibles.
Haydn Belfield, co-auteur principal de l'Université de Cambridge, explique le rôle de la puissance de calcul dans la R&D en matière d'IA : "Les superordinateurs d'IA sont constitués de dizaines de milliers de puces d'IA en réseau... qui consomment des dizaines de mégawatts d'énergie."
Les rapportLe rapport, qui compte au total 19 auteurs, dont le "parrain de l'IA" Yoshio Bengio, met en évidence la croissance colossale de la puissance de calcul requise par l'IA, notant que les modèles les plus importants nécessitent aujourd'hui 350 millions de fois plus de calcul qu'il y a treize ans.
Les auteurs estiment que l'augmentation exponentielle de la demande de matériel d'IA offre la possibilité d'empêcher la centralisation et l'IA d'échapper à tout contrôle. Compte tenu de la la consommation d'énergie insensée de certains centres de donnéesElle pourrait également réduire l'impact croissant de l'IA sur les réseaux énergétiques.
En faisant le parallèle avec la réglementation nucléaire, que d'autres, dont le PDG d'OpenAI, Sam Altman, ont servi d'exemple pour la réglementation de l'IALe rapport propose des politiques visant à améliorer la visibilité mondiale de l'informatique de l'IA, à allouer les ressources informatiques au profit de la société et à appliquer des restrictions à la puissance de calcul pour atténuer les risques.
Le professeur Diane Coyle, autre coauteur, souligne les avantages de la surveillance du matériel pour le maintien d'un marché concurrentiel, direLa surveillance du matériel informatique aiderait grandement les autorités chargées de la concurrence à contrôler le pouvoir de marché des plus grandes entreprises technologiques, ce qui ouvrirait la voie à davantage d'innovation et à l'arrivée de nouveaux acteurs.
Belfield résume le message clé du rapport : "Essayer de régir les modèles d'IA au fur et à mesure de leur déploiement pourrait s'avérer futile, comme si l'on poursuivait des ombres. Ceux qui cherchent à établir une réglementation de l'IA devraient se tourner vers l'informatique en amont, la source de la puissance qui alimente la révolution de l'IA."
Les accords multilatéraux de ce type nécessitent une coopération mondiale qui, dans le cas de l'énergie nucléaire, s'est concrétisée par des catastrophes de grande ampleur.
Une série d'incidents a conduit à la création de l'Agence internationale de l'énergie atomique (AIEA) en 1957. Ensuite, il y a eu quelques problèmes jusqu'à Tchernobyl.
Aujourd'hui, la planification, l'autorisation et la construction d'un réacteur nucléaire peuvent prendre dix ans ou plus, car le processus est rigoureusement contrôlé à chaque étape. Chaque étape est examinée à la loupe parce que les nations comprennent collectivement les risques, à la fois individuellement et collectivement.
N'aurions-nous pas besoin d'une catastrophe majeure pour que les sentiments de sécurité de l'IA se concrétisent ?
En ce qui concerne la réglementation du matériel, qui dirigera une agence centrale chargée de limiter l'approvisionnement en puces ? Qui va imposer l'accord, et peut-il être appliqué ?
Et comment empêcher ceux qui ont les chaînes d'approvisionnement les plus solides de profiter des restrictions imposées à leurs concurrents ?
Qu'en est-il de la Russie, de la Chine et du Moyen-Orient ?
Il est facile de restreindre l'approvisionnement en puces lorsque la Chine dépend de fabricants américains comme Nvidia, mais il n'en sera pas toujours ainsi. La Chine vise à être autosuffisante en termes de matériel d'intelligence artificielle au cours de cette décennie.
Le rapport de plus de 100 pages fournit quelques indices, et il semble que cette piste mérite d'être explorée. il faudra plus que des arguments convaincants pour mettre en œuvre un tel plan.
