Le Center For AI Safety (CAIS), nouvellement créé, a publié mardi 30 mai une déclaration signée par 350 leaders de l'IA, universitaires, ingénieurs et autres personnalités.
Parmi les principaux signataires figurent les pionniers de l'IA Geoffery Hinton et Yoshua Bengio, le PDG d'OpenAI Sam Altman et plusieurs de ses collègues, les PDG de DeepMind, Anthropic et d'autres grandes entreprises d'IA, ainsi que des universitaires de haut niveau du MIT, de Berkeley, de l'université de Cambridge et d'autres institutions universitaires de premier plan dans le monde entier.
"L'atténuation du risque d'extinction par l'IA devrait être une priorité mondiale au même titre que d'autres risques à l'échelle de la société tels que les pandémies et les guerres nucléaires. Déclaration du Center For AI Safety (CAIS) sur l'IA - 30 mai 2023.
Le mois de mai a été marqué par une intensification du débat sur l'impact sociétal de l'IA.
Le PDG d'OpenAI, Sam Altman, a témoigné devant le Congrès au sujet de la sécurité de l'IA, et l'un des premiers pionniers de l'IA, Geoffrey Hinton, a quitté Google pour parler ouvertement de l'IA.
Le CAIS s'appuie sur les intentions des leaders de la technologie de s'unir et de former un plan cohérent pour atténuer les risques de l'IA tout en mettant l'accent sur ses utilisations et ses avantages. Les risques sont à la fois immédiats, comme les pertes massives d'emplois, et à moyen ou long terme, comme le fait que l'IA autonome commence à dépasser l'intelligence humaine et que nous en perdions le contrôle.
Dan Hendrycks, directeur du Centre pour la sécurité de l'IA, a déclaré à Sky NewsL'homme a été l'espèce dominante sur Terre en raison de son intelligence. Mais aujourd'hui, alors que l'IA devient plus puissante et plus intelligente, nous n'occuperons plus la même position à l'avenir."
IA : risques tangibles et intangibles
Comment se termine votre film préféré sur l'IA ? Il y a quelque chose de presque inné dans les risques de l'IA, une peur instinctive de ce qui se passera quand "les robots prendront le pouvoir".
Toutefois, à l'heure actuelle, les risques à long terme de l'IA sont essentiellement intangibles et reposent en grande partie sur des conjectures, des abstractions et des projections.
Le premier impact tangible de l'IA se fera probablement sentir sur le marché de l'emploi, où plus d'un million d'emplois sont à pourvoir. 375 millions d'emplois seront menacés d'ici à 2030. L'IA évoluant rapidement, cette estimation pourrait s'avérer prudente. L'IA présente également des risques de discrimination, d'usurpation d'identité, de cybersécurité et de militarisation.
Les leaders de la technologie et les universitaires reconnaissent que nous traversons une période d'innovation rapide, où les développements technologiques vont plus vite que la recherche.
Cela s'est produit à plusieurs reprises dans l'histoire de l'humanité, par exemple lors de l'avènement de l'énergie atomique et nucléaire et de la création de l'internet. Au début du mois, Sam Altman, de l'OpenAI, a encouragé la création d'une agence internationale pour l'IA, semblable à l'Agence européenne pour la sécurité humaine. Agence internationale de l'énergie atomique dans les années 1950.
Quels que soient les risques de l'IA, nous risquons de nous y heurter de plein fouet, car il est difficile d'envisager que les grandes entreprises technologiques puissent freiner leur progression, et les me nombreux analystes estiment que l'autorégulation est une chimère.
Les sceptiques doutent des progrès de l'IA
Le débat sur l'IA n'est pas à sens unique, et certains sont sceptiques quant à la rapidité avec laquelle le débat s'est transformé en un récit d'extinction.
Par exemple, nous ne parvenons toujours pas à construire des systèmes d'IA efficaces, tels que des voitures sans conducteur, qui sembleraient rudimentaires si l'IA devait s'emparer de la planète.
En outre, l'intelligence informatisée de l'IA est difficilement comparable à l'intelligence humaine. Les humains et d'autres organismes biologiques peuvent traiter des données sensorielles complexes à travers les cinq sens en quelques millisecondes seulement. Les robots ne peuvent même pas rivaliser avec les bébés lorsqu'il s'agit de tâches sensorielles.
L'efficacité énergétique du cerveau humain est encore plus remarquable : il consomme moins d'énergie qu'une ampoule électrique. Actuellement, les centres de données sur lesquels reposent les IA telles que ChatGPT nécessitent la même quantité d'énergie qu'une ville. L'avantage de la biologie sur les ordinateurs ne se limite pas à l'intelligence.
Cependant, s'il est facile de souligner les faiblesses des visions futuristes de robots prenant le contrôle de la planète, cela n'exclut pas que les humains utilisent l'IA pour étendre leurs propres capacités à des fins négatives, ce qui constitue un risque bien plus immédiat. Pour l'instant, c'est nous qui prenons le risque plutôt que la technologie elle-même.
Bien que l'IA ait encore un long chemin à parcourir avant d'être littéralement parmi nous, la déclaration du CAIS est une étape importante pour atténuer les risques imminents, tels que les remplacements d'emplois par l'IA, la tromperie et l'armement.
Pour ajouter de la crédibilité au message, nous devons voir rapidement des preuves de la collaboration entre les protagonistes, ce qui signifie plus que des déclarations de signature.
