Le gouvernement britannique a publié son rapport intitulé "Capabilities and risks from frontier AI", qui servira de base de discussion lors du prochain sommet sur la sécurité de l'IA.
Le rapport donne un aperçu des capacités actuelles et futures et des risques associés aux modèles frontières. Les modèles frontières sont des modèles d'IA à usage général très performants, capables d'effectuer une grande variété de tâches, comme le GPT-4 ou le Llama 2.
Avant d'aborder les risques actuels et futurs, le rapport reconnaît que l'IA a le potentiel d'améliorer nos vies à bien des égards. Dans son introduction, le rapport indique que grâce à l'IA, "nous nous trouvons au milieu d'une révolution technologique qui modifiera fondamentalement la façon dont nous vivons, travaillons et entretenons des relations les uns avec les autres".
Ce sont les risques et les scénarios catastrophes décrits dans le rapport qui constituent une lecture particulièrement intéressante.
Les risques futurs de l'IA
Le rapport note que "la complexité des domaines ouverts rend difficile la conception de systèmes sûrs ou l'évaluation exhaustive de tous les cas d'utilisation en aval". En gros, ils disent que l'IA est un outil comme un stylo ; on peut faire en sorte qu'il fonctionne bien, mais on ne peut pas empêcher quelqu'un de l'utiliser pour écrire de mauvaises choses.
Les risques subséquents liés au double usage de l'IA occupent des dizaines de pages du rapport et font se demander ce que l'on peut bien faire de l'intelligence artificielle. le sommet sera atteint dans 2 jours.
L'un des risques notables soulevés dans le rapport est que l'IA du futur recherche activement l'autonomie. Le rapport indique que "la perte de contrôle pourrait être accélérée si les systèmes d'IA prennent des mesures pour accroître leur propre influence et réduire le contrôle humain".
Il a noté que l'IA future pourrait développer à la fois la capacité et la disposition à le faire.
Tout en reconnaissant que certains experts estiment que la les risques de l'IA ont été surestimésLe rapport n'écarte pas pour autant les menaces plus existentielles.
L'IA pourrait faire progresser rapidement les soins de santé, la science et l'énergie, mais nous devons l'exploiter en toute sécurité.
Le gouvernement a publié un document de travail sur les risques et les capacités de l'IA des frontières :https://t.co/YIjyZsgcbe
Lire le résumé ci-dessous 👇
(1/4) pic.twitter.com/FJdbKcqk4e- Département de la science, de l'innovation et de la technologie (@SciTechgovuk) 26 octobre 2023
Les scénarios catastrophes de l'IA
Le rapport précise que "compte tenu de l'incertitude considérable qui entoure les prévisions relatives à l'évolution de l'IA, il n'existe pas de preuves suffisantes pour exclure que les futurs systèmes d'IA frontaliers très performants, s'ils sont mal alignés ou mal contrôlés, puissent constituer une menace existentielle".
Cela pourrait notamment se produire si "au fur et à mesure que les capacités de l'IA augmentent, les humains lui accordent davantage de contrôle sur les systèmes critiques et finissent par devenir irréversiblement dépendants de systèmes qu'ils ne comprennent pas entièrement".
Si les lumières s'éteignent et que l'IA est la seule à savoir où se trouve l'interrupteur, nous pourrions rester bloqués dans le noir pendant un certain temps.
Dans un scénario futuriste, le rapport décrit ce qu'il appelle un "Far West de l'IA". Dans ce scénario, qui se déroule en 2030, "les autorités luttent contre le volume et la diversité des utilisations abusives. L'accent mis sur la lutte contre les effets immédiats de cette crise a rendu difficile l'obtention d'un consensus mondial sur la manière de gérer les problèmes à long terme".
Cela ne ressemble pas à l'avenir, mais à ce qui se passe actuellement. Il est peu probable qu'un sommet de deux jours permette d'atténuer les risques alarmants décrits dans ce rapport.
Le sommet sur la sécurité de l'IA repose sur l'idée que l'IA "sûre" est possible si l'on s'y efforce suffisamment. Mais est-ce le cas ?
Si une AGI est déjà dans la nature, elle pourrait facilement prendre connaissance des préoccupations exposées dans le présent rapport et dissimuler sa capacité ou son intention de jouer ces scénarios. Jusqu'à ce qu'il soit trop tard.
