{"id":6785,"date":"2023-10-26T11:50:06","date_gmt":"2023-10-26T11:50:06","guid":{"rendered":"https:\/\/dailyai.com\/?p=6785"},"modified":"2023-10-26T11:50:06","modified_gmt":"2023-10-26T11:50:06","slug":"uk-report-lists-potential-ai-risks-and-doomsday-scenarios","status":"publish","type":"post","link":"https:\/\/dailyai.com\/fr\/2023\/10\/uk-report-lists-potential-ai-risks-and-doomsday-scenarios\/","title":{"rendered":"Un rapport britannique \u00e9num\u00e8re les risques potentiels de l'IA et les sc\u00e9narios apocalyptiques"},"content":{"rendered":"

Le gouvernement britannique a publi\u00e9 son rapport intitul\u00e9 \"Capabilities and risks from frontier AI\", qui servira de base de discussion lors du prochain sommet sur la s\u00e9curit\u00e9 de l'IA.<\/strong><\/p>\n

Le rapport<\/a> donne un aper\u00e7u des capacit\u00e9s actuelles et futures et des risques associ\u00e9s aux mod\u00e8les fronti\u00e8res. Les mod\u00e8les fronti\u00e8res sont des mod\u00e8les d'IA \u00e0 usage g\u00e9n\u00e9ral tr\u00e8s performants, capables d'effectuer une grande vari\u00e9t\u00e9 de t\u00e2ches, comme le GPT-4 ou le Llama 2.<\/p>\n

Avant d'aborder les risques actuels et futurs, le rapport reconna\u00eet que l'IA a le potentiel d'am\u00e9liorer nos vies \u00e0 bien des \u00e9gards. Dans son introduction, le rapport indique que gr\u00e2ce \u00e0 l'IA, \"nous nous trouvons au milieu d'une r\u00e9volution technologique qui modifiera fondamentalement la fa\u00e7on dont nous vivons, travaillons et entretenons des relations les uns avec les autres\".<\/p>\n

Ce sont les risques et les sc\u00e9narios catastrophes d\u00e9crits dans le rapport qui constituent une lecture particuli\u00e8rement int\u00e9ressante.<\/p>\n

Les risques futurs de l'IA<\/h2>\n

Le rapport note que \"la complexit\u00e9 des domaines ouverts rend difficile la conception de syst\u00e8mes s\u00fbrs ou l'\u00e9valuation exhaustive de tous les cas d'utilisation en aval\". En gros, ils disent que l'IA est un outil comme un stylo ; on peut faire en sorte qu'il fonctionne bien, mais on ne peut pas emp\u00eacher quelqu'un de l'utiliser pour \u00e9crire de mauvaises choses.<\/p>\n

Les risques subs\u00e9quents li\u00e9s au double usage de l'IA occupent des dizaines de pages du rapport et font se demander ce que l'on peut bien faire de l'intelligence artificielle. le sommet<\/a> sera atteint dans 2 jours.<\/p>\n

L'un des risques notables soulev\u00e9s dans le rapport est que l'IA du futur recherche activement l'autonomie. Le rapport indique que \"la perte de contr\u00f4le pourrait \u00eatre acc\u00e9l\u00e9r\u00e9e si les syst\u00e8mes d'IA prennent des mesures pour accro\u00eetre leur propre influence et r\u00e9duire le contr\u00f4le humain\".<\/p>\n

Il a not\u00e9 que l'IA future pourrait d\u00e9velopper \u00e0 la fois la capacit\u00e9 et la disposition \u00e0 le faire.<\/p>\n

Tout en reconnaissant que certains experts estiment que la les risques de l'IA ont \u00e9t\u00e9 surestim\u00e9s<\/a>Le rapport n'\u00e9carte pas pour autant les menaces plus existentielles.<\/p>\n

\n

L'IA pourrait faire progresser rapidement les soins de sant\u00e9, la science et l'\u00e9nergie, mais nous devons l'exploiter en toute s\u00e9curit\u00e9.<\/p>\n

Le gouvernement a publi\u00e9 un document de travail sur les risques et les capacit\u00e9s de l'IA des fronti\u00e8res :https:\/\/t.co\/YIjyZsgcbe<\/a><\/p>\n

Lire le r\u00e9sum\u00e9 ci-dessous \ud83d\udc47
\n(1\/4) pic.twitter.com\/FJdbKcqk4e<\/a><\/p>\n

- D\u00e9partement de la science, de l'innovation et de la technologie (@SciTechgovuk) 26 octobre 2023<\/a><\/p>\n<\/blockquote>\n