L'IA a rejoint des sujets tels que l'Ukraine, Poutine et le conflit au Moyen-Orient lors du Forum économique mondial 2024 à Davos.
L'événement a donné lieu à un débat manifestement fragmenté sur la technologie, avec des politiciens et des fonctionnaires de l'ONU mêlant leurs points de vue à ceux de leaders de l'industrie tels que Sam Altman, PDG d'OpenAI, et Satya Nadella, PDG de Microsoft.
Avant le forum, le forum "Rapport sur les risques mondiaux 2024"a placé la désinformation induite par l'IA au premier plan, dépassant remarquablement le changement climatique, les guerres et les perturbations économiques.
Carolina Klint, Chief Commercial Officer pour l'Europe chez Marsh McLennan, qui a collaboré à l'élaboration du rapport, a déclaré à CNBC L'IA peut élaborer des modèles permettant d'influencer de vastes populations d'électeurs d'une manière que nous n'avons jamais vue auparavant. La façon dont cela va se dérouler sera très importante pour nous".
Désinformation sur l'IA et ingérence électorale ont été des thèmes clés de l'événement lui-même, les débats mettant en balance les avantages de la productivité et de l'efficacité induites par l'IA et les inconvénients de la désinformation, des falsifications profondes et d'autres conséquences potentiellement catastrophiques.
Dans l'ensemble, le ton de ce débat a mis l'accent sur les risques à court terme de l'IA plutôt que sur les conséquences plus abstraites et à plus long terme de l'extinction. À l'approche d'élections majeures cette année, l'inquiétude grandit quant à la manière dont l'IA pourrait être utilisée pour influencer le comportement des électeurs.
Les représentants de l'industrie de l'IA se sont montrés tantôt prudemment optimistes, tantôt optimistes, tantôt sceptiques quant à la capacité de l'industrie à gérer ces risques.
Jetons un coup d'œil sur les principales informations politiques de la semaine concernant l'IA :
António Guterres, secrétaire général des Nations unies : une position prudente sur l'IA
António Guterres a délivré un message fort sur les risques liés à l'expansion rapide de l'IA, critiquant notamment le comportement des grandes entreprises technologiques.
Il a mis en garde : "De puissantes entreprises technologiques poursuivent déjà leurs profits en faisant fi des droits de l'homme, de la vie privée et de l'impact social".
Soulignant les implications plus larges de l'IA, M. Guterres a établi un parallèle entre les défis posés par l'IA et la crise climatique, notant l'absence d'une stratégie mondiale pour traiter ces deux questions.
M. Guterres a insisté sur l'urgence d'une gouvernance collaborative : "Il est urgent que les gouvernements travaillent avec les entreprises technologiques sur des cadres de gestion des risques pour le développement actuel de l'IA, ainsi que sur la surveillance et l'atténuation des dommages futurs".
Ursula von der Leyen : une vision plus optimiste
Ursula von der Leyen, présidente de la Commission européenne, s'est montrée plus optimiste à l'égard de l'IA.
Dans son discours, elle a reconnu les risques potentiels mais a également souligné les opportunités offertes par l'IA. Mme Von der Leyen a déclaré : "L'IA est également une opportunité très importante si elle est utilisée de manière responsable."
Mme Von der Leyen a également mis l'accent sur les initiatives visant à exploiter le potentiel de l'IA, en mentionnant une proposition visant à connecter les startups européennes du secteur de l'IA à la puissance de calcul des superordinateurs du continent.
Elle a comparé cette initiative à l'approche de Microsoft avec le ChatGPT, en déclarant : "Nous fournirons aux startups et [aux petites et moyennes entreprises] européennes un accès à nos propres supercalculateurs de classe mondiale".
Conflits géopolitiques autour de l'IA
Le premier ministre chinois, Li Qiang, s'est efforcé de convaincre les multinationales d'investir dans l'économie chinoise, qui est confrontée à des difficultés dues aux restrictions commerciales prolongées imposées par les États-Unis. Nvidia, par exemple, a été bloqué à plusieurs reprises d'expédier ses GPU axés sur l'IA en Chine.
Li Qiang a exprimé une position prudente à l'égard de l'IA lors de son récent discours. Il a fait remarquer de manière poignante que "les êtres humains doivent contrôler les machines au lieu de laisser les machines nous contrôler".
Soulignant la nécessité d'un développement responsable, il a ajouté : "L'IA doit être guidée dans une direction propice au progrès de l'humanité, de sorte qu'il devrait y avoir une ligne rouge dans le développement de l'IA - une ligne rouge à ne pas franchir".
Li Qiang a présenté un plan en cinq points pour améliorer la coopération économique entre la Chine et l'Occident.
Il a souligné la nécessité d'une plus grande coordination macroéconomique, de chaînes d'approvisionnement sans entraves centrées sur la Chine, d'une collaboration accrue en matière d'objectifs environnementaux et d'une coopération technologique renforcée.
Bien qu'il n'ait pas mentionné les États-Unis directement, il a fait à plusieurs reprises des allusions négatives à des nations non spécifiées, se référant symboliquement aux États-Unis.
M. Li s'est efforcé de rassurer les investisseurs internationaux qui se sont méfiés de la Chine en raison de son ralentissement économique et de l'intervention accrue du gouvernement. Il a insisté sur le fait qu'investir sur le marché chinois était une opportunité, et non un risque, et a déclaré que le parti communiste accueillait favorablement les investisseurs étrangers.
Après le discours de Li, celui d'Ursula von der Leyen à Davos a été centré sur la démocratie et les valeurs occidentales. Elle a mentionné la démocratie et la liberté à de nombreuses reprises, présentant l'Europe comme un leader mondial pour relever les défis mondiaux et soulignant l'importance de la collaboration.
Toutefois, les divisions entre les dirigeants du monde étaient évidentes, puisque de nombreux membres de la délégation américaine avaient déjà quitté les lieux avant les discussions avec la Chine, ce qui montre une fois de plus les divergences symbologiques auxquelles nous nous sommes habitués.
L'IA dans les campagnes électorales suscite de plus en plus d'inquiétudes
Alexandra Reeve Givens, directrice générale du Centre pour la démocratie et la technologie, a fait part de ses inquiétudes quant à l'utilisation de l'IA dans les élections, citant des situations passées où la technologie a été utilisée pour influencer le comportement des électeurs.
En soi, il ne s'agit pas d'un nouveau concept. Le fait est que l'IA apporte un réalisme sans précédent à la propagande mensongère et contribue à l'élargissement d'une réalité douteuse. des tactiques telles que l'appel robotisé.
"Au cours des cycles électoraux précédents, nous avons vu des appels téléphoniques non sollicités. Nous avons vu des campagnes de SMS automatisés qui envoyaient aux électeurs des informations erronées sur leur lieu de vote, sur l'ouverture ou non de leur bureau de vote, ou des messages ciblés et manipulés destinés à influencer leur comportement", a fait remarquer M. Givens.
Elle a expliqué comment l'IA générative exacerbera ces problèmes : "L'IA générative facilite le ciblage. [...] il est plus facile que jamais d'élaborer des messages sur mesure et personnalisés."
Les entreprises technologiques ont défendu leur capacité à agir sur les "deep fakes". Le PDG d'OpenAI, Sam Altman, a fait référence à stratégies récentes son entreprise à l'approche des élections américaines, et Matthew Brittin, président de EMEA Business & Operations pour Google, a parlé du potentiel des grands modèles de langage (LLM) pour lutter contre la désinformation.
"Nous voulons être en mesure d'apposer un filigrane sur tout ce qui est produit par notre IA générative de manière tellement invisible, même si un extrait de vidéo ou un morceau d'image est utilisé, qu'il sera détectable automatiquement", a expliqué M. Brittin, en faisant référence à SynthID, un outil de Google DeepMind qui incorpore des filigranes numériques dans le contenu généré par l'IA.
À ce jour, il y a peu de preuves ces techniques fonctionnent efficacement à grande échelle. Par exemple, un publié par des chercheurs de l'Université de Californie a conclu en octobre que "tous les filigranes invisibles sont vulnérables".
En outre, même si les générateurs commerciaux d'images d'IA comme DALL-E utilisent un filigrane efficace, les entreprises ne sont généralement pas obligées de le faire.
L'ajout de filigranes d'IA à des images authentiques signifie que des acteurs malveillants peuvent discréditer des images réelles en les faisant passer pour des fausses, ce que l'on appelle le "dividende du menteur".
L'IA continuera d'occuper une place importante dans le discours politique cette année.
