AI sloot zich aan bij onderwerpen als Oekraïne, Poetin en conflicten in het Midden-Oosten op het World Economic Forum 2024 in Davos.
Het evenement was getuige van een duidelijk gefragmenteerd debat over de technologie, waarbij politici en VN-functionarissen hun standpunten mengden met industrieleiders zoals OpenAI CEO Sam Altman en Microsoft CEO Satya Nadella.
Voorafgaand aan het forum organiseerde het WEF "Rapport over wereldwijde risico's 2024" plaatste AI-gestuurde desinformatie en desinformatie op de voorgrond, opmerkelijk genoeg nog sneller dan klimaatverandering, oorlogvoering en economische ontwrichting.
Carolina Klint, Chief Commercial Officer voor Europa bij Marsh McLennan, een van de medewerkers aan het rapport, vertelde CNBC over het rapport: "AI kan modellen ontwikkelen om grote groepen kiezers te beïnvloeden op een manier die we nog niet eerder hebben gezien. Hoe dat gaat uitpakken, wordt heel belangrijk voor ons om in de gaten te houden."
AI misinformatie en verkiezingsinterferentie waren belangrijke onderwerpen op het evenement zelf, met debatten waarin de voordelen van AI-gestuurde productiviteit en efficiëntie werden afgewogen tegen de nadelen van verkeerde informatie, diepe vervalsingen en andere mogelijk catastrofale gevolgen.
Over het algemeen was de toon van dit debat meer gericht op de risico's van AI op de korte termijn dan op de meer abstracte gevolgen op de langere termijn. Met belangrijke verkiezingen in het vooruitzicht dit jaar, is er een groeiende bezorgdheid over hoe AI zou kunnen worden ingezet om stemgedrag te beïnvloeden.
De vertegenwoordigers van de AI-industrie waren soms voorzichtig optimistisch, soms optimistisch en soms sceptisch over het vermogen van de industrie om met deze risico's om te gaan.
Laten we eens kijken naar enkele belangrijke politieke inzichten over AI van deze week:
Secretaris-generaal van de VN António Guterres: een waarschuwend standpunt over AI
António Guterres bracht een krachtige boodschap over de risico's die gepaard gaan met de snelle uitbreiding van AI, waarbij hij vooral het gedrag van grote technologiebedrijven bekritiseerde.
Hij waarschuwde: "Machtige techbedrijven jagen al winst na met een roekeloze minachting voor mensenrechten, persoonlijke privacy en sociale impact."
Guterres benadrukte de bredere implicaties van AI en trok een parallel tussen de uitdagingen van AI en de klimaatcrisis, waarbij hij wees op het ontbreken van een wereldwijde strategie om beide problemen aan te pakken.
Guterres benadrukte de dringende behoefte aan gezamenlijk bestuur met de volgende woorden: "Regeringen moeten dringend samenwerken met technologiebedrijven aan risicobeheer voor de huidige AI-ontwikkeling en aan het monitoren en beperken van toekomstige schade."
Ursula von der Leyen: een optimistischer visie
Ondertussen was Ursula von der Leyen, voorzitter van de Europese Commissie, optimistischer over AI.
In haar toespraak erkende ze de potentiële risico's, maar benadrukte ze ook de kansen die AI biedt. Von der Leyen zei: "AI is ook een zeer belangrijke kans als het op een verantwoorde manier wordt gebruikt."
Von der Leyen benadrukte ook initiatieven om het potentieel van AI te benutten en noemde een voorstel om Europese AI-startups te verbinden met de rekenkracht van de supercomputers van het continent.
Ze vergeleek dit initiatief met Microsofts aanpak met ChatGPT en zei: "We zullen Europese startups en [kleine en middelgrote bedrijven] toegang geven tot onze eigen supercomputers van wereldklasse."
Geopolitieke botsingen rond AI
De Chinese premier Li Qiang hield een verkooppraatje voor multinationale bedrijven om te investeren in de Chinese economie, die te kampen heeft met problemen door langdurige handelsbeperkingen van de VS. Nvidia heeft bijvoorbeeld herhaaldelijk geblokkeerd van het verschepen van zijn op AI gerichte GPU's naar China.
Li Qiang nam tijdens zijn recente toespraak een voorzichtige houding aan ten opzichte van AI. Hij merkte indringend op: "Mensen moeten de machines besturen in plaats van dat de machines ons besturen."
Hij benadrukte de noodzaak van verantwoorde ontwikkeling en voegde eraan toe: "AI moet worden geleid in een richting die bevorderlijk is voor de vooruitgang van de mensheid, dus er moet een rode lijn zijn in de ontwikkeling van AI - een rode lijn die niet mag worden overschreden."
Li Qiang schetste een vijfpuntenplan om de economische samenwerking tussen China en het Westen te verbeteren.
Hij benadrukte de behoefte aan meer macro-economische coördinatie, ongehinderde toeleveringsketens rond China, meer samenwerking op het gebied van milieudoelstellingen en versterkte technologische samenwerking.
Hoewel hij de VS niet rechtstreeks noemde, zinspeelde hij herhaaldelijk op een negatieve manier op niet nader genoemde naties, waarmee hij symbolisch verwees naar de VS.
Li wilde wereldwijde investeerders geruststellen die wantrouwig waren geworden tegenover China vanwege de economische vertraging en de toegenomen overheidsbemoeienis. Hij benadrukte dat investeren in de Chinese markt een kans was, geen risico, en verklaarde dat de Communistische Partij buitenlandse investeerders verwelkomde.
Na Li's pitch ging de toespraak van Ursula von der Leyen in Davos vooral over democratie en westerse waarden. Ze noemde democratie en vrijheid meerdere keren, schilderde Europa af als een wereldleider in het aanpakken van wereldwijde uitdagingen en benadrukte het belang van samenwerking.
De verdeeldheid onder de wereldleiders was echter duidelijk, want veel leden van de Amerikaanse delegatie waren al vertrokken voordat de besprekingen met China begonnen, wat opnieuw de symbologische tegenstellingen liet zien waaraan we gewend zijn geraakt.
Toenemende bezorgdheid over AI in verkiezingscampagnes
Alexandra Reeve Givens, CEO van het Center for Democracy and Technology, uitte haar bezorgdheid over het gebruik van AI bij verkiezingen, waarbij ze verwees naar situaties uit het verleden waarbij technologie werd gebruikt om stemgedrag te beïnvloeden.
Dat is op zich geen nieuw concept. Het punt is echter dat AI ongekend realisme toevoegt aan neppropaganda en bijdraagt aan schaalvergroting. tactieken zoals robo-calling.
"In eerdere verkiezingscycli hebben we robocalls gezien. We hebben geautomatiseerde sms-campagnes gezien die onjuiste informatie naar kiezers stuurden over hun stemlocatie, over of hun stemlokaal wel of niet open is of gerichte, gemanipuleerde berichten die zijn ontworpen om hun gedrag te beïnvloeden," merkte Givens op.
Ze beargumenteerde hoe generatieve AI deze problemen zal verergeren: "Generatieve AI maakt het gemakkelijker om dat te targeten. [...] het is makkelijker dan ooit om met die op maat gemaakte, gepersonaliseerde berichten te komen."
Technologiebedrijven verdedigden hun vermogen om in te grijpen bij diepe vervalsingen. OpenAI CEO Sam Altman verwees naar recente strategieën zijn bedrijf in de aanloop naar de Amerikaanse verkiezingen, en Matthew Brittin, president van EMEA Business & Operations voor Google, sprak over het potentieel van grote taalmodellen (LLM's) om desinformatie te bestrijden.
"We willen in een positie komen waarin alles dat door onze generatieve AI wordt geproduceerd zo onzichtbaar van een watermerk kan worden voorzien, zelfs als er een fragment van een video of een stukje van een afbeelding wordt gebruikt, dat het automatisch kan worden gedetecteerd", legt Brittin uit, verwijzend naar SynthID, een tool van Google DeepMind die digitale watermerken in AI-gegenereerde inhoud insluit.
Tot nu toe is er weinig bewijs Deze technieken werken effectief op schaal. Een paper gepubliceerd door onderzoekers van de Universiteit van Californië concludeerde in oktober dat "alle onzichtbare watermerken kwetsbaar zijn".
Zelfs als commerciële AI-beeldgeneratoren zoals DALL-E een effectief watermerk gebruiken, zijn bedrijven dat over het algemeen niet verplicht.
Dit heeft ook een keerzijde, want door AI-watermerken toe te voegen aan authentieke afbeeldingen kunnen kwaadwillenden echte afbeeldingen als vals beschouwen, wat "leugenaarsdividend" wordt genoemd.
AI zal dit jaar een belangrijke rol blijven spelen in het politieke debat.
