Microsoft heeft alarm geslagen over nieuwe technologische bedreigingen uit China en Noord-Korea die AI gebruiken om kwaadaardige operaties uit te voeren die gericht zijn tegen de VS.
Het Microsoft Threat Analysis Center (MTAC) rapport richt zich op de bewapening van AI om sociale verdeeldheid te zaaien en de nationale veiligheid in gevaar te brengen.
"In het afgelopen jaar heeft China een nieuw vermogen ontwikkeld om automatisch beelden te genereren die het kan gebruiken voor beïnvloedingsoperaties om Amerikaanse kiezers over het hele politieke spectrum na te bootsen en controverse te creëren langs raciale, economische en ideologische lijnen", aldus Microsoft. verklaarde in zijn verslag.
Het bedrijf lichtte de technologie achter deze operaties toe: "Deze nieuwe mogelijkheid wordt aangedreven door kunstmatige intelligentie die inhoud van hoge kwaliteit probeert te creëren die viraal zou kunnen gaan op sociale netwerken in de VS en andere democratieën."
Het gaat verder met: "Deze afbeeldingen zijn hoogstwaarschijnlijk gemaakt door zogenaamde diffusion-powered image generators die AI gebruiken om niet alleen meeslepende afbeeldingen te maken, maar ook leren om ze na verloop van tijd te verbeteren."
We hebben al veel bewijs gezien dat dit in eigen land gebeurt, waaronder virale oplichting geassocieerd met Elon Musk, nepfoto's van explosies in het Pentagonen een mysterieus, door AI gegenereerd interview waarin naar verluidt een diepe nepversie van de stem van Donald Trump voordat waarnemers omkeerden en zeiden dat het echt was.
Dit laatste is een voorbeeld van hoe diepe vervalsingen ook een "leugenaarsdividend" creëren waarbij politici en publieke figuren iets dat hun reputatie aantast als "nep" kunnen weerleggen terwijl het echt is, wat de gelaagde risico's benadrukt van het door elkaar halen van realiteit en vervalsingen.
Campagnefocus en -doelen
Volgens Microsoft gebruiken Chinese overheidsactoren AI om politieke verdeeldheid te zaaien in de VS, zoals vuurwapengeweld.
Eerder vandaag, Google bepaalde dat AI-gegenereerde politieke advertenties dit duidelijk moeten aangeven als ze "synthetische inhoud bevatten die echte of realistisch ogende mensen of gebeurtenissen inauthentiek afbeeldt".
"Deze technologie produceert meer in het oog springende inhoud dan de onhandige digitale tekeningen en collages van stockfoto's die in eerdere campagnes werden gebruikt," aldus het rapport van Microsoft, eraan toevoegend dat de technologie alleen maar beter zal worden.
Microsoft benadrukte ook bedreigingen uit Noord-Korea en zei: "In aanvulling op wat we hebben gezien uit China, is Noord-Korea een capabele cyberbedreiging, gericht op het verzamelen van inlichtingen en het stelen van cryptocurrency die nodig is om inkomsten te genereren voor de staat."
Voortdurende dreigingsanalyse
Het nieuwe rapport van de MTAC maakt deel uit van een doorlopende serie gericht op het evalueren van digitale bedreigingen vanuit Oost-Azië.
Het schetst specifieke sectoren en regio's die een verhoogd risico lopen en onderstreept de noodzaak van collectieve actie om het bestuur van de internationale AI-industrie, die de afgelopen weken in een stroomversnelling is geraakt, in goede banen te leiden.
Ondertussen gaat de Amerikaanse regering door met het afsnijden van China's aankoop van high-end chips ontworpen voor het trainen van AI's, voornamelijk gekocht bij Nvidia.
China is van plan zijn eigen binnenlandse chipfabricage-industrie op te zetten om de afhankelijkheid van overzeese AI-hardware te verminderen.
Microsoft trekt aan de bel over de escalerende geopolitieke spanningen tussen China en de VS, en AI ligt op het kruispunt daarvan.
