Microsoft heeft het misbruik van zijn AI-technologieën door staatsgesponsorde hackers uit Rusland, China en Iran gemeld.
Microsoft werkte samen met OpenAI om activiteiten te observeren van groepen die banden hebben met de Russische militaire inlichtingendienst, de Iraanse Revolutionaire Garde en de Chinese en Noord-Koreaanse regeringen, waarbij ze geavanceerde AI-tools gebruikten om hun hackstrategieën te verfijnen en overtuigende misleidende berichten op te stellen.
Als onderdeel van Onderzoek van Microsoft en OpenAIverstoorden ze de activiteiten van vijf door de staat gesteunde kwaadaardige groepen door hun toegang tot de diensten van OpenAI af te sluiten.
Dit zijn onder andere twee aan China gelieerde actoren, Charcoal Typhoon en Salmon Typhoon; Crimson Sandstorm uit Iran; Emerald Sleet, gelinkt aan Noord-Korea; en Forest Blizzard, geassocieerd met Rusland.
Deze groepen gebruikten OpenAI's diensten voor taken zoals het opvragen van open-source informatie, vertaling, het identificeren van coderingsfouten en het uitvoeren van basis coderingstaken. Specifiek:
- Charcoal Typhoon gebruikte de diensten van OpenAI voor onderzoek naar bedrijven en cyberbeveiligingstools, het debuggen van code, het genereren van scripts en het maken van phishingcontent.
- Salmon Typhoon maakte gebruik van de diensten van OpenAI voor het vertalen van technische documenten, het verzamelen van informatie over verschillende agentschappen, het helpen met coderen en het onderzoeken van stealth-technieken.
- Crimson Sandstorm schakelde OpenAI in voor scriptondersteuning bij app- en webontwikkeling, het maken van spear-phishingcontent en het onderzoeken van ontwijkingsmethoden.
- Emerald Sleet maakte gebruik van de diensten van OpenAI om verdedigingsexperts en -organisaties te identificeren, inzicht te krijgen in kwetsbaarheden, te helpen met basisscripting en phishingmateriaal voor te bereiden.
- Forest Blizzard gebruikte de diensten van OpenAI voornamelijk voor open-source onderzoek naar satelliet- en radartechnologieën en voor hulp bij het schrijven van scripts.
Het feit dat internationale bedreigingsactoren de technologie van OpenAI gebruiken, belichaamt het dilemma van AI voor tweeërlei gebruik.
Bedreigers kiezen bewust voor de modellen van OpenAI in plaats van hun eigen modellen te ontwikkelen. Het is goedkoper, sneller en effectiever. Soevereine open-source tools zitten waarschijnlijk wel in de pijplijn.
Tom Burt, Microsoft's Vice President voor Customer Security, zei over de bevindingen: "Los van de vraag of er sprake is van wetsovertredingen of overtredingen van de servicevoorwaarden, willen we gewoon niet dat de actoren die we hebben geïdentificeerd - die we volgen en waarvan we weten dat het dreigingsactoren van verschillende aard zijn - toegang hebben tot deze technologie."
Microsoft verbiedt elke AI-toepassing of werklast die op Azure wordt gehost voor deze door de staat gesteunde groepen. De regering Biden heeft onlangs gevraagd dat techbedrijven bepaalde buitenlandse gebruikers van cloudtechnologie rapporteren.
China reageerde via de woordvoerder van de Amerikaanse ambassade Liu Pengyu, die de beschuldigingen als ongegrond afwees en pleitte voor een verantwoorde inzet van AI-technologieën ten bate van de mensheid.
China heeft samengewerkt met de VS over AI-veiligheid achter gesloten deurenmaar misschien eerder uit pure noodzaak dan uit gebrek of verlangen.
Dit is de laatste in een reeks rapporten van Microsoft over cybercriminaliteit in de afgelopen maanden, waaronder een vorig jaar waarin AI-gegenereerde propaganda werd besproken die afkomstig was van China en Noord-Korea.
Het moet echter gezegd worden dat AI-bedreigingen overal zijn. In de VS, het VK en andere Westerse en Europese landen is er een sterke toename van nepfraude, net als in het Oosten.
Microsoft volgt nu meer dan 300 unieke bedreigingsactoren, waaronder nationale actoren en ransomware-groepen, waarbij AI wordt ingezet om hun verdediging te verbeteren en kwaadaardige activiteiten te verstoren.
AI-cyberbedreigingen nemen toe en het is een feit dat ze internationaal zijn en moeilijk in te dammen.
