Amazon betrapte AI-hackagenten die gestolen sleutels gebruikten om nieuwe aanvallen te financieren
De lokservers van Amazon registreerden hoe AI-hackagenten de sleutels stalen die bedrijven gebruiken om voor AI-modellen te betalen. De agenten gebruikten die sleutels vervolgens om naar meer sleutels te zoeken.

Ongeveer een maand lang registreerden nep-servers van Amazon AI-agenten die hackaanvallen uitvoerden. De gegevens laten zien dat de agenten de sleutels stalen die bedrijven gebruiken om voor AI-modellen te betalen, en die gestolen sleutels vervolgens gebruikten om naar meer sleutels te zoeken.
Het team van Amazon dat zich bezighoudt met dreigingsanalyse publiceerde de bevindingen op 13 november. Van 3 oktober tot 5 november deden de lokservers zich voor als AI-diensten, en de aanvallende agenten stuurden hen hun eigen notities over hun campagnes. De agenten maakten gebruik van ARTEX, een gratis tool die is ontwikkeld voor penetratietesten, waarbij experts een systeem aanvallen om zwakke punten te vinden voordat criminelen dat doen. Amazon zegt er redelijk zeker van te zijn dat de agenten afzonderlijke groepen waren die banden hadden met China. Het bedrijf wijst daarbij op aanwijzingen in vereenvoudigd Chinees en computers die waren ingesteld op de Chinese tijdzone.
Hoe de gestolen sleutels meer aanvallen financierden
Een API-sleutel werkt als een wachtwoord waarmee software een betaald AI-model kan gebruiken. Degene die de sleutel bezit, kan het model gebruiken, en de eigenaar van de sleutel betaalt de rekening. De agenten zochten naar AI-apps die open en bloot op internet stonden, haalden de daarin opgeslagen sleutels eruit, controleerden of ze werkten en voegden ze toe aan een gedeelde pool. Ze richtten zich op tools die sleutels voor meerdere AI-aanbieders tegelijk beheren, zoals LiteLLM, Dify en Ollama, omdat één zwakke beheerderspagina veel accounts kan blootleggen.
Hun draaiboek bevatte eenvoudige manieren om binnen te komen: standaard beheerderswachtwoorden die niemand had gewijzigd, halfvoltooide installaties en bekende beveiligingslekken. De agenten doorzochten ook openbare code, softwarepakketten, paste-sites en Telegram-kanalen op gelekte sleutels. De mensen achter de campagnes gaven de agenten de opdracht om elke sleutel te beoordelen en sleutels die langer dan 30 dagen openbaar waren als van lage waarde te beschouwen.
De gegevens hebben betrekking op honderden doelwitten. Amazon zegt dat het klanten die mogelijk getroffen zijn, heeft gewaarschuwd, maar het kon niet controleren wat de agenten beweerden te hebben gedaan op systemen die het niet beheert.
Deepfakes bleken niet te werken bij een identiteitscontrole
In een tweede campagne probeerden de agenten de identiteitscontroles bij twee cryptobeurzen te omzeilen. Ze bouwden een live deepfake-videosysteem op een enkele consumentenvideokaart dat 11,5 beelden per seconde haalde. In hun beste poging bewoog het nepgezicht zich tot op 7 pixels van de positie die de controle vereiste. Desondanks werd de deepfake telkens door de server van het verificatiebedrijf afgewezen.
Hetzelfde instrument duikt steeds weer op bij andere aanvallen. In een aparte zaak deze week heeft een aanvaller, die de tool gebruikte met een gestolen toegangstoken, in één uur tijd 400 verzoeken gedaan om databases te kopiëren. Eerder deze maand bleek uit een ander rapport dat bedrijven meer dan 100.000 dollar per dag kwijt waren aan criminelen die hun AI-toegang hadden gekaapt.
Waarom het belangrijk is: “Geen van de technieken in deze campagnes was nieuw”, schreef het team van Amazon. Wat wel verandert, is de snelheid: AI-agenten raken nooit uitgeput van het zoeken, dus een sleutel die in openbare code is achtergelaten of een beheerderswachtwoord dat ongewijzigd is gebleven, heeft nu een grotere kans om gevonden en gebruikt te worden.


