Microsofts AI-gestuurde zoektool Bing Chat, aangedreven door OpenAI's GPT-4, integreert kwaadaardige advertenties in zijn interface.
Een gedetailleerd advies van Malwarebytes benadrukte de kwetsbaarheden die aanwezig zijn in het Bing Chat-platform. Bij het zoeken naar softwaredownloads kunnen gebruikers gemakkelijk worden misleid om naar schadelijke websites te gaan en zo malware op hun systemen te downloaden.
Het proces werkt als volgt:
- Binnen de Bing Chat-interface worden advertenties vóór de zoekresultaten weergegeven wanneer gebruikers met de muis over bepaalde koppelingen bewegen.
- Hoewel deze links worden aangeduid met een kleine 'Advertentie'-indicator, kan hun onopvallende plaatsing ertoe leiden dat gebruikers de link zien als een legitiem zoekresultaat.
- Zonder dat de gebruiker het weet, kan het klikken op dergelijke advertenties hem omleiden naar phishingsites die zo zijn ontworpen dat ze erg lijken op officiële platforms.
- Deze sites vragen gebruikers vervolgens om een installatieprogramma te downloaden dat legitiem lijkt. Maar in werkelijkheid bevatten deze installatieprogramma's schadelijke payloads.
Onderzoek van Malwarebytes heeft een incident aan het licht gebracht waarbij de advertentieaccount van een echt Australisch bedrijf werd gecompromitteerd.
Met behulp van dat gehackte advertentieaccount plaatste de kwaadwillende acteur met succes twee misleidende advertenties die gericht waren op professionals zoals netwerkbeheerders en advocaten. Malwarebytes benadrukt dat eenDoor het bereik en de impact blijft reclame een aantrekkelijk middel voor cybercriminelen.
De kwetsbaarheden in het platform van Bing Chat zijn onder de aandacht gebracht door Malwarebytes, maar Microsoft moet nog reageren.
De rol van AI in fraude en cyberbeveiliging is tweeledig, omdat het zowel cyberbeveiligingsprofessionals als fraudeurs kan helpen.
