Mit Hilfe von KI-Fälschungen wurde ein Finanzangestellter eines multinationalen Unternehmens dazu verleitet, $25,6 Millionen an Betrüger zu überweisen.
Die Betrüger benutzten KI-generierte Fälschungen, um das Aussehen und die Stimme der leitenden Kollegen des Mitarbeiters, einschließlich des Chief Financial Officer (CFO), während einer Videokonferenz nachzuahmen.
Wie CNN zuerst berichtete und von Senior Superintendent Baron Chan Shun-ching von der Cybersicherheitsabteilung der Hongkonger Polizei weitergegeben wurde, handelt es sich hierbei wahrscheinlich um den größten KI-Deep-Fake-Betrug, den wir bisher gesehen haben.
Der Betrug begann mit einer irreführenden Nachricht, die angeblich vom Finanzvorstand des Unternehmens in Großbritannien stammte und in der der Mitarbeiter zu einem Videoanruf eingeladen wurde, um eine vertrauliche finanzielle Transaktion zu besprechen.
Trotz einiger Verdachtsmomente und des geheimnisvollen Charakters der Anfrage, die rote Fahnen weckten, zerstreuten die überzeugenden tiefen Fälschungen schließlich die Zweifel des Mitarbeiters während des Videoanrufs.
Nach den betrügerischen Transaktionen setzte sich der Angestellte mit der Zentrale des Unternehmens in Verbindung, um den Fehler zu bemerken.
AI Deep Fakes wurden bereits für eine Reihe von Betrügereien verwendet, darunter auch für einige, die auf politische und öffentliche Persönlichkeiten wie Elon Musk und Herr Bestie und Britischer Premierminister Rishi Sunak.
Studien feststellen, dass Menschen echte Gesichter nicht mehr zuverlässig von raffinierten Fälschungen unterscheiden können, und einige 1/4 der Menschen werden von KI-generierten Stimmen getäuscht.
Auch der Social-Media-Influencer Eddie Cumberbatch erlebte einen KI-Betrug, als seine Großeltern eine Betrügerischer Anruf, der sich als seine Stimme ausgibt. Die tiefen, gefälschten Stimmen behaupteten, er habe einen Autounfall erlitten und benötige dringend Geld, was bei Betrügereien dieser Art häufig der Fall ist.
Chan erläuterte den jüngsten Betrugsfall: "Der Angestellte wurde in eine Videokonferenz gelockt, die angeblich viele Teilnehmer hatte. Das realistische Aussehen der Personen in der Konferenz verleitete den Angestellten dazu, 15 Transaktionen auf fünf lokale Bankkonten vorzunehmen, die sich auf insgesamt $200 Millionen HK belaufen.
Chan betonte außerdem, wie wichtig es ist, die Öffentlichkeit über KI-gestützte Täuschungsmanöver aufzuklären: "Wir wollen die Öffentlichkeit vor diesen neuen Täuschungsmanövern warnen. Betrüger nutzen jetzt die KI-Technologie in Online-Meetings, so dass es für Einzelpersonen wichtig ist, auch in großen Gruppen wachsam zu bleiben".
Letztes Jahr hat Steve Grobman, der Chief Technology Officer von McAfee, vor großem Betrug gewarntBei den Fortschritten im Bereich der künstlichen Intelligenz in diesem Jahr geht es vor allem darum, diese Technologien für viel mehr Menschen zugänglich zu machen, einschließlich der Ermöglichung von Skaleneffekten innerhalb der Cyber-Akteursgemeinschaft.
"Cyberkriminelle sind in der Lage, generative KI für gefälschte Stimmen und Deepfakes auf eine Art und Weise zu nutzen, die früher sehr viel mehr Raffinesse erforderte."
Die Polizei in Hongkong fordert ihre Mitarbeiter auf, verdächtige Einladungen zu Treffen über die üblichen Kommunikationskanäle des Unternehmens zu überprüfen und an den Treffen teilzunehmen, um die Echtheit der Teilnehmer zu bestätigen.
Die Menschen sollten auch Codewörter mit ihren Freunden und Familienmitgliedern festlegen, um sich vor Betrug zu schützen.
Wenn Ihnen etwas verdächtig vorkommt, fragen Sie sie nach dem Codewort oder stellen Sie ihnen eine persönliche Frage über sich selbst, über sie, über Ihre Familie oder Ähnliches.
