Während die Verbreitung von KI-Tools und -Technologie bereits zahlreiche Vorteile für Privatpersonen und Unternehmen mit sich gebracht hat, ist es auch wahr, dass die zunehmende Zugänglichkeit von KI-Tools schädliche Auswirkungen auf das Ausmaß der in die Welt gesetzten Fehlinformationen hatte.
Die Verwendung von Fälschungen, um einflussreiche Persönlichkeiten falsch darzustellen, ist weltweit ein wachsendes Problem. Das Weltwirtschaftsforum hat Fehlinformationen und Desinformationen als die größte Bedrohung eingestuft, der die Welt in den nächsten zwei Jahren ausgesetzt sein wird. Globaler Risikobericht (2024).
KI-Fehlinformationen sind ein globales Problem - aber welche Länder kämpfen am härtesten gegen diese Probleme? In dieser Studie hat unser Team von DailyAI hat die führenden Länder im Bereich der künstlichen Intelligenz (ermittelt anhand der Forschungskapazität) untersucht und die durchschnittliche Häufigkeit und Tiefe des Interesses an Deep-Fake-Tools analysiert.
Die wichtigsten Ergebnisse:
- Singapur, Australien, Finnland und die Niederlande führen die Liste der Länder an, die am meisten an der Herstellung von Fälschungen interessiert sind
- Obwohl China das zweitgrößte Land im Bereich der künstlichen Intelligenz ist, ist es nach unseren Erkenntnissen das Land mit dem geringsten Interesse an künstlicher Intelligenz insgesamt
Sam Jeans, KI-Experte von DailyAI, kommentiert:
"Der steile Anstieg von Fälschungen und manipulierten Inhalten, die online gestellt werden, ist verständlicherweise ein Grund zur Sorge für Regierungen auf der ganzen Welt, da wir weltweit versuchen, die richtigen Grenzen zwischen der Nutzung neuer und aufstrebender Technologien und dem Kampf gegen die Dinge zu finden, die unvergleichlichen Schaden anrichten können.
Diese Ergebnisse zeigen, dass das Interesse an tiefgreifenden Fälschungen in einigen Ländern sicherlich stärker ausgeprägt ist als in anderen, aber da diese Inhalte weltweit zugänglich sind, sind gemeinsame Anstrengungen erforderlich, um sicherzustellen, dass der durch tiefgreifende Fälschungen verursachte Schaden minimiert wird."
Australien interessiert sich am meisten für Deep-Fake-Macher
Bei der Auswertung der Top-10-Länder für künstliche Intelligenz hinsichtlich ihres Interesses an Deep Fake Makers und verwandten Suchanfragen haben wir festgestellt, dass Australien mit einer Häufigkeit von 0,41 von 100.000 Personen das größte Interesse zeigt.
Australien ist auch unter den drei Ländern mit den meisten Suchanfragen nach "deep fake porn maker" und an vierter Stelle nach "deep fake image maker". Australien gilt derzeit als das sechstgrößte Land, was die Fähigkeiten und die Forschung im Bereich der künstlichen Intelligenz angeht.
Ende 2023 kündigte Australien an, dass das Land Druck auf soziale Medienplattformen gegen gefälschte Bilder und Videos vorzugehen, nachdem die Besorgnis über das Ausmaß an beleidigenden Inhalten und Hasskommentaren, die online veröffentlicht werden, zugenommen hat.
Singapur am meisten fasziniert von tiefen Fake-Porno-Fähigkeiten
Unsere Analysen haben auch gezeigt, dass Singapur mit einer Häufigkeit von 0,50 pro 100.000 Menschen an erster Stelle der Suchanfragen nach "Deep Fake Porn Makers" steht. Darüber hinaus ist das Land am zweithäufigsten an "Deep Fake Video Makers" und am zweithäufigsten an "Deep Fake Nude Makers" interessiert. Die Suchanfragen nach diesem Begriff haben eine Häufigkeit von 0,17 pro 100.000 Personen - genauso wie in den Niederlanden und den USA.
Dieses Ergebnis ist etwas überraschend, wenn man bedenkt, dass das Interesse Singapurs an "Deep Fake Makers" weitaus geringer ist - das Land liegt im Mittelfeld der Rangliste für diesen Suchbegriff.
Singapur ist jedoch auch das Land, das am zweitstärksten von dem Suchbegriff "deep fake image maker" fasziniert ist, mit einer Häufigkeit von 0,17 pro 100.000 Personen. Das Land rangiert bei diesem Suchbegriff an zweiter Stelle nach Finnland.
Singapur ist das drittgrößte Land im Bereich der Forschung und der Fähigkeiten im Bereich der künstlichen Intelligenz. Eines der bemerkenswertesten Vorkommnisse von Deep Fakes, die in Singapur eingesetzt wurden, war ein Video über Investitionsbetrug die im Jahr 2023 in den sozialen Medien kursierte und in der der stellvertretende Premierminister Lawrence Wong mit einer gefälschten Stimme für die betrügerische Investitionsmöglichkeit warb.
In den Niederlanden wird fast doppelt so oft nach Deep-Fake-Videomachern gesucht wie in jedem anderen Land
Während die Niederlande bei anderen Deep-Fake-bezogenen Suchanfragen nicht besonders gut abschneiden, hat das Land ein unbestreitbares Interesse an der Erstellung von Deep-Fake-Videoinhalten.
Die Anzahl der Suchanfragen nach "Deep Fake"-Videomachern war mit 0,96 pro 100.000 Personen fast doppelt so hoch wie im zweitplatzierten Land Singapur (0,50 Suchanfragen pro 100.000 Personen).
Die Niederlande sind ein weiteres Land, in dem tiefe Fälschungen von Politikern wurden zur Irreführung der öffentlichen Meinung eingesetzt. Bei den Wahlen im November 2023 wurde eine alarmierende Zahl von tiefgreifenden Fälschungen in den sozialen Medien zahlreicher prominenter Politiker gemeldet.
Finnland hat das größte Interesse an tief gefälschten Bildern und Nacktfotos
Finnland schließlich gehört zu den Ländern, die sich am meisten für Deep Fakes interessieren, mit der höchsten Anzahl von Suchanfragen nach Deep Fake Nude Makers und Image Makers (0,18 pro 100.000 Personen für die jeweiligen Suchbegriffe).
Finnland steht derzeit an neunter Stelle bei der Erforschung und Nutzung künstlicher Intelligenz. Das Land wird oft für seine Mission gelobt, die Bildung an vorderster Front Aber wie hier gezeigt wird, hält das die Menschen nicht immer davon ab, sich dafür zu interessieren, was diese neuen Formen der KI leisten können.
Die USA zeigen ein bemerkenswertes Desinteresse an tiefen Fälschungen
Die USA gelten derzeit als führendes Land bei der Erforschung künstlicher Intelligenz und deren Fähigkeiten, so dass man sich vorstellen kann, dass das Land auch an der Spitze des Interesses an Deep Fake Makers steht.
Unsere Rangliste zeigt jedoch, dass das Land im Vergleich zu den anderen Ländern auf dieser Liste ausgesprochen uninteressiert an der Erstellung von Deep Fakes ist. Die USA belegen neben den Niederlanden und Singapur den zweiten Platz bei der Suche nach "Deep Fake Nude"-Machern, liegen aber bei anderen verwandten Begriffen im Mittelfeld.
Dennoch sind bereits viele hochrangige US-Prominente Ziel von gefälschten Videos und Bildern geworden, die im Internet veröffentlicht wurden - und die USA sind bereits dabei, die Ausarbeitung neuer Gesetze um den Einzelnen vor dem Schaden zu schützen, den gefälschte Inhalte anrichten können.
China ist insgesamt am wenigsten an tiefen Fälschungen interessiert
Obwohl China nach den USA als das zweitgrößte Land im Bereich der künstlichen Intelligenz gilt, ist es nach unseren Untersuchungen am wenigsten an Deep Fake Makers interessiert, was alle Suchanfragen angeht.
China steht am Ende der Rangliste für die Suche nach Deep Fake-Machern, einschließlich der Suche nach pornografischen Inhalten, was darauf hindeutet, dass die Fähigkeiten von Deep Fakes den Mainstream des Landes noch nicht erreicht haben.
Es ist jedoch auch wichtig zu beachten, dass die Suchdaten möglicherweise nicht 100% genau für China-spezifische Suchen sind. KI ist in China sicherlich nicht neu - von tiefe Fälschungen von Livestreamern die im Jahr 2023 rund um die Uhr laufen und Schlagzeilen machen, bis hin zu einem Anstieg der Finanzbetrügereien mit Deep-Fake-Technologie. Wahrscheinlicher ist die Annahme, dass wir nicht in der Lage sind, auf völlig korrekte Suchdaten aus China zuzugreifen, wenn es um Anfragen im Zusammenhang mit künstlicher Intelligenz geht.
Wie man eine Fälschung erkennt
Um die Echtheit digitaler Inhalte zu erkennen und schwerwiegende Fälschungen zu identifizieren, ist es wichtig zu wissen, auf welche Anzeichen man achten muss. Die folgenden Indikatoren können Ihnen helfen, zwischen echten Inhalten und raffinierten Fälschungen zu unterscheiden:
1. Unstimmigkeiten bei Beleuchtung und Schatten
Bei Deepfakes ist es oft schwierig, die Nuancen der natürlichen Beleuchtung und der Schatten genau zu reproduzieren. Achten Sie auf Unregelmäßigkeiten in der Lichtinteraktion mit dem Motiv, z. B. unpassende Schatten oder ungleichmäßige Beleuchtung in verschiedenen Teilen der Szene.
2. Anomalien von Gesichtsmerkmalen
Achten Sie genau auf die Mimik und die Gesichtszüge der Person, die das Video gefälscht hat. Deepfakes zeigen oft Anomalien wie unnatürliches Blinzeln, seltsame Lippenbewegungen oder Gesichtsausdrücke, die nicht zum emotionalen Ton der Stimme oder der Situation passen. Je weiter die Technologie fortschreitet, desto geringer werden diese Anomalien.
3. Audiovisuelle Unstimmigkeiten
Bei tiefen Fälschungen kann die Synchronisation zwischen Audio- und visuellen Elementen gestört sein. Prüfen Sie, ob die Lippenbewegungen der Testperson perfekt mit den gesprochenen Worten synchronisiert sind. Jegliche Verzögerung oder Unstimmigkeit zwischen Bild und Ton könnte ein Hinweis darauf sein, dass es sich um eine Fälschung handelt.
4. Hautbeschaffenheit und Teint
Bei Deepfakes kann es manchmal schwierig sein, die menschliche Hautstruktur realistisch nachzubilden. Achten Sie auf Anzeichen einer abnormalen Hauttextur oder wechselnde Hauttöne, die nicht natürlich oder gleichmäßig über das gesamte Video hinweg wirken.
5. Unstimmigkeiten im Hintergrund
Analysieren Sie den Hintergrund auf Anzeichen von Verzerrungen oder Fluktuationen. Die Deepfake-Technologie könnte sich auf das Motiv konzentrieren und den Hintergrund übersehen, was zu Anomalien in der Umgebung führt.
6. Qualität und Auflösung
Seien Sie vorsichtig bei Videos, die als offiziell ausgegeben werden, aber absichtlich eine niedrige Auflösung oder Qualität haben. Manchmal verwenden die Urheber von Fälschungen eine niedrigere Qualität, um Mängel und Anomalien zu verbergen, die in hoher Auflösung deutlicher zu erkennen wären.
Methodik
Um diese Ergebnisse zu erhalten, hat unser DailyAI-Team die Top-10-Länder die im Jahr 2023 an der Spitze der KI stehen werden. Anschließend haben wir das durchschnittliche monatliche Suchvolumen für eine Reihe von Begriffen mit Bezug zu Deep Fake Maker ermittelt und die durchschnittliche Anzahl der Suchanfragen pro 100.000 Menschen bestimmt, um etwaige Verzerrungen durch Länder mit einer größeren Bevölkerungszahl auszugleichen.
