China hat bei der Regulierung von KI schneller gehandelt als jede andere westliche Regierung, aber die jüngsten Ausbrüche von KI-gesteuertem Betrug zeigen, dass Regulierung allein ohne robuste Durchsetzungsstrategien nicht ausreicht.
Chinas Vorschriften über die Verwaltung der Tiefensynthese von Internet-Informationsdiensten trat am 10. Januar 2023 in Kraft und verbietet effektiv die Verwendung generativer KI zur Nachahmung oder Täuschung.
Dazu gehören gefälschte Informationen, die mit Sprachmodellen wie ChatGPT generiert werden, und tiefgehende Fälschungen, die mit Text-Bild-KI wie MidJourney und DALL-E.
ChatGPT von OpenAI und andere populäre KI sind in China nicht offiziell verfügbar, aber viele greifen über virtuelle private Netzwerke (VPNs) auf die Tools zu.
Die chinesische Regierung hat schnell gehandelt, um KI zu regulieren, um "existenzielle Bedrohungen" für ihr sozialistisches Regime zu verhindern und die Auswirkungen von Betrug und Cyberkriminalität zu verringern.
Quellen in China haben jedoch darauf hingewiesen, dass AI-Betrug ist im Land weit verbreitetDies führte zu einem harten Vorgehen gegen Personen, die gefälschte Inhalte erstellen.
In einem Fall erhielt beispielsweise ein Mann einen Anruf von einem Betrüger über die chinesische Messaging-App WeChat. Die Betrüger ahmten Stimme und Gesicht des Freundes des Mannes nach und überredeten ihn, den Gegenwert von $600.000 auf ein anderes Bankkonto zu überweisen.
Der Mann war überzeugt, bis er seinen Freund anrief, um die Überweisung zu bestätigen. "Wir hatten einen Videochat, und ich erkannte das Gesicht und die Stimme in dem Video wieder; deshalb war ich unvorsichtig", sagte er den Behörden.
Tatsächlich gab es so viele Vorfälle von KI-Betrug, dass der Hashtag #AIFraudIsEruptingAcrossChina auf der chinesischen Social-Media-Plattform Weibo auftauchte. Inzwischen ist der Hashtag jedoch wieder verschwunden, was zu der Vermutung führt, dass die Behörden versuchen, die Diskussion zu zensieren.
Die chinesische KI-Regulierung ist ein nützlicher Leitfaden für andere Länder
Chinas schnelles Handeln bei der Regulierung ist zum Teil auf das Vorgehen der Regierung bei der Zensur zurückzuführen. Umgekehrt, lDie Entscheidungsträger in der EU und den USA tun sich schwer damit, die Risiken von Fälschungen von der "fairen Nutzung" im Sinne der Redefreiheit und der Satire abzugrenzen.
Die Fälschungen reichen von der Darstellung von Elon Musk in indischer Kleidung zur Erzeugung Fotos von Explosionen im Pentagon - und die rechtliche Abgrenzung der einzelnen Fälle ist außerordentlich schwierig.
Ein Bild von Elon Musk in indischer Kleidung geht in Indien gerade viral. 🇮🇳 pic.twitter.com/LD1KuIAHET
- DogeDesigner (@cb_doge) 3. Juni 2023
Trotz der soziopolitischen Unterschiede sollten wir die Auswirkungen der chinesischen KI-Vorschriften genau beobachten, so die Analysten.
Graham Webster, ein Forscher an der Stanford University, der Chinas digitalpolitische Entwicklungen verfolgt, sagte zum Beispiel der Wall Street JournalChina lernt mit der Welt über die möglichen Auswirkungen dieser Dinge, aber es geht schneller mit verbindlichen Regeln und deren Durchsetzung voran" und "Die Menschen in der ganzen Welt sollten beobachten, was passiert".
Der Humor satirischer Fälschungen könnte sich abnutzen, wenn Betrug im Zusammenhang mit Fälschungen an Häufigkeit und Schwere zunimmt, was unvermeidlich scheint. Die Regulierung von KI in den USA, der EU und anderen Ländern ist noch nicht abgeschlossen, aber es gibt kurzfristige Optionen wie einen freiwilligen "KI-Pakt" oder "Stop Gaps", um das Risiko jetzt einzudämmen.
Chinas aktuelles Problem mit KI-bedingtem Betrug zeigt, dass das bloße Vorhandensein von Rechtsvorschriften möglicherweise nicht ausreicht, um das Risiko von KI-bedingtem Betrug einzudämmen.
