YouTube hat eine Reihe von Maßnahmen und Richtlinien zur Bekämpfung des Missbrauchs von KI vorgestellt, insbesondere für KI-generierte und gefälschte Musik.
Die Entscheidung fällt in eine Zeit, in der der Druck wächst, Maßnahmen gegen KI-generierte Musik und gefälschte Inhalte zu ergreifen. Ein Beispiel dafür sind Songs wie "Heart on My Sleeve", in dem KI-generierte Stimmen zu hören sind, die Drake und The Weeknd ohne deren Zustimmung ähneln.
Die Universal Music Group kritisierte den Song für "verletzende Inhalte, die mit generativer KI erstellt wurden".
Nach einigen Diskussionen erklärten die Grammys kürzlich, dass solche Kompositionen werden nicht für Auszeichnungen berücksichtigt.
YouTube ist Aktualisierung des Verfahrens für Datenschutzbeschwerden Beschwerden über Fälschungen zuzulassen und zu präzisieren, dass nicht alle derartigen Inhalte entfernt werden, wobei Faktoren wie Parodie und Satire bei der Entscheidungsfindung eine Rolle spielen.
Außerdem müssen die Urheber nun offenlegen, wenn sie manipulierte oder synthetische Inhalte verwenden, einschließlich KI-generiertem Material.
Dies gilt insbesondere für Inhalte, die sensible Themen wie Wahlen und Gesundheitskrisen behandeln. YouTube hat auch erwähnt, dass die Nichteinhaltung dieser Richtlinien zur Entfernung von Inhalten oder zur Aussetzung von Werbezahlungen führen kann.
Darüber hinaus werden Videobeschreibungen mit einer Kennzeichnung für KI-generierte Inhalte versehen, wobei sensible Themen deutlicher gekennzeichnet werden.
Das Unternehmen hat erklärt, dass KI-generiertes Material, das gegen die bestehenden Inhaltsrichtlinien verstößt, wie z. B. synthetisch erstellte Gewaltvideos, ebenfalls entfernt werden wird.
Hier ist eine Zusammenfassung der Werkzeuge, die YouTube zur Bekämpfung des KI-Missbrauchs bereithält:
- Offenlegungspflichten und Inhaltskennzeichnungen: Die Urheber müssen offenlegen, ob ihre Inhalte verändertes oder synthetisches Material enthalten, das realistisch ist, insbesondere wenn sie KI-Werkzeuge verwenden. Dies ist von entscheidender Bedeutung für Inhalte, die sensible Themen wie Wahlen und öffentliche Gesundheitskrisen behandeln. Die Nichteinhaltung kann zur Entfernung von Inhalten oder anderen Sanktionen führen.
- Informationen zum Betrachter: YouTube plant, die Zuschauer über synthetische Inhalte zu informieren, und zwar durch Kennzeichnungen im Beschreibungsfeld und, bei sensiblen Themen, an prominenterer Stelle im Videoplayer.
- Entfernung von Inhalten in Hochrisikofällen: Synthetische Medien, die unabhängig von ihrer Kennzeichnung eine Gefahr darstellen, werden entfernt, wenn sie gegen die Gemeinschaftsrichtlinien verstoßen. Dazu gehören auch Inhalte, die realistische Gewalt darstellen und darauf abzielen, die Zuschauer zu schockieren oder anzuwidern.
- Verfahren für Datenschutzanfragen: YouTube wird Anträge auf Entfernung von KI-generierten oder veränderten Inhalten zulassen, die das Gesicht oder die Stimme einer identifizierbaren Person simulieren. Die Entscheidungen werden auf Faktoren wie Parodie oder Satire, die Identifizierbarkeit der Person und den öffentlichen Status der Person basieren.
- Besondere Bestimmungen für Musikinhalte: Musikpartner können die Entfernung von KI-generierter Musik beantragen, die die einzigartige Stimme eines Künstlers imitiert. YouTube wird in diesen Fällen Faktoren wie Nachrichtenberichterstattung oder Relevanz für die Kritik bewerten.
- KI bei der Moderation von Inhalten: YouTube setzt eine Mischung aus KI-Technologie und menschlicher Überprüfung ein, um die Community-Richtlinien durchzusetzen. KI-Klassifikatoren helfen bei der Erkennung potenzieller Verstöße, während menschliche Prüfer Verstöße gegen die Richtlinien bestätigen. Generative KI ist besonders nützlich, um neue Formen des Missbrauchs zu erkennen und zu bekämpfen.
- Verantwortung für KI-Tools übernehmen: YouTube konzentriert sich auf die Entwicklung von KI-Tools mit eingebauten Sicherheitsvorkehrungen, um die Generierung von unangemessenen Inhalten zu verhindern. Durch kontinuierliche Verbesserungen und spezielle Teams zur Erkennung von Bedrohungen bereitet sich das Unternehmen auch auf mögliche Umgehungen durch bösartige Akteure vor.
Dies folgt einem breiteren Branchentrend, KI-bezogene Inhalte zu entlarven, die nicht darauf abzielen, einen echten und vertrauenswürdigen Beitrag zu Plattformen zu leisten.
Unternehmen wie Meta führen auch Anforderungen für politische Werbetreibende die Verwendung von KI in Anzeigen offenzulegen. Fehlinformationen
Dies ist das Ergebnis einer Mischung aus öffentlichem und privatem Druck, wobei die KI-Unternehmen versuchen, ihre Bereitschaft zu zeigen, die in verschiedenen freiwilligen Rahmenvereinbarungen gemachten Zusagen einzuhalten.
