Ed Newton-Rex, ehemaliger Vizepräsident für Audio bei Stability AI, kündigte die Gründung von "Fairly Trained" an, einer gemeinnützigen Organisation, die generative KI-Unternehmen für fairere Trainingsdaten zertifizieren will.
Die Initiative zielt darauf ab, zwischen Unternehmen zu unterscheiden, die ihre KI auf der Grundlage unlauterer Daten trainieren, und solchen, die einen ethischeren Ansatz verfolgen, indem sie ihre eigenen Daten lizenzieren oder erstellen.
Newton-Rex erklärte auf X: "Es ist schwer zu wissen, welche Unternehmen für generative KI auf gesammelten Daten trainieren und welche einen ethischeren Ansatz verfolgen, indem sie Lizenzen vergeben. Deshalb starten wir heute Fairly Trained, eine Non-Profit-Organisation, die generative KI-Unternehmen für faire Trainingsdatenpraktiken zertifiziert."
Es ist schwer zu wissen, welche Unternehmen für generative KI auf gesammelten Daten trainieren und welche einen ethischeren Ansatz verfolgen, indem sie Lizenzen vergeben. Deshalb starten wir heute Fairly Trained, eine Non-Profit-Organisation, die generative KI-Firmen für faire Trainingsdatenpraktiken zertifiziert.
Unsere erste Zertifizierung, genannt...
- Ed Newton-Rex (@ednewtonrex) 17. Januar 2024
Dies geschieht in einer Zeit, in der die Kritik am Laissez-faire-Datensammeln zum Zwecke des Trainings von KI-Modellen eskaliert, ein Prozess, der die Urheberrechtsinhaber in Rage bringt. Die Debatte wurde Anfang Januar erneut angeheizt, als eine Liste von 16.000 Künstlern die zum Trainieren und Optimieren von Midjourney verwendet wurde, ist durchgesickert.
Danach folgen Unternehmen wie Magic: The Gathering und Wacom, die auf menschliche Kreativität setzen, wurden heftig angefeindet für die Verwendung von KI-generierten Bildern in sozialen Medien. Unterdessen tauchten in den sozialen Medien Berichte über die Ersetzung von Arbeitsplätzen durch KI auf, auch bei Duolingo.
Midjourney und Stability AI, das ehemalige Unternehmen von Newton-Rex, befinden sich derzeit in einem Urheberrechtsklage die noch in diesem Jahr zu einem Urteil führen soll. Es ist eine von vielen Beschwerden, die gegen Unternehmen wie OpenAI, Anthropic, Meta, Midjourney, Stability und andere eingereicht wurden.
Stability AI wurde wegen der Verwendung von Millionen urheberrechtlich geschützter Bilder und Audiodateien in ihren Modellen kritisiert, was Fragen über die Grenzen der "fairen Nutzung" aufgeworfen hat - die Newton-Rex nun mit dem Programm Fairly Trained angehen will.
Newton-Rex trat letztes Jahr bei Stability AI zurück und erklärte auf X: "Ich bin von meiner Rolle als Leiter des Audio-Teams bei Stability AI zurückgetreten, weil ich nicht mit der Meinung des Unternehmens übereinstimme, dass das Trainieren generativer KI-Modelle auf urheberrechtlich geschützten Werken eine 'faire Nutzung' ist."
Ich bin von meiner Rolle als Leiter des Audio-Teams bei Stability AI zurückgetreten, weil ich nicht mit der Meinung des Unternehmens übereinstimme, dass das Trainieren von generativen KI-Modellen auf urheberrechtlich geschützten Werken "fair use" ist.
Zunächst einmal möchte ich sagen, dass es bei Stability viele Menschen gibt, die sich sehr...
- Ed Newton-Rex (@ednewtonrex) November 15, 2023
Trotz seines Rücktritts von Stability AI äußerte sich Newton-Rex optimistisch über eine harmonische Beziehung zwischen generativer KI und der Kreativindustrie, was nun durch Fairly Trained unterstrichen wurde.
Das Programm Fairly Trained
Fairly Trained" führt seine erste Zertifizierung ein, die 'Zertifizierung als lizenziertes Modell (L).'
Ziel ist es, KI-Modelle hervorzuheben, die Trainingsdaten auf ethische Weise nutzen und sicherstellen, dass keine urheberrechtlich geschützten Werke ohne Lizenz verwendet werden. Dies gilt für KI-Modelle aus verschiedenen Bereichen wie Bild- und Musikgenerierung.
Um die Kriterien zu erfüllen, müssen die Trainingsdaten entweder sein:
- Mit den Rechteinhabern vertraglich vereinbart.
- Unter einer entsprechenden offenen Lizenz.
- Im globalen öffentlichen Bereich.
- Eigentümer des Modells ist der Entwickler.
Die Unternehmen müssen den Rechtestatus ihrer Ausbildungsdaten gründlich überprüfen, und es müssen detaillierte Aufzeichnungen über die verwendeten Ausbildungsdaten geführt werden. Der Antrag umfasst eine ausführliche schriftliche Eingabe und ein Überprüfungsverfahren, das mit einer Zertifizierung und einer jährlichen Neubewertung abschließt.
Auch wenn Newton-Rex einräumt, dass diese erste Zertifizierung nicht alle Bedenken im Zusammenhang mit generativem KI-Training ausräumt, wie z. B. die Debatte um Opt-in oder Opt-out, ist sie doch ein Schritt nach vorn.
Bislang wurde das Programm gut angenommen. Dr. Yair Adato von BRIA AI lobte sie, in einem Blogeintrag erklärtWir sind stolz darauf, die Fairly-Trained-Zertifizierung zu unterstützen. Diese Initiative wirkt der Undurchsichtigkeit der Branche bei der Datenbeschaffung entgegen und gewährleistet, dass die Unternehmen strenge ethische Standards einhalten."
Christopher Horton, SVP bei Universal, sagte: "Wir begrüßen die Einführung der Fairly-Trained-Zertifizierung, um Unternehmen und Urhebern dabei zu helfen, verantwortungsvolle generative KI-Tools zu identifizieren, die auf legal und ethisch gewonnenem Material trainiert wurden."
Fairly Trained hat bereits neun generative KI-Unternehmen in den Bereichen Bilderzeugung, Musikproduktion und Sprachsynthese zertifiziert, darunter Beatoven.AI, Boomy, BRIA AI, Endel, LifeScore, Rightsify, Somms.ai, Soundful und Tuney.
Es wird interessant sein zu sehen, welche Unternehmen sich für das Programm anmelden und wie transparent sie ihre Daten machen. Im Idealfall sollte die Öffentlichkeit in der Lage sein, die Datensätze selbst einzusehen (vorausgesetzt, sie sind öffentlich zugänglich oder nicht anderweitig geschützt).
Die Zertifizierung ist nicht ganz einfach, da die Daten weltweit gemeinfrei sein müssen, was aufgrund der unterschiedlichen Urheberrechtsgesetze in den verschiedenen Ländern schwierig zu handhaben sein könnte.
Was in einem Land als gemeinfrei gilt, ist es in einem anderen nicht. So kann zum Beispiel ein literarisches Werk in den Vereinigten Staaten 70 Jahre nach dem Tod des Autors gemeinfrei werden, während dasselbe Werk in Europa noch unter das Urheberrecht fällt.
Die Anforderung von Fairly Trained, dass die Daten "weltweit öffentlich zugänglich" sein müssen, setzt in jedem Fall einen hohen Standard voraus.
Könnte dies das Jahr der verstärkten Rechenschaftspflicht für KI-Unternehmen und transparenterer Datenpraktiken sein?
