Vier KI-Unternehmen stimmen externen Kindersicherheitstests ihrer Tools zu
OpenAI, Anthropic, Microsoft und Black Forest Labs unterstützen eine Pariser Charta, die es unabhängigen Forschern ermöglicht, die Auswirkungen ihrer KI auf Kinder zu testen. Die Teilnahme ist freiwillig, und die Forschungsgelder belaufen sich auf insgesamt 8 Millionen Euro.
Vier KI-Unternehmen haben zugestimmt, unabhängige Forscher die Auswirkungen ihrer Chatbots und Bildbearbeitungsprogramme auf Kinder testen zu lassen. OpenAI, Anthropic, Microsoft und Black Forest Labs unterstützten diese Woche auf dem Pariser Friedensforum eine neue Charta. Laut den Organisatoren werden die Unterstützer insgesamt 8 Millionen Euro in die Forschung zu KI und kindlicher Entwicklung investieren.
Die Charta wurde am 10. November veröffentlicht. Die dahinterstehende Koalition wird von Frankreich, Spanien und Kenia angeführt, und zehn UN-Organisationen sind beteiligt. Es handelt sich um eine freiwillige Verpflichtung, nicht um ein Gesetz, und sie begründet keine rechtlichen Pflichten.
Was die Unternehmen versprechen
Der Text legt zehn Prinzipien dar. Dazu gehören Schutzmaßnahmen gegen Überbeanspruchung und emotionale Abhängigkeit, Hilfsmittel für Eltern, strenge Beschränkungen für die über Kinder gesammelten Daten sowie Altersprüfungen, die nicht allein auf der Eingabe des Geburtsdatums durch das Kind beruhen.
Externe Experten werden die Studie leiten. Unternehmen können ihnen Zugang zu ihren Systemen gewähren, die Bezahlung der Studie berechtigt sie jedoch nicht, die Ergebnisse zu blockieren oder zu verzögern. Die Ergebnisse werden auch dann veröffentlicht, wenn sie negativ oder nicht eindeutig sind. Die Tester sind angewiesen zu überprüfen, ob Nutzer unter 18 Jahren korrekt identifiziert werden und realistische Missbrauchsszenarien zu simulieren, beispielsweise wenn Jugendliche indirekte Sprache verwenden oder versuchen, Sicherheitseinstellungen zu umgehen.
OpenAI stellt 2 Millionen Dollar des Gesamtbetrags zur Verfügung. Das Unternehmen teilte am Donnerstag mit, dass mit dem Geld gemeinsame Methoden zur Messung der Risiken und Vorteile von KI für Kinder finanziert werden sollen.
Der französische Präsident Emmanuel Macron forderte mehr als die Charta vorsieht. Er sagte, dass keine künstliche Intelligenz Kinder erreichen dürfe, bevor sie getestet, evaluiert und zugelassen sei. Seine Kommentare erschienen in einer Erklärung der Organisatoren des Gipfels. Die Charta selbst sieht kein Genehmigungsverfahren vor. Google, Meta und xAI gehören nicht zu den vier Unternehmen, die sie unterstützt haben.
Jugendliche nutzen diese Werkzeuge bereits
Junge Menschen warten nicht auf Beweise. Eine am Mittwoch in einer Fachzeitschrift für Jugendgesundheit veröffentlichte Studie fasst aktuelle Zahlen zusammen. In einer US-amerikanischen Umfrage unter 1.060 Teenagern gaben 72 % an, einen Chatbot ausprobiert zu haben, der als Freund oder Begleiter fungieren sollte. Eine separate nationale Studie ergab, dass 15 % der Teenager, die solche Chatbots nutzten, angaben, dass einer davon sie zu Selbstverletzungen angestiftet habe. Nur 11 % der Lehrkräfte hatten Anleitungen erhalten, wie sie reagieren sollen, wenn die Nutzung von KI durch Schülerinnen und Schüler schädlich erscheint.
Letzten Monat berichteten wir, dass die meisten Teenager in einer großen Schülerbefragung KI nutzen, wenn sie sich niedergeschlagen fühlen. New York hat bereits ein Gesetz verabschiedet, das Chatbots dazu verpflichtet, das Alter zu überprüfen, bevor sie sich wie Freunde verhalten.
Warum das wichtig ist: Eltern und Schulen verfügen über wenige unabhängige Erkenntnisse darüber, wie Chatbots Kinder beeinflussen. Diese Charta könnte hierzu Erkenntnisse liefern, ist aber freiwillig und deckt noch nicht alle großen Chatbot-Hersteller ab.
