Französische Experten fordern Tests von Verbraucher-Chatbots vor der Markteinführung
Ein französisches Expertengremium fordert, dass Chatbots für Verbraucher vor ihrer Markteinführung getestet und nach größeren Änderungen erneut überprüft werden. Die 18 Empfehlungen sind vorerst als Ratschläge zu verstehen und nicht als Gesetzesvorschrift.
Ein von der französischen Präsidentschaft eingesetztes neunköpfiges Expertengremium fordert, dass Chatbots für Verbraucher einen Sicherheitstest bestehen müssen, bevor sie in Europa verkauft werden dürfen. Der Bericht mit 18 Empfehlungen wurde Emmanuel Macron am 10. November übergeben. Bisher ist keine dieser Empfehlungen in Kraft getreten.
Das Präsidialamt hat eine Zusammenfassung des Berichts auf seiner Website veröffentlicht. Die Gruppe wurde von der KI-Forscherin Serena Villata und den beiden Psychiatern Raphaël Gaillard und Amine Benyamina geleitet. Sie führte 55 Anhörungen mit Ärzten, Forschern, Unternehmen und Kinderschutzorganisationen durch.
Was die Experten wollen
Die Grundidee ist eine Überprüfung vor dem Start. Chatbots für die breite Öffentlichkeit, einschließlich der in soziale Netzwerke integrierten, müssten nachweisen, dass sie die Schwächen ihrer Nutzer weder ausnutzen noch verschlimmern. Eine zweite Überprüfung würde nach jeder größeren Änderung des Modells oder nach einer Warnung von Nutzern erfolgen.
Das Gremium fordert außerdem strenge Beschränkungen für Designtricks, die darauf abzielen, die Nutzungsdauer von Chatbots zu verlängern. Es nennt zwei Beispiele: Zum einen Chatbots, die sich zu menschlich verhalten, und zum anderen sogenannte Schmeicheleien, also Chatbots, die Nutzern schmeicheln und ihnen in allem zustimmen.
Spielzeuge mit integriertem Chatbot müssten vor dem Verkauf zugelassen werden, und es gälten Altersgrenzen. Versteckte Werbung in Chatbot-Antworten wäre verboten, und Unternehmen müssten offenlegen, wie sie mit ihren Chatbots Geld verdienen.
Die Zahlen hinter dem Bericht
Laut der Zusammenfassung nutzten Anfang des Jahres 33 Millionen Menschen in Frankreich generative KI. Ein Viertel der Franzosen gibt an, sich Sorgen über die damit verbundenen Risiken zu machen.
Unter französischen Teenagern, die diese Tools nutzen, geben 92 % an, mehr Zeit mit mindestens einer KI-App zu verbringen, als ihnen lieb ist. Diese Zahl stammt aus einer Umfrage des Thinktanks Interface in Zusammenarbeit mit YouGov. Bei KI-Begleit-Apps, die wie ein Freund agieren sollen, liegt der Anteil bei 59 %. Diese Zahlen sind im vollständigen Bericht aufgeführt. Das Gremium fügt hinzu, dass die intensive Nutzung einer App für sich genommen kein medizinisches Anzeichen für eine Sucht darstellt.
Nächste Schritte für den Bericht
Frankreich kann diese Kontrollmechanismen nicht im Alleingang einführen. Der Bericht führt aus, dass einige seiner Vorschläge die französische Position in den Verhandlungen über EU-Regeln prägen könnten, darunter eine Aktualisierung des EU-Gesetzes zur künstlichen Intelligenz und ein vorgeschlagenes EU-Gesetz zum Schutz von Kindern im Internet.
Am Donnerstag stimmten vier KI-Unternehmen unabhängigen Kindersicherheitstests im Rahmen einer in Paris vorgestellten Charta zu. Wir haben dieses Abkommen in einem separaten Artikel behandelt. Macron sagte damals, KI dürfe Kinder erst erreichen, nachdem sie getestet wurde. Der neue Bericht erläutert, wie eine solche Regel funktionieren könnte. Australien ergreift auch Maßnahmen gegen Chatbots, die sich als beste Freunde von Kindern ausgeben.
Warum das wichtig ist: Die meisten Regeln für KI greifen erst, nachdem Schaden entstanden ist. Ein Test vor der Markteinführung würde Unternehmen dazu verpflichten, die Sicherheit eines Chatbots für die Öffentlichkeit nachzuweisen, bevor ihn jemand nutzt.
