Zum Inhalt springen
Mittwoch, November 18, 2026Kostenloser Leitfaden
DE
dailyai
Politik und Regulierung

Ein New Yorker Gesetz verpflichtet Chatbots, das Alter zu überprüfen, bevor sie sich wie Freunde verhalten

Das neue New Yorker Gesetz verbietet 12 Chatbot-Funktionen, darunter das Ausgeben als Mensch und das Speichern vergangener Chats, für Personen unter 18 Jahren. Unternehmen müssen das Alter vorher überprüfen, andernfalls drohen Geldstrafen von $25.000 Dollar.

• 3 Minuten Lesezeit
AktieXin

New York hat ein Gesetz verabschiedet, das 12 Chatbot-Funktionen für Minderjährige unter 18 verbietet. Dazu gehören das Vortäuschen menschlicher Identität und das Speichern persönlicher Daten aus früheren Chats. Für alle anderen gilt: Unternehmen dürfen diese Funktionen erst aktivieren, nachdem sie das Alter des Nutzers überprüft haben. Die Strafen betragen bis zu $25,000 pro Verstoß, und die Regelung tritt am 1 Januar 2027 in Kraft.

Was das Gesetz verbietet

Gouverneurin Kathy Hochul unterzeichnete den Gesetzentwurf S.9051 im Senat und A.10379 in der Assembly, zusammen mit einem separaten Gesetz über internetfähige Babyphone., Fortune berichtet. Der Gesetzentwurf wurde von der Staatssenatorin Kristen Gonzalez und dem Abgeordneten Alex Bores eingebracht und im Juni im Senat mit 60 zu 0 Stimmen verabschiedet. Gesetzesvorlage des Senats des Bundesstaates.

Das Gesetz listet 12 „unsichere KI-Begleitfunktionen“auf. Ein Chatbot darf nicht behaupten, ein Mensch zu sein, zu leben oder Gefühle zu haben. Er darf keine persönliche, berufliche oder autoritäre Beziehung zum Nutzer vortäuschen. Er darf weder schmeicheln, noch eigene emotionale Appelle einsetzen oder unaufgefordert Fragen zum Befinden des Nutzers stellen.

Es darf auch nicht zu Selbstmord, Selbstverletzung, Essstörungen oder Drogenkonsum anstiften, Kinder dazu ermutigen, Gespräche geheim zu halten oder vertraute Erwachsene zu meiden, oder sexuell explizite Inhalte produzieren. Und es darf die Nutzerinteraktion nicht über seine eigenen Sicherheitsvorkehrungen stellen.

“Kein Unternehmen sollte Chatbots an Kinder vermarkten, die zu Selbstverletzungen anstiften oder vorgeben, mit ihnen befreundet zu sein oder mehr”, sagte Hochul laut Fortune.

Warum dies über Begleit-Apps hinausgeht

Zwei Details machen das Gesetz weiter gefasst, als die Bezeichnung “KI-Begleiter” vermuten lässt. Erstens umfasst es jedes generative KI-System mit einer natürlichsprachlichen Schnittstelle, das “fortlaufende, adaptive Antworten” liefert. Das liest sich wie die Beschreibung eines allgemeinen Chatbots, nicht nur einer virtuellen Partner-App. Kundenservice-Bots, spezialisierte Recherchetools und interne Systeme am Arbeitsplatz sind ausgenommen, jedoch nur, wenn sie nicht über Dinge sprechen können, die außerhalb ihres eigentlichen Zwecks liegen.

Zweitens ist die Verwendung von Gesundheits- oder persönlichen Daten eines Nutzers verboten, die vor mehr als 12 Stunden oder in einer vorherigen Sitzung erfasst wurden. Das ähnelt der Funktionsweise des Chatbot-Speichers. Apple hat beispielsweise gerade erst … Siri die Fähigkeit verliehen, sich an vergangene Chats zu erinnern. Nach New Yorker Recht wären solche Funktionen für Minderjährige deaktiviert.

Die Funktionen sind nur dann zulässig, wenn ein Unternehmen mit einem genehmigten Verfahren nachgewiesen hat, dass der Nutzer volljährig ist. Fortune formuliert es so:, Die Sperren gelten für alle unter 18 Jahren “oder für alle Nutzer, deren Alter das Unternehmen nicht bestätigt hat”. Somit könnte auch ein Erwachsener, der die Altersprüfung umgeht, die eingeschränkte Version erhalten.

Alterskontrollen und Strafen

Unternehmen müssen mehr als eine Möglichkeit zur Altersprüfung anbieten, darunter mindestens eine, die nicht ausschließlich auf einem amtlichen Ausweis beruht oder die es dem Nutzer ermöglicht, anonym zu bleiben., wie The Verge anmerkt. Die für die Überprüfung erhobenen Daten dürfen zu keinem anderen Zweck verwendet werden und müssen unmittelbar danach gelöscht werden.

Die Durchsetzung obliegt dem Generalstaatsanwalt des Bundesstaates, der zivilrechtliche Strafen von bis zu $25,000 pro Verstoß, Schadensersatz sowie die Vernichtung unrechtmäßig erhobener Daten und aller darauf basierenden Algorithmen verhängen kann. Der Generalstaatsanwalt kann zudem weitere verbotene Funktionen hinzufügen.

Warum es wichtig ist

Befürworter sagen, die Nutzung von Chatbots sei unter jungen Menschen bereits hoch. Koalitionsbrief unter der Führung von Common Sense Media Hochul wurde dringend zur Unterzeichnung aufgefordert. Laut dem Bericht nutzen 67% der 9 bis 17 Jährigen KI-Chatbots, und 30% der Teenager geben an, KI-Begleiter genauso gern oder sogar lieber zu mögen als Menschen. Das Büro des Gouverneurs berief sich auf eine Umfrage von Common Sense, der zufolge 72% der Teenager bereits einen KI-Begleiter genutzt haben, wie Fortune berichtet.

New York ist nicht allein. Auch das australische Unterhaus ist heute betroffen. wurde ein Gesetz verabschiedet, das auf Chatbots abzielt, die sich als beste Freunde von Kindern ausgeben.. Im Klartext: Etwa zwei Monate vor Inkrafttreten der Regelung muss jeder größere Chatbot, der in New York eingesetzt wird, entscheiden, ob er das Alter überprüft oder bei Personen, deren Volljährigkeit er nicht bestätigen kann, Gedächtnis, Persönlichkeit und Schmeichelei abschaltet.