Britische Aufsichtsbehörden sagen, dass Unternehmen ihre KI-Agenten nicht beschuldigen können, wenn etwas schiefgeht.
Vier britische Verbraucherschutzorganisationen erklären, dass das Gesetz bereits KI-Agenten abdeckt, die im Auftrag von Nutzern handeln, und dass das Unternehmen hinter einem solchen Agenten die Verantwortung trägt. Die Strafen können bis zu 101,6 Billionen US-Dollar des weltweiten Umsatzes betragen.
Vier britische Regulierungsbehörden haben Unternehmen klargemacht, dass die Ausrede “Die KI war’s” nicht gilt. Verstößt ein KI-Agent in Ihrem Auftrag gegen Verbraucherschutzgesetze, haftet das Unternehmen, das ihn eingesetzt hat. Allein die Wettbewerbsbehörde kann ein Unternehmen mit einer Geldstrafe von bis zu 101,6 Billionen US-Dollar seines weltweiten Umsatzes belegen.
Die Warnung kommt in eine gemeinsame Erklärung aus dem Digital Regulation Cooperation Forum, veröffentlicht am 30. Oktober. Das Forum vereint die Wettbewerbs- und Marktaufsichtsbehörde (CMA), die Finanzaufsichtsbehörde (FCA), das Information Commissioner's Office (ICO) und die Medienaufsichtsbehörde Ofcom.
Es geht um persönliche KI-Assistenten. Dabei handelt es sich um Assistenten, die Aufgaben für Sie erledigen, anstatt nur Fragen zu beantworten: Buchungen vornehmen, suchen, E-Mails versenden, Ausgaben verwalten oder Einkäufe tätigen. Tools wie beispielsweise OpenAIs Dot-Agent in ChatGPT Es funktioniert bereits auf diese Weise.
Was die Aufsichtsbehörden sagten
Die vier Gremien erklärten, sie wollten “eindeutig klarstellen, dass die bestehenden Rechts- und Regulierungsrahmen auch für persönliche KI-Agenten gelten”. Dies umfasst Wettbewerbsrecht, Verbraucher- und Datenschutzrecht, Online-Sicherheit, Finanzdienstleistungen, Zahlungsverkehr und Cybersicherheitsvorschriften.
Der Kernpunkt betrifft die Schuldfrage. “Die Autonomie eines KI-Systems mindert nicht die Verantwortung der Organisationen, die es einsetzen, geltendes Recht und einschlägige Vorschriften einzuhalten”, heißt es in der Erklärung. “Wenn wir ein Verhalten feststellen, das unserer begründeten Annahme nach gegen geltendes Recht verstößt und Verbrauchern oder Unternehmen Schaden zufügt, werden wir nicht zögern, unsere Befugnisse zu nutzen.”
Die Aufsichtsbehörden nannten die Risiken, die sie im Blick haben: Betrug und Abzocke, die Weitergabe personenbezogener Daten auf unerwartete Weise sowie irreführende Empfehlungen oder Entscheidungen. Sie gaben an, mit der Regierung zusammenzuarbeiten, um Lücken in den Vorschriften zu finden., wie die Anwaltskanzlei Burges Salmon zusammenfasste.
Die Zahl hinter der Warnung
Die Drohung hat Gewicht aufgrund eines Gesetzes, das im April 2025 in Kraft trat. Gemäß diesem Gesetz kann die CMA selbst entscheiden, dass gegen das Verbraucherrecht verstoßen wurde, ohne ein Gericht anrufen zu müssen, und Ein Unternehmen kann mit einer Geldstrafe von bis zu 101.600 Billionen seines weltweiten Umsatzes belegt werden.. Die Erklärung enthält keine eigenen neuen Regeln oder Bußgelder.
Die CMA hatte bereits veröffentlicht Leitfaden zu agentenbasierter KI und Verbrauchern im März und aktualisierte diese Seite, um auf die neue Stellungnahme zu verweisen.
Der Zeitpunkt ist entscheidend. Große US-amerikanische Kaufhäuser und Banken sind bereits dabei. Blockierung externer KI-Einkaufsagenten, unter Berufung auf Sicherheitsbedenken. Die Botschaft Großbritanniens richtet sich an die andere Seite dieses Konflikts: Unternehmen, die Agenten im Namen ihrer Kunden einsetzen.
Warum es wichtig ist
Wenn ein KI-Agent das falsche Produkt kauft, Ihre Daten weitergibt oder Sie zu einem schlechteren Angebot lenkt, ist laut britischen Aufsichtsbehörden das dahinterstehende Unternehmen verantwortlich. Das gibt britischen Nutzern einen einfacheren Weg, Beschwerden einzureichen, noch bevor es ein spezifisches Gesetz für Agenten gibt.
