Die neu eingeführte KI-Übersichtsfunktion von Google, die Nutzern KI-generierte Zusammenfassungen von Suchergebnissen liefern soll, wurde dafür kritisiert, dass sie irreführende, ungenaue und manchmal geradezu bizarre Antworten liefert.
Die Funktion, die jetzt für Milliarden von Menschen verfügbar ist, nachdem Google sie auf der jüngsten Google I/O-Entwicklerkonferenzhat in den sozialen Medien viel Spott und Besorgnis ausgelöst, da die Nutzer Beispiele für die Fehler der KI aufzeigten.
Es war nur eine Frage der Zeit. Menschliche Neugierde wird auf die eine oder andere Weise die KI-Leitplanken überwinden.
Sowohl Journalisten als auch normale Nutzer haben auf X und anderen Plattformen auf Fälle hingewiesen, in denen die KI-Übersichtsfunktion zweifelhafte Quellen wie satirische Artikel von The Onion oder Scherzartikel auf Reddit so zitiert hat, als ob sie den Tatsachen entsprächen.
In einem der beunruhigendsten Fälle demonstrierte die Informatikerin Melanie Mitchell ein Beispiel für die Anzeige einer Verschwörungstheorie, die besagt, dass der frühere Präsident Barack Obama Muslim ist, was offenbar darauf zurückzuführen ist, dass die KI Informationen von einer Forschungsplattform der Oxford University Press falsch interpretiert hat.
Weitere Beispiele für die Fehler der KI sind das Plagiieren von Texten aus Blogs, ohne persönliche Bezüge zu den Kindern der Autoren zu entfernen, die Nichtanerkennung der Existenz afrikanischer Länder, die mit dem Buchstaben "K" beginnen, und sogar die Behauptung, dass Pythons Säugetiere sind.
Einige dieser ungenauen Ergebnisse, wie z. B. die Obama-Verschwörungstheorie oder der Vorschlag, Pizza mit Klebstoff zu belegen, zeigen keine KI-Zusammenfassung mehr an, sondern stattdessen Artikel, die sich auf die sachlichen Mängel der KI beziehen.
Allerdings fragen sich die Menschen jetzt, ob die KI-Übersicht jemals ihren Zweck richtig erfüllen kann.
Google hat das Problem bereits eingeräumt, wie ein Sprecher des Unternehmens mitteilte The Verge dass die Fehler bei "im Allgemeinen sehr ungewöhnlichen Abfragen auftraten und nicht repräsentativ für die Erfahrungen der meisten Menschen sind".
Die genaue Ursache des Problems bleibt jedoch unklar. Es könnte an der Neigung der KI liegen, zu "halluzinieren".
Oder es könnte von den Quellen herrühren, die Google für die Erstellung von Zusammenfassungen verwendet, wie etwa satirische Artikel oder Troll-Posts in sozialen Medien.
In einem Interview mit The Verge sprach Google-CEO Sundar Pichai das Problem der KI-Halluzinationen an. Er räumte ein, dass es sich dabei um ein "ungelöstes Problem" handelt, hielt sich aber mit einem Zeitplan für eine Lösung zurück.
Es ist nicht das erste Mal, dass Google wegen seiner KI-Produkte in die Kritik gerät. Anfang dieses Jahres geriet die Gemini-KI des Unternehmens, ein Konkurrent von ChatGPT und DALL-E von OpenAI, unter Beschuss, weil sie historisch ungenaue Bilder generierte, darunter rassisch unterschiedliche Nazi-Offiziere, weiße Präsidentinnen und einen weiblichen Papst.
Daraufhin entschuldigte sich Google später öffentlich und vorübergehend ausgesetzt Die Fähigkeit der Zwillinge, Bilder von Menschen zu erzeugen.
Die KI-Übersicht wurde auch von Website-Besitzern und in der Marketing-Community kritisiert, da sie die Gefahr birgt, dass die Nutzer nicht mehr mit den herkömmlichen Suchmaschinenergebnissen interagieren, sondern sich einfach auf KI-generierte Snippets verlassen.
