Nachdem Googles neue KI-Übersichtssuche letzte Woche in dramatischer Weise fehlgeschlagen war, spielte das Unternehmen das Problem herunter, erklärte aber, dass eine Lösung in Arbeit sei.
AI Overviews nutzt KI, um auf Informationen im Internet zurückzugreifen, um eine Suchanfrage zu beantworten. Dies erspart dem Nutzer das Durchklicken mehrerer Websites.
In einem klassischen Fall von "garbage in, garbage out" waren einige der Antworten, die AI Overviews gab drollig falsch weil sie sich auf falsche Informationen im Internet gestützt hat.
Die Leiterin der Suchabteilung Liz Reid gab eine Erklärung ab in einem Blogeintrag in dem sie sagte, dass AI Overviews ein großer Erfolg war, aber auch ein paar Probleme zugab.
Reid sagte, dass die Gründe für einige der seltsamen Ergebnisse unsinnige Abfragen oder gefälschte Screenshots waren. Zu den gefälschten Ergebnissen sagte Reid: "Diese KI-Übersichten sind nie erschienen. Wir empfehlen daher jedem, der auf diese Screenshots stößt, selbst eine Suche durchzuführen, um dies zu überprüfen.
Sie räumte ein, dass AI Overviews einige "seltsame, ungenaue oder nicht hilfreiche" Ergebnisse lieferte. Der Hauptgrund dafür ist entweder das Fehlen von Qualitätsdaten im Internet, die sich auf die Anfrage beziehen, oder dass die Anfrage unsinnig war und das Suchwerkzeug das nicht erkannt hat.
Der Vorschlag, Steine zu essen, ist ein perfektes Beispiel für die Herausforderung, vor der AI Overviews steht. Die Frage "Wie viele Steine sollte ich essen?" würde nicht von vielen Menschen gestellt werden. Als AI Overviews versuchte, diese Frage zu beantworten, fand es einen satirischen Artikel auf The Onion, in dem scherzhaft empfohlen wurde, einen kleinen Stein pro Tag zu essen.
AI Overviews ist nicht besonders gut darin, humorvolle, satirische oder sarkastische Inhalte von sachlichen Informationen zu unterscheiden, aber Google sagt, dass es die Qualität der AI Overviews-Ergebnisse verbessert hat:
- Entwicklung besserer Erkennungsmechanismen für unsinnige Suchanfragen und satirische oder humoristische Inhalte.
- Beschränken Sie die Verwendung von nutzergenerierten Inhalten (z. B. Reddit) in Antworten, die irreführende Ratschläge geben könnten.
- Es wurden Auslösebeschränkungen für Abfragen hinzugefügt, bei denen sich die KI-Übersichten als nicht so hilfreich erwiesen.
- Es wurden stärkere Leitplanken hinzugefügt, um Antworten zu Themen wie Nachrichten und Gesundheit zu begrenzen.
Die Menschen haben sich vielleicht ein wenig über die seltsamen Antworten amüsiert, aber es ist extrem schwierig, durchgehend gute Antworten auf Suchanfragen zu liefern. AI Overviews ist objektiv hilfreich, auch wenn man die Ergebnisse mit einer gewissen Skepsis betrachten muss.
KI erstellt keine Informationen, sondern verlässt sich auf ihre Trainingsdaten, oder, wie bei KI-Übersichten, liefert sie eine Antwort auf der Grundlage von durch Menschen erstellten Informationen im Internet.
AI Overviews muss dieselben schwierigen Fragen beantworten, die sich auch Menschen stellen, wenn sie etwas online lesen: Ist das wahr?
Ironischerweise wird diese Frage durch die KI nicht einfacher, sondern schwieriger zu beantworten.
