Das Cambridge Dictionary hat "hallucinate" zum Wort des Jahres 2023 gekürt und ihm eine neue Bedeutung im Zusammenhang mit KI zugewiesen.
Der Begriff, der traditionell mit sensorischen Erfahrungen von nicht existierenden Dingen aufgrund von Gesundheitszuständen oder Drogenkonsum in Verbindung gebracht wird, umfasst nun auch das Phänomen der KI, die falsche Informationen erzeugt.
Benutzer von generativer KI wie ChatGPT, Bard und Grok sind bereits mit Halluzinationen vertraut (oder sollten es sein), die auftreten, wenn das Modell versucht, die Lücken seines Wissens zu füllen, indem es etwas vorhersagt, das nicht den Tatsachen oder der Wahrheit entspricht.
In der neu hinzugefügten Definition von Halluzinationen heißt es: "Wenn eine künstliche Intelligenz (= ein Computersystem, das einige der Eigenschaften des menschlichen Gehirns besitzt, z. B. die Fähigkeit, Sprache in einer Weise zu produzieren, die menschlich erscheint) halluziniert, produziert sie falsche Informationen."
Das Cambridge-Wörterbuch #Wort-des-Jahres2023 ist ... 🥁.
halluzinieren' (Verb): Wenn eine künstliche Intelligenz halluziniert, produziert sie falsche Informationen.
🏆 Erfahren Sie mehr über #halluzinat ⬇️ https://t.co/R3dLwBfN0V#CambridgeWOTY pic.twitter.com/Z8nRw9IfHI
- Cambridge Dictionary (@CambridgeWords) November 15, 2023
Dieser Wandel verdeutlicht auch die sich entwickelnde Rolle der KI in unserem Alltag und die damit verbundenen kulturellen Veränderungen.
Trotz der Fortschritte bei generativen KI-Modellen wird die Zuverlässigkeit dieser KI-generierten Ergebnisse weiterhin hinterfragt, da sie manchmal ungenaue oder unsinnige Informationen liefern können.
Es gab zahlreiche prominente Fälle von Menschen, die sich auf KI verließen, ohne deren Ergebnisse zu überprüfen, die sich dann später als Halluzinationen herausstellten. Ein bemerkenswertes Beispiel war ein US-Anwalt, der inklusive gefertigter Koffer in einem im Namen eines Klägers eingereichten Schriftsatz.
Außerdem war Googles KI-Chatbot Bard in einen sachlichen Fehler in Bezug auf das James-Webb-Weltraumteleskop verwickelt, der peinlicherweise während einer Live-Demonstration auftrat.
Wendalyn Nichols, Verlagsleiterin bei Cambridge Dictionary, unterstrich die Bedeutung der menschlichen Aufsicht bei der Nutzung von KI: "Die Tatsache, dass KI 'halluzinieren' kann, erinnert uns daran, dass der Mensch bei der Nutzung dieser Werkzeuge immer noch seine Fähigkeiten zum kritischen Denken einbringen muss. KIs sind fantastisch darin, riesige Datenmengen zu durchforsten, um bestimmte Informationen zu extrahieren und zu konsolidieren. Aber je mehr Originalität man von ihnen verlangt, desto wahrscheinlicher ist es, dass sie in die Irre gehen.
Die Tatsache, dass wir der KI in "Halluzinationen" eine Definition zugewiesen haben, die sich auf unsere eigenen menschlichen Erfahrungen bezieht, ist sprachlich interessant.
Dr. Henry Shevlin, ein KI-Ethiker an der Universität Cambridge, erwähnte, dass dies ein Beispiel dafür ist, wie wir KI-Technologie vermenschlichen, um sie durch unsere menschlichen Erfahrungen zu verstehen.
Shevlin sagte: "Die weit verbreitete Verwendung des Begriffs 'halluzinieren', um sich auf Fehler von Systemen wie ChatGPT zu beziehen, liefert [...] einen faszinierenden Schnappschuss davon, wie wir KI vermenschlichen."
Neue KI- und Technikbegriffe im Cambridge Dictionary
Jenseits von "halluzinieren", die Cambridge Dictionary hinzugefügt verschiedene andere KI- und technikbezogene Begriffe:
- Schnelles Engineering: Gestaltung von Prompts für optimale KI-Antworten.
- Großes Sprachmodell (LLM): Mathematische Sprachrepräsentationen auf der Grundlage umfangreicher Daten, die eine menschenähnliche Spracherzeugung ermöglichen.
- GenAI: Kurzform für generative KI, die KI zur Erstellung von Texten, Bildern usw. umfasst.
- Zug: Beim maschinellen Lernen die Entwicklung oder Verbesserung eines Systems durch Dateneingabe.
- Schwarzer Kasten: Systeme, die ohne für den Benutzer transparente Prozesse arbeiten.
Diese Ergänzungen sowie Begriffe wie "shadowban", "vibe check", "water neutral" und "range anxiety" zeigen, wie sich der moderne Sprachgebrauch rund um aufkommende technologische Themen und Trends entwickelt, was schon seit Jahrzehnten der Fall ist.
