Der New Yorker Anwalt Steven A. Schwartz recherchierte über ChatGPT mehrere "Fälle", die sich als falsch herausstellten.
In Schwartz' Fall ging es um einen Mann, der die kolumbianische Fluggesellschaft Avianca verklagte. Der Kläger arbeitete mit einem Anwaltsteam, Levidow, Levidow & Oberman, zusammen, das einen Schriftsatz vorbereitete, der sich auf völlig falsche Rechtsfälle bezog.
Schwartz bat ChatGPT um die Zusicherung, dass die Fälle echt seien, aber er versuchte nur, einen der Fälle im Detail zu überprüfen, und ChatGPT versicherte ihm, dass dieser in den Datenbanken Westlaw und LexisNexis gefunden werden könne. Auf dieser Grundlage nahm Schwartz an, dass auch die anderen Fälle echt waren.
Später stellte sich heraus, dass nur ein Fall echt war, Zicherman gegen Korean Air Lines Co., 516 U.S. 217 (1996)und ChatGPT hat das Datum und einige andere Details falsch angegeben.
Nachdem das Team des Klägers den Schriftsatz eingereicht hatte, stellte einer der Empfänger, US-Bezirksrichter Kevin Castel, fest: "Sechs der eingereichten Fälle scheinen gefälschte Gerichtsentscheidungen mit gefälschten Zitaten und gefälschten internen Verweisen zu sein."
Einer der Gerichtsverzeichnisse sagt"Das Gericht sieht sich mit einem beispiellosen Umstand konfrontiert. Ein Schriftsatz, der vom Anwalt des Klägers gegen einen Antrag auf Klageabweisung eingereicht wurde, ist voll von Zitaten zu nicht existierenden Fällen."
Schwartz, der über 30 Jahre Erfahrung als Anwalt verfügt, beteuerte, dass es sich um einen unschuldigen Fehler gehandelt habe, und erklärte dem Gericht, dass er die Verwendung von ChatGPT zu Recherchezwecken "sehr bedauere" und sich "nicht bewusst war, dass der Inhalt falsch sein könnte". Er räumte auch ein, ChatGPT in anderen Rechtsfällen verwendet zu haben.
Schwartz, der im Auftrag von Peter LeDocu, einem Kollegen in derselben Kanzlei, handelte, soll am 8. Juni vor Gericht erscheinen, um zu erklären, warum er und seine Kanzlei nicht bestraft werden sollten.
Wenn ChatGPT prüft ChatGPT
OpenAI ist sich darüber im Klaren, dass ChatGPT anfällig dafür ist, die Wahrheit zu verdrehen, aber die KI kann selbstbewusst wirken, wenn sie kontextrelevante "Beispiele" liefert, die sachlich nicht korrekt sind - auch "Halluzinationen" genannt.
Dies ist auch ein Problem im akademischen Bereich, wo ChatGPT häufig falsche Referenzen erzeugt, die manchmal sogar so weit gehen, dass realistische Studien und Experimente erstellt werden, die nie stattgefunden haben.
Viele Universitäten haben Erklärungen veröffentlicht, die dies unterstreichen. Zum Beispiel, Duke Universität erklärtWas Sie vielleicht nicht über ChatGPT wissen, ist, dass es als zuverlässiger Forschungsassistent erhebliche Einschränkungen hat. Eine dieser Einschränkungen ist, dass es dafür bekannt ist, Zitate zu fälschen oder zu "halluzinieren" (im Sinne von maschinellem Lernen)."
Die Analyse von Referenzen auf Ungereimtheiten ist zu einem zuverlässigen Mittel für Tutoren geworden, um Schüler zu erwischen, die ChatGPT zum Schreiben von Aufsätzen verwenden.
Genau das ist Schwartz passiert - er wurde erwischt. Er war nicht der erste und wird auch nicht der letzte sein. Er schien wirklich unwissend zu sein, aber Unwissenheit ist vor Gericht nicht unbedingt eine Verteidigung.
Die Generierung falscher Rechtszitate ist ein alarmierendes Beispiel für die Fehlbarkeit von ChatGPT und dient als eindringliche Mahnung, die von generativen KIs angepriesenen "Fakten" zu überprüfen, doppelt und dreifach zu überprüfen.
