Ende Mai benutzte der New Yorker Anwalt Steven A. Schwartz ChatGPT, um im Auftrag eines Mandanten Rechtsfälle zu recherchieren.
Schwartz und ein Kollege aus derselben Kanzlei, Peter LoDuca, erschienen am Donnerstag vor einem Richter, um ihr Vorgehen zu erklären.
Bei der Anhörung gaben beide Anwälte zu, sich auf falsche, von ChatGPT generierte Rechtsfälle bezogen zu haben.
Schwartz nutzte ChatGPT, um rechtliche Präzedenzfälle zu finden, die den Fall eines Mandanten gegen die kolumbianische Fluggesellschaft Avianca unterstützen sollten, dem die AI ergab mehrere falsche Fälle und einen echten Fall mit grob veränderten Details.
Schwartz zitierte diese im Schriftsatz des Klägers, aber als der US-Bezirksrichter Kevin Castel diesen erhielt, bemerkte er schnell die Sechs der vorgelegten Fälle scheinen gefälschte Gerichtsentscheidungen mit falschen Zitaten und falschen internen Verweisen zu sein".
"Ich habe nicht verstanden, dass ChatGPT Fälle fabrizieren kann", gestand Schwartz gegenüber Castel und gab zu, dass er "in dem Irrglauben gehandelt hat, dass diese Website diese Fälle aus einer Quelle bezieht, zu der ich keinen Zugang hatte".
Richter Castel konfrontierte sie mit einem bestimmten erfundenen Rechtsfall, der Schwartz als falsch hätte auffallen müssen. Der Fall wurde zunächst als widerrechtliche Tötung bezeichnet, später aber in einen Fall umgewandelt, bei dem es um einen Mann ging, der einen Flug verpasst hatte und gezwungen war, zusätzliche Kosten zu zahlen.
Mit anderen Worten: Selbst für einen Laien war es wahrscheinlich offensichtlich, dass dieser Fall falsch war, so dass Schwartz die Ausgabe der KI wahrscheinlich nicht richtig gelesen hat. "Können wir uns darauf einigen, dass das juristisches Kauderwelsch ist?" sagte Castel über den Fall.
Schwartz entschuldigte sich ausgiebig: "Ich möchte mich aufrichtig entschuldigen", und sagte, er fühle sich "beschämt, gedemütigt und äußerst reumütig".
LoDuca gab zu, dass er das von Schwartz zusammengestellte Material nicht ausreichend geprüft hat. Er sagte: "Mir ist nie klar geworden, dass es sich um einen Schwindelfall handelte", und das Ergebnis "schmerzt mich unendlich".
In Bezug auf die Frage, ob das Duo bestraft wird, argumentierte Rechtsanwalt Ronald Minkoff, dass die Handlungen der beiden "aus Unachtsamkeit und nicht in böser Absicht" erfolgten und daher nicht bestraft werden sollten.
Minkoff argumentierte: "Herr Schwartz, der kaum auf Bundesebene forscht, hat sich für diese neue Technologie entschieden. Er dachte, er hätte es mit einer Standard-Suchmaschine zu tun".
Das endgültige Urteil über die Sanktionen steht noch aus.
KI-"Halluzinationen" werfen sowohl ethische als auch rechtliche Fragen auf
Eine Folge von Rechtsfälle treffen OpenAIDazu gehören auch drei Fälle von potenzieller Verleumdung, die auftraten, als die Ausgaben von ChatGPT falsche und verleumderische Informationen enthielten.
Das Ergebnis ist hier anders. Dies ist ein Beispiel für Fehlverhalten aufgrund von Ratschlägen, die aus der ChatGPT-Ausgabe stammen.
Daniel Shin, Hilfsprofessor und stellvertretender Forschungsleiter am Center for Legal and Court Technology an der William & Mary Law School, sagte: "Dies war der erste dokumentierte Fall eines potenziellen beruflichen Fehlverhaltens eines Anwalts, der generative KI eingesetzt hat."
Es war nur eine Frage der Zeit, bis jemand diesen Fehler machen würde. Schwartz war der erste (soweit wir wissen), der einen Präzedenzfall geschaffen hat, mit dem er wahrscheinlich nicht gerechnet hat.
