A fine maggio, l'avvocato newyorkese Steven A Schwartz ha utilizzato ChatGPT per effettuare ricerche su casi legali per conto di un cliente.
Schwartz e un collega dello stesso studio legale, Peter LoDuca, sono comparsi giovedì davanti a un giudice per spiegare le loro azioni.
All'udienza, entrambi gli avvocati hanno confessato di aver fatto riferimento a falsi casi legali generati da ChatGPT.
Schwartz ha utilizzato ChatGPT per individuare i precedenti legali a sostegno della causa di un cliente contro la compagnia aerea colombiana Avianca, alla quale l'AI ha risposto con una lettera. ha restituito diversi casi falsi e un caso reale con dettagli grossolanamente alterati.
Schwartz li ha citati nella memoria del querelante, ma quando il giudice distrettuale degli Stati Uniti Kevin Castel l'ha ricevuta, ha subito notato il Sei dei casi presentati sembrano essere decisioni giudiziarie fasulle, con citazioni fasulle e citazioni interne fasulle".
"Non avevo capito che ChatGPT potesse fabbricare casi", ha confessato Schwartz a Castel, ammettendo di aver "operato sotto l'errata convinzione... che questo sito web ottenesse questi casi da qualche fonte a cui non avevo accesso".
Il giudice Castel li ha messi di fronte a un particolare caso legale inventato che avrebbe dovuto colpire Schwartz come falso. Il caso è stato inizialmente descritto come un caso di morte ingiusta, ma poi è stato trasformato in un caso di un uomo che ha perso un volo ed è stato costretto a pagare spese aggiuntive.
In altre parole, anche per un profano era probabilmente evidente che questo caso era falso, quindi probabilmente Schwartz non ha letto bene l'output dell'IA. "Siamo d'accordo che si tratta di un'assurdità giuridica?". Castel ha commentato il caso.
Schwartz si è scusato abbondantemente: "Vorrei scusarmi sinceramente" e ha detto di sentirsi "imbarazzato, umiliato ed estremamente pentito".
LoDuca ha ammesso di non aver esaminato adeguatamente il materiale compilato da Schwartz. Ha detto: "Non mi è mai venuto in mente che si trattava di un caso fasullo" e che il risultato "mi addolora infinitamente".
Per quanto riguarda l'eventuale punizione del duo, l'avvocato Ronald Minkoff ha sostenuto che le azioni della coppia "sono derivate da negligenza, non da malafede" e, pertanto, non dovrebbero essere sanzionate.
Minkoff ha affermato: "Il signor Schwartz, che a malapena fa ricerca federale, ha scelto di usare questa nuova tecnologia. Pensava di avere a che fare con un motore di ricerca standard".
Si attende il verdetto finale sulle sanzioni.
Le "allucinazioni" dell'intelligenza artificiale pongono problemi etici e legali
Una sequenza di cause legali sta colpendo OpenAIcompresi tre casi di potenziale diffamazione che si sono verificati quando l'output di ChatGPT conteneva informazioni false e diffamatorie.
Il risultato in questo caso è diverso. Questo è un esempio di comportamento scorretto derivante da un consiglio preso dall'output di ChatGPT.
Daniel Shin, professore aggiunto e vicedirettore della ricerca presso il Center for Legal and Court Technology della William & Mary Law School, ha dichiarato: "Questo è il primo caso documentato di potenziale cattiva condotta professionale da parte di un avvocato che utilizza l'intelligenza artificiale generativa".
Era solo questione di tempo prima che qualcuno commettesse questo errore. Schwartz è stato il primo (che noi conosciamo) in quello che si è rivelato un precedente che probabilmente non si aspettava di creare.
