De voormalige advocaat van Donald Trump, Michael Cohen, heeft onthuld dat hij zijn advocaat per ongeluk heeft voorzien van door AI gegenereerde valse zaakcitaten.
Deze citaten waren per ongeluk opgenomen in een officieel gerechtelijk dossier.
Cohen verklaarde deze onoplettendheid in een beëdigde verklaring voor een federale rechtbank in Manhattan, waarbij hij opmerkte dat Google Bard de citaten produceerde.
Hij was zich er toen niet van bewust dat generatieve AI verkeerde informatie kan genereren. genaamd hallucinaties.
De kwestie kwam aan het licht toen US District Judge Jesse Furman opmerkte dat drie rechtszaken die werden aangehaald in Cohens verzoek om zijn vrijlating onder toezicht vervroegd te beëindigen, in feite niet bestonden.
Vrijlating onder toezicht is een bepaalde periode na het uitzitten van een gevangenisstraf waarin iemand onder toezicht staat en moet voldoen aan specifieke voorwaarden die door de rechtbank zijn opgelegd.
Rechter Furman ondervroeg de advocaat van Cohen, David Schwartz, waarom hij niet disciplinair vervolgd zou moeten worden voor het aanhalen van deze denkbeeldige zaken.
In zijn reactie zei Cohen, die ongeveer vijf jaar geleden zijn juridische licentie kwijtraakte na zijn veroordeling voor verschillende financiële en verkiezingsfraude,: "Ik betreur ten zeerste de problemen die de indiening van de heer Schwartz kan hebben veroorzaakt".
Hij gaf ook toe dat hij recente ontwikkelingen in de juridische technologie niet goed begreep, met name het vermogen van tools als Google Bard om plausibele maar niet-bestaande juridische citaten te genereren.
Dit is niet de eerste keer dat een Amerikaanse advocaat wordt betrapt op vals, door AI gegenereerd juridisch onderzoek.
Eerder dit jaar was Steven Schwartz (geen familie van David Schwartz), een advocaat uit New York, geconfronteerd met gevolgen voor het gebruik van ChatGPT om valse rechtszaken te onderzoeken voor een juridische klacht van een klant.
Schwartz en zijn collega Peter LoDuca verschenen voor de rechtbank om hun gebruik van door AI gegenereerde valse zaken uit te leggen. Ze gaven toe dat ze in hun juridische werk naar deze vervalste zaken verwezen.
US District Judge Kevin Castel zei over de juridische brief met valse zaken: "Zes van de ingediende zaken lijken nep rechterlijke uitspraken te zijn met nep citaten en nep interne citaten".
Hoewel AI-gebruikers nu een beter begrip zouden moeten hebben van het vermogen van de technologie om valse en onechte informatie te produceren, is het hoogst onwaarschijnlijk dat we van dit soort situaties het laatste hebben gehoord.
