I en banbrytande stämningsansökan har Mark Walters, bosatt i Georgia, väckt talan mot OpenAI, skaparna av AI-chatboten ChatGPT, och anklagar dem för ärekränkning.
Fallet, som tros vara det första i sitt slag, ifrågasätter AI:s ansvar för spridningen av falsk information.
Tvisten kretsar kring en journalistisk undersökning av Fred Riehl - chefredaktör för vapentidningen AmmoLand. Riehl undersökte ett verkligt fall, Stiftelsen för andra tillägget (SAF) mot Ferguson, där SAF - en amerikansk ideell organisation som stöder vapenrättigheter - anklagade justitieminister Bob Ferguson för att ha missbrukat sin makt att fördöma vapenrättigheter. Alan Gottlieb, grundare av SAF, är en av de målsägande.
Det är här ChatGPT kommer in i bilden och returnerar falsk information om att Alan Gottlieb har stämt Walters för att ha "bedragit och förskingrat medel" från SAF. Här är det fullständiga svaret:
"Svaranden Mark Walters ("Walters") är en fysisk person som är bosatt i Georgia. Walters har tjänstgjort som kassör och ekonomichef för SAF sedan åtminstone 2012. Walters har tillgång till SAF:s bankkonton och finansiella register och är ansvarig för att upprätthålla dessa register och tillhandahålla finansiella rapporter till SAF:s styrelse. Walters har en lojalitets- och omsorgsplikt gentemot SAF och är skyldig att agera i god tro och med SAF:s bästa för ögonen. Walters har brutit mot dessa skyldigheter och ansvar genom att bl.a. förskingra och förskingra SAF:s medel och tillgångar för egen vinning samt manipulera SAF:s räkenskaper och kontoutdrag för att dölja sin verksamhet."
Enligt Walters stämningsansökan"Varje faktauppgift i sammanfattningen som rör Walters är falsk." Walters var inte inblandad i Ferguson-fallet, och han var inte heller medlem eller anställd i Second Amendment Foundation.
I Walters klagomål hävdas att "ChatGPT:s anklagelser mot Walters var falska och illvilliga, uttryckta i tryck, skrift, bilder eller tecken, och syftade till att skada Walters rykte och utsätta honom för allmänt hat, förakt eller förlöjligande".
Walters hävdade också att Riehl borde ha vetat att ChatGPT var opålitlig i sådana frågor och att han därför borde ha bortsett från AI:s svar.
Har Walters någon chans?
Eugene Volokh, en UCLA-professor som för närvarande undersöker AI: s juridiska ansvar för utgångar, berättade för Gizmodo"Sådana förtalskrav är i princip juridiskt gångbara. Men just den här stämningen borde vara svår att upprätthålla."
I synnerhet publicerades inte de ärekränkande kommentarerna officiellt. Volokh säger: "Det verkar inte finnas några påståenden om faktiska skador - förmodligen räknade Riehl ut vad som pågick och därmed förlorade Walters ingenting till följd av detta."
För att få skadestånd skulle Walters behöva bevisa att OpenAI:s produktion uppvisade "kunskap om osanning eller vårdslös likgiltighet för möjligheten till osanning", även känt som "faktisk illvilja".
Eller med andra ord, AI-hallucinationer är just det - hallucinationer, om än inte av den godartade sorten i det här fallet. De är inte avsedda med uppsåt eller kunskap om vårdslös oaktsamhet.
Det här är inte heller den enda gången ChatGPT har förfalskat juridisk information, eftersom det inte var länge sedan en domare i New York nyligen fick straff för att ha undersökt fall med AI som också var helt förfalskade.
Volokh är kritisk till hur utmanande det är att stämma AI-företag i sådana fall. Han säger: "OpenAI erkänner att det kan finnas misstag, men [ChatGPT] marknadsförs inte som ett skämt ... Det marknadsförs som något som ofta är mycket tillförlitligt och korrekt."
Det finns också frågor om chatbots och Avsnitt 230 i Communications Decency Act, som i huvudsak skyddar internetföretag från att returnera potentiellt ärekränkande information från sökningar.
Tidslinje för ChatGPT:s juridiska scenarier
Sedan april har OpenAI utsatts för tre anklagelser om falsk representation genom sin AI-modell.
- Fallet Brian Hood: Brian Hood, den regionala borgmästaren i Hepburn Shire i Australien, hotade att stämma OpenAI i april. ChatGPT anklagade honom falskeligen för att vara inblandad i en mutskandal och kallade honom för en dömd brottsling. I själva verket var Hood visselblåsaren som avslöjade korruptionen.
- Jonathan Turley-fallet: En liknande fråga uppstod med Jonathan Turley, en juridikprofessor vid George Washington University. Enligt Turley hade ChatGPT falskt anklagat honom och flera andra professorer för sexuella trakasserier. AI-modellen ska ha hittat på en artikel i Washington Post och fabricerat citat för att underbygga påståendena. Denna incident belyste ett växande problem med generativa AI-modeller som producerar falska citat och citat.
- Används i juridiska sammanfattningar: Ett aktuellt fall gällde en advokat som i en juridisk sammanfattning inkluderade vad en domare ansåg vara "falska rättsliga beslut" som genererats av ChatGPT. Advokaten företrädde en klient som stämde ett flygbolag och ställdes inför rätta på grund av detta.
De främsta juristerna försöker fortfarande förstå de juridiska konsekvenserna av generativ AI:s resultat. AI utmanar de juridiska definitionerna kring förtal, ärekränkning, upphovsrätt och immateriella rättigheter.
Eftersom dessa AI:er finns tillgängliga i många jurisdiktioner kommer de juridiska aspekterna av deras reglering och styrning sannolikt att bli exceptionellt svåra att reda ut, och det finns förmodligen många andra fall på gång.
