OpenAI siger, at de har udviklet en vandmærkemetode, der nøjagtigt registrerer tekst skrevet af ChatGPT, men de diskuterer stadig, om de skal frigive den eller ej.
At opdage AI-genereret tekst er blevet stadig vanskeligere efterhånden som LLM'erne bliver bedre til at skrive indhold. Undervisere står over for en hård kamp for at afgøre, om deres studerende selv har udført opgaver eller blot har fået ChatGPT til at skrive dem.
I en opdateret blogindlægafslørede OpenAI, at de har "udviklet en metode til vandmærkning af tekst, som vi fortsat overvejer, mens vi undersøger alternativer."
Virksomheden siger, at metoden er meget præcis og modstandsdygtig over for lokal manipulation som omskrivning. De indrømmer dog, at den ikke er idiotsikker. Hvis man kører teksten gennem et oversættelsessystem eller bruger en anden LLM til at omformulere teksten, omgår man vandmærkets effektivitet.
Hvis du bruger en AI-model til at indsætte et specialtegn som en emoji mellem hvert ord og derefter sletter tegnet, gør det også vandmærket ubrugeligt. Disse tekniske begrænsninger er dog ikke den eneste grund til, at funktionen ikke er blevet frigivet.
ChatGPT har været et særligt nyttigt skriveværktøj for personer, der ikke har engelsk som modersmål. OpenAI siger, at deres forskning viser, at frigivelsen af vandmærkeværktøjet kan få uforholdsmæssig stor indflydelse på grupper som disse og stigmatisere deres brug af AI som et nyttigt skriveværktøj.
Alternativer til tekstmetadata
OpenAI's ingeniører arbejder på måder at bruge metadata som en metode til at fremskaffe tekst i stedet for vandmærker. Billeder genereret af DALL-E 3 har allerede C2PA metadata.
OpenAI siger, at det er for tidligt at sige, hvor effektivt det vil være at tilføje metadata til AI-genereret tekst, men det har nogle potentielle fordele. For det første er metadata kryptografisk signeret, så der er ingen risiko for falske positiver.
Problemet med at bruge metadata er, at de nemt kan fjernes. OpenAI har ikke forklaret, hvordan metadata skal anvendes på tekst, men det er ekstremt enkelt at fjerne C2PA-metadata fra AI-genererede billeder.
Nogle sociale medieplatforme fjerner metadata, når billeder uploades, og ved blot at tage et screenshot af billedet omgås C2PA. Vil lignende løsninger være effektive med AI-genereret tekst med tilføjede metadata?
Hvis ChatGPT genererede tekst og tilføjede metadata til den, kunne du tage et skærmbillede af teksten, uploade det til ChatGPT og få det til at konvertere billedet til tekst. Farvel til metadata.
Dårligt for forretningen
Den anden grund til, at OpenAI måske tøver med at frigive værktøjet, er, at det kun registrerer tekst, der er genereret af ChatGPT. Hvis brugerne ved, at deres AI-genererede indhold let bliver opdaget, vil de hurtigt skifte fra ChatGPT til en anden platform.
Wall Street Journal rapporteret at OpenAI's værktøj har været klar til udgivelse i et år og var 99% effektivt. I rapporten står der: "I forsøget på at beslutte, hvad de skal gøre, har OpenAI's medarbejdere vaklet mellem virksomhedens erklærede forpligtelse til gennemsigtighed og deres ønske om at tiltrække og fastholde brugere."
En global undersøgelse bestilt af OpenAI viste, at ideen om et AI-detekteringsværktøj blev støttet med en margin på 4 til 1. En intern undersøgelse viste dog, at næsten en tredjedel af ChatGPT-brugerne ville blive afskrækket af en AI-tekstdetektor.
Brugerne ønsker, at AI-genereret indhold skal være let at få øje på, så længe det ikke er indhold, de selv har skabt.
