Flera universitet, däribland Vanderbilt, Michigan State, Northwestern och University of Texas i Austin, avstår från att använda Turnitin, som upptäcker AI-genererat innehåll i studenternas inlämningar.
Turnitin, som är känt för sina verktyg för att upptäcka plagiat, införde i april en funktion för att identifiera maskinskrivet innehåll.
Nuvarande AI-modeller, som t.ex. GPT-4 undgår ofta upptäcktoch äkta mänskligt skrivet innehåll flaggas ofta felaktigt för att vara plagierat.
Det senare är mer oroande för högskolor och universitet, vilket kan leda till falska anklagelser och till och med rättsliga efterverkningar.
Dessutom tyder studier på att de som talar engelska som modersmål andraspråk eller inte är modersmålstalare är betydligt mer benägna att få sitt arbete flaggat som AI-genererat.
När den är aktiverad utvärderar programvaran för AI-detektering dokument, bryter ner texten och tilldelar poäng baserat på om innehållet verkar mänskligt eller AI-genererat.
Noggrannheten i Turnitins AI-detektering har ifrågasatts. Michael Coley, en instruktionsteknikkonsult vid Vanderbilt University, påpekade: "Det finns en större fråga om hur Turnitin upptäcker AI-skrivning och om det ens är möjligt. Hittills ger Turnitin ingen detaljerad information om hur det avgör om ett skrivande är AI-genererat. Det mesta de har sagt är att verktyget letar efter mönster som är vanliga i AI-skrivande, men de förklarar eller definierar inte vilka dessa mönster är."
Vanderbilt University framhöll att även en falsk positiv frekvens på mindre än en procent, som hävdas av Turnitin, kan leda till att 750 papper felaktigt flaggas årligen, med tanke på att de behandlade 75 000 papper med Turnitin 2022.
Coley uttryckte vidare oro över datasekretess och sa: "Det finns verkliga integritetsfrågor om att ta studentdata och lägga in dem i en detektor som hanteras av ett externt företag med oklara policyer för integritet och dataanvändning. AI-detektering är en utmaning, och komplexiteten kommer bara att öka i takt med att AI-verktygen utvecklas. Vi ser inte programvara för AI-detektering som ett effektivt verktyg."
Annie Chechitelli, Turnitins produktchef, betonade att deras AI-flaggningsverktyg inte ska användas för att automatiskt bestraffa studenter.
Hon sa: "På Turnitin är vår vägledning att det inte finns något substitut för att förstå en elevs skrivstil och bakgrund. Vår teknik är inte avsedd att ersätta lärarnas omdöme. Rapporter om AI-skrivande närvaro är avsedda att underlätta diskussioner med studenter, inte att dra slutsatser om felaktigt uppförande."
Framtida generationer av AI-modeller kommer bara att bli mer sofistikerade och bättre på att undvika AI-detektorer, som redan har fått sina begränsningar avslöjade.
AI:s roll inom utbildning kommer säkert att testas ytterligare.
