Verschillende universiteiten, waaronder Vanderbilt, Michigan State, Northwestern en de University of Texas at Austin, zien af van het gebruik van Turnitin, dat door AI gegenereerde inhoud detecteert in inzendingen van studenten.
Turnitin, bekend om zijn plagiaatdetectietools, introduceerde in april een functie om machinaal geschreven inhoud te identificeren.
De huidige AI-modellen zoals GPT-4 ontwijkt vaak detectieEchte, door mensen geschreven inhoud wordt vaak ten onrechte gemarkeerd als plagiaat.
Dit laatste is zorgwekkender voor hogescholen en universiteiten, omdat het kan leiden tot valse beschuldigingen en zelfs juridische gevolgen.
Bovendien suggereren studies dat mensen die Engels spreken als een tweede taal of geen moedertaalsprekers zijn hebben een aanzienlijk grotere kans dat hun werk wordt gemarkeerd als AI-gegenereerd.
Wanneer geactiveerd, evalueert AI-detectiesoftware documenten, splitst de tekst op en kent scores toe op basis van of de inhoud menselijk of door AI gegenereerd lijkt.
De nauwkeurigheid van de AI-detectie van Turnitin wordt in twijfel getrokken. Michael Coley, een consultant op het gebied van instructietechnologie aan de Vanderbilt Universiteit, merkte op: "Er is een grotere vraag over hoe Turnitin AI-schrijven detecteert en of dat überhaupt mogelijk is. Tot nu toe geeft Turnitin geen gedetailleerde informatie over hoe het bepaalt of een stuk tekst door AI is gegenereerd. Ze hebben hooguit gezegd dat de tool zoekt naar patronen die veel voorkomen in AI-schrijfwerk, maar ze leggen niet uit of definiëren niet wat die patronen zijn."
Vanderbilt University benadrukte dat zelfs een vals-positief percentage van minder dan één procent, zoals Turnitin beweert, ertoe kan leiden dat jaarlijks 750 papers ten onrechte worden gemarkeerd, gezien het feit dat ze in 2022 75.000 papers verwerkten met behulp van Turnitin.
Coley uitte verder zijn bezorgdheid over de privacy van gegevens: "Er zijn reële zorgen over de privacy van leerlingen die gegevens invoeren in een detector die wordt beheerd door een extern bedrijf met een onduidelijk privacy- en gegevensgebruikbeleid. AI-detectie is een uitdaging en de complexiteit zal alleen maar toenemen naarmate AI-tools zich verder ontwikkelen. We zien AI-detectiesoftware niet als een effectief hulpmiddel."
Annie Chechitelli, chief product officer van Turnitin, benadrukte dat hun AI-flagging tool niet moet worden gebruikt om studenten automatisch te straffen.
Ze verklaarde: "Onze leidraad bij Turnitin is dat er geen vervanging is voor het begrijpen van de schrijfstijl en achtergrond van een leerling. Onze technologie is niet bedoeld om het oordeel van docenten te vervangen. Rapporten over AI-schrijfaanwezigheid zijn bedoeld om discussies met leerlingen te vergemakkelijken, niet om wangedrag vast te stellen."
Toekomstige generaties AI-modellen zullen alleen maar geavanceerder worden en beter in staat zijn om AI-detectors, waarvan de beperkingen al zijn blootgelegd, te omzeilen.
De rol van AI in het onderwijs zal zeker verder worden getest.
