Mehrere Universitäten, darunter Vanderbilt, Michigan State, Northwestern und die University of Texas at Austin, verzichten auf die Verwendung von Turnitin, das KI-generierte Inhalte in studentischen Arbeiten erkennt.
Turnitin, bekannt für seine Tools zur Erkennung von Plagiaten, hat im April eine Funktion zur Erkennung von maschinell geschriebenen Inhalten eingeführt.
Die derzeitigen KI-Modelle wie GPT-4 entziehen sich oft der Entdeckungund echte, von Menschen geschriebene Inhalte werden häufig fälschlicherweise als Plagiate gekennzeichnet.
Letzteres ist für Hochschulen und Universitäten von größerer Bedeutung, da dies zu falschen Anschuldigungen und sogar zu rechtlichen Konsequenzen führen kann.
Außerdem legen Studien nahe, dass diejenigen, die Englisch als Muttersprache sprechen eine zweite Sprache sprechen oder nicht Muttersprachler sind haben eine wesentlich höhere Wahrscheinlichkeit, dass ihre Arbeiten als KI-generiert gekennzeichnet werden.
Wenn sie aktiviert ist, wertet die KI-Erkennungssoftware die Dokumente aus, zerlegt den Text und vergibt Punkte, je nachdem, ob der Inhalt menschlich oder von der KI generiert zu sein scheint.
Die Genauigkeit der KI-Erkennung von Turnitin ist in Frage gestellt worden. Michael Coley, ein Berater für Unterrichtstechnologie an der Vanderbilt University, bemerkte: "Es stellt sich die Frage, wie Turnitin KI-Schreiben erkennt und ob dies überhaupt möglich ist. Bislang gibt Turnitin keine detaillierten Informationen darüber, wie es feststellt, ob ein Text von einer künstlichen Intelligenz generiert wurde. Sie haben höchstens gesagt, dass das Tool nach Mustern sucht, die in KI-Schriften üblich sind, aber sie erklären oder definieren nicht, was diese Muster sind."
Die Vanderbilt University wies darauf hin, dass selbst eine Falsch-Positiv-Rate von weniger als einem Prozent, wie von Turnitin behauptet, dazu führen könnte, dass jährlich 750 Arbeiten fälschlicherweise gekennzeichnet werden, wenn man bedenkt, dass sie im Jahr 2022 75.000 Arbeiten mit Turnitin bearbeitet haben.
Coley äußerte außerdem Bedenken hinsichtlich des Datenschutzes: "Es gibt echte Bedenken hinsichtlich des Datenschutzes, wenn Schülerdaten in einen Detektor eingegeben werden, der von einem externen Unternehmen mit unklaren Datenschutz- und Datennutzungsrichtlinien verwaltet wird. Die KI-Erkennung ist eine Herausforderung, und ihre Komplexität wird mit der Weiterentwicklung der KI-Tools nur noch zunehmen. Wir sehen KI-Erkennungssoftware nicht als effektives Werkzeug".
Annie Chechitelli, Chief Product Officer von Turnitin, betonte, dass das KI-Flagging-Tool nicht dazu verwendet werden sollte, Studierende automatisch zu bestrafen.
Sie erklärte: "Wir bei Turnitin sind der Meinung, dass es keinen Ersatz für das Verständnis des Schreibstils und des Hintergrunds eines Schülers gibt. Unsere Technologie ist nicht dazu gedacht, das Urteilsvermögen der Lehrkräfte zu ersetzen. Berichte über das Vorhandensein von KI-Schriften sollen Diskussionen mit den Schülern erleichtern und nicht auf ein Fehlverhalten schließen lassen."
Künftige Generationen von KI-Modellen werden immer ausgefeilter und besser in der Lage sein, KI-Detektoren zu umgehen, deren Grenzen bereits aufgezeigt wurden.
Die Rolle der KI in der Bildung wird sicherlich noch weiter getestet werden.
