Diverse università, tra cui Vanderbilt, Michigan State, Northwestern e University of Texas at Austin, si stanno astenendo dall'utilizzare Turnitin, che rileva i contenuti generati dall'intelligenza artificiale negli elaborati degli studenti.
Turnitin, noto per i suoi strumenti di rilevamento del plagio, ha introdotto in aprile una funzione per identificare i contenuti scritti a macchina.
Tuttavia, gli attuali modelli di IA, come Le GPT-4 spesso eludono il rilevamentoe i contenuti autentici scritti dall'uomo sono spesso falsamente segnalati come plagiati.
Quest'ultimo aspetto è più preoccupante per i college e le università, e potrebbe portare a false accuse e persino a ripercussioni legali.
Inoltre, gli studi suggeriscono che coloro che parlano inglese come seconda lingua o non sono madrelingua è molto più probabile che il loro lavoro venga segnalato come generato dall'intelligenza artificiale.
Una volta attivato, il software di rilevamento dell'intelligenza artificiale valuta i documenti, scomponendo il testo e assegnando punteggi in base al fatto che il contenuto appaia umano o generato dall'intelligenza artificiale.
L'accuratezza del rilevamento dell'intelligenza artificiale da parte di Turnitin è stata messa in discussione. Michael Coley, consulente per le tecnologie didattiche presso la Vanderbilt University, ha osservato: "C'è una questione più ampia che riguarda il modo in cui Turnitin rileva la scrittura artificiale e se ciò sia possibile. Ad oggi, Turnitin non fornisce informazioni dettagliate su come determina se uno scritto è generato dall'intelligenza artificiale. Il massimo che hanno detto è che lo strumento cerca schemi comuni nella scrittura AI, ma non spiegano o definiscono quali siano questi schemi".
La Vanderbilt University ha evidenziato che anche un tasso di falsi positivi inferiore all'uno per cento, come dichiarato da Turnitin, potrebbe comportare l'assegnazione di un contrassegno errato a 750 documenti all'anno, dato che nel 2022 ha elaborato 75.000 documenti con Turnitin.
Coley ha inoltre espresso preoccupazioni sulla privacy dei dati, affermando: "Ci sono reali problemi di privacy nel prendere i dati degli studenti e inserirli in un rilevatore gestito da un'azienda esterna con politiche di privacy e di utilizzo dei dati poco chiare". Il rilevamento dell'IA è impegnativo e la sua complessità aumenterà solo con l'evoluzione degli strumenti di IA. Non riteniamo che il software di rilevamento dell'IA sia uno strumento efficace".
Annie Chechitelli, chief product officer di Turnitin, ha sottolineato che il loro strumento di correzione AI non dovrebbe essere usato per penalizzare automaticamente gli studenti.
Ha dichiarato: "In Turnitin, il nostro orientamento è che non c'è alcun sostituto per la comprensione dello stile di scrittura e del background di uno studente. La nostra tecnologia non è destinata a sostituire il giudizio degli educatori. I rapporti sulla presenza di scrittura dell'IA sono destinati a facilitare le discussioni con gli studenti, non a concludere una cattiva condotta".
Le future generazioni di modelli di IA diventeranno sempre più sofisticate e in grado di eludere i rilevatori di IA, i cui limiti sono già stati evidenziati.
Il ruolo dell'IA nell'istruzione è sicuramente da sottoporre a ulteriori verifiche.
