L'intelligenza artificiale crea scompiglio nel processo di revisione paritaria in ambito scientifico.
L'editoria scientifica di fronte a una questione sempre più controversa: come gestire l'intelligenza artificiale nella revisione paritaria?
L'ecologo Timothée Poisot ha recentemente ricevuto una revisione che era chiaramente generata da ChatGPT. Il documento conteneva la seguente inequivocabile frase: "Ecco una versione rivista della tua revisione, con maggiore chiarezza e struttura".“
Poisot era furioso. "Invio un manoscritto per la revisione nella speranza di ricevere commenti dai miei colleghi", ha tuonato in un post sul suo blog. "Se questa aspettativa non viene soddisfatta, l'intero contratto sociale della revisione tra pari viene meno."“
L'esperienza di Poisot non è un caso isolato. studio recente Uno studio pubblicato su Nature ha rilevato che fino a 171.000 recensioni di articoli per conferenze sull'IA nel 2023-2024 mostravano segni di modifiche sostanziali da parte di modelli linguistici.
E in un separato Indagine naturalistica, Quasi un ricercatore su cinque ha ammesso di utilizzare l'intelligenza artificiale per velocizzare e semplificare il processo di revisione tra pari.
Abbiamo anche assistito ad alcuni casi assurdi di ciò che accade quando i contenuti generati dall'IA sfuggono al processo di revisione paritaria, che è progettato per garantire la qualità della ricerca.
Nel 2024, un articolo pubblicato su Frontiers È stato scoperto che una rivista, che esplorava alcuni percorsi di segnalazione cellulare estremamente complessi, conteneva diagrammi bizzarri e privi di senso, generati dallo strumento di intelligenza artificiale Midjourney.
Una delle immagini raffigurava un topo deforme, mentre le altre erano solo vortici e scarabocchi casuali, pieni di testo senza senso.
Su Twitter, molti utenti si sono detti sconcertati dal fatto che figure così palesemente errate avessero superato la revisione paritaria. "Ehm, come ha fatto la Figura 1 a superare il vaglio di un revisore paritario?!" ha chiesto uno di loro.
In sostanza, i rischi sono due: a) che i revisori utilizzino l'intelligenza artificiale per valutare i contenuti e b) che contenuti generati dall'intelligenza artificiale riescano a eludere l'intero processo di revisione tra pari.
Gli editori stanno reagendo al problema. Elsevier ha vietato completamente l'IA generativa nella revisione paritaria. Wiley e Springer Nature ne consentono un "uso limitato" con obbligo di informativa. Alcuni, come l'American Institute of Physics, stanno sperimentando con cautela strumenti di IA per integrare, ma non sostituire, il feedback umano.
Tuttavia, il fascino dell'IA di nuova generazione è forte e alcuni ne riconoscono i benefici se applicata con giudizio. Uno studio di Stanford ha rilevato che il 401% degli scienziati riteneva che le revisioni del loro lavoro effettuate da ChatGPT potessero essere utili quanto quelle umane, e il 20% addirittura di più.
Il mondo accademico si basa da millenni sul contributo umano, quindi la resistenza è forte. “"Non contrastare le revisioni automatizzate significa arrendersi", ha scritto Poisot.
Secondo molti, il punto fondamentale della revisione tra pari è quello di ricevere un feedback da altri esperti, non di essere una mera approvazione algoritmica.
