Plusieurs universités, dont Vanderbilt, Michigan State, Northwestern et l'Université du Texas à Austin, s'abstiennent d'utiliser Turnitin, qui détecte les contenus générés par l'IA dans les travaux des étudiants.
Turnitin, réputé pour ses outils de détection du plagiat, a introduit en avril une fonction permettant d'identifier les contenus rédigés par des machines.
Cependant, les modèles d'IA actuels, tels que Les GPT-4 échappent souvent à la détectionLes contenus authentiques rédigés par des personnes sont souvent signalés à tort comme étant des plagiats.
Cette dernière est plus préoccupante pour les établissements d'enseignement supérieur, car elle peut donner lieu à de fausses accusations, voire à des répercussions juridiques.
En outre, des études suggèrent que les personnes qui parlent l'anglais en tant que langue maternelle sont plus susceptibles d'avoir des difficultés à s'exprimer en anglais que les autres. une deuxième langue ou ne sont pas des locuteurs natifs sont beaucoup plus susceptibles de voir leur travail signalé comme étant généré par l'IA.
Lorsqu'il est activé, le logiciel de détection de l'IA évalue les documents, décompose le texte et attribue des notes selon que le contenu semble humain ou généré par l'IA.
La précision de la détection de l'IA par Turnitin a été remise en question. Michael Coley, consultant en technologie pédagogique à l'université Vanderbilt, a fait remarquer que "la question de savoir comment Turnitin détecte l'écriture artificielle et si c'est même possible se pose". À ce jour, Turnitin ne donne aucune information détaillée sur la manière dont il détermine si un texte est généré par l'IA. Tout ce qu'ils ont dit, c'est que l'outil recherche des modèles communs dans l'écriture artificielle, mais ils n'expliquent pas ou ne définissent pas ce que sont ces modèles".
L'université Vanderbilt a souligné que même un taux de faux positifs inférieur à 1 %, comme l'affirme Turnitin, pourrait entraîner le marquage incorrect de 750 articles par an, étant donné qu'elle a traité 75 000 articles à l'aide de Turnitin en 2022.
M. Coley a également fait part de ses inquiétudes concernant la confidentialité des données : "Le fait de saisir des données sur les élèves dans un détecteur géré par une société externe dont les politiques en matière de confidentialité et d'utilisation des données ne sont pas claires suscite de réelles inquiétudes en matière de protection de la vie privée. La détection de l'IA est un défi, et sa complexité ne fera qu'augmenter au fur et à mesure que les outils d'IA évolueront. Nous ne considérons pas les logiciels de détection de l'IA comme un outil efficace".
Annie Chechitelli, chef de produit chez Turnitin, a souligné que l'outil d'étiquetage de l'IA ne devait pas être utilisé pour pénaliser automatiquement les étudiants.
Elle a déclaré : "Chez Turnitin, nous partons du principe que rien ne peut remplacer la compréhension du style d'écriture et des antécédents d'un élève. Notre technologie n'est pas destinée à remplacer le jugement des enseignants. Les rapports sur la présence d'écriture de l'IA sont destinés à faciliter les discussions avec les étudiants, et non à conclure à une mauvaise conduite.
Les futures générations de modèles d'IA deviendront de plus en plus sophistiquées et mieux à même d'échapper aux détecteurs d'IA, dont les limites ont déjà été mises en évidence.
Le rôle de l'IA dans l'éducation ne manquera pas d'être testée plus avant.
