Varias universidades, entre ellas Vanderbilt, Michigan State, Northwestern y la Universidad de Texas en Austin, se abstienen de utilizar Turnitin, que detecta contenidos generados por IA en los envíos de los estudiantes.
Turnitin, famosa por sus herramientas de detección de plagios, introdujo en abril una función para identificar contenidos escritos por máquinas.
Sin embargo, los modelos actuales de IA, como GPT-4 a menudo evaden la deteccióny los contenidos auténticos escritos por personas suelen marcarse falsamente como plagiados.
Esto último es más preocupante para los colegios y universidades, ya que podría dar lugar a acusaciones falsas e incluso a repercusiones legales.
Además, los estudios sugieren que quienes hablan inglés como segunda lengua o no son nativos tienen muchas más probabilidades de que su trabajo se considere generado por IA.
Cuando se activa, el software de detección de IA evalúa los documentos, desglosa el texto y asigna puntuaciones en función de si el contenido parece humano o generado por IA.
Se ha cuestionado la precisión de la detección de IA de Turnitin. Michael Coley, consultor de tecnología de la enseñanza en la Universidad de Vanderbilt, señaló: "Hay una cuestión más amplia sobre cómo Turnitin detecta la escritura con IA y si eso es siquiera posible". Hasta la fecha, Turnitin no da información detallada sobre cómo determina si un escrito está generado por IA. Lo más que han dicho es que la herramienta busca patrones comunes en la escritura de IA, pero no explican ni definen cuáles son esos patrones".
La Universidad de Vanderbilt destacó que incluso una tasa de falsos positivos de menos del uno por ciento, como afirma Turnitin, podría dar lugar a 750 documentos marcados incorrectamente al año, dado que procesaron 75.000 documentos utilizando Turnitin en 2022.
Coley expresó además su preocupación por la privacidad de los datos, afirmando: "Existe una verdadera preocupación por la privacidad a la hora de tomar los datos de los estudiantes e introducirlos en un detector gestionado por una empresa externa con políticas de privacidad y uso de datos poco claras". La detección de IA es un reto, y su complejidad no hará sino aumentar a medida que evolucionen las herramientas de IA. No vemos el software de detección de IA como una herramienta eficaz".
Annie Chechitelli, jefa de producto de Turnitin, subrayó que su herramienta de marcado por IA no debe utilizarse para penalizar automáticamente a los estudiantes.
En Turnitin, nuestra orientación es que no hay sustituto para la comprensión del estilo de escritura y los antecedentes de un estudiante. Nuestra tecnología no pretende sustituir el juicio de los educadores. Los informes sobre la presencia de la IA en la escritura están pensados para facilitar las discusiones con los estudiantes, no para concluir una mala conducta."
Las futuras generaciones de modelos de inteligencia artificial serán cada vez más sofisticadas y capaces de eludir los detectores de inteligencia artificial, cuyas limitaciones ya han quedado al descubierto.
El papel de la IA en la educación es seguro que se seguirá probando.
