Várias universidades, incluindo a Vanderbilt, a Michigan State, a Northwestern e a Universidade do Texas em Austin, estão a abster-se de utilizar o Turnitin, que detecta conteúdos gerados por IA nos trabalhos dos estudantes.
A Turnitin, conhecida pelas suas ferramentas de deteção de plágio, introduziu em abril uma funcionalidade para identificar conteúdos escritos por máquinas.
No entanto, os actuais modelos de IA, tais como A GPT-4 escapa frequentemente à deteçãoe o conteúdo genuíno escrito por humanos é frequentemente assinalado como plágio.
Esta última é mais preocupante para os colégios e universidades, podendo conduzir a falsas acusações e mesmo a repercussões legais.
Além disso, os estudos sugerem que as pessoas que falam inglês como língua segunda língua ou não são falantes nativos têm uma probabilidade consideravelmente maior de ver o seu trabalho assinalado como tendo sido gerado por IA.
Quando ativado, o software de deteção de IA avalia os documentos, decompondo o texto e atribuindo pontuações com base no facto de o conteúdo parecer humano ou gerado por IA.
A exatidão da deteção de IA do Turnitin tem sido questionada. Michael Coley, consultor de tecnologia de ensino na Universidade de Vanderbilt, observou: "Há uma questão mais ampla sobre a forma como o Turnitin detecta a escrita com IA e se isso é sequer possível. Até à data, o Turnitin não fornece informações pormenorizadas sobre a forma como determina se uma peça escrita é gerada por IA. O máximo que eles disseram é que a ferramenta procura padrões comuns na escrita de IA, mas não explicam ou definem quais são esses padrões".
A Universidade de Vanderbilt sublinhou que mesmo uma taxa de falsos positivos inferior a um por cento, como alegado pela Turnitin, poderia resultar em 750 documentos incorretamente assinalados por ano, dado que processaram 75 000 documentos utilizando a Turnitin em 2022.
Coley expressou ainda preocupações sobre a privacidade dos dados, afirmando: "Há preocupações reais sobre a privacidade de pegar nos dados dos alunos e introduzi-los num detetor gerido por uma empresa externa com políticas pouco claras de privacidade e utilização de dados. A deteção de IA é um desafio e a sua complexidade só irá aumentar à medida que as ferramentas de IA evoluem. Não vemos o software de deteção de IA como uma ferramenta eficaz".
Annie Chechitelli, directora de produto da Turnitin, sublinhou que a sua ferramenta de sinalização de IA não deve ser utilizada para penalizar automaticamente os alunos.
Ela declarou: "Na Turnitin, nossa orientação é que não há substituto para a compreensão do estilo de escrita e do histórico de um aluno. Nossa tecnologia não se destina a substituir o julgamento dos educadores. Os relatórios sobre a presença de escrita de IA destinam-se a facilitar as discussões com os alunos, não a concluir a má conduta."
As futuras gerações de modelos de IA tornar-se-ão cada vez mais sofisticadas e mais capazes de escapar aos detectores de IA, cujas limitações já foram expostas.
O papel da IA na educação será certamente objeto de novos testes.
