Las críticas falsas son omnipresentes e inevitables, pero nunca habían sido tan difíciles de identificar.
Según algunas estimaciones, 40% de las opiniones de Amazon son falsaspero esto también se extiende a sitios como Trustpilot, Tripadvisor y Google Reviews.
En abril, CNBC informó que algunas reseñas de Amazon delatan su origen al comenzar su redacción con "Como modelo lingüístico de IA...". Sin embargo, en su mayor parte, las reseñas falsas generadas por IA son difíciles de identificar a simple vista.
En un esfuerzo por acabar con las reseñas fraudulentas, la Comisión Federal de Comercio (FTC) debatió recientemente el establecimiento de normas para prohibir las reseñas falsas y pagadas, con duras sanciones para quien las infrinja.
Michael Atleson, abogado de la División de Prácticas Publicitarias de la FTC, dijo: "No sabemos -en realidad no tenemos forma de saberlo- hasta qué punto los malos actores están utilizando realmente cualquiera de estas herramientas, y cuánto puede ser generado por bots frente a generado por humanos."
Sin embargo, eso depende de distinguir las reseñas falsas de las reales, lo cual es sumamente difícil ahora que la IA es lingüísticamente precisa y conocedora de multitud de temas.
La IA está subiendo el nivel de las críticas falsas
Fakespot, una startup que utiliza IA para discernir reseñas fraudulentas, ha registrado un aumento de las reseñas falsas generadas por IA, según su director general, Saoud Khalifah. La empresa está invirtiendo ahora en técnicas diseñadas para identificar reseñas creadas por sistemas de IA, como ChatGPT.
"Lo que es muy diferente hoy en día es que las modelos tienen conocimientos hasta el punto de poder escribir sobre cualquier cosa", declaró Khalifah.
Otra cuestión es, ¿quién puede decir que alguien no está utilizando la IA para ayudarle a escribir una reseña auténtica?
Las opiniones generadas por IA no van estrictamente en contra de las políticas de Amazon. Según un portavoz de la empresaLa empresa permite a los clientes publicar opiniones creadas por la IA, siempre que sean auténticas y respeten las directrices de la política.
La cuestión clave es si la IA encargada de detectar las reseñas falsas puede ser más astuta que la IA que las genera. Saoud Khalifah, de Fakespot, señaló que las primeras reseñas falsas generadas por IA que detectó su empresa procedían de la India y habían sido creadas por "granjas de reseñas falsas".
"Sin duda, es una prueba difícil de superar para estas herramientas de detección", afirma Bhuwan Dhingra, profesor adjunto de Informática en la Universidad de Duke. "Porque si los modelos coinciden exactamente con la forma en que los humanos escriben algo, entonces realmente no se puede distinguir entre los dos".
Ben Zhao, catedrático de Informática de la Universidad de Chicago, argumentó de forma similar que es "casi imposible" que la IA pueda detectar eficazmente las críticas generadas por ella.
"Es una persecución continua del gato y el ratón, pero al fin y al cabo no hay nada fundamental que distinga a un contenido creado por IA", afirma.
Por ahora, las reseñas falsas seguirán formando parte del mobiliario de Internet, y es probable que cada vez sea más difícil distinguirlas de las auténticas, tanto para los humanos como para los avanzados sistemas de IA encargados de identificarlas.
"Es aterrador para los consumidores", afirma Teresa Murray, directora de la oficina de defensa del consumidor del Grupo de Investigación de Interés Público de Estados Unidos.
"La IA ya está ayudando a las empresas deshonestas a escupir reseñas que suenan reales con un tono conversacional por miles en cuestión de segundos".
Se acabaron las reseñas falsas mal redactadas - prepárate para críticas de IA escritas con precisión que no podrás discernir de la realidad.
