Un nuevo trabajo de investigación recomienda que los usuarios de Internet dispongan de credenciales que demuestren que son humanos, ya que la IA es cada vez más indistinguible de las personas reales.
El periódicode la que son autores investigadores de OpenAI, Microsoft, el MIT y otros, llega en un momento en el que la "teoría de la internet muerta" es cada vez más creíble. Esa teoría sugiere que la mayoría de las interacciones y contenidos en línea son generados por bots.
Se califica de teoría conspirativa, pero los autores de este nuevo artículo parecen convencidos de que podría ocurrir, si es que no ha ocurrido ya. El documento señala que "los sistemas de IA altamente capaces pueden cambiar el panorama: Existe un riesgo sustancial de que, sin más mitigaciones, la actividad engañosa impulsada por la IA pueda saturar Internet".
Distinguir a los usuarios que utilizan IA en Internet es cada vez más difícil. La IA puede generar contenidos similares a los humanos que suenan perfectamente conversacionales y avatares con apariencia humana en forma de imagen o vídeo.
Los agentes de IA son cada vez mejores navegando por sitios web como un usuario normal, elaborando sofisticados planes para alcanzar objetivos e incluso resolviendo CAPTCHAs cuando se les desafía.
El segundo problema que señala el documento es la escalabilidad. Los modelos de IA son cada vez más potentes, baratos y están cada vez más disponibles. La IA ha hecho que el engaño en línea por parte de actores maliciosos sea fácil de hacer a escala, especialmente si se dispone de un modelo de peso abierto.
El documento señala la preocupación de los investigadores: "Nos preocupa que Internet no esté adecuadamente preparada para los retos que puede plantear una IA altamente capaz".
Credenciales de persona
Los investigadores proponen expedir a los internautas lo que denominan "credenciales de personalidad". Estas credenciales pueden almacenarse digitalmente en los dispositivos del titular y servirían para demostrar su personalidad al registrarse en un servicio en línea, como una dirección de correo electrónico o una cuenta en X.
Diversas organizaciones, gubernamentales o no, podrían actuar como emisores de las credenciales. Aunque el documento no entra en detalles sobre cómo podría funcionar, sugiere una posible aplicación en la que se podría expedir una PHC a cualquier titular de un número de identificación fiscal.
La verificación de las credenciales podría hacerse utilizando pruebas de conocimiento cero, de modo que ningún aspecto de la identidad de la persona esté vinculado a la PHC. La idea es que puedas demostrar a un proveedor de servicios en línea que eres humano, pero conservando el anonimato.
Si se implantaran los PHC, se pondría fin al "sockpuppeting", como los miles de bots que se hacen pasar por personas en X y otras plataformas. La solución propuesta también impediría que un solo usuario creara varias cuentas en una plataforma que luego podrían utilizarse en ataques de bots a gran escala.
Riesgos y retos
Si hemos llegado a un punto en el que necesitamos que una organización nos expida credenciales que demuestren que somos humanos, entonces estamos en el territorio de Blade Runner. La idea de la APS podría reducir el problema de los robots de inteligencia artificial, pero conlleva otros retos.
¿Cómo se garantizaría un acceso equitativo? Si no puede acudir físicamente a un emisor de PHC, podría encontrarse con que no puede utilizar Internet o, al menos, contratar cuentas en línea.
Aunque la APS no revelara tu identidad en Internet, tu emisor sí dispondría de esa información. ¿Te sentirías cómodo diciendo lo que piensas en Internet si no estuvieras seguro de que tu anonimato puede ser preservado?
Supongamos que el emisor de la PHC no es un gobierno elegido democráticamente con controles sobre sus poderes y rendición de cuentas. ¿Podría decidir denegar un APS a alguien que lo criticara?
Los investigadores reconocen que "un sistema PHC, como cualquier sistema digital, es vulnerable a ataques y exploits por parte de múltiples actores, en particular la subversión por parte del propio emisor, de los proveedores de servicios y de usuarios con malas intenciones".
No hace mucho pensábamos que los CAPTCHA, los selfies o una videollamada bastaban para demostrar que había una persona real al otro lado de una interacción en línea. La IA ha acabado con eso.
Necesitamos una solución mejor, pero solicitar a una organización una "prueba de personería" parece muy orwelliano.
