Un nouveau rapport de recherche recommande de délivrer aux internautes des certificats prouvant qu'ils sont des êtres humains, car l'IA devient de plus en plus indiscernable des personnes réelles.
Le documentdont les auteurs sont des chercheurs d'OpenAI, de Microsoft, du MIT et d'autres organismes, arrive à un moment où l'on assiste à la mise en place d'un système de gestion de l'information dans le domaine de la santé. "théorie de l'internet mort" devient de plus en plus crédible. Cette théorie suggère que la majorité des interactions et des contenus en ligne sont générés par des robots.
On parle de théorie du complot, mais les auteurs de ce nouvel article semblent convaincus que cela pourrait se produire, si ce n'est déjà fait. L'article note que "les systèmes d'IA très performants pourraient changer la donne : Il existe un risque substantiel que, sans mesures d'atténuation supplémentaires, des activités trompeuses basées sur l'IA puissent submerger l'internet".
Il devient de plus en plus difficile de distinguer sur l'internet les utilisateurs dotés d'une IA. L'IA peut générer un contenu semblable à celui d'un être humain, qui semble parfaitement conversationnel et qui peut être utilisé comme un outil de communication. avatars de type humain sous forme d'image ou de vidéo.
Les agents d'IA sont de plus en plus capables de naviguer sur les sites web comme un utilisateur ordinaire, d'élaborer des plans sophistiqués pour atteindre des objectifs et même de résoudre des CAPTCHA lorsqu'ils sont mis au défi.
Le deuxième problème identifié dans le document est celui de l'évolutivité. Les modèles d'IA deviennent plus puissants, moins chers et de plus en plus disponibles. L'IA a rendu la tromperie en ligne par des acteurs malveillants facile à réaliser à grande échelle, en particulier si vous disposez d'un système de gestion de l'information et d'un système de gestion de l'information. modèle à poids ouvert.
Le document fait état de l'inquiétude des chercheurs : "Nous craignons que l'internet ne soit pas suffisamment préparé aux défis que l'IA hautement performante pourrait poser".
Attestation de personnalité
Les chercheurs proposent de délivrer aux internautes ce qu'ils appellent des "certificats d'identité", ou PHC (personhood credentials). Ces certificats peuvent être stockés numériquement sur les appareils de leur détenteur et seraient utilisés pour prouver leur identité lors de l'inscription à un service en ligne tel qu'une adresse électronique ou un compte sur X.
Diverses organisations, gouvernementales ou non, pourraient servir d'émetteurs de titres. Bien que le document n'entre pas dans le détail de la manière dont cela pourrait fonctionner, il suggère une mise en œuvre possible où une PHC pourrait être délivrée à tout détenteur d'un numéro d'identification fiscale.
La vérification des références pourrait se faire à l'aide de preuves à connaissance nulle, de sorte qu'aucun aspect de l'identité de la personne ne soit lié à la PHC. L'idée est de pouvoir prouver à un fournisseur de services en ligne que l'on est un être humain tout en conservant l'anonymat.
Le déploiement des PHC mettrait fin au "sockpuppeting", c'est-à-dire aux milliers de bots qui se font passer pour des personnes sur X et d'autres plateformes. La solution proposée empêcherait également un seul utilisateur de créer plusieurs comptes sur une plateforme, qui pourraient ensuite être utilisés dans des attaques de bots à grande échelle.
Risques et défis
Si nous en sommes arrivés à un point où nous avons besoin d'une organisation pour nous délivrer des certificats qui prouvent que nous sommes humains, alors nous sommes bien dans le territoire de Blade Runner. L'idée de la SSP pourrait réduire le problème des robots d'intelligence artificielle, mais elle s'accompagne d'autres défis.
Comment assurer un accès équitable ? Si vous n'êtes pas en mesure de vous rendre physiquement chez un émetteur de SSP, vous pourriez vous trouver dans l'impossibilité d'utiliser l'internet, ou du moins de vous inscrire à des comptes en ligne.
Même si la SSP ne révèle pas votre identité en ligne, votre émetteur dispose de cette information. Dans quelle mesure vous sentiriez-vous à l'aise pour dire ce que vous pensez en ligne si vous n'étiez pas sûr que votre anonymat serait préservé ?
Supposons qu'un émetteur de PHC ne soit pas un gouvernement démocratiquement élu dont les pouvoirs et la responsabilité sont contrôlés. Pourrait-il décider de ne pas délivrer de PHC à une personne qui l'aurait critiqué ?
Les chercheurs reconnaissent qu'un "système PHC, comme tout système numérique, est vulnérable aux attaques et aux exploits de multiples acteurs, notamment la subversion par l'émetteur lui-même, par les fournisseurs de services et par les utilisateurs mal intentionnés".
Il n'y a pas si longtemps, nous pensions que les CAPTCHA, les selfies ou un appel vidéo suffisaient à prouver qu'un véritable être humain se trouvait à l'autre bout d'une interaction en ligne. L'IA a mis fin à cette situation.
Nous avons besoin d'une meilleure solution, mais s'adresser à une organisation pour obtenir une "preuve de la qualité de personne" semble très orwellien.
