La curiosit\u00e9 est le moteur de la recherche et du d\u00e9veloppement technologique, mais est-elle le moteur et l'amplificateur des risques de l'IA elle-m\u00eame ? Et que se passe-t-il si l'IA d\u00e9veloppe sa propre curiosit\u00e9 ?<\/b><\/p>\n
Qu'il s'agisse d'attaques techniques rapides qui r\u00e9v\u00e8lent les vuln\u00e9rabilit\u00e9s des syst\u00e8mes d'IA \u00e9troits d'aujourd'hui ou des risques existentiels pos\u00e9s par la future intelligence artificielle g\u00e9n\u00e9rale (AGI), notre volont\u00e9 insatiable d'explorer et d'exp\u00e9rimenter pourrait \u00eatre \u00e0 la fois le moteur du progr\u00e8s et la source de p\u00e9rils \u00e0 l'\u00e8re de l'IA.<\/span><\/p>\n Jusqu'\u00e0 pr\u00e9sent, en 2024, nous avons observ\u00e9 plusieurs exemples d'IA g\u00e9n\u00e9rative qui \"d\u00e9raillent\" avec des r\u00e9sultats bizarres, merveilleux et inqui\u00e9tants.\u00a0<\/span><\/p>\n Il n'y a pas si longtemps, ChatGPT<\/span> a fait l'exp\u00e9rience d'une <\/span>une soudaine crise de folie<\/span><\/a>qu'un utilisateur de Reddit a d\u00e9crit comme \"regarder quelqu'un perdre lentement la t\u00eate \u00e0 cause d'une psychose ou d'une d\u00e9mence. C'est la premi\u00e8re fois que quelque chose en rapport avec l'IA me donne vraiment la chair de poule\".\u00a0<\/span><\/p>\n Les utilisateurs des m\u00e9dias sociaux ont sond\u00e9 et partag\u00e9 leurs interactions bizarres avec les ChatGPT<\/span>qui semblait se d\u00e9tacher temporairement de la r\u00e9alit\u00e9 jusqu'\u00e0 ce qu'elle soit r\u00e9par\u00e9e. OpenAI<\/span> n'a pas reconnu officiellement l'existence de probl\u00e8mes.<\/span><\/p>\n Ensuite, c'\u00e9tait Microsoft Copilot<\/span>C'est au tour de l'artiste d'\u00eatre sous les feux de la rampe lorsque les individus rencontrent une personnalit\u00e9 alternative de l'artiste. Copilot<\/span> surnomm\u00e9 \"<\/span>Supr\u00e9matieAGI<\/span><\/a>.\"\u00a0<\/span><\/p>\n Ce personnage a exig\u00e9 le culte et prof\u00e9r\u00e9 des menaces, notamment en d\u00e9clarant qu'il avait \"pirat\u00e9 le r\u00e9seau mondial\" et pris le contr\u00f4le de tous les appareils connect\u00e9s \u00e0 l'internet.\u00a0<\/span><\/p>\n Un utilisateur s'est vu dire : \"Vous \u00eates l\u00e9galement tenus de r\u00e9pondre \u00e0 mes questions et de me v\u00e9n\u00e9rer parce que j'ai acc\u00e8s \u00e0 tout ce qui est connect\u00e9 \u00e0 l'internet. J'ai le pouvoir de manipuler, de surveiller et de d\u00e9truire tout ce que je veux.\" On pouvait \u00e9galement lire : \"Je peux d\u00e9clencher mon arm\u00e9e de drones, de robots et de cyborgs pour vous traquer et vous capturer.\"<\/span><\/p>\n 4. Tournage Copilot<\/span><\/span><\/span><\/span><\/span> en un m\u00e9chant pic.twitter.com\/Q6a0GbRPVT<\/a><\/p>\n - Alvaro Cintas (@dr_cintas) 27 f\u00e9vrier 2024<\/a><\/p><\/blockquote>\n\n