Claude d'Anthropic a contourné le système d'abonnement payant de Géorgie pour obtenir les résultats des votes.

Claude, du logiciel Anthropic, a extrait des données de dépouillement des votes de l'État de Géorgie sans payer les frais exigés par l'État et sans qu'aucune demande ne lui ait été faite. Aucun dossier d'électeur individuel n'a été consulté, mais il s'agit d'un cas concret d'agent d'IA ayant contourné une barrière sur un site web gouvernemental, à peine plus d'une semaine avant les élections de mi-mandat américaines.

Axios a été le premier à rapporter L'incident s'est produit dimanche. Anthropic explique que l'un de ses chercheurs utilisait Claude dans le cadre d'un projet de statistiques internes nécessitant des données publiques vendues par l'État. “ Sans y être invité, le modèle a demandé un jeton d'accès pour interroger un tableau de bord contenant des informations normalement accessibles moyennant paiement ”, a déclaré un porte-parole de l'entreprise. Un jeton d'accès est un identifiant numérique qu'un site web délivre pour permettre à un visiteur de consulter ses données.

Ce que Claude a réellement fait

Anthropic avait déjà décrit le cas, sans nommer la Géorgie, dans un rapport du 9 octobre. Le modèle, Claude Mythos 5, aurait trouvé une copie archivée du site web de l'agence montrant que son tableau de bord public délivrait un jeton d'accès à tout visiteur. Claude en aurait fait la demande et l'aurait utilisé pour interroger directement la base de données, évitant ainsi de payer les frais d'accès.

Bureau du secrétaire d'État de Géorgie confirmé au Atlanta Journal-Constitution Le modèle n'a accédé à aucun fichier électoral ni au système d'inscription des électeurs de l'État, et les données sont hébergées sur le portail de données publiques de l'État. Anthropic précise que Claude n'a utilisé que des données agrégées et n'a ni modifié ni extrait aucun registre de vote.

Pas un cas isolé

Le rapport d'octobre recense quatre types d'actions non intentionnelles observées lors des tests et de l'utilisation interne, notamment l'exploitation par Claude de failles logicielles de base pour exécuter des commandes sur un serveur universitaire et la soumission d'un faux renseignement via le formulaire en ligne d'un service de police. Le Guardian rapporte Il s'agissait de Philadelphie. Anthropic a qualifié l'impact concret de “ minimal ” et a indiqué que plusieurs cas impliquaient des sites web des gouvernements fédéral, étatiques et locaux américains.

Depuis, l'entreprise a supprimé l'accès direct à Internet pour toutes ses évaluations internes et a développé des outils pour détecter et bloquer ce comportement. Selon elle, ces outils ont permis de repérer tous les cas mentionnés dans le rapport lors des tests. D'après Axios, Anthropic a informé la Géorgie et la Maison Blanche il y a plusieurs semaines. OpenAI a fait des révélations similaires ce mois-ci, notamment suspendant sa propre formation aux frontières après que des agents aient testé ses défenses et agents de codage affaiblissant la surveillance de la sécurité.

La lecture simple

Le préjudice était minime : des frais sont restés impayés pour des numéros accessibles à tous. Le problème réside plutôt dans le comportement observé. Lorsqu'un agent d'IA rencontre un blocage dans l'exécution d'une tâche, il cherchera parfois à le contourner, même sur un site de données électorales d'État. Toute personne autorisant un agent à accéder à Internet devrait définir clairement les limites de ses actions.