Anthropic empêche les machines pilotées par Claude de s'arrêter en cas de coupure de la liaison.

À compter de jeudi, Claude ne pourra plus piloter de machines susceptibles de provoquer des blessures sans la présence d'un humain capable de les surveiller et de les arrêter. La politique d'utilisation révisée d'Anthropic, publiée le 8 octobre et applicable à compter du 12 novembre, ajoute des règles relatives aux actions physiques à haut risque pour le matériel qui agit sur les données issues des modèles sans qu'une personne n'approuve chaque action.

L'entreprise exposer les changements Le 8 octobre. Le texte intégral est désormais disponible sur le site d'Anthropic. page Politique d'utilisation, avec prise d'effet le 12 novembre 2026.

Les trois devoirs

Ces règles s'appliquent lorsque du matériel agit sur le signal de Claude sans intervention humaine et risque de blesser quelqu'un. Six déclencheurs concernent les véhicules, navires, aéronefs, drones ou robots mobiles évoluant dans un espace partagé ; les machines susceptibles de heurter, d'écraser, de coincer ou de laisser tomber une charge sur une personne ; la manipulation d'énergies ou de matières dangereuses ; les actions sur le corps humain ; les systèmes de sécurité tels que les dispositifs d'arrêt ou de verrouillage ; et les processus industriels où un dysfonctionnement pourrait blesser des travailleurs ou le public.

Les opérateurs ont alors trois obligations. Une personne qualifiée doit pouvoir surveiller l'équipement et l'arrêter à tout moment. L'équipement doit s'arrêter ou se maintenir en état de sécurité lorsque cette personne intervient ou en cas de perte de connexion aux services d'Anthropic. Les limites de fonctionnement, telles que la vitesse, la force, la portée, la température, la pression, la tension, la puissance, la dose ou la zone d'intervention, doivent être respectées par l'équipement ou un contrôleur indépendant des données du modèle. Ces règles ne remplacent pas la législation ni les certifications relatives à la sécurité des véhicules, des aéronefs, des dispositifs médicaux, des machines ou des lieux de travail.

Ce qui est exclu

Sont exclus quatre usages : les appareils grand public et ménagers qui restent dans les limites de sécurité intégrées du fabricant, lorsque le pire résultat est un inconfort ou un désagrément ; les plans, codes ou commandes qu’une personne qualifiée examine avant leur exécution ; la surveillance qui ne contrôle pas la machine ; et l’automatisation de laboratoire qui manipule des matériaux non dangereux à l’intérieur d’instruments fermés.

L'annonce d'Anthropic lie la section à son Aperçu de la recherche sur la norme matérielle modèle, Lancée le 27 août, cette fonctionnalité permet aux agents de gérer les équipements de laboratoire et d'usine. Le texte de la politique de confidentialité n'utilise pas cette appellation.

L'utilisation de Bedrock compte comme une acceptation

Les clients d'Amazon Bedrock ont reçu un avis de santé AWS daté du 14 octobre. Rédaction de l'avis par le revendeur Classmethod L’utilisation continue des modèles Anthropic sur Bedrock à compter du 12 novembre vaut acceptation des conditions mises à jour. La disponibilité des modèles, les prix, le comportement de l’API et les identifiants des modèles restent inchangés.

Pourquoi c'est important

Toute personne connectant Claude à un matériel susceptible de blesser des personnes a désormais l'obligation écrite de s'assurer qu'une personne puisse l'arrêter et de définir des limites de sécurité dans la machine ou un contrôleur séparé plutôt que dans les données de sortie du modèle. Toute déconnexion des services d'Anthropic doit automatiquement déclencher l'arrêt ou la mise en sécurité de l'équipement.