Anthropic zorgt ervoor dat door Claude bestuurde machines stoppen als de verbinding wegvalt.

Vanaf donderdag mag Claude geen machines meer besturen die letsel kunnen veroorzaken zonder dat er een mens aanwezig is om ze te controleren en te stoppen. Het herziene gebruiksbeleid van Anthropic, gepubliceerd op 8 oktober en van kracht sinds 12 november, voegt regels toe voor fysieke handelingen met een hoog risico voor hardware die reageert op modeluitvoer zonder dat een persoon elke handeling goedkeurt.

Het bedrijf de wijzigingen uiteenzetten op 8 oktober. De volledige tekst is nu te lezen op de website van Anthropic. Gebruiksbeleidpagina, met ingang van 12 november 2026.

De drie taken

De regels zijn van toepassing wanneer hardware zonder menselijke goedkeuring reageert op de output van Claude en iemand letsel kan toebrengen. Zes triggers hebben betrekking op voertuigen, schepen, vliegtuigen, drones of mobiele robots die zich in een gedeelde ruimte bewegen; machines die een persoon kunnen raken, verpletteren, vastklemmen of een last op een persoon kunnen laten vallen; de beheersing van gevaarlijke energie of materialen; handelingen met het menselijk lichaam; veiligheidssystemen zoals uitschakelingen of sloten; en industriële processen waarbij een storing werknemers of het publiek letsel kan toebrengen.

Operators hebben vervolgens drie taken. Een gekwalificeerd persoon moet de apparatuur kunnen observeren en te allen tijde kunnen stoppen. De apparatuur moet stoppen of in een veilige toestand blijven wanneer die persoon ingrijpt, of wanneer de verbinding met de diensten van Anthropic verloren gaat. Bedrijfslimieten zoals snelheid, kracht, bereik, temperatuur, druk, spanning, energieafgifte, dosis of werkgebied moeten worden gehandhaafd door de apparatuur of een controller die onafhankelijk is van de modeloutput. Deze regels vervangen niet de wet- of regelgeving inzake veiligheid op het gebied van voertuigen, luchtvaart, medische apparatuur, machines of werkplekken, noch de bijbehorende certificering.

Wat is uitgesloten?

Vier toepassingen zijn uitgesloten: consumenten- en huishoudelijke apparaten die binnen de door de fabrikant vastgestelde veiligheidslimieten blijven, waarbij het ergste gevolg ongemak of hinder is; plannen, code of commando's die door een gekwalificeerd persoon worden beoordeeld voordat ze worden uitgevoerd; bewaking die de machine niet aanstuurt; en laboratoriumautomatisering die niet-gevaarlijke materialen verwerkt in afgesloten instrumenten.

De aankondiging van Anthropic koppelt het onderdeel aan zijn Model Hardware Standaard onderzoeksvooruitblik, gelanceerd op 27 augustus, waarmee agenten laboratorium- en fabrieksapparatuur kunnen bedienen. In de beleidstekst zelf wordt die naam niet gebruikt.

Bedrock-gebruik geldt als acceptatie.

Klanten van Amazon Bedrock ontvingen een AWS Health-melding gedateerd 14 oktober. Samenvatting van de kennisgeving door wederverkoper Classmethod Het voortgezet gebruik van Anthropic-modellen op Bedrock op of na 12 november geldt als acceptatie van de bijgewerkte voorwaarden. De beschikbaarheid van modellen, de prijzen, het API-gedrag en de model-ID's blijven ongewijzigd.

Waarom het belangrijk is

Iedereen die Claude aansluit op hardware die mensen kan verwonden, is nu schriftelijk verplicht om een mens beschikbaar te houden die de hardware kan stoppen, en om veiligheidslimieten in de machine of een aparte controller in te bouwen in plaats van in de output van het model. Een verbroken verbinding met de diensten van Anthropic moet de apparatuur automatisch uitschakelen of in een veilige toestand brengen.