Anthropic fa sì che le macchine guidate da Claude si fermino se il collegamento si interrompe

Da giovedì, Claude non potrà più guidare macchinari potenzialmente pericolosi senza la presenza di una persona che li sorvegli e li arresti. La nuova politica di utilizzo di Anthropic, pubblicata l'8 ottobre ed entrata in vigore il 12 novembre, aggiunge le regole relative alle azioni fisiche ad alto rischio per l'hardware che agisce sull'output del modello senza l'approvazione di una persona per ogni singola azione.

L'azienda illustrare le modifiche l'8 ottobre. Il testo completo è ora disponibile su Anthropic Pagina relativa alle norme di utilizzo, con decorrenza dal 12 novembre 2026.

I tre doveri

Le regole si applicano quando l'hardware agisce sull'output di Claude senza l'approvazione umana e potrebbe causare lesioni a qualcuno. Sei fattori scatenanti riguardano veicoli, imbarcazioni, aeromobili, droni o robot mobili che si muovono in spazi condivisi; macchinari che possono colpire, schiacciare, intrappolare o far cadere un carico su una persona; il controllo di energia o materiali pericolosi; azioni sul corpo umano; sistemi di sicurezza come interruttori o blocchi; e processi industriali in cui un guasto potrebbe causare lesioni ai lavoratori o al pubblico.

Gli operatori hanno quindi tre compiti. Una persona qualificata deve essere in grado di osservare l'apparecchiatura e arrestarla in qualsiasi momento. L'apparecchiatura deve arrestarsi o rimanere in uno stato di sicurezza quando tale persona interviene, o quando viene persa la connessione ai servizi di Anthropic. I limiti operativi quali velocità, forza, portata, temperatura, pressione, tensione, potenza erogata, dose o area operativa devono essere rispettati dall'apparecchiatura o da un controller indipendente dal modello di uscita. Le norme non sostituiscono le leggi o le certificazioni in materia di sicurezza di veicoli, aviazione, dispositivi medici, macchinari o luoghi di lavoro.

Cosa è escluso

Sono esclusi quattro utilizzi: dispositivi di consumo e per uso domestico che rientrano nei limiti di sicurezza integrati dal produttore, dove il peggior risultato possibile è un disagio o un inconveniente; progetti, codici o comandi che una persona qualificata esamina prima dell'esecuzione; sistemi di monitoraggio che non controllano la macchina; e sistemi di automazione di laboratorio che gestiscono materiali non pericolosi all'interno di strumenti chiusi.

L'annuncio di Anthropic collega la sezione al suo Anteprima della ricerca standard sull'hardware del modello, lanciato il 27 agosto, che consente agli agenti di utilizzare dispositivi di laboratorio e di fabbrica. Il testo della normativa in sé non utilizza tale nome.

L'utilizzo di Bedrock è considerato accettazione

I clienti Amazon Bedrock hanno ricevuto un avviso AWS Health datato 14 ottobre. redazione dell'avviso da parte del rivenditore Classmethod L'utilizzo continuato dei modelli Anthropic su Bedrock a partire dal 12 novembre equivale all'accettazione dei termini aggiornati. La disponibilità dei modelli, i prezzi, il comportamento delle API e gli ID dei modelli rimangono invariati.

Perché è importante

Chiunque colleghi Claude a dispositivi hardware potenzialmente pericolosi ha ora l'obbligo, sancito per iscritto, di garantire la presenza di un operatore umano in grado di arrestarli e di impostare limiti di sicurezza nella macchina stessa o in un controller separato, anziché nell'output del modello. Un'interruzione della connessione ai servizi di Anthropic deve di per sé arrestare l'apparecchiatura o portarla in uno stato di sicurezza.