Anthropic lässt Claude-gesteuerte Maschinen anhalten, wenn die Verbindung abbricht
Die überarbeiteten Nutzungsrichtlinien von Anthropic treten am Donnerstag in Kraft. Jeder, der Claude Hardware steuern lässt, die Menschen verletzen könnte, muss dafür sorgen, dass ein Mensch im Notfall eingreifen kann. Außerdem muss die Maschine anhalten, wenn die Verbindung abbricht.
Ab Donnerstag darf Claude Maschinen, die Verletzungen verursachen können, nicht mehr ohne Aufsicht und gegebenenfalls Stoppfunktion steuern. Die überarbeitete Nutzungsrichtlinie von Anthropic, veröffentlicht am 8. Oktober und gültig ab dem 12. November, enthält neue Regeln für risikoreiche physische Aktionen für Hardware, die auf Modellausgaben reagiert, ohne dass jede Aktion von einer Person genehmigt wird.
Das Unternehmen die Änderungen dargelegt Am 8. Oktober. Der vollständige Text ist jetzt auf Anthropics Website verfügbar. Seite mit Nutzungsrichtlinien, gültig ab dem 12. November 2026.
Die drei Pflichten
Die Regeln gelten, wenn Hardware ohne menschliche Zustimmung auf Claudes Ausgabe einwirkt und dadurch Personen verletzen könnte. Sechs Auslöser umfassen Fahrzeuge, Schiffe, Flugzeuge, Drohnen oder mobile Roboter, die sich in einem gemeinsam genutzten Raum bewegen; Maschinen, die eine Person treffen, quetschen, einklemmen oder eine Last auf sie fallen lassen können; die Kontrolle gefährlicher Energien oder Stoffe; Einwirkungen auf den menschlichen Körper; Sicherheitssysteme wie Abschaltungen oder Verriegelungen; und industrielle Prozesse, bei denen ein Fehler Arbeiter oder die Öffentlichkeit verletzen könnte.
Die Bediener haben drei Pflichten. Eine qualifizierte Person muss die Anlage überwachen und jederzeit anhalten können. Die Anlage muss stoppen oder einen sicheren Zustand beibehalten, sobald diese Person eingreift oder die Verbindung zu den Diensten von Anthropic unterbrochen wird. Betriebsgrenzen wie Geschwindigkeit, Kraft, Reichweite, Temperatur, Druck, Spannung, Energieabgabe, Dosis oder Arbeitsbereich müssen von der Anlage oder einer modellunabhängigen Steuerung eingehalten werden. Diese Regeln ersetzen nicht die geltenden Gesetze und Zertifizierungen für Fahrzeug-, Luftfahrt-, Medizingeräte-, Maschinen- oder Arbeitsschutz.
Was ist ausgeschlossen?
Ausgenommen sind vier Anwendungsbereiche: Verbraucher- und Haushaltsgeräte, die innerhalb der vom Hersteller festgelegten Sicherheitsgrenzen bleiben, wobei das schlimmste Ergebnis Unbehagen oder Unannehmlichkeiten ist; Pläne, Codes oder Befehle, die vor ihrer Ausführung von einer qualifizierten Person überprüft werden; Überwachung, die nicht die Maschine steuert; und Laborautomatisierung, die nicht gefährliche Stoffe in geschlossenen Instrumenten handhabt.
Die Ankündigung von Anthropic verbindet die Sektion mit ihrem Vorschau zur Modellhardware-Standardforschung, Die am 27. August eingeführte Software ermöglicht es Agenten, Labor- und Fabrikgeräte zu bedienen. Der Richtlinientext selbst verwendet diese Bezeichnung nicht.
Die Nutzung von Grundgestein gilt als Akzeptanz
Amazon Bedrock-Kunden erhielten am 14. Oktober eine AWS-Health-Mitteilung. Zusammenfassung der Mitteilung durch den Wiederverkäufer (Classmethod) Die weitere Nutzung von Anthropic-Modellen auf Bedrock ab dem 12. November gilt als Zustimmung zu den aktualisierten Nutzungsbedingungen. Modellverfügbarkeit, Preise, API-Verhalten und Modell-IDs bleiben unverändert.
Warum es wichtig ist
Wer Claude an Hardware anschließt, die Personen verletzen kann, ist schriftlich verpflichtet, sicherzustellen, dass eine Person im Notfall eingreifen kann und Sicherheitsgrenzen in der Maschine oder einem separaten Controller anstatt in der Ausgabe des Modells zu implementieren. Ein Verbindungsabbruch zu den Diensten von Anthropic muss das Gerät automatisch stoppen oder in einen sicheren Zustand versetzen.
