Anthropic заставляет машины, приводимые в движение Клодом, останавливаться, если связь обрывается.
Пересмотренная политика использования Anthropic вступает в силу в четверг. Любой, кто позволяет Клоду управлять оборудованием, которое может причинить вред людям, должен обеспечить присутствие человека, способного остановить его, а машина должна остановиться, если соединение прервется.
С четверга Клоду больше не разрешается управлять опасными для жизни машинами без присутствия человека, который мог бы следить за ними и останавливать их. В пересмотренной Политике использования Anthropic, опубликованной 8 октября и вступающей в силу 12 ноября, добавлены правила, касающиеся действий с высоким риском для оборудования, которое воздействует на выходные данные модели без одобрения каждого действия человеком.
Компания изложили изменения 8 октября. Полный текст теперь доступен на сайте Anthropic. Страница «Политика использования», вступает в силу 12 ноября 2026 года.
Три обязанности
Правила применяются, когда оборудование воздействует на результаты работы Клода без участия человека и может причинить кому-либо вред. Шесть факторов, запускающих эти процессы, охватывают транспортные средства, суда, самолеты, дроны или мобильных роботов, перемещающихся в общем пространстве; механизмы, которые могут ударить, раздавить, прижать или сбросить груз на человека; управление опасной энергией или материалами; воздействие на человеческое тело; системы безопасности, такие как выключатели или замки; и промышленные процессы, где неисправность может причинить вред работникам или общественности.
Операторы несут три обязанности. Квалифицированный специалист должен иметь возможность наблюдать за оборудованием и останавливать его в любое время. Оборудование должно остановиться или удерживать безопасное состояние, когда этот человек вмешивается, или когда связь с сервисами Anthropic обрывается. Эксплуатационные ограничения, такие как скорость, сила, радиус действия, температура, давление, напряжение, выходная энергия, доза или рабочая зона, должны контролироваться оборудованием или контроллером независимо от выходных данных модели. Данные правила не заменяют законы и сертификацию в области безопасности транспортных средств, авиации, медицинских приборов, машин и оборудования на рабочем месте.
Что исключено
Исключаются четыре вида использования: бытовые устройства, работающие в пределах установленных производителем ограничений безопасности, где наихудшим результатом является дискомфорт или неудобство; планы, код или команды, которые квалифицированный специалист проверяет перед запуском; системы мониторинга, не управляющие машиной; и лабораторная автоматизация, работающая с неопасными материалами внутри закрытых приборов.
Объявление компании Anthropic связывает этот раздел со своим Предварительный обзор исследования стандарта аппаратного обеспечения модели, Запущенная 27 августа программа позволяет агентам работать с лабораторным и заводским оборудованием. В самом тексте правил это название не используется.
Использование коренных пород считается принятием.
Клиенты Amazon Bedrock получили уведомление AWS Health от 14 октября. Составление уведомления реселлером Classmethod Было заявлено, что дальнейшее использование антропогенных моделей на платформе Bedrock 12 ноября или позднее считается принятием обновленных условий. Доступность моделей, цены, поведение API и идентификаторы моделей остаются без изменений.
Почему это важно
Теперь любой, кто подключает Клода к оборудованию, способному причинить вред людям, обязан обеспечить наличие человека, способного остановить его, и установить пределы безопасности в самом устройстве или отдельном контроллере, а не в выходных данных модели. Разрыв соединения с сервисами Anthropic должен сам по себе привести оборудование в состояние остановки или безопасное состояние.
