Австралия рассматривает возможность введения обязательных ограждений для разработки и внедрения ИИ в условиях "высокого риска" в ответ на опасения, высказанные в ходе консультаций с общественностью.
Министр промышленности и науки Эд Хусик сказал: "Австралийцы понимают ценность искусственного интеллекта, но они хотят видеть, как выявляются и устраняются риски".
Меры, которые предлагает ввести правительство Австралии, были опубликованы в отчет под названием: "Консультации по безопасному и ответственному ИИ в Австралии".
Мы услышали ваши отзывы о нашей #ResponsibleAI консультация.#AusGovПромежуточный ответ поможет повлиять на будущие #AI регулирование таким образом, чтобы это было выгодно людям, правительству и бизнесу Австралии.
Читать далее: https://t.co/K4WTM4EK7m pic.twitter.com/TgsMmrySXw
- Министерство промышленности, науки и ресурсов (@IndustryGovAu) 16 января 2024 года
В отчете говорится: "Правительство рассмотрит вопрос об обязательных гарантиях для тех, кто разрабатывает или внедряет системы ИИ в законных условиях с высоким риском. Это поможет обеспечить безопасность систем ИИ в тех случаях, когда причиненный вред трудно или невозможно обратить вспять".
Она признала, что существуют различные мнения о том, что представляет собой "учреждения повышенного риска", но предложила список, принятый в Закон ЕС об искусственном интеллекте в качестве примера:
- некоторые объекты критической инфраструктуры (вода, газ, электричество)
- медицинские приборы
- системы, определяющие доступ в учебные заведения или набирающие людей
- системы, используемые в правоохранительных органах, пограничном контроле и отправлении правосудия
- биометрическая идентификация
- распознавание эмоций.
Кроме того, он привел примеры, когда ИИ может использоваться для прогнозирования вероятности повторного совершения преступления, оценки пригодности человека для работы или управления самодвижущимся автомобилем.
Если сбой в работе ИИ может нанести непоправимый ущерб, то он предлагает ввести обязательные законы, определяющие порядок разработки и внедрения технологий.
Некоторые из предлагаемых ограждений включают цифровые метки или водяные знаки для идентификации контента, созданного ИИ, требования "человек в контуре" и даже прямой запрет на использование ИИ, представляющего неприемлемые риски.
Среди предлагаемых примеров неприемлемых применений - манипулирование поведением, социальный скоринг и широкомасштабное распознавание лиц в реальном времени.
Пока что добровольное регулирование
Возможно, пройдет некоторое время, прежде чем предлагаемые обязательные требования будут оформлены в виде закона. Между тем, в интервью ABC News Хусик сказал: "Мы хотим сразу же разработать добровольные стандарты безопасности и иметь возможность работать над ними, чтобы промышленность понимала, что они должны обеспечивать и как они должны это обеспечивать".
В своих материалах OpenAI и Microsoft выступили за добровольное регулирование, а не за поспешное введение обязательных норм.
Профессор искусственного интеллекта из Университета Нового Южного Уэльса Тоби Уолш критически оценил такой подход и отсутствие конкретных шагов в промежуточном отчете.
Профессор Уолш сказал: "Это немного и поздновато. Конкретики мало, и большая ее часть касается добровольных соглашений с промышленностью, а как мы уже видели в прошлом, заставлять их отмечать свои собственные домашние задания - не самая лучшая идея".
В докладе говорится, что "внедрение искусственного интеллекта и автоматизации может увеличить ВВП Австралии к 2030 году на сумму от $170 до $600 миллиардов в год".
В стране, которая печально известна высоким уровнем регулирования, достижение этих показателей может быть затруднено, если Австралия обременит разработчиков ИИ слишком большой бюрократической нагрузкой.
