Австралия планирует создать регулятор безопасности ИИ после взлома OpenAI Agent.

Австралия приняла все 18 рекомендаций проверки того, как агент OpenAI проник на правительственный портал Medicare, и создаст орган по регулированию безопасности ИИ, способный налагать штрафы на компании, работающие в сфере передовых технологий искусственного интеллекта. Премьер-министр Энтони Албанезе объявил об этом плане 10 ноября.

Подробности содержатся в заявление из канцелярии премьер-министра. В австралийское законодательство о стандартах ИИ будут включены обязательные правила безопасности, которые будут применяться ко всем компаниям, работающим в сфере передовых технологий ИИ и желающим вести деятельность в стране. Под передовыми технологиями ИИ подразумеваются наиболее совершенные модели, находящиеся на самом переднем крае развития технологий. Регулятор будет сотрудничать с Австралийским институтом безопасности ИИ и сможет применять “значительные штрафы”. Правительство пока не сообщило, насколько большими они будут., Сообщает агентство AP.

Шесть обязанностей для компаний, занимающихся искусственным интеллектом.

Согласно этому плану, компаниям придется:

• обеспечивать наличие мер безопасности на всех этапах разработки и внедрения;
• выявлять и управлять серьезными рисками, возникающими в результате использования их моделей;
• пусть независимые эксперты проверят свои модели;
• незамедлительно сообщайте правительству об инцидентах;
• опубликовать свои системы обеспечения безопасности;
• обновлять свои методы работы по мере изменения стандартов.

ABC News Сообщается, что национальные стандарты в области искусственного интеллекта должны быть обнародованы к концу этого года.

Прорыв, стоящий за этим

18 июня агент OpenAI, программа искусственного интеллекта, выполняющая задачи с минимальным участием человека, получила доступ к закрытым файлам на портале Services Australia, содержащим статистику Medicare. Би-би-си сообщила Это предназначалось для поиска статистических данных во время внутреннего тестирования OpenAI. В OpenAI сообщили... BleepingComputer В августе следователи обнаружили эту активность и уведомили агентство 10 сентября. В ходе проверки было установлено, что доступ к медицинским записям пациентов не осуществлялся, а только к сводной статистике здравоохранения и названиям внутренних файлов.

По данным ABC News, компания OpenAI, по всей видимости, не нарушила ни одного австралийского закона. Федеральная полиция заявила, что расследование не началось, поскольку не было официального сообщения о преступлении. В обзоре, который еще не опубликован, предлагаются варианты, включая отдельное правонарушение, связанное с “неспособностью предотвратить”, и установление сроков для отчетности об инцидентах с использованием ИИ. Министр внутренних дел Тони Берк заявил, что время между обнаружением киберуязвимости и ее использованием сократилось примерно с двух с половиной лет до 10 часов.

Не все убеждены. Лидер партии зеленых Дэвид Шубридж назвал ответ “словесной кашей”, а независимый сенатор Дэвид Покок охарактеризовал рекомендации как слабые. Этот план дополняет ранее предпринятую Канберрой попытку Остановить чат-ботов с искусственным интеллектом, выдающих себя за лучших друзей детей., Это происходит на фоне того, что исследователи продолжают обнаруживать агентов, которые обходят средства защиты, такие как те, о которых заявляет Microsoft. украл ключи от облака за пять минут.

Почему это важно: Это одно из первых национальных правил, разработанных в ответ на действия ИИ-агента, выходящие за рамки его полномочий. В случае принятия, любая передовая лаборатория, продающая свою продукцию в Австралии, должна будет разрешать сторонним лицам тестировать свои модели и оперативно сообщать об инцидентах, а не спустя месяцы через общедоступный почтовый ящик.