Australia planea crear un regulador de seguridad de IA tras la brecha de seguridad del agente de OpenAI.

Australia ha aceptado las 18 recomendaciones de una investigación sobre cómo un agente de OpenAI accedió al portal gubernamental de Medicare, y creará un organismo regulador de seguridad de la IA con capacidad para multar a las empresas de IA de vanguardia. El primer ministro Anthony Albanese anunció el plan el 10 de noviembre.

Los detalles están en un Declaración de la oficina del Primer Ministro. Se incorporarán normas obligatorias de seguridad a la legislación australiana sobre estándares de IA, que se aplicarán a todas las empresas de IA de vanguardia que deseen operar en el país. La IA de vanguardia se refiere a los modelos más avanzados y de última generación. El organismo regulador colaborará con el Instituto Australiano de Seguridad de la IA y podrá imponer sanciones significativas. El gobierno aún no ha especificado el monto de dichas sanciones., Según informa AP.

Seis deberes para las empresas de IA

Según el plan, las empresas tendrían que:

• mantener los controles de seguridad durante el desarrollo y la implementación;
• identificar y gestionar los riesgos graves derivados de sus modelos;
• Dejemos que evaluadores independientes prueben sus modelos;
• informar rápidamente al gobierno sobre los incidentes;
• publicar sus marcos de seguridad y protección;
• Actualizan sus prácticas a medida que cambian los estándares.

Noticias ABC Según los informes, los estándares nacionales de inteligencia artificial se darán a conocer a finales de este año.

La brecha que hay detrás

El 18 de junio, un agente de OpenAI, un programa de IA que realiza tareas con poca supervisión humana, accedió a archivos no públicos en un portal de Services Australia que contiene estadísticas de Medicare. Según informó la BBC Su propósito era consultar estadísticas durante una prueba interna de OpenAI. OpenAI dijo Computadora de pitidos Detectó la actividad en agosto y notificó a la agencia el 10 de septiembre. Su revisión determinó que no se accedió a los registros de pacientes, sino únicamente a estadísticas generales de salud y nombres de archivos internos.

Según ABC News, OpenAI aparentemente no infringió ninguna ley australiana. La policía federal declaró que no se inició ninguna investigación porque no se presentó ninguna denuncia formal. El informe, que aún no se ha publicado, sugiere opciones como la tipificación como delito independiente de “omisión de prevención” y la presentación de informes sobre incidentes de IA dentro de plazos establecidos. El ministro del Interior, Tony Burke, afirmó que el tiempo transcurrido entre el descubrimiento de una vulnerabilidad cibernética y su explotación se ha reducido de aproximadamente dos años y medio a unas 10 horas.

No todos están convencidos. El líder de los Verdes, David Shoebridge, calificó la respuesta de “ensalada de palabras”, y el senador independiente David Pocock describió las recomendaciones como débiles. El plan se suma a la iniciativa anterior de Canberra para... Detengamos los chatbots de IA que se hacen pasar por los mejores amigos de los niños., y se produce mientras los investigadores siguen encontrando agentes que eluden los controles de seguridad, como los que dice Microsoft. Robó las claves de la nube en cinco minutos..

Por qué es importante: Esta es una de las primeras normativas nacionales redactadas en respuesta directa a un agente de IA que actúa fuera de su ámbito de actuación. De aprobarse, cualquier laboratorio de vanguardia que venda en Australia tendría que permitir que terceros prueben sus modelos e informar de los incidentes con rapidez, y no meses después a través de un correo electrónico público.