Sam Altman afirma que un organismo internacional debería supervisar los modelos de IA

13 de mayo de 2024
  • Sam Altman, CEO de OpenAI, afirma que una agencia internacional debería supervisar los modelos de IA más potentes
  • Altman afirma que los futuros modelos de IA de vanguardia pueden ser capaces de causar un daño global significativo
  • La legislación puede no ser lo bastante flexible para tener en cuenta la rápida evolución de las tecnologías de IA

OpenAI CEO, Sam AltmanLa Comisión Europea considera que debería crearse una agencia internacional para supervisar los potentes modelos de inteligencia artificial que se desarrollen en el futuro, con el fin de garantizar su seguridad.

En una entrevista en el podcast All-In, Altman afirma que pronto veremos modelos de IA de vanguardia que serán mucho más potentes y potencialmente más peligrosos.

Altman dijo: "Creo que llegará un momento en un futuro no muy lejano, como si no estuviéramos hablando de dentro de décadas y décadas, en el que los sistemas de IA de vanguardia sean capaces de causar un daño global significativo".

En US y UE han ido aprobando leyes para regular la IA, pero Altman no cree que una legislación inflexible pueda seguir el ritmo de los rápidos avances de la IA. También se muestra crítico con US Estados que intentan regular la IA de forma independiente.

Hablando de sistemas avanzados de IA anticipados, Altman Y para este tipo de sistemas, de la misma manera que tenemos una supervisión global de las armas nucleares o de la biología sintética o de cosas que pueden tener un impacto muy negativo más allá del ámbito de un país.

Me gustaría ver algún tipo de agencia internacional que examinara los sistemas más potentes y garantizara pruebas de seguridad razonables".

Altman dijo que este tipo de supervisión internacional sería necesaria para evitar que una IA superinteligente pudiera "escapar y autoperfeccionarse recursivamente".

Altman reconoció que, aunque la supervisión de los potentes modelos de IA es necesaria, una regulación excesiva de la IA podría frenar el progreso.

El enfoque que sugiere es similar al de la regulación nuclear internacional. El Organismo Internacional de la Energía Atómica supervisa a los Estados miembros con acceso a cantidades significativas de material nuclear.

"Si la línea en la que sólo vamos a fijarnos en los modelos que se entrenan en ordenadores que cuestan más de 10.000 millones o más de 100.000 millones o lo que sea de dólares, me parecería bien. Habría alguna línea que estaría bien. Y no creo que eso suponga una carga reglamentaria para las nuevas empresas", explicó.

Altman explicó por qué consideraba que el enfoque de la agencia era mejor que intentar legislar la IA.

"La razón por la que he presionado para que se adopte un enfoque basado en las agencias para las cuestiones generales y no... escribirlas en leyes... en 12 meses, todo estará mal escrito... Y no creo que incluso si estas personas fueran verdaderos expertos mundiales, pudieran hacerlo bien. En 12 o 24 meses", dijo.

¿Cuándo saldrá a la venta GPT-5?

Cuando se le preguntó por la fecha de lanzamiento de la GPT-5, Altman se mostró previsiblemente poco receptivo, pero dejó entrever que tal vez no ocurra como pensamos.

"Nos tomamos nuestro tiempo a la hora de lanzar grandes modelos... Además, no sé si lo llamaremos GPT-5", dijo.

Altman señaló las mejoras iterativas OpenAI ha hecho en GPT-4 y dijo que éstas indican mejor cómo la empresa desplegará futuras mejoras.

Así que parece menos probable que veamos un lanzamiento de "GPT-5" y más probable que se añadan funciones adicionales a GPT-4.

Tendremos que esperar a OpenAIpara ver si obtenemos más pistas sobre lo que nos espera. ChatGPT cambios que podemos esperar.

Si desea escuchar la entrevista completa puede escúchelo aquí.

Únete al futuro


SUSCRÍBETE HOY

Claro, conciso y completo. Conozca los avances de la IA con DailyAI

Eugene van der Watt

Eugene es ingeniero electrónico y le encanta todo lo relacionado con la tecnología. Cuando descansa de consumir noticias sobre IA, lo encontrará jugando al billar.

×
 
 

PDF GRATUITO EXCLUSIVO
Adelántese con DailyAI


 

Suscríbase a nuestro boletín semanal y reciba acceso exclusivo al último eBook de DailyAI: 'Mastering AI Tools: Su guía 2024 para mejorar la productividad'.



 
 

*Al suscribirse a nuestro boletín de noticias, acepta nuestra política de privacidad. Política de privacidad y nuestro Condiciones generales