Google, Microsoft, Anthropic y OpenAI han anunciado la creación del Frontier Model Forum, un colectivo liderado por la industria que se compromete a salvaguardar el futuro de los modelos de IA "fronterizos".
El Foro Modelo Frontera pretende fomentar el desarrollo positivo de la IA, potenciar la investigación sobre seguridad, identificar las mejores prácticas y crear un nexo de colaboración para comunicarse con el público y las partes interesadas.
Los blogs de Google y Microsoft destacan que el Foro está abierto a otros desarrolladores de IA, pero entre sus miembros fundadores destacan las empresas OpenAI y Anthropic, respaldadas por Google y Microsoft.
La colaboración entre industrias en torno a la IA ha sido un tema de conversación durante gran parte del año.
Esta es una de las primeras pruebas concretas que hemos visto de que Microsoft y Google, al menos, van a trabajar juntos en el campo de la IA; será interesante ver si Meta, Amazon, Inflection y otros se unen también.
Los "modelos frontera", término acuñado por el Foro, definen los modelos de aprendizaje automático a gran escala que eclipsan las capacidades de los modelos existentes. Con su capacidad para realizar una amplia gama de tareas, estos modelos fronterizos han abierto nuevas fronteras a la innovación tecnológica, de ahí su nombre.
Los modelos de frontera podrían describirse como "agentes generalistas", capaces de realizar tareas polivalentes y multimodales en numerosas disciplinas.
El anuncio de la creación del Frontier Model Forum coincide con las crecientes presiones sobre las empresas de IA para que se autorregulen. marco anunciado por la Casa Blanca al que ya se han adherido 7 empresas líderes en IA: Google, Anthropic, Microsoft, Amazon, OpenAI, Meta e Inflection.
¿Qué hará el Foro Modelo Frontera?
A Publicación en el blog de Microsoft esbozó 4 áreas clave de investigación para el Foro:
- Avanzar en la investigación sobre la seguridad de la IAh: El Foro pretende fomentar el desarrollo responsable de modelos de vanguardia, minimizar los riesgos potenciales y facilitar evaluaciones independientes y estandarizadas de las capacidades y la seguridad de la IA.
- Identificar las mejores prácticas: Orientado a esbozar y compartir prácticas responsables para el desarrollo y despliegue de modelos de frontera, así como a promover la comprensión pública de la naturaleza, capacidades, limitaciones e impactos de la tecnología de IA.
- Fomentar la colaboración: El objetivo de los miembros es compartir conocimientos sobre los riesgos para la confianza y la seguridad con los responsables políticos, el mundo académico, la sociedad civil y otras empresas del sector.
- Afrontar los retos de la sociedad: El foro apoya el desarrollo de aplicaciones de IA para afrontar algunos de los principales retos de la sociedad, como el cambio climático, la detección y prevención precoz del cáncer y las amenazas a la ciberseguridad.
En los próximos meses, el Foro Modelo Frontera creará un Consejo Asesor para orientar su estrategia y sus prioridades. Un grupo de trabajo y una junta ejecutiva establecerán los acuerdos institucionales fundamentales, incluidos los estatutos, la gobernanza y la financiación.
El Foro también tiene previsto consultar a la sociedad civil y a los gobiernos en las próximas semanas sobre el diseño del Foro y las posibles vías de colaboración. Esto incluye el apoyo a iniciativas multilaterales como el proceso de Hiroshima del G7, el trabajo de la OCDE sobre los riesgos de la IA y el Consejo de Comercio y Tecnología EE.UU.-UE.
Los líderes del sector opinan
Ejecutivos e investigadores de los cuatro miembros actuales del Foro han manifestado su intención de trabajar juntos por el futuro de la IA.
Kent Walker, Presidente de Asuntos Globales de Google & Alphabet, ha declarado: "Estamos encantados de trabajar junto con otras empresas líderes, compartiendo conocimientos técnicos para promover la innovación responsable de la IA. El compromiso de las empresas, los gobiernos y la sociedad civil será esencial para cumplir la promesa de la IA de beneficiar a todos."
Brad Smith, Vicepresidente y Presidente de Microsoft, se hizo eco de la opinión de Walker. Destacó la responsabilidad de las empresas que lideran el desarrollo de la IA: "Las empresas que crean tecnología de IA tienen la responsabilidad de garantizar que sea segura y permanezca bajo control humano. Esta iniciativa es un paso vital para unir al sector tecnológico en el avance responsable de la IA y abordar los retos para que beneficie a toda la humanidad."
Anna Makanju, Vicepresidenta de Asuntos Globales de OpenAI, destacó el equilibrio entre los beneficios y la necesaria supervisión de la IA avanzada, afirmando: "Las tecnologías avanzadas de IA tienen el potencial de beneficiar profundamente a la sociedad, y la capacidad de alcanzar este potencial requiere supervisión y gobernanza. Es vital que las empresas de IA -especialmente las que trabajan en los modelos más potentes- se alineen en un terreno común y avancen en prácticas de seguridad reflexivas y adaptables para garantizar que las potentes herramientas de IA tengan el mayor beneficio posible. Se trata de un trabajo urgente y este foro está bien posicionado para actuar con rapidez para avanzar en el estado de la seguridad de la IA."
Dario Amodei, CEO de Anthropic, afirmó el potencial de la IA para remodelar el mundo, declarando: "Anthropic cree que la IA tiene el potencial de cambiar fundamentalmente el funcionamiento del mundo. Nos entusiasma colaborar con la industria, la sociedad civil, los gobiernos y el mundo académico para promover un desarrollo seguro y responsable de la tecnología. El Frontier Model Forum desempeñará un papel vital en la coordinación de las mejores prácticas y el intercambio de investigaciones sobre la seguridad de la IA en las fronteras."
Las empresas tecnológicas parecen estar sentando las bases de una nueva era de IA extremadamente inteligente, y las cosas avanzan con rapidez, ya que fue a principios de este año cuando los políticos de la UE y EE.UU. empezaron a fomentar la colaboración inmediata de la industria.
