Google, Microsoft, Anthropic et OpenAI ont annoncé la création du Frontier Model Forum, un collectif dirigé par l'industrie qui s'engage à préserver l'avenir des modèles d'IA "pionniers".
Le Frontier Model Forum vise à promouvoir le développement positif de l'IA, à renforcer la recherche en matière de sécurité, à identifier les meilleures pratiques et à créer un lien de collaboration pour communiquer avec le public et les parties prenantes.
Des articles de blog de Google et de Microsoft soulignent que l'adhésion au forum est ouverte à d'autres développeurs d'IA, mais les membres fondateurs se distinguent par la présence d'OpenAI et d'Anthropic, deux startups soutenues par Google et Microsoft.
La collaboration interindustrielle en matière d'IA a été un sujet de discussion pendant une grande partie de l'année.
C'est l'une des premières preuves concrètes que Microsoft et Google, au moins, travailleront ensemble sur l'IA - il sera intéressant de voir si Meta, Amazon, Inflection et d'autres les rejoindront également.
Les "modèles frontières", terme inventé par le Forum, définissent des modèles d'apprentissage automatique à grande échelle qui éclipsent les capacités des modèles existants. Grâce à leur capacité à effectuer un large éventail de tâches, ces modèles frontières ont ouvert de nouvelles frontières à l'innovation technologique, d'où leur nom.
Les modèles de frontière pourraient être décrits comme des "agents généralistes", capables d'effectuer des tâches polyvalentes et multimodales dans de nombreuses disciplines.
L'annonce de la création du Frontier Model Forum coïncide avec les pressions croissantes exercées sur les entreprises du secteur de l'IA pour qu'elles s'autorégulent. cadre annoncé par la Maison Blanche à laquelle sept grandes entreprises d'IA ont déjà adhéré : Google, Anthropic, Microsoft, Amazon, OpenAI, Meta et Inflection.
Que fera le Frontier Model Forum ?
A Article de blog de Microsoft a défini quatre grands domaines de recherche pour le forum :
- Faire progresser la recherche sur la sécurité de l'IAh : Le Forum entend favoriser le développement responsable de modèles d'avant-garde, minimiser les risques potentiels et faciliter les évaluations indépendantes et normalisées des capacités et de la sécurité de l'IA.
- Identifier les meilleures pratiques: L'objectif est de définir et de partager des pratiques responsables pour le développement et le déploiement de modèles d'avant-garde, ainsi que de promouvoir la compréhension par le public de la nature, des capacités, des limites et de l'impact de la technologie de l'IA.
- Favoriser la collaboration: Les membres ont pour objectif de partager leurs connaissances sur les risques liés à la confiance et à la sécurité avec les décideurs politiques, les universitaires, la société civile et d'autres entreprises du secteur.
- Relever les défis sociétaux: Le forum soutient le développement d'applications de l'IA pour relever certains des principaux défis de la société, tels que le changement climatique, la détection précoce et la prévention du cancer, et les menaces de cybersécurité.
Au cours des prochains mois, le Frontier Model Forum mettra en place un conseil consultatif chargé d'orienter sa stratégie et ses priorités. Un groupe de travail et un conseil d'administration établiront les dispositions institutionnelles essentielles, notamment la charte, la gouvernance et le financement.
Le Forum a également l'intention de consulter la société civile et les gouvernements dans les semaines à venir sur la conception du Forum et les possibilités de collaboration. Il s'agit notamment de soutenir des initiatives multilatérales telles que le processus d'Hiroshima du G7, les travaux de l'OCDE sur les risques liés à l'IA et le Conseil du commerce et de la technologie entre les États-Unis et l'Union européenne.
Les leaders du secteur s'expriment
Les dirigeants et les chercheurs des quatre membres actuels du forum ont fait part de leur intention de travailler ensemble à l'avenir de l'IA.
Kent Walker, président des affaires mondiales chez Google et Alphabet, a déclaré : "Nous sommes ravis de collaborer avec d'autres entreprises de premier plan, en partageant notre expertise technique pour promouvoir une innovation responsable en matière d'IA. L'engagement des entreprises, des gouvernements et de la société civile sera essentiel pour que les promesses de l'IA profitent à tous."
Brad Smith, vice-président et président de Microsoft, s'est fait l'écho du sentiment de M. Walker. Il a insisté sur la responsabilité des entreprises qui développent l'IA : "Les entreprises qui créent des technologies d'IA ont la responsabilité de s'assurer qu'elles sont sûres et sécurisées et qu'elles restent sous le contrôle de l'homme. Cette initiative est une étape essentielle pour rassembler le secteur technologique afin de faire progresser l'IA de manière responsable et de relever les défis afin qu'elle profite à l'ensemble de l'humanité."
Anna Makanju, vice-présidente des affaires mondiales chez OpenAI, a souligné l'équilibre entre les avantages et la surveillance nécessaire de l'IA avancée, en déclarant : "Les technologies d'IA avancée ont le potentiel de bénéficier profondément à la société, et la capacité de réaliser ce potentiel nécessite une surveillance et une gouvernance. Il est essentiel que les entreprises d'IA - en particulier celles qui travaillent sur les modèles les plus puissants - s'alignent sur un terrain d'entente et fassent progresser des pratiques de sécurité réfléchies et adaptables afin de garantir que les outils d'IA puissants profitent au plus grand nombre. Il s'agit d'un travail urgent et ce forum est bien placé pour agir rapidement afin de faire progresser l'état de la sécurité de l'IA."
Dario Amodei, PDG d'Anthropic, a affirmé le potentiel de l'IA à remodeler le monde, en déclarant : "Anthropic croit que l'IA a le potentiel de changer fondamentalement la façon dont le monde fonctionne. Nous sommes ravis de collaborer avec l'industrie, la société civile, les gouvernements et les universités pour promouvoir un développement sûr et responsable de cette technologie. Le Frontier Model Forum jouera un rôle essentiel dans la coordination des meilleures pratiques et le partage de la recherche sur la sécurité de l'IA d'avant-garde".
Les entreprises technologiques semblent jeter les bases d'une nouvelle ère d'IA extrêmement intelligentes, et les choses évoluent rapidement, puisque ce n'est qu'au début de l'année que les responsables politiques de l'UE et des États-Unis ont commencé à encourager une collaboration immédiate entre les industries.
