Londres (Reino Unido) - El Primer Ministro Rishi Sunak dijo la semana pasada en la London Tech Week que OpenAI, Google DeepMind y Anthropic han prometido proporcionar "acceso temprano o prioritario" a sus modelos de IA.
La medida pretende ayudar a la investigación en el campo de la inteligencia artificial centrada en la evaluación y la seguridad. Esta declaración sigue a la Plan del Gobierno británico convocar una reunión mundial sobre la seguridad de la IA.
El Primer Ministro Sunak expresó su compromiso con la investigación sobre la seguridad de la IA: "Vamos a hacer investigación puntera sobre seguridad [de la IA] aquí, en el Reino Unido". Estamos invirtiendo más dinero en seguridad de la IA que ningún otro gobierno, incluidos 100 millones de libras para nuestro equipo de expertos".
Y prosiguió: "Estamos colaborando con los laboratorios de vanguardia: Google DeepMind, OpenAI y Anthropic. Y me complace decir que han accedido a proporcionar acceso temprano o prioritario a modelos por motivos de investigación y seguridad para ayudarnos a construir mejores evaluaciones y comprender el potencial y los peligros de estos sistemas."
El Primer Ministro Sunak estableció un vínculo con las conferencias sobre el clima de la COP para promover el Reino Unido como centro mundial de regulación de la seguridad de la IA. "Del mismo modo que nos unimos en la COP para hacer frente al cambio climático, el Reino Unido acogerá la primera cumbre mundial sobre seguridad de la IA a finales de este año", declaró sobre la inminente reunión. "Mi objetivo es hacer del Reino Unido no solo el hogar intelectual, sino también geográfico, de la regulación mundial de la seguridad de la IA".
Este énfasis actual en la seguridad de la IA refleja un cambio sustancial de actitud del gobierno. En el pasado, el gobierno británico favorecía una postura favorable a la innovación y unos principios flexibles para la gobernanza de la IA, descartando la necesidad de reglamentos técnicos o agencias de supervisión.
Sin embargo, ante la creciente preocupación por los posibles peligros y el control de la IA, Downing Street ha reevaluado rápidamente su plan.
Aunque la promesa de las empresas de IA de facilitar un mayor acceso a sus modelos brinda al Reino Unido la oportunidad de liderar los enfoques de revisión y auditoría de la IA, existe el peligro de que la industria influya en las medidas de seguridad del país en este ámbito.
Los gigantes de la IA podrían dar forma a las futuras normas de IA que afecten a sus propias empresas moldeando el debate en torno a la investigación de la seguridad de la IA e influyendo en la priorización de temas.
Para garantizar la generación de resultados fiables y rigurosos, los programas de seguridad de la IA del gobierno británico deben incluir a investigadores independientes, organizaciones de la sociedad civil y las personas más expuestas a los daños de la automatización.
Los éticos han insistido en la necesidad de abordar las injusticias reales creadas por la tecnología de IA, como los prejuicios, la discriminación, la invasión de la intimidad, la violación de la propiedad intelectual y la explotación del medio ambiente.
A medida que el Reino Unido avanza en su programa de seguridad de la IA, combinar la participación de la industria con una supervisión independiente será fundamental para desarrollar un ecosistema de IA responsable e inclusivo que proteja contra posibles peligros al tiempo que maximiza las ventajas de la inteligencia artificial.
