Google, Anthropic, Microsoft, Amazon, OpenAI, Meta e Inflection: estos 7 gigantes de la industria de la IA han aceptado los compromisos voluntarios establecidos por la Casa Blanca.
"Debemos ser lúcidos y estar atentos a las amenazas que pueden plantear las tecnologías emergentes", dijo Biden refiriéndose a la IA. Habló de las falsificaciones en las redes sociales, entre otros riesgos.
En declaración oficialpublicado en el sitio web de la Casa Blanca, destaca varios procesos clave que las empresas de IA deben cumplir al desarrollar y lanzar productos al público.
"Las empresas estadounidenses son líderes mundiales en innovación, y tienen la responsabilidad de hacerlo y seguir haciéndolo, pero tienen la misma responsabilidad de garantizar que sus productos sean seguros y fiables", dijo el jefe de gabinete de la Casa Blanca, Jeff Zients, en un comunicado. entrevista reciente en NPR.
Sin embargo, el proceso para exigir responsabilidades a las empresas de IA si no cumplen sus compromisos sigue siendo confuso. "Utilizaremos todos los medios de que disponemos en el gobierno federal para hacer cumplir estos compromisos y normas. Al mismo tiempo, necesitamos legislación", explicó Zients.
La Casa Blanca trabaja en colaboración con el Congreso para formular una legislación sobre IA que acentúe su potencial positivo y controle los riesgos. EE.UU., un país lento en la regulación de la IA, ha hecho avances significativos establecer una posición sobre la tecnología para orientarla hacia fines positivos.
¿Cuáles son los compromisos?
Los compromisos implican transparencia, pruebas e intercambio de información con el público y el gobierno.
Los desarrolladores de IA se comprometen a someter sus productos a pruebas "realizadas en parte por expertos independientes" para protegerse de riesgos importantes. Google y OpenAI pondrán a prueba sus sistemas de IA en la próxima convención de hacking DEF-CON de Las Vegas, una medida respaldada por la Casa Blanca.
Otras promesas incluyen el desarrollo de métodos para indicar cuándo el contenido está generado por IA, como marcas de agua, evitar los prejuicios y la discriminación, y salvaguardar la privacidad.
Estos acuerdos, sin embargo, son sólo el principio. "Los compromisos que están adquiriendo las empresas son un buen comienzo, pero es sólo el principio", dijo Zients. "La clave aquí es la implementación y la ejecución para que estas empresas cumplan y se ganen la confianza del público".
La Casa Blanca también ha mantenido conversaciones con líderes sindicales y de derechos civiles para conocer la influencia de la IA en su trabajo.
Sin embargo, Ifeoma Ajunwa, profesora de Derecho en Emory, expresa su decepción por el hecho de que la Casa Blanca haya colaborado principalmente con las propias empresas de IA. "También queremos asegurarnos de que incluimos otras voces que no tienen ánimo de lucro", afirma.
"Definitivamente deberíamos invitar a los líderes corporativos y a los titanes tecnológicos a formar parte de esta conversación, pero no deberían liderar la conversación".
Los nuevos acuerdos podrían favorecer injustamente a las empresas más grandes y consolidadas, frenando el crecimiento de las nuevas empresas.
Victor Menaldo, profesor de economía política de la Universidad de Washington, sugiere que "las grandes empresas establecidas pueden jugar a su favor, y los recién llegados no tienen nada que decir".
La normativa también golpear a la comunidad de código abiertoque no tiene necesariamente la confianza y el peso en la gobernanza de empresas tecnológicas consolidadas como Google y Microsoft.
Es probable que el cumplimiento resulte caro y amenace con sobrecargar a las empresas de nueva creación.
Los responsables de la Casa Blanca no aclararon si se añadirían nuevas empresas a los acuerdos: "Esperamos que otras empresas vean cómo también tienen la obligación de cumplir las normas de seguridad y confianza. Y pueden optar -y nos parece bien que lo hagan- por sumarse a estos compromisos".
Otro marco voluntario, aunque de un nivel ligeramente superior a los demás.
¿Tendrá alguna repercusión práctica en el desarrollo de la IA? Sólo el tiempo lo dirá.
