La Corporación RAND, un grupo de reflexión con profundos vínculos con las redes de financiación de los multimillonarios de la tecnología, especialmente a través de Open Philanthropy, desempeñó un papel fundamental en la redacción de la orden ejecutiva del Presidente Joe Biden sobre IA.
Según Político, esta orden, muy influida por el altruismo efectivo, una filosofía que aboga por un enfoque de la filantropía basado en los datos, introdujo requisitos exhaustivos de información sobre la IA.
La participación de RAND ha levantado ampollas debido a su importante financiación por parte de grupos como Open Philanthropy, vinculado a líderes tecnológicos como Dustin Moskovitz. Según el portavoz de RAND, Jeffrey Hiday, RAND existe para "[llevar a cabo] investigación y análisis sobre temas críticos de la actualidad, [y] luego [compartir] esa investigación, análisis y experiencia con los responsables políticos."
Esto supuso una amplia consulta sobre la reciente orden ejecutivaincluyendo la redacción de los documentos finales.
A principios de este año, RAND Corporation recibió más de $15 millones en subvenciones discrecionales de Open Philanthropy, destinadas a proyectos de IA y bioseguridad.
Open Philanthropy, conocida por su enfoque de altruismo efectivo, mantiene conexiones tanto personales como financieras con empresas de IA como Anthropic y OpenAI.
Además, figuras destacadas de RAND están entrelazadas en los entramados corporativos de estas empresas de IA en lo que sigue siendo una industria relativamente compacta en los escalones más altos, al menos en Estados Unidos.
Los críticos argumentan que la alineación del think tank con el altruismo efectivo podría sesgar el enfoque de su investigación, eclipsando preocupaciones inmediatas de la IA como los prejuicios raciales o la infracción de los derechos de autor.
La dinámica de RAND también refleja una tendencia más amplia en la que el altruismo efectivo determina cada vez más la política de IA - al menos entrando en su narrativa. Este movimiento, defendido por figuras controvertidas como Sam Bankman-Fried, aboga por abordar los riesgos existenciales a largo plazo, incluidos los que plantea la IA avanzada, como el desarrollo de armas biológicas.
Sin embargo, este enfoque ha sido criticado por servir potencialmente a los intereses de las grandes empresas tecnológicas al desviar la atención de los daños existentes de la IA.
En esencia, el altruismo efectivo corre el riesgo de posponer la acción inmediata y práctica en favor de planes más hipotéticos y a largo plazo.
La lucha interna de OpenAI: altruismo frente a comercialización
OpenAI, inicialmente sin ánimo de lucroahora lidia con la tensión entre estos objetivos altruistas y las realidades del negocio y la obtención de beneficios, especialmente tras inversiones como los $1.000 millones de Microsoft y su reciente valoración de $86.000 millones.
Para OpenAI fue relativamente sencillo mantener esta filosofía cuando se encontraba bastante sola en la cima de la industria de la IA generativa.
Ahora, con la competencia al rojo vivo, sobre todo Gemini Ultra de Googleque amenaza directamente la superioridad de GPT-4, no es especialmente fácil actuar con moderación y cuidado y mantener al mismo tiempo esa codiciada posición en la cima de los modelos de IA.
La tensión en OpenAI llegó a su punto álgido con el liderazgo del consejero delegado Sam Altman. Su enfoque de la gestión de OpenAI encarnaba el conflicto entre el tecno-capitalismo de Silicon Valley y la creciente narrativa en torno a los riesgos de la IA. Se especulaba con que Altman no se tomaba en serio la seguridad en la empresa, aunque esto no se ha confirmado.
A pesar de las dudas de los miembros del consejo sobre su compromiso con la seguridad y la transparencia, la reincorporación de Altman como consejero delegado significó un momento crucial en la historia de la empresa, planteando interrogantes sobre la influencia del altruismo efectivo y el poder del consejo.
La pregunta ahora es, ¿pueden coexistir los ideales de altruismo efectivo y a largo plazo con los vertiginosos avances comerciales y tecnológicos en el sector de la IA?
La regulación puede salvaguardar las actividades de creación de valor de la IA
A principios de año, Nota de Luke Sernau en Google sugirió que la comunidad de IA de código abierto suponía un desafío directo al dominio de los principales desarrolladores de IA.
La nota decía: "En OpenAI hemos mirado mucho por encima del hombro. ¿Quién cruzará el siguiente hito? ¿Cuál será el próximo movimiento? Pero la incómoda verdad es que no estamos en condiciones de ganar esta carrera armamentística y OpenAI tampoco. Mientras nosotros discutíamos, una tercera facción se ha estado comiendo nuestro almuerzo en silencio. Me refiero, por supuesto, al código abierto".
Los modelos de código abierto, ejemplificados por LLaMA de Meta y Mixtral de Mistralestán cerrando rápidamente la brecha entre la innovación de base y la gran tecnología.
Aunque se presenta como un avance hacia el desarrollo responsable de la IA, el impulso a la regulación de la IA por parte de empresas como Google y OpenAI también puede socavar la comunidad de la IA de código abierto, que ofrece una alternativa descentralizada a los modelos centralizados.
Por supuesto, los modelos de código abierto también son más baratos y permiten a las empresas, instituciones de investigación, estudiantes y otros usuarios incorporar un nivel de propiedad y soberanía a sus soluciones.
¿Están los desarrolladores comerciales de IA motivados por una preocupación genuina por el desarrollo seguro y ético de la IA, o son en parte maniobras estratégicas para mantener el dominio del mercado y el control sobre la innovación en IA?
La intersección de altruismo, política y comercio en la industria de la IA es excepcionalmente compleja. A medida que avance la IA, la conciliación de estos diversos intereses seguirá dividiendo a la opinión pública.
