Los recientes acontecimientos en OpenAI han puesto de relieve las ideologías del "altruismo efectivo" y su vástago, el "largoplacismo".
Pero¿Qué significan estas "filosofías"? ¿Y cómo afectan a la política y la gobernanza de la IA?
OpenAI se fundó inicialmente como una organización sin ánimo de lucro. Después, en 2019, se convirtió en una entidad con ánimo de lucro "capado", definida como una "asociación entre nuestra organización sin ánimo de lucro original y una nueva rama con ánimo de lucro capado."
Una vez que la empresa supo sobre qué estaba sentada, se no iba a mantenerse alejado de los inversores y de la obtención de beneficios para siempre, después de todo.
Desde 2019, el papel del altruismo efectivo, que sustentaba la misión de OpenAI, se ha desvanecido.
¿Qué es el altruismo efectivo?
El altruismo efectivo es una filosofía moderna fundada no hace mucho por académicos de la Universidad de Oxford como William MacAskill y Toby Ord.
En pocas palabras, trata de maximizar los impactos positivos sobre el planeta en un sentido general, definido como "utilizar la evidencia y la razón para averiguar cómo beneficiar a los demás tanto como sea posible, y actuar sobre esa base".
Su subconjunto, el largoplacismo, se centra en reducir los riesgos existenciales para garantizar el bienestar de las generaciones futuras. Nació de las críticas a los gobiernos cíclicos y a corto plazo. Sostiene que la gobernanza actual no da cabida al tipo de acción sistemática y coherente que necesitamos para mantener nuestro planeta.
OpenAI, fundada con el noble objetivo de desarrollar la inteligencia artificial en beneficio de la humanidad, coincidía con estos principios.
Sin embargo, la expansión comercial de la empresa y el apoyo a la inversión, como los $1.000 millones de Microsoft, crearon un conflicto entre estos objetivos altruistas y las necesidades empresariales prácticas.
Ideología altruista en OpenAI
Este choque de ideologías alcanzó un punto de ruptura dentro de OpenAI.
Por un lado está el tecno-capitalismo de Silicon Valley, que defiende las ideas disruptivas con grandes cantidades de capital riesgo.
Por otro, el enfoque más lento y cauteloso que se ha convertido en la postura de facto entre los jefes de tecnología de IA. ¿Qué otra cosa pueden decir ante la presión nacional e internacional para que moderen cuidadosamente sus productos?
Para que la IA progrese, tiene que apaciguar a quienes le temen. Aunque hay debate considerable sobre si la IA es realmente peligrosa, lo cierto es que mucha gente está preocupada.
Esta dicotomía se personificó en Altman, quien, al tiempo que impulsaba a OpenAI para que se convirtiera en una potencia tecnológica, también advertía de las amenazas existenciales que planteaba la IA avanzada. Una vez más, ¿qué otra opción tenía?
Para tranquilizar, Altman destacó cómo la estructura de OpenAI protegía a la empresa de transitar por caminos más arriesgados, pero su reincorporación como consejero delegado pone fin a eso. Altman fue readmitido a la fuerza, independientemente de si lo consideras un acto de solidaridad o no.
"Sobre el papel, el consejo tenía el poder, así lo presentaba Sam Altman", dice Toby Ord, uno de los fundadores del altruismo efectivo y miembro del Centro para el Gobierno de la IA (CAIS).
Y continuó: "En cambio, una gran cantidad de poder parece residir en Altman personalmente, y en los empleados y Microsoft."
Dinámica y retos del Consejo
El despido de Altman por parte de los miembros del consejo, algunos de los cuales estaban relacionados con el movimiento del altruismo efectivo, amenaza la capacidad de OpenAI para seguir comercializándose como una empresa novedosa centrada en los beneficios humanitarios.
Los miembros de la Junta alegaron que Altman no estaba siendo "sincero en sus comunicaciones", pero la mayoría cree que no se estaba tomando en serio la seguridad.
El nuevo consejo de OpenAI, aunque por ahora se rige por las mismas normas que el anterior, no opondrá la misma resistencia a Altman.
La resolución de esta crisis, con el regreso de Altman y la remodelación del consejo, deja preguntas sin respuesta sobre la futura dirección de la empresa y sus principios fundacionales. OpenAI se ha desatado - Altman no será destituido hasta que esté acabado.
Sin embargo, será difícil que OpenAI acelere con desarrollos de IA más arriesgados por el mero hecho de esta remodelación del consejo. Si OpenAI es demasiado optimista, podrían acelerar la acción contra ellos. Están bajo estrecha inspección por organizaciones como la FTC ya.
¿Cómo pueden las empresas armonizar las filosofías altruistas a largo plazo con las realidades del progreso tecnológico y comercial?
¿Son compatibles? ¿Fueron compatibles alguna vez?
