La decisión de despedir a Sam Altam puede haber estado influida por los efectivos ideales altruistas que comparten los miembros del consejo de OpenAI. El CEO interino Emmett Shear comparte algunos de sus temores sobre la IA.
A grandes rasgos, el concepto de Altruismo Eficaz (AE) consiste en abordar los problemas más acuciantes del mundo y emprender acciones lógicas para maximizar los resultados positivos para la humanidad.
Cuando se aplica al espacio de la IA, muchos de los defensores de la EA hacen sonar la alarma sobre el vertiginoso ritmo de desarrollo y los posibles riesgos existenciales para la humanidad.
En el otro lado del espectro están los Aceleracionistas Efectivos (e/acc), que afirman que la IA no nos matará a todos y que deberíamos avanzar más rápido.
Al menos la mitad de los actuales miembros de la junta de OpenAI parecen caer de lleno en el lado de EA y sus temores a la IA pueden haber estado detrás de avances recientes en la empresa.
Helen Toner dirigía Effective Altruism Melbourne, y Tasha McCauley forma parte del consejo de Effective Ventures, que dirige el Centre For Effective Altruism.
Introduzca Emmett Shear
En un podcast reciente, Emmett Shear, el tercer consejero delegado de OpenAI en casi el mismo número de días, expresó su apoyo a las opiniones de los profetas de la EA de la perdición de la IA.
Emmett Shear, nuevo Director General de OpenAI, en un podcast reciente.pic.twitter.com/6LGEOinn7r
- Rowan Cheung (@rowancheung) 20 de noviembre de 2023
Shear también es admirador del investigador en IA Eliezer Yudkowsky, autor de una novela de ficción fan de Harry Potter que defiende el pensamiento racional y científico. Harry Potter y los Métodos de la Racionalidad (HPMOR) es popular entre la comunidad de EA y se utiliza en sus actividades de captación.
En el capítulo 104 de la novela de 660.000 palabras, Yudowsky escribe sobre un Buscador llamado Emmett Shear que se cae de una escoba en un partido de Quidditch.
Si Shear comparte las opiniones más extremas de Yudowsky sobre la seguridad de la IA, podemos esperar más frenazos en OpenAI.
A principios de este año, líderes tecnológicos como Elon Musk y Emad Mostaque se unieron a miles de personas para firmar una carta abierta en la que se pedía una pausa de 6 meses en el desarrollo de la IA. Yudowsky se negó a firmar la carta alegando que "subestimaba la gravedad de la situación y pedía demasiado poco para resolverla".
En una carta publicado en Time Yudowsky dijo que el desarrollo de la IA debería detenerse por completo o, de lo contrario, "morirá literalmente todo el mundo en la Tierra".
En su carta, Yudowsky no dejaba lugar a dudas: "Si alguien construye una IA demasiado potente, en las condiciones actuales, espero que todos y cada uno de los miembros de la especie humana y toda la vida biológica de la Tierra mueran poco después".
Sabemos que Shear está de acuerdo con algunos de estos sentimientos. En el vídeo de arriba, Shear dice: "Sé que Eliezer piensa que todos estamos condenados. Me creo su argumento. Me creo la cadena y la lógica".
¿Nos salvará EA y condenará a OpenAI?
Probablemente, la mayoría de la gente oyó hablar por primera vez del altruismo efectivo cuando apareció en escena el fundador de FTX, Sam Bankman Fried, caído en desgracia. Afirmaba que los principios de EA estaban detrás de su deseo de ganar mucho dinero para hacer mucho bien.
Su ejemplo demuestra que las personas que tienen un fuerte deseo de marcar una diferencia positiva no son inmunes a tomar decisiones muy estúpidas.
Si la junta de OpenAI sigue dando prioridad a los principios de la EA, es difícil ver cómo Sam Altman podría dedicarse a la AGI y a la rentabilidad, si es que vuelve a ser nombrado.
Si el consejo modera sus opiniones y escucha a los defensores de la e/acc como el informático Yann LeCunentonces OpenAI puede seguir siendo un proyecto viable.
Mark Zuckerberg animó a sus ingenieros a "moverse rápido y romper cosas". Puede que Altman comparta esa opinión sobre el desarrollo de la IA, pero está claro que los actuales dirigentes de OpenAI no.
