Elon Musk ha presentado una demanda contra OpenAI y sus cofundadores, Sam Altman y Greg Brockman, por supuesto incumplimiento del acuerdo que firmaron cuando los tres hombres fundaron OpenAI.
La demanda ofrece una interesante visión de la génesis de la empresa que se ha convertido en líder en el desarrollo de modelos de IA de última generación. Gira en torno a los dos objetivos principales de OpenAI que se documentaron en el "Acuerdo Fundacional" de la empresa.
Los tres hombres acordaron que OpenAI "sería una organización sin ánimo de lucro que desarrollaría AGI en beneficio de la humanidad, no para una empresa con ánimo de lucro que buscara maximizar los beneficios de sus accionistas".
También acordaron que OpenAI "sería de código abierto, equilibrando únicamente consideraciones de seguridad compensatorias, y no mantendría su tecnología cerrada y secreta por razones comerciales de propiedad."
Musk temía, y aún teme, que la búsqueda rentable de AGI y el control exclusivo de la tecnología por parte de empresas como Google sería perjudicial para la sociedad humana.
La idea subyacente al acuerdo era que OpenAI crearía una inteligencia artificial abierta y segura que estaría a libre disposición de la humanidad, eliminando así el riesgo de que empresas con ánimo de lucro utilizaran la tecnología en detrimento de la humanidad.
La brecha
En la actualidad, el modelo de IA líder indiscutible es el GPT-4 de OpenAI, pero no tiene nada de remotamente abierto, a pesar del nombre de la empresa que lo ha desarrollado. Al contrario que con GPT-3, OpenAI ni siquiera ha publicado un documento técnico que detalle cómo funciona GPT-4.
Aunque el acuerdo de fundación establecía que la empresa buscaría tecnología de código abierto, sólo OpenAI, y probablemente Microsoft, tienen acceso al código, las ponderaciones y los datos de entrenamiento de GPT-4.
Gestionar una empresa como OpenAI cuesta dinero, así que no es de extrañar que cobre a los usuarios por utilizar sus productos. Pero su acuerdo de licencia exclusiva con Microsoft significa que sus modelos se utilizan ahora para generar beneficios para Big Tech. Exactamente lo contrario de los principios fundacionales que Musk dice que todos acordaron.
La demanda afirma que "OpenAI, Inc. se ha transformado en una filial de facto de código cerrado de la mayor empresa tecnológica del mundo: Microsoft. Bajo su nuevo consejo de administración, no sólo está desarrollando, sino que en realidad está perfeccionando una AGI para maximizar los beneficios de Microsoft, en lugar de para el beneficio de la humanidad."
¿Tenemos AGI?
El acuerdo de licencia de Microsoft sólo se aplica a la tecnología pre-AGI de OpenAI. Si se determina que un modelo de OpenAI ha alcanzado el nivel de AGI, el acuerdo de licencia impide a Microsoft acceder a él.
La demanda de Musk es atrevida al afirmar que "GPT-4 es un algoritmo AGI", por lo que Microsoft no debería tener acceso a él. La demanda pide que el tribunal dictamine que esto es cierto. No estoy seguro de cómo se supone que el juez y el jurado van a hacerlo en ausencia de una definición aceptada por la industria de lo que es exactamente AGI.
La demanda también confirma los rumores sobre en qué han estado trabajando los ingenieros de OpenAI. La demanda afirma que "OpenAI está desarrollando actualmente un modelo conocido como Q* (estrella Q) que tiene una demanda aún más fuerte a AGI ".
En última instancia, es la junta de OpenAI la que decide qué se considera AGI en virtud del contrato de licencia de Microsoft. Después de la Despido, recontratación y reorganización del consejo de AltmanLa decisión recae ahora en los nuevos miembros del consejo de administración, nombrados con la bendición de Microsoft.
¿Es por esto por lo que Ilya Sutskever fue destituido de la junta y encerrado en silencio en alguna trastienda? ¿Se sabe algo de él desde hace meses? ¿Qué vio Ilya?
No espere que la nueva junta se apresure a afirmar que se ha alcanzado el AGI, aunque ese sea el objetivo expresamente declarado de la empresa.
Temores ante la IA
Una de las motivaciones de la demanda es el temor de Musk a que el AGI caiga en malas manos.
La demanda relata cómo Musk se reunió con el cofundador de DeepMind Demis Hassabis en 2012 para hablar de estos temores, algunos de los cuales compartía Hassabis.
También afirma que "tras una reunión con el Sr. Hassabis e inversores en DeepMind, uno de los inversores comentó que lo mejor que podría haber hecho por la raza humana era disparar al Sr. Hassabis allí mismo".
Cuando Musk habló de sus temores con el entonces Consejero Delegado de Google, Larry Page, éste dijo que una IA superinteligente que sustituyera a los humanos sería simplemente "la siguiente etapa de la evolución", y afirmó que Musk estaba siendo un "especista" con sus opiniones a favor de los humanos.
¿Está Musk siendo demasiado dramático, o deberíamos preocuparnos?
La demanda merece la pena leerlo si quiere conocer entre bastidores cómo una gran parte de la industria ha llegado a donde está hoy. Sin embargo, no es probable que el caso se resuelva pronto.
OpenAI podría confirmar los temores de Musk sobre la IA y esgrimirlos como principal razón para no publicar sus modelos como código abierto. Argumentar el afán de lucro de la empresa puede ser una tarea más difícil para los ya de por sí expertos de OpenAI. equipo jurídico muy ocupado.
