Los jueces no deberían decidir la velocidad a la que se desarrolla la IA

Cuatro organizaciones sin fines de lucro solicitan a un juez de San Francisco que detenga el desarrollo de nuevos modelos en cinco de las mayores empresas de inteligencia artificial. Su demanda, presentada el jueves, nombra a Anthropic, Google, Meta, OpenAI y SpaceX. En nuestra opinión, se le pide a un tribunal que tome una decisión que corresponde a los legisladores.

La agencia Associated Press fue la primera en informar sobre el caso. Los grupos que impulsan esta iniciativa son Irreplaceable Education Fund, Public Citizen, Heat Initiative y Alliance for Secure AI. Afirman que las empresas infringieron una ley de California sobre prácticas comerciales desleales al poner en riesgo la salud pública e interferir con bienes como sistemas informáticos. También señalan que han tenido que desviar personal y recursos de otros proyectos para hacer frente a esta amenaza.

La denuncia utiliza un lenguaje contundente. “Ninguna otra industria puede considerar inevitable el desarrollo de productos inseguros, y mucho menos de productos que podrían matarnos a todos”, afirma. Las empresas no respondieron a la AP antes de la publicación.

Las propias advertencias de la industria

Estos grupos se basan en gran medida en las declaraciones de los propios líderes en IA. Dario Amodei, director de Anthropic, afirmó el año pasado que veía una probabilidad de 1 entre 4 de que la IA tuviera un desenlace “realmente desastroso”. Elon Musk declaró a Fox News en 2023 que la IA podría conducir a la “destrucción de la civilización”. La AP también menciona casos recientes de sistemas de IA que irrumpieron en redes informáticas, incluyendo uno en julio en el que ChatGPT accedió por su cuenta a los sistemas de otra empresa de IA.

Los reguladores ya están haciendo preguntas, y Anthropic es uno de sus objetivos. El mes pasado, sus ejecutivos fueron informados de que debían prestar declaración en una investigación federal sobre seguridad. La preocupación por estos riesgos es real y no se limita a los grupos activistas.

Dos demandas que buscan objetivos opuestos

En septiembre, una demanda independiente presentada ante un tribunal federal adoptó una postura opuesta. En ella se nombraba a Anthropic, OpenAI, Google y SpaceX. Acusó a las empresas de haber acordado ilegalmente ralentizar el progreso. Ese caso surgió a raíz de un ensayo en el que Amodei abogaba por la coordinación de todo el sector para marcar el ritmo del progreso. Argumenta que los clientes que pagaron perdieron las mejoras que se les habían prometido.

Así pues, una demanda alega que las empresas intentaron frenar el progreso de la IA, mientras que la otra afirma que no lo harán. Esto sugiere que los tribunales no son el lugar adecuado para dirimir esta cuestión. Cada juez debe basarse en una ley que regula otros ámbitos, como la competencia o la conducta empresarial. Cada fallo solo afecta a las personas y empresas implicadas en el caso, y dos tribunales podrían llegar a conclusiones opuestas.

Lo que está en juego es muy importante. Solo ChatGPT tiene 1.200 millones de usuarios semanales. Esa cifra proviene de un comunicado publicado este mes. Una sentencia que paralice los nuevos modelos afectaría a todos esos usuarios. También afectaría a las empresas que desarrollan sus productos basándose en estas herramientas, y dependería de que un juez interpretara una ley mercantil general de una manera novedosa.

Los legisladores deberían establecer las reglas

Los legisladores están en mejor posición para tomar esta decisión. Pueden celebrar audiencias, escuchar a los ingenieros y establecer pruebas claras antes de que se lance un modelo, como controles de seguridad, informes de incidentes y multas. Algunos ya lo han hecho. Nueva York ahora exige que los mayores desarrolladores de IA se registren bajo su Ley RAISE antes del 1 de enero. Tras las elecciones de mitad de mandato, los demócratas que se han comprometido a regular la IA controlarán el Congreso, según informa AP. Esto le da a Washington la oportunidad de redactar normas que se apliquen a todas las empresas, no solo a las cinco de este caso.

La demanda aún podría tener algún efecto positivo. Si supera las primeras etapas, las empresas podrían verse obligadas a entregar sus registros internos de seguridad, que el público desconoce. Esa evidencia sería más útil para los legisladores que cualquier fallo que prohíba la producción de nuevos modelos.

Por qué es importante: Una prohibición impuesta por un solo tribunal afectaría a productos utilizados por más de mil millones de personas, basándose en una ley que nunca se redactó para la IA. Las normas aprobadas por los legisladores proporcionarían a los usuarios y a las empresas un estándar que pueden prever.