La IA de código abierto, en particular los modelos Llama de Meta, ha suscitado un debate sobre los riesgos de poner a disposición de todo el mundo potentes modelos de IA.
La semana pasada, un grupo de manifestantes se concentró frente a las oficinas de Meta en San Francisco para condenar la decisión de la empresa de hacer públicos sus modelos de inteligencia artificial.
Una pancarta decía: "No abras el código del Juicio Final".
La protesta se publicó en Foro Altruismo Eficaz y exponía lo siguiente como justificación: "Los modelos de IA de vanguardia de Meta son fundamentalmente inseguros... Antes de que libere modelos aún más avanzados -que tendrán capacidades más peligrosas- pedimos a Meta que se tome en serio la liberación responsable y detenga la proliferación irreversible."
Los manifestantes también crearon un sitio webque cita Zuckerberg resta importancia a la seguridad implicaciones de la publicación de modelos de código abierto.
En resumen, empresas destacadas como OpenAI y Google restringen el acceso a sus grandes modelos lingüísticos (LLM) a la API. Son "cajas negras" cerradas, lo que significa que el público no puede ver lo que ocurre dentro del modelo, solo las entradas y salidas.
En cambio, Meta ha saltado a los titulares por ofrecer sus modelos LLaMA abiertamente a la comunidad investigadora en IA. Esto permite a los expertos en tecnología adaptar y ajustar los modelos para que desplieguen todo su potencial, a diferencia de las IA cerradas que están programadas con barreras de seguridad.
Enfoque de Meta para el desarrollo de la IA
Meta ha desempeñado un papel ligeramente antagónico en el desarrollo de la IA.
Mientras Google, OpenAI, Microsoft y empresas emergentes como Anthropic e Inflection se apresuran a construir IA cerradas bajo llave, Meta ha optado por lanzar sus modelos de código abierto a la esfera pública como una granada.
IA de código abierto amenaza las estructuras de mercado Microsoft, OpenAI, etc, dependen para monetizar sus productos.
El modelo Llama de Meta fue famoso filtrado en 4Chan antes de su lanzamiento oficial, y no pasó mucho tiempo antes de que la compañía diera un paso más lanzando Llama 2.
Los manifestantes sostienen que las iniciativas de código abierto de Meta simbolizan una "proliferación irreversible" de una tecnología posiblemente peligrosa. Sin embargo, otros están en total desacuerdo y sostienen que la IA de código abierto es vital para democratizar la tecnología y generar confianza a través de la transparencia.
Holly Elmore, que encabezó la protesta del viernes frente a Meta, subrayó que una vez que las ponderaciones de los modelos que influyen en sus entradas y salidas son de dominio público, sus creadores pierden el control. Los modelos de código abierto pueden ser modificados y rediseñados con consecuencias poco éticas o ilegales.
Elmore, anteriormente asociado al think tank Rethink Priorities, declaró: "Liberar pesos es una política peligrosa... Cuanto más potentes se vuelvan los modelos, más peligrosa será esta política".
La IA de código abierto seguirá siendo un tema controvertido, pero dejar la tecnología al control de unos pocos elegidos posiblemente no sea una alternativa favorable.
