He aqu\u00ed algunos extractos:<\/span><\/p>\n \"En OpenAI hemos mirado mucho por encima del hombro. \u00bfQui\u00e9n cruzar\u00e1 el siguiente hito? \u00bfCu\u00e1l ser\u00e1 el siguiente paso?<\/span><\/p>\n Pero la inc\u00f3moda verdad es que no estamos en posici\u00f3n de ganar esta carrera armament\u00edstica y OpenAI tampoco. Mientras nosotros discut\u00edamos, una tercera facci\u00f3n se ha estado comiendo nuestro almuerzo en silencio. Me refiero, por supuesto, al c\u00f3digo abierto.<\/span><\/p>\n En pocas palabras, nos est\u00e1n ganando. Cosas que consideramos \"grandes problemas pendientes\" ya est\u00e1n resueltas y en manos de la gente. Aunque nuestros modelos siguen teniendo una ligera ventaja en t\u00e9rminos de calidad, la brecha se est\u00e1 cerrando asombrosamente r\u00e1pido.<\/span><\/p>\n Los modelos de c\u00f3digo abierto son m\u00e1s r\u00e1pidos, m\u00e1s personalizables, m\u00e1s privados y, libra por libra, m\u00e1s capaces. Hacen cosas con par\u00e1metros de $100 y 13B que a nosotros nos cuesta hacer con $10M y 540B. Y lo hacen en semanas, no en meses.<\/span><\/p>\n A principios de marzo, la comunidad de c\u00f3digo abierto tuvo en sus manos su primer modelo de base realmente capaz, al filtrarse al p\u00fablico LLaMA de Meta.<\/span><\/p>\n No ten\u00eda instrucciones ni sinton\u00eda de conversaci\u00f3n, ni RLHF. Sin embargo, la comunidad comprendi\u00f3 inmediatamente la importancia de lo que se les hab\u00eda dado. Sigui\u00f3 una tremenda avalancha de innovaciones, con apenas unos d\u00edas entre acontecimientos importantes...<\/span><\/p>\n Aqu\u00ed estamos, apenas un mes despu\u00e9s, y hay variantes con ajuste de instrucciones, cuantificaci\u00f3n, mejoras de calidad, evaluaciones humanas, multimodalidad, RLHF, etc., etc., muchas de las cuales se basan unas en otras. Y lo que es m\u00e1s importante, han resuelto el problema del escalado hasta el punto de que cualquiera puede retocarlo.<\/span><\/p>\n Muchas de las nuevas ideas proceden de gente corriente. La barrera de entrada para la formaci\u00f3n y la experimentaci\u00f3n ha bajado de la producci\u00f3n total de una gran organizaci\u00f3n de investigaci\u00f3n a una persona, una tarde y un port\u00e1til fornido\".<\/span><\/p>\n La nota de Sernau fue recogida por los principales medios de comunicaci\u00f3n y suscit\u00f3 el debate sobre si la presi\u00f3n de las grandes empresas tecnol\u00f3gicas en favor de la regulaci\u00f3n oculta un motivo para forzar la salida del juego de la IA de c\u00f3digo abierto. <\/span>Ben Schrekcinger, de Politico, escribe<\/span><\/a>Adem\u00e1s, \"el c\u00f3digo de fuente abierta es m\u00e1s dif\u00edcil de prohibir, ya que pueden surgir nuevas instancias si los reguladores intentan cerrar un sitio web o una herramienta que lo utilice. Combinados con otras caracter\u00edsticas descentralizadoras, estos proyectos de c\u00f3digo abierto tienen el potencial de perturbar no s\u00f3lo el modelo de negocio de Silicon Valley, sino los modelos de gobernanza de Washington y Bruselas.\"<\/span><\/p>\n La comunidad de IA de c\u00f3digo abierto ya est\u00e1 prosperando. Los desarrolladores resuelven en d\u00edas retos que a Google y OpenAI les llevan meses o a\u00f1os. Sernau sostiene que las comunidades \u00e1giles de desarrolladores de c\u00f3digo abierto est\u00e1n mejor equipadas para construir modelos iterativos que las grandes tecnol\u00f3gicas, ya que son m\u00e1s diversas, eficientes y pragm\u00e1ticas.<\/p>\n De ser as\u00ed, el dominio de las grandes tecnol\u00f3gicas sobre la IA podr\u00eda ser ef\u00edmero.<\/p>\n El modelo LLaMA de Meta, un gran modelo ling\u00fc\u00edstico (LLM) como ChatGPT, fue filtrado en 4chan<\/a> una semana despu\u00e9s de que la empresa enviara las solicitudes de acceso. <\/span>El 3 de marzo, un torrent descargable apareci\u00f3 en el foro de mensajer\u00eda y se extendi\u00f3 como la p\u00f3lvora.<\/span><\/p>\n Como indica Sernau, la comunidad de c\u00f3digo abierto procedi\u00f3 a modificar LLaMA, a\u00f1adiendo una funcionalidad impresionante sin recursos inform\u00e1ticos empresariales.\u00a0<\/span><\/p>\n Construir modelos de IA potentes es m\u00e1s barato que nunca, y las comunidades de c\u00f3digo abierto est\u00e1n presionando para democratizar el acceso. Mientras que LLaMA es un modelo preentrenado en gran medida, otros modelos de c\u00f3digo abierto, como BLOOM, fueron entrenados por voluntarios. <\/span><\/p>\n Para entrenar BLOOM se necesit\u00f3 un superordenador equipado con 384 GPU NVIDIA A100 de 80 GB que, por suerte, don\u00f3 el gobierno franc\u00e9s. La empresa de IA de c\u00f3digo abierto Together anunci\u00f3 recientemente una financiaci\u00f3n inicial de $20m, y proveedores de nube centrados en la IA como CoreWeave<\/a> ofrecen hardware a precios inferiores a los del mercado. <\/span><\/p>\n Los proyectos de c\u00f3digo abierto disponen de varios medios para concentrar recursos y aventajar a las grandes tecnol\u00f3gicas.\u00a0<\/span>A las grandes tecnol\u00f3gicas probablemente les gustar\u00eda que pens\u00e1ramos que sus IA son el resultado de d\u00e9cadas de trabajo y miles de millones de d\u00f3lares de inversi\u00f3n. -<\/span> la comunidad de c\u00f3digo abierto probablemente no est\u00e9 de acuerdo.<\/p>\n Sobre el tema de la segregaci\u00f3n de las grandes tecnol\u00f3gicas de los proyectos de IA m\u00e1s peque\u00f1os, en un evento celebrado en la India, el ex ejecutivo de Google Rajan Anandan pregunt\u00f3 al CEO de OpenAI, Sam Altman, si los ingenieros indios podr\u00edan construir modelos fundacionales de IA con una inversi\u00f3n de $10m.<\/span><\/p>\n Altman respondi\u00f3: \"Es totalmente in\u00fatil competir con nosotros en la formaci\u00f3n de modelos de fundaci\u00f3n. No deber\u00edas intentarlo, y de todas formas es tu trabajo que te guste intentarlo. Y yo creo ambas cosas. Creo que es bastante in\u00fatil\".<\/span><\/p>\n Pero, en su nota, Sernau expresa que el c\u00f3digo abierto ya est\u00e1 compitiendo con la gran tecnolog\u00eda. Afirma: \"Mantener una ventaja competitiva en tecnolog\u00eda se hace a\u00fan m\u00e1s dif\u00edcil ahora que la investigaci\u00f3n puntera en LLM es asequible. Las instituciones de investigaci\u00f3n de todo el mundo se est\u00e1n basando en el trabajo de los dem\u00e1s, explorando el espacio de soluciones de una forma tan amplia que supera con creces nuestra propia capacidad.\"<\/span><\/p>\n Los desarrolladores de c\u00f3digo abierto est\u00e1n creando alternativas a las IA de las grandes tecnol\u00f3gicas y super\u00e1ndolas en rendimiento y estad\u00edsticas de usuarios. <\/span><\/p>\n Por ejemplo, Stable Diffusion, de c\u00f3digo abierto, se hizo m\u00e1s popular que DALL-E de OpenAI a los pocos meses de su lanzamiento.\u00a0<\/span><\/p>\n \u00bfHasta qu\u00e9 punto podemos desentra\u00f1ar posibles segundas intenciones? \u00bfTiene el empuje regulador de las grandes tecnol\u00f3gicas alg\u00fan m\u00e9rito altruista?<\/span><\/p>\n Adem\u00e1s de LLaMA, existen al menos tres grandes ejemplos de proyectos de IA de c\u00f3digo abierto:<\/span> Cabe se\u00f1alar que, mientras que algunos de estos desarrolladores (por ejemplo, Stable Diffusion) ofrecen sus modelos a trav\u00e9s de cuadros de mando intuitivos y f\u00e1ciles de usar, otros, como BLOOM, requieren importantes recursos para funcionar. Para empezar, se necesitan unos 360 GB de RAM para ejecutar BLOOM, pero hay muchos trucos ingeniosos para reducir los requisitos de recursos.\u00a0<\/span><\/p>\n A medida que baja el precio del hardware con capacidad de IA y se simplifica la implantaci\u00f3n de modelos de c\u00f3digo abierto, es muy posible que pr\u00e1cticamente cualquiera pueda implantar modelos similares a ChatGPT. La filtraci\u00f3n de la nota de Google cita ejemplos de personas que han ajustado y desplegado LLaMA en dispositivos de consumo, incluido un MacBook.\u00a0<\/span><\/p>\n Para empresas con importantes recursos inform\u00e1ticos, <\/span>Los modelos de c\u00f3digo abierto ahorran dinero y proporcionan soberan\u00eda de datos y control sobre la formaci\u00f3n y la optimizaci\u00f3n.\u00a0<\/span><\/p>\n Sin embargo, no todo el mundo es optimista sobre el impacto de la potente IA de c\u00f3digo abierto. Por ejemplo, el investigador de ciberseguridad Jeffrey Ladis tuite\u00f3: \"Prep\u00e1rense para montones de spam personalizado e intentos de phishing\" y \"La externalizaci\u00f3n abierta de estos modelos fue una idea terrible\".<\/span><\/p>\n La proliferaci\u00f3n de la IA nos hace a todos menos seguros. Parece algo bueno de prevenir, \u00a1y tambi\u00e9n un reto bastante dif\u00edcil!<\/p>\n No me sorprender\u00eda tanto que un actor estatal consiguiera hacerse con los modelos fronterizos de OpenAI en el pr\u00f3ximo a\u00f1o o dos https:\/\/t.co\/PUEWvfUFqk<\/a><\/p>\n - Jeffrey Ladish (@JeffLadish) 10 de mayo de 2023<\/a><\/p><\/blockquote>\n Otro observador tuite\u00f3: \"El c\u00f3digo abierto es una amenaza, pero no en el sentido que usted piensa. Es una amenaza porque la IA en manos de personas que pueden utilizarla para sus propios fines se vuelve a\u00fan m\u00e1s dif\u00edcil de regular o controlar, y eso es un problema mayor.\"\u00a0<\/span><\/p>\n Google y OpenAI afirman que tienen miedo de la IA de c\u00f3digo abierto, que \"no hay foso\" entre todos ellos. Pero en realidad no es cierto.<\/p>\n El c\u00f3digo abierto es una amenaza, pero no en el sentido que usted piensa. Es una amenaza porque la IA en manos de personas que pueden utilizarla para sus propios fines se vuelve a\u00fan m\u00e1s dif\u00edcil de... pic.twitter.com\/g6kMh3TshY<\/a><\/p>\n - Theo (@tprstly) 5 de mayo de 2023<\/a><\/p><\/blockquote>\n Yann LeCun, a menudo considerado \"padrino de la IA\" junto a Geoffrey Hinton y Yoshio Bengman, <\/span>argumenta lo contrario<\/span><\/a>Una vez que los LLM se conviertan en el principal canal de acceso a la informaci\u00f3n, la gente (y los gobiernos) *exigir\u00e1n* que sean abiertos y transparentes. La infraestructura b\u00e1sica debe ser abierta\".\u00a0<\/span><\/p>\n LeCun tambi\u00e9n discrep\u00f3 de las narrativas dominantes sobre los riesgos de la IA: \"Creo que se ha exagerado rid\u00edculamente la magnitud del problema de la alineaci\u00f3n de la IA y se ha subestimado ampliamente nuestra capacidad para resolverlo\". Elon Musk contraatac\u00f3 en el hilo de Twitter diciendo: \"\u00bfDe verdad crees que la IA es un arma de un solo filo?\".\u00a0<\/span><\/p>\n \u00bfDe verdad crees que la IA es un arma de un solo filo?<\/p>\n - Elon Musk (@elonmusk) 1 de abril de 2023<\/a><\/p><\/blockquote>\n Otros comentaristas establecieron paralelismos entre la regulaci\u00f3n de la IA y la criptograf\u00eda, donde el Gobierno de EE.UU. intent\u00f3 prohibir los m\u00e9todos criptogr\u00e1ficos p\u00fablicos mediante <\/span>clasific\u00e1ndolas como \"municiones\"<\/span><\/a> - <\/b>apodadas las \"Criptoguerras\".\u00a0<\/span><\/p>\n Ahora, pr\u00e1cticamente todo el mundo tiene derecho a utilizar el cifrado, pero esa batalla fue dif\u00edcil de ganar, como podr\u00eda ser el caso de la IA de c\u00f3digo abierto.<\/span><\/p>\n El c\u00f3digo abierto es algo m\u00e1s que software, c\u00f3digo y tecnolog\u00eda. Es el principio, la mentalidad o la creencia de que un entorno de trabajo cooperativo, abierto y transparente supera a la competencia en un mercado cerrado.<\/span><\/p>\n OpenAI, que en su d\u00eda fue una empresa sin \u00e1nimo de lucro centrada en la cooperaci\u00f3n p\u00fablica y el desarrollo de c\u00f3digo abierto, se ha ido alejando progresivamente de su hom\u00f3nima.<\/span><\/p>\n La startup hizo la transici\u00f3n a una empresa \"con fines de lucro\" en 2019, poniendo fin de manera efectiva a la relaci\u00f3n de la empresa con la comunidad de c\u00f3digo abierto.\u00a0<\/span>La inversi\u00f3n de Microsoft desvincul\u00f3 a OpenAI de cualquier tipo de actividad de I+D \"abierta\". <\/span><\/p>\n A mediados de mayo, la empresa anunci\u00f3 un <\/span>modelo de c\u00f3digo abierto en proyecto<\/span><\/a>pero no han sido francos con los detalles.\u00a0<\/span><\/p>\n Ahora, OpenAI est\u00e1 impulsando una regulaci\u00f3n que afectar\u00eda sobre todo a las empresas emergentes de IA, por no hablar de la posible criminalizaci\u00f3n de la comunidad de c\u00f3digo abierto.\u00a0<\/span><\/p>\n Esto ha llevado a algunos a criticar la presi\u00f3n de OpenAI en favor de la regulaci\u00f3n por no ser m\u00e1s que un negocio: el negocio de proteger sus modelos rentables de las comunidades de c\u00f3digo abierto que buscan democratizar la IA.\u00a0<\/span><\/p>\n La combinaci\u00f3n de la filtraci\u00f3n de la nota de Google, la presi\u00f3n de las grandes tecnol\u00f3gicas en favor de la regulaci\u00f3n y la denigraci\u00f3n de Altman de los proyectos de IA de base hace que nos asombramos. De hecho, se ha cuestionado la legitimidad de los riesgos de la IA, que justifican la regulaci\u00f3n.\u00a0\u00a0<\/span><\/p>\n Por ejemplo, cuando el Centro para la Seguridad de la IA (CAIS) public\u00f3 su declaraci\u00f3n s\u00edsmica sobre el riesgo de la IA, cofirmada por varios directores ejecutivos de IA, algunos observadores externos no estaban convencidos.<\/span><\/p>\n En una selecci\u00f3n de reacciones de expertos a la declaraci\u00f3n <\/span>publicado por el Science Media Centre<\/span><\/a>En palabras de la Dra. Mhairi Aitken, investigadora sobre \u00e9tica del Instituto Alan Turing:<\/span><\/p>\nLa fuga de Meta LLaMA<\/span><\/h2>\n
![\"\"](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/shutterstock_2297594185.jpg\")
![\"Difusi\u00f3n](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/stable-1024x576.png\")
La comunidad de IA de c\u00f3digo abierto<\/span><\/h2>\n
\n<\/span><\/p>\n\n
\n
\n
\n
La alienaci\u00f3n de la IA de c\u00f3digo abierto de OpenAI<\/span><\/h2>\n
\u00bfEs la IA de c\u00f3digo abierto un riesgo para las grandes tecnol\u00f3gicas?<\/span><\/h2>\n