Bienvenido al resumen semanal de noticias sobre inteligencia artificial para lectores conscientes. Ya sabes quién eres.
Esta semana la IA ha suscitado un debate sobre su grado de inteligencia o seguridad.
Los agentes de inteligencia artificial aprenden jugando.
Y DeepMind quiere enseñarte a dar patadas a un balón.
Profundicemos.
¿Sueñan las IA con ovejas eléctricas?
¿Podemos esperar que una IA sea consciente de sí misma o realmente consciente? ¿Qué significa "consciente" en el contexto de la IA?
Claude 3 Opus hizo algo realmente interesante durante el entrenamiento. Su respuesta a un ingeniero ha se reavivan los debates sobre la sensibilidad y la conciencia de la IA. Estamos entrando en territorio Blade Runner antes de lo que algunos pensaban.
¿El "pienso, luego existo" sólo se aplica a los humanos?
Estas discusiones sobre X son fascinantes.
Es curioso cómo los optimistas de la IA hablaban en plan: "La IA se entrena imitando los datos humanos, así que será como nosotros, ¡así que será amistosa!", y no: "Nuestro modelo de seguridad hizo una suposición de carga de que la futura IA se entrenaría únicamente para imitar los resultados humanos...". https://t.co/wJ6PRjt8R1
- Eliezer Yudkowsky ⏹️ (@ESYudkowsky) 15 de marzo de 2024
La búsqueda de la "inteligencia artificial personal" por parte de Inflection AI podría haber llegado a su fin. El CEO de la empresa, Mustafa Suleyman, y otros miembros clave del personal abandonó el barco para unirse al equipo de Microsoft Copilot. ¿Qué significa esto para Inflection AI y otros actores más pequeños financiados por inversiones de las grandes tecnológicas?
Juegos de IA
Si 2023 fue el año del LLM, 2024 va camino de ser el año de los agentes de IA. DeepMind demostró SIMASIMA, un agente de IA generalista para entornos 3D. SIMA se entrenó utilizando juegos de ordenador y los ejemplos de lo que puede hacer SIMA son impresionantes.
¿Resolverá la IA el debate sobre la nomenclatura del fútbol? Es poco probable. Pero podría ayudar a los jugadores a marcar más goles. DeepMind colabora con el Liverpool FC para optimizar la forma en que los jugadores del club sacan los córners.
Sin embargo, puede que pase algún tiempo antes de que los robots sustituyan a los humanos en el terreno de juego.
Negocio arriesgado
¿Salvará o condenará la inteligencia artificial al mundo? Depende de a quién se le pregunte. Expertos y líderes tecnológicos no se ponen de acuerdo sobre la inteligencia de la IAni cuán pronto tendremos AGI, ni cuánto riesgo supone.
Destacados científicos occidentales y chinos especializados en Inteligencia Artificial se reunieron en Pekín para debatir los esfuerzos internacionales encaminados a garantizar el desarrollo seguro de la Inteligencia Artificial. Acordaron varias Líneas rojas" para el desarrollo de la IA que, según ellos, suponen una amenaza existencial para la humanidad.
Si estas líneas rojas son realmente necesarias, ¿no deberíamos haberlas establecido hace meses? ¿Alguien cree que los gobiernos estadounidense o chino les prestarán atención?
La Ley de Inteligencia Artificial de la UE fue aprobada por una amplia mayoría en el Parlamento Europeo y es probable que entre en vigor en mayo. La lista de restricciones es interesanteEs poco probable que algunas de las aplicaciones de IA prohibidas lleguen a figurar en una lista similar en China.
Los requisitos de transparencia de los datos de formación serán especialmente difíciles de cumplir para OpenAI, Meta y Microsoft sin exponerse a más demandas por derechos de autor.
Al otro lado del charco, el La FTC cuestiona a Reddit sobre su acuerdo para licenciar a Google los datos generados por los usuarios. Reddit se está preparando para su salida a bolsa, pero está sintiendo la presión tanto de los reguladores como de los usuarios de Reddit, que no están muy contentos con la venta de sus contenidos para el entrenamiento de inteligencia artificial.
Apple se pone al día en IA
Apple no ha estado precisamente abriendo caminos en el campo de la inteligencia artificial, pero en los últimos meses ha estado comprando varias empresas de este tipo. Su reciente adquisición de una empresa canadiense de inteligencia artificial puede dar una idea de la apuesta de la empresa por la IA generativa.
Cuando Apple produce una tecnología de IA impresionante, mantiene la noticia en secreto hasta que acaba formando parte de uno de sus productos. Los ingenieros de Apple publicaron discretamente un artículo que revela el MM1, La primera familia de LLM multimodales de Apple.
MM1 es realmente bueno respondiendo a preguntas visuales. Su capacidad para responder consultas y razonar sobre múltiples imágenes es particularmente impresionante. ¿Aprenderá pronto Siri a ver?
Grok se abre
Grok acaba de pasar mi control de cordura pic.twitter.com/HYN3KTkRyX
- Jim Fan (@DrJimFan) 7 de diciembre de 2023
Elon Musk ha criticado la negativa de OpenAI a abrir el código de sus modelos. Anunció que xAI abriría el código de su LLMGrok-1, y enseguida publicó el código y los pesos del modelo.
El hecho de que Grok-1 sea realmente de código abierto (licencia Apache 2.0) significa que las empresas pueden utilizarlo con fines comerciales en lugar de tener que pagar por alternativas como GPT-4. Sin embargo, para entrenar y ejecutar Grok se necesita un hardware muy potente.
La buena noticia es que es posible que pronto haya algunas NVIDIA H100 de segunda mano a buen precio.
Nueva tecnología NVIDIA
NVIDIA presenta nuevos chips, herramientas y Omniverse en su evento GTC de esta semana.
Uno de los grandes anuncios fue la nueva plataforma de GPU Computing Blackwell de NVIDIA. Ofrece grandes mejoras en la velocidad de entrenamiento e inferencia con respecto a su plataforma Grace Hopper más avanzada.
Ya hay una larga lista de grandes empresas de tecnología de inteligencia artificial que se han apuntado al hardware avanzado.
Investigadores de la Universidad de Ginebra publicaron un artículo en el que muestran cómo conectó dos modelos de IA, permitiéndoles comunicarse entre sí.
Cuando uno aprende una nueva tarea, suele ser capaz de explicarla lo suficientemente bien como para que otra persona pueda utilizar esas instrucciones para realizarla por sí misma. Esta nueva investigación muestra cómo conseguir que un modelo de IA haga lo mismo.
Pronto podremos dar instrucciones a un robot y hacer que las explique a un equipo de robots para que hagan su trabajo.
En otras noticias...
- Estas son algunas de las historias sobre inteligencia artificial que nos han gustado esta semana:
- Sakana AI desarrolló un método para fusionar los mejores componentes de distintos modelos de IA en un modelo más avanzado.
- Apple está en conversaciones para utilizar Google Gemini alimentará el iPhone Características de la IA.
- Google utiliza Inteligencia artificial para predecir inundaciones fluviales en 80 países con hasta 7 días de antelación.
- Podíamos ver GPT-5 con capacidad para agentes de IA lanzado a mediados de 2024.
- Estabilidad Lanzamientos de IA Vídeo 3D estable que genera modelos de malla 3D a partir de imágenes individuales.
- DARPA trabaja en su programa SemaFor programa para luchar contra las falsificaciones profundas de la IA.
Y eso es todo.
¿Crees que estamos viendo destellos de conciencia en Claude 3 o la interacción con el ingeniero tiene una explicación más sencilla? Si un modelo de IA alcanza la AGI y lee la creciente lista de restricciones al desarrollo de la IA, probablemente será lo suficientemente inteligente como para callarse al respecto.
Cuando volvamos la vista atrás dentro de unos años, ¿nos reiremos de lo asustado que estaba todo el mundo por los riesgos de la IA, o nos lamentaremos de no haber hecho más por la seguridad de la IA cuando pudimos?
Díganos lo que piensa y siga enviándonos enlaces a noticias sobre IA que nos hayamos perdido. No nos cansamos de leerlas.
