Bienvenido a nuestro resumen semanal de noticias sobre IA creada por humanos.
Esta semana OpenAI ha repartido regalos en forma de API.
El proyecto de ley de seguridad de la IA de California ha sido rechazado.
Y NVIDIA nos sorprendió con un potente modelo abierto.
Profundicemos.
Aquí vienen los agentes
OpenAI no anunció ningún modelo nuevo (ni Sora) en su evento Dev Day, pero los desarrolladores estaban entusiasmados con las nuevas funciones de la API. La API en tiempo real cambiará las reglas del juego para crear aplicaciones más inteligentes que hablen con los usuarios e incluso actúen como agentes.
Ha habido rumores sobre la posibilidad de que OpenAI opte por la vía "lucrativa" y conceda a Sam Altman miles de millones de dólares en acciones, pero Altman los ha descartado. Aun así, la empresa está a la caza de más inversión y esperarán algún retorno por su efectivo.
Apple ha integrado los modelos de OpenAI en sus dispositivos, pero se retiró de la última ronda de financiación de OpenAI con el que se espera recaudar aproximadamente $6.500 millones.
No estamos seguros de por qué Apple no quiere un trozo del pastel de OpenAI, pero podría tener algo que ver con nuevos desarrollos con su Apple Inteligencia. O quizá esté relacionado con la exigencia de exclusividad de Sam Altman.
Dime que no tienes foso sin decirme que no tienes foso. pic.twitter.com/3I18MosvOg
- Pedro Domingos (@pmddomingos) 3 de octubre de 2024
Kill bill
Gavin Newsom tuvo que decidir entre poner un limitador de revoluciones de seguridad a los desarrolladores de IA o dejarles avanzar a toda máquina. Al final, decidió vetar el proyecto de ley SB 1047 de California sobre seguridad de la IA y ofreció algunas razones interesantes de por qué.
¿Hemos llegado ya a un punto en el que nos enfrentamos a verdaderos riesgos de la IA?
Bueno, eso se intensificó rápidamente https://t.co/xhZCITRJjE pic.twitter.com/aLZn4blS8G
- AI Notkilleveryoneism Memes ⏸️ (@AISafetyMemes) 30 de septiembre de 2024
Newsom ha firmado en el último mes una serie de proyectos de ley sobre IA relacionados con las falsificaciones profundas, las marcas de agua de IA, la seguridad infantil, los derechos de los artistas sobre IA y la desinformación electoral. La semana pasada firmó AB 2013 que realmente va a sacudir las cosas para LLM creadors.
El proyecto de ley establece que el 1 de enero de 2026 o antes, los desarrolladores tendrán que proporcionar un resumen de alto nivel del conjunto de datos de entrenamiento de cualquier modelo realizado a partir del 1 de enero de 2022 si el modelo está disponible en California. Algunos de estos requisitos podrían airear algunos secretos sucios.
Más normas de la UE sobre IA
Está claro que a la UE le preocupa mucho más la seguridad de la IA que al resto del mundo. O eso, o simplemente les gusta redactar y aprobar leyes. Esta semana han puesto en marcha una proyecto para redactar un código de buenas prácticas de IA para intentar equilibrar innovación y seguridad.
Cuando veas quién dirige el grupo técnico de seguridad tendrás una buena idea de hacia dónde se inclinarán.
Modelos de bases de maquillaje líquidas
Los modelos Transformer son los que nos dieron ChatGPT, pero últimamente se ha debatido mucho sobre si estarán a la altura de dar el siguiente salto en IA. Una empresa llamada Liquid AI está sacudiendo las cosas con su Modelos de cimentación líquida (LFM).
No son las típicas IA generativas. Las LFM están optimizadas específicamente para gestionar datos de contexto más largo, lo que las hace ideales para tareas que tienen que manejar datos secuenciales como texto, audio o vídeo.
Los LFM logran un rendimiento impresionante con un modelo mucho más pequeño, menos memoria y menos computación.
NVIDIA se abre
Nvidia acaba de lanzar un cambio de juegoun modelo de IA de código abierto que se enfrenta a grandes actores como OpenAI y Google. Su nueva gama NVLM 1.0, encabezada por el emblemático parámetro 72B NVLM-D-72B, brilla tanto en tareas de visión como de lenguaje, al tiempo que mejora las capacidades de solo texto.
Con los pesos abiertos y la promesa de NVIDIA de liberar el código, cada vez es más difícil justificar el pago de modelos propietarios para muchos casos de uso.
Sólo decir saber
Un nuevo estudio revela que los últimos modelos lingüísticos de gran tamaño (LLM) son menos propensos a admitir que no saben una respuesta a la pregunta de un usuario. Cuando los usuarios hacen una pregunta a estos modelos, es más probable que se inventen algo antes que admitir que no saben la respuesta.
El estudio subraya la necesidad de un cambio fundamental en el diseño y desarrollo de la IA de propósito general, especialmente cuando se utiliza en áreas de alto riesgo. Los investigadores siguen tratando de entender por qué los modelos de IA se empeñan tanto en complacernos en vez de decir: 'Lo siento, no sé la respuesta'.
IA en el interior
Parece que todo el mundo pone la etiqueta "IA" en sus productos para atraer clientes. Aquí tienes algunas herramientas basadas en IA que merece la pena probar.
Bluedot: Graba, transcribe y resume tus reuniones con notas generadas por IA sin bot.
Guía: Guidde convierte por arte de magia tus flujos de trabajo en guías de vídeo paso a paso, con voces en off generadas por inteligencia artificial y efectos visuales de nivel profesional, todo ello en unos pocos clics.
En otras noticias...
Estas son algunas de las historias sobre inteligencia artificial que nos han gustado esta semana:
- Las gafas inteligentes con inteligencia artificial de Meta aumentan preocupación por la privacidad y los datos de los usuarios.
- Las herramientas de IA son desvelar secretos incómodos de la empresa.
- El MIT hace un avance en robótica para manejar el caos de la vida real.
- LinkedIn se enfrenta a complicaciones legales sobre su integración de la IA.
- Anthropic contrata a Durk Kingma, cofundador de OpenAI.
- Y Combinator está siendo criticada después de que respaldara una startup de IA que admite que básicamente clonó otra startup de IA.
Y eso es todo.
Si vives en California, nos encantaría saber qué opinas del veto del SB 1047. ¿Es una oportunidad perdida para la seguridad de la IA o un paso positivo que nos permitirá disponer pronto de AGI? De todas formas, con modelos potentes de código abierto como el nuevo bombazo de NVIDIA, va a ser más difícil regular las AGI.
La API en tiempo real de OpenAI ha sido lo más destacado de esta semana. Incluso si no eres desarrollador, la perspectiva de interactuar con robots de atención al cliente más inteligentes que hablen contigo es genial. A menos que trabajes como agente de atención al cliente y quieras conservar tu empleo.
Díganos lo que piensa, síguenos en Xy envíanos enlaces a cosas interesantes sobre IA que nos hayamos perdido.
