La plataforma en la nube Snowflake y Nvidia se han unido para lanzar una plataforma que permite a los usuarios de Snowflake crear aplicaciones de IA a medida con sus datos.
La asociación se anunció en la Snowflake Summit 2023, donde el CEO de Nvidia, Jensen Huang, recibió como regalo una tabla de snowboard de manos del CEO de Snowflake, Frank Slootman.
La colaboración consiste en integrar la plataforma NeMo de Nvidia para grandes modelos lingüísticos (LLM) en Snowflake Data Cloud. Esto permitirá a las empresas utilizar los datos almacenados en las cuentas de Snowflake para desarrollar LLM.
Así es como funciona:
- Muchas empresas ya utilizan Snowflake para almacenar datos internos.
- Las empresas utilizan el marco NeMo de Nvidia para crear IA con sus datos.
- Entrenan e implantan esas aplicaciones con las GPU de Nvidia.
Microsoft Azure ofreció un producto similar a principios de año, lo que demuestra que las grandes empresas tecnológicas quieren ofrecer a las empresas más opciones para utilizar sus propios datos para crear modelos de IA.
NeMo de Nvidia, una plataforma empresarial nativa en la nube, permite a los usuarios crear, personalizar y desplegar modelos de IA generativa con miles de millones de parámetros. El plan es que Snowflake aloje y ejecute NeMo dentro de Snowflake Data Cloud, allanando el camino para que los clientes desarrollen y desplieguen LLM personalizados para aplicaciones de IA generativa.
Manuvir Das, responsable de informática empresarial de Nvidia, habló de cómo esto permite a los clientes de Snowflake aprovechar la infraestructura de IA de vanguardia de Nvidia.
"Pueden trabajar con sus datos propios para crear... aplicaciones de IA generativa de vanguardia sin moverlas del entorno seguro de Data Cloud. Esto reducirá los costes y la latencia, al tiempo que mantendrá la seguridad de los datos", afirmó.
Huang destacó el papel de los datos en la elaboración de aplicaciones de IA generativa que funcionen con datos empresariales. "Juntos, Nvidia y Snowflake crearán una fábrica de IA que ayude a las empresas a convertir sus valiosos datos en modelos de IA generativa personalizados para impulsar nuevas aplicaciones revolucionarias, directamente desde la plataforma en la nube que utilizan para dirigir sus negocios."
Esta configuración permite a las empresas utilizar ya los datos almacenados en Snowflake, sin necesidad de trasladarlos desde otro lugar. No solo es mucho más rápido que crear canales de desarrollo de IA desde cero, sino que también es más seguro.
Las empresas quieren aprovechar sus datos para la IA
Las empresas quieren sacar el máximo partido de la IA, pero a menudo carecen de la tecnología para hacerlo, aunque posean conocimientos de ingeniería y ciencia de datos.
Algunas empresas recurrir a modelos de código abierto construidos y desplegados utilizando sus recursos, pero la solución de Nvidia es escalable a aplicaciones de Big Data que implican terabytes o incluso petabytes de datos.
Das afirma que las empresas que desplieguen modelos de IA generativa personalizados entrenados con sus propios datos irán un paso por delante de las que utilicen modelos de proveedores específicos. Es lo mejor de ambos mundos, donde los datos propios se combinan con las herramientas de IA de vanguardia de Nvidia dentro del ecosistema Snowflake".
"Más de 8.000 clientes de Snowflake almacenan exabytes de datos en Snowflake Data Cloud. A medida que las empresas buscan añadir capacidades de IA generativa a sus aplicaciones y servicios, estos datos son el combustible para crear modelos de IA generativa personalizados", explicó Das.
Nvidia proporciona computación acelerada y software de IA como parte de esta asociación. Actualmente, las dos empresas están diseñando conjuntamente el motor de IA de Nvidia con Data Cloud de Snowflake.
En palabras de Das, "la IA generativa es una oportunidad de varios billones de dólares y tiene el potencial de transformar todas las industrias a medida que las empresas comienzan a construir y desplegar modelos personalizados utilizando sus valiosos datos."
La tremenda revalorización de Nvidia este año ha impulsado un gran número de nuevos proyectos de software y hardware.
Por ejemplo, sus nuevas GPU H100 establecen nuevas referencias en cuanto a rendimiento de entrenamiento de IA, lo que permite crear nuevas generaciones de modelos mejores y más grandes.
