La piattaforma cloud Snowflake e Nvidia si sono unite per lanciare una piattaforma che consente agli utenti di Snowflake di creare applicazioni AI su misura con i propri dati.
La partnership è stata annunciata in occasione dello Snowflake Summit 2023, dove il CEO di Nvidia Jensen Huang ha ricevuto in dono uno snowboard da Frank Slootman, CEO di Snowflake.
La collaborazione prevede l'integrazione della piattaforma NeMo di Nvidia per i modelli linguistici di grandi dimensioni (LLM) in Snowflake Data Cloud. Ciò consentirà alle aziende di utilizzare i dati archiviati negli account Snowflake per sviluppare LLM.
Ecco come funziona:
- Molte aziende utilizzano Snowflake per archiviare i dati interni.
- Le aziende utilizzano il framework NeMo di Nvidia per costruire IA con i loro dati.
- Eseguono la formazione e l'implementazione di queste applicazioni con le GPU di Nvidia.
Microsoft Azure ha offerto un prodotto simile all'inizio dell'anno, dimostrando che le grandi aziende tecnologiche vogliono offrire alle imprese più opzioni per l'utilizzo dei propri dati per costruire modelli di IA.
NeMo di Nvidia, una piattaforma aziendale cloud-native, consente agli utenti di costruire, personalizzare e distribuire modelli di IA generativa con miliardi di parametri. Il piano prevede che Snowflake ospiti ed esegua NeMo all'interno di Snowflake Data Cloud, aprendo la strada ai clienti per lo sviluppo e l'implementazione di LLM personalizzati per applicazioni di IA generativa.
Manuvir Das, responsabile di Nvidia per l'enterprise computing, ha spiegato come questo consenta ai clienti Snowflake di trarre vantaggio dall'infrastruttura AI all'avanguardia di Nvidia.
"Possono lavorare con i loro dati proprietari per creare applicazioni di IA generativa all'avanguardia senza spostarli dall'ambiente sicuro di Data Cloud. Questo ridurrà i costi e la latenza, mantenendo al contempo la sicurezza dei dati", ha dichiarato.
Huang ha sottolineato il ruolo dei dati nella creazione di applicazioni di IA generativa che funzionino con i dati aziendali: "Insieme, Nvidia e Snowflake creeranno una fabbrica di IA che aiuterà le imprese a trasformare i loro preziosi dati in modelli di IA generativa personalizzati per alimentare nuove applicazioni rivoluzionarie, direttamente dalla piattaforma cloud che utilizzano per gestire le loro attività".
Questa configurazione consente alle aziende di utilizzare i dati già archiviati in Snowflake, senza doverli spostare da altre parti. Non solo è molto più veloce che costruire pipeline di sviluppo dell'intelligenza artificiale da zero, ma è anche più sicuro.
Le aziende cercano di sfruttare i propri dati per l'IA
Le aziende vogliono sfruttare appieno l'IA, ma spesso non hanno la tecnologia per farlo, anche se possiedono competenze di data science e di ingegneria.
Alcune aziende sono rivolgersi a modelli open-source ma la soluzione di Nvidia è scalabile per applicazioni Big Data che coinvolgono terabyte o addirittura petabyte di dati.
Das sostiene che le aziende che utilizzano modelli di AI generativi personalizzati, addestrati sui propri dati proprietari, saranno un passo avanti rispetto a quelle che utilizzano modelli specifici dei fornitori. È il meglio dei due mondi, in cui i dati proprietari si uniscono agli strumenti di IA all'avanguardia di Nvidia all'interno dell'ecosistema Snowflake.
"Più di 8.000 clienti Snowflake archiviano exabyte di dati in Snowflake Data Cloud. Poiché le aziende cercano di aggiungere capacità di IA generativa alle loro applicazioni e servizi, questi dati sono il carburante per creare modelli di IA generativa personalizzati", ha spiegato Das.
Nell'ambito di questa partnership, Nvidia fornisce software di elaborazione accelerata e AI. Le due aziende stanno attualmente co-progettando il motore AI di Nvidia con il Data Cloud di Snowflake.
Secondo le parole di Das, "l'IA generativa è un'opportunità da svariati miliardi di dollari e ha il potenziale per trasformare ogni settore, in quanto le aziende iniziano a costruire e distribuire modelli personalizzati utilizzando i loro preziosi dati".
L'enorme aumento di valore di Nvidia quest'anno ha alimentato un gran numero di nuovi progetti software e hardware.
Ad esempio, le nuove GPU H100 stabiliscono nuovi parametri di riferimento per le prestazioni di addestramento dell'intelligenza artificiale, consentendo nuove generazioni di modelli più grandi e migliori.
