Skyplattformen Snowflake og Nvidia har gått sammen om å lansere en plattform som gjør det mulig for Snowflake-brukere å lage skreddersydde AI-applikasjoner med dataene sine.
Samarbeidet ble kunngjort på Snowflake Summit 2023, der Nvidia-sjef Jensen Huang fikk overrakt et snowboard i gave av Snowflake-sjef Frank Slootman.
Samarbeidet innebærer integrering av Nvidias NeMo-plattform for store språkmodeller (LLM) i Snowflake Data Cloud. Dette vil gjøre det mulig for bedrifter å bruke dataene som er lagret i Snowflake-kontoer til å utvikle LLM-er.
Slik fungerer det:
- Mange virksomheter bruker allerede Snowflake til å lagre interne data.
- Virksomheter bruker Nvidias NeMo-rammeverk til å bygge kunstig intelligens med dataene sine.
- De trener opp og distribuerer disse applikasjonene med Nvidias GPU-er.
Microsoft Azure tilbød et lignende produkt tidligere i år, noe som viser at store teknologiselskaper ønsker å tilby bedrifter flere muligheter til å bruke sine egne data til å bygge AI-modeller.
Nvidias NeMo, en skybasert bedriftsplattform, gjør det mulig for brukere å bygge, tilpasse og distribuere generative AI-modeller med milliarder av parametere. Planen er at Snowflake skal være vert for og kjøre NeMo i Snowflake Data Cloud, noe som åpner for at kundene kan utvikle og rulle ut tilpassede LLM-er for generative AI-applikasjoner.
Manuvir Das, Nvidias sjef for enterprise computing, diskuterte hvordan dette gjør det mulig for Snowflake-kunder å dra nytte av Nvidias banebrytende AI-infrastruktur.
"De kan jobbe med sine egne data for å bygge ... ledende generative AI-applikasjoner uten å flytte dem ut av det sikre Data Cloud-miljøet. Dette vil redusere kostnader og ventetid, samtidig som datasikkerheten opprettholdes", sier han.
Huang fremhevet rollen data spiller i utformingen av generative AI-applikasjoner med bedriftsdata: "Sammen vil Nvidia og Snowflake skape en AI-fabrikk som hjelper bedrifter med å omdanne sine verdifulle data til tilpassede generative AI-modeller for å drive banebrytende nye applikasjoner - rett fra skyplattformen som de bruker til å drive virksomheten sin."
Dette oppsettet gjør det mulig for bedrifter å bruke data som allerede er lagret i Snowflake - de trenger ikke å flytte dem fra andre steder. Det er ikke bare mye raskere enn å bygge opp AI-utviklingsrørledninger fra bunnen av, men det er også sikrere.
Virksomheter ønsker å utnytte dataene sine til kunstig intelligens
Virksomheter ønsker å dra full nytte av kunstig intelligens, men de mangler ofte teknologien til å gjøre det - selv om de har ekspertise innen datavitenskap og ingeniørfag.
Noen virksomheter er Overgang til åpen kildekode-modeller Nvidias løsning er imidlertid skalerbar til Big Data-applikasjoner som involverer terabyte eller til og med petabyte med data.
Das mener at bedrifter som bruker tilpassede generative AI-modeller som er trent på deres egne data, vil ligge et skritt foran de som bruker leverandørspesifikke modeller. Det er det beste fra begge verdener, der proprietære data kombineres med Nvidias banebrytende AI-verktøy i Snowflake-økosystemet.
"Mer enn 8000 Snowflake-kunder lagrer exabytes med data i Snowflake Data Cloud. Etter hvert som bedrifter ønsker å legge til generative AI-funksjoner i applikasjonene og tjenestene sine, er disse dataene drivstoff for å skape tilpassede generative AI-modeller", forklarer Das.
Nvidia leverer akselerert databehandling og AI-programvare som en del av dette partnerskapet. De to selskapene utvikler for tiden Nvidias AI-motor sammen med Snowflakes datasky.
Das sier: "Generativ AI er en mulighet til å omsette flere billioner dollar og har potensial til å forandre alle bransjer etter hvert som bedrifter begynner å bygge og distribuere tilpassede modeller ved hjelp av sine verdifulle data."
Nvidias enorme verdistigning i år har gitt næring til et stort antall nye programvare- og maskinvareprosjekter.
De nye H100-GPU-ene deres setter for eksempel nye standarder for AI-treningsytelse, noe som muliggjør nye generasjoner av større og bedre modeller.