Snowflake-Nvidia-partnerskap kan gjøre det enklere å bygge generative AI-applikasjoner
Snowflake har alltid handlet om å lagre store mengder ustrukturert data i skyen. Med to nylige oppkjøp, Neeva og Streamlit, vil det gjøre det enklere å søke og bygge applikasjoner på toppen av dataene. I dag kunngjorde selskapet en ny containertjeneste og et partnerskap med Nvidia for å gjøre det enklere å bygge generative AI-applikasjoner som bruker alle disse dataene og kjører dem på Nvidia GPUer.
Snowflake senior VP for produkter Christian Kleinerman sier målet er å la folk bruke dataene uten å måtte kopiere og flytte dem til en ekstern applikasjon. “Vi ønsker å gjøre det mulig for kundene våre å bringe beregninger til bedriftsdataene deres, og ikke måtte sende bedriftsdataene deres til alle slags eksterne systemer,” sa Kleinerman til TechCrunch.
Selskapet introduserer Snowpark Container Services sammen med muligheten til å kjøre containeriserte applikasjoner på toppen av Nvidia GPUer, alt uten å flytte noen data utenfor Snowflake.
“Vi gir både kunder og partnere muligheten til å kjøre Docker-containere innenfor sikkerhetsperimeteren til Snowflake, og gir dem kontrollert tilgang til bedriftsdataene som finnes i Snowflake,” sa Kleinerman.
“Og måten vi presenterer disse containertjenestene på er ved å gi bredere forekomstfleksibilitet gjennom det Snowflake har gitt tradisjonelt, og åpenbart er den største enkeltvektoren for fleksibilitet som vi har fått forespørsler om tilgang til GPUer,” sa han, som er der Nvidia-partnerskapet kommer inn i bildet.
Nvidia VP for enterprise computing, Manuvir Das sier at han ser Snowflake som et sted hvor selskaper lagrer nøkkeldataene sine, og når du kan bygge applikasjoner på toppen av disse dataene, og deretter kjøre disse applikasjonene på toppen av Nvidia GPUer, blir det en veldig kraftig kombinasjon, spesielt når du tar med generativ AI inn i ligningen.
Han sier at når du kombinerer Nvidias GPU-kraft sammen med NeMo-rammeverket, kan selskaper ta dataene i Snowflake og begynne å bygge raffinerte maskinlæringsmodeller basert på sine egne unike data.
“Det er derfor dette partnerskapet er vakkert, fordi Snowflake har alle disse dataene, og har nå for første gang utførelsesmotoren til å kjøre forskjellige deler av programvare med disse dataene. Vi har den utførelsesagenten i NeMo som Nvidia har bygget for trening, for finjustering, for forsterkningslæring og alt det der, sa Das.
“Og så integrasjonen vi gjør sammen er at vi tar den agenten og vi bringer den til Snowflakes plattform og integrerer den slik at alle Snowflake-kunder som har dataene nå har en slags førsteklasses evne fra Snowflake-plattformen som de kan lage sin modell ved å bruke dataene, som produserer disse tilpassede modellene for dem,» sa han.
Han sier at å samle kundedata, modellene de opprettet ved hjelp av disse dataene og deretter applikasjonene de kjører som skal få tilgang til modellene på ett sted, vil gjøre det lettere å holde sikker og styre disse dataene, og Nvidia-teknologi gjør at det hele går raskere.
Snowflakes Snowpark Container Services er tilgjengelig i privat beta fra og med i dag.