Celestial AI samler inn 100 millioner dollar for å overføre data ved hjelp av lysbaserte sammenkoblinger
David Lazovsky og Preet Virk, teknologer med bakgrunn innen halvlederteknikk og fotonikk, kom til den felles erkjennelsen for flere år siden at AI og maskinlæringsarbeidsmengder raskt ville støte på et problem med “databevegelse”. I økende grad, spådde de, ville det bli utfordrende å flytte data til og fra datamaskinvare ettersom AI-modeller skalert forbi det som kunne holdes på terningen til en hvilken som helst minnebrikke.
Løsningen deres – bygget av Phil Winterbottom, tidligere forsker ved det anerkjente Bell Labs – var en optisk sammenkoblingsteknologi for dataoverføring fra data til databehandling, dataoverføring til minne og på brikken. Sammen med Winterbottom grunnla Lazovsky og Virk en oppstart, Celestial AI, for å kommersialisere teknologien. Og nå tiltrekker den oppstarten store støttespillere.
Celestial AI kunngjorde i dag at de samlet inn 100 millioner dollar i en serie B-runde ledet av IAG Capital Partners, Koch Disruptive Technologies og Temaseks Xora Innovation-fond. Transjen, som bringer Celestial AIs totale innsamlede til mer enn $165 millioner, vil bli brukt til å støtte produksjonen av Celestials fotonikkplattform ved å utvide selskapets ingeniør-, salgs- og tekniske markedsavdelinger, ifølge administrerende direktør Lazovsky.
Celestial har rundt 100 ansatte for tiden – et tall som Lazovsky forventer vil vokse til 130 innen utgangen av året.
“I dag er databehandling og minne tett forbundet. Den eneste måten å legge til mer minne med høy båndbredde er å legge til mer databehandling, enten det kreves ekstra databehandling eller ikke,” sa Lazovsky til TechCrunch via e-post. “Celestials teknologi muliggjør minneoppdeling.”
I et datasenter er minne ofte en av de dyreste ressursene – delvis fordi det ikke alltid brukes effektivt. Fordi minne er knyttet til databehandling, er det utfordrende – og noen ganger umulig, på grunn av båndbreddebegrensninger og skyhøy ventetid – for operatører å “disaggregere” og samle minnet på tvers av maskinvaren i datasenteret.
I følge en intern Microsoft-studie er opptil 25 % av minnet i Azure «strandet» eller til overs etter at serverkjernene er leid ut til virtuelle maskiner. Redusering av dette strandede minnet kan redusere datasenterkostnadene med 4 % til 5 %, estimerte selskapet – potensielt betydelige besparelser i sammenheng med en operasjon på flere milliarder dollar.
Celestial – som begynte som et porteføljeselskap av The Engine, VC-firmaet spunnet ut av MIT i 2016 – utviklet en tilsynelatende løsning i sin fotonikkbaserte arkitektur, som skaleres på tvers av systemer med flere brikker. Ved å bruke lys til å overføre data, kan Celestials teknologi overføre informasjon innenfor brikker og brikke-til-brikke, noe som gjør både minne og databehandling tilgjengelig for AI – og andre – arbeidsbelastninger.
Bildekreditt: Himmelsk
Celestial hevder også at teknologien kan redusere mengden elektrisitet som er nødvendig for databevegelse, og indirekte øke ytelsen til en brikke. Vanligvis bruker brikker en del av elektrisiteten de trekker til databevegelse mellom kretsene deres, noe som tar bort fra elektrisiteten som brikken kan dirigere til dataoppgaver. Celestials fotonikk reduserer kraften som kreves for databevegelse, slik at en brikke – i det minste i teorien – kan øke datakraften.
Celestials fotonikkteknologi, som er kompatibel med de fleste industrisammenkoblingsstandarder (f.eks. CXL, PCIe), leverer 25 ganger høyere båndbredde og 10 ganger lavere ventetid og strømforbruk enn optiske alternativer, hevder selskapet.
“Med veksten i AI, spesielt store språkmodeller (LLM) og arbeidsbelastninger for anbefalingsmotorer, er det et skifte mot akselerert databehandling,” sa Lazovsky. “Nøkkelproblemet fremover er minnekapasitet, minnebåndbredde og databevegelse – dvs. chip-to-chip interconnectivity – som er det vi adresserer med Celestials fotoniske stoff.”
Celestial tilbyr sammenkoblingsproduktet sitt gjennom et lisensieringsprogram og sier at det er engasjert med flere «tier-one»-kunder, inkludert hyperskalere og prosessor- og minneselskaper.
Sammenkoblingsproduktet ser ut til å være prioritet nummer én for Celestial. Selskapet selger sin egen AI-akseleratorbrikke, kalt Orion, bygget på Celestials fotonikkarkitektur. Men som investorer fortalte TechCrunch i et nylig stykke for TC+, har AI fotonikkbrikker ennå ikke overvunnet tekniske utfordringer som ville gjøre dem praktiske i stor skala. Med mindre Celestial snublet over gjennombrudd innen områdene data-til-analog-konvertering og signalregenerering – de beste snublesteinene for dagens fotonikkbrikker – er det usannsynlig at Orion er mye lenger på vei enn konkurrentene.
Bortsett fra chip, Celestial har en rekke konkurrenter i et fotonisk integrert kretsmarked som kan være verdt 26,42 milliarder dollar innen 2027.
Ayar Labs, som lager brikkeløsninger basert på optiske nettverksprinsipper, har samlet inn over 200 millioner dollar i risikokapital siden grunnleggelsen i 2015. Renovus, en annen rival, fikk nylig en investering på 73,9 millioner dollar.
Det kan imidlertid være konsolidering fremover i det bredere optiske sammenkoblingsrommet. For rundt tre år siden kjøpte Marvell Inphi, en optisk nettverksspesialist, for 10 milliarder dollar. Etter en periode med stille kjøpte Microsoft i fjor Lumenisity, en oppstart som utvikler høyhastighets optiske kabler for datasenter og operatørnettverk.
Både Inphi og Lumenisity var rettet mot forskjellige brukstilfeller med teknologien deres. Men entusiasmen fra Big Tech rundt optikk og fotonikk er verdt å merke seg.
“Vår fotonikkteknologi er virkelig differensiert og er unik med overlegne egenskaper,” sa Lazovsky. “Gitt veksten i generative AI-arbeidsbelastninger på grunn av LLM-er og presset det legger på dagens datasenterarkitekturer, øker etterspørselen raskt etter optisk tilkobling for å støtte overgangen fra generell datasenterinfrastruktur til akselererende databehandling.”
Samsung Catalyst, Smart Global Holdings, Porsche Automobil Holding SE, The Engine Fund, imec.xpand, M Ventures og Tyche Partners deltok også i Celestials Series B.