CalypsoAI samler inn 23 millioner dollar for å legge til rekkverk til generative AI-modeller
Bedrifter omfavner i økende grad generativ AI. Men de vurderer ikke nødvendigvis alle blokkeringene og utfordringene som følger med å brette teknologien inn i deres eksisterende arbeidsflyt.
I en fersk undersøkelse fra KPMG sa 90 % av virksomhetene at de hadde “moderat til svært betydelige” bekymringer om risikoen ved å bruke generativ AI og tvil om hvordan de kan redusere disse risikoene. Bare 6 % sa i mellomtiden at de følte at selskapet deres hadde et modent AI-styringsprogram på plass.
Det er delvis av disse grunnene at Neil Serebryany grunnla CalypsoAI, en oppstart som utvikler programvare for å teste, validere og overvåke internt utviklede så vel som tredjeparts AI-apper før de ble distribuert.
“CalypsoAIs plattform fremmer kraften og konkurransefortrinnet som bruk av AI kan gi, men på en trygg, sikker og pålitelig måte,” sa Serebryany til TechCrunch i et e-postintervju.
Det setter listen høyt. Men investorer tror tydeligvis på CalypsoAIs evne til å levere. Oppstarten kunngjorde i dag at den samlet inn 23 millioner dollar i en serie A-1-runde ledet av Paladin Capital Group med deltakelse fra Lockheed Martin Ventures, Hakluyt Capital og Expeditions Fund.
Bemerkelsesverdige engler bidro også til A-1-transjen, inkludert tidligere YouTube-sjef Susan Wojcicki og søsteren hennes, 23andMe-grunnlegger Anne Wojcicki. Til dags dato har CalypsoAI samlet inn 38,2 millioner dollar.
CalypsoAI hevder at verktøyene deres – distribuert som en beholder i en organisasjons infrastruktur – lar virksomheter overvåke og forme bruken av store språkmodeller som ChatGPT via dashboards som viser statistikk relatert til modellenes toksisitet, brukerengasjement og mer. Serebryany sier at CalypsoAI kan forhindre at sensitive bedriftsdata blir delt på modeller, mens den identifiserer angrep som kommer fra generative AI-verktøy.
“Selv om alle bedrifter ønsker å høste fordelene av generative AI-løsninger – nemlig de klare produktivitetsgevinstene – vil de også sørge for at de ikke utsettes for nettangrep og at ansatte ikke eksponerer sensitiv informasjon for offentlige modeller,” la Serebryany til. “Ved å implementere CalypsoAI kan CISOer og IT-ledere seriøst vurdere å implementere generative AI-løsninger på tvers av organisasjonene deres på en trygg og sikker måte – slik at de kan introdusere effektivitet i virksomheten sin uten den ekstra risikoen.”
Det er absolutt etterspørsel i bedriftssektoren etter en slags generativ AI-rekkverksløsning. Av frykt for at ansatte ved et uhell kan avsløre proprietær informasjon, har selskaper inkludert Apple, JPMorgan Chase og Verizon forbudt eller begrenset bruken av ChatGPT-lignende verktøy internt. Mange av de samme selskapene er på vakt mot generativ AIs toksisitet og feilinformasjonsproblemer, som fortsetter å plage selv de beste modellene som er tilgjengelige i dag.
Industrien, som ser på det enorme potensielle adresserbare markedet, har reist seg for å møte etterspørselen. Microsoft tilbyr Azure OpenAI Service, som gir styrings- og samsvarsfunksjoner på toppen av generative AI-modeller fra OpenAI, inkludert ChatGPT. Andre steder lanserte Salesforce nylig Einstein Trust Layer, som forsøker å forhindre tekstgenererende modeller i å beholde sensitive data.
Hvor godt disse rekkverkene fungerer i praksis er imidlertid et åpent spørsmål. Ved å sette spørsmålstegn ved en leverandørs påstander har forskere nylig avdekket feil i NeMo Guardrails, Nvidias verktøysett som tar sikte på å gjøre AI-drevne apper mer nøyaktige og sikre, som gjør at verktøysettets beskyttelse kan omgås.
Serebryany insisterte – for hva det er verdt – at CalypsoAIs produkter er robuste mot angrep. I samme åndedrag understreket han at CalypsoAI ikke har noen data fra sine kunder, i stedet for bare å legge til rette for informasjonsflyten fra ansatte til modellen etter et selskaps valg.
“Å sikre LLM-er i bedriften har blitt en kritisk satsing, som har ført til CalypsoAIs strategiske skifte for å møte behovene til bedrifter som ønsker å bruke AI-løsninger,” sa Serebryany. “Med mange organisasjoner som ønsker å trygt bruke generative AI-løsninger for å drive virksomheten fremover, føler CalypsoAI seg trygg på vår evne til å utvikle det best mulige produktet og tiltrekke det beste talentet for å sikre bedriftsorganisasjoner.”
Serebryany sier at CalypsoAI vil bruke finansieringen fra den siste transjen til å drive produktutvikling, ansettelse og selskapets go-to-market-initiativer. CalypsoAIs nåværende antall ansatte er 35 ansatte, og oppstarten åpnet nylig et kontor i Dublin – en del av CalypsoAIs plan om å doble arbeidsstyrken i løpet av de neste to årene.
“Når selskapet vårt fortsetter å vokse og ekspandere, anerkjenner vi verdien av å få nye investorer til å støtte vår vekst,” fortsatte han. “Ved å samarbeide med investorer som deler vår visjon og mål, kan vi fortsette å innovere og drive virksomheten vår fremover.”