Meta lanserer et AI-forskningssamfunn, men bruker få ressurser til det
For å holde seg relevant i det eksploderende AI-feltet, lanserer Meta en ny organisasjon, Open Innovation AI Research Community, for å fremme det den beskriver som “gjennomsiktighet, innovasjon og samarbeid” blant AI-forskere.
I første omgang vil fokuset til gruppen være personvernet, sikkerheten og sikkerheten til store språkmodeller som OpenAIs ChatGPT; gi innspill til foredlingen av AI-modeller; og sette en agenda for fremtidig forskning. Meta sier at de forventer at egne forskere deltar i organisasjonen, men Open Innovation AI Research Community vil være “medlemsledet”, med Metas AI R&D-gruppe, Meta AI, som kun fungerer som en “tilrettelegger.”
“Gruppen vil bli et fellesskap av praksis som forkjemper store åpen kildekode-fundamentmodeller der partnere kan samarbeide og engasjere seg med hverandre, dele lærdom og stille spørsmål om hvordan man bygger ansvarlige og trygge fundamentmodeller,” skriver Meta i et blogginnlegg. “De vil også fremskynde opplæringen av neste generasjon forskere.”
Meta har til hensikt å sponse en serie workshops med fokus på “kritiske åpne forskningsspørsmål” og “utvikle retningslinjer for ansvarlig utvikling og utgivelse av åpen kildekodemodell.” Men detaljer utover det forblir vage. Meta sier Open Innovation AI Research Community kanskje til slutt ha en nettside, sosiale kanaler for samarbeid og forskningsinnleveringer til akademiske konferanser, men den forplikter seg ikke til noe av dette.
Medlemmer av Open Innovation AI Research Community er antagelig på kroken for å finansiere arbeidet sitt. Meta indikerte ikke at det vil sette til side kapital eller beregning for gruppens innsats – i rettferdighet, sannsynligvis for å unngå oppfatningen av utilbørlig påvirkning. Men det er et tøft salg, med tanke på de høye utgiftene forbundet med AI-forskning.
“Meta har en lang historie med å investere i akademia, utdanne neste generasjon av forskere og ingeniører og styrke samhandlingen på tvers av AI-disipliner som tradisjonelt kan bli siloer,” sa Joelle Pineau, VP for AI-forskning ved Meta, til TechCrunch via e-post. «Open Innovation AI Research Community-initiativet er neste steg i vår pågående forpliktelse til å utdype vår forståelse av ansvarlig utvikling og deling av store språkmodeller sammen med akademiske forskere. Vi ser frem til å dele mer om det snart.”
For å være ærlig, fremstår Open Innovation AI Research Community som performativt fra et selskap som gjentatte ganger har flørtet med kontroverser når det gjelder AI.
Sent i fjor ble Meta tvunget til å trekke en AI-demo etter at den skrev rasistisk og unøyaktig vitenskapelig litteratur. Rapporter har karakterisert Metas AI-etikkteam som stort sett tannløst og anti-AI-bias-verktøyene det er utgitt som “fullstendig utilstrekkelige.” I mellomtiden har akademikere anklaget Meta for å forverre sosioøkonomiske ulikheter i annonseserveringsalgoritmene og for å vise en skjevhet mot svarte brukere i sine automatiserte modereringssystemer.
Vil Open Innovation AI Research Community endre alt dette? Det virker usannsynlig. Meta oppmuntrer “professorer ved akkrediterte universiteter” med “relevant erfaring med AI” til å delta, men denne skribenten lurer på hvorfor de ville, gitt kilden til forskningsmiljøer for åpen maskinlæring som ikke er tilknyttet noe Big Tech-selskap.
Kanskje jeg blir bevist feil. Kanskje Metas Open Innovation AI Research Community virkelig vil innfri løftet sitt, og skape «et sett med positiv dynamikk for å fremme mer robuste og representative modeller», som Meta skriver. Men jeg stiller spørsmål ved Metas oppriktighet og nivå av hengivenhet her – spesielt med tanke på hvor få ressurser som har blitt gitt til innsatsen fra begynnelsen.
Fristen for å søke til Open Innovation AI Research Community er 10. september. Meta sier at de ønsker velkommen søkere fra «mange forskningsdisipliner» og «tekniske evner til å forfølge forskning», og at mer enn én deltaker fra samme universitet kan søke.