Common Sense Media, en populær ressurs for foreldre, for å vurdere AI-produkters egnethet for barn
Common Sense, en velkjent ideell organisasjon viet til forbrukerpersonvern, digitalt medborgerskap og gi medievurderinger for foreldre som ønsker å evaluere appene, spillene, podcastene, TV-programmene, filmene og bøkene barna deres bruker, kunngjorde i formiddag at den vil introdusere en annen type produkt til vurderings- og vurderingssystemet: AI-teknologiprodukter. Organisasjonen sier at den vil bygge et nytt rangeringssystem som vil vurdere AI-produkter på tvers av en rekke dimensjoner, inkludert om teknologien drar fordel av “ansvarlig AI-praksis” så vel som dens egnethet for barn.
De nye AI-produktvurderingene vil spesielt fokusere på de som brukes av barn og lærere, bemerker Common Sense.
Beslutningen om å inkludere AI-produkter i utvalget kom etter en undersøkelse den utførte i forbindelse med Impact Research som fant at 82 % av foreldrene var på utkikk etter et rangeringssystem som ville hjelpe dem med å evaluere om nye AI-produkter, som ChatGPT, var passende for barn. Over tre fjerdedeler av respondentene (77 %) sa også at de var interessert i AI-drevne produkter som kan hjelpe barn å lære, men bare 40 % sa at de visste om en pålitelig ressurs de kunne bruke for å lære mer om AI-produkters hensiktsmessighet for deres barn.
Det nye systemet vil bli utformet med hjelp fra eksperter innen kunstig intelligens og vil også ta sikte på å informere kommende lovgivnings- og reguleringsinnsats rundt nettsikkerhet for mindreårige, sa organisasjonen.
Vanligvis vil Common Sense sitt uavhengige medievurderingssystem, som finnes på commonsensemedia.org, gi en aldersegnethetsvurdering sammen med mål på hvor mye positivt eller negativt innhold mediene kan inneholde, på tvers av områder som positive rollemodeller og meldinger og mangfoldig representasjon, eller, på den mer negative siden, ting som vold, vulgaritet, redsel, narkotikabruk og mer. Det er ikke klart hvordan Common Sense planlegger å vurdere AI-produkter under det nye systemet.
Imidlertid, i et posisjonspapir publisert i april 2023, advarte Common Sense om flere aktuelle problemer med dagens AI, inkludert ofte mangelen på “meningsfulle rekkverk” som kan gjøre dem farlige for barn. I tillegg advarte den om at generative AI-teknologier, som OpenAIs ChatGPT, kan være utsatt for skjevheter i treningsdataene deres, som inkluderer store datasett som nettsteder, bøker og artikler – som innhold som er skrapet fra internett.
“Utover bekymringer om opphavsrett… garanterer mengden data som trengs for å trene generative modeller nesten at enhver generativ modell har blitt trent til en viss grad på partisk informasjon, stereotypier og feilinformasjon, som alle kan forplantes eller reproduseres når de produserer utdata,” papir hadde notert.
Common Sense delte ikke en tidsramme for når det forventet at det nye AI-vurderings- og vurderingssystemet skulle lanseres, men understreket hvor presserende det er å bygge en slik ressurs.
“Vi må handle nå for å sikre at foreldre, lærere og unge mennesker blir informert om farene og mulighetene ved AI og produkter som ChatGPT,” sa James P. Steyer, grunnlegger og administrerende direktør i Common Sense Media, i en uttalelse. “Det er avgjørende at det finnes et pålitelig, uavhengig tredjeparts vurderingssystem for å informere publikum og beslutningstakere om den utrolige effekten av AI. De siste årene har en rekke teknologiselskaper satt profitt foran velvære for barn og familier. Vi har sett denne filmen før, med fremveksten av sosiale medier og den påfølgende manglende reguleringen av disse plattformene, og dessverre vet vi hvordan den versjonen ender. Ganske enkelt, vi må ikke gjøre de samme feilene med AI, som vil få enda større konsekvenser for barn og samfunn,” la han til.
I tillegg til medievurderingene, tok organisasjonens for-profit-tilknyttede selskap, Common Sense Networks, inspirasjon fra sine barnevennlige anbefalinger med lanseringen av en strømmetjeneste kalt Sensical tilbake i 2021. Tjenesten tilbyr alderstilpassede videoer for barn i alderen to år. til og med 10.