Europa ønsker plattformer for å merke AI-generert innhold for å bekjempe desinformasjon

On By admin

Den europeiske union støtter seg på underskrivere av sin anbefalingskode for online desinformasjon for å merke dype falske og annet AI-generert innhold.

I bemerkninger i går etter et møte med de 40+ underskriverne av koden, sa EUs verdi- og åpenhetskommissær, Vera Jourova, at de som er registrert for å bekjempe desinformasjon bør sette på plass teknologi for å gjenkjenne AI-innhold og tydelig merke det til brukerne.

«De nye AI-teknologiene kan være en kraft for det gode og tilby nye muligheter for økt effektivitet og kreativt uttrykk. Men, som alltid, må vi nevne den mørke siden av denne saken, og de presenterer også nye risikoer og potensialet for negative konsekvenser for samfunnet,» advarte hun. «Også når det gjelder opprettelse og spredning av desinformasjon.

“Avanserte chatbots som ChatGPT er i stand til å lage komplekst, tilsynelatende godt underbygget innhold og visuelle bilder i løpet av sekunder. Bildegeneratorer kan lage autentiske bilder av hendelser som aldri har skjedd. Stemmegenererende programvare kan imitere stemmen til en person basert på et utvalg på noen få sekunder. De nye teknologiene reiser også nye utfordringer for kampen mot desinformasjon. Så i dag ba jeg underskriverne om å lage et dedikert og separat spor i koden for å diskutere det.»

Den nåværende versjonen av koden, som EU styrket i fjor sommer – da den også bekreftet at den har til hensikt at det frivillige instrumentet skal bli et avbøtende tiltak som teller mot overholdelse av den (juridisk bindende) Digital Services Act (DSA) – forplikter foreløpig ikke å identifisere og merke deepfakes. Men kommisjonen håper å endre det.

EU-kommissæren sa at den ser to hoveddiskusjonsvinkler for hvordan man kan inkludere avbøtende tiltak for AI-generert innhold i koden: Man vil fokusere på tjenester som integrerer generativ AI, for eksempel Microsofts New Bing eller Googles Bard AI-augmented søketjenester – som bør forplikte seg til å bygge inn “nødvendige garantier for at disse tjenestene ikke kan brukes av ondsinnede aktører for å generere desinformasjon”.

En annen vil forplikte underskrivere som har tjenester med potensial til å spre AI-generert desinformasjon til å sette på plass “teknologi for å gjenkjenne slikt innhold og tydelig merke dette til brukere”.

Jourova sa at hun hadde snakket med Googles Sundar Pichai og blitt fortalt at Google har teknologi som kan oppdage AI-generert tekstinnhold, men også at de fortsetter å utvikle teknologien for å forbedre sine evner.

I ytterligere kommentarer under en pressespørsmål og svar sa kommissæren at EU ønsker at etiketter for dype falske og annet AI-generert innhold skal være tydelige og raske – slik at normale brukere umiddelbart vil kunne forstå at et innhold de blir presentert med har opprettet av en maskin, ikke en person.

Hun spesifiserte også at kommisjonen ønsker at plattformer implementerer merking nå – “umiddelbart”.

DSA inkluderer noen bestemmelser som krever at veldig store nettplattformer (VLOP-er) skal merke manipulert lyd og bilder, men Jourova sa at ideen med å legge til merking til desinformasjonskoden er at det kan skje enda tidligere enn 25. august etterlevelsesfristen for VLOPs under DSA .

«Jeg sa mange ganger at vi har hovedoppgaven å beskytte ytringsfriheten. Men når det kommer til AI-produksjonen ser jeg ingen rett til at maskinene skal ha ytringsfrihet. Og slik kommer dette også tilbake til de gamle gode søylene i vår lov. Og det er derfor vi ønsker å jobbe videre med det også under anbefalingen på grunnlag av denne helt grunnleggende ideen, la hun til.

Kommisjonen forventer også å se tiltak for å rapportere AI-generert desinformasjonsrisiko neste måned – med Jourova som sa at relevante underskrivere bør bruke juli-rapportene for å “informere offentligheten om sikkerhetstiltak som de setter på plass for å unngå misbruk av generativ AI for å spre desinformasjon».

Desinformasjonskoden har nå totalt 44 underskrivere – som inkluderer teknologigiganter som Google, Facebook og Microsoft, samt mindre adtech-enheter og sivilsamfunnsorganisasjoner – en tall som er opp fra 34 som hadde signert forpliktelsene i juni 2022.

Men sent i forrige måned tok Twitter det uvanlige skrittet å trekke seg fra den frivillige EU-koden.

Andre store saker Jourova bemerket at hun hadde tatt opp med gjenværende underskrivere i gårsdagens møte – og oppfordret dem til å ta mer handling – inkluderte Russlands krigspropaganda og pro-Kreml desinformasjon; behovet for “konsekvent” moderering og faktasjekking; innsats for valgsikkerhet; og tilgang til data for forskere.

“Det er fortsatt altfor mye farlig desinformasjonsinnhold som sirkulerer på plattformene og for lite kapasitet,” advarte hun, og fremhevet en langvarig klage fra kommisjonen om at faktasjekking-initiativer ikke brukes omfattende på tvers av innhold rettet mot alle språkene som snakkes i EU Medlemsstater, inkludert mindre nasjoner.

“Spesielt sentrum og østeuropeiske land er under permanent angrep fra spesielt russiske desinformasjonskilder,” la hun til. “Det er mye å gjøre. Dette handler om kapasiteter, dette handler om vår kunnskap, dette handler om vår forståelse av språket. Og også forståelse av årsakene til at det i noen medlemsstater er fôringsplassen eller jorda som er forberedt for absorpsjon av store deler av desinformasjon.»

Tilgang for forskere er fortsatt utilstrekkelig, understreket hun også – og oppfordrer plattformer til å øke innsatsen på data for forskning.

Jourova la også til et par advarselsord om veien valgt av Elon Musk – noe som tyder på at Twitter har satt seg selv i EUs håndhevingskors, som en utpekt VLOP under DSA.

DSA setter et lovkrav til VLOP-er for å vurdere og redusere samfunnsrisiko som desinformasjon, så Twitter inviterer til kritikk og sanksjoner ved å snu fuglen på EUs kodeks (bøter under DSA kan skalere opp til 6 % av den globale årlige omsetningen).

“Fra august i år vil våre strukturer, som vil spille rollen som håndheverne av DSA, se på Twitters ytelse om de er kompatible, om de tar nødvendige tiltak for å redusere risikoen og for å iverksette tiltak mot … spesielt ulovlig innhold, ” advarte hun videre.

“EU er ikke stedet der vi ønsker å se den importerte californiske loven,” la hun til. “Vi sa det mange ganger, og det er derfor jeg også ønsker å komme tilbake og sette pris på samarbeidet med … tidligere folk som jobbet i Twitter, som samarbeidet med oss [for] flere år allerede på Code of Conduct mot hatefulle ytringer og Code of Practice [on disinformation] også. Så det beklager vi. Jeg tror at Twitter hadde veldig kunnskapsrike og målbevisste folk som forsto at det må være et visst ansvar, mye økt ansvar på siden til plattformer som Twitter.»

På spørsmål om Twitters Community Notes-tilnærming – som crowdsourcer (så i hovedsak outsourcer) faktasjekking til Twitter-brukere hvis nok folk veier inn for å legge til en konsensus om kontekst til omstridte tweets – kan være tilstrekkelig i seg selv til å overholde juridiske krav for å håndtere desinformasjon under DSA, sa Jourova at det vil være opp til kommisjonens håndhevere å vurdere om de er i samsvar eller ikke.

Imidlertid pekte hun på Twitters tilbaketrekning fra retningslinjene som et betydelig skritt i feil retning, og la til: “Anbefalingen kommer til å bli anerkjent som det svært alvorlige og pålitelige avbøtende tiltaket mot det skadelige innholdet.”



Read More