Europa tar nok et stort skritt mot å bli enige om en AI-regelbok

On By admin

Europaparlamentet har stemt for å bekrefte forhandlingsmandatet for AI-loven – og treffer en viktig milepæl som åpner for neste fase av forhandlingene mot en pan-EU regelbok for kunstig intelligens.

Parlamentarikere støttet en endret versjon av kommisjonens forslag som utvider regelboken på en måte som de sier er rettet mot å sikre AI som er utviklet og brukt i Europa er “fullt i tråd med EUs rettigheter og verdier, inkludert menneskelig tilsyn, sikkerhet, personvern, åpenhet, ikke -diskriminering og sosial og miljømessig velvære.

Blant endringene MEP-medlemmer har støttet er et totalt forbud mot ekstern biometrisk overvåking og prediktivt politiarbeid. De har også lagt til et forbud mot “umålrettet skraping av ansiktsbilder fra internett eller CCTV-opptak for å lage ansiktsgjenkjenningsdatabaser” – så i utgangspunktet et hardt forbud mot Clearview AI og lignende.

Det foreslåtte forbudet mot biometrisk fjernovervåking vil gjelde både sanntids- eller post (etter faktum) anvendelser av teknologier som ansiktsgjenkjenning, bortsett fra, i sistnevnte tilfelle, for rettshåndhevelse for rettsforfølgelse av alvorlige forbrytelser med rettslig sukk.

MEP-er la også til et forbud mot bruk av teknologi for emosjonell anerkjennelse som brukes av rettshåndhevelse, grensebyråer, arbeidsplasser og utdanningsinstitusjoner.

Parlamentarikere utvidet også klassifiseringen av høyrisiko AI-systemer til å inkludere de som utgjør betydelig skade på folks helse, sikkerhet, grunnleggende rettigheter eller miljøet, samt AI-systemer som brukes til å påvirke velgere og utfallet av valg.

Større sosiale medieplattformer som bruker algoritmer for å anbefale innhold ble også lagt til høyrisikolisten av MEP-er.

Plenaravstemningen følger komiteens støtte for det endrede forslaget forrige måned etter at MEP-medlemmer fra forskjellige politiske grupper hashahadde ut hvordan de ønsket å finpusse kommisjonsteksten, inkludert ved å legge til forpliktelser for produsenter av såkalt generell AI.

Som svar på rask utvikling innen generativ AI, har MEP-er støttet å sette et sett med forpliktelser på grunnleggende/generelle formål AI-modeller, for eksempel teknologien som underbygger OpenAIs AI chatbot ChatGPT, som krever at slike systemer må identifisere og redusere risikoer før plassering på markedet, i tillegg til å anvende åpenhet for AI-generert innhold og implementere sikkerhetstiltak mot at ulovlig innhold genereres.

Produsenter av AI-er for generelle formål må også publisere “detaljerte sammendrag” av opphavsrettsbeskyttet informasjon som brukes til å trene modellene deres i henhold til MEPs forslag.

Under en omvisning i europeiske hovedsteder for å møte lovgivere forrige måned, var OpenAI-sjef Sam Altman kritisk til dette aspektet av EU-forslaget. Han foreslo at selskapet måtte trekke tilbake tjenesten i regionen hvis det ikke var i stand til å overholde, og fortalte journalister at han hadde håp om at forpliktelsene ville bli rullet tilbake.

I tilfelle viser dagens plenumsavstemning overveldende støtte blant parlamentarikere for den endrede versjonen av lovutkastet – inkludert de foreslåtte forpliktelsene for AI-er for generelle formål – med 499 stemmer for, og bare 28 mot (pluss 93 avholdende).

Avstemningen ved å vedta mandatet betyr at diskusjoner mellom parlamentet og EUs medlemslands regjeringer nå kan starte – med den første trilogen som er planlagt å finne sted i kveld.

Medordfører Brando Benifei sa i en uttalelse etter avstemningen:

Alle øyne er rettet mot oss i dag. Mens Big Tech-selskaper slår alarm over sine egne kreasjoner, har Europa gått foran og foreslått et konkret svar på risikoen AI begynner å utgjøre. Vi ønsker at AIs positive potensial for kreativitet og produktivitet skal utnyttes, men vi vil også kjempe for å beskytte vår posisjon og motvirke farer for våre demokratier og friheter under forhandlingene med rådet.

I en annen støtteerklæring la medordfører Dragos Tudorache til:

AI-loven vil sette tonen over hele verden i utviklingen og styringen av kunstig intelligens, og sikre at denne teknologien, satt til å radikalt transformere våre samfunn gjennom de enorme fordelene den kan tilby, utvikler seg og brukes i samsvar med de europeiske verdiene om demokrati, grunnleggende rettigheter og rettssikkerhet.

Den versjonen av AI Act MEPs har støttet i dag, legger også til unntak for forskningsaktiviteter og AI-komponenter gitt under åpen kildekode-lisenser, som MEPs foreslår vil sikre støtte for innovasjon – sammen med regulatoriske sandkasser for testsystemer som skal etableres under rammeverket.

MEPs forslag legger også til en rekke forbrukerrettigheter over AI-beslutninger – inkludert muligheten for forbrukere til å be om kollektiv oppreisning hvis et AI-system har påført dem skade.

Den europeiske forbrukerorganisasjonen BEUC ønsket disse endringene velkommen, men var kritisk til parlamentet for ikke å støtte et totalt forbud mot bruk av emosjonell anerkjennelse AI-er (siden forslaget ikke begrenser kommersiell bruk av slik slangeolje).

Den mener også at MEP-er har gitt utviklere for mye skjønn til å avgjøre om systemene deres faller inn under høyrisikokategorien eller ikke, noe den sier kan undergrave effektiviteten til det risikobaserte rammeverket.

Dette kan vise seg å være et stridsfelt under trilogdiskusjoner som må finne et kompromiss mellom holdningen til EU-rådet, som er organet som består av medlemslandenes regjeringer, og lovgivere i parlamentet for å oppnå den nødvendige politiske enigheten om en endelig tekst og forsegle filen.

Vanligvis inntar EU-rådet en mer industrivennlig linje mens parlamentet har en tendens til å være mer opptatt av grunnleggende rettigheter. Så hvor de to sidene vil møtes på midten om regulering av AI gjenstår å se.

Hvis de ikke kan bli enige, kan EUs lovgivningsprosess stoppe opp – eller til og med mislykkes. Men det er en drivkraft i Brussel for å få denne filen over linjen gitt hvor mye global oppmerksomhet som nå er rettet mot regulering av AI. (Å være først ute med en demokratisk regelbok for AI gir muligheter for blokken til å utøve innflytelse utenfor sine grenser mens andre jurisdiksjoner streber etter å finne ut sine egne tilnærminger til å regulere et komplekst felt av teknologi i rask utvikling.)

Rådet vedtok sin holdning til saken i desember. På den tiden favoriserte medlemsstatene i stor grad å utsette hva de skulle gjøre med AI for generell bruk – til ytterligere implementeringslovgivning. Men gitt det som har skjedd i mellomtiden, med generative AI-verktøy som ChatGPT som er midt i diskusjonen om teknologien og genererer flere krav om regulering (inkludert fra mange typer teknologiindustri selv), vil det være interessant å se om medlemslandene vil være enig med MEP-er om behovet for å legge til forpliktelser for denne klassen av AI-systemer til teksten til AI-loven.

EUs leder presenterte det opprinnelige forslaget for det risikobaserte rammeverket for AI tilbake i april 2021. Selv om det første kommisjonsutkastet ikke tok så mye tak i temaet AI med generell bruk, foreslo det åpenhetsbestemmelser for chatboter og dypfalsk teknologi. Så allerede den gang var EU-lovgivere av den oppfatning at forbrukere burde informeres om at de samhandler med maskingenerert innhold.

Selv om kommisjonen fortsatt har et håp om at trilogsamtaler om AI Act-filen vil gi politisk enighet innen utgangen av dette året, vil det fortsatt være en implementeringsperiode – så lovgivningen vil sannsynligvis ikke gjelde før 2026.

Dette er grunnen til at EU også jobber med flere frivillige initiativer som tar sikte på å presse AI-firmaer til å selvregulere sikkerhet i mellomtiden.



Read More