Veiledningsfirmaet avgjør det amerikanske byråets første bias-søksmål som involverer AI-programvare
10. august (Reuters) – Et Kina-basert veiledningsselskap har gått med på å avgjøre et amerikansk myndighets nye søksmål som hevder at det brukte innleie av programvare drevet av kunstig intelligens for å ulovlig luke ut eldre jobbsøkere.
2022-søksmålet mot iTutorGroup Inc var det første av US Equal Employment Opportunity Commission (EEOC) som involverte et selskaps bruk av AI for å ta ansettelsesbeslutninger.
Kommisjonen, som håndhever lover om skjevhet på arbeidsplassen, lanserte i 2021 et initiativ for å sikre at AI-programvare brukt av amerikanske arbeidsgivere overholder antidiskrimineringslover. EEOC har advart om at det vil fokusere håndhevingsarbeid på selskaper som misbruker AI.
ITutorGroup gikk med på å betale 365 000 dollar til mer enn 200 jobbsøkere som angivelig er gått over på grunn av deres alder, ifølge en felles innlevering fra den føderale domstolen i New York onsdag. Oppgjøret må godkjennes av en føderal dommer.
Selskapet, som gir engelskspråklig veiledning til studenter i Kina, benektet forseelser i oppgjøret.
EEOC hadde påstått at iTutorGroup i 2020 programmerte nettbasert rekrutteringsprogramvare for å sile ut kvinner i alderen 55 år eller eldre og menn som var 60 år eller eldre.
ITutorGroup, en enhet av Ping An Insurance Group Co of China (601318.SS), svarte ikke umiddelbart på en forespørsel om kommentar. En talsperson for EEOC sa at byrået ikke vil kommentere før forliket er godkjent.
Minst 85 % av store amerikanske arbeidsgivere bruker kunstig intelligens i noen aspekter av arbeidsforholdet, ifølge nylige undersøkelser.
Dette inkluderer programvare som siler ut jobbsøkere før en person vurderer søknader, menneskelige ressurser “chatbots” og programmer som utfører ytelsesvurderinger og gir anbefalinger for kampanjer.
Mange arbeidertalsmenn og beslutningstakere er bekymret for potensialet for at eksisterende skjevheter kan bygges inn i AI-programvare, selv utilsiktet.
I et pågående foreslått gruppesøksmål i California føderale domstol, er Workday (WDAY.O) anklaget for å ha utviklet ansettelsesprogramvare brukt av mange store selskaper som skjermer ut svarte, funksjonshemmede og eldre søkere. Workday har benektet feil.
Eksperter forventer et økende antall søksmål som anklager arbeidsgivere for å diskriminere gjennom deres bruk av AI-programvare.
Rapportering av Daniel Wiessner i Albany, New York; Redigering av Alexia Garamfalvi og Andy Sullivan
Våre standarder: Thomson Reuters Trust Principles.
Daniel Wiessner