AI-bruk økende påvirkningskampanjer på nettet, men innvirkning begrenset – amerikansk cyberfirma
SAN FRANCISCO, 17. august (Reuters) – Det Google-eide amerikanske cybersikkerhetsfirmaet Mandiant sa torsdag at det hadde sett økende bruk av kunstig intelligens (AI) for å gjennomføre manipulerende informasjonskampanjer på nettet de siste årene, selv om teknologiens bruk i andre digitale inntrengninger har vært begrenset så langt.
Forskere ved det Virginia-baserte selskapet fant “mange tilfeller” siden 2019 der AI-generert innhold, for eksempel fabrikkerte profilbilder, hadde blitt brukt i politisk motiverte online påvirkningskampanjer.
Disse inkluderte kampanjer fra grupper på linje med regjeringene i Russland, Kina, Iran, Etiopia, Indonesia, Cuba, Argentina, Mexico, Ecuador og El Salvador, heter det i rapporten.
Det kommer midt i en nylig boom i generative AI-modeller som ChatGPT, som gjør det langt enklere å lage overbevisende falske videoer, bilder, tekst og datakode. Sikkerhetstjenestemenn har advart om at slike modeller blir brukt av nettkriminelle.
Generativ AI vil gjøre det mulig for grupper med begrensede ressurser å produsere innhold av høyere kvalitet for å påvirke kampanjer i stor skala, sa Mandiant-forskere.
En pro-Kina informasjonskampanje kalt Dragonbridge, for eksempel, hadde utvidet seg “eksponentielt” over 30 sosiale plattformer og 10 forskjellige språk siden den først begynte med å målrette mot pro-demokratiske demonstranter i Hong Kong i 2019, sa Sandra Joyce, visepresident ved Mandiant Intelligence .
Likevel var virkningen av slike kampanjer begrenset. “Fra et effektivitetssynspunkt er det ikke mange seire der,” sa hun. “De har virkelig ikke endret forløpet til trussellandskapet ennå.”
Kina har tidligere benektet amerikanske anklager om involvering i slike påvirkningskampanjer.
Mandiant, som hjelper offentlige og private organisasjoner med å reagere på digitale brudd, sa at de ennå ikke hadde sett AI spille en nøkkelrolle i trusler fra Russland, Iran, Kina eller Nord-Korea. AI-bruk for digitale inntrengninger forventes å forbli lav på kort sikt, sa forskerne.
“Så langt har vi ikke sett en eneste hendelsesrespons der AI spilte en rolle,” sa Joyce. “De har egentlig ikke blitt tatt inn i noen form for praktisk bruk som oppveier det som kan gjøres med vanlig verktøy som vi har sett.”
Men hun la til: “Vi kan være veldig sikre på at dette kommer til å bli et problem som blir større over tid.”
Rapportering av Zeba Siddiqui i San Francisco; Redigering av Alexandra Hudson
Våre standarder: Thomson Reuters Trust Principles.
Skaff lisensrettigheter, åpner ny fane
Read More