Prvi veliki ispit za preživljavanje navale AI dezinformacija već se desio.

Glasači na Tajvanu izabrali su Lai Ching-tea za predsjednika u siječnju 2024. (poveznica je arhivirana ovdje) usprkos velikoj dezinformacijskoj kampanji -- za koju stručnjaci kažu da je pokrenula Kina -- protiv njega i njegove kandidatkinje za potpredsjednicu Hisao Bi-khim. AFP je raskrinkao netočne tvrdnje o izborima na Tajvanu  ovdje, ovdje i ovdje.

Peking smatra da je Lai opasan separatist jer ističe neovisnost Tajvana, a TikTok je bio preplavljen teorijama zavjere i uvredljivim tvrdnjama o njemu prije glasanja. AFP-ova provjera činjenica pokazala je da je nekoliko takvih snimaka došlo s Douyina, kineske verzije te aplikacije.

Ostaje za vidjeti kako će se situacija razviti u drugim državama. Generativna umjetna inteligencija mogla bi pogoršati rastući trend polarizacije i pada povjerenja u vodeće medije.

Još prošle godine, lažne slike uhićenja Donalda Trumpa i Joea Bidena kako najavljuje opću mobilizaciju za pomoć Ukrajini pokazale su koliko je tehnologija napredovala.

Posljednji lako uočivi znakovi manipulacije - prvenstveno problem umjetne inteligencije s detaljima kao što su prsti - nestaju brzo i otupljuju mehanizme za otkrivanje.

A ulozi su visoki.

Prijetnja broj jedan

Svjetski ekonomski forum (WEF) je naveo dezinformacije kao najveću prijetnju u sljedeće dvije godine.

Upozorio je da bi podrivanje legitimnosti izbora moglo dovesti do unutarnjih konflikta i terorizma, čak i do "pada država" u ekstremnim slučajevima.

Dezinformacije pogonjene umjetnom inteligencijom koriste grupe povezane s Rusijom, Kinom i Iranom koje pokušavaju "oblikovati i poremetiti" izbore u protivničkim državama, navela je grupa analitičara Recorded Future.

Izbori u EU u lipnju (poveznica je arhivirana ovdje) vjerojatno će biti meta kampanja kojima je cilj podrivanje kohezije u Uniji i podrške Ukrajini, rekao je Julien Nocetti, specijalist za Rusiju na Francuskom institutu za međunarodne odnose.

To ne bi bio prvi put.

"Doppelganger operacija" pokrenuta početkom 2022. koristila je klonove poznatih medija i javnih institucija za širenje proruskih argumenata, pogotovo u vezi s Ukrajinom (poveznica je arhivirana ovdje).

Francuske vlasti i Meta - vlasnik Facebooka, WhatsAppa i Instagrama - povezali su kampanju s Kremljem.

Paradoksalno, represivni režimi mogli bi koristiti prijetnju dezinformacijama za pravdanje šire cenzure i druga kršenja prava, naveo je WEF.

Države se bore protiv toga zakonodavstvom, ali napreduju vrlo sporo u usporedbi s eksponencijalnim razvojem AI-ja.

Prema najavljenom Digitalnom zakonu Indije i EU-ovom Aktu o digitalnim uslugama (poveznica je arhivirana ovdje), platforme će se morati boriti protiv dezinformacija i uklanjati ilegalne sadržaje. Međutim, stručnjaci sumnjaju da će ih se moći provoditi.

Kina i EU rade na opsežnim zakonima o umjetnoj inteligenciji, što će vjerojatno potrajati. EU-ov zakon vjerojatno neće biti dovršen prije 2026.

U listopadu, Američki predsjednik Joe Biden izdao je nalog o standardima za sigurnost AI-ja (poveznica je arhivirana ovdje).

Međutim, kritičari kažu da je preblag, a neki zakonodavci boje se da bi preopsežna regulacija mogla usporiti razvoj tehnološke industrije i pomoći rivalima.

Pod pritiskom da učine nešto, tehnološke tvrtke uvele su vlastite inicijative.

Meta kaže da će oglašivači morati reći jesu li koristili generativni AI u izradi svojih oglasa (poveznica je arhivirana ovdje), dok je Microsoft uveo alat za političke kandidate pomoću kojeg mogu ovjeriti svoj sadržaj vodenim žigom.

Međutim, platforme za verifikaciju sve više ovise o... umjetnoj inteligenciji.

"Automatizacija borbe protiv dezinformacija ne djeluje mi kao najbolji način za shvatiti neprijateljske strategije," rekao je Nocetti.