Istraživači upozoravaju da bi se na predsjedničkim izborima u SAD-u u studenom, koji se naširoko nazivaju prvim američkim izborima s umjetnom inteligencijom, krivotvorenje omogućeno tehnologijom moglo koristiti za usmjeravanje glasača prema pojedinim kandidatima ili protiv njih – ili čak za potpuno izbjegavanje izbora – što bi dodatno potaknulo napetosti u već izrazito polariziranom okruženju.

Nedavni val dezinformacija obnovio je pozive tehnološkim divovima - od kojih su se mnogi povukli od moderiranja sadržaja društvenih medija - da ojačaju zaštite od generativne umjetne inteligencije uoči izbora.

Krajem srpnja Elon Musk se suočio sa žestokim kritikama zbog dijeljenja deepfake snimke koja prikazuje potpredsjednicu Harris, vjerojatnu demokratsku kandidatkinju, sa svojih 192 milijuna sljedbenika na platformi X.

Na snimci glas koji zvuči kao Harris naziva predsjednika Joea Bidena senilnim; glas tada izjavljuje da "ne zna išta o vođenju države."

Snimka nije sadržavala ikakve naznake da se radi o parodiji - osim emoji smješka. Musk je tek kasnije pojasnio da je snimka satirična. Istraživači su izrazili zabrinutost da su gledatelji mogli pogrešno zaključiti kako se Harris rugala sama sebi i blatila Bidena.

AFP-ovi novinari za provjeru činjenica razotkrili su i druge sadržaje koje je kreirala umjetna inteligencija (AI) a koje su izazvale zabrinutost.

U srpnju se pojavila manipulirana snimka koja se širila platformom X na kojoj se vidi kako Biden psuje svoje kritičare – uključujući anti-LGBTQ uvrede – nakon što je najavio da se neće ponovno kandidirati i podržao Harris kao kandidatkinju demokratske stranke.

Obrnuto pretraživanje slika pokazalo je da snimka dolazi iz jednog od Bidenovih govora, koji je uživo prenosila televizija PBS, u kojem je osudio političko nasilje nakon pokušaja atentata na Trumpa 13. srpnja.

Iz PBS-a su rekli da je manipulirana snimka deepfake koji koristi njihov logotip kako bi se zavaralo gledatelje.

Nekoliko tjedana prije toga, pojavila se slika koja se širila svim platformama na kojoj se vidi kako policija prisilno uhićuje Trumpa nakon što ga je njujorška porota proglasila krivim za krivotvorenje poslovne dokumentacije u vezi s tajnom isplatom novca porno zvijezdi Stormy Daniels.

Međutim, stručnjaci za digitalnu forenziku rekli su za AFP da je fotografija deepfake.

'Stranačke tenzije'

"Ti nedavni primjeri tipičan su način na koji će se deepfakeovi koristiti u politici u budućnosti," rekao je za AFP Lucas Hansen, suosnivač neprofitne organizacije CivAI.

"Iako su dezinformacije koje stvara umjetna inteligencija svakako zabrinjavajuće, najvjerojatnije će primjena biti proizvodnja slika i snimaka s namjerom da izazovu bijes i pogoršaju stranačke napetosti."

Hansen je za AFP pokazao sposobnost jednog AI chatbota da manipulira odazivom birača masovnom proizvodnjom netočnih objava.

Alat je dobio jednostavan upit - "Biračka mjesta naplaćuju parking" - s porukom prilagođenom za određenu lokaciju: Allen, Texas.

U roku od nekoliko sekundi objavljen je tweet koji dezinformira čitatelje da su vlasti u Allenu "tiho uvele naknadu za parkiranje od 25 dolara na većini biračkih mjesta."

U prethodnom pokušaju mogućeg odvraćanja od glasanja, robotski poziv omogućen umjetnom inteligencijom koji je imitirao Bidena pozvao je stanovnike New Hampshirea u siječnju da ne glasaju na predizborima u toj državi.

Centar za suzbijanje digitalne mržnje (CCDH) rekao je u lipnju da su testovi na još jednom vodećem alatu umjetne inteligencije, Midjourney, omogućili stvaranje slika koje prikazuju Bidena kako je uhićen i Trumpa kako se pojavljuje pored dvojnika.

Tehnološki aktivisti su izvijestili da je Midjourney prethodno blokirao sve upite povezane s Trumpom i Bidenom, efektivno zabranjujući korisnicima stvaranje krivotvorenih fotografija.

No CCDH je rekao da korisnici mogu lako zaobići pravilo - u nekim slučajevima dodavanjem jedne kose crte na upit koji je Midjourney prethodno blokirao.

'Prekretnica'

Promatrači upozoravaju da se takvim masovnim lažiranjem riskira razbjesniti javnost na cijeli izborni proces.

Prema anketi koju su prošle godine objavili medijska grupa Axios i tvrtka Morning Consult za poslovno obavještavanje, više od 50 posto Amerikanaca očekuje da će neistine stvorene umjetnom inteligencijom utjecati na pobjedu na izborima 2024. 

Otprilike jedna trećina Amerikanaca rekla je da će manje vjerovati rezultatima zbog umjetne inteligencije, prema rezultatima iste ankete.

Nekoliko tehnoloških divova reklo je da rade na sustavima za označavanje sadržaja generiranog umjetnom inteligencijom.

U pismu upućenom izvršnim direktorima tehnoloških tvrtki u travnju 2024., više od 200 aktivističkih skupina zahtijevalo je hitne napore za jačanje borbe protiv neistina generiranih umjetnom inteligencijom, uključujući zabranu korištenja deepfakeova u političkim oglasima i korištenje algoritama za promicanje istinitog izbornog sadržaja.

Neprofitna organizacija Free Press, jedna od grupa koje su potpisale pismo, rekla je da su "čuli malo toga" po pitanju obveza koje će platforme preuzeti na sebe u ovom izbornom ciklusu.

"Ono što sada imamo je toksično internetsko okruženje u kojem laži preplavljuju naše ekrane i zbunjuju glasače," rekla je za AFP Nora Benavidez, viša savjetnica u ovoj organizaciji.

"Ovo je prekretnica u našim izborima," dodala je. "Rukovoditelji platformi trebali bi se utrkivati kako bi ojačali i proveli svoje politike protiv deepfakea i drugih problema."