Sliku uhićenja ekstremista u Bosanskoj Krupi generirala je umjetna inteligencija
Sliku uhićenja ekstremista u Bosanskoj Krupi generirala je umjetna inteligencija
Objavio četvrtak 14 studenoga 2024 u 16:07
Copyright © AFP 2017-2024. Sva prava zadržana.
Nikola KIS / Mina PEJAKOVIC / AFP Croatia / AFP Beograd
Četrnaestogodišnji dječak ubio je jednog policajca, a drugog teško ranio 24. listopada 2024. u Bosni i Hercegovini. Lokalni dužnosnici taj incident su označili kao "teroristički napad". Dva dana kasnije, u sklopu istrage, uhićeno je osam osoba kako bi se utvrdilo jesu li ekstremističke grupe bile umiješane u organizaciju ili podršku napada. Istog dana na društvenim mrežama počela je kružiti fotografija za koju se tvrdilo da prikazuje uhićenje ekstremista s naoružanjem u Bosanskoj Krupi. Međutim, Državna agencija za istrage i zaštitu (SIPA) BiH potvrdila je za AFP da fotografija nije autentična, a nekoliko stručnjaka i programa za prepoznavanje potvrdilo je da je fotografija generirana umjetnom inteligencijom.
"Ovo nije Pakistan. Ovo je Bosanska krupa danas," piše u opisu slike objavljene 26. listopada 2024. na društvenoj mreži X.
Na slici su prikazani naizgled naoružani vojnici SIPA-e (Državne agencije za istrage i zaštitu Bosne i Hercegovine) ispred seoske kuće, a nasuprot njih stoji pet muškaraca okrenutih leđima promatraču i vezanih ruku, obučeni u bijelu ili tamnu odjeću, dok neki nose tradicionalne islamske kape.
Objava na platformi X podijeljena je više od 200 puta, a s identičnim opisom objavljena je i na Facebooku, na primjer, ovdje i ovdje.
Na najviše dijeljenoj objavi na platformi X nekoliko osoba u komentarima upozorilo je korisnika da je slika generirana umjetnom inteligencijom, ali mnogi su vjerovali da je riječ o autentičnoj fotografiji.
Na Facebooku većina korisnika nije sumnjala u autentičnost slike, poput onih koji su rekli "Slika govori više od 1000 reči" ili "Obični pijuni u tuđim rukama, koji se aktiviraju po potrebi. Dok je Amerike, biće i mudžehedina."
Iako je osam osoba zaista uhićeno 26. listopada u Bosanskoj Krupi zbog sumnje na povezanost s ubojstvom policajca koje je počinio četrnaestogodišnjak, SIPA je potvrdila za AFP da slika koja je kružila na društvenim mrežama nije autentična, a nekoliko stručnjaka reklo je da je zapravo generirana umjetnom inteligencijom (arhivirano je ovdje i ovdje). Više elemenata i nelogičnosti na samoj fotografiji ukazuje na to da nije riječ o autentičnoj fotografiji.
Obrnuta pretraga pokazala je da je najranije pojavljivanje te slike koje je AFP uspio pronaći bilo u ovoj Telegram grupi 26. listopada 2024. godine uz tvrdnju da su "u Federaciji BiH, na satiričan način, revoltirani građani indirektno kritkovali sarajevske vlasti radi provale ultraradikalne islamističke ćelije u Krupi i Bihaću, gde je pohapšeno 8 ekstremista sa naoružanjem, sredstvima za komunikaciju, laptopovima, kao i masom spisa na arapskom jeziku." Taj Telegram kanal i ranije je u nekoliko navrata objavljivao slike generirane umjetnom inteligencijom kao na primjer ovdje i ovdje.
Slika uhićenja nije autentična fotografija i ne prikazuje policajce SIPA-e
Državna agencija za istrage i zaštitu (SIPA) Bosne i Hercegovine potvrdila je u pisanom odgovoru AFP-u 5. studenog 2024. da slika iz objava nije napravljena tijekom uhićenja osmorice osumnjičenih.
"Obavještavamo Vas da dostavljena fotografija nije autentična," navela je glasnogovornica SIPA-e, viša inspektorica Jelena Miovčić, i dodala da se "na istoj ne nalaze policijski službenici" te institucije.
Pažljivim promatranjem uočava se mnogo znakova da je slika nastala korištenjem generativne umjetne inteligencije.
Na primjer, puške i krov čudno su oblikovani, čini se da satelitska antena lebdi u zraku, a način na koji vojnici drže oružje je vrlo neprirodan. AFP je ranije pisao o nekim od znakova koji mogu pomoći u prepoznavanju sadržaja generiranog umjetnom inteligencijom.
Doc. dr Milan Čabarkapa s Fakulteta inženjerskih nauka sveučilišta u Kragujevcu potvrdio je u poruci za AFP 31. listopada 2024. da je "sliku generisala veštačka inteligencija."
Prema riječima Čabarkape, na primjer, natpisi na uniformama vojnika i njihova lica su nejasni, a oblik lica uhićenih i položaj ruku je neprirodan.
Dragiša Mišković, viši suradnik na Institutu za umjetnu inteligenciju u Srbiji, rekao je za AFP u elektroničkoj poruci od 7. studenog 2024. da "AI generisane slike uglavnom i još uvek dolaze sa određenim anomalijama koje se najlakše mogu primetiti na licu i rukama" (arhivirano je ovdje i ovdje). Prema njegovim riječima, "prilično je jasno" da je ta slika generirana umjetnom inteligencijom. Zumiranjem se, na primjer, može uočiti "izostanak detalja lica ili nelogične konture šaka 'zarobljenih' ljudi," rekao je Mišković.
Dodao je da se uz pomoć određenih alata može utvrditi da je slika generirana umjetnom inteligencijom. Na primjer, u elektroničkoj poruci AFP-u dostavio je nekoliko snimaka zaslona kao dokaz, koristeći alate kao što su HiveModeration i SightEngine, koji su pokazali "preko 90% verovatnoće da je slika generisana putem veštačke inteligencije" (arhivirano je ovdje i ovdje).
Sliku je, s vjerojatnosti od 99%, kao generiranu umjetnom inteligencijom prepoznao i program InVid, koji je napravljen u okviru europskog verifikacijskog programa veraai.eu i u kojem je AFP jedan od partnera. Taj detektor prepoznaje specifične tragove koje ostavlja softver za generiranje slika umjetnom inteligencijom.
Čabarkapa je također rekao da postoje "specijalizovani programi za proveru koji rade analizu slike i sposobni su da uoče patern iz koga se vidi da je AI generator i koji je." Napomenuo je i da je sliku provjerio u nekoliko takvih programa i svaki put dobio isti rezultat.
AFP je koristio jedan od programa koje je preporučio Čabarkapa, "SightEngine", i dobio je informaciju da je slika 99% generirana umjetnom inteligencijom.
Još jedan program za provjeru sadržaja generiranog umjetnom inteligencijom, TrueMedia.org, također je s 99% vjerojatnosti utvrdio da je riječ o slici koju je generirala umjetna inteligencija.
AFP je kontaktirao grupu "Borbeni efektivi," na čijem je Telegram kanalu pronađena najranija verzija te slike, s pitanjem je li generirana umjetnom inteligencijom, ali do objavljivanja ovog teksta nismo dobili odgovor.
AFP je i ranije provjeravao autentičnost slika dijeljenih uz netočne tvrdnje ili izvan konteksta na društvenim mrežama, na primjer ovdje i ovdje. Više o obmanjujućim informacijama u kojima je korištena umjetna inteligencija možete čitati ovdje.
Sva prava pridržana. Bilo koje korištenje sadržaja AFP-a na ovim stranicama podliježe uvjetima uporabe dostupnim na https://www.afp.com/en/terms-use. Pristupanjem i/ili korištenjem bilo kojeg AFP-ovog sadržaja dostupnog na ovim stranicama pristajete na prije spomenute uvjete korištenja. Bilo kakva uporaba AFP-ovog sadržaja je pod vašom isključivom i punom odgovornošću.