Panorama

DIPFEJK DETEKTORI PALI NA TESTU: Istraživači pozivaju na hitna poboljšanja

Jovana Švedić

22. 03. 2025. u 10:23

NIJEDAN od 16 vodećih detektora ne može pouzdano da identifikuje lažne fotografije u stvarnom svetu, otkrili su australijski i južnokorejski istraživači.

ДИПФЕЈК ДЕТЕКТОРИ ПАЛИ НА ТЕСТУ: Истраживачи позивају на хитна побољшања

Nedavno objavljeni rad na portalu arXiv, koji su zajednički izradili australijska nacionalna naučna agencija CSIRO i južnokorejski Univerzitet Sungkjunkvan, otkrio je ozbiljne ranjivosti u postojećim dipfejk (deepfake) detektorima.

Istraživanje je procenilo 16 vodećih detektora i pokazalo da nijedan od njih nije u stanju da pouzdano identifikuje deepfake u stvarnim uslovima.

Metodologija istraživanja

Istraživači su razvili okvir u pet koraka za procenu alata koji uključuje tip dipfejka, metodu detekcije, pripremu podataka, obuku modela i validaciju.

Pritom su identifikovali i 18 faktora koji utiču na tačnost detektora koji su testirani u različitim scenarijima, uključujući crnu, belu i sivu kutiju.

Postojeći detektori pokazuju ozbiljne slabosti, posebno kada se suočavaju s radovima koji se ne nalaze u njihovim treniranim podacima, zapažaju istraživači.

Na primer ICT (Identity Consistent Transformer), detektor treniran na licima poznatih osoba, nije bio efikasan u detekciji dipfejka s nepoznatim osobama.

Detektori su pali na ispitu, nebitno da li je u pitanju "synthesis deepfake" koji generiše potpuno nova sintetička lica, "faceswap deepfake" radovima u kojima se lice jedne osobe zamenjuje drugim ili " reeanactment deepfake" u kojem se zadržavaju crte lica neke osobe, ali se menjaju njeni izrazi.

Integracija podataka

Istraživači pozivaju na hitna poboljšanja, predlažu razvoj više detektora i korišćenje različitih izvora podataka kako bi se poboljšala tačnost detekcije.

Naglašavaju i potrebu integracije audio, tekstualnih i meta podataka u modele za detekciju, kao i primenu strategija poput fingerprintinga, odnosno ugradnje veštačkih i GAN otisaka u slike i video snimke kako bi se bolje pratilo poreklo dipfejka.

Prva metoda uključuje ugradnju jedinstvenih oznaka u trening podatke generativnih modela koji se prepoznaju u generisanim dipfejk radovima, a druga na prirodne oznake koje generativni modeli ostavljaju u generisanim sadržajima.

(b92)

13. 04. 2026. u 22:00

Pratite nas i putem iOS i android aplikacije

Pratite vesti prema vašim interesovanjima

RUSI, IDITE KUĆI! Jeziva politička poruka sa trga u Budimpešti, Mađar već počeo da radi po nalogu Brisela (VIDEO)

Svet

0 22

"RUSI, IDITE KUĆI!" Jeziva politička poruka sa trga u Budimpešti, Mađar već počeo da radi po nalogu Brisela (VIDEO)

VELIKI politički zaokret u Mađarskoj najavio je lider opozicione Tise Petar Mađar, koji je posle izborne pobede poručio da zemlju čeka obnova punog učešća u Evropskoj uniji i NATO, miran prenos vlasti i ozbiljno preuređenje državnog vrha.

13. 04. 2026. u 07:27

PROVOCIRALI NA GODIŠNJICU NATO AGRESIJE: Uhapšena četvorica Albanaca u Srbiji, pogledajte snimke (VIDEO)

Hapšenja i istraga

0 26

PROVOCIRALI NA GODIŠNjICU NATO AGRESIJE: Uhapšena četvorica Albanaca u Srbiji, pogledajte snimke (VIDEO)

PRIPADNICI Ministarstva unutrašnjih poslova, Uprave kriminalističke policije uhapsili su na teritoriji Republike Srbije A. S. (1989), E. V. (1984), E. G. (1978) i A. C. (2005) državljane Republike Albanije zbog postojanja osnova sumnje da su izvršili krivično delo izazivanje nacionalne, rasne i verske mržnje i netrpeljivosti.

24. 03. 2026. u 20:17