DIPFEJK DETEKTORI PALI NA TESTU: Istraživači pozivaju na hitna poboljšanja
NIJEDAN od 16 vodećih detektora ne može pouzdano da identifikuje lažne fotografije u stvarnom svetu, otkrili su australijski i južnokorejski istraživači.
Foto Shutterstock
Nedavno objavljeni rad na portalu arXiv, koji su zajednički izradili australijska nacionalna naučna agencija CSIRO i južnokorejski Univerzitet Sungkjunkvan, otkrio je ozbiljne ranjivosti u postojećim dipfejk (deepfake) detektorima.
Istraživanje je procenilo 16 vodećih detektora i pokazalo da nijedan od njih nije u stanju da pouzdano identifikuje deepfake u stvarnim uslovima.
Metodologija istraživanja
Istraživači su razvili okvir u pet koraka za procenu alata koji uključuje tip dipfejka, metodu detekcije, pripremu podataka, obuku modela i validaciju.
Pritom su identifikovali i 18 faktora koji utiču na tačnost detektora koji su testirani u različitim scenarijima, uključujući crnu, belu i sivu kutiju.
Postojeći detektori pokazuju ozbiljne slabosti, posebno kada se suočavaju s radovima koji se ne nalaze u njihovim treniranim podacima, zapažaju istraživači.
Na primer ICT (Identity Consistent Transformer), detektor treniran na licima poznatih osoba, nije bio efikasan u detekciji dipfejka s nepoznatim osobama.
Detektori su pali na ispitu, nebitno da li je u pitanju "synthesis deepfake" koji generiše potpuno nova sintetička lica, "faceswap deepfake" radovima u kojima se lice jedne osobe zamenjuje drugim ili " reeanactment deepfake" u kojem se zadržavaju crte lica neke osobe, ali se menjaju njeni izrazi.
Integracija podataka
Istraživači pozivaju na hitna poboljšanja, predlažu razvoj više detektora i korišćenje različitih izvora podataka kako bi se poboljšala tačnost detekcije.
Naglašavaju i potrebu integracije audio, tekstualnih i meta podataka u modele za detekciju, kao i primenu strategija poput fingerprintinga, odnosno ugradnje veštačkih i GAN otisaka u slike i video snimke kako bi se bolje pratilo poreklo dipfejka.
Prva metoda uključuje ugradnju jedinstvenih oznaka u trening podatke generativnih modela koji se prepoznaju u generisanim dipfejk radovima, a druga na prirodne oznake koje generativni modeli ostavljaju u generisanim sadržajima.
(b92)
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
AMERI U ŠOKU: Ne mogu da veruju da Nikola Jokić ovo radi
Najnovije vesti iz NBA lige tiču se najboljeg košarkaša sveta - a Nikola Jokić je više nego dovoljan razlog da o njemu bruje vodeći američki mediji.
30. 10. 2025. u 12:58
ŠTA SE TO DESILO? Snimak Sijevog obezbeđenja - trčali, jurili automobil u kom je bio predsednik (VIDEO)
AMERIČKI predsednik Donald Tramp i njegov kineski kolega Si Đinping sastali su se danas u Busanu u Južnoj Koreji i, između ostalog, dogovorili smanjene američkih tarifa.
30. 10. 2025. u 20:03
DOK TRAMP RUŠI: Vidite šta je Melanija napravila od Bele kuće (FOTO)
DOK se Bela kuća pretvara u gradilište, Melanija je unela dašak jeseni.
30. 10. 2025. u 21:15
Dečak (9) se zapalio tokom spavanja: Punjač eksplodirao - upleo se u njegovu ogrlicu na vratu
NjEGOVI krici za pomoć probudili su njegove roditelje i on je brzo prebačen u hitnu pomoć.
30. 10. 2025. u 22:27
"IMAO SAM DEDIN KOFER IZ ZAROBLjENIŠTVA, PUN KNjIGA...": Kako je Marić sa 3 i po godine naučio da čita?
NOVINARA, publiciste i urednika, Milomir Marić bio je jednom prilikom gost emisije "Sceniranje", gde je voditeljki Ljiljani Stanišić otkrio sve o čemu je dugo ćutao. Marić je između ostalog ispričao i hit detalj iz detinjstva koji danas rado prepričava kao anegdotu.
30. 10. 2025. u 11:20
UNUK DE NIRA (19) NAĐEN MRTAV Petoro uhapšenih, optuženi za ubistvo - drama u SAD: "Ne znam kako da živim bez tebe"
NEKOLIKO dana nakon smrti Leandra, Drena je na Instagramu tvrdila da je neko prodao njenom sinu "pilule sa fentanilom za koje su znali da su zatrovane".
30. 10. 2025. u 19:08 >> 19:08
UKRAJINSKI VOJNICI U KLANICI POKROVSKA: "U gradu je pravi pakao, Rusi doveli sve snage koje mogu"
RUSKA pešadija prodrla je u gradske granice jednog od glavnih strateških ciljeva predsednika Rusije Vladimira Putina, preteći da ga opkoli. Ukrajinske specijalne snage uključile su se u borbe u urbanom području.
29. 10. 2025. u 17:43
SAD IZDALE GENERALNU DOZVOLU DO APRILA: Odlažu se sankcije ruskoj naftnoj kompaniji
SJEDINjENE Američke Države su danas izdale tzv. "generalnu dozvolu" kojom se privremeno odlažu sankcije Rosnjeftu u Nemačkoj do 29. aprila 2026. godine, objavilo je američko ministarstvo finansija.
29. 10. 2025. u 16:17
Udala se za 25 leta starijeg čobanina, doživela šok kad je umro
Marsel Amfu je čitav svoj život živeo jednostavno. Njegova kuća nije imala ni struje ni vode. To mu je omogućilo da uštedi ogromne sume novca.
28. 10. 2025. u 21:37
Najnovije iz rubrike
NASA POTVRDILA DA ZEMLJA IMA DVA MESECA: Drugi je tek otkriven - evo kako će uticati na našu planetu (VIDEO)
PREMA američkoj svemirskoj agenciji NASA, Zemlja trenutno ima dva meseca.
31. 10. 2025. u 10:10
DANAS ZAPALITE SVEĆU I POŽELITE ZDRAVLJE: Tako su radile naše bake na Svetog Luku
U SRPSKOM narodu Sveti Luka je oduvek bio jedan od najpoštovanijih svetitelja, ne samo kao zaštitnik lekara i bolesnih, već i kao čuvar doma, zdravlja i životinja. Njegov dan, 31. oktobar, dočekuje se u tišini i blagosti, jer narod kaže – „Na dan svetog Luke, ne uzimaj u ruke“.
31. 10. 2025. u 09:58
NE BIRAJU REČI: Pet najnepristojnijih horoskopskih znakova
NjIHOVA iskrenost često prelazi granice takta, pa se često čini kao da im nije stalo do toga kako će njihove reči uticati na druge.
31. 10. 2025. u 09:25
NE RASIPAJTE ENERGIJU NA RASPRAVE Astro savet za petak, 31. oktobar: Aspekti Meseca donose jaku unutrašnju napetost i stresne situacije
MESEC, simbol emocija, raspoloženja, nežnijeg pola, doma i porodice, danas ulazi u intuitivne, hipersenzibilne Ribe i pravi samo napete aspekte koji stvaraju jaku unutrašnju napetost, donoseći nam mnogo obaveza i stresnih situacija.
31. 10. 2025. u 07:30
NAUČNICI OTKRILI DESETINE NOVIH VRSTA: Istraživanja u dubinama Južnog okeana
TIM okeanografa otkrio je desetine novih vrsta morskih organizama na dnu Južnog okeana, u jednom od najnepristupačnijih delova planete, saopštila je danas Fondacija "Nipon-Nekton Ocean Census".
31. 10. 2025. u 00:22
Komentari (0)