Panorama

DIPFEJK DETEKTORI PALI NA TESTU: Istraživači pozivaju na hitna poboljšanja

Jovana Švedić

22. 03. 2025. u 10:23

NIJEDAN od 16 vodećih detektora ne može pouzdano da identifikuje lažne fotografije u stvarnom svetu, otkrili su australijski i južnokorejski istraživači.

ДИПФЕЈК ДЕТЕКТОРИ ПАЛИ НА ТЕСТУ: Истраживачи позивају на хитна побољшања

Nedavno objavljeni rad na portalu arXiv, koji su zajednički izradili australijska nacionalna naučna agencija CSIRO i južnokorejski Univerzitet Sungkjunkvan, otkrio je ozbiljne ranjivosti u postojećim dipfejk (deepfake) detektorima.

Istraživanje je procenilo 16 vodećih detektora i pokazalo da nijedan od njih nije u stanju da pouzdano identifikuje deepfake u stvarnim uslovima.

Metodologija istraživanja

Istraživači su razvili okvir u pet koraka za procenu alata koji uključuje tip dipfejka, metodu detekcije, pripremu podataka, obuku modela i validaciju.

Pritom su identifikovali i 18 faktora koji utiču na tačnost detektora koji su testirani u različitim scenarijima, uključujući crnu, belu i sivu kutiju.

Postojeći detektori pokazuju ozbiljne slabosti, posebno kada se suočavaju s radovima koji se ne nalaze u njihovim treniranim podacima, zapažaju istraživači.

Na primer ICT (Identity Consistent Transformer), detektor treniran na licima poznatih osoba, nije bio efikasan u detekciji dipfejka s nepoznatim osobama.

Detektori su pali na ispitu, nebitno da li je u pitanju "synthesis deepfake" koji generiše potpuno nova sintetička lica, "faceswap deepfake" radovima u kojima se lice jedne osobe zamenjuje drugim ili " reeanactment deepfake" u kojem se zadržavaju crte lica neke osobe, ali se menjaju njeni izrazi.

Integracija podataka

Istraživači pozivaju na hitna poboljšanja, predlažu razvoj više detektora i korišćenje različitih izvora podataka kako bi se poboljšala tačnost detekcije.

Naglašavaju i potrebu integracije audio, tekstualnih i meta podataka u modele za detekciju, kao i primenu strategija poput fingerprintinga, odnosno ugradnje veštačkih i GAN otisaka u slike i video snimke kako bi se bolje pratilo poreklo dipfejka.

Prva metoda uključuje ugradnju jedinstvenih oznaka u trening podatke generativnih modela koji se prepoznaju u generisanim dipfejk radovima, a druga na prirodne oznake koje generativni modeli ostavljaju u generisanim sadržajima.

(b92)

Pratite nas i putem iOS i android aplikacije

Pratite vesti prema vašim interesovanjima

DOBRO SMO UPOZNATI SA DOGAĐAJIMA U SRBIJI Medvedev optužio Zapad za organizovanje protesta u drugim zemljama

Politika

0 22

"DOBRO SMO UPOZNATI SA DOGAĐAJIMA U SRBIJI" Medvedev optužio Zapad za organizovanje protesta u drugim zemljama

ZAMENIK predsednika Saveta bezbednosti Rusije i predsednik stranke Jedinstvena Rusija Dmitrij Medvedev optužio je danas zapadne zemlje da organizuju proteste i mešaju se u izborne procese drugih zemalja da bi održale svoju dominaciju.

31. 07. 2025. u 17:01

EKSKLUZIVNI SNIMCI HAPŠENJA ŠIPTARSKOG TERORISTE: Ovako je pao bivši pripadnik OVK u Svilajncu, evo za šta se sumnjiči (VIDEO)

Politika

1 41

EKSKLUZIVNI SNIMCI HAPŠENjA ŠIPTARSKOG TERORISTE: Ovako je pao bivši pripadnik OVK u Svilajncu, evo za šta se sumnjiči (VIDEO)

ŠIPTARSKI terorista i bivši istaknuti pripadnik terorističke OVK Halili Lulzin, uhapšen je danas u Svilajncu, u zajedničkoj akciji Bezbednosno-informativne agencije, Službe za otkrivanje ratnih zločina UKP MUP-a Republike Srbije, a u saradnji sa Tužilaštvom za ratne zločine.

22. 07. 2025. u 20:54

BLOKIRAO PROMETNU ULICU: Kad su videli ko je za volanom, niko nije smeo ni da priđe! (VIDEO)

Panorama

0 0

BLOKIRAO PROMETNU ULICU: Kad su videli ko je za volanom, niko nije smeo ni da priđe! (VIDEO)

NEODGOVORNI vozač "honde" blokirao je nedavno ulicu ispred mumbajskog tržnog centra Lokhandvala, međutim kada su ostali vozači prišli da ga pitaju ga kako se to ponaša i zatraže od njega da skloni vozilo, usledio je pravi šok.

31. 07. 2025. u 17:34

Komentari (0)

Ostavi komentar

Najnovije iz rubrike

SVET BEZ NUKLEARNIH RAKETA? Kako bi izgledao život na dvojniku Zemlje, planeti Kepler 452b

Panorama

0 0

SVET BEZ NUKLEARNIH RAKETA? Kako bi izgledao život na dvojniku Zemlje, planeti Kepler 452b

PLANETA Kepler 452b smatra se jednom od najpogodnijih planeta za život pored Zemlje od kada je pre tačno 10 godina otkrivena tranzitnom metodom, odnosno putem posmatranja periodičnih pomračenja zvezde, kada planeta prolazi putanjom njenog diska.

01. 08. 2025. u 00:00

KULTURNI GENOCID: Britanija opljačkala drevni Egipat

Panorama

0 1

KULTURNI GENOCID: Britanija opljačkala drevni Egipat

TOKOM britanske kolonijalne vlasti u Egiptu (1882–1956), dogodile su se najveće pljačke drevnih egipatskih artefakata u istoriji, rekao je Zahi Havas, egipatski arheolog i bivši ministar za atiktitete Egipta, prokomentarisao je za Sputnjik priču o krađi egipatskih artefakata od strane Velike Britanije.

31. 07. 2025. u 23:00