ДИПФЕЈК ДЕТЕКТОРИ ПАЛИ НА ТЕСТУ: Истраживачи позивају на хитна побољшања
НИЈЕДАН од 16 водећих детектора не може поуздано да идентификује лажне фотографије у стварном свету, открили су аустралијски и јужнокорејски истраживачи.
Фото Shutterstock
Недавно објављени рад на порталу arXiv, који су заједнички израдили аустралијска национална научна агенција ЦСИРО и јужнокорејски Универзитет Сунгкјункван, открио је озбиљне рањивости у постојећим дипфејк (deepfake) детекторима.
Истраживање је проценило 16 водећих детектора и показало да ниједан од њих није у стању да поуздано идентификује deepfake у стварним условима.
Методологија истраживања
Истраживачи су развили оквир у пет корака за процену алата који укључује тип дипфејка, методу детекције, припрему података, обуку модела и валидацију.
Притом су идентификовали и 18 фактора који утичу на тачност детектора који су тестирани у различитим сценаријима, укључујући црну, белу и сиву кутију.
Постојећи детектори показују озбиљне слабости, посебно када се суочавају с радовима који се не налазе у њиховим тренираним подацима, запажају истраживачи.
На пример ИЦТ (Identity Consistent Transformer), детектор трениран на лицима познатих особа, није био ефикасан у детекцији дипфејка с непознатим особама.
Детектори су пали на испиту, небитно да ли је у питању "synthesis deepfake" који генерише потпуно нова синтетичка лица, "faceswap deepfake" радовима у којима се лице једне особе замењује другим или " reeanactment deepfake" у којем се задржавају црте лица неке особе, али се мењају њени изрази.
Интеграција података
Истраживачи позивају на хитна побољшања, предлажу развој више детектора и коришћење различитих извора података како би се побољшала тачност детекције.
Наглашавају и потребу интеграције аудио, текстуалних и мета података у моделе за детекцију, као и примену стратегија попут фингерпринтинга, односно уградње вештачких и ГАН отисака у слике и видео снимке како би се боље пратило порекло дипфејка.
Прва метода укључује уградњу јединствених ознака у тренинг податке генеративних модела који се препознају у генерисаним дипфејк радовима, а друга на природне ознаке које генеративни модели остављају у генерисаним садржајима.
(б92)
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
НОВЕ ПАМЕТНЕ САОБРАЋАЈНЕ КАМЕРЕ У БЕОГРАДУ: Бележе 9 прекршаја, казне стижу аутоматски - ево где су постављене
НОВИ систем није усмерен само на казне, већ првенствено на повећање безбедности свих учесника у саобраћају.
01. 08. 2025. у 15:27
ЈЕДИНО РЕШЕЊЕ: Шешељ открио шта држава хитно мора да уради
ЈАВНО тужилаштво није прочишћено, каже председник СРС др Војислав Шешељ.
01. 08. 2025. у 21:22
ВРЕМЕ ЈЕ И ЗА ОДЛАСКЕ: Звезда остала без голмана
Црвена звезда је у овом прелазном року добро појачала играчки кадар, а сада су на реду и одласци.
02. 08. 2025. у 08:13
НАЈДУЖИ БЉЕСАК МУЊЕ У ИСТОРИЈИ: Чак 829 км - ауту би требало 8-9 сати да пређе ту дистанцу! Научници забринути за јавну безбедност
СВЕТСКА метеоролошка организација (WМО) саопштила је да је прогласила нови светски рекорд за најдужи бљесак муње, који се простирао дуж 829 километара у Сједињеним Америчким Државама, од источног Тексаса до Канзас Ситија, а догодио се у октобру 2017. године.
01. 08. 2025. у 14:33
АЛЕКС ЈЕВТИЋ ОБЈАВИЛА СНИМАК: Бежале од дивље свиње на мору у Грчкој (ВИДЕО)
НЕОБИЧНА сцена забележена је на Итаки, када се дивља свиња појавила на плажи и ушла у море, што је изазвало панику међу туристима.
01. 08. 2025. у 16:37
ВРЕМЕ ЈЕ И ЗА ОДЛАСКЕ: Звезда остала без голмана
Црвена звезда је у овом прелазном року добро појачала играчки кадар, а сада су на реду и одласци.
02. 08. 2025. у 08:13
"ДОБРО СМО УПОЗНАТИ СА ДОГАЂАЈИМА У СРБИЈИ" Медведев оптужио Запад за организовање протеста у другим земљама
ЗАМЕНИК председника Савета безбедности Русије и председник странке Јединствена Русија Дмитриј Медведев оптужио је данас западне земље да организују протесте и мешају се у изборне процесе других земаља да би одржале своју доминацију.
31. 07. 2025. у 17:01
ЕКСКЛУЗИВНИ СНИМЦИ ХАПШЕЊА ШИПТАРСКОГ ТЕРОРИСТЕ: Овако је пао бивши припадник ОВК у Свилајнцу, ево за шта се сумњичи (ВИДЕО)
ШИПТАРСКИ терориста и бивши истакнути припадник терористичке ОВК Халили Лулзин, ухапшен је данас у Свилајнцу, у заједничкој акцији Безбедносно-информативне агенције, Службе за откривање ратних злочина УКП МУП-а Републике Србије, а у сарадњи са Тужилаштвом за ратне злочине.
22. 07. 2025. у 20:54
СРПСКА СНАЈА ИЗ ЗАМБИЈЕ Описала свој прелазак у православље: "У почетку, неке ствари биле су ми ЧУДНЕ"
ПАТРИЦИЈА Каунда из Замбије пре неколико година заљубила се у младића из Србије, а због њега се доселила у нашу земљу, па чак и променила веру.
02. 08. 2025. у 11:32
Најновије из рубрике
ТРИ ЗНАКА ОД ДАНАС ОКРЕЋУ НОВИ ЛИСТ: Проблемима је дошао крај, паре саме долазе, незаустављиви сте
ПОЧЕТАК августа доноси олакшање за многе, али три хороскопска знака ће то посебно осетити – и на души и на банковном рачуну. Након дужег периода емотивне исцрпљености, унутрашњих борби и осећаја стагнације, 2. августа долази снажан астролошки преокрет: конјункција месеца и Марса, транзит који симболизује енергију, снагу, иницијативу и крај туге.
02. 08. 2025. у 12:59
ДРАГОЦЕНИ ЛИСТОВИ: Зашто ловор треба да ставите испод јастука пре спавања
МИРИС ловора одбија муве, комарце и друге досадне инсекте, стога је одличан у данима када се боримо са превише комараца. Осим тога, има предиван мирис који ће обогатити простор.
02. 08. 2025. у 12:47
ПРЕКО ЊЕГА ДО 22. АВГУСТА ПРЕЛАЗИ СУНЦЕ: Упознајте Лава - Ово су његове врлине и мане
ЛАВ је поносан, помпезан, самоуверен, самосвестан, поуздан, супериоран, храбар, амбициозан, племенит, креативан, оптимиста, хедониста.
02. 08. 2025. у 12:00
СРПСКА СНАЈА ИЗ ЗАМБИЈЕ Описала свој прелазак у православље: "У почетку, неке ствари биле су ми ЧУДНЕ"
ПАТРИЦИЈА Каунда из Замбије пре неколико година заљубила се у младића из Србије, а због њега се доселила у нашу земљу, па чак и променила веру.
02. 08. 2025. у 11:32
НАТАЛИЈА СЕ УДАЛА У ГАНИ: У почектку је било тешко - шта јој је у новом дому најтеже пало
НАТАЛИЈА Сакадо из Санкт Петербурга, бивша професорка енглеског језика, одлучила је да свој живот из корена промени када се због љубави преселила у Гану. Данас живи са супругом и двоје деце у Акри, а кроз своје искуство приближава свакодневицу једне европске жене у афричком окружењу.
02. 08. 2025. у 07:40
Коментари (0)