KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
"MI SMO USPAVANI DIV, DRUGO MESTO NA TABELI NIJE OPCIJA!" Prvo obraćanje novog trenera Partizana od kad je stigao u klub
Novi trener fudbalera Partizana Nenad Stojaković rekao je da mu je izuzetna čast i privilegija što je postao trener "crno-belih" i istakao da klubu cilj nikad ne sme da bude drugo mesto.
15. 11. 2025. u 12:46
ŽENA BRUSA VILISA OTKRILA ŠTA ĆE URADITI NAKON NjEGOVE SMRTI: Njegova poslednja uloga će ostaviti neizbrisiv trag
SUPRUGA Brusa Vilisa u svojoj knjizi otkrila je sve o borbi čitave porodice sa glumčevom bolesti kao i koliko je još života ostalo holivudskoj zvezdi.
14. 11. 2025. u 09:37
JEVREJSKO POREKLO - MIT ILI ISTINA? "Da je Hitler video rezultate - sam bi sebe poslao u gasnu komoru" Šta otkriva analiza DNK
NOVA DNK analiza, zasnovana na tkanini umrljanoj krvlju koja je uzeta sa sofe na kojoj je Adolf Hitler izvršio samoubistvo u Berlinu u maju 1945. godine, sugeriše da je nacistički vođa patio od genetskog poremećaja koji utiče na polni razvoj, navode istraživači predstavljeni u predstojećem dokumentarcu televizije Kanal 4.
14. 11. 2025. u 13:45
HAOS NA SENIDINOM NASTUPU: Obezbeđenje odmah reagovalo, pevačica objasnila šta se desilo (VIDEO)
SENIDAH je odmah reagovala kada je saznala o čemu se radi.
15. 11. 2025. u 12:39
"ODREKLA BI ME SE": Nataša Bekvalac otkrila kako bi njena majka reagovala da se vrati bivšim partnerima
PEVAČICA Nataša Bekvalac iza sebe ima tri braka, a sada je otkila šta bi njena majka rekla da se ona pomiri sa nekim od bivših.
15. 11. 2025. u 10:03
ĆERKA IVANE SELAKOV IMA UROĐENI POREMEĆAJ: Pevačica se svakodnevno suočava sa velikim izazovima
PEVAČICA Ivana Selakov otkrila je detalje iz porodičnog života koji su dirnuli mnoge, a tiču se njenog deteta.
15. 11. 2025. u 14:39
RUSI OBJAVILI SPISAK NAJVEĆIH NEPRIJATELjA: Evo na kom je mestu Hrvatska
RUSKI ski list „Vzgljad“ sastavio je i u utorak objavio „Rejting neprijateljskih vlada“ kako bi pokazao razliku između država koje se svesno suprotstavljaju Rusiji i onih koje su na tu odluku „protiv njihove volje naterale spoljnopolitičke okolnosti“, prenosi Slobodna Dalmacija.
14. 11. 2025. u 16:54
ZELENSKI ALARMIRAO EVROPU: Rusija će pokrenuti veliku agresiju na kontinent, poznata i godina
UKRAJINSKI predsednik Volodimir Zelenski tvrdi da Rusija planira da pokrene veliku agresiju na evropskom kontinentu 2029. ili 2030. godine, navodeći da na to ukazuje povećana ruska proizvodnja oružja.
13. 11. 2025. u 10:54
Policija uletela na svadbu, HAPSI MLADU - a tek objašnjenje! Ovo je LUDNICA (VIDEO)
ČAK i na najlepšim svadbama ponekad se dese nepredviđene situacije, sitne greške ili čak veći incidenti.
14. 11. 2025. u 16:23
Najnovije iz rubrike
KLAUDIJA STIGLA DO EVROPE: U Britaniji na snazi alarmi - zabeležen redak fenomen (FOTO/VIDEO)
OLUJA Klaudija donela je obilne kiše i poplave delovima Velike Britanije i Irske, saopštio je britanski Met office. Samo u jednom gradu u Lesterširu zabeleženo je gotovo 100 mm kiše od juče ujutru.
15. 11. 2025. u 15:44
ZELENSKI OTKRIO: Novac za Zimsku podršku treba da stigne 10 dana nakon podnošenja zahteva
NAKON podnošenja zahteva za jednokratnu pomoć u okviru programa "Zimska podrška", sredstva bi trebalo da stignu u roku od 10 dana, izjavio je danas predsednik Ukrajine Volodimir Zelenski.
15. 11. 2025. u 15:14
DŽEJ DI VENS: Dijalog Trampa i Putina ključan za mir u Ukrajini
PREDSEDNIK SAD Džej Di Vens izrazio je uverenje da je razgovor predsednika Donalda Trampa sa Vladimirom Putinom neophodan za rešavanje ukrajinskog pitanja.
15. 11. 2025. u 15:07
POZIVI NA NARODNI IMPIČMENT ZELENSKOM: U Kijevu održan miting protiv režima
U KIJEVU je održan miting na kom su učesnici pozivali na „narodni impičment“ Vladimiru Zelenskom, pozivajući se na rastući korupcionaški skandal.
15. 11. 2025. u 14:54
"OVO JE KATASTROFA" Bivši Trampov savetnik - Rat u Ukrajini je izgubljen
BIVŠI savetnik predsednika SAD tokom prvog mandata Donalda Trampa, Majkl Flin, izjavio je da je „rat u Ukrajini izgubljen“
15. 11. 2025. u 14:47
Komentari (0)