KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
Poznati folker otkrio posle pola veka: "Godinu dana sam bio u vezi sa Snežanom Đurišić - dala mi je broj telefona i njenu sliku"
"Baš sam se bio zaljubio u nju. To nije bila ljubav, bila je zaljubljenost, bio sam klinac od 17 godina."
03. 05. 2026. u 14:11
Ostala su još 2 dana: Biljka koju treba da unesete u vaš dom pre Đurđevdana - veruje se da donosi mir, zdravlje i novac
Običaji za Đurđevdan i biljka koja donosi sreću u dom.
03. 05. 2026. u 13:20
(Uznemirujuć video) Iskopao sestrin leš i odneo ga u banku - "falio mu jedan papir", mučili ga administrativni problemi
Televizijski snimci prikazali su jeziv prizor: čoveka koji preko ramena nosi sestrino telo, delimično umotano u plastiku, sa vidljivim skeletnim ostacima.
03. 05. 2026. u 14:32
Stigle prirodno začete trojke: Šipovo slavi mamu Ilijanu i Damjana, Georginu i Strahinju (video)
Damjan, Georgina i Strahinja.
03. 05. 2026. u 13:44
Snimci objavljeni na mrežama: Cecina prija u akciji sa ćerkom - kupila 4 stana kod Hrama Svetog Save, sad uživa (foto)
UŽIVAJU na egzotičnoj destinaciji.
03. 05. 2026. u 10:28
Hezbolah ima novo moćno oružje, Izraelci u šoku: Teško ga zaustaviti, još teže otkriti - prekopirali ruski "recept"
"OVO JE moćan sistem koji u pravim rukama iskusnog operatera, protiv snaga koje ne očekuju takav napad, može biti prilično efikasan."
03. 05. 2026. u 12:07
Trampu stigle najgore moguće vesti: Nije dobro po američkog predsednika
Podrška američkom predsedniku Donaldu Trampu pala je na najniži nivo u njegovom trenutnom mandatu, a Amerikanci su sve više nezadovoljni njegovim postupanjem sa troškovima života i ratom sa Iranom, pokazuju rezultati nove ankete Ipsosa.
28. 04. 2026. u 20:51
Srušio se avion kod glavnog grada: Poginuli svi putnici i pilot
Vazduhoplovna civilna uprava Južnog Sudana saopštila je danas da se srušio avion jugozapadno od glavnog grada Džube, pri čemu je poginulo svih 14 osoba koje su bile u letelici.
27. 04. 2026. u 16:49
Šta se to desilo na granici Ukrajine i Belorusije? Zelenski besan, preti komšijama: "Spremni smo!"
PREDSEDNIK je takođe najavio da Ukrajina priprema nekoliko novih paketa sankcija koji će biti uvedeni odmah i u bliskoj budućnosti.
03. 05. 2026. u 09:37
Najnovije iz rubrike
Kontinent ostao bez zaštite: Tramp rekao NE Evropi - Amerika neće razmestiti svoje rakete
ODLUKA administracije Sjedinjenih Američkih Država da odustane od planova o razmeštanju u Nemačkoj naoružanja velikog dometa, uključujući i bataljon sa raketama "tomahavk", ostaviće Evropu nezaštićenom, pišu mediji, pozivajući se na izvor u Pentagonu,.
03. 05. 2026. u 23:45
Tramp najavio novu operaciju u Ormuzu: SAD sutra pokreću akciju za bezbedno izvlačenje brodova
PREDSEDNIK Sjedinjenih Američkih Država Donald Tramp izjavio je danas da će SAD pokrenuti operaciju za bezbedno izvlačenje brodova iz Ormuskog moreuza koja početi u sutra ujutru po bliskoistočnom vremenu.
03. 05. 2026. u 23:33
uživoSukob na Bliskom istoku: Tramp najavio početak izvčalenja brodova iz Ormuza; Iran preti potapanjem nosača
Nastavaljaju se ratna dejstva u Libanu i borbe izraelske vojske (IDF) i Hezbolaha. Obnova sukoba Irana i SAD sve realnija.
03. 05. 2026. u 07:24 >> 23:22
Naučnici otkrivaju: Kako sačuvati zdravlje mozga
MOZAK je jedan od najsloženijih organa u organizmu, čije funkcionisanje zavisi od niza međusobno povezanih faktora. Na njegovo zdravlje utiču svakodnevne navike, kao i uslovi u kojima živimo.
03. 05. 2026. u 23:22
Đurić: Srbija i Izrael podigli odnose na nivo strateškog partnerstva
SRBIJA i Izrael podigli su bilateralne odnose na nivo formalnog strateškog partnerstva nakon pokretnja prvog strateškog dijaloga u Jerusalimu, izjavio je danas ministar spoljnih poslova Srbije Marko Đurić, ističući da je reč o najznačajnijem unapređenju bilateralnih veza u poslednjih nekoliko godina.
03. 05. 2026. u 23:11
Komentari (0)