KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
POZNATI PEVAČ ŽELI DA USVOJI DETE: Priznao da mu je to velika želja, a smislio je i ime za naslednika
FILIP Mitrović ne krije uzbuđenje zbog prinove u široj porodici, ali isto tako želi i svoje dete.
19. 03. 2026. u 09:08
U OVO VREME NIKAKO NE SMETE IĆI NA GRBOLjE: Evo u šta su verovali naši stari, ovako ćete navući veliku bedu
KADA se ne sme ići na groblje?
19. 03. 2026. u 08:47
TAJNE OPERACIJE IZRAELSKIH SLUŽBI: Kako eliminišu iranske moćnike - likvidirani pre nego što shvate šta ih je zadesilo
USRED sve intenzivnijeg sukoba između Izraela, SAD i Irana, jedan od najviših iranskih bezbednosnih zvaničnika, Ali Laridžani, pojavio se u javnosti u Teheranu, rekavši da se „duh hrabrih ljudi, zvaničnika i lidera ne može pobediti“. Ali samo nekoliko dana kasnije, ubijen je u preciznom raketnom napadu izraelskih obaveštajnih službi. Iste noći, prema informacijama koje su Izraelu dostavili sami iranski građani, lociran je i vođa paravojne milicije Basidž, Golamreza Sulejmani, koji je takođe likvidiran.
18. 03. 2026. u 13:00
NA SNIMANjU HIT SERIJE, ZAVOLELA 21 GODINU STARIJEG KOLEGU: Veza bila tajna, a onda je zatrudnela
JOŠ za vreme snimanja serije, glumica je ostala u drugom stanju.
18. 03. 2026. u 09:41
HOLIVUDSKI GLAMUR ZAMENILA KOZAMA I KOKOŠKAMA: Slavna glumica se na vrhuncu slave preselila na farmu
INSPIRATIVNI životni put Amande Sajfrid od kultnih komedija do prestižnih nagrada i mirnog porodičnog života na farmi daleko od holivudskog glamura.
19. 03. 2026. u 13:36
PUTIN IH HITNO ODLIKOVAO! Kada je video šta su uradili, predsednik Rusije ih odmah pozvao u Kremlj!
RAT u Ukrajini, odnosno "specijalna vojna operacija" kako to Rusija naziva, ponovo je za jednu od sporednih stvari iznedrio i - sportske događaje. Najnovije vesti na temu "sportske sankcije Rusima" vezane su za Italiju. U toj zemlji je okončan spektakl - Zimske paraolimpijske igre 2026, a tamo su Rusi uradili ono što Zapad nije mogao ni da sanja. A ruski predsednik Vladimir Putin je zbog toga i te kako oduševljen, te je rešio da nestvarne heroje hitno odlikuje.
19. 03. 2026. u 12:15
POTPISUJE SE ISTORIJSKI UGOVOR: Vojvodina postaje čvorište Evrope, kreće gradnja gigantske saobraćajnice (FOTO/VIDEO)
PROJEKAT Osmeh Vojvodine obuhvata izgradnju 185 km brze saobraćajnice, sa 46 mostova i 34 nadvožnjaka, čime se smanjuje vreme putovanja.
18. 03. 2026. u 09:30
KULT PREDAKA U PLAMENU MRŽNjE: 45 godina od paljenja konaka Pećke patrijaršije – Zločin koji je najavio Martovski pogrom
OVE sedmice pre tačno 45 godina, srpski narod i Srpska pravoslavna crkva zanemeli su pred prizorom koji je nagovestio decenije stradanja na Kosovu i Metohiji.
17. 03. 2026. u 19:10
EKSPLOZIV BIO SPREMAN: "Digli bismo u vazduh aerodrom na Grenlandu"
DVA MESECA pre izraelsko-američkog napada na Iran, Danska je bila spremna da oružano brani svoj suverenitet nad Grenlandom.
19. 03. 2026. u 14:12
Najnovije iz rubrike
uživoRAT NA BLISKOM ISTOKU: Pogođen F-35! Nije samo nafta - Iran ima još nešto u rukavu; Iran udara na Izrael - Haifa na meti napada
20. dan rata na Bliskom istoku.
19. 03. 2026. u 07:19 >> 18:52
TRAMP POKUŠAO DA SE OPRAVDA: Rekao sam Netanjahuu da ne cilja naftna i gasna polja
TOKOM sastanka sa japanskim premijerom Sanae Takaičijem, Donald Tramp je, između ostalog, rekao da je naredio Izraelu da ne napada iranska naftna i gasna polja, izveštava Skaj njuz.
19. 03. 2026. u 18:50
TAKAIČI KOD TRAMPA: Iran ne sme da ima nuklearno oružje, osuđujemo njegove napade na susede
JAPANSKA premijerka Sanae Takaiči izjavila je danas da Iran ne sme da ima nuklearno oružje, i da Japan osuđuje napade Irana na zemlje Bliskog istoka, kao i zatvaranje Ormuskog moreuza.
19. 03. 2026. u 18:44
NEPRIJATNA SITUACIJA U BELOJ KUĆI: Trampu jezik brži od pameti - Pomenuo napad na Perl Harbor pred japanskom premijerkom (VIDEO)
PREDSEDNIK SAD, Donald Tramp rekao je da su Sjedinjene Države morale da iznenade Iran napadom, baš kao što je Japan učinio u Perl Harboru, dok je sedeo uz japansku premijerku Sanae Takaiči.
19. 03. 2026. u 18:39
(VIDEO) KREMLJ O INCIDENTU SA NOVINARIMA RT-A U LIBANU: Izraelski projektil eksplodirao na par metara od ekipe, ispitaćemo sve okolnosti
RAD novinara u ratnim zonama uvek se smatra velikim činom hrabrosti, izjavio je portparol Kremlja Dmitrij Peskov, komentarišući ranjavanje novinara RT-a u Libanu.
19. 03. 2026. u 18:27
Komentari (0)