KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
SERGEJ REKAO ĆERKAMA DA SU USVOJENE Evo kako je to uradio: "Srušiš im čitav svet tim saznanjem"
"MILI smo ispričali da smo došli Lola, mama i ja, da smo je tražili, a da je ona digla ruku i rekla: "Evo me!"'
15. 06. 2025. u 11:57
SUZANA ĆE SE POJAVITI U FINALU "ZVEZDA GRANDA"? Odaće posebnu počast Popoviću
U znak sećanja na pokojnog Popovića, nedavno je objavljeno da je ove godine uvedena i posebna nagrada.
15. 06. 2025. u 14:17
SUROVO! 12 jezivih pravila Severne Koreje - moraju SVI da ih poštuju
NAJČUDNIJE zakonske regulative u Severnoj Koreji koje niste znali da ljudi moraju poštovati
15. 06. 2025. u 13:02
ON I RADOŠ BAJIĆ PRIMAJU ISTI IZNOS: Kolika je penzija Slavka Štimca?
SLAVKO Štimac svojim glumačkim umećem obeležio je domaću kinematografiju, a karijeru je započeo davne 1972. godine kao jedanaestogodišnji dečak u filmu "Vuk samotnjak".
16. 06. 2025. u 16:33
PEVAČICA SVE JAVNO OBJAVILA Luka Modrić rasplakao nećake Milice Todorović: "To je pravi put..." (FOTO)
NAKON što je Luka Modrić napustio Real Madrid, brojni obožavatelji su bili tužni, a među njima i nećaci naše pevačice Milice Todorović.
16. 06. 2025. u 13:46
SMRT IH POMIRILA: Bili kumovi - snimili intimnu scenu, pa nisu pričalu 20 leta
PRIČALO se i da kumovi navodno nisu razgovarali 20 godina.
15. 06. 2025. u 12:34
VEŠTAK OTKRIO JEZIVE DETALjE O DEČAKU UBICI: Evo zašto je Kosta pucao na čuvara škole, nije ga potreslo saznanje koga je sve ubio
ZAKLjUČILI smo da je Kosta bio sposoban da upravlja svojim postupcima u vreme izvršenja zločina i da ta sposobnost nije bila bitno smanjena. Postoji jedna kratkotrajna ometenost, za period u učionici za koji on kaže da nema sećanja, ali on je sve radio po planu. To ukazuje da je on upravljao svojim postupcima.
05. 06. 2025. u 17:05
SRPSKA POSLA: Nikola Jokić zapanjio svet! Vratio se u Srbiju i uradio OVO (VIDEO)
NIKOLA Jokić je najbolji košarkaš planete, ali dajte mu loptu i biće najbolji u svakom sportu. To je pokazao još jednom.
08. 06. 2025. u 08:54
"PLANIRAM SVOJU SAHRANU" Voditeljka o teškoj bolesti
ZVEZDA rijaliti emisije „The Real Houswives of Beverly Hills“ i voditeljka Tedi Melankamp (43), suočava se s teškom bolešću. Operisala je tumor na mozgu, ali se bolest proširila i na pluća. Tedi je otkrila da njen otac, rok legenda Džon Melankamp (73), već planira njenu sahranu.
15. 06. 2025. u 21:19
Najnovije iz rubrike
"AKO SE UDAHBNE SMRTONOSAN JE" Hitan izveštaj iz Beča o mogućoj katastrofi (FOTO)
ŠEF Međunarodne agencije Ujedinjenih nacija za atomsku energiju (IAEA) Rafael Grosi izjavio je danas da nakon izraelskih napada na iranska nuklearna postrojenja postoji mogućnost radiološke i hemijske kontaminacije unutar glavnog postrojenja za obogaćivanje uranijuma Natanz, iako su nivoi zračenja izvan tog kompleksa trenutno normalni.
16. 06. 2025. u 18:25
uživoRAT U UKRAJINI Zelenski: Rusi ponudili nemoguću razmenu vojnog osoblja za decu koju su oteli
RAT u Ukrajini 1.209. dan.
16. 06. 2025. u 08:23 >> 18:06
IZRAEL IZLOŽIO I ORUŽJE KOJE KORISTI U GAZI? Skandal na sajmu kod Pariza, štandovi ograđeni, predsednik Isak Hercog šokiran (FOTO)
Skandal je izbio na tradicionalnom, najstarijem i najvećem svetskom Međunarodnom aeronautičkom salonu koji je otvoren juče u Buržeu kod Pariza, zbog odluke francuskih vlasti da zabrane pristup delu izraelskih štandova i okruže ih visokom crnom ogradom.
16. 06. 2025. u 18:01
SVE ZABELEŽENO U UŽIVO PROGRAMU: Izrael pogodio zgradu novinske agencije Irana, kruži jeziv snimak (VIDEO)
OBJAVLjEN je snimak izraelskog napada na zgradu novinske agencije Irana.
16. 06. 2025. u 17:23
ON JE JEDINI PREŽIVEO PAD AVIONA: Pogledajte kako je za sekundu izbegao smrt (VIDEO)
ZAPANjUJUĆI novi snimak prikazuje trenutak kada je britanski jedini preživeli u smrtonosnoj nesreći aviona Er Indija, Višvaš Kumar Rameš (40), mirno šetao i razgovarao telefonom dok je avion eksplodirao iza njega.
16. 06. 2025. u 17:10
Komentari (0)