КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
ПРВИ ЧОВЕК ПОЉСКЕ ИЗРИЧИТ: "Украјинци не цене наше напоре, а имамо исти интерес и истог непријатеља. Москва да плати за све!"
ПОЉСКИ премијер Доналд Туск рекао је да се Украјина данас бори на фронту за слободу, а Пољска је подржава на сваки могући начин.
20. 12. 2025. у 12:07
ДОБРА ВЕСТ ЗА ПЕНЗИОНЕРЕ: Попусти у продавницама до 6.500 динара - ево како да их добијете
Фонд ПИО обезбедио је јефтинију празничну корпу за пензионере у појединим објектима, уколико плаћају уз Пензионерску картицу
18. 12. 2025. у 11:36
ЛЕКАРИ СЕ БОРИЛИ ДА ЖИВОТ ВЕСНЕ ЗМИЈАНАЦ: "Ситуација је била тешка, под сталним је надзором"
"СИТУАЦИЈА је била веома тешка, лекари су се борили да јој стабилизују стање и у једном моменту је била животно угрожена."
20. 12. 2025. у 15:34
ЗАВОДНИЦА БИВШЕ ЈУГЕ: Како је Олга Одановић изгледала у младости, пре 35 година (ФОТО)
ЈЕДНА од највећих дама наше јавне сцене...
20. 12. 2025. у 17:01
ТЕШКЕ ОПТУЖБЕ, ПРОГОВОРИО ДИРЕКТОР ФБИ: "Кинески доктор је прокријумчарио опасну бактерију у САД"
"ОВО ЈЕ још један пример истраживача из Кине - коме је дата привилегија да ради на америчком универзитету - који је потом наводно одлучио да учествује у шеми заобилажења америчких закона и примања биолошких материјала скривених у пакету пореклом из Кине."
19. 12. 2025. у 19:24
Пуштају НАЈДУЖИ ТУНЕЛ на свету - Кинези "пробуразили" планину! Толико дуг да скраћује путовање за 4 сата
ТАКОЗВАНИ "експрес" тунел.
19. 12. 2025. у 22:11
ЗЕЛЕНСКИ СА ПРВЕ ЛИНИЈЕ ФРОНТА ПОСЛАО ПОРУКУ ОЧАЈА: Руса је све више и више! Ситуација тешка и компликована
ПРЕДСЕДНИК Украјине Володимир Зеленски је изјавио да је ситуација на фронту тешка и компликована и да се повећава број руских снага.
20. 12. 2025. у 07:09
РУСИ ЋЕ НАПАСТИ ЕУ МНОГО РАНИЈЕ: Велико упозорење из Украјине, позната година и главна мета
РУСИЈА је померила своје планове за директну агресију са 2030. на 2027. годину, а Европа је све гласнија о ризику од директног сукоба, у којем би се балтичке државе могле наћи под окупацијом.
20. 12. 2025. у 09:41
Објављени ИНТИМНИ кадрови Меланије Трамп из КУПАТИЛА - и то ЗЛАТНОГ! Доналд је питао да ли је видела, она му одговорила (ВИДЕО)
МЕЛАНИЈА је беспрекорно стилизована – шешири, штикле, фризура – све је у складу са њеним хладним и контролисаним имиџом
19. 12. 2025. у 19:01
Најновије из рубрике
АМЕРИЧКА ВОЈСКА ИЗВЕЛА АКЦИЈУ, МАДУРО НА НОГАМА: Заплењен још један брод код обале Венецуеле
СЈЕДИЊЕНЕ Америчке Државе данас су пресреле и заплениле брод под санкцијама код обале Венецуеле у међународним водама, рекла су Ројтерсу три америчка званичника.
20. 12. 2025. у 18:05
ЕПСТАЈНОВА "ЈУГОСЛОВЕНСКА РОБИЊА": Сведоци кажу да ју је купио од њене породице
ДЕВОЈКА коју је Епстајн као четрнаестогодишњакињу "довео из Југославије као своју сексуалну робињу" била је једна од блиских сексуалних сарадница Џефрија Епстајна, показује анализа Вечерњег листа заснована на објављеним декласификованим документима из истрага о том покојном сексуалном преступнику и финансијеру из Њујорка.
20. 12. 2025. у 18:02
ПАО ТАЈАНСТВЕНИ ДРОН: Трећи инцидент за седам дана, специјалци на терену
НЕИДЕНТИФИКОВАНИ дрон срушио се на северозападу Турске, у провинцији Баликесир, што је трећи инцидент са беспилотним летелицама у тој земљи за свега недељу дана, док власти истражују да ли је повезан са растућим тензијама у региону Црног мора.
20. 12. 2025. у 18:00
"РУСИЈА СПРЕМНА НА ВЕЛИКЕ ЖРТВЕ" Руте: Ове године су освојили само један одсто додатне територије
ГЕНЕРАЛНИ секретар НАТО Марк Руте упозорио је да Русија представља дугорочну безбедносну претњу Европи и да је кључно да Украјина остане војно снажна како би се спречила шира дестабилизација континента.
20. 12. 2025. у 18:00
"СПРЕМАМО СЕ ЗА САРАДЊУ СА АМЕРИКОМ О ВАЖНОЈ ТЕРИТОРИЈИ" Из Москве појаснили о којој је тачно реч
Москва намерава да развија сарадњу са Вашингтоном на Арктику, изјавио је шеф Руског фонда директних инвестиција (РФПИ), специјални представник председника Русије за инвестиционо-економску сарадњу са иностранством Кирил Дмитријев.
20. 12. 2025. у 17:32
Коментари (0)