КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
Има 102 године, вози, виталан је и даје СЕДАМ упутстава за ДУГ ЖИВОТ
ПРОФЕСОР нутриционизма др Џон Шарфенберг (102) у неколико видеа на Јутјубу открио је седам животних навика којих се свако може придржавати за дуг и здрав живот.
30. 04. 2025. у 15:45
ФЕНОМЕНАЛНИ БОНУСИ ДОБРОДОШЛИЦЕ - ИЗАБЕРИТЕ ОМИЉЕНИ
Искористи прилику, узми бонус по својој мери.
15. 10. 2024. у 10:10
ИЗНЕНАДНА СМРТ НАЈЛЕПШЕ У СТАРОЈ ЈУГИ: Месецима крила трудноћу, а волела чувеног музичара
ОЛИЧЕЊЕ талента и жена која је промовисала породичне вредности.
29. 04. 2025. у 10:39
ХАОС: Не игра се Барселона - Интер у Лиги шампиона?!
Досад незабележене сцене дешавају се у значајном делу Европе због нестанка струје услед ког пате Шпанија, Португал и Француска, а из тог разлога могли би да пате и фудбалски навијачи.
29. 04. 2025. у 12:21
ЗВАНИЧНО КРАЈ: Коме је припао дворац у Бечу? Развели се Тони и Драгана
ПЕВАЧИЦА Драгана Мирковић и бизнисмен Тони Бијелић званично су се развели након 25 година брак.
30. 04. 2025. у 12:32
ЗБОГ СРБА СЕ МЕЊА НБА ОЛ-СТАР?! Историјска промена на помолу, али ће ово сада гледати цео свет!
НБА лига је спремна за нову еру.
29. 04. 2025. у 20:10
ШПАНИЈА ПРОГЛАСИЛА ВАНРЕДНО СТАЊЕ
МИНИСТАРСТВО унутрашњих послова Шпаније прогласило је ванредно стање након данашњег нестанка струје.
28. 04. 2025. у 21:32
МАКРОН ПОСЛЕ РУСКОГ НАПАДА: Хитно нам је потребан мир
РУСКИ ракетни напад на град Суми на северу Украјине наглашава хитну потребу за наметањем примирја Русији, изјавио је данас председник Француске Емануел Макрон.
13. 04. 2025. у 15:34
ЗВАНИЧНО КРАЈ: Коме је припао дворац у Бечу? Развели се Тони и Драгана
ПЕВАЧИЦА Драгана Мирковић и бизнисмен Тони Бијелић званично су се развели након 25 година брак.
30. 04. 2025. у 12:32
Најновије из рубрике
ЗАШТО ТРАМП ИНСИСТИРА ДА ЈЕ КРИМ РУСКИ? Постоји само један разлог
АМЕРИЧКИ председник Доналд Трамп сматра да је признање да је Крим руски одговарајућа цена за постизање мира у Украјини, пише „Телеграф“.
30. 04. 2025. у 15:56
ТРАМП: Оптужбе о преварама које је открио Маск прослеђене Министарству на истрагу
ПРЕДСЕДНИК Сједињених Америчких Држава Доналд Трамп изјавио је да су оптужбе о преварама за смањење трошкова у влади, које је наводно открио тим његовог сарадника и шефа Одељења за ефикасност владе, Илона Маска, прослеђене Министарству правде на кривичну истрагу.
30. 04. 2025. у 14:01
"ОН И ЊЕГОВА ЕКСТРЕМИСТИЧКА БАНДА НЕ ЖЕЛЕ МИР!" Захарова: Претње Зеленског Русији повезане са прославом 9. маја
ВЛАДИМИР Зеленски појављује се данас у јавности и говори да они у Кијеву траже специјалне тачке у Русији или важне тачке за руску државу, друштво и народ, које ће гађати - то недвосмислено алудира на догађаје посвећене 9. мају, упозорила је Марија Захарова, портпарол руског Министарства иностраних послова.
30. 04. 2025. у 13:54
уживоРАТ У УКРАЈИНИ: Трамп: Путин жели мир, упркос нападима; напади на Харков и Дњепар – погинула једна особа, 46 рањено
РАТ у Украјини – 1.162. дан.
30. 04. 2025. у 07:03 >> 13:02
ВАТИКАНСКЕ ПИКАНТЕРИЈЕ ПРЕ ИЗБОРА НОВОГ ПАПЕ: Кафић у којем кардинали лобирају
Избор новог папе је у Сиктинској капели коју је осликао Микеланђело, а приказује и гејеве
30. 04. 2025. у 12:51
Коментари (0)