КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
ТРАГЕДИЈА Умро шестогодишњи син звезде Бајерна: "Тешка болест, са ћеркицом покушавамо да се вратимо у живот"
"ЗАЈЕДНО са нашом ћерком, сада покушавамо да пронађемо пут назад у живот корак по корак. Посебна захвалност иде нашим породицама, пријатељима и Бајерну на њиховој дискрецији и великој подршци током протеклих неколико месеци."
01. 08. 2025. у 14:08
НЕВЕРОВАТАН ФЕНОМЕН: Како је ватра Светог Илије повезана са Теслом?
ЈЕСТЕ ЛИ чули за ватру Светог Илије или светог Елма, невероватан светлосни ефекат и временски феномен?
01. 08. 2025. у 16:03
ДЕВОЈЧИЦА (12) РОДИЛА ДЕТЕ: Сумња се да је брат (16) отац - лекари овакав случај још нису видели, полиција истражује
ПРЕМА речима лекарки, труднице узраста од 14 година понекад долазе на прегледе, али трудноће код девојчица млађих од 14 година досад су познавале само кроз извештаје с других континената.
02. 08. 2025. у 08:49
ДРАГОЦЕНИ ЛИСТОВИ: Зашто ловор треба да ставите испод јастука пре спавања
МИРИС ловора одбија муве, комарце и друге досадне инсекте, стога је одличан у данима када се боримо са превише комараца. Осим тога, има предиван мирис који ће обогатити простор.
02. 08. 2025. у 12:47
ТСЦ НАПАДА ТРИ БОДА ПРЕД СВОЈИМ НАВИЈАЧИМА: Тест у Бачкој Тополи ће бити још један у низу тешких за Суботичане
ДОСТА нас занимљив меч очекује у трећем колу Суперлиге Србије када од 20 часова фудбалери ТСЦ-а буду угостили Спартак из Суботице на "ТСЦ арени".
02. 08. 2025. у 07:40
ШТО СЕ НЕ ВАЉА КРСТИТИ: Шта значи када на Светог Илију пуцају громови
ВЕРНИЦИ данас славе име свеца Илије Громовника, а управо се за овај празник везују многобројни обичаји и веровања.
02. 08. 2025. у 09:17
"ДОБРО СМО УПОЗНАТИ СА ДОГАЂАЈИМА У СРБИЈИ" Медведев оптужио Запад за организовање протеста у другим земљама
ЗАМЕНИК председника Савета безбедности Русије и председник странке Јединствена Русија Дмитриј Медведев оптужио је данас западне земље да организују протесте и мешају се у изборне процесе других земаља да би одржале своју доминацију.
31. 07. 2025. у 17:01
ЕКСКЛУЗИВНИ СНИМЦИ ХАПШЕЊА ШИПТАРСКОГ ТЕРОРИСТЕ: Овако је пао бивши припадник ОВК у Свилајнцу, ево за шта се сумњичи (ВИДЕО)
ШИПТАРСКИ терориста и бивши истакнути припадник терористичке ОВК Халили Лулзин, ухапшен је данас у Свилајнцу, у заједничкој акцији Безбедносно-информативне агенције, Службе за откривање ратних злочина УКП МУП-а Републике Србије, а у сарадњи са Тужилаштвом за ратне злочине.
22. 07. 2025. у 20:54
СРПСКА СНАЈА ИЗ ЗАМБИЈЕ Описала свој прелазак у православље: "У почетку, неке ствари биле су ми ЧУДНЕ"
ПАТРИЦИЈА Каунда из Замбије пре неколико година заљубила се у младића из Србије, а због њега се доселила у нашу земљу, па чак и променила веру.
02. 08. 2025. у 11:32
Најновије из рубрике
ЈАСАН ЦИЉ: Хамас открио када ће положити оружје
ХАМАС је саопштио да неће положити оружје док се не успостави независна палестинска држава.
02. 08. 2025. у 17:16
ОВО ЈЕ СТАРАЦ У КАМПУ КОЈИ ЈЕ ДАВАО ДЕЦИ СЛАТКИШЕ СА СЕДАТИВОМ: Ухапшен у локалном пабу, суочава се са три оптужбе
МУШКАРАЦ, стар 76 година, ухапшен је у Енглеској због наводног давања слаткиша помешаних са седативом дечацима у летњем кампу, саопштили су тужиоци.
02. 08. 2025. у 16:39
ИГРАЛИ СЕ СА СТАРОМ ГРАНАТОМ, ПА ПОГИНУЛИ НА ЛИЦУ МЕСТА: Петоро деце преминуло, 12 тешко повређено у Пакистану
ПЕТОРО деце погинуло је у суботу у округу Лаки Марват у пакистанској провинцији Хајбер Тахтунва, а 12 је повређено након што је стара граната екплодирала.
02. 08. 2025. у 15:52
ЗЕМЉОТРЕСИ НА ИСТОКУ АЗИЈЕ НЕ ПРЕСТАЈУ: Најновији удар забележен јачине 6,1 степени Рихтера
ПОТРЕС јачине 6,1 степен по Рихтеру регистрован је данас на Камчатки, на удаљености од 196 километара од регионалне престонице Петропавловск Камчатски, саопштио је Камчатски огранак Геофизичке службе Руске академије наука (РАН).
02. 08. 2025. у 15:42
"БИЛО ЈЕ ЈАКО СНАЖНО И УЗНЕМИРУЈУЋЕ" Земљотрес у БиХ, осетило се и у Хрватској
ЗЕМЉОТРЕС магнитуде 3,5 степени Рихтера забележен је у 12:08 часова 14 километара од Мостара, а осетио се и у Хрватској.
02. 08. 2025. у 12:23
Коментари (0)