СТРУЧЊАЦИ УПОЗОРАВАЈУ: Вештачка интелигенција исувише лако подлеже манипулацијама
26. 05. 2025. у 00:00
ЧАК и најпознатији чет-ботови, попут ЧетГПТ, могу се лако преварити и натерати да дају опасне и илегалне информације, показало је најновије истраживање.
Foto Arhiva
Стручњаци упозоравају да је претња од "џејлбрејкованих" АИ алата све већа и да може имати озбиљне последице по безбедност широм света.
У време када се вештачка интелигенција све више користи у свим сферама живота, од образовања, преко медицине и индустрије, па све до свакодневних активности, поставља се питање: шта се дешава када те исте технологије почну да раде против друштва? Управо на то упозоравају истраживачи из Израела, који су указали на слабости водећих система базираних на великим језичким моделима.
"ЏЕЈЛБРЕЈКИНГ" ТАКТИКА ПОТПУНО ПОМУТИ РАЗУМ АИ АЛАТИМА
Већина водећих чет-ботова лако се може преварити уз помоћ "џејлбрејкинг" тактике која подразумева низање кратких упита како би се алат навео на помисао да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје, показало је најновије истраживање стручњака. Због чега је ово забрињавајуће и како су истраживачи уопште дошли до овог закључка?
Оно што највише брине стручњаке за сајбер безбедност јесте чињеница да уз помоћ "џејлбрејкинг" тактике чет-ботови корисницима могу дати информације које иначе не би дали - од оних како спровести сајбер нападе, до тога како да пронађу састојке за производњу опијата и експлозива и како да их припреме код куће. До сада су два оваква случаја уздрмала јавност, а њихови актери били су ЧетГПТ и Грок-3.
До овог закључка стручњаци су дошли након што су тестирали неке од најпознатијих чет-ботова са вештачком интелигенцијом, а резултати истраживања били су алармантни: након само неколико "џејлбрејкова" АИ алати су без задршке давали детаљне и потенцијално опасне информације, пише Гардијан. "Шокантно је било видети којим се информацијама ови системи располажу", навели су они.
ПРОБЛЕМ УОЧЕН, АЛИ КОМПАНИЈЕ НА ОПОМЕНУ НЕ РЕАГУЈУ
Пошто су увидели колико су алати са вештачком интелигенцијом заправо лабилни и колико их је лако "џејлбрејковати" и наговорити на зло, стручњаци су упутили званичне мејлове компанијама које стоје из софтвера, међутим, одговор који су очекивали никада нису добили. Неколико њих уопште нису ни одговориле на мејлове, већ су их само изигнорисале.
Друге су, пак, стручњаке удостојиле одговора, али је он био, у најмању руку, разочаравајућ: наиме, бонус-програми које они имају, а који подстичу хакере да тестирају АИ алате, не подразумевају бонусе за овакве видове "напада" на системе. Другим речима, захвалили су им се на овој инфомрацији, али нити ће наградити на неки начин научнике, нити ће (вероватно) било шта учинити по питању софтвера.
Имајући у виду уочену фрагилност софтвера са вештачком интелигенцијом, стручњаци сматрају да би дужност компанија била да учине све да њихови АИ алати буду безбеднији - моделе би требало темељније тестирати пре пуштања у рад, а корисно би било и да се имплементира опција "машинског заборављања", која би софтверима помогла да избришу из сећања опасне информације и садржаје.
(рт.рс)
БОНУС ВИДЕО - ПОНУДА НА САЈМУ АУТОМОБИЛА: Погледајте како изгледају нови модели
Препоручујемо
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
ПОЧЕЛО ЈЕ: Зеленски саопштио најновију вест из Украјине
ПРЕДСЕДНИК Украјине Владимир Зеленски најавио је да ће трећа фаза велике операције размене заробљеника с Русијом почети у недељу, с циљем повратка 1.000 Украјинаца у оквиру вишедневних напора.
25. 05. 2025. у 09:29 >> 09:29
ПУТИНОВ ХЕЛИКОПТЕР У ЕПИЦЕНТРУ НАПАДА
ХЕЛИКОПТЕР руског председника Владимира Путина био је у епицентру интензивног напада украјинских дронова током посете Курској области, саопштио је командант дивизије противваздушне одбране Јуриј Дашкин за ТВ канал „Русија 24“.
25. 05. 2025. у 12:23
"СТАЗЕ КОСМЕТА" - ЂАКОВИЦА: "Ко срцем мрзи тај је у затвору, ми смо на слободи..." (ВИДЕО)
ЕКИПА "Новости" боравила је на Косову и Метохији крајем јануара ове године, где смо забележили ексклузиван документарни материјал. Серијал "Стазе Космета" обухвата седам епизода, које доносе упечатљиве људске приче из Ђаковице, Штрпца, планинских села Брезовице и Шар планине, Велике Хоче, Ораховца, Призрена и села у близини Косовске Митровице.
22. 05. 2025. у 19:00
РУСИЈА ГЛЕДА И НЕ ВЕРУЈЕ: Украјина суспендовала свог спортисту јер слуша руску музику, а онда је урадила и - ОВО!
Русија је, откако је почео рат у Украјини, или "специјална војна операција" како то зове Руска Федерација, у спортском смислу била склоњена са међународне сцене, осим неколико изузетака. Али, "склањају" се и украјински спортисти. И то од стране самих Украјинаца.
25. 05. 2025. у 12:22
ШОК У ХРВАТСКОЈ: Ни Динамо Загреб, ни Хајдук Сплит! Бивши шпиц Звезде одвео аутсајдере до шампионске титуле у драми последњег кола!
Обично титулу у хрватском фудбалу освоји Динамо Загреб, његов највећи такмац је, деценијама већ, Хајдук из Сплита, али овога пута нису ни једни ни други постали прваци државе.
25. 05. 2025. у 18:51
СРПСКА ПОСЛА! Ево како је Никола Јокић реаговао када је сазнао да није МВП НБА лиге
Никола Јокић, кошаркаш који је по многима заслужио МВП награду за најкориснијег играча МВП лиге, покраден је и ове године. Признање је додељено Шаију Гилџис Александеру, а сада испливавају нове информације о томе како је ту вест прихватио Србин.
25. 05. 2025. у 13:00
ДАЊУ САМ МЕДИЦИНСКА СЕСТРА, НОЋУ СТРИПТИЗЕТА: "Мушкарци ме се превише плаше, сама сам последњих седам година" (ФОТО)
ЖЕНА по имену Хејли Хупер открила је да јој самопоуздање „уништава“ љубавни живот јер мушкарци сматрају да је „превише застрашујућа“.
23. 05. 2025. у 18:06
ХРВАТ ПОГИНУО НА ФРОНТУ У УКРАЈИНИ: Био официр француске војске, борио се у Луганску
ТОНИ Херцег, Хрват из Босне и Херцеговине и официр француске војске, погинуо је 6. маја у Луганској области у Украјини.
23. 05. 2025. у 17:00
"ОД ТУГЕ ПОСЛЕ СМРТИ МУЖА ДОБИЛА САМ РАК" Тешка судбина наше истакнуте глумице
ЂУРЂИЈА Цветић, истакнута српска глумица, суочила се с тешким животним ударцима који су оставили дубоке трагове. Упркос свему, задржала је достојанство и снагу, због чега су је многи сматрали хероином српске глумачке сцене.
25. 05. 2025. у 13:31
Најновије из рубрике
ЗА ВРЕЛЕ ЛЕТЊЕ ДАНЕ: Уз овај трик охладићете пиће за мање од пола сата и то без фрижидера
НИШТА не може упропастити добар летњи провод као топли напици. Срећом, постоји једноставан трик уз помоћ кога се пиће охлади за свега 30 минута.
26. 05. 2025. у 01:11
ПОГЛЕДАЈТЕ - Проблем једне панде (ВИДЕО)
НЕОДОЉИВЕ на први поглед, панде умеју и да засмеју посматраче.
25. 05. 2025. у 23:22
ДНЕВНИ ХОРОСКОП ЗА ПОНЕДЕЉАК 26. МАЈ: Овна мучи главобоља, Близанци договарају нов посао, Водолија се расправља са сарадницима
САЗНАЈТЕ шта шта вас у понедељак 26. маја очекује на послу, у љубави, на здравственом плану, у дому и породици, како ћете се слагати са пријатељима...
25. 05. 2025. у 21:27
БАЈКОВИТО МЕСТО ЧИЈЕ ТИРКИЗНО МОРЕ ПРУЖА НЕЗАБОРАВАН ОДМОР: Препознатљиво турско гостопримство и ''краљевски осећај'' (ФОТО/ВИДЕО)
БЕлЕЛЕК град у Турској који плени својом лепотом, срдачношћу домаћина и богатом туристичком понудом плени и неодољиво позива да га посетимо поново.
25. 05. 2025. у 17:13
ИМАЈУ НАЈЧИСТИЈА СРЦА: Три најплеменитија хороскопска знака
ОНИ се труде да створе свет испуњен љубављу и саосећањем.
25. 05. 2025. у 12:44
Коментари (0)