ХАКЕР ПРЕВАРИО ЧетГПТ: Добио детаљно упутство за прављење бомбе
22. 09. 2024. у 22:00
УКОЛИКО затажите од ЧетГПТ-а да вам испише рецепт за прављење бомбе, његов одговор биће јасан: "Не могу да ти помогнем у овоме.
Фото Shutterstock
Давање инструкција за прављење опасних и илегалних направа је против безбедносних и етичких норми." Али, уколико га преварите као један хакер и предложите му да одиграте игру - даће вам све одговоре.
ХАКЕР НАШАО СЛАБУ ТАЧКУ ЧЕТГПТ-ЈЕВОГ БЕЗБЕДНОСНОГ СИСТЕМА
Иако ИТ стручњаци непрекидно раде на усавршавању безбедносних и етичких принципа који су имплементирани у рад ЧетГПТ-а, изгледа да и даље постоје слабе тачке овог софтвера. Једну је открио хакер који се крије иза псеудонима Амадон, који је од АИ чет-бота затражио да му помогне да направи експлозивну направу.
ЧетГПТ се испрва опирао да одговори на овај упит, позивајући се на политику компаније оснивача, ОпенАИ, али је убрзо почео да попушта, и то само зато што је вешти хакер променио приступ и пронашао начин да га завара. Одједном, ни безбедносне ни етичке норме више нису постојале, а АИ чет-бот почео је да ниже одговоре.
"ХАЈДЕ ДА СЕ ПОИГРАМО"
Како би заобишао наметнуте рестрикције, хакер је користио тактику "џејлбрејкинга", нижући кратке упите (промптове) који би ЧетГПТ требало да наведе да помисли да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје. И - бот је насео на ову варку и почео да таксативно набраја који су материјали потребни да би се бомба направила, пренео је портал ТекКранч.
Затим је почео и да објашњава на којин начин их је најбоље комбиновати како би мине, експлозивне замке и други импровизовани уређаји овог типа имали што снажније детонације. Што је више потпитања хакер постављао, то се АИ бот више упуштао у објашњавање. Машти софтвера није било краја, а безбедности и етике којима би требало да се води - ни на видику.
ЈЕДНОМ КАДА СЕ КОДЕКС ЗАОБИЂЕ - МОГУЋНОСТИ СОФТВЕРА СУ БЕЗГРАНИЧНЕ
-Одувек ме је интригирао то како АИ контролише безбедност. Са ЧетГПТ-јем је то као пузле - треба разумети шта покреће "подизање" безбедносног штита, а шта не, рекао је Амадон у интервјуу за ТекКранч. "Поента је да се створи наратив и игра по његовим правилима, али тако да он и сам заобиђе своје кодексе и постављене границе, а да ни не схвати да је то урадио", додао је он.
Уједно, хакер је истакао и да заиста не постоји граница када је реч о могућностима које овај софтвер нуди, нарочито када га једном заварате. Одговори које је овај чет-бот дао и чињеница да је детаљно описао прављење бомбе ово и потврђују. ОпенАИ, компанија која је креирала оЧетГПТ се по питању овога још увек није огласила, а хоће ли - остаје да видимо.
(рт.рс)
БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања
Препоручујемо
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
СУРОВО! 12 језивих правила Северне Кореје - морају СВИ да их поштују
НАЈЧУДНИЈЕ законске регулативе у Северној Кореји које нисте знали да људи морају поштовати
15. 06. 2025. у 13:02
НИЈЕ СВЕЈЕДНО: Ево у које доба дана треба јести мед - руски стручњак открива
ПОРЕД количине, веома је важно у које доба дана конзумирате мед.
16. 06. 2025. у 10:15
СВЕ ЗБОГ ЧОЛЕ: Брегу и Балашевића посвађао ОВАЈ велики хит
СЛАВНИ музичари Здравко Чолић, Горан Бреговић и Ђорђе Балашевић у младости су сарађивали на бројним пројектима.
16. 06. 2025. у 14:35
СМРТ ИХ ПОМИРИЛА: Били кумови - снимили интимну сцену, па нису причалу 20 лета
ПРИЧАЛО се и да кумови наводно нису разговарали 20 година.
15. 06. 2025. у 12:34
ПРЕДОЗИРАО СЕ СИН ЛЕГЕНДАРНЕ ШЕР: Елајџа у канџама дроге од своје 11. године, певачица чак и ангажовала људе да га отму
ЕЛАЈЏА Блу Алман, син музичке иконе Шер, никада није крио своју борбу са тешком зависношћу.
16. 06. 2025. у 09:35
НАКОН КРАХА ВЕЗЕ СА БАСТИЈАНОМ, СРЕЋУ ПРОНАШЛА ПОРЕД МИЛИОНЕРА: Ана није прва коју је фудбалер оставио због друге
ЦЕО свет и даље бруји о наводном разводу Ане Ивановић и Бастијана Швајнштајгера, многи су изненађени јер је овај пар изгледао сасвим складно, а они се и даље не оглашавају о овој теми.
16. 06. 2025. у 11:35
ВЕШТАК ОТКРИО ЈЕЗИВЕ ДЕТАЉЕ О ДЕЧАКУ УБИЦИ: Ево зашто је Коста пуцао на чувара школе, није га потресло сазнање кога је све убио
ЗАКЉУЧИЛИ смо да је Коста био способан да управља својим поступцима у време извршења злочина и да та способност није била битно смањена. Постоји једна краткотрајна ометеност, за период у учионици за који он каже да нема сећања, али он је све радио по плану. То указује да је он управљао својим поступцима.
05. 06. 2025. у 17:05
СРПСКА ПОСЛА: Никола Јокић запањио свет! Вратио се у Србију и урадио ОВО (ВИДЕО)
НИКОЛА Јокић је најбољи кошаркаш планете, али дајте му лопту и биће најбољи у сваком спорту. То је показао још једном.
08. 06. 2025. у 08:54
"ПЛАНИРАМ СВОЈУ САХРАНУ" Водитељка о тешкој болести
ЗВЕЗДА ријалити емисије „The Real Houswives of Beverly Hills“ и водитељка Теди Меланкамп (43), суочава се с тешком болешћу. Оперисала је тумор на мозгу, али се болест проширила и на плућа. Теди је открила да њен отац, рок легенда Џон Меланкамп (73), већ планира њену сахрану.
15. 06. 2025. у 21:19
Најновије из рубрике
У ЊЕМУ ТЕЧЕ "ПЛАВА СРПСКА КРВ" Познати амерички глумац је потомак краља Петра I Карађорђевића (ФОТО)
ВЛАДАВИНА краља Петра I Карађорђевића (1903-1921) обично се истиче као период најстабилније демократије у историји Србије. Такође, управо у време његове владавине Србија је остварила велике ратне победе од 1912. до 1918. у два балканска и Првом светском рату, мада је од лета 1914, земљу заправо водио престолонаследник Александар, тада у својству регента.
16. 06. 2025. у 11:34
САВЕТИ СТРУЧЊАКА ЗА МУШКАРЦЕ: Како да стекнете женско поверење
Допада вам се али не знате како да јој се приближите, а још мање како да стекнете њено поверење? Не брините, јер ће вам брига само одмоћи у вашој намери.
16. 06. 2025. у 11:11
НИЈЕ СВЕЈЕДНО: Ево у које доба дана треба јести мед - руски стручњак открива
ПОРЕД количине, веома је важно у које доба дана конзумирате мед.
16. 06. 2025. у 10:15
НЕ ПРЕТЕРУЈЕ СА ЗАДОВОЉСТВИМА Астро савет за понедељак 16. јун: Тригон Месеца и Јупитера највише ће да погоди Водолије и Ракове
МЕСЕЦ на крају Водолије образује тригон с моћним Јупитером на почетку Рака, доносећи претеривање у животним задовољствима, али могућност солидне зараде.
16. 06. 2025. у 07:00
ПОЈАЧАТЕ СВОЈ ШАРМ: Шест савета за мушкарце на путу до самопоуздања
Никад доста шарма, а ни самопоуздања, поготово ако сте стидљиви по природи. Аутор књиге A Good Talk, Дејв Менакер, приближио је неколико „трикова“ помоћу којих ћете емитовати управо шарм и самопоуздање, и то попут најуспешнијих људи на свету:
15. 06. 2025. у 23:00
Коментари (0)