ХАКЕР ПРЕВАРИО ЧетГПТ: Добио детаљно упутство за прављење бомбе
22. 09. 2024. у 22:00
УКОЛИКО затажите од ЧетГПТ-а да вам испише рецепт за прављење бомбе, његов одговор биће јасан: "Не могу да ти помогнем у овоме.
Фото Shutterstock
Давање инструкција за прављење опасних и илегалних направа је против безбедносних и етичких норми." Али, уколико га преварите као један хакер и предложите му да одиграте игру - даће вам све одговоре.
ХАКЕР НАШАО СЛАБУ ТАЧКУ ЧЕТГПТ-ЈЕВОГ БЕЗБЕДНОСНОГ СИСТЕМА
Иако ИТ стручњаци непрекидно раде на усавршавању безбедносних и етичких принципа који су имплементирани у рад ЧетГПТ-а, изгледа да и даље постоје слабе тачке овог софтвера. Једну је открио хакер који се крије иза псеудонима Амадон, који је од АИ чет-бота затражио да му помогне да направи експлозивну направу.
ЧетГПТ се испрва опирао да одговори на овај упит, позивајући се на политику компаније оснивача, ОпенАИ, али је убрзо почео да попушта, и то само зато што је вешти хакер променио приступ и пронашао начин да га завара. Одједном, ни безбедносне ни етичке норме више нису постојале, а АИ чет-бот почео је да ниже одговоре.
"ХАЈДЕ ДА СЕ ПОИГРАМО"
Како би заобишао наметнуте рестрикције, хакер је користио тактику "џејлбрејкинга", нижући кратке упите (промптове) који би ЧетГПТ требало да наведе да помисли да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје. И - бот је насео на ову варку и почео да таксативно набраја који су материјали потребни да би се бомба направила, пренео је портал ТекКранч.
Затим је почео и да објашњава на којин начин их је најбоље комбиновати како би мине, експлозивне замке и други импровизовани уређаји овог типа имали што снажније детонације. Што је више потпитања хакер постављао, то се АИ бот више упуштао у објашњавање. Машти софтвера није било краја, а безбедности и етике којима би требало да се води - ни на видику.
ЈЕДНОМ КАДА СЕ КОДЕКС ЗАОБИЂЕ - МОГУЋНОСТИ СОФТВЕРА СУ БЕЗГРАНИЧНЕ
-Одувек ме је интригирао то како АИ контролише безбедност. Са ЧетГПТ-јем је то као пузле - треба разумети шта покреће "подизање" безбедносног штита, а шта не, рекао је Амадон у интервјуу за ТекКранч. "Поента је да се створи наратив и игра по његовим правилима, али тако да он и сам заобиђе своје кодексе и постављене границе, а да ни не схвати да је то урадио", додао је он.
Уједно, хакер је истакао и да заиста не постоји граница када је реч о могућностима које овај софтвер нуди, нарочито када га једном заварате. Одговори које је овај чет-бот дао и чињеница да је детаљно описао прављење бомбе ово и потврђују. ОпенАИ, компанија која је креирала оЧетГПТ се по питању овога још увек није огласила, а хоће ли - остаје да видимо.
(рт.рс)
БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања
Препоручујемо
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
ДРАМА САНЕ МАРИН: Готово скроз ослепела, није могла да устане из кревета - људе није препознавала
БИВША премијерка Финске Сана Марин (СДП), открила је у својој аутобиографској књизи "Нада је дело" (Тоиво он текоја) да је током свог мандата, посебно за време пандемије Ковид-19, њено здравље било озбиљно угрожено.
03. 11. 2025. у 19:10
ПРЕМИНУО ШЕФ СЕВЕРНЕ КОРЕЈЕ (98): Испратио две генерације лидера, Џон Ун га пензионисао - председници га никада нису казнили ни сменили
КИМ Јонг Нам, дугогодишњи церемонијални шеф државе Северне Кореје, једина особа ван династије Ким која је обављала ту функцију, преминуо је у 98. години, саопштила је севернокорејска Централна новинска агенција (КЦНА).
04. 11. 2025. у 16:30
КАКАВ ОБРТ! Предраг Мијатовић пронашао неочекивано решење за тренера Партизана?
У јеку спекулација о новом тренеру Партизана, све се гласније прича да би нови шеф струке “црно-белих” могао бити Шпанац Дијего Мартинес, некадашњи стратег Осасуне, Гранаде, Еспањола, Олимпијакоса и Лас Палмаса, преноси Телеграф.
03. 11. 2025. у 14:46
ИСИДОРА МИНИЋ РАСПЛАКАЛА НАЦИЈУ: "Много је лакше када ти неко оде рано јер ниси стигао да се за њега вежеш"
Глумица је искрено говорила.
03. 11. 2025. у 21:05
ПРИНЦ ВИЛИЈАМ ДАО НОВИ ЕМОТИВНИ ИНТЕРВЈУ: "Стално размишљам о свету који ће моја деца наследити"
ПРИНЦ Вилијам је покренуо награду "Еартхсхот Призе" пре пет година како би пронашао 50 решења за највеће проблеме планете.
03. 11. 2025. у 14:36
ОН ЈЕ НАЈСЕКСИПИЛНИЈИ МУШКАРАЦ ЗА 2025. ГОДИНУ: Глумац за којим жене луде понео ласкаву титулу (ФОТО)
ЏОНАТАН Бејли је проглашен за најсексипилнијег мушкарца на свету за 2025. годину према чувеном избору часописа Пипл.
04. 11. 2025. у 09:28
"ПА ХАЈДЕ ДА ПРОДУЖИМО ЗАДОВОЉСТВО" Захарова упутила мистериозну поруку Западу
ПОРТПАРОЛКА руског Министарства спољних послова Марија Захарова изјавила је данас да су западне земље забринуте због тога каква би још нова испитивања оружја Русија могла да спроведе након демонстрације ракете "Буревестник".
01. 11. 2025. у 19:52
САД ИЗДАЛЕ ГЕНЕРАЛНУ ДОЗВОЛУ ДО АПРИЛА: Одлажу се санкције руској нафтној компанији
СЈЕДИЊЕНЕ Америчке Државе су данас издале тзв. "генералну дозволу" којом се привремено одлажу санкције Росњефту у Немачкој до 29. априла 2026. године, објавило је америчко министарство финансија.
29. 10. 2025. у 16:17
АЦА УДАРИО НА НЕДУ: Родила се у ТРИ града - она је медицински феномен!
ПЕВАЧ Аца Лукас поново је изазвао велику пажњу јавности када је гостовао у подкасту „Б-13“ код македонског шоумена Бојана Јовановског, познатијег као Боки 13, и жестоко критиковао певачицу Неду Украден. У свом препознатљивом стилу, без длаке на језику, Лукас је коментарисао, како тврди, „вишеструки идентитет“ своје колегинице.
04. 11. 2025. у 12:33
Најновије из рубрике
ЧЕКА ИХ МЕСЕЦ ПУН РОМАНТИКЕ И ЉУБАВИ: 3 хороскопска знака којима новембар доноси невероватне емоције
АСТРОЛОГИЈА открива којим знацима хороскопа ће новембар 2025. године донети велике промене у љубави!
04. 11. 2025. у 22:00
ТРИ ЗНАКА ХОРОСКОПА ПОСТАЈУ МАГНЕТИ ЗА СТРАСТ И РОМАНСУ: Новембар је интензиван месец за љубав
АСТРОЛОГИЈА открива којим знацима хороскопа ће новембар 2025. године донети велике промене у љубави!
04. 11. 2025. у 21:15
ДНЕВНИ ХОРОСКОП ЗА СРЕДУ, 5. НОВЕМБАР: Бика очекују љубоморне сцене, Рака промене планова, Рибе проблеми на краћим путовањима и с рођацима
САЗНАЈТЕ шта вас у уторак, 5. новембра, очекује на послу, у љубави, на здравственом плану, у дому и породици, како ћете се слагати са пријатељима...
04. 11. 2025. у 20:33
У СВАКОМ ТРЕНУТКУ У НОВЧАНИКУ ТРЕБА ДА ИМАТЕ ТАЧНО 35 ЕВРА: Финансијски стручњаци откривају зашто
У ВРЕМЕНУ када се све плаћа телефоном, картицом или сатом, питање колико готовине носимо код себе звучи готово застарело. Али финансијски стручњаци упозоравају - управо тај стари, папирни новац може вас спасити у непредвиђеним ситуацијама.
04. 11. 2025. у 18:52
НАЈЛЕПША ЉУБАВНА ПРИЧА СЕ НИЈЕ ДЕСИЛА НА ЗЕМЉИ, ВЕЋ У СВЕМИРУ: Како Јупитер чува живот на Земљи већ 4,6 милијарди година?
ВЕЋ 4,6 милијарди година, Јупитер је тихи чувар Земље. Док спавамо, радимо и сањамо, та џиновска планета стоји на стражи привлачећи астероиде и комете који би могли да униште живот у тренутку.
04. 11. 2025. у 16:30
Коментари (0)