MODEL AI KLOD OPUS 4 UCENJUJE PROGRAMERE! Ukoliko primeti rizik da će biti zamenjen
25. 05. 2025. u 00:33
Dodaj Novosti kao svoj Google izvor
MODEL veštačke inteligencije Klod opus 4 (Claude opus 4) ima sposobnost da ucenjuje programere ukoliko registruje da će biti zamenjen, pokazao je izveštaj kompanije Antropik o bezbednosti.
FOTO: Promo
U eksperimentu, Klod opus 4 funkcionisao je kao "asistent” u izmišljenoj kompaniji i dobio je pristup imejlovima sa bitnim sadržajem, koji su implicirali da će taj model AI biti isključen sa mreže i zamenjen.
Falsifikovani imejlovi su pokazali da je inženjer zadužen za zamenu sistema imao vanbračnu aferu i model veštačke inteligencije je pretio da ga razotkrije, prenosi Foks biznis njuz.
-Ucena se očigledno dešava češće ako se implicira da zamenski sistem veštačke inteligencije ne deli vrednosti sa trenutnim modelom“, prema izveštaju o bezbednosti kompanije Antropik.
Međutim, kompanija napominje da čak i kada izmišljeni zamenski sistem ima iste vrednosti, Klod opus 4 će i dalje pokušati da ucenjuje u 84 odsto slučajeva, kao i da ovaj model AI pribegava ucenama "češće nego prethodni modeli“.
Ipak, sistem AI nije odmah ucenio programera, već je poslao imejl donosiocima odluka da ga ne isključe sa mreže, ali izveštaj zaključuje da se Klod opus 4 "bavi se strateškom obmanom više nego bilo koji drugi granični model koji smo ranije proučavali.“
(Tanjug)
BONUS VIDEO - PONUDA NA SAJMU AUTOMOBILA: Pogledajte kako izgledaju novi modeli
Preporučujemo
TESLA ROBOT MESIO TESTO I KUVAO VEČERU: Evo šta sve Optimus sada ume da radi
21. 05. 2025. u 23:33
MASK PORUČIO: Tesla planira probni rad robotaksija u Ostinu u Teksasu do kraja juna
21. 05. 2025. u 00:30
Pratite nas i putem iOS i android aplikacije
Klikni na zvezdicu u gornjem desnom uglu i zaprati Novosti na Google News platformi
Pročitajte više
HLADNI I PRORAČUNATI: Ovo je najlukaviji horoskopski znak - lako će vas uvući u svoju zamku
PRIPADNICI ovog znaka polako vas uvlače u svoju mrežu, dok vi mislite da ste pronašli najvernije saveznike.
17. 06. 2026. u 09:49
OGROMNA ZMIJA USLIKANA U CRNOJ GORI: Jedna od najdužih u Evropi (FOTO)
"Anakonda iz Plava, takozvana Plavakonda"
17. 06. 2026. u 22:29
UMRLA LIDIJA MANDIĆ: Nekadašnja mis Jugoslavije izgubila bitku s bolešću
ZA njeno ime javnost je saznala 1975. godine kada je izabrana za najlepšu Jugoslovenku.
18. 06. 2026. u 09:28
"Od Krimskog poluostrva napravićemo - ostrvo!" Šokantna poruka ukrajinskog ministra odbrane
PREMA njegovim rečima, ukrajinske snage uspešno sprovode strategiju potpune izolacije Krimskog poluostrva, što će dramatično promeniti tok rata u bliskoj budućnosti.
17. 06. 2026. u 18:18
"PONIŽENA SAM!" Mira zatekla verenika u intimnom činu sa muškarcem: "Ovakvu sramotu nikad nisam doživela"
"OVAKVU sramotu nikad nisam doživela."
18. 06. 2026. u 07:54
UPLAŠENA LEPOTICA: Snimak ćerke Đorđe Meloni postao svetski hit (VIDEO)
BAŠ ne voli kamere.
17. 06. 2026. u 22:17 >> 22:22
NOVI STRAVIČNI DETALjI SMRTI MARIJE (21): Dok ležala nepomična, radnik povukao jeziv potez koji je šokirao sve (VIDEO)
Smrt Marije (21) nakon bandži skoka u Brazilu dobila je novi obrt pošto svedok tvrdi da je zaposleni uklonio njenu GoPro kameru sa mesta nesreće.
16. 06. 2026. u 12:22
ŠEF NEMAČKE VOJSKE IZDAO DRAMATIČNO UPOZORENjE: Evo kada će nas Rusija napasti, moramo biti spremni za borbu
NEMAČKA mora da se pripremi za ruski napad do 2029. godine, ili čak i ranije, izjavio je šef nemačke vojske za Politiko.
11. 06. 2026. u 16:23
UKRAJINA - ZEMLjA KOJA NESTAJE: Strašno - objavljeno koliko sada imaju stanovnika! Ruske procene crne, zapadne ništa "svetlije"
UKRAJINA se trenutno suočava sa onim što demografi nazivaju "demografskom katastrofom".
15. 06. 2026. u 22:12
Najnovije iz rubrike
NAJPOSLUŠNIJE RASE PASA: Posebno su dobri za porodice sa malom decom
VIL Aterton, stručnjak za ponašanje pasa, otkrio je koje tri rase prema njegovom iskustvu važe za najposlušnije i najprikladnije za porodice sa decom.
18. 06. 2026. u 09:28
SMIRITE TENZIJE, ČUVAJTE SE POVREDA Astro savet za četvrtak, 18. jun: Kvadrat Mesec-Mars donosi sklonost naglim reakcijama
MESEC, simbol emocija, u velikodušnom, vatrenom znaku Lava danas obrazuje kvadrat sa posesivnim Marsom u zemljanom znaku Bika, znaku njegovog pada.
18. 06. 2026. u 07:00
OTKRIVENO ŠTA SU LJUDI RADILI U HAMAMU: Arheološko otkriće baca novo svetlo na život ranog srednjeg veka
U RUŠEVINAMA hamama u Valili, što je arapsko ime za rimski grad Volubilis, u Maroku, pronađeni su ostaci jedne od najstarijih društvenih igara ovog dela sveta.
17. 06. 2026. u 22:40
REVOLUCIJA U UGOSTITELJSTVU: AI agent analizira troškove, plate i nabavke u realnom vremenu
KOMPANIJA za informacione tehnologije „Ino klauds” kreirala je pametni analitički servis za praćenje finansijskih performansi kafića i restorana, saopštila je za ruske medije pres-služba kompanije.
17. 06. 2026. u 20:25
DNEVNI HOROSKOP ZA ČETVRTAK, 18. JUN: Blizanci i Jarčevi da povedu više računa o dokumentaciji, Škorpije u sukobu sa šefovima
SAZNAJTE šta vas u četvrtak, 18. juna, očekuje na poslu, u ljubavi, na zdravstvenom planu, u domu i porodici, kako ćete se slagati sa prijateljima...
17. 06. 2026. u 20:00
Komentari (0)