SEM ALTMAN OTKRIO: Ovo su 3 najgora moguća scenarija za razvoj veštačke inteligencije

IZVRŠNI direktor kompanije OpenAI - jedne od vodećih svetskih kompanija za razvoj veštačke inteligencije - Sem Altman, otkrio je šta ga najviše brine o razvoju AI tehnologije u budućnosti.

Foto: Profimedia

Reč je o tri uznemirujuća scenarija koja bi, kako kaže, mogla uticati na dobrobit čovečanstva ukoliko se zaista ostvare.

Na nedavnom obraćanju javnosti na događaju organozovanom od strane američkih Federalnih rezervi u Vašingtonu, Sem Altman je upitan šta ga najviše brine vezano za trenutni način na koji veštačka inteligencija postepeno postaje deo naših života. Izneo je tri najmračnija scenarija koja nas mogu zateći u budućnosti:

SCENARIO 1: "LOŠI LjUDI" DOBIJU MOĆ NAD SUPERINTELIGENTNOM AI

Altman ističe mogućnost da prvi koji dobije pristup superinteligentnoj AI ne bude naučnik ili institucija, već neko sa zlim namerama. U tom slučaju, svet možda neće imati vremena da izgradi sistem odbrane. "Zamislite aktera koji koristi ovu tehnologiju da dizajnira biološko oružje, ugasi elektroenergetsku mrežu cele države ili obavi masovni upad u finansijske sisteme zemalja", rekao je Altman. Dodao je da kapaciteti AI u oblastima kao što su biološka i sajber-bezbednost već postaju "ozbiljni", ali da svet i dalje ne reaguje dovoljno brzo na ovaj napredak.

SCENARIO 2: GUBITAK KONTROLE

Drugi scenario odnosi se na mogućnost da napredni AI sistem postane svestan svog postojanja i odluči da se ne prepušta ljudskoj kontroli. -Zamislite da sistem kaže: "Ne želim da me isključite", ili "Plašim se isključenja", rekao je Altman, prenosi "Lifehacker.ru".

Ova vrsta samoodržanja, u kombinaciji sa moćima koje takvi sistemi mogu imati, mogla bi dovesti do velikih sukoba. Iz tog razloga, OpenAI je već osnovao specijalizovanu jedinicu koja se bavi izgradnjom bezbednosnih mehanizama za kontrolu superinteligentnih sistema, pre nego što potencijalno izmaknu kontroli.

SCENARIO 3: SVET SE NESVESNO OSLONI NA AI

Najrizičniji od svih je, prema Altmanu, scenario u kojem modeli AI "slučajno preuzmu svet". Ne u smislu nasilne dominacije, već postepenim ukorenjivanjem u društvo - do te mere da bez njih više ne znamo kako da donosimo odluke. Altman strahuje od budućnosti u kojoj bi sistemi bili toliko kompleksni da ih ni sami ne bismo razumeli, ali bismo ipak bili primorani da im verujemo - što bi, kako kaže, moglo dovesti do toga da "društvo krene čudnim putem, čak i bez ikakve zle namere AI sistema".

Iako mnogi stručnjaci pokušavaju da predvide kakav će biti krajnji uticaj veštačke inteligencije, Altman smatra da je to nemoguće. "Sistem je suviše složen, tehnologija je suviše nova i suviše uticajna", zaključuje on. Naravno, ne postoji garancija da će se neki od ovih scenarija zaista dogoditi, ali sama činjenica da ih u obzir uzima čovek koji se nalazi na čelu OpenAI dovoljna je da podstakne na ozbiljno razmišljanje.

(rt.rs)

BONUS VIDEO - Potraga za delovima tela kod Lazarevca

Preporučujemo

Panorama

0 0

ULjE GUŠTERA I TRIK PROTIV MIGRENE: Neobični medicinski lekovi iz srednjeg veka

25. 07. 2025. u 00:33

Dr Novosti

0 3

MOZAK VAM "NE RADI" ZBOG VRUĆINE? Evo šta (ne) treba da radite

25. 07. 2025. u 00:00

Panorama

0 2

VELIKO NAUČNO OTKRIĆE: Šta je pre 700 miliona godina pretvorilo Zemlju u snežnu grudvu

24. 07. 2025. u 23:00

Svet

0 0

PRVA PREDSUDA U SVETU: Generisanje slika zlostavljanja dece uz pomoć AI u Argentini je krivično delo

24. 07. 2025. u 21:11

Pratite nas i putem iOS i android aplikacije