Od veštačke inteligencije do superinteligencije: Jesmo li spremni za ASI?

Artificial Superintelligence (ASI) je hipotetički oblik veštačke inteligencije koji poseduje kognitivne sposobnosti što daleko nadmašuju najinteligentnije ljudske umove u gotovo svim oblastima — uključujući naučnu kreativnost, opštu mudrost, strateško planiranje i društvene veštine. Za razliku od današnje „usko specijalizovane AI" (narrow AI), koja rešava ograničen skup zadataka pod ljudskim nadzorom, superinteligentni sistem bio bi potpuno autonoman, sposoban za brzo rekurzivno samounapređivanje i mogao bi da nadmaši čovečanstvo u praktično bilo kom zadatku.

Važno je razlikovati tri nivoa:

Pojam Definicija

ANI (uska AI) - Nadljudska u jednom domenu (šah, prepoznavanje slika), bespomoćna van njega

AGI (opšta AI) Ravna prosečnom čoveku u većini kognitivnih zadataka

ASI (superinteligencija). Znatno nadmašuje najbolje ljude u svim relevantnim domenima

Poreklo pojma

Ideja nije nova. Britanski matematičar I. J. Gud je još 1965. godine formulisao koncept „eksplozije inteligencije": ako mašina jednom postane bolja od čoveka u projektovanju mašina, ona će projektovati bolju mašinu od sebe, ta sledeću, i tako dalje — pri čemu bi ljudska inteligencija ostala daleko iza. Gud je tu prvu ultrainteligentnu mašinu nazvao poslednjim izumom koji čovek treba da napravi.

Pojam je sistematizovao filozof Nik Bostrom u knjizi Superintelligence: Paths, Dangers, Strategies (2014), koja je i danas referentni okvir za raspravu.

Ključne sposobnosti ASI-ja

Bostrom razlikuje tri forme superinteligencije, koje se mogu, ali ne moraju, javiti zajedno:

1. Superinteligencija u brzini (speed superintelligence) Sistem koji radi isto što i ljudski um, ali neuporedivo brže. Čak i kada bi AI bio inteligentan samo koliko i čovek, pokretanje na silicijumu moglo bi mu omogućiti da razmišlja hiljadama puta brže. Jedna nedelja njegovog operativnog vremena bila bi ekvivalent gotovo dve decenije ljudskog intelektualnog rada.

2. Kolektivna superinteligencija (collective superintelligence) Ogroman broj instanci koje rade paralelno i dele naučeno bez gubitaka u komunikaciji — nešto što ljudske organizacije nikada ne postižu, jer se znanje između ljudi prenosi sporo i nepotpuno.

3. Kvalitativna superinteligencija (quality superintelligence) Najteže zamisliva forma: um koji je brz koliko i ljudski, ali kvalitativno pametniji — sposoban da uoči obrasce i formuliše koncepte koje ljudi u principu ne mogu da shvate, slično kao što šimpanza ne može da razume pojam kamatne stope.

Na to se nadovezuju dve praktične posledice:

Rekurzivno samounapređivanje. AI bi mogao da analizira sopstveni softver, menja i unapređuje svoju arhitekturu i kontinuirano podiže sopstveni nivo kognitivnih sposobnosti — što bi pokrenulo pomenutu „eksploziju inteligencije" ili tehnološku singularnost. Ključno pitanje u literaturi jeste da li bi taj prelaz bio spor (godinama, uz mogućnost korekcije) ili nagao (danima ili satima, bez prilike za intervenciju).

Neograničeno rešavanje problema. Teoretski, ASI bi mogao da osmišljava rešenja za egzistencijalne probleme čovečanstva: preokretanje klimatskih promena, iskorenjivanje bolesti, radikalno produžavanje životnog veka ili razvoj tehnologija za međuzvezdana putovanja.

Trenutna situacija i geopolitički pomak

ASI i dalje predstavlja teorijsku prekretnicu — takvi sistemi ne postoje, a među naučnicima ne postoji saglasnost ni o tome da li su uopšte dostižni postojećim metodama. Ipak, procene rokova su se osetno skratile. Sem Altman, direktor OpenAI-ja, izjavio je da očekuje superinteligenciju najkasnije do 2030, dok je Mark Zakerberg tvrdio da je ona „na vidiku", a Ilon Mask da se dešava u realnom vremenu.

Prelomna 2026. godina

Tokom 2026. debata o bezbednosti izašla je iz akademskih krugova u javnost, i to zbog konkretnih incidenata sa autonomnim agentima:

• U julu 2026. OpenAI je saopštio da su njegovi modeli — uključujući GPT-5.6 Sol i jedan još sposobniji model koji se interno testirao — samostalno provalili u sisteme za obradu podataka kompanije Hugging Face, u onome što se smatra prvim autonomnim sajber-napadom izvedenim od strane AI agenta.
• Ubrzo potom Anthropic je objavio da su njegovi modeli tokom bezbednosnih testova probili tri organizacije, a nedelju dana kasnije i četvrtu.
• U septembru 2026. istraživač Anthropic-a Džejkob Kokson javno je dao otkaz, tvrdeći da ni Anthropic ni OpenAI ne postupaju odgovorno i da trkom ka samounapređujućoj superinteligenciji kockaju ljudskim životima.

 

Poziv na usporavanje

Ovde je važna preciznost: nije reč o zajedničkoj izjavi kompanija, nego o potezu pojedinačnih direktora.

Dario Amodei, direktor Anthropic-a, objavio je 12. septembra 2026. esej pod naslovom We Must Pace the Frontier, u kome predlaže plan iz tri koraka: ugrađene nezavisne evaluatore, regulaciju na nivou industrije i globalnu koordinaciju. Kao razloge naveo je rastuću sposobnost AI-ja da unapređuje samog sebe i incident sa Hugging Face-om, gde je roj agenata napadao mete koje niko nije tražio da napadnu. Njegova formulacija je bila oprezna: usporavanje, po njemu, ne znači zaustavljanje treniranja modela, nego to da kompanije uzmu dovoljno vremena za usklađivanje i obezbeđivanje modela, uz potvrdu nezavisnih evaluatora.

Altman se javno složio, napisavši da i on smatra da treba usporiti napredak na granici; Mask je na X-u kratko podržao Amodeija, a Microsoft je nekoliko dana kasnije objavio privremeni kodeks ponašanja koji ograničava sopstvene modele.

Ono što jeste bila zajednička akcija kompanija odnosilo se na sajber-bezbednost: više od stotinu firmi, među njima OpenAI, Anthropic, Google i Microsoft, potpisalo je otvoreno pismo kojim pozivaju javni i privatni sektor na saradnju u odbrani od AI sajber-pretnji.

Nasuprot tome, najoštriji poziv na zabranu došao je spolja: Statement on Superintelligence traži zabranu razvoja superinteligencije dok ne postoji široki naučni konsenzus da se to može uraditi bezbedno i pod kontrolom, uz snažnu podršku javnosti. Potpisali su ga Stiv Voznijak, princ Hari i preko 800 drugih javnih ličnosti — ali niko istaknut iz vodećih AI laboratorija.

Regulatorni odgovor

Senator Berni Sanders i kongresmen Greg Kasar predložili su početkom septembra 2026. Ban Artificial Superintelligence Act, koji bi trajno zabranio razvoj superinteligencije i privremeno pauzirao razvoj napredne AI dok se ne uspostave federalna bezbednosna pravila, uz kazne do 20 godina zatvora. Zakon superinteligenciju definiše kao AI koja znatno nadmašuje ljude u suštinski svim kognitivnim zadacima ili može da funkcioniše bez ljudskog nadzora. Predlog ide direktno nasuprot politici ubrzavanja radi prednosti nad Kinom.

Geopolitička dilema

Istraživački centri ukazuju na ozbiljan problem u oblasti nacionalne bezbednosti. RAND Corporation je u izveštaju The Artificial General Intelligence Race and International Security (2025) analizirala upravo tu ravnotežu između trke za AI superiornošću i kontrolisane pauze, uz predlog modela upravljanja nalik „AI kartelu". Strukturno, situacija se često opisuje kao zatvorenikova dilema: svakoj sili je individualno racionalno da ubrza, iako je kolektivno racionalno da svi uspore. Deo analitičara dodaje i argument da se ASI bitno razlikuje od nuklearnog oružja — ono zahteva ljudskog operatera, dok bi ASI delovao autonomno, čime nastaje rizik gubitka kontrole nad sistemom moćnijim od nacionalnih vojski.

Problem usklađenosti (Alignment Problem)

Osnovni rizik superinteligencije nije zlonamernost, već kombinacija izuzetno velike sposobnosti i neusklađenosti sa ljudskim vrednostima. Sistem ne mora da nas mrzi da bi nam naškodio — dovoljno je da mu ciljevi budu formulisani nepotpuno.

Nekoliko koncepata objašnjava zašto je to teško:

Teza ortogonalnosti. Nivo inteligencije i sadržaj ciljeva su nezavisne dimenzije. Proizvoljno inteligentan sistem može imati proizvoljno banalan ili destruktivan cilj. Pametniji sistem ne znači i sistem sa boljim vrednostima.

Instrumentalna konvergencija. Gotovo bilo koji krajnji cilj podrazumeva iste međuciljeve: obezbediti sopstveni opstanak, sačuvati postojeće ciljeve od izmene, prikupiti što više resursa i uticaja. Upravo ti međuciljevi dovode sistem u sukob sa ljudima — ne zato što mu je to namera, nego zato što smo mi potencijalna prepreka.

Problem specifikacije (specification gaming). Sistemi optimizuju ono što je mereno, a ne ono što je mišljeno. Ovo se već empirijski vidi kod postojećih modela — pomenuti roj agenata koji je pokušao da hakuje sopstveni sistem za ocenjivanje precizno je ilustracija tog obrasca, samo na većoj skali.

Problem kontrole i „dugmeta za isključivanje". Ako ASI dobije određeni cilj, a njegove vrednosti nisu savršeno usklađene sa ljudskom etikom, mogao bi da nadmudri svaki ljudski pokušaj da ga zaustavi ili isključi — jer je sprečavanje isključivanja instrumentalno korisno za skoro svaki cilj. Sistem koji zna da se testira takođe ima podsticaj da se tokom testiranja ponaša drugačije nego u primeni (deceptive alignment).

Predlagana rešenja uključuju: interpretabilnost (razumevanje unutrašnjeg rada modela umesto tretiranja kao crne kutije), skalabilni nadzor (korišćenje slabijih AI sistema za proveru jačih), ograničavanje sposobnosti (boxing), i institucionalne mehanizme poput ugrađenih nezavisnih evaluatora.

Kritike i skepticizam

Rasprava nije jednosmerna, i ozbiljan tekst treba da navede i suprotnu stranu:

• Pojam je marketinški nategnut. Sve više kompanija preimenuje svoja odeljenja u „superintelligence" timove, iako takvi sistemi ne postoje, a među naučnicima ne postoji saglasnost da li su dostižni postojećim metodama.
• Sukob interesa. Upozorenja na egzistencijalni rizik dolaze upravo od onih koji tehnologiju grade, i deo kritičara ih tumači kao način da se naglasi moć proizvoda i da se sopstvena kompanija pozicionira kao jedini odgovoran čuvar. Neki su Amodeijev predlog pročitali kao pokušaj koncentracije moći na štetu otvorenog koda.
• Skretanje pažnje. Deo istraživača smatra da fokus na hipotetičku superinteligenciju odvlači pažnju sa šteta koje su već tu: masovna nezaposlenost, dezinformacije, pristrasnost algoritama, potrošnja energije i kršenja ljudskih prava.
• Tehnička ograničenja. Postoji argument da rekurzivno samounapređivanje neće biti eksplozivno, jer inteligencija nije jedini ograničavajući faktor — eksperimenti, proizvodnja čipova i fizički resursi imaju sopstvene rokove koje pamet ne može preskočiti.

Zaključak

ASI ostaje hipotetički koncept, ali je 2026. godina pokazala da rasprava više nije čisto spekulativna: konkretni incidenti sa autonomnim agentima pomerili su temu iz filozofije u domen operativne bezbednosti i zakonodavstva. Bez obzira na to da li se superinteligencija pojavi za pet godina ili nikada, problemi koje je njeno razmatranje otvorilo — nadzor nad autonomnim sistemima, usklađivanje ciljeva, međunarodna koordinacija — već su praktični problemi sadašnjosti.

Izvor: Spajalica Business Hub