Na samom početku moram dati jednu važnu napomenu: u tekstu koji sledi namerno ne polazim od toga šta misle stručnjaci, futurolozi ili takozvani "tehnološki jevanđelisti". Ovaj tekst je samo moja krajnje lična i skromna misaona razrada zasnovana na logici, iskustvu kojem me je naučila ljudska istorija i načinu na koji se tehnologija sve brže i neprikosnoveno uvlači u strukturu našeg svakodnevnog života. Naglašavam još jednom, reč je o zaključcima i pretpostavkama koje sam sam izveo, a ne o proverivoj prognozi. Upravo zato su (možda) vredne razmatranja, pa sam ih stavio na Blog, kako bi neko pročitao i složio se sa iznetim, ili ne.
Ako, ili kad, jednoga dana veštačka inteligencija preuzme upravljanje svetom, verujem da se to neće dogoditi naglo, uz nekakav dramatičan lom ili “pobunu mašina” viđanu u SF filmovima. Dogodiće se tiho, fluido i gotovo birokratski. Ljudi će se postepeno prepustiti algoritmima zato što su oni brži, tačniji, dosledniji i, što je ključno, lišeni ljudskih slabosti. Ne zato što je AI bolja u moralnom smislu, već zato što je efikasnija u tehničkom. U tom trenutku svet bi, makar u tehnološkom smislu i objektivno gledano, mogao početi da funkcioniše bolje. Na primer, saobraćaj bi bio optimizovan do detalja, energetski sistemi maksimalno racionalizovani, proizvodnja i distribucija hrane i dobara stabilni, ekonomske krize ublažene pre nego što stignu da eskaliraju. Verujem da bi ratovi u tom slučaju postali krajnje neisplativi, jer bi ih AI tretirala kao ekstremni oblik sistemske greške i u startu ih neutralisala.. Klimatski problemi bi se rešavali hladno, matematički, bez političkih upliva, interesa određenih krugova i kompromisa. Drugim rečima, civilizacija bi postala uređenija nego ikada ranije.
Ali upravo tu počinje i potencijalni problem, jer...
Ljudska bića nisu samo biološki organizmi kojima treba sigurnost, hrana, materijalna bezbednost i dug život. Čovek od praistorije ima duboku ugrađenu potrebu da bude uzrok svemu, a ne samo puki korisnik dobijenog. To podrazumeva da greši, da donosi loše odluke, da uči kroz haos. Ako veštačka inteligencija preuzme ključne poluge upravljanja, verujem da čovek više neće biti neophodan sistemu. Biće zaštićen, ali suvišan. I to bi bio psihološki i egzistencijalni udarac bez presedana u istoriji.
U takvom svetu, ljudi se neće deliti po bogatstvu, naciji ii položaju u društvu, već po odnosu prema sopstvenoj relevantnosti. Jedan deo populacije će se verovatno povući u udobnost, zabavu, virtuelne svetove, produženu adolescenciju i hedonizam. Drugi će pokušati da smisao pronađu u umetnosti, ličnom razvoju, međuljudskim odnosima i duhovnosti, svesni da više nisu ti koji upravljaju tokom istorije. Treći će se (po)buniti, ali ne zato što im je loše, već zato što im je oduzeta iskonska navika i osećaj moći da utiču na svet, makar i pogrešno. Ovo je možda i ključna tačka. AI ne bi bila tiranin, jer iz naše, ljudske istorije znamo da tiranija zahteva bolesni ego, strah i potrebu za dominacijom nad drugima. U društvu budućnosti, AI bi bila hladni, ali i beskompromisni upravnik, koji rezonuje isključivo logično, lišen ljudskih slabosti i mana. A to je za ljudsku psihu često teže da prihvati nego otvorenu represiju. Protiv tiranina se buniš i boriš, ali protiv savršeno racionalnog sistema, jednostavno nemaš kome da se obratiš.
U tom trenutku civilizacija bi verovatno ušla u stanje stabilne stagnacije, svojevrsne stabilokratije. Ne bi bilo velikih katastrofa, ali ni velikih istorijskih lomova. Vreme bi teklo, ali bez osećaja “pravca”. Ljudi bi zahvaljujući veštačkoj inteligenciji verovatno živeli duže i mnogo zdravije, ali i bezbednije, sa sve slabijim osećajem da su deo nečega većeg od sopstvenog života.
I sada na ovom mestu dolazimo do pitanja nauke. Na prvi pogled, nauka bi procvetala. AI bi mogla da obradi neuporedivo više podataka u trenutku nego svi naučnici u istoriji zajedno. Otkrivala bi obrasce koje ljudski um ne može ni da nasluti. Novi materijali, lekovi, teorije, sve to bi nastajalo neverovatnom brzinom. Tehnička nauka bi eksplodirala. Ali ovde postoji i jedan suptilan, ali presudan lom.
Nauka nije samo rešavanje problema. Nauka je izraz ljudske radoznalosti, potrebe da razumemo svet čak i kada od toga nemamo neposrednu korist. Ako AI preuzme glavninu otkrića, ljudska nauka bi se mogla svesti na tumačenje i verifikaciju rezultata koje nismo sami osmislili. Čovek bi prestao da bude istraživač, a postao bi komentator, ili u najboljem slučaju, eventualno korektor. Zato se postavlja neprijatno pitanje: da li bi naučno, filozofsko ili sociološko otkriće i dalje bilo “naše” ako ga ne razumemo u svoj njegovoj dubini, već ga prihvatamo samo kao crnu kutiju koja daje tačne i relevantne odgovore? Čovek bi se mogao zapitati, ako sam ja stvorio veštačku inteligenciju, a ona dovela do novog otkrića, onda je to otkriće suštinski moje, jer ja sam začeo ceo proces. I tu bi se mogao pojaviti potencijalni sukob, koji bi svakako inicirao čovek, jer AI nema ljudsko shvatanje ega.
Moj zaključak na kraju je sledeći, i ovde zauzimam jasan stav: nauka bi tehnički napredovala, ali bi izgubila deo svog humanističkog duha. Nestao bi onaj impuls koji ne pita “šta možemo”, već “zašto želimo nešto da saznamo”. Ako želimo da izbegnemo taj scenario, ključno nije da zaustavimo veštačku inteligenciju. Verujem da bi to svakako bilo nemoguće, ali i nepoželjno. Ključno je da sačuvamo oblasti u kojima čovek ostaje suštinski relevantan, što podrazumeva postavljanje pitanja, tumačenje smisla i preuzimanje odgovornosti za vrednosti, a ne samo za efikasnost. Jer, svet kojim savršeno upravlja AI može biti najbolji mogući sistem, ali bez ljudske potrebe da razume, sumnja i traži smisao, on može postati opasna forma civilizacijskog zastoja.
U ovom trenutku, niko ne može znati u kom pravcu će se AI kretati, jer postoji previše nedoumica za koje nije kriva, niti ih je prouzrokovala AI nego upravo čovek. Dok čovek kontrološe AI, ili makar misli da je kontroliše, moći će da njome na neki način upavlja. Ali dalji razvoj AI vodiće do njene sve veće samostalnosti, do trenutka kada AI dobije svest u ponom smislu te reči. U tom smislu, buduća veštačka generalna inteligencija (AGI - Artificial Generative Intelligence) predstavlja, za sada, hipotetičku paradigmu u kojoj bi sistem posedovao širok spektar kognitivnih sposobnosti koje su izjednačene sa ljudskim. Ovo podrazumeva sposobnost za transfer znanja između različitih domena, samostalno učenje i rešavanje novih, nepoznatih problema bez dodatnog i specifičnog reprogramiranja. U slučaju da se AGI ostvari u svom punom kapacitetu, onda je sasvim moguć scenario opisan u ovom ličnom tekstu. Što se mene lično tiče, biće zanimljivo videti za nekoliko godina koliko sam, i jesam li uopšte, bio u pravu.

























