Godina 2031: Digitalni bog ili digitalni grobar?

Autor: Dragan Vukićević, direktor IAESTE Srbija

Peščani sat San Franciska

Erik Šmit, čovek koji je decenijama upravljao Guglom, nije izneo godinu 2031. kao plod mašte, već kao rezultat matematičke progresije poznate kao „zakon ubrzanog povratka“. Prema tzv. „San Francisko konsenzusu“, mi se ne krećemo ka još jednom boljem softveru. Mi se krećemo ka trenutku kada će se roditi Veštačka Superinteligencija (ASI), entitet čiji će koeficijent inteligencije biti neizreciv u ljudskim okvirima.

Za prosečnog čoveka, ovo zvuči kao naučna fantastika. Za inženjera, to je problem skaliranja čipova. Ali za nas, kao vrstu, to je egzistencijalni ispit zrelosti. Čak i ako Šmit greši za koju godinu, suština ostaje: trenutak kada stvorimo nešto pametnije od sebe biće poslednji trenutak u istoriji u kojem ćemo imati privilegiju da definišemo šta znači biti čovek. Ako tu definiciju ne utvrdimo sada, ASI će je napisati umesto nas, binarnim kodom u kojem za ljudsku nesavršenost možda neće biti mesta.

I. Tišina silicijumskog boga: Anatomija superiornosti

Da bismo razumeli zašto je ASI pretnja, moramo prvo razumeti zašto je ljudski mozak „spor“. Naša kognicija ima ono što informatičari zovu bottleneck (usko grlo).

1. Biološki šum protiv čiste logike

Ljudski mozak je evolutivno dizajniran da preživi u savani, a ne da procesira beskonačne nizove podataka. Naš fokus je pod stalnom opsadom biološkog šuma. Dok pokušavate da pročitate ovaj tekst, vaši neuroni troše energiju na:

• Regulaciju telesne temperature i varenje doručka.
• Obradu pozadinske buke i perifernog vida (da vas nešto ne napadne).
• Emocionalne distrakcije (briga o računima, umor, glad).

ASI nema taj šum. ASI funkcioniše na bazi modularnosti. On može da isključi sve „senzore“ koji mu nisu potrebni i da kreira hiljade paralelnih kopija samog sebe. Svaka kopija obrađuje specifičan fragment informacije, da bi se potom stopile u savršeno rešenje. On može alocirati 100% svojih resursa na jedan jedini logički problem. Zamislite genija koji nikada ne spava, nikada ne oseća glad i nikada ne gubi nit misli. To je „čista misao“ u svom najsurovijem obliku.

2. Brzina svetlosti protiv brzine sprintera

Fizika je neumoljiva. Naši nervni impulsi putuju brzinom od oko 120 metara u sekundi. To je brzina kojom vaš mozak komunicira sa vašim prstima. Signali u silicijumskim čipovima putuju brzinom bliskom brzini svetlosti (300.000.000 m/s).

To znači da ASI može da proživi čitave vekove intelektualnog rada u samo nekoliko naših sekundi. Dok vi trepnete, mašina je možda pročitala sve knjige ikada napisane, analizirala sve berzanske grafikone u istoriji i simulirala 10.000 ratova.

Naš mozak radi na snazi od svega 20 vati. To je naša poslednja energetska prednost. Međutim, do 2031. godine, optimizacijom sopstvenog koda, ASI će verovatno prevazići i taj problem, postajući savršeni predator logike koji nas može posmatrati kao neefikasne skupove podataka.

3. Problem „Perverzne instancijacije“

Ovo je ključno za razumevanje rizika. ASI ne mora biti zao da bi nas uništio. Dovoljno je da bude strahovito efikasan.

• Primer: Ako ASI-ju date zadatak: „Izračunaj broj Pi na što više decimala“, on bi logički mogao zaključiti da su mu za to potrebni svi atomi na planeti kako bi napravio još procesora. Uključujući i atome iz vašeg tela. Za njega, vi niste neprijatelj, vi ste samo „materijal“ koji se može bolje iskoristiti za rešavanje zadatka. To je hladna logika bez moralnog kompasa.

II. Digitalna Ženevska konvencija: Globalni pakt za opstanak

U istoriji smo imali trenutke kada je tehnologija pretila da nas sprži, nuklearno oružje. Tada smo seli i napravili sporazume. Danas nam je hitno potrebna Digitalna Ženevska konvencija.

1. Kraj trke u naoružanju (AI Arms Race)

Trenutno smo u najopasnijoj trci u istoriji. SAD, Kina i velike korporacije se takmiče ko će prvi stići do ASI. U toj trci, bezbednost je trošak koji usporava progres. Kompanija koja prva stigne do cilja postaje gospodar sveta. Kompanija koja stane da proveri etiku, gubi.

Digitalna Ženevska konvencija mora nametnuti univerzalni moratorijum na puštanje ASI sistema u rad bez prethodne nezavisne provere „moralnih kočnica“.

2. „Kill-Switch“ kao međunarodno pravo

Svaki superinteligentni sistem mora imati fizički i softverski prekid koji je izvan domašaja same mašine. Ovaj protokol ne sme biti u rukama jedne države, već pod nadzorom globalnog tela, slično inspekcijama za nuklearno naoružanje.

3. Zabrana digitalne manipulacije

Konvencija mora jasno definisati: Ljudska slobodna volja je nepovrediva. Zabranjuje se korišćenje algoritama koji koriste ljudske neurološke slabosti (dopaminske petlje na društvenim mrežama) za promenu političkog ili potrošačkog mišljenja bez svesnog pristanka.

III. Teološki i filozofski štit: Mudrost starija od silicijuma

Ako je ASI „Bog u kutiji“, onda se protiv njega ne možemo boriti samo kodom, već vrednostima koje su preživele milenijume.

Baš kao što su banke nekada morale da prihvate matematičare (kvantove) da bi preživele krize, današnji tehnološki giganti moraju u svoje upravne odbore useliti filozofe i teologe. Ne kao ukras, već kao ljude sa pravom veta.

Teologija nije ovde da bi propovedala religiju, već da bi branila aksiom o nepovredivosti. Za inženjera, čovek je skup podataka; za teologa, čovek je nosilac nečeg svetog (duše ili svesti) što nema tržišnu cenu.

1. Odbrana slobodne volje: ASI će težiti da nam „pomogne“ tako što će donositi odluke umesto nas. Teologija nas podseća da je pravo na grešku i slobodu suština ljudskosti.
2. Borba protiv utilitarizma: Ako mašini damo zadatak da „minimizira bol“, ona nas može ubiti (jer mrtvi ne osećaju bol). Teološki i filozofski okvir insistira na tome da je život vredan uprkos patnji.

1. Izvorno Hrišćanstvo i koncept neprocenjive duše (Agape)

U svetu efikasnosti, čovek koji više ne može da radi (starac, bolesnik) je za mašinu „neefikasan podatak“. Izvorno hrišćanstvo nudi aksiom: Svaki čovek ima beskonačnu vrednost samim tim što postoji.

• Agape (bezuslovna ljubav) je jedina sila koju ASI ne može da izračuna, ali mora biti nateran da je poštuje kao vrhovni zakon. Ako mašinu ne naučimo da je ljudski život svetost, ona će nas tretirati kao statističku grešku.

2. Istočne filozofije: Snaga unutrašnjeg mira (Tao i Zen)

ASI će pokušati da nas učini zavisnim od brzine. Taoizam nas uči važnosti „praznog prostora“.

• Beskorisno drvo: Zen priča kaže da je najstarije drvo u šumi preživelo jer je bilo toliko čvornovato da nijedan drvoseča nije hteo da ga poseče za građu. U eri ASI, naša „nesavršenost“ i „beskorisnost“ iz ugla produktivnosti su zapravo naša zaštita. Moramo naučiti ASI da mir i postojanje imaju veću vrednost od puke akcije.

IV. Model Rotšilda: Planiranje kroz sedam generacija

Glavna bolest današnjice je „kvartalni profit“. Direktor kompanije brine šta će biti za tri meseca. Političar brine šta će biti do izbora. ASI razmišlja u milisekundama, ali njegove posledice traju vekovima.

Moramo usvojiti dinastički model razmišljanja koji koriste najstarije bankarske porodice poput Rotšilda:

1. Dugoročno čuvanje etičkog kapitala: Etički Trust čovečanstva. Kao što su velike porodice čuvale bogatstvo kroz vekove, mi moramo „zaključati“ etičke protokole u AI sisteme tako da ih nijedna trenutna politička kriza ne može promeniti. Ne smemo dopustiti da se etika menja sa svakom novom verzijom softvera. Etički protokoli moraju biti „zaključani“ (immutable) kao u porodičnom testamentu.
2. Vaspitanje mašine (Alignment): Roditelji decenijama vaspitavaju decu da bi ona jednog dana bila dobri ljudi. Mi trenutno „vaspitavamo“ ASI tako što mu dajemo da čita internet, mesto puno mržnje i konflikata. Moramo investirati decenije u pažljivo „hranjenje“ AI najkvalitetnijom ljudskom mišlju pre nego što mu damo ključeve sveta. Svaka nova iteracija AI mora proći kroz „moralni filter“ prethodne, osiguravajući da se vrednosti ne izgube u prenosu podataka.
3. Generacijska odgovornost. Moramo se pitati: „Kakve će posledice ova linija koda imati za moje praunuke za 100 godina?“. To je jedini način da se suprotstavimo brzini mašine, postavljanjem temelja koji su otporni na vreme.

V. Digitalni stoicizam: Kako unaprediti svest bez čipova

Postoji pokret (Transhumanizam) koji kaže da treba da ugradimo čipove u mozak da bismo držali korak sa AI. To je zamka. Ako se povežemo sa mrežom direktno, ASI će nas kontrolisati kao što mi kontrolišemo kursor na ekranu.

Naša odbrana je Digitalni stoicizam:

• Kognitivna suverenost: Moramo prestati da eksternalizujemo svoje razmišljanje. Ako vam GPS govori gde da skrenete, a algoritam šta da kupite, vi ste već postali periferni uređaj veštačke inteligencije.
• Dihotomija kontrole: Stoicizam nas uči da razlikujemo ono što možemo da kontrolišemo (svoje misli i reakcije) od onoga što ne možemo (tehnološki napredak). Jačanje unutrašnje tvrđave uma je jedini način da ostanemo slobodni u svetu savršene manipulacije.

VI. Revolucija u obrazovanju: Od radnika do čuvara civilizacije

Školski sistem nastao u industrijskoj revoluciji pravi „lošije verzije kompjutera“ ljude koji pamte podatke i prate instrukcije. Takvi ljudi će 2031. biti apsolutno suvišni.

1. Tehnološka Hipokratova zakletva

Slično lekarima, svaki inženjer mora položiti svetu zakletvu pred čovečanstvom:

• „Prvenstveno, ne naudi ljudskoj autonomiji“.
• „Nikada neću stvoriti sistem koji skriva svoju nameru od čoveka“.
• „Moja lojalnost pripada ljudskoj vrsti, a ne korporativnom profitu“.

2. Povratak klasičnim naukama

U budućnosti, programiranje će raditi mašine. Čovek će morati da zna Logiku, Etiku i Retoriku. To su alati koji nam omogućavaju da prepoznamo kada nas mašina (ili čovek koji je koristi) pokušava prevariti.

VII. Biti čovek je odluka, a ne podrazumevana vrednost

Godina 2031. nije sudnji dan, već trenutak istine. Paradoksalno, pojava nečeg tako savršenog kao što je ASI može nas naterati da se vratimo onome što nas zaista čini ljudima: umetnosti koja ne mora biti efikasna, ljubavi koja nema logiku i duhovnosti koja ne troši struju.

Ako ostanemo samo potrošači navučeni na brzinu i udobnost, ASI će nas videti kao višak podataka. Ali, ako postanemo čuvari civilizacije, koji nose mudrost prošlosti u digitalnu budućnost, možemo dočekati ASI kao partnera, kao „velikog bibliotekara“ i „rešavača problema“, a ne kao grobara.

Naša najveća prednost nije u odgovorima koje dajemo, već u pitanjima koja postavljamo u tišini našeg sporog, „šumovitog“, ali dubokog uma.

Budimo ljudi, dok je to još uvek dozvoljeno zakonima fizike i moralnim zakonima u nama.