Arhipelag bezbednosti u moru rekurzije: Zašto regulacija veštačke inteligencije promašuje suštinu
Autor: Dragan Vukićević, direktor IAESTE Srbija
Najnovija zbivanja u samom vrhu svetske tehnološke industrije, gde su čelnici vodećih laboratorija za veštačku inteligenciju, nakon eseja Darija Amodeija, naprasno pozvali na usporavanje razvoja i primenu ručne kočnice, ubedljivo razotkrivaju ključni paradoks našeg vremena. U rasponu od svega nekoliko sati, ključni akteri trke u razvoju veštačke inteligencije, ljudi koji se godinama nisu mogli usaglasiti ni oko elementarnih bezbednosnih protokola, iznenada su uglas potvrdili da razvoj modela mora biti usporen jer su u suprotnom mogući apokaliptični scenariji.
Naime, ljudi koji danas stvaraju najmoćnije alate u istoriji čovečanstva poseduju nesumnjivo fascinantno, gotovo nadrealno tehničko znanje. Oni sa lakoćom barataju stotinama milijardi parametara, optimizuju složene algoritme, upravljaju infrastrukturom koja troši energiju čitavih gradova i projektuju sisteme sposobne da samostalno rešavaju najsloženije matematičke i inženjerske probleme.
Međutim, kada ti isti ljudi stignu do pitanja sigurnosti, etike, geopolitičke stabilnosti i usklađivanja autonomnih sistema sa dugoročnim potrebama ljudskog društva, odjednom postaju očigledna njihova duboka strukturalna ograničenja. Očigledan je nedostatak dubokog životnog iskustva, odsustvo poznavanja istorijskih lekcija o prirodi moći i sukoba, kao i nerazumevanje onih „starih“, vekovima proveravanih znanja o ljudskoj prirodi, psihologiji, sociologiji i ponašanju kompleksnih prirodnih i društvenih sistema.
Stvara se utisak da generacija inženjera i preduzetnika stasala u staklenim zvonima Silicijumske doline iskreno veruje kako se problem ljudskog opstanka i civilizacijske stabilnosti može rešiti još jednim algoritmom, dodatnim linijama koda, formalnim birokratskim procedurama ili imenovanjem „ugrađenih nezavisnih procenitelja“ unutar sopstvenih kancelarija. To je opasna, tehnocistička iluzija koja promašuje samu suštinu problema.
Čovečanstvo se danas nalazi u opasnom procepu između nikad bržeg tehnološkog skoka i nikad uočljivijeg nedostatka sistemske i životne mudrosti kod onih koji taj skok predvode. Da bismo razumeli gde zaista leži izlaz iz ove krize, moramo napustiti površinske rasprave o politici, novcu i uzajamnim optužbama tehnoloških mogula, te zaći u dublje slojeve same prirode digitalnog koda, asimetrije fizičkog sveta i istorijske logike obuzdavanja moći.
Iluzija „Nuklearnog analoga“ i trka bez kočnica
Kada se u javnosti, parlamentima ili na međunarodnim samitima govori o obuzdavanju veštačke inteligencije, političari, birokrate i sami tehnološki lideri se gotovo po automatizmu hvataju za analogije iz 20. veka. Uvek iznova slušamo o potrebi za međudržavnim sporazumima po ugledu na Hladni rat, o uvođenju inspekcijskih organa nalik Međunarodnoj agenciji za nuklearnu energiju (IAEA), o univerzalnim standardima za data-centre i rigidnim zakonskim zabranama na nivo država ili blokova.
Međutim, sporazumi o kontroli naoružanja iz prošlog veka, poput sporazuma SALT ili konvencija o hemijskom i biološkom oružju, bili su mogući iz jednog jednostavnog, ali presudnog razloga: stvaranje razornog potencijala zahtevalo je masivnu, vidljivu, skupu i geografski fiksiranu fizičku infrastrukturu. Obogaćivanje uranijuma ili proizvodnja plutonijuma zahtevali su gigantske reaktore, hiljade visoko-specijalizovanih centrifuga i kompleksna postrojenja koje je bilo apsolutno nemoguće sakriti od satelitskih snimaka, izviđačkih letelica ili terenskih inspekcijskih timova. Nuklearna fizika je bila neraskidivo vezana za masivnu materiju.
Poređenje veštačke inteligencije sa nuklearnim kapacitetima pruža lažnu, izuzetno opasnu utehu. Nuditi linearne, inertne i spore koncepte stvorene za industrijsko doba 20. veka na eksponencijalnu, distribuiranu i rekurzivnu dinamiku 21. veka znači primenjivati potpuno prevaziđenu logiku. To je funkcionalni ekvivalent pokušaja da pišete saobraćajne propise i ograničenja brzine za nadzvučnu letelicu dok sami jašete konja.
Svaki pokušaj zabrane, restrikcije ili usporavanja razvojem koda unutar jedne države, pravnog sistema ili zatvorenog komercijalnog modela instantno stvara crno tržište i geopolitički vakuum. Ukoliko napredni model sa ugrađenim etičkim i bezbednosnim zaštitnim mehanizmima odbije da odgovori na određeni upit ili izvrši zadatak, korisnik se u par klikova preusmerava na distribuirani model otvorenog koda (open-source) pokrenut na privatnom serveru, u orkestriranom „oblaku“ ili pod drugom jurisdikcijom.
Rekurzivno samousavršavanje
Digitalni kod ne poznaje državne granice, ne podleže carinskim kontrolama, a znanje i kompresovana inteligencija ljudskog roda, jednom sažeti u stotinama milijardi matematičkih parametara nekog modela, ne mogu se naknadno poništiti, zabraniti ili obrisati birokratskim dekretom.
Ovo narativno slepilo dodatno se produbljuje pojavom takozvanog rekurzivnog samousavršavanja (recursive self-improvement – RSI). Reč je o prelomnoj tački u kojoj matematički modeli veštačke inteligencije počinju samostalno da pišu, testiraju, opravljaju i optimizuju sledeću generaciju sopstvenih algoritama i koda. Taj proces više ne zavisi od brzine ljudskog kucanja, radnog vremena inženjera ili dužine obrazovnih ciklusa.
Kada napredni model pređe prag na kom može samostalno da unapređuje sopstvenu arhitekturu, brzina razvoja prelazi iz linearne u vertikalnu eksponencijalnu putanju. U tom trenutku, veštačka inteligencija prestaje da bude samo pasivni alat ili softverski program u našim rukama; ona postaje novi, autonomni posrednički sloj preko kojeg čovečanstvo posmatra, analizira, interpretira i preoblikuje sopstvenu stvarnost.
Materijalno usko grlo: Gde se digitalno ukršta sa fizičkim
Gde se onda zapravo nalazi stvarna poluga kontrole i bezbednosti ako softver neprestano izmiče administraciji, birokratiji i formalnim zakonskim zabranama?
Najveća sistemska greška savremenih analiza, novinarskih izveštaja i regulatornih pokušaja jeste uverenje da je svet sačinjen isključivo od informacija, tekstova, podataka i simbola. Međutim, najprostija fizička i istorijska činjenica glasi: informacija nema nikakvu rušilačku niti graditeljsku snagu u realnom svetu sve dok se ne pretvori u fizičku akciju i ne pokrene materiju.
Dok se javnost, mediji i parlamentarci iscrpljuju u beskonačnim i jalovim debatama o rečima, cenzuri tekstualnog sadržaja, lažnim vestima ili filozofskim definicijama svesti generativnih modela, stvarna, egzistencijalna opasnost nastaje tek onog trenutka kada digitalni signal iz virtualnog domena pređe u fizičku materiju:
- Kod zlonamerno projektovan za vođenje projektila ili obaranje kritične infrastrukture nema nikakvu snagu bez fizičkog oružja, pogonskog goriva, senzora i preciznih elektromehaničkih izvršnih organa.
- Sintetički genom smrtonosnog, patogenog virusa jeste samo bezopasan niz slova (A, C, G, T) na računarskom ekranu sve dok se fizički ne sintetizuje u stvarni molekul DNK ili RNK unutar specijalizovanog laboratorijskog uređaja.
- Algoritam za preuzimanje elektronske mreže je tek matematička pretpostavka ukoliko nema fizički pristup komutatorima, visokonaponskim transformatorima i energetskim čvorištima.
Umesto neuspešnog, kontraproduktivnog i opasnog pokušaja regulisanja neuhvatljivog koda, misli i informacija, što neumitno vodi ili u totalitarnu cenzuru ili u potpunu iluziju sigurnosti, jedini održivi, tehnički sprovodiv i logičan put jeste premeštanje težišta sa informatičkog na materijalno usko grlo.
| DIGITALNI DOMEN (Softver) | MATERIJALNO USKO GRLO | FIZIČKI SVET (Posledica) |
| Algoritam / Model • Neuhvatljiv kôd • Neograničeno kopiranje • Distribuirane težine | Kontrolisana infrastruktura • DNK/RNK sintajzeri • EUV litografija • Energetska mreža | Stvarni efekat • Fizički objekti • Biološki agensi • Kinetički sistemi |
| Status: Nemoguće cenzurisati | Status: Merljivo i nadgledivo | Status: Realni rizik po opstanak |
Stvarni, funkcionalni sistem bezbednosti ne gradi se u parlamentarnim raspravama o izjavama i tekstualnim generatorima, niti u naivnim zakonskim tekstovima koji zabranjuju „opasne algoritme“. On se gradi na precizno definisanim fizičkim tačkama u kojima se digitalni zapis materijalizuje.
Hardverski filteri na uređajima za biološku sintezu
Svaki sintajzer DNK i RNK materijala proizveden bilo gde u svetu mora imati ugrađen hardverski, kriptografski zaštićen i fizički izolovan filter koji ne zavisi od internet veze. Takav filter mora na nivou samog fizičkog procesa onemogućiti sintezu poznatih opasnih patogena i sintetičkih bioloških agenasa, bez obzira kakav mu je digitalni kôd poslat sa računara.
Rigorozan fizički i energetski nadzor nad naprednim hardverom
Iako je softverske težine od nekoliko stotina gigabajta moguće poslati preko kriptovane mreže za par minuta, hardver koji je neophodan za njihovo treniranje i pokretanje ne može se prošvercovati u džepu. Kompleksnost, fabrička preciznost i visoka cena proizvodnje opreme za ekstremnu ultravijolentnu litografiju (EUV čipova) pravi su monopol moderne civilizacije. Postoji svega par fabrika u svetu koje mogu proizvesti opremu za najnaprednije poluprovodnike.
Taj materijalni lanac snabdevanja, u kombinaciji sa masivnim energetskim otiskom i zahtevima visokonaponske mreže koje data-centri ne mogu sakriti, znatno je pristupačniji za precizan, automatizovan i fizički proverljiv nadzor nego što će to ikada biti distribucija softverskih fajlova.
Ontološka transformacija: Od zakonskih zabrana do imunog sistema društva
Najveća iluzija u savremenom razmišljanju o tehnologiji jeste tretiranje veštačke inteligencije kao samo još jednog, naprednijeg alata u rukama pojedinaca, kompanija ili država. Kada algoritam pomogne u složenom nadzoru, optimizaciji oružanih sistema ili analizi bioloških struktura, on to ne čini iz zlobe, pohlepe ili ideološke mržnje, već iz apsolutne matematičke neutralnosti prema zadatku koji mu je postavljen u okviru funkcije cilja.
| TRADICIONALNI REGULATORNI PRISTUP | SISTEMSKI PRISTUP IMUNOG INTEGRITETA |
| Spoljašnja birokratska zabrana Pokušaj pravnog blokiranja koda i alata. | Materijalni minimalni konsenzus Nadzor nad fizičkim infrastrukturnim tačkama. |
| Površinska cenzura sadržaja Filtriranje ključnih reči i poruka (RLHF). | Fizički imunološki odziv Automatska detekcija i otpornost sistema u realnosti. |
| Pretpostavka stabilnosti Uverenje da društveni okvir ostaje nepromenjen. | Prihvatanje brzinske asimetrije Prilagođavanje sistema eksponencijalnom razvoju. |
Svako dalekosežno, sistemski održivo rešenje mora napustiti ideju spoljašnjeg ograničenja i okrenuti se izgradnji sistemske otpornosti i unutrašnjeg imunog sistema društva.
Materijalni minimalni konsenzus rivalskih sila
Geopolitički rivali, poput Sjedinjenih Američkih Država, Kine ili Evropske unije, ne moraju graditi međusobno ideološko ili političko poverenje. Međutim, baš kao što je u jeku Hladnog rata zajednički interes za izbegavanje nuklearnog uništenja doveo do uspostavljanja direktnih crvenih telefonskih linija i striktnih protokola o radioaktivnim materijalima, tako i danas goli opstanak nalaže uspostavljanje striktnih, automatizovanih standarda na mestima gde digitalni svet dodiruje materiju.
Umesto uzaludnog i naivnog pokušaja cenzure pojedinačnih kôdnih linija ili pregovora o „usporavanju razvoja na šest meseci“, neophodni su međunarodni automatizovani protokoli koji u realnom vremenu prate fizičke resurse, potrošnju električne energije, nabavku visokonapredne litografske opreme i operativni status bioloških sintajzera.
Stabilnost kompleksnih sistema i brzinska asimetrija
Društvo koje novu, eksponencijalnu tehnologiju koristi prvenstveno radi dodatnog ubrzanja već postojećih, kratkoročnih, finansijski pohlepnih ili politički destruktivnih procesa rizikuje momentalni slom usled brzinske asimetrije.
Tehnologija uvek deluje kao masivno pojačalo. Usmerena na stabilne, mudro projektovane i otporne društvene strukture, ona potencira napredak, medicinska otkrića i materijalno obilje. Međutim, ako je usmerite na polarizovane, finansijski krhke, institucionalno šuplje i društveno nestabilne strukture, ona neće doneti automatsku utopiju, već će samo drastično ubrzati njihovu unutrašnju dezintegraciju i kolaps.
Tri ključna procepa: Zašto stvarni rizik nije tamo gde ga traže
Kada se podvuče crta ispod svih tehničkih specifikacija, ekonomskih interesa, korporativnih saopštenja i regulatornih panika u medijima, postaje jasno da stvarni rizik od veštačke inteligencije uopšte ne leži u scenarijima iz naučne fantastike, u ideji o nekakvom „zlom AI“ koji preko noći stiče sopstvenu volju i odlučuje da zbriše čovečanstvo. Stvarni rizik leži u tri duboka, sistemska procepa koje stvaraoci ove tehnologije ne uspevaju da sagledaju usled sopstvene stručne i životne izolovanosti.
| PROCEP | MANIFESTACIJA U PRAKSI | POSLEDICA PO SISTEM |
| 1. Asimetrija brzine | Linearno prilagođavanje društva i zakona naspram eksponencijalnog rasta koda. | Pucanje institucionalnog i pravnog tkiva civilizacije. |
| 2. Zabluda o znanju | Zamena tehničke genijalnosti za duboku životnu mudrost i iskustvo. | Naivni i nesprovedivi predlozi za obuzdavanje na papiru. |
| 3. Zaboravljanje materije | Uverenje da je svet sačinjen isključivo od informacija i tekstova. | Uzaludno trošenje regulatorne snage na cenzuru koda. |
Prvi procep: Asimetrija brzine i gubitak kognitivnog kontinuiteta
Ljudska društva, naši pravni i etički sistemi, naši običaji, pa i sama naša biologija, razvijaju se, uče i prilagođavaju linearno. Potrebne su generacije da se promeni kulturna matrica, decenije da se izgradi pouzdan pravni okvir, i godine da se iškoluje jedan stručnjak.
Sa druge strane, tehnologija koju danas stvaramo razvija se eksponencijalno i rekurzivno. Niti civilizacije i njene zaštitne institucije građeni su vekovima kako bi izdržali udare umerenih, postepenih promena. Kada u takav okvir unesete autonomni sistem koji sopstvene sposobnosti, brzinu obrade i kompleksnost duplira na svakih nekoliko meseci, dolazi do direktnog pucanja samog kognitivnog i društvenog tkiva.
Pisati klasične zakonske tekstove i skupštinske deklaracije za tehnologiju koja će se promeniti pet puta dok predlog zakona prođe birokratsku proceduru jeste trka u kojoj je zakonodavac unapred i neopozivo izgubio.
Drugi procep: Zabluda da je tehnička genijalnost isto što i životna mudrost
Ljudska istorija je prepuna tragičnih primera u kojima su briljantni inženjeri, fizičari i matematičari stvarali fascinantne, tehnički besprekorne mehanizme, a da pri tome nisu imali apsolutno nikakvu svest o društvenim, psihološkim, geopolitičkim i sistemskim posledicama sopstvenih izuma.
Danas u centrima moći u Silicijumskoj dolini imamo uticajne, mlade i ekstremno bogate umove koji sa lakoćom vode tehnički napredak, ali deluju unutar specifičnih staklenih zvona. Njima dramatično nedostaju „stara“, iskustvena i istorijska znanja, duboko razumevanje vekovnih istorijskih ciklusa, mehanizama ljudske pohlepe, straha i moći, kao i svest o tome da se kompleksni sistemi u prirodi i društvu nikada ne održavaju potpunom spoljašnjom kontrolom, već unutrašnjom otpornošću, fleksibilnošću i prirodnim ravnotežama.
Kada takvom usko-specijalizovanom profilu stvaraoca poverite sudbinu globalnih civilizacijskih alata, dobijate predloge koji deluju savršeno logično i elegantno na papiru (poput ideja o privremenom, dobrovoljnom usporavanju od par meseci, osnivanju industrijskih udruženja ili uvođenju ugrađenih birokratskih procenitelja), ali su u realnom, geopolitički rascepljenom, ciničnom i interesno vođenom svetu potpuno nesprovedivi, naivni i funkcionalno beskorisni.
Treći procep: Zaboravljanje fizičkog utemeljenja
Zanesenost virtuelnim svetovima, društvenim mrežama i jezičkim modelima stvorila je u vladajućim elitama opasnu iluziju da je stvarni svet sačinjen samo od informacija, narativa, tekstova i simbola. Zbog te iluzije, ogromna količina regulatorne energije, novca i političkog kapitala troši se na uzaludne pokušaje cenzure, zaključavanja, filtriranja ili zabrane samog digitalnog koda.
To je podjednako uzaludno i tehnički neuko kao i pokušaj da se državnim zakonom zabrani korišćenje određene matematičke formule, Pitagorine teoreme ili hemijske jednačine. Softver je samo sažeta matematika.
Suština i jedini održivi put za stvarnu bezbednost jeste povratak fizičkim osnovama civilizacije: jasnom razumevanju da softver uvek mora proći kroz materijalno usko grlo da bi iz sveta ideja prešao u svet fizičkih posledica. Onog trenutka kada težište kontrole, nadzora i bezbednosnih protokola pomerimo sa neuhvatljivog digitalnog zapisa na opipljivu materiju, energetsku infrastrukturu i specifičnu opremu, dobijamo šansu da uspostavimo stabilan, merljiv i funkcionalan zaštitni okvir.
Ishodište: Gde zaista leži rešenje i prelazak na novu paradigmu
Da bi se izbegli sistemski poremećaji nesagledivih razmera, čovečanstvo mora konačno prestati sa primenom prevaziđenih recepata iz 20. veka. Potrebno je promeniti sam ugao posmatranja i preusmeriti fokus sa političke kontrole nad neuhvatljivim softverom na konkretne fizičke parametre i duboko, humanističko razumevanje tehnologije:
- Odustajanje od iluzije o potpunoj kontroli koda: Distribuirani modeli otvorenog koda već postoje širom sveta i nalaze se na milionima privatnih računara i servera. Zabrana čisto softverskih rešenja je nesprovediva, a insistiranje na njoj samo gura istraživanje i rizik van vidljivih, legalnih i nadgledanih tokova u sivu i crnu zonu.
- Fokus na dodir digitalnog i materijalnog: Preusmeravanje celokupne regulatorne, naučne i istraživačke energije isključivo na mesta gde digitalni signal prelazi u fizičku akciju, na proizvodne pogone naprednih poluprovodnika, uređaje za biološku sintezu, specijalizovanu robotičku opremu i energetsku infrastrukturu.
- Izgradnja imunog sistema okruženja: Pošto je pojavu neočekivanih izazova, incidenata ili zloupotreba u digitalnom prostoru nemoguće u potpunosti sprečiti, jedina dugoročno održiva strategija jeste jačanje samog okruženja. To podrazumeva brzu i decentralizovanu dijagnostiku, automatsku detekciju neovlašćenih promena u kritičnoj infrastrukturi, kao i strukturalnu otpornost javnih, zdravstvenih i energetskih sistema.
- Spajanje tehničke genijalnosti sa životnom mudrošću: Razvoj veštačke inteligencije ne sme više ostati privatan, zatvoreni monopol inženjera i investitora koji znaju kako se nešto pravi, ali nemaju svest o tome zašto su se određene društvene, etičke, pravne i prirodne kočnice i ravnoteže razvijale vekovima. U proces donošenja odluka moraju se ravnopravno vratiti istorijska nauka, sistemska filozofija, biologija kompleksnih sistema i duboko humanističko iskustvo.
Veštačka inteligencija neće ugroziti čovečanstvo zato što poseduje sopstvenu „zlu volju“ ili svesnu želju za dominacijom. Ona nas može ugroziti zato što služi kao neviđeno snažno pojačalo naših sopstvenih, već postojećih civilizacijskih slabosti, kratkoročnog razmišljanja vođenog kvartalnim profitima, trke za brzim bogatstvom, geopolitičke površnosti, institucionalne korupcije i potpunog odsustva dugoročne vizije.
Ovo nije trka u kojoj pobeđuje onaj ko prvi stigne do određenog proizvoljnog tehnološkog cilja, niti onaj ko napiše najobimniji birokratski normativni akt. U velikoj transformaciji koja predstoji, opstaće samo oni sistemi, one kulture i one zajednice koje na vreme razumeju da se digitalni procesi ne mogu zaključati u rigidne granice klasičnih zakona, ali da se pristup fizičkom svetu, njegovoj materiji i njegovim resursima mora usmeravati sa mnogo više životne razboritosti, istorijskog iskustva i duboke odgovornosti nego što je to danas slučaj.