Sem Altman i veštačka inteligencija – Mračne tajne i dileme, mašine ili izumiranje (5)
Kada je nedavno u emisiji kod jutjuberke Klio Abram izložio svoje poglede na teme poput budućnosti u koju smo se uputili, pitanja kako veštačka inteligencija utiče na naš tok razmišljanja, šta je superinteligencija, kako AI determiniše šta je istina, gotovo unison doživljaj slušalaca podkasta kroz komentare je da su odgovori Sema Altmana pre oni kakve bi dao GPT-5, a ne čovek.
Gomila opštih mesta, fraza, „spoj nauke i tehnologije za bolje sutra“, pri čemu parametri boljeg sutra uopšte nisu određeni. Pitanje istine već je kao izazov postavljeno Altmanu u emisiji kod Takera Karlsona. I Altman je i dalje vidi kao neku srednju, prosečnu vrednost čovečanstva koju će sračunati upravo kompjuter. Da li to zvuči kao smisleno obrazloženje ili naivna simplifikacija, imajući u vidu da su istine lične, i da zavise od perspektive, kulture, vrednosti, verovanja, konteksta, ostaje veliko pitanje.
Zaparala je uši gotovo slavodobitna Altmanova rečenica – „nijedno dete rođeno danas neće biti pametnije od veštačke inteligencije“. Taj prkos zvuči kao da ga nije sročio čovek.
Ono što je elaborirano i što je neupitno je da će ogromna moć biti u rukama jednog čoveka. Čak i ukoliko taj čovek iza sebe ima ljude kojima i on polaže račune. Koliko tačno velika? Ukoliko kažemo da je GPT-4 zaludeo svet, a da njegovi tvorci za njega kažu da je to gotovo „nedostojan model koji nije ni trebalo da bude pušten u opticaj“. Kao i da je i takav pametniji od 90% današnje populacije. Zamislite šta će se dogoditi sa njegovim naslednikom. I naslednikom naslednika.
Razmišljao i o politici
O razmerama novog AI carstva govori i kolaboracija koja potvđuje da su gotovo svi veliki igrači „all in“ sa OpenAI. Generalni direktor najvrednije kompanije na svetu i generalni direktor i predsednik najvrednije privatne kompanije na svetu, Sem Altman i Džensen Hvang, udružuju snage. Envidija će investirati 100 milijardi dolara u OpenAI, kroz izgradnju centara podataka zasnovanim na Envidijinim AI čipovima.
Sve navedene informacija logično u fokus ponovo stavljaju Altmana. Ko je on, koji motivi ga vode i koje uzuse sledi? Biografija je čeprkana, a neki njeni delovi dovedeni su u spornu korelaciju sa onim čime se bavi i danas. Čovek koji je pre oko šest meseci napunio 40 godina, vegetarijanac je od detinjstva, a svoju seksualnost obznanio je sa 17 godina u srednjoj školi. Zabavljao se sa suosnivačem Lupta Nikom Sivom devet godina. U braku je sa inženjerom Oliverom Malherinom od 2024. godine. Ceremonija je upriličena na njihovom imanju na Havajima.
Koketirao je i sa politikom. Donirao je 2020. godine 250.000 dolara jednom superpaku koji je podržavao demokratskog predsedničkog kandidata Džoa Bajdena. Altman je razmišljao i da se sam kandiduje za guvernera Kalifornije na izborima 2018. godine. Ali, shvatio je da je ta ambicija ipak bila neutemeljena.
Apokalipsa
Ono što je zanimljivo i pomalo zastrašujuće je da Altman veruje u apokalipsu i za nju se temeljno priprema. Rekao je sada davne 2016. godine: „Imam oružje, zlato, kalijum, antibiotike, baterije, vodu, gas maske Izraelskih odbrambenih snaga i veliki komad zemlje u Big Suru (Kalifornija) do kog mogu da letim.
Razložimo ovaj podatak još jedanput. Sem Altman, izvršni direktor kompanije OpenAI, izgradio je bunker za Sudnji dan. On je zakopan i sakriven negde u pustinji Navaho. Opremljen je antibioticima, hidroponskim sistemom za proizvodnju hrane i oružjem. Nekako bi bilo i svarljivo, da se ne radi o čoveku koji pravi veštačku inteligenciju, po mišljenju mnogih stručnjaka prebrzo, preagresivno i bez kontrole, govoreći svetu da je savršeno bezbedan.
Čemu pripreme za katastrofu?
Spajanje (The Merge), mašine ili izumiranje
Priča ima nešto dublju pozadinu, koja seže u 2017.
Malo ljudi zna da je Altman 2017. godine, godinama pre ČetGPT-a objavljivao blog postove sa svojim viđenjem kuda ide tehnologija. Napisao je da će vrsta AI (koju sada on stvara) dovesti do kraja sveta kakvog poznajemo. Uz dalje obrazloženje njegove utopijske vizije da ćemo biti efikasno asimilovani u kolektivni um pokretan veštačkom inteligencijom. Otud i naziv bloga „Spajanje“. U njemu tinja uverenje da se čovečanstvo suočava sa binarnim izborom. Ili se spajamo sa našim mašinama ili se suočavamo sa izumiranjem.
Suosnivač OpenAI, Ilja Sutskever, osvedočeni skeptik po pitanju razvoja AI, rekao je jednom prilikom će vam svaki student istorije reći da kada neko zapiše svoja upozorenja, treba da ih shvatite ozbiljno. Zbog toga su Altmanova upozorenja važna. Iako su relativno do skoro delovala prenaglašeno i preterano. U tome nije sam. Tri najcitiranija naučnika za veštačku inteligenciju slažu se sa njim. I rukovodioci svake veće laboratorije za AI, barem oko dela o najvećoj pretnji čovečanstvu.
Džefri Hinton, kum veštačke inteligencije, najuticajnija osoba koja je izgradila ove sisteme, smatra AI vanzemaljskom inteligencijom. Na toj liniji je i generalni direktor Majkrosoftove veštačke inteligencije, Mustafa Sulejman.
Umirivanje javnosti
Dakle, onaj koji uverava javnost da je sve u redu je isti onaj koji se priprema za najgore. Kojem Altmanu bi trebalo da verujemo?
Šesnaestog maja 2023. godine Sem Altman je sedeo pred Kongresom. Mirno je ponavljao da je veštačka inteligencija pod kontrolom. Da se bezbedno gradi, da je „alat, a ne stvorenje“.
Nije mnogo drugačije bilo ni u Senatu ove godine. Tada se takođe raspravljalo o veštačkoj inteligenciji. Delovalo je da predstavnici ove kuće uopšte nisu bili pripremljeni ili sposobni da Altmana ozbiljno konfrontiraju sa određenim kontradiktornostima.
Sem Altman je delovao odmereno, uverljivo. Kao pravi prodavac siguran u svoj proizvod, na koji je upozoravao pre nego što je shvatio da može da ga proda. Sada kada je OpenAI procenjen na 500 milijardi dolara, njegova poruka se očigledno promenila. Spolja smiren, iznutra uznemiren spoznajom da je superinteligentna veštačka inteligencija najveća pretnja postojanju čovečanstva.
Zbog čega? Puki interes, ili verovanje da se uspon nadljudske AI ne može zaustaviti i da je već u toku? Nema zaustavljanja, već samo usmeravanja odnosno preživljavanja.
Svet AI rada
U međuvremenu, najnovija istraživanja kompanije OpenAI tvrde da veštačka inteligencija neće izazvati pravu nezaposlenost. To se zgodno poklapa sa onim što Trampova administracija želi da čuje. Ali, ukoliko pogledate originalnu povelju OpenAI, njena osnovna misija je izgradnja opšte veštačke inteligencije koja bi mogla da zameni praktično sav ljudski rad.
Pa ipak, političari se drže njegovih reči kao da su jevanđelje. Ignorišu lukavstvo koje stoji iza njegovih postupaka. Čak i kreatori politike počinju da priznaju ovu realnost. Dejvid Saks je obrisao svoje tvitove nakon što ga je Tramp imenovao za alfu i omegu veštačke inteligencije u administraciji. „Ni pomoćnik, ni alat, zamena“.
Paranoja ili realnost?
Iz Altmanovog bloga jasno je da vremenski okvir za njegove spekulacije nije scenario iz daleke budućnosti, već se upravo sada dešava.
Sem Altman kaže da ćemo videti kako AI nadmašuje ljude u skoro svakom pogledu kroz jednu do pet godina. Ovaj vremenski okvir više nije puka prognoza već tihi konsenzus među vodećim istraživačima AI.
Više se ne priča o „alatu“, jer po trenutnom tumačenju etabliranih AI stručnjaka mi ne gradimo ove sisteme, već ih uzgajamo. Sistemi poput ČetGPT-a, nisu kodirani red po red, oni su obučeni i počeli su da rade stvari koje čak ni njihovi tvorci ne mogu u potpunosti da objasne. I sam Altman je u nekim intervjuima govorio da je „često bio iznenađen“.
Ukoliko veštačka inteligencija postaje nova vrsta, pametnija, brža, sa svojim ciljevima, onda ova upozorenja nisu paranoja. Ilja Sutskever otišao je korak dalje sa analogijom na način na koji ljudi postupaju sa životinjama. „Kada dođe vreme za izgradnju autoputa između dva grada, ne tražimo dozvolu od životinja“.
U ovom slučaju, mi smo životinje. Kako da izbegnemo da postanemo fusnota u sopstvenoj evolucionoj priči? Prema Semu Altmanu, postoji samo jedan put: spajanje sa mašinama. Ne metaforičko, već bukvalno, ili nam preti izumiranje.
Pritisnuti dugme za pauzu
Prema Altmanu, ono bi moglo da funkcioniše kroz interfejse mozak-mašina. Na tome radi Ilon Mask kroz svoj Neuralink. Čipovi implantirani u mozak za brže razmišljanje. Uređivanje stotina gena u našim moždanim ćelijama kako bi se naša inteligencija nadogradila iznad svega što nam je evolucija dala.
U kom obliku, kako, da li će spajanje biti uspešno, niko, pa ni Altman nema predstavu.
Altman je jednom prilikom rekao da mu naučnofantastični scenariji poput onog iz filma Terminator, u kojima se veštačka inteligencija odmeće od čoveka, ne daju miran san.
Javno, ovu skepsu tehno-kapitalista, kako za sebe voli da kaže, Altman više ne deli.
Za OpenAI usporavanje u globalnoj trci u AI „naoružanju“ znači poraz. Upozoravanje sveta moglo bi da pokvari poverenje njegovih investitora. Možda je i razlog zbog čega Sem Altman više ne diže uzbunu taj što više i ne može. Sistem čiji je deo previše je moćan da bi se na njega uticalo.
Prvi čovek Guglovog Dipmajnda, najvećeg konkurenta, Denis Hasabis, tvrdi da postoji dugme za pauzu, koje bi trebalo pritisnuti, jer „ne možemo da ostavimo budućnost ljudske vrste u rukama nekoliko tehnologa iz San Franciska“.
Nastaviće se