Šta se dogodi kad softver za nadzor dođe u ruke ultradesničara ili vojske

Clearview AI nije samo modernizovao rad policijskih agencija. On je iz korena promenio dinamiku ljudskog društva. Pretvorio je poverenje u paranoju, a javni prostor u zonu konstantnog skeniranja. To više nije pitanje tehnološkog napretka koji moramo da prihvatimo zarad veće bezbednosti. To je pitanje svesnog odricanja od bazične ljudske slobode. 

Spone kompanije sa ultradesničarima i Piterom Tilom

Novinar Luj O’Brajen je sredinom 2020. u Hafington postu napisao članak koji je povezao kompaniju sa ultradesničarima. Tu tezu je ogolio dokumentarac francuske televizije, čiji je sagovornik bio i Čarls Džonson, ozloglašeni američki ultradesničar i politički provokator. On je imao ključnu ulogu u samom nastanku kompanije Clearview AI.

Bio je čovek koji je obezbedio prve velike investicije i povezao ključne ljude. Džonsonova najvažnija uloga bila je to što je upoznao Hoana Ton-Tata sa milijarderom Piterom Tilom, suosnivačem Pejpala i ranim investitorom u Fejsbuk. Til, poznat po finansiranju naprednih tehnologija za nadzor, i eskapističkim idejama, bio je fasciniran projektom i dao im je početni, takozvani „seed“ novac (oko 200.000 dolara) kako bi uopšte počeli sa razvojem softvera.

Otkud Til tu? Organski, čovek smatra da na vrhu piramide ne treba da sede tradicionalni političari, već tehnološki oligarsi i inženjeri. Elita koja poseduje algoritme, veštačku inteligenciju i podatke. Oni koji ih čuvaju su „psi čuvari“, u ovom slučaju to su Palantir i Clearview AI. Oni stvaraju nevidljivu digitalnu ogradu. Njihov zadatak je da koriste totalni nadzor kako bi „stado“ (građane) držali na sigurnom od „vukova“. Ali i da bi ih držali pod kontrolom i usmeravali njihovo ponašanje. U ovom modelu upravljanja, privatnost je luksuz prošlosti koji ometa efikasnost. Ko su zapravo onda ovde vuci?

Početak saradnje

Dva dana nakon te konvencije, Džonson, koji je pozivao na istrebljivanje Jevreja, povezao je Ton-Tata sa Ričardom Švarcom, bivšim političkim savetnikom gradonačelnika Njujorka. Njih trojica (Ton-Tat, Švarc i Džonson, kao faktički treći suosnivač) su u Njujorku 2017. osnovali kompaniju pod nazivom SmartCheckr LLC, koja je direktna preteča Clearview AI.

Kako je softver za prepoznavanje lica postajao moćniji, kompanija je shvatila da želi da se prodaje američkoj policiji i vladinim agencijama. Džonsonova reputacija ekstremnog desničara postala je ogroman teret za biznis. Čovek koji je obrisao Tviter zbog rasističkih komentara često se hvalio poznanst0vima sa moćnicima. Radio je za Benonov Brajtbajt da bi se kasnije upodobio novom establišmentu tvrdeći da podržava Bajdena. Ne tako davno je sa Ton Tatom klicao Trampu na njegovoj konvenciji u Ohaju.

Džonson je zvanično sklonjen iz operativnog vođstva, ali je prema ugovoru o gašenju firme dobio 10% vlasničkog udela u Clearview AI. Kao i pravo na procente od prodaje softvera klijentima koje je on lično uveo u posao.

Ovde nije kraj kontroverzama. Velika istraga magazina Mother Jones iz aprila 2025, zasnovana na procurelim dokumentima, otkrila je direktnu povezanost osnivača Clearview AI sa neonacistima, eugeničarima i radikalnim planovima za rasno profilisanje. Dokumenti su potvrdili saradnju na razvoju softvera sa ekstremnim desničarima, opsednutost teorijama rase i testiranje tehnologije za identifikaciju LGBT osoba i masovne deportacije.

Kada otključavaš telefon pogledom (FaceID), tvoje lice se skenira lokalno na čipu telefona. Te slike ne idu na internet, pa Clearview ne može odatle da ih preuzme. Zato preuzima slike koje sami svesno okačimo na mreže.

Od Ukrajine do ugovora sa Pentagonom: Tehnologija kao oružje

Najjeziviju primenu ova tehnologija je doživela na aktivnom ratištu. Tokom sukoba u Ukrajini, Clearview AI je postao, kako sami ukrajinski zvaničnici kažu, njihovo „tajno oružje“ protiv Rusije. Više od 1.500 zvaničnika u 18 različitih ukrajinskih državnih agencija dobilo je besplatan pristup bazi sa više od dve milijarde slika povučenih sa ruske društvene mreže VKontakte. 

Tehnologija se na terenu koristi za proveru sumnjivih lica na punktovima. I za nešto daleko mračnije: digitalni psihološki rat. Ukrajinske snage skeniraju lica poginulih ruskih vojnika na bojištu, identifikuju ih pomoću Clearview softvera. Fotografije tela šalju njihovim porodicama i majkama u Rusiji preko društvenih mreža. Ono što je u Njujorku počelo kao komercijalni startap, u blatu istočne Evrope evoluiralo je u hladno, automatizovano oružje psihološkog terora.

Saradnja se u međuvremenu proširila. Clearview AI je potpisao zvanične memorandume sa Kancelarijom generalnog tužioca Ukrajine. Softver se sada masovno koristi za analiziranje stotina hiljada sati snimaka sa sigurnosnih kamera i društvenih mreža iz okupiranih gradova kako bi se identifikovali konkretni ruski vojnici optuženi za ratne zločine, pljačke i učešće u ilegalnim naoružanim grupama.

Orvel

Dok evropski regulatori pokušavaju da pronađu način da procesuiraju njujorške direktore i naplate milionske kazne, američki bezbednosni aparat širom otvara vrata ovoj tehnologiji. Kompanija je nedavno osigurala svoje najveće federalne ugovore do sada.

Prvo je potpisala aranžman vredan skoro 10 miliona dolara sa američkom imigracionom službom (ICE) za potrebe istraga u zemlji. Odmah zatim i ugovor sa upravom za zaštitu granica (CBP) koja je ovaj softver integrisala u svakodnevni rad svog Nacionalnog centra za ciljanje. Pod izgovorom borbe protiv najtežih krivičnih dela, američka administracija dodatno podstaknuta ukidanjem restrikcija na federalnom nivou podiže tehnološki zid i pretvara granice u poligon za permanentno biometrijsko skeniranje.

Pored pograničnih službi, tehnologija je ušla i u samu vojsku kroz ugovor sa Specijalnim jedinicama SAD.

Ovi ugovori su došli kao slamka spasa, ali nisu sprečili smenu osnivača Hoana Ton-Tata sa mesta izvršnog direktora. Akcionari su tražili one koji ovakve ugovore mogu da sklope pa je na njegovo mesto došao Hal Lambert. On je moćni američki biznismen, rani investitor u Clearview i što je najvažnije, veliki donator i sakupljač finansijskih sredstava za Republikansku partiju i kampanje Donalda Trampa. I njemu će društvo praviti Švarc.

Kada algoritam pogrešno presudi

Svet koji Clearview AI aktivno gradi neodoljivo podseća na filozofski koncept panoptikona. Zatvora u kojem jedan stražar u kuli može u svakom trenutku da vidi svakog zatvorenika, dok zatvorenici nikada ne znaju kada su tačno posmatrani. Kada policija može da prođe pored demonstranata na političkom protestu i pomoću ovog softvera u sekundi identifikuje svakog učesnika, koncept slobode okupljanja postaje prazna ljuštura.

Šta kaže američka policija?

Kažu da je prepoznavanje lica budućnost, da policiji olakšava posao i da je to neuro-centar svake moderne police. Ispomoć kamerama za javnu bezbednost, koje iniciraju prepoznavanje lica, ali i čitačima registarskih tablica. Oni plaćaju godišnju naknadu od 47.000 dolara za pristup Clearview-u.

U Sjedinjenim Američkim Državama gotovo da ne postoje zakoni koji regulišu upotrebu prepoznavanja lica od strane policije. U vreme otkrivanje ove afere, kada je čelni čovek kompanije bio u misiji spasavanja kredibiliteta Clearview-a (ukoliko je ikada i postojao) stizala su neverovatna priznanja upotrebe ovog programa. Od policije u Torontu, preko privatnih firmi u Americi, Verajzona, Best Baja, kazina u Las Vegasu.

Ono što ovu praksu čini duboko uznemirujućom jeste činjenica da baza Clearview AI ne sadrži profile registrovanih kriminalaca, već profile običnih građana koji su samo želeli da podele trenutke sa proslava, porodičnih okupljanja ili godišnjih odmora. Naša lica, kao naše najintimnije i nepromenjivo biološko svojstvo, preko noći su komercijalizovana i pretvorena u alat državnog nadzora, a da nas niko ništa nije pitao.

Hapšenja pogrešnih ljudi

Problem postaje još opipljiviji kada pređemo sa nivoa geopolitike na nivo običnog pojedinca. Tehnologija prepoznavanja lica nije nepogrešiva, a njene greške uništavaju živote. Samo u Sjedinjenim Državama je do sada zabeleženo najmanje osam slučajeva lažnih pozitivnih rezultata koji su doveli do pogrešnog hapšenja nevinih ljudi. Žrtve, uglavnom pripadnici manjina, proveli su dane u ćelijama samo zato što je algoritam površno povezao geometriju njihovog lica sa nejasnim snimkom pljačke sa nadzorne kamere. 

Za razliku od lozinke na elektronskoj pošti ili PIN koda na bankovnoj kartici, svoje lice ne možete promeniti kada vam ga sistem jednom kompromituje. Clearview AI je oduzeo pravo na novi početak i pravo da budemo zaboravljeni. Svaka greška iz mladosti, svaka fotografija koja je slučajno završila na mreži pre 10 godina, sada je trajno uvezana u sistem koji vas posmatra kao statističku verovatnoću krivice.

Sada, u pokušaju da ironično profitira od problema koji je delom i sam stvorio, Clearview ubrzano razvija i softver za detekciju dipfejk sadržaja i generisane inteligencije. Kompanija želi da postane i sudija i dželat digitalne istine. Prvo su uzeli stvarna lica, a sada žele monopol nad prepoznavanjem onih lažnih.

Kada sledeći put podignete telefon da napravite selfi i da tu fotografiju postavite na internet, setite se da ta kamera više nije samo vaš privatni prozor u svet. To je prozor kroz koji vas, preko ramena javnosti, posmatra jedna privatna korporacija sa Menhetna. Naša lica su postala njihovo najvrednije vlasništvo, a mi smo pristali da budemo statisti u sopstvenom životu. Ovaj svet truli kroz njegov najprogresivniji deo, tehnologiju. Posledice ćemo verovatno tek osetiti u punoj boji hladnoće, kontrole i otuđenosti.