Pentagon troši milione na AI hakere

SAD tiho ulaže u AI agente za sajber ratovanje. Troši milione dolara ove godine na tajnoviti startap koji koristi veštačku inteligenciju za ofanzivne sajber napade na američke protivnike.

Prema podacima o saveznim ugovorima, tajni startap Tventi (ili XX) iz Arlingtona u Virdžiniji potpisao je ovog leta ugovor sa američkom Sajber komandom, vredan do 12,6 miliona dolara. Dobio je i istraživački ugovor sa mornaricom od 240.000 dolara. Kompanija ima podršku investicionog fonda In-Q-Tel, neprofitnog VC fonda koji je osnovala CIA. Kao i Caffeinated Capital-a i General Catalyst-a. Tventi je odbio da komentariše.

Neobični ugovori i oglasi

Ugovori Tventija predstavljaju retkost. Startap koji razvija AI za ofanzivne sajber operacije, uz podršku venture kapitala, dobija posao za Sajber komandu. Obično takvi ugovori idu manjim specijalizovanim kompanijama. Ili starim gigantima odbrambene industrije poput Booz Allen Hamilton-a ili L3Harris.

Iako se kompanija još nije javno predstavila, na njihovom sajtu stoji da im je cilj „transformacija radnih procesa koji su nekada zahtevali nedelje ručnog rada u automatizovane, neprekidne operacije nad stotinama ciljeva istovremeno“. Tventi tvrdi da „fundamentalno menja način na koji SAD i njihovi saveznici učestvuju u sajber sukobima“.

Njihovi oglasi za posao otkrivaju još detalja. U jednom od njih, kompanija traži direktora ofanzivnih sajber istraživanja, koji će razvijati „napredne ofanzivne sajber kapacitete, uključujući okvire za puteve napada… I alate za AI automatizaciju“. Oglasi za AI inženjere pokazuju da Tventi planira da koristi otvorene AI alate poput CrewAI. On omogućava rad više autonomnih AI agenata u saradnji. U oglasu za analitičara navodi se da će raditi na „razvoju persona“. Vlada često koristi socijalni inženjering za sajber napade, oslanjajući se na uverljive lažne onlajn naloge kako bi se infiltrirala u neprijateljske zajednice i mreže. (Forbes je ranije izveštavao o policijskim izvođačima koji su koristili AI za kreiranje takvih avatara.)

Ko stoji iza Tventija

Izvršni tim Tventija, prema sajtu kompanije, pun je bivših vojnih i obaveštajnih kadrova. Direktor i suosnivač Džo Lin je bivši rezervni oficir američke mornarice. I bivši potpredsednik za upravljanje proizvodima u sajber gigantu Palo Alto Netvorks. U Palo Alto je došao nakon što je ta kompanija kupila Expanse. Tamo je pomagao bezbednosnim službama da otkriju ranjive tačke u njihovim mrežama. Glavni tehnički direktor Leo Olson takođe je radio u timu za nacionalnu bezbednost u Expanse-u. Bio je oficir za obaveštajnu signalizaciju u američkoj vojsci. Potpredsednik za inženjering, Skajler Onken, proveo je više od decenije u Sajber komandi SAD i američkoj vojsci. Šef za odnose sa vladom, Adam Hauard, godinama je radio na Kapitol Hilu. Najskorije u timu za tranziciju Nacionalnog saveta za bezbednost za dolazeću Trampovu administraciju.

Američka vlada nije jedina koja koristi AI za razvijanje svojih hakerskih sposobnosti. Prošle nedelje, AI gigant Antropik objavio je alarmantno istraživanje. Kineski hakeri koristili su njihove alate za sajber napade. Kompanija je saopštila da su hakeri koristili Klod za kreiranje AI agenata koji su obavljali 90% posla u izviđanju ciljeva i osmišljavanju metoda napada.

Moguće je da SAD takođe koriste OpenAI, Antropik ili xAI Ilona Maska za ofanzivne sajber operacije. Ministarstvo odbrane je svakoj od ovih kompanija dodelilo ugovore vredne do 200 miliona dolara za nedefinisane „frontier AI“ projekte. Nijedna kompanija nije potvrdila šta radi za Pentagon.

Poslovi na ofanzivnim sajber operacijama

S obzirom na fokus Tventija na istovremene napade na stotine ciljeva, njihovi proizvodi izgledaju kao veliki korak napred u automatizaciji sajber ratovanja.

Za poređenje, ugovarač Two Six Technologies dobio je više ugovora u oblasti AI ofanzivnih sajber operacija. Uključujući jedan vredan 90 miliona dolara u 2020. godini. Ali su njihovi alati uglavnom namenjeni asistiranju ljudima, ne zamenjivanju. Poslednjih šest godina rade na razvoju automatizovane AI „za asistenciju u sajber borbenom okruženju“ i „podršku razvoju strategija sajber ratovanja“ u okviru projekta nazvanog IKE.

Navodno je njihovoj AI bilo dozvoljeno da sama nastavi napad ako bi procenila da su šanse za uspeh visoke. Vrednost ugovora porasla je na 190 miliona dolara do 2024. godine. Ali, nema naznaka da IKE koristi agente za operacije u razmerama koje tvrdi Tventi. Two Six nije odgovorio na zahteve za komentar.

AI se mnogo češće koristi u odbrani, naročito u korporacijama. Kao što je Forbes ranije ove nedelje izvestio, izraelski startap Tenzai prilagođava AI modele OpenAI i Antropika kako bi pronalazio ranjivosti u softveru svojih klijenata. Iako je njihov cilj testiranje bezbednosti (red teaming), a ne hakovanje.

Tomas Bruster, novinar Forbes