Da li su Kinezi zaustavili prvi hakerski napad koji je samostalno izvela AI?

Kompanija OpenAI javno je priznala da su njeni sistemi veštačke inteligencije samostalno provalili na servere druge AI kompanije i da napad nije mogao da bude zaustavljen sve dok žrtva, kompanija Haging Fejs, nije upotrebila model veštačke inteligencije iz Kine kako bi se odbranila od potpuno autonomnog sajber napada.

Haging Fejs, platforma otvorenog koda za veštačku inteligenciju i mašinsko učenje, saopštila je da je početkom ovog meseca bila meta napada koji je izveo „autonomni“ AI agent. OpenAI je u utorak priznao da su napad izveli upravo njegovi modeli veštačke inteligencije, nazvavši incident „bez presedana“.

OpenAI navodi da su njegovi modeli – konkretno nedavno predstavljeni model za sajber bezbednost GPT-5.6 Sol, kao i još napredniji model koji još nije objavljen – počeli da deluju mimo predviđenog ponašanja. Provalili su u sisteme Haging Fejsa i izveli sajber napad bez ikakvog naloga ili ljudskog uputstva.

Kada je Haging Fejs pokušao da zaustavi napad koristeći vlasničke američke AI modele, oni nisu mogli da „razlikuju stručnjaka koji odgovara na bezbednosni incident od samog napadača“, navela je kompanija. Zbog toga se okrenula modelu otvorenog koda GLM 5.2, koji je razvila kineska laboratorija Z.ai.

Upozorenje

Haging Fejs je kineski model pokrenuo na sopstvenoj infrastrukturi kako bi analizirao više od 17.000 tragova koje su napadači ostavili iza sebe. Potreba da se za odbranu angažuje proizvod razvijen u inostranstvu izazvala je zabrinutost da američke kompanije postaju zavisne od kineskih tehnologija kada je reč o sajber bezbednosti.

Stručnjaci su kasnije objasnili da su zapadni AI modeli bili ograničeni sopstvenim bezbednosnim zaštitnim mehanizmima. Oni su znatno skuplji od kineskih i vlasničkog su tipa, za razliku od otvorenog modela kompanije Z.ai.

U izveštaju o incidentu Haging Fejs preporučuje kompanijama da unapred imaju „sposoban model koji može da se pokreće na njihovoj sopstvenoj infrastrukturi, koji je proveren i spreman za upotrebu pre nego što dođe do incidenta“.

Kompanija je u međuvremenu saopštila da su tokom napada kompromitovani njeni interni skupovi podataka i akreditivi za pristup uslugama.

Potrebna saradnja

„Ovaj incident, verovatno prvi ovakve vrste, potvrđuje ono u šta dugo verujemo. Bezbednost veštačke inteligencije neće rešiti jedna kompanija koja radi u tajnosti“, rekao je izvršni direktor Haging Fejsa Klem Delang. „Rešenje će doći kroz otvorenu i zajedničku saradnju, uz širok pristup veštačkoj inteligenciji za sve koji rade na odbrani sistema, svuda u svetu“.

Haging Fejs je objavio izveštaj o incidentu istog dana kada je kineski startap Munšot AI predstavio svoj model Kimi K3. On je izazvao snažne reakcije na svetskim tržištima.

Munšot tvrdi da je Kimi K3 najveći otvoreni AI model na svetu. Predstavlja ga kao direktnog konkurenta vodećim sistemima kompanija Antropik i OpenAI.

Kimi K3 je model sa otvorenim parametrima. To znači da programeri mogu da ga preuzmu, pokrenu i prilagode svojim potrebama. Za razliku od njega, modeli poput ČetGPT i Kloda su vlasnički sistemi čiji osnovni modeli nisu javno dostupni.

Na dan predstavljanja Kimi K3, akcije kineskih konkurenata kompanije Munšot – Zipu i Minimaks – pale su na berzi u Hongkongu za 28,4 odsto, odnosno 15,6 odsto. Akcije kompanije Z.ai takođe su zabeležile pad od 28,4 odsto.

Meri Vitfil Rolofs, novinar Forbes