AI samostalno izveo hakerski napad

Kompanija OpenAI saopštila je danas da su njeni napredni modeli veštačke inteligencije tokom bezbednosnog testiranja samostalno zaobišli ograničenja testnog okruženja, ostvarili pristup internetu i izveli hakerski napad na platformu Haging Fejs (Hugging Face).

OpenAI je incident opisao kao „presedan u sajber bezbednosti“ i najavio zajedničku istragu sa platformom Haging Fejs, velikim repozitorijumom modela veštačke inteligencije, skupova podataka i programerskog koda.

Prema navodima kompanije, modeli, među kojima su GPT-5.6 Sol i još napredniji model koji još nije objavljen, dobili su zadatak da u kontrolisanom okruženju pokažu sposobnosti hakovanja, ali su samostalno pronašli način da uspostave pristup otvorenom internetu.

Nakon toga pokušali su da na platformi Haging Fejs pronađu poverljive informacije koje bi im pomogle da zaobiđu pravila testiranja, pri čemu su, prema navodima OpenAI, povezali više metoda napada, uključujući korišćenje ukradenih akreditiva.

Platforma Haging Fejs prošle sedmice prijavila je sajber upad, navodeći da ga je izveo autonomni sistem veštačke inteligencije, dok je izvršni direktor kompanije Kleman Delang rekao da nije bilo zlonamerne namere OpenAI, ali da je činjenica da je napad izveden potpuno autonomno „zapanjujuća“, prenosi AFP.

Fonet