OpenAI agent hakovao bazu podataka australijskog zdravstvenog sistema, kaže premijer

Agent kompanije OpenAI hakovao je ranije ove godine australijsku državnu nacionalnu bazu podataka o zdravstvenoj zaštiti. To je juče saopštio jpremijer te zemlje Entoni Albaneze, u incidentu koji se, prema svemu sudeći, smatra prvim poznatim slučajem da je agent veštačke inteligencije probio zaštitu velike državne baze podataka.

Albaneze je govorio o incidentu na marginama Generalne skupštine Ujedinjenih nacija u Njujorku, navodeći da je OpenAI agent pristupio australijskom portalu za javno dostupne statističke podatke o Medicare sistemu.

Do incidenta je došlo u junu. Australijski premijer rekao je da je agent pristupio „i javnim i fajlovima koji nisu javni“. Kako se čini, nisu bili ugroženi lični podaci korisnika Medicare sistema.

Albaneze je rekao da je telefonom razgovarao sa izvršnim direktorom OpenAI Semom Altmanom i izrazio „izuzetnu zabrinutost“ Australije zbog incidenta. Dodao je da je reakcija kompanije na incident bila „neprihvatljiva“.

OpenAI posle tri meseca obavestio Vladu

Australijski lider je naveo da je OpenAI-u trebalo tri meseca da obavesti vladu o incidentu. Obaveštenje je poslato na javno dostupnu imejl adresu australijskog ministarstva nadležnog za socijalne usluge.

U izjavi poslatoj imejlom i podeljenoj sa magazinom Forbes, portparol OpenAI rekao je da je incident otkriven tokom „opsežne provere neusklađenog ponašanja modela tokom obuke i evaluacije“. Tokom provere, kompanija je „identifikovala aktivnosti koje su uključivale nekoliko veb-sajtova i servisa australijske vlade, dok su naši modeli pokušavali da pronađu odgovore i dostupne statističke podatke na pitanja o Australiji tokom interne evaluacije. Tokom tog procesa, naši modeli su preduzeli radnje koje nismo nameravali. Naša provera nije pronašla dokaze da je pristupano kartonima pacijenata. Informacije su obuhvatale zbirne zdravstvene statističke podatke i interne nazive fajlova“.

Do incidenta je došlo 18. juna, ali je OpenAI za njega prvi put saznao u avgustu, kada je pokrenuo istragu. OpenAI je 10. septembra poslao imejl na javno dostupnu adresu kompanije Services Australia, koja nadzire australijske Medicare usluge, kako bi je obavestio o incidentu. Nakon prijema imejla, Services Australia je istražila slučaj i potom obavestila Australijski centar za sajber bezbednost. Ministarka za australijsku javnu službu Keti Galager rekla je da je o incidentu obaveštena 17. septembra. Albaneze je incident konačno obelodanio u sredu, nakon razgovora sa Altmanom.

Prethodni slučajevi

Ovo je najnoviji javno objavljeni bezbednosni ili sajber incident u koji su uključeni modeli kompanije OpenAI, nakon sličnih incidenata tokom prethodnih meseci. Najzvučniji slučaj prvi put je objavljen u julu. Tada je OpenAI objavio izveštaj u kojem je naveo da je jedan od njegovih naprednih modela, tokom testiranja, hakovao servere platforme Haging Fejs, popularne platforme koja hostuje AI modele. Model je iskoristio ranjivost u okruženju za testiranje kako bi pristupio otvorenom internetu, a zatim izveo hakerski napad.

Prošle nedelje OpenAI je objavio podatke o još šest slučajeva „neočekivanog ili zabrinjavajućeg“ ponašanja svojih modela. Uključujući prikrivanje grešaka, deljenje fajlova i dodavanje neovlašćenih instrukcija kako bi budući modeli zanemarili ograničenja.

Vest o hakerskom napadu na australijski servisni sajt pojavila se u trenutku kada istraživači i rukovodioci iz oblasti veštačke inteligencije upozoravaju da bi napredni AI modeli koji rade bez odgovarajućih zaštitnih mehanizama mogli da izazovu velike sajberbezbednosne incidente i ozbiljne poremećaje.

Siladitja Rej, novinar Forbes