Veštačka inteligencija prati i toalete u školama: Dobrodošli u novi sistem nadzora

Unutar bele zgrade od štukature u južnoj Kaliforniji, video-kamere upoređuju lica prolaznika sa bazom podataka za prepoznavanje lica. Veštačka inteligencija za analizu ponašanja pregleda snimke u potrazi za znakovima nasilnog ponašanja. Iza vrata toaleta, uređaj nalik detektoru dima snima zvuk, osluškujući znake uznemirenosti. Napolju, dronovi stoje spremni za aktiviranje i prikupljanje informacija iz vazduha, dok čitači registarskih tablica kompanije Flock Safety, giganta u oblasti nadzora vrednog 8,5 milijardi dolara, obezbeđuju da automobili koji ulaze i izlaze sa parkinga nisu u vlasništvu kriminalaca.

Ovo nije visoko obezbeđen državni objekat. Ovo je srednja škola Beverli Hils.

Nadzornik školskog okruga Aleks Černis kaže da je ovakav impresivan arsenal nadzornih alata nužan. I da garantuje bezbednost njegovih učenika. „Nalazimo se u središtu urbanog okruženja Los Anđelesa, u jednom od najprepoznatljivijih gradova na planeti. Zato smo uvek meta, što znači da su naša deca meta, kao i naše osoblje“, rekao je on. U fiskalnoj 2024–2025. godini, okrug je potrošio 4,8 miliona dolara na bezbednost, uključujući i osoblje. Nadzorni sistem svakodnevno uoči više pretnji, navodi okrug.

Sve više škola u priči

Aparatura u Beverli Hilsu možda deluje ekstremno, ali nije izuzetak. Širom SAD škole uvode slične nadzorne sisteme. U nadi da će ih zaštititi od užasnog i neprekidnog talasa masovnih pucnjava. Ove godine zabeleženo je 49 smrtnih slučajeva od vatrenog oružja na prostorima škola. U 2024. bilo ih je 59, a u 2023. godini 45, prema podacima organizacije Everytown for Gun Safety. Između 2000. i 2022. godine, u američkim školama ubijena je 131 osoba, a 197 je ranjeno, većinom dece. Imajući u vidu te zastrašujuće brojke, izdvajanje dela budžeta za najsavremenije bezbednosne i nadzorne alate zasnovane na veštačkoj inteligenciji relativno je laka odluka.

„Ova zajednica želi… sve što možemo da uradimo kako bismo naše škole učinili bezbednijim“, rekao je Černis. „Ako to znači naoružano obezbeđenje, dronove, AI i čitače registarskih tablica – samo napred“.

Da li novi nadzor zaista pomaže

Skeptici, međutim, tvrde da ima malo dokaza da će tehnologije veštačke inteligencije značajno smanjiti te brojke. Kao i da narušavaju poverenje učenika. Izveštaj Američke unije za građanske slobode (ACLU) iz 2023. pokazao je da se osam od 10 najvećih školskih pucnjava u Americi od Kolumbajna dogodilo u kampusima sa nadzornim sistemima. Čed Marlo, viši savetnik za javne politike u ACLU-u i autor izveštaja, rekao je da čak i sa pojavom alata zasnovanih na veštačkoj inteligenciji postoji ozbiljan manjak nezavisnih istraživanja koja bi potvrdila da su oni zaista bolji u sprečavanju tragedija. „Vrlo je neobično tvrditi da će ovo čuvati vašu decu“, rekao je on.

Izveštaj je takođe pokazao da nadzor stvara atmosferu nepoverenja: 32% ispitanih učenika uzrasta od 14 do 18 godina reklo je da se osećaju kao da su stalno pod prismotrom. U fokus-grupama koje je organizovao ACLU, učenici su rekli da se osećaju manje prijatno da obaveste nastavnike o problemima mentalnog zdravlja i fizičkom zlostavljanju. Marlo smatra da je to loš kompromis. „Zato što deca ne veruju ljudima koje doživljavaju kao špijune, poverenje se narušava i to zapravo čini stvari manje bezbednim“, rekao je on.

Školski okrug Beverli Hilsa to ne vidi tako. „Ne postoji iznos novca koji bismo mogli da uložimo u bezbednost i sigurnost u Jedinstvenom školskom okrugu Beverli Hils, a da se roditelji i zajednica s tim ne slože“, rekao je Černis.

Zadovoljni

Nikol Gorbačeva, koja je ranije ove godine stekla diplomu srednje škole Beverli Hils, rekla je da podržava povećane mere bezbednosti u okrugu koji je ranije dobijao pretnje bombama, imao provale i, u skorije vreme, antisemitske pretnje. Ranije ove godine, neko je nacrtao svastiku na trotoaru ispred jedne osnovne škole u okrugu. „Tokom godina gledala sam kako se BHHS menja iz opuštenog, otvorenog kampusa u zatvorenije i mnogo zaštićenije okruženje“, rekla je ona. Uvođenje nadzorne tehnologije zasnovane na veštačkoj inteligenciji „ne deluje distopijski. Deluje preventivno. Stvara osećaj da neko stalno pazi na učenike“, dodala je Gorbačeva.

I druge škole govore slično. Kristofer Hajlig je nadzornik u Regionalnoj srednjoj školi Rancokas Veli u Nju Džerziju. Ima i do 50 kamera sa softverom za detekciju oružja kompanije ZeroEyes. Tokom vežbi aktivnog napadača u toj školi, vreme potrebno da se napadač uhvati prepolovljeno je korišćenjem ZeroEyes-a, tvrdi on. „Ne možete da se raspravljate o rezultatima kada spašavate živote“.

Greške u prepoznavanju oružja

Prošle godine, ZeroEyes je saopštio da je dobio SAFETY Act priznanje Ministarstva za unutrašnju bezbednost SAD (DHS), za koje je evaluator tog ministarstva rekao da je „svedočanstvo pouzdanosti i efikasnosti platforme, merene kroz rigorozno testiranje, evaluaciju i stvarne događaje“. ZeroEyes navodi da je njihova tehnologija od 2023. detektovala više od 1.000 komada vatrenog oružja.

Jedan od tih slučajeva dogodio se ranije ove godine u jednoj školi u Teksasu. Tada je maloletnik nosio pušku i pokušavao da uđe u školu. Policija ga je uhapsila pre nego što je pucao na bilo koga. Generalni direktor, suosnivač i bivši mornarički specijalac Majk Lahif rekao je da drugi incidenti nisu bili tako ozbiljni. „Viđali smo ljude sa oružjem u školama, ali mislim da nisu bili tamo da pucaju na učenike“, rekao je on za Forbes. Priznao je da ZeroEyes veštačka inteligencija često pogrešno označi bezazlene predmete kao oružje. Ali i da je njihov tim veterana, bivših pripadnika hitnih službi i policije tu da proveri upozorenja i po potrebi pošalje policiju.

To nije savršen sistem. ZeroEyes je bio odgovoran za lažne uzbune. Uključujući pogrešnu detekciju oružja u jednoj školi u Teksasu 2023. godine. Škola je tada stavljena u blokadu, što je prestravilo učenike, prema lokalnim izveštajima. „Priznate grešku i to vam pomaže da ubuduće budete bolji“, rekao je Lahif. Kompanija nije upoznata ni sa jednim slučajem školske pucnjave u kojoj je njihova tehnologija bila primenjena.

Reakcija regulatora

Tačnost je čest problem ove tehnologije. Evolv, rešenje za detekciju oružja koje koristi više od 800 škola širom SAD, uključujući srednju školu Beverli Hils, označavalo je bezazlene lične predmete poput laptopova i flaša za vodu kao oružje. Savezna trgovinska komisija (FTC) je 2024. ukorila kompaniju zbog obmanjivanja škola tvrdnjama da njihova veštačka inteligencija može da detektuje sve vrste oružja. Regulator je naveo da je u više navrata u tome zakazala, uključujući incident iz 2022. kada nije označila nož dužine veće od 20 centimetara koji je korišćen za ubadanje učenika. Portparol Evolva Aleks Ozerkis rekao je da je kritika FTC-a bila usmerena na „istorijske marketinške tvrdnje“, koje je Evolv sada ispravio. Ali, nije osporio „suštinsku efikasnost“ proizvoda.

Ozerkis je rekao da Evolvova tehnologija u proseku pomaže korisnicima da svakodnevno detektuju i evidentiraju 500 komada vatrenog oružja i da svakog dana proveri više od 850.000 posetilaca škola. Evolv takođe ima istu DHS akreditaciju kao ZeroEyes i ranije se pozivao na istraživanje treće strane koje je sproveo Nacionalni centar za bezbednost i sigurnost sportskih događaja. Pokazalo je da je sistem veoma efikasan u otkrivanju oružja na jednom stvarnom sportskom događaju.

Kontroverze zbog grešaka

Ranije ove godine, još jedan rival u oblasti detekcije oružja, kompanija Omnilert, označila je kao moguću pretnju vatrenim oružjem šesnaestogodišnjeg učenika u okrugu Baltimor, u saveznoj državi Merilend. On je posegao u džep da uzme praznu kesicu Doritosa. Tinejdžer, koji pohađa srednju školu Kenvud u Eseksu, rekao je da ga je policija zbog toga držala na nišanu, prema lokalnim medijima. I da se nakon tog incidenta više nije osećao bezbedno u školi. Omnilert je Forbes uputio na izveštaj Kancelarije glavnog inspektora za obrazovanje savezne države Merilend. U njemu je zaključeno da je do umešanosti policije došlo zbog nesporazuma između obezbeđenja i direktora škole. Portparol Omnilerta Blejk Mičel rekao je da se kompanija nije susretala sa sličnim slučajevima.

Kontroverzni su i proizvodi za analizu ponašanja zasnovani na veštačkoj inteligenciji. Oni tvrde da mogu da detektuju znake agresije ili druge zabrinjavajuće radnje, poput preskakanja ograda. Proizvodi koji tvrde da mogu da utvrde emocije osobe na osnov3u vizuelnih i audio podataka često su kritikovani kao neefikasni ili pristrasni. Ranija istraživanja ukazivala su da takvi sistemi češće pripisuju negativna emocionalna stanja crncima.

Testiranja

To, međutim, nije sprečilo obrazovne institucije da ih kupuju. Bret Fuks, direktor bezbednosti na Univerzitetu Tenesi u Čatanugi, uveo je VoltAI na postojeće kamere u kampusu. Tehnologija, koju VoltAI naplaćuje 365 dolara po video-strimu godišnje, tvrdi da može da detektuje oružje, vršnjačko nasilje, osobe koje su pale i zadržavanje na jednom mestu. Kako bi je testirao, Fuks je zamolio kolege da se „naizgled“ potuku ispred kamere. Veštačka inteligencija je to uspešno označila, što ga je uverilo da alat uvede početkom ove godine.

VoltAI je takođe pomogao da se detektuje beskućnik koji je pao na univerzitetskom imanju i koji je kasnije upućen u prihvatilište, rekao je Fuks. Kada su pristizali lažni pozivi o pucnjavi, VoltAI je pomogao da se policajci uvere da se ništa opasno ne dešava. „Znamo da bismo dobili upozorenja mnogo pre nego što bi taj telefonski poziv uopšte stigao“, rekao je on. Ipak, napominje da sistem još nije testiran u nekom ozbiljnom incidentu.

Nadzirani nisu uvek upoznati

Kako se sve više kamera sa veštačkom inteligencijom pojavljuje po školskim kampusima, oni koji su najviše pod nadzorom — učenici, roditelji i nastavnici — nisu uvek uključeni u donošenje odluka. Ketrin Voren, predsednica Udruženja prosvetnih radnika Beverli Hilsa, nastavnica u lokalnoj osnovnoj školi i majka deteta u tom okrugu, rekla je da je sindikat nastavnika ove jeseni podneo prigovor zbog postavljanja kamera u prostorima poput biblioteke i fiskulturne sale. Iako kamere nisu dozvoljene u učionicama, dozvoljene su u drugim delovima kampusa. „Ukazali smo na zabrinutost da su to nastavni prostori. I da bi trebalo da imaju ista prava na privatnost kao i tradicionalne učionice“, rekla je Voren.

Portparol Beverli Hilsa Kolbi Gilardijan rekao je da se okrug saglasio da sindikat obavesti o tome gde se kamere nalaze. I da ih neće postavljati na mestima gde postoji „razumno očekivanje privatnosti“. To, međutim, ne uključuje biblioteku i fiskulturnu salu.

Voren je takođe rekla da nije bila obaveštena o nedavnom uvođenju prepoznavanja lica od strane AI dobavljača Vaidio iz Konektikata tokom ceremonije dodele diploma 2025. godine. Niti o tome da li je njena slika uneta u biometrijsku bazu podataka. Slično tome, bivša učenica Gorbačeva nije znala da je prepoznavanje lica testirano tokom mature. Gilardijan je rekao da okrug planira „detaljnije razgovore“ o toj tehnologiji ako i kada dođe do šire primene. Trenutno je ona ograničena na 15 kamera u celom okrugu, koji obuhvata srednju školu, jednu osnovnu školu i dve niže škole. Gilardijan je rekao da se koristi samo „mala interna demo-lista“.

Kompanije tvrde da ne narušavaju privatnost

Škola nije zakonski obavezna da obavesti roditelje, učenike ili nastavnike o tome da su uključeni u sistem za prepoznavanje lica. Kalifornijski zakon o zaštiti potrošača zahteva da preduzeća obaveste pojedince da se njihovi biometrijski podaci prikupljaju, ali su javne škole izuzete. Šon O’Konor, direktor bezbednosti i sigurnosti u Školskom okrugu Beverli Hilsa, rekao je da, iako kamere „neprestano prikupljaju podatke… procenjuju ljude i govor tela“, okrug „veliku pažnju posvećuje privatnosti“. „Ne delimo ove informacije, a čak i kada smo zakonski obavezni da dostavimo određene snimke [kao odgovor na policijski sudski nalog ili zahtev], zamućujemo lica svih koji nisu bili uključeni u incident“, rekao je O’Konor.

I VoltAI i ZeroEyes tvrde da njihove tehnologije ne prepoznaju identitete, već samo objekte i ponašanja. I da stoga ne predstavljaju pretnju po privatnost.

Čak i tamo gde postoji zaštita privatnosti, postoji mogućnost da se tehnologije pretvore u zlonamernije sisteme za špijuniranje. Motorola, kompanija koja proizvodi Halo uređaje za „slušanje“ u toaletima, saopštila je da ne čuva podatke snimljene u toaletima. Uređaji u realnom vremenu samo detektuju zabrinjavajuće zvuke, poput pucnjeva ili vikanja „upomoć“, i podižu uzbunu. Međutim, ranije ove godine, jedan tinejdžer iz Portlanda hakovao je Halo uređaje u svojoj školi. Mogli su neprimetno da se pretvore u stalne prislušne uređaje koji snimaju sve što se dešava u toaletu. Tinejdžer je rekao da je hakovanje bilo moguće jer je mogao neograničeno da pogađa administratorsku lozinku uređaja. Motorola je bezbednosni propust otklonila ažuriranjem sistema.

Portparol Motorole rekao je da kompanija „kontinuirano unapređuje i testira svoja rešenja kako bi ojačala bezbednost“. Takođe su naveli i druge nedavne uspešne primere, uključujući jedan medicinski hitan slučaj u školskom toaletu. Tada je nastavnik dobio terapiju koja mu je spasla život nakon što je Halo detektovao ključne reči „upomoć“ i „hitno“ i alarmirao direktora.

Višestruka korist

Škole navode da nadzorne tehnologije imaju i druge koristi, osim bezbednosti. Prepoznavanje lica može se koristiti kada roditelj dođe po dete, a ono ne može odmah da se pronađe, rekao je O’Konor iz Beverli Hilsa. Kamere mogu osoblju da pokažu da li je dete u školi, pored kojih kamera je prošlo i šta je nosilo, kako bi se brzo pronašlo. Halo uređaji u toaletima, kojih je 25 u upotrebi širom okruga Beverli Hils, služe i kao detektori dima i elektronskih cigareta. Kompanija za prepoznavanje registarskih tablica Flock Safety i njen partner Raptor Tech promovišu uslugu pod nazivom DismissalSafe. Ona prati dolaske i odlaske tokom preuzimanja dece, šaljući obaveštenja kada vozilo koje dolazi po učenika stigne na parking. I potvrđuje da je dete bezbedno preuzeto.

Ipak, ne prihvata svaka škola ovakve prodajne argumente. Krajem 2023. godine, prema mejlovima dobijenim putem zahteva za pristup informacijama od javnog značaja, Amazonov rukovodilac za saradnju sa policijom i školsku bezbednost promovisao je ZeroEyes policiji i školama u saveznoj državi Vašington. U tim prezentacijama, ZeroEyes je potencijalne klijente upućivao na pilot-projekat koji je uspešno sproveo sa školama Hajlajn u Burijenu. Međutim, ranije ove godine, školski okrug je raskinuo godišnji ugovor sa ZeroEyes-om vredan 33.000 dolara, iako su preostale još dve godine. Naveli su da on nije finansijski održiv. Touv Taper, direktorka za komunikacije tog školskog okruga, rekla je za Forbes da su utvrdili da je taj novac bolje iskoristiti za defibrilatore i Ford SUV vozila za bezbednosni tim.

Tomas Bruster, novinar Forbes