Jedinica pariskog tužilaštva za sajber kriminal izvršila pretres francuske kancelarije X-a: Mask pozvan na „dobrovoljni razgovor“

Kancelarija javnog tužioca u Parizu saopštila je da je njena jedinica za sajber kriminal u utorak izvršila pretres francuske kancelarije X-a. Ova društvena mreža i njen AI četbot Grok se suočavaju sa sve većim međunarodnim nadzorom zbog kreiranja i širenja seksualizovanih dipfejk sadržaja i neovlašćenih eksplicitnih fotografija.

Ključne činjenice

U saopštenju, kancelarija tužioca je navela da su tokom pretresa prostorija X-a u istraživanju učestvovali i nacionalna francuska policija (Žandarmerija) i Evropol. Agencija je dodala da je pretres deo istrage pokrenute protiv X-a u januaru 2025. godine, nakon prijava vezanih za algoritam platforme.

U saopštenju se dalje navodi da je istraga od tada proširena. Cilj je da se obuhvate i pritužbe na račun AI četbota Groka. To uključuje „širenje sadržaja koji negira Holokaust i seksualno eksplicitne dipfejk materijale“.

Tužioci su napomenuli da istraga pokriva i druge krivične prekršaje. Oni uključuju „posedovanje i organizovanu distribuciju materijala o seksualnom zlostavljanju dece“. Četbot Grok je optuživan da je generisao takav sadržaj.

X i njegov vlasnik, Ilon Mask, u trenutku objavljivanja nisu komentarisali pretres.

Na šta obratiti pažnju

Kancelarija tužioca navela je da je pozvala i Maska i bivšu izvršnu direktorku X-a, Lindu Jakarino, da se odazovu na „dobrovoljne razgovore“ 20. aprila, „u svojstvu de fakto i de jure upravnika platforme X u vreme događaja“. Zaposleni u X-u takođe su pozvani da daju izjave u periodu od 20. do 24. aprila „kao svedoci“. Tužioci su rekli da dobrovoljni razgovori treba da omoguće Masku i Jakarino da iznesu svoju verziju događaja i eventualne mere usklađenosti koje planiraju da sprovedu kako bi rešili pritužbe.

Kontekst

Pariska kancelarija tužioca je prvi put najavila da istražuje seksualno eksplicitne dipfejk sadržaje koje generiše Grok početkom prošlog meseca. Istraga je pokrenuta nakon što su dva francuska zakonodavca skrenula pažnju na problem. Prošle nedelje, Evropska unija je takođe pokrenula formalnu istragu protiv X-a i Groka zbog kreiranja neovlašćenih seksualizovanih dipfejk sadržaja. EU je navela da je X izložio građane EU „ozbiljnoj šteti“. Osim toga naveli su i da će istraga „oceniti da li je kompanija pravilno procenila i umanjila rizike povezane sa implementacijom funkcionalnosti Groka na X u EU“. Istraga se sprovodi prema Zakonu EU o digitalnim uslugama. On omogućava regulatorima da kompanije koje prekrše pravila kazne do 6% njihove globalne godišnje zarade.

Šta znamo o istragama Grokovog sadržaja u SAD-u?

Prošlog meseca, tužilac Kalifornije Rob Bonta najavio je da je njegova kancelarija pokrenula istragu protiv X-a. I to zbog „širenja neovlašćenog seksualno eksplicitnog materijala proizvedenog uz pomoć Groka“. U saopštenju se navodi da je Maskova AI kompanija xAI „omogućila masovnu proizvodnju dipfejk neovlašćenih intimnih fotografija koje se koriste za uznemiravanje žena i devojčica na internetu“. Bonta je dodao da je njegova kancelarija primila „pravu lavinu prijava“ o ovom pitanju i da će istraga „utvrditi da li i kako je xAI prekršio zakon“.

Dodatak

Suočen sa rastućom kritikom i istragama vlada širom sveta, X je prošlog meseca objavio da ograničava Grok-u mogućnost generisanja AI izmenjenih slika stvarnih osoba u provokativnoj odeći. Zvanični nalog X-a za bezbednost naveo je da je „implementirao tehnološke mere kako bi sprečio da Grok nalog omogućava uređivanje slika stvarnih osoba u provokativnoj odeći poput bikinija“. Kompanija je takođe saopštila da blokira korisnike u jurisdikcijama gde je to zabranjeno, da ne mogu generisati „slike stvarnih osoba u bikinijima, donjem vešu i sličnoj odeći putem Grok naloga“.

Šta kaže Mask

Mask je, međutim, doveo u pitanje istinitost izveštaja da Grok generiše seksualizovane slike dece. On je nedavno tivotavao da „nije svestan nijedne slike golih maloletnika koju je Grok generisao. Bukvalno nijedne“. Dodao je: „Očigledno, Grok ne generiše slike spontano, već samo po zahtevima korisnika. Kada se traži generisanje slika, odbijaće da proizvede bilo šta ilegalno. Operativno je pravilo Groka da poštuje zakone svake države ili zemlje“.

Siladitja Rej, novinar Forbes