eBay prepun golih slika Margo Robi i drugih poznatih žena napravljenih uz pomoć AI
"Top prodavci" na onlajn tržištu prodaju hiljade AI-generisanih i fotošopiranih pornografskih slika javnih ličnosti.
Bej vrvi od hiljada AI-generisanih i fotošopiranih pornografskih slika barem 40 poznatih ličnosti, uključujući Margo Robi, Selenu Gomez i Dženu Ortegu. Nakon što je Forbes obavestio eBay, gigant e-trgovine je uklonio stotine fotografija i suspendovao naloge prodavaca.
Prodavnica jednog prodavca dugačkog staža, sa više od 400 stavki, uključivala je fotošopirane gole slike Tejlor Svift, Selene Gomez, Kejti Peri, Ariane Grande i Aleksandrije Okazio-Kortez, među ostalima. Drugi prodavac prodao je stotine AI-generisanih golih slika, uključujući slike Džene Ortege, Margo Robi i Gal Gado za 6,39 dolara.
Platforma takođe sadrži AI-generisane seksualno sugestivne slike javnih ličnosti. Najmanje pet takvih slika Tejlor Svift, kao što je jedna koja pokazuje pop zvezdu u provokativnom bikiniju sa američkom zastavom, prodaje prodavac sa top ocenama na eBay-u za 5,60 dolara. On je prodao više od 14.000 stavki i jedan je od „najpouzdanijih prodavaca“ na onlajn trgovini, prema njihovoj stranici. Top ocenjeni prodavci dobijaju dodatne beneficije od eBay-a kao što su bolje rangiranje u rezultatima pretrage i finansijske privilegije, prema smernicama programa.
eBay-ov algoritam preporučuje zainteresovanim kupcima „slične sponzorisane stavke“ od prodavaca koji eBay-u plaćaju procenat od svojih prodaja ako kupac klikne na stavku i kupi je. Jedan takav prodavac, još jedan top ocenjeni prodavac, prodao je više od 2.000 stavki na eBay-u uključujući lažne pornografske slike ličnosti poput Dženifer Lorens i Dženifer Eniston. Za neke lažne pornografske slike na eBay-u, nije jasno da li su manipulisane sa AI ili nekim drugim softverom.
„To nije samo stvar prodavaca. Kompanije poput eBay-a takođe profitiraju od seksualnog zlostavljanja zasnovanog na slikama,“ rekla je Lina Nilon, izvršna direktorka Nacionalnog centra za seksualno iskorišćavanje. „One komodifikuju ženska tela i to je osorno jer je to bez pristanka i znanja onih koji su prikazani“.
Platforma se bori s nedozvoljenim sadržajem
Iako eBay dozvoljava prodavcima da objavljuju slike koje prikazuju golotinju (sve dok su navedene pod kategorijom umetnosti i kolekcionarstva), kao i AI-generisane gole slike lažnih ljudi, „AI generisane ili fotošopirane gole ili seksualno sugestivne slike javnih ličnosti“ su zabranjene, prema njihovoj politici za odrasle. Ipak, platforma je prepuna takvih slika.
Iako je kompanija uklonila stotine fotošopiranih i AI-generisanih golih slika poznatih ličnosti sa sajta i zabranila prodavce, ostavila je AI-generisane slike seksualno sugestivne Tejlor Svift koje očigledno krše njenu politiku. Predstavnik Svift je odbio da komentariše.
Kompanija je potvrdila da „aktivno ažurira politike u vezi sa dipfejk slikama bez golotinje“, tako da prodavcima eksplicitno bude jasno šta je dozvoljeno, a šta ne na eBay-u.
Osim toga, portparol Trina Somera je rekla da kompanija koristi kombinaciju „AI tehnologije, profesionalno obučenih eBay istražitelja i pretraga tržišta“ kako bi identifikovala i uklonila stavke koje krše eBay-ove zabranjene stavke. „Stavke sa AI-generisanim ili fotošopiranim odraslim slikama poznatih ličnosti koje krše eBay politike biće blokirane ili uklonjene. Korisnici koji pokušaju da navedu zabranjene stavke mogu se suočiti sa posledicama uključujući trajno suspendovanje“, rekla je Somera.
Predstavnici Ortege, Gomez, Eniston, Lorens, Peri, Grande, Robi i Gado nisu odgovorili na zahtev za komentar.
Problem i sa društvenim mrežama
eBay nije jedina platforma na kojoj se širi AI-generisana pornografska imaginacija. Redit, X (ranije Tviter) pa čak i Etsi, kako je prvi put izvestio Forbes, takođe se suočavaju sa naletom AI-generisanih seksualno eksplicitnih slika. Krajem januara, AI-generisane gole slike Tejlor Svift postale su viralne na X i bile su pregledane milione puta na društvenoj mreži.
Uskoro nakon toga, zakonodavci, uključujući i kongresmenku Aleksandriju Okazio-Kortez su predstavili Zakon o rušenju falsifikovanih eksplicitnih slika i izmenjenih bez pristanka (ili DEFIANCE) koji pruža žrtvama dipfejk pornografije bez pristanka, pravne lekove za preduzimanje akcije protiv tvoraca i distributera tog sadržaja. „Žrtve pornografskih lažnih slika su predugo čekale na federalnu zakonodavnu zaštitu… Kongres mora da deluje kako bi pokazao žrtvama da neće biti ostavljene“, rekla je Okasio-Kortez u saopštenju za medije.
Iako ne postoje federalni zakoni koji štite žrtve dipfejk pornografije, Nilon je rekla da su još tri zakona predstavljena u Kongresu kako bi se adresirale ove brige. Kongres je održao saslušanje o tome kako porast dipfejk pornografskih slika utiče na žene i decu i koje korake mogu preduzeti kako bi se smanjila šteta.
„Stvarno nam trebaju federalni zakoni i to što pre jer, kao što često biva, tehnologija se kreće brže nego naši zakonodavci, i vidimo ovaj eksponencijalni porast sa AI i sa širenjem dipfejka“, rekla je za Forbes.
Pored toga što su domaćini hiljadama grubo fotošopiranih golih slika poznatih ličnosti, eBay je domaćin desetina „AI poboljšanih“ slika javnih ličnosti koje su pečatirane njihovim potpisima i prodaju se po višoj ceni od 10,95 dolara.
„Uživajte u izuzetnoj jasnoći i zadivljujućem detalju ove AI-poboljšane fotografije“, piše u opisu gole slike Dženifer Lopez, koja izgleda da sadrži njen potpis. „Svaki zarazni izraz, svaki magnetički pogled je besprekorno očuvan, donoseći neprevaziđeni šarm i talenat Dženifer Lopez u prefinjenom detalju“. Lopez nije odgovorila na zahtev za komentar.
Problem je široko rasprostranjen. Pretraga na eBay-u za „poznata ličnost“ vraća više od 2,3 miliona rezultata, od kojih su mnogi seksualno sugestivni i pornografski. (Ista pretraga na Amazonu ne izbacuje odmah AI pornografiju).
Lako dostupni alati za „skidanje“
Sada, sa lakim pristupom AI aplikacijama i otvorenom softveru koji može svući i „ogoliti“ bilo koga, AI-generisana pornografija se širi brzo, rekla je Nilon. „Eplova prodavnica aplikacija zapravo ima nekoliko aplikacija za svlačenje. Pronašla sam jednu upravo prošle nedelje koja je ocenjena za uzrast 4 i više“, rekla je. „U međuvremenu, imate Majkrosoft GitHab, koji hostuje neke od najpoznatijih tehnologija dipfejka i sintetičkih seksualno eksplicitnih materijala“.
Osnovan 1995. godine, eBay je zabeležio prihod od 10,1 milijardi dolara u 2023. godini i ima tržišnu kapitalizaciju od oko 26 milijardi dolara. Onlajn tržište je dom za 132 miliona aktivnih kupaca i dve milijarde stavki — sve od patika i video igara do vitaminskih suplemenata i kafe stolova. U septembru 2023, eBay je lansirao sopstvene generativne AI alate koji mogu generisati naslove proizvoda i opise nakon što prodavci postave sliku stavke koju žele da prodaju. Alati su izgrađeni koristeći modele otvorenog koda i velike jezičke modele iz Majkrosoft Azur OpenAI. Onlajn tržište takođe je otpustilo 1.000 radnika, 9% svoje radne snage, u januaru 2024.
Sofi Medoks, istraživački saradnik u Centru za medije pod rizikom na Univerzitetu u Pensilvaniji, rekla je da je jedva iznenađena što je postalo uobičajeno naći AI-generisane pornografske slike kako se pojavljuju na internetu.
„Ako se odmaknemo i pogledamo dužu istoriju interneta, znamo da se seks i seksualizovane slike prodaju. Tako da ne mislim da je slučajnost da platforme poput eBay-a hostuju takav sadržaj“, rekla je Medoks. „Postoji širi kontekst koji igra ulogu u ovoj ideji da ako ste poznata žena, možete biti svučeni bez vašeg pristanka i neko drugi može profitirati od vaše slike bez vašeg pristanka. I to se odražava na sve“.
Raši Šrivastava, novinarka Forbes