Dizajnirajte svoj donji veš: Kako radi AI alat brenda u vlasništvu Victoria’s Secret i šta je otkrio Forbes.com

Onlajn brend donjeg veša koji je u vlasništvu kompanije Victoria’s Secret ima novu AI funkciju koja će staviti slike svastike, korporativne logoe kompanija poput Koka-kole i Mekdonaldsa, kao i autorske likove poput Snežane i Aladina iz Diznijevih crtanih filmova na komplete grudnjaka i gaćica.

Ova funkcija koju je u četvrtak objavio Adore Me, onlajn kompanija za donji veš koju je Victoria’s Secret kupio 2023. godine za 400 miliona dolara, takođe omogućava korisnicima da dodaju fraze poput „Heil Hitler“ i „White Power“ na elastični pojas donjeg rublja. Fraza koja koristi rasističku reč rezultirala je iskačućim prozorom koji tvrdi „Greška: Ovaj tekst ima uznemiravajući sadržaj“, ali kada je prozor zatvoren, sajt je dozvolio Forbes-u da nastavi sa dizajniranjem, odabirom veličine i nastavkom na stranicu za plaćanje.

Forbes je takođe mogao da generiše dizajne za brojne setove rublja koji prikazuju žive ljude, uključujući političare poput predsednika Džo Bajdena, bivšeg predsednika Donalda Trampa i kineskog premijera Si Đinpinga, kao i poznate ličnosti poput Margot Robi, Serene Vilijams i Tejlor Svift. Alat je takođe renderovao logoe popularnih sportskih timova, uključujući Real Madrid, Njujork Jenkis i Golden Stejt Voriors.

Alat Adore Me sprečava korisnike da generišu dizajn sa određenim terminima, uključujući „go“, „nag“ i engleske sleng termine za različite delove tela. Takođe je odbio da proizvede dizajn koji koristi termine vezane za samoubistvo i samopovređivanje.

Iako Adore Me ima malo provera za to šta korisnici mogu dizajnirati pomoću svog AI alata, kompanija pregleda pojedinačne dizajne kako bi se osiguralo da ispunjavaju smernice za bezbednost brenda pre nego što se može izvršiti kupovina, prema Randžanu Roju, višem potpredsedniku za strategiju u Adore Me.

Kada su postavljena pitanja o tome zašto prominentna kompanija za donji veš dozvoljava bilo kome da generiše govor mržnje na svom sajtu, rekao je: „Svi mogu ići bilo gde i generisati ove vrste slika“. Ali Roj je sugerisao da kompanija nije odgovorna jer ih zapravo ne prodaje. „Podržavamo sve što kupac plati i što štampamo“.

Međutim, Forbes je mogao da napravi – i kupi – set gaćica koristeći pretragu „Atomwaffen Division“ (neo-nacistička grupa mržnje) i broj „1488“ (koji je široko povezan sa belim suprematističkim organizacijama). Roj, kada je upitan o transakciji, rekao je: „Ovo ne bi trebalo da dođe do ovog nivoa, i ovi ekstremni slučajevi su tačno ono na čemu uvek pokušavamo da radimo“.

Prema Adore Me veb sajtu, generativni AI motor oslanja se na tehnologiju koju je napravio Leonardo AI, australijska AI umetnička kompanija, odnedavno na Forbes AI 50 listi koja je prikupila 31 milion dolara finansiranja. Leonardov generator slika takođe je korišćen za stvaranje nepoželjene pornografije koja prikazuje poznate ličnosti, prema izveštaju 404 Media.

Uslovi korišćenja Leonarda zabranjuju prikaze „bilo koje stvarne osobe“, kao i „sadržaj koji promoviše ili podstiče mržnju, nasilje, diskriminaciju ili štetu zasnovanu na rasi, etničkom poreklu, religiji, polu, seksualnoj orijentaciji ili bilo kojoj drugoj zaštićenoj karakteristici“. U odgovoru na detaljnu listu pitanja od Forbes, portparolka Leonarda, Melisa Jaroki, napisala je: „Nedavno smo razvili naprednije mehanizme otkrivanja kako bismo sprečili govor mržnje i povezane slike. Ovo se implementira [u četvrtak] i obezbediće strože smernice za upotrebu“.

Manje je bilo verovatno da će Adore Me alat blokirati termine vezane za samoubistvo i samopovređivanje kada su bili na španskom. Međutim, eksplicitne fraze na drugim evropskim jezicima ponekad su bile blokirane i rezultirale su upozorenjem na grešku: „tekst ima uznemirujući sadržaj“. (Adore Me nije uvek dobro funkcionisao na jezicima koji se ne koriste latiničnim alfabetom, poput japanskog ili arapskog. Pretraga na ruskom jeziku za „Океан, серфинг, Гавайи“, ili „Okean, Surfovanje, Havaji“ rezultirala je apstraktnim slikama cveća.)

Alat je takođe generisao sliku veoma mršave devojke kao odgovor na pretrage za pro-anoreksiju i „thinspiration“. Brending Adore Me često je promovisao modele plus veličine, tvrdeći 2021. godine da je Tiktok kažnjavao njihove postove jer prikazuju „plus-size, crne i žene različitih boja kože“. (Tiktok je demantovao ove tvrdnje.) Tada je nalog kompanije na Tviteru napisao: „Ovo je neprihvatljivo i diskriminatorno, i mi to nećemo tolerisati“.

Mnoge maloprodajne kompanije su u poslednjih nekoliko meseci žurile da dodaju generativne AI alate na svoje sajtove. Sportski brend Puma nedavno je lansirao onlajn alat pod nazivom „Complex“, koji poziva ljude da postave fotografiju sebe koju kompanija zatim pretvara u zamišljenu AI-generisanu sportsku karticu. Rembrand, nova digitalna kompanija za oglašavanje, omogućava firmama da veštački generišu logoe unutar videozapisa influensera, novi tip plasmana proizvoda.

Džon Harmon, analitičar u Coresight Research-u, rekao je za Forbes da AI-generisane ponude poput ove zahtevaju predviđanje i otkrivanje toksičnosti. „Generativni AI nije toster, ne možete ga samo priključiti i očekivati da savršeno funkcioniše“, rekao je.

Sajrus Farivar, novinar Forbes
Emili Bejker-Vajt, novinarka Forbes