Želite video kako ljubite poznatu ličnost? Tu su AI aplikacije koje će vam ostvariti san, ali…

Reklame za aplikacije koje koriste veštačku inteligenciju (AI) za kreiranje lažnih video-snimaka ljudi koji se ljube s bilo kim koga požele preplavile su društvene mreže poput Tiktoka i Instagrama.
Meta i Tiktok su objavili na hiljade reklama za aplikacije koje koriste AI za generisanje lažnih video-snimaka ljubljenja. Omogućavajući korisnicima da učitaju fotografije bilo koje dve osobe. Nakon toga AI kreira video na kom se te osobe ljube. Ove aplikacije reklamiraju se kao alati koji omogućavaju da „poljubite bilo koga koga želite“. Bez potrebnog pristanka.
Slično konceptu aplikacija poput “AI nudifier” koje proizvode dipfejk snimke pornografskog sadržaja bez pristanka, ove AI aplikacije za ljubljenje kreiraju uverljive video-snimke ljudi u situacijama koje se nikada nisu dogodile. Lakoća s kojom se to postiže izaziva zabrinutost zbog normalizacije upotrebe lažnih slika.
Iako reklame nisu seksualno eksplicitne poput poplave AI-generisanog pornografskog sadržaja na platformama kao što su Instagram, Redit i Jutjub, mogu biti jednako opasne, smatra Hejli Meknamara, direktorka Nacionalnog centra za seksualnu eksploataciju, u izjavi za Forbes.
„Ne mora biti eksplicitno da bi bilo eksploatativno“, rekla je Meknamara. „Ako prelazi granice da oflajn uradi nešto nekome bez njihovog pristanka, poput ljubljenja, svlačenja, onda takođe prelazi granice kada se to radi onlajn“.
Koliko je problem veliki
Meta je prikazala više od 2.500 reklama za AI aplikacije za ljubljenje na Instagramu i Fejsbuku, prema pregledu Forbes. Oko 1.000 tih reklama trenutno je aktivno. Tiktok je prikazao oko 1.000 reklama milionima korisnika u evropskim zemljama, prema njihovoj biblioteci reklama. (Tiktok biblioteka reklama ne uključuje one prikazane korisnicima u SAD-u.) Većina tih reklama prikazuje poznate ličnosti poput Skarlet Johanson, Eme Votson i Gal Gado kako se ljube međusobno. Ostale prikazuju slučajne ljude i promovišu ideju da AI može omogućiti da „poljubite bivšeg“ ili „poljubite simpatiju“. Nije jasno da li su ljudi u video-snimcima stvarni ili generisani uz pomoć AI tehnologije. Johanson, Votson i Gado nisu odgovorile na zahtev za komentar. Futurism je prvi izvestio širenje ovih oglasa po društvenim mrežama.
Meta takođe promoviše aplikacije za „AI zagrljaje“. Reklame prikazuju video-snimke dece koja grle crtane likove poput Dore Istraživačice, Miki Mausa i Toma i Džerija. Neke reklame, poput video-snimka na kom mlada devojčica grli starijeg muškarca, obećavaju roditeljima da AI aplikacije mogu omogućiti njihovoj deci da „zagrle bake i deke koje nikada nisu upoznali“. Meta je prikazala oko 1.200 reklama za AI zagrljaje, od kojih je više od 300 i dalje aktivno.
Koje poznate ličnosti su već bile na meti
AI-generisani video-snimci ljubljenja i grljenja već kruže društvenim mrežama. Video na kom Tejlor Svift grli Kim Džong Una ima oko 30 miliona pregleda na Instagramu. Krajem decembra, viralni video sa lažnim sadržajem prikazivao je Ilona Maska i italijansku premijerku Đorđu Meloni kako se ljube.
Portparol Mete, Danijel Roberts, rekao je za Forbes da ove reklame za „AI ljubljenje“ ne krše politiku kompanije. Iako su golotinja, seksualno eksplicitan i sugestivan sadržaj zabranjeni Metinim standardima za oglašavanje, kao i reklame koje „prikazuju, zagovaraju ili koordinišu seksualne radnje bez pristanka“, video-snimci ljubljenja i grljenja su dozvoljeni.
Nakon što ih je Forbes kontaktirao, Tiktok je uklonio reklame jer su kršile njihove politike. Platforma za deljenje video-snimaka zahteva od oglašivača da dobiju pristanak javnih ili privatnih ličnosti prikazanih u njihovim reklamama. Čak i ako su reklame generisane uz pomoć AI, izjavila je portparolka Tiktoka, Arijan de Selijers.
Veliki broj preuzimanja
Kompanije koje stoje iza ovih generatora video-snimaka, prema njihovim sajtovima, nalaze se van SAD. U zemljama poput Ujedinjenih Arapskih Emirata, Italije i Kine. Aplikacije su besplatno dostupne na Eplovoj prodavnici aplikacija i Google Play prodavnici. I već imaju milione preuzimanja. Funkcija „AI ljubljenja“ deo je šireg paketa mogućnosti za uređivanje fotografija koje uključuju i „podmlađivanje“ starih slika, pretvaranje statičnih slika u video-snimke i predviđanje izgleda buduće dece određenih parova. Epl i Gugl nisu odgovorili na zahteve za komentar.
Širenje AI aplikacija za ljubljenje, podstaknuto viralnošću na društvenim mrežama, ukazuje na uznemirujuću normalizaciju dipfejka u eri generativne AI. Korišćenje ovih naizgled bezazlenih aplikacija moglo bi otvoriti vrata alatima koji kreiraju grafičke sadržaje poput lažnjaka sa pornografskim sadržajem i drugih oblika seksualnog zlostavljanja zasnovanih na slikama, rekla je Meknamara.
„Ovaj trend normalizuje eksploatativne duboke lažnjake i tretira učešće bez pristanka u intimnim ili seksualizovanim slikama kao šalu“, rekla je ona. „Lako je trivijalizovati to kada se misli na druge ljude, ali ako zamislite da neko iz vaše okoline pravi takve slike o vama, svako može prepoznati da je to kršenje prava“.
Kako zaštititi decu
Ovo je posebno zabrinjavajuće s obzirom na to da je ilegalan AI-generisan materijal seksualnog zlostavljanja dece (CSAM) u neviđenom porastu. U poslednje dve godine, Nacionalni centar za nestalu i eksploatisanu decu (NCMEC) primio je više od 7.000 prijava materijala za eksploataciju dece povezanih sa generativnom AI tehnologijom. U jednom slučaju, pedofil je navodno snimao decu u Diznilendu i koristio popularni AI alat Stable Diffusion za proizvodnju hiljada ilegalnih slika.
Ljudi koji su naišli na reklame za AI ljubljenje tokom pretraživanja društvenih mreža kažu da ih smatraju uznemirujućim. U decembru, Alis Siregar, analitičarka veštačke inteligencije u firmi za tehnološko savetovanje, primetila je porast broja takvih reklama na Tiktoku. Bila je užasnuta time što se tehnologija koristi na „duboko neetičan“ način.
„Bilo je neverovatno jezivo susresti se s time“, rekla je.
Raši Šrivastava, novinarka Forbes