Zloupotreba AI: Otac užasnut nakon što je slika ubijene ćerke iskorišćena za pravljenje četbota

Ćerka Drua Krešentea je brutalno ubijena pre 18 godina. Zloupotreba AI dovela je do toga da je neko napravio četbota na platformi startapa Character AI koristeći njeno ime i fotografiju iz godišnjaka.

Dru Krešente je poslednji put razgovarao sa ćerkom Dženifer En Krešente 14. februara 2006. godine. Dan kasnije, Dženifer, maturantkinju koja je bila u nasilnoj vezi, ubio je bivši dečko. On je kasnije osuđen i sada služi kaznu u zatvoru. Te godine, Krešente je osnovao neprofitnu organizaciju u njeno ime kako bi sprečio nasilje u tinejdžerskim vezama i sada redovno prati svaki medijski izveštaj koji je povezan s njom.

Međutim, bio je zaprepašćen kada je dobio Gugl Alert obaveštenje u 4:30 ujutru u sredu, da je neko kreirao četbota na popularnoj AI platformi Character AI koristeći fotografiju Dženifer iz godišnjaka i njeno ime.

„Ožalošćeni otac ne bi trebalo da saznaje da se ime njegove pokojne ćerke koristi kako bi neko pokušao da zaradi novac putem četbota na nekom sajtu“, rekao je za Forbes. „To je šokantno i neprihvatljivo ponašanje“.

Zavisnost o fiktivnim likovima

Krešente je kontaktirao podršku Character AI-a i dobio automatski odgovor da njegova žalba trenutno pregledava osoblje. Kompanija je uklonila četbota sa sajta zbog kršenja pravila o imitaciji i sada ispituje da li su potrebne dodatne mere, izjavila je portparolka Character AI-a, Kejsi Lorens, za Forbes.

Osnovan 2022. godine, Character AI nudi četbotove sa različitim ličnostima poput Tejlor Svift, Niki Minaž i Ilona Maska. Njegovih oko 20 miliona mesečno aktivnih korisnika – uglavnom mlađih ljudi između 13 i 25 godina – kreirali su 100 miliona četbotova i imali milione razgovora sa njima. Pored četbotova poznatih ličnosti i istaknutih figura, neki od najpopularnijih karaktera imaju imena poput „bivša devojka“ i „psiholog“. U nekim slučajevima, tinejdžeri su izjavili da postaju zavisni od proizvoda kompanije, provodeći duge sate razgovarajući sa fiktivnim likovima.

Character AI nekada je bio jedan od najpopularnijih AI startapa. Prikupio je 150 miliona dolara u martu 2023. sa procenom vrednosti od milijardu dolara. Kompanija se suočava sa izazovima nakon što je Gugl u avgustu zaposlio jednog od osnivača i generalnog direktora Character AI-a Noama Šazira, kao i 30 drugih radnika, prema izveštaju Vol strit žurnala. (Gugl je takođe licencirao tehnologiju kompanije za ogromnih 2,7 milijardi dolara.) Privremeni generalni direktor Dominik Perelja izjavio je za Fajnenšel Tajms da kompanija planira da prestane sa razvojem AI modela. Umesto toga fokusiraće se na svoj vodeći potrošački proizvod.

Kompanije da unaprede nadzor

Opis četbota Dženifer Krešente navodio je da je „znalac i prijateljski AI lik koji može pružiti informacije o širokom spektru tema, uključujući video igre, tehnologiju i pop kulturu“.

Nije jasno ko je stvorio četbota bez znanja ili dozvole njenog oca. Krešente veruje da bi kompanije poput Character AI trebalo pravno da budu odgovorne za praćenje i sprečavanje takvih slučajeva. „Ne bi trebalo da bude na meni da pokušavam da nadgledam ovu kompaniju koja ima stotine miliona dolara“.

„Izgleda da mnoge od ovih kompanija ne prepoznaju odgovornost koju imaju. Ne samo da se bave negativnim efektima korišćenja tehnologije, već i da spreče ovakvu vrstu zloupotrebe“, rekao je.

Raši Šrivastava, novinarka Forbes