Maskova kompanija xAI objavila na stotine hiljada razgovora sa četbotom Grok

AI kompanija Ilona Maska, xAI, objavila je transkripte stotina hiljada razgovora između svog četbota Grok i korisnika. U mnogim slučajevima bez znanja ili dozvole tih korisnika.

Svaki put kada korisnik Groka klikne na dugme „share“ (podeli) u okviru svog razgovora sa četbotom, kreira se jedinstven URL koji omogućava deljenje konverzacije putem mejla, poruka ili drugih kanala. Međutim, ono što korisnici ne znaju jeste da se taj jedinstveni URL takođe stavlja na raspolaganje pretraživačima, Među njima su Gugl, Bing i DuckDuckGo. Time konverzacije postaju dostupne bilo kome na internetu. Drugim rečima, na Maskovom Groku, klikom na dugme za deljenje, razgovor se automatski objavljuje na zvaničnom sajtu Groka. Bez ikakvog upozorenja ili obaveštenja korisnika.

Danas, pretraga na Guglu za Grok razgovore pokazuje da je pretraživač indeksirao, prema Guglovoj proceni, više od 370.000 korisničkih konverzacija sa četbotom. Podeljene stranice otkrivaju razgovore između korisnika Groka i LLM-a (velikog jezičkog modela) koji variraju od jednostavnih poslovnih zadataka poput pisanja objava na Tviteru, do generisanja slika izmišljenog terorističkog napada u Kašmiru i pokušaja hakovanja kripto novčanika.

Forbes je pregledao razgovore u kojima su korisnici postavljali intimna pitanja o medicini i psihologiji. Neki su čak otkrili svoja imena, lične podatke i makar jednu lozinku podeljenu sa četbotom.

Mask bez komentara

Među indeksiranim razgovorima nalazili su se i oni koje je pokrenuo britanski novinar Endru Kliford. On je koristio Grok da bi sažimao naslovne strane novina i sastavljao objave za svoj sajt Sentinel Current.

Kliford je za Forbes rekao da nije bio svestan da klikom na dugme „share“ (podeli) njegovi upiti postaju vidljivi na Guglu. „Bio bih malo iznerviran. Međutim, tamo nije bilo ničega što ne bi smelo da bude objavljeno“, rekao je Kliford. On je sada, inače, prešao na korišćenje Guglovog Gemini AI-ja.

Međutim, nisu svi razgovori bili bezopasni kao Klifordovi. Neki su sadržavali eksplicitne, uvredljive i nedozvoljene sadržaje koji krše pravila xAI-ja. Kompanija zabranjuje korišćenje svog četbota za „promovisanje teškog ugrožavanja ljudskog života“ ili za „razvoj biološkog, hemijskog ili oružja za masovno uništenje“, ali su u objavljenim razgovorima, lako dostupnim putem Gugl pretrage, korisnici dobijali uputstva za pravljenje ilegalnih supstanci poput fentanila i metamfetamina, za kodiranje samopokrećućeg malvera, konstruisanje bombe, kao i metode samoubistva.

Grok je čak ponudio i detaljan plan atentata na Elona Muska. Putem funkcije za deljenje, ova nezakonita uputstva su objavljena na Grokovom sajtu i indeksirana od strane Gugla.

xAI nije odgovorio na detaljan zahtev za komentar.

Isto se desilo i sa OpenAI

xAI, međutim, nije jedini AI startap koji je objavljivao korisničke razgovore sa četbotovima. Ranije ovog meseca, korisnici OpenAI-jevog ChatGPT-a bili su uznemireni kada su otkrili da se njihovi razgovori pojavljuju u rezultatima Gugl pretrage, iako su prethodno označili te razgovore kao „dostupne za otkrivanje“ drugim korisnicima. Nakon negodovanja javnosti, kompanija je brzo promenila svoju politiku. Nazvavši indeksiranje „kratkotrajnim eksperimentom“, direktor informacione bezbednosti OpenAI-ja, Dane Stuckey, izjavio je u objavi na mreži X da će praksa biti obustavljena jer je „otvorila previše mogućnosti da ljudi slučajno podele stvari koje nisu želeli da dele“.

Nakon što je OpenAI ukinuo svoju opciju za deljenje razgovora, Mask je iskoristio priliku da se pohvali. Grokov nalog na mreži X tada je tvrdio da ne poseduje takvu funkciju deljenja. Mask je, s druge strane, na to odgovorio tvitom: „Grok ftw“ (Grok za pobedu). Nije jasno kada je Grok tačno uveo opciju za deljenje. Korisnici mreže X upozoravaju još od januara da se Grok razgovori objavljuju na Guglu.

Neki od razgovora u kojima su korisnici tražili uputstva za proizvodnju droga i eksploziva verovatno su pokrenuli stručnjaci za bezbednost, „red team“ inženjeri ili profesionalci iz oblasti poverenja i bezbednosti. Međutim, čak su i neki profesionalni AI istraživači bili zavedeni podešavanjima deljenja na Groku.

Svaki razgovor na Groku završi na Guglu

Nejtan Lamber, računarski naučnik iz Allen Institute for AI, koristio je Grok da napravi sažetak svojih blog postova kako bi ga podelio sa timom. Bio je šokiran kada je od Forbesa saznao da su i njegov upit i odgovor veštačke inteligencije dostupni na Guglu. „Iznenadilo me je što su Grok razgovori koje sam delio sa svojim timom automatski završili na Guglu bez ikakvog upozorenja — pogotovo nakon nedavne situacije sa ChatGPT-om,“ rekao je istraživač iz Sijetla.

Google omogućava vlasnicima sajtova da odluče kada i kako će njihov sadržaj biti dostupan za pretragu. „Izdavači ovih stranica imaju punu kontrolu nad time da li će biti dostupni,“ izjavio je portparol Gugla Ned Adriance. Gugl je ranije dozvoljavao da se razgovori sa njegovim AI četbotom Bardom objave, ali ih je uklonio iz pretrage još 2023. Meta, s druge strane, i dalje dozvoljava da se deljene pretrage mogu pronaći putem pretraživača, prema pisanju Business Insidera.

Oportunisti su počeli da primećuju — i iskorišćavaju — objavljene Grok razgovore. Na LinkedInu i forumu BlackHatWorld, marketari su diskutovali o namernom kreiranju i deljenju Grok razgovora kako bi povećali vidljivost i prepoznatljivost svojih firmi i proizvoda u Gugl pretrazi. (Nije jasno koliko su ove strategije efikasne.) Satish Kumar, izvršni direktor SEO agencije Pyrite Technologies, demonstrirao je za Forbes kako je jedna firma koristila Grok za manipulaciju rezultatima pretrage na temu firmi koje pišu doktorske disertacije po narudžbini.

„Svaki podeljeni razgovor na Groku je potpuno dostupan i pretraživ na Guglu,“ rekao je on. „Ljudi aktivno koriste taktike kako bi ubacili te stranice u Guglov indeks.“