Na Etsyju pronađeni oglasi za prodaju deepfake pornografskog sadržaja sa slavnim osobama

Pornografske snimke najmanje 55 poznatih osoba, generirane umjetnom inteligencijom, bile su dostupne na prodaju preko online platforme Etsy prije nego je Forbes platformu obavijestio o njihovom postojanju.

Na Etsyju svatko može kupiti majice i fotografije s potpisom glumice Olivije Munn. Prodaju se i šalice s njenim likom koje se mogu personalizirati, a do utorka su se na platformi mogle kupiti i njezine umjetnom inteligencijom generirane deepfake slike, neke od njih pornografske.

“S rezolucijom od 300 DPI, detalji Olivijinog lika izgledaju živo, što ih čini idealnim za digitalnu umjetnost, dizajn ili print. Olivia slavi eleganciju ženskog lika na ukusan i umjetnički način, omogućavajući čitav niz kreativnih primjena,” stajalo je u opisu jedne slike, koja se prodavala za 2.49 dolara.

Odvjetnik Olivije Munn Bryan Sullivan rekao je kako se njegova klijentica zbog slika osjeća “uznemireno i uvrijeđeno.”

“Ovo je nečuveno kršenje prava moje klijentice, kao i, što je još važnije, njenog dostojanstva,” rekao je Sullivan za Forbes. “Poduzet ćemo korake da se ovo ukloni i da spriječimo da se ikada više dogodi. Već smo započeli taj proces s Etsyjem.”

Iako je Sullivan rekao kako je odmah obavijestio Etsy nakon što ga je Forbes kontaktirao 13. prosinca, Etsy je slike uklonio tek šest dana kasnije, kada je Forbes direktno kontaktirao kompaniju.

Drugi prodavači preko platforme su nudili sličan sadržaj po nešto višim cijenama (5.51 dolara). Jedan prodavač je ponudio izradu “bilo koje zvijezde u različitim pozicijama, bilo da je gola, tijekom seksa ili jednostavno u donjem rublju” za nisku cijenu od 0.92 dolara

“Na j***nom Etsyju! Da ne budem pregrub. Tako znate da je to ušlo u mainstream, ljudi, kad se pojavi na Etsyju.”

Hany Farid, profesor, UC Berkeley

Etsy je te račune – Forbes je identificirao njih 16 – uklonio, no na platformi su ostale tisuće drugih oglasa koji sadrže pornografski sadržaj nastao umjetnom inteligencijom. Njega je vrlo lako naći uz upis najjednostavnijih pojmova u tražilicu.

“Ozbiljno smo posvećeni sigurnosti naše trgovine i naše zajednice i uklonili smo sporne oglase čim smo za njih saznali,” rekla je Alice Wu, šefica Etsyjevog odjela za povjerenje i sigurnost, u emailu Forbesu. “Deepfake slike golih zvijezda su zabranjene. Budući da je ovo novi problem diljem interneta, aktivno radimo na tome da pojačamo naše napore u tom području.”

Ova tvrtka, koja je uspjela doseći tržišnu kapitalizaciju od gotovo 10 milijardi dolara kao posrednik za prodaju ručnih radova i svakojakih drangulija, ima problem deepfake pornografije koji je nastao ulaskom umjetne inteligencije u mainstream.

Etsy je odbio objasniti svoje politike po pitanju umjetnom inteligencijom stvorenih slika stvarnih, običnih ljudi, a nisu ni objasnili zašto na svojoj stranici imaju toliku količinu pornografskog sadržaja.

“Određena doza sadržaja za odrasle je na Etsyju dozvoljena, no pornografija je zabranjena,” rekla je Wu.

Usprkos toj politici, upisom pojma “deepfake porn” u tražilicu Forbes je 18. prosinca dobio preko 1.600 rezultata. Neki od njih nisu pornografija i nude usluge “izrade vlastitih deepfake videosnimki.”

Tisuće oglasa

Nakon što je Forbes kontaktirao Etsy, broj rezultata za pretragu tog pojma pao je na nešto ispod 1.500. U ponedjeljak je pretraga “ai nude” proizvela preko 4.000 rezultata. Nakon što je Forbes kontaktirao Etsy, broj rezultata pao je na ispod 3.700.

Neke od tih slika nastalih umjetnom inteligencijom bili su deepfakeovi slavnih žena – od Olivije Munn, preko glumice Jenne Ortege do pjevačice Ariane Grande i drugih. Na drugim slikama nalazile su se izmišljene osobe, velikom većinom žene. Predstavnici Ortege i Grande nisu odgovorili na upite za komentar.

U oglasima je bilo vrlo jasno navedeno što se prodaje. “Ovaj paket sadrži 40 visokokvalitetnih necenzuriranih JPG slika na kojima se nalaze mnoge prekrasne, umjetnom inteligencijom stvorene, potpuno gole mlade žene u različitim pozama i na različitim lokacijama. Nema duplikata od drugih oglašenih paketa,” stoji u jednom oglasu.

Istovremeno, Etsyjevi algoritmi za prijedloge, u vrijeme objave ovog članka, korisnike su upućivale na još sličnog sadržaja.

Profesor računalstva na sveučilištu UC Berkeley i stručnjak za tehnologije generativne umjetne inteligencije Hany Farid kaže da “ne postoji tehnički razlog” zašto Etsy ne bi mogao uspješnije filtrirati te materijale. Pretrage istog pojma (“deepfake porn”) na drugim online trgovinama poput Amazona i eBaya ne donose slične rezultate.

Etsy je službeno povukao granicu između golotinje, koju dopuštaju, i pornografije, koja je zabranjena. Oni se pridržavaju opće zakonske definicije tog žanra, zabranjujući sadržaj koji prikazuje spolne organe ili seksualne činove “u svrhu seksualnog uzbuđenja.”

“Još uvijek radimo na tome da shvatimo kakvo mjesto proizvodi nastali umjetnom inteligencijom omaju na našoj platformi, no oglasi za takav sadržaj koji krši naše politike bit će uklonjeni,” rekla je Wu.

Iako su prodavači ti koji su “odgovorni za slijeđenje naše politike,” dodala je, Etsy nadzire stranicu “i ručno i putem automatske kontrole.” Odbila je objasniti što to točno znači i zašto, ako se takve mjere zaista provode, pretraga na stranici nudi rezultate pornografskih deepfakeova poznatih glumica.

Sve veći problem

Posljednjih godina je deepfake pornografija, koja neproporcionalno pogađa žene, postala mnogo sofisticiranija i jednostavnija za stvaranje, a proširila se do neslućenih razina, kažu stručnjaci.

Široko dostupni programi mogu bilo koju sliku učiniti pornografskom, ponekad s nevjerojatno realističnim detaljima.

“Na j***nom Etsyju!,” kaže Farid za Forbes. “Da ne budem pregrub. Tako znate da je to ušlo u mainstream, ljudi, kad se pojavi na Etsyju.”

Etsy je osnovan 2005., na burzu je izišao 2015. Prošle godine tvrtka je ostvarila profit od 643 milijuna dolara, a početkom prosinca otpustili su 11 posto zaposlenih.

Jedan prodavač na Etsyju koji je prodavao deepfake slike slavnih kaže kako one “nisu pretjerano popularne” jer “danas svi mogu stvoriti umjetne eksplicitne slike korištenjem umjetne inteligencije.” Drugi prodavači nisu odgovorili na upite za komentar.

Profesorica prava na sveučilištu Loyola Marymount University u Los Angelesu Rebecca Delfino već godinama proučava vezu između deepfakeova i zakona, a za Forbes kaže kako ne postoji federalni zakon koji štiti stvarne žrtve deepfakeova, no postoje neki zakoni na razinama američkih saveznih država.

Delfino kaže kako će većina odvjetnika slavnih poslati pismo upozorenja Etsyju i tako pokušati zaštititi svoje klijente.

S ograničenim pravnim opcijama (da ne govorimo o vremenu i resursima potrebnim za hvatanje u koštac s problemom), većina odgovornosti leži na tech platformama koje deepfake pornografiju čini dostupnom, bio to Etsy ili Google, koji olakšava pronalazak drugih stranica koje objavljuju deepfake pornografiju.

“Mislim da se ovo neće riješiti pismima i odvjetnicima,” kaže Farid. “Ovo je internet. Morate razmišljati o tome gdje se problem pogoršava.”

Autor originalnog članka: Cyrus Farivar, Forbes
Link: Etsy Has Been Hosting Deepfake Porn Of Celebrities
(Prevela: Nataša Belančić)