Prošlo je više od osam godina otkako su neameričke tvornice sadržaja na Facebooku počele stvarati “američke” stranice s lažnim vijestima. One su i dalje tu, a danas im pomaže i umjetna inteligencija. Forbes je identificirao 67 lažnih stranica koje se prikazuju kao američke, a pune se van SAD-a: 33 je imalo sjedište u Sjevernoj Makedoniji
Američki je patriotizam unosan biznis na Facebooku. Na toj se društvenoj mreži može pronaći više od stotinu stranica na tu temu, primjerice Proud American, Proud To Be An American, American Story, and We Are America (“Ponosni Amerikanac”, “Ponosan sam što sam Amerikanac”, “Američka priča” i “Mi smo Amerika”).
No, većina tih stranica unatoč njihovim nazivima nema nikakve veze s Amerikom. Iza njih stoje iznozemne farme sadržaja od kojih su mnoge smještene u Makedoniji. One se služe umjetnom inteligencijom za “pumpanje” gotovo beskonačnih clickbait sadržaja. Molitve za američke vojnike, prepisani tweetovi, kopirani memovi i stare slike hollywoodskih pin-up djevojaka sadrže poveznice na članke generirane umjetnom inteligencijom putem kojih farme sadržaja zarađuju na oglasima. Naslovi poput “Požrtvovni vatrogasci riskiraju živote kako bi spasili druge” i “Očevo junaštvo: tragična priča o Philu Dellegrazieju i njegovu sinu Anthonyju” mame čitatelje da posjete web stranice često prepune oglasa seksualnih sadržaja. Takve su stranice lažno prikazane kao američke jer zarađuju svaki put kad netko klikne na neku od njihovih poveznica, a u svijetu oglašavanja američki klikovi su među najvrjednijima.
Trideset i tri farme lažnih vijesti u Makedoniji
Forbes je identificirao 67 (u međuvremenu uklonjenih) Facebook stranica koje su plasirale američke vijesti te promicale američku kulturu ili identitet, ali su u zbilji bile vođene iz inozemstva. Do 20. kolovoza sve su te stranice zajedno skupile preko devet milijuna pratitelja – više od Wall Street Journala ili Washington Posta. Trideset i trima takvim stranicama sjedište je bilo u Sjevernoj Makedoniji, dok su ostale bile raspoređene u 23 različite zemlje, uključujući Kanadu, Francusku, Maroko, Venezuelu i Vijetnam.
Farme sadržaja, osobito one iz Makedonije, već dugo djeluju na Facebooku. Tijekom predsjedničkih izbora 2016., tinejdžeri iz te malene istočnoeuropske zemlje širili su lažne vijesti milijunima Amerikanaca na Facebooku, zarađujući desetke tisuća dolara od oglasa. U 2019. godini, slične stranice iz istočne Europe koristile su se jednakom taktikom – ovaj put dosegnuvši gotovo polovicu svih Amerikanaca na platformi.
A danas im umjetna inteligencija omogućava proizvodnju gotovo beskonačne količine nekvalitetnih (ili potpuno lažnih) vijesti koje se, barem u nekim slučajevima, uspijevaju probiti do ciljane publike. Stranice su počele objavljivati slike generirane umjetnom inteligencijom (poput bjeloglavih orlova, američkih zastava, vojnika u maskirnim uniformama i povremeno Kipa slobode) kako bi privukle američke korisnike Facebooka. Nedavna objava na kanadskoj stranici American Patriots sadržavala je umjetno generiranu sliku američkog vojnika i njegove djece te dobila preko 100 tisuća lajkova i 35 tisuća komentara. Spomenuta stranica, kao i većina drugih, preusmjerava korisnike Facebooka na web stranice s nekvalitetnim člancima.
Umjetna inteligencija pomogla razmahu laži
Forbes je provukao tri članka sa stranice American Patriots kroz AI detektor teksta GPT-Zero, koji je utvrdio vjerojatnost od 79 posto, 85 posto i 100 posto da su generirani umjetnom inteligencijom. Detektor je također otkrio da su priče povezane sa stranicom We Love America sa sjedištem u Španjolskoj i American Story iza koje stoje Makedonci, 100 posto generirane umjetnom inteligencijom. (Napomena: nekoć sam radila na pozicijama vezanima uz pravila sadržaja na Facebooku i Spotifyju.)
“Svaka platforma ima svoje sustave poticanja korisnika na djelovanje koji nam omogućavaju uvid u samu srž Facebooka, u ono što ga pokreće”, rekao je Jeff Allen, suosnivač instituta Integrity i bivši Facebookov podatkovni znanstvenik koji je pratio mreže spamera i administratora stranica iznutra. Za njega su farme sadržaja “golemo povećalo u primitivnije dijelove našeg mozga.”
Primjeri lažnih stranica: Patriotizam kao krinka za prijevare; Foto: Forbes
Glasnogovornica Mete, Margarita Franklin, rekla je za Forbes da je svih 67 stranica prekršilo Metina pravila o autentičnosti jer su navodile lažne lokacije. Sve su uklonjene. Napravite li stranicu o jednoj zemlji dok se zapravo nalazite u drugoj ne predstavlja nužno kršenje Metinih pravila, ali kad obmanjujete ljude o svojoj stvarnoj lokaciji, onda ste prešli granicu. Franklin je rekla da su stranice bile aktivne tek nešto više od tjedan dana kad ih je Forbes označio kao lažne.
Franklin je također rekla da, iako umjetna inteligencija spamerima i prevarantima olakšava stvaranje sadržaja, njihov je glavni izazov uvijek bio privući korisnike na svoje stranice, bez obzira na to jesu li ih stvorili uz pomoć umjetne inteligencije ili ne. Nedavni Metin izvještaj o sigurnosnim prijetnjama pokazao je da generativna umjetna inteligencija “akterima prijetnji” donosi “tek zanemarivu korist u produktivnosti i stvaranju sadržaja” jer je trošak stvaranja nekvalitetnih clickbait članaka oduvijek bio prilično nizak.
Manje politike, više tabloidnih priča
Kad su makedonske tvornice sadržaja 2016. prvi put polučile značajniji uspjeh na Facebooku, uvelike su se oslanjale na širenje kontroverznih sadržaja na teme poput imigracije, prava transrodnih osoba, rasnih pitanja i policijskog postupanja, što je u pravilu izazivalo snažne podjele i bijesne reakcije korisnika. Teorija je bila jednostavna – plasirati ono na što će ljudi najvjerojatnije reagirati. U to su vrijeme takve objave često bile među najpopularnijima na Facebooku.
Ipak, Facebookov se algoritam osam godina poslije udaljio od politike. Tvrtka je počela agresivno smanjivati vidljivost političkih objava nakon napada na Capitol 6. siječnja 2021., dijelom organiziranih upravo na Metinim platformama.
Neke od američkih patriotskih stranica i dalje su plasirale političke teme, s tim da su nedavne objave vezane uz kritičku rasnu teoriju i trans prava. Ipak, u cjelini, te stranice nisu bile fokusirane na politiku. Češće su objavljivale standardne tabloidne priče, poput priča o nevjernim supružnicima (“Nećete vjerovati što je učinio sljedeće!”) ili radnicima koji se osvećuju elitama koje su ih omalovažavale. Zanimljivo je da su se na tim stranicama stalno pojavljivali memovi sa Simonom Cowellom, glasovitim producentom i članom žirija emisije “America’s Got Talent”. Uz preinake sadržaja u skladu s promjenama Facebookovog algoritma koji se udaljava od politike, stranice su također pokazivale druge znakove prilagodbe novim pravilima. Na primjer, Facebook je smanjio doseg poveznica s neželjenim sadržajima, ali daje prednost komentarima administratora stranica na vlastite objave. Potom bi se administratori tih stranica “snalazili” tako da bi često objavljivali meme ili drugu sliku koja upućuje na sadržaj članka, a zatim bi poveznicu objavili u komentaru.
Stranica Patriotic Warriors – kreirana u Sjevernoj Makedoniji. U međuvremenu je ugašena; Foto: Forbes
Neke od tih stranica služile su se i drugim popularnim trikovima za povećanje angažmana korisnika. Jedna stranica sa sjedištem na Kosovu, pod nazivom Animals News America, objavljivala je clickbait sadržaje slične (a katkad i identične) onima na drugim stranicama koje nisu bile tematski vezane uz životinje. No, također je redovito objavljivala slike mačića i štenaca, koristeći se strategijom već poznatih širitelja dezinformacija, poput Josepha Mercole, liječnika koji negira COVID, i NTD Newsa, sestrinskog brenda Epoch Timesa povezanog s kineskom sektom Falun Gong.
Meta je uklonila stranice, ali…
Nakon što je Forbes zamolio Metu za komentar, svaka je od tih stranica uklonjena.
Čak i ako se te stranice nisu namjerno koristile za formiranje političkih stavova korisnika, farme sadržaja katkad svojim stranicama svjesno utječu na geopolitička zbivanja, rekao je Allen. Dok je još radio u Facebooku, primijetio je jednu organizaciju sa sjedištem u Tajlandu koja je političkim sadržajima ciljala publiku u Mjanmaru. Ta bi organizacija “uskočila kao unajmljeno oružje za političke kampanje i potom se povukla,” rekao je. “Ali izvan sezone političkih kampanja, funkcionirala bi na jednak način, samo bi pritom zarađivala za sebe.”
Zato takve stranice nisu bezazlene kao što se čini. “Kladim se da postoji mnogo inozemnih aktera koji bi rado kupili ove stranice u odgovarajućem trenutku. Stoga u nekim situacijama ‘farme klikova’ mogu postati daleko podmuklije,” rekao je Allen. Nakon što su razotkrivene originalne makedonske farme klikova, Facebook je uveo značajku pomoću koje korisnici mogu doznati iz koje se zemlje vodi određena stranica, ako ima najmanje 5000 pratitelja ili objavljuje političke oglase. No, zemlja podrijetla administratora stranice često je skrivena u zabačenom panelu pod nazivom Transparentnost stranice (Page Transparency), a komentari pod objavama stranica s američkom tematikom sugeriraju da mnogi ljudi koji reagiraju na takve objave i/ili ih komentiraju ili dijele nisu znali da iza tih stranica stoje stranci.
Stranice s američkom tematikom također su namjerno obmanjivale korisnike. Jedna prošlotjedna objava na stranici America Today glasi: “Ni centa više nacijama koje ne poštuju našu zastavu i vrijednosti! 🇺🇸” Stranicom se upravljalo iz Makedonije.
Franklin napominje da Meta sad u određenim slučajevima prikazuje lokaciju administratora određenih stranica izravno u Facebookovu News Feedu.
Računi koji se samo pretvaraju da su američki
Korisnički računi koji se pretvaraju da su američki, a zapravo nisu, raširen su problem na društvenim mrežama. Prednost je Facebooka što je on jedina velika društvena mreža koja otkriva iz koje se zemlje se upravlja stranicama s većim brojem pratitelja. Druge platforme, uključujući YouTube i TikTok, dopuštaju korisnicima da sami odaberu lokaciju ako to žele, što otežava otkrivanje računa koji se pretvaraju da su američki. Ali razlozi za obmanu su isti. Parveen Kumar Shah, koji zarađuje savjetujući ljude kako steći publiku na YouTubeu i Instagramu putem svog kanala TubeSensei, nedavno je drugim kreatorima stranica predložio da se pretvaraju da su Amerikanci. Zašto? Zato što ćete tako zaraditi više, rekao je.
Umjetna inteligencija to dodatno olakšava. U intervjuu za Forbes rekao je da danas, “sve možete obaviti uz pomoć umjetne inteligencije ako ne želite pokazati lice”. Na YouTubeu, Shah je svojim pratiteljima pokazao kako napraviti stranice na teme muževnosti za američke tinejdžere s naslovima poput Far From Weak i Sigma Male. “Vrlo je jednostavno doprijeti do takve publike jer je lako oblikovati mozak tinejdžera.”
Brojni videozapisi na YouTubeu objašnjavaju kako sakriti ili lažirati državu tako da izgleda kao da svojim kanalom upravljate iz drugog dijela svijeta. Za Shaha je ta ekonomska računica prilično jednostavna: YouTube plaća vlasnicima kanala za oglase koji se prikazuju na njihovu kanalu, a oglašivači troše mnogo više na zapadnim tržištima nego u Indiji. Na kanalu TubeSensei, objasnio je: “Naš će kanal biti namijenjen američkoj publici, a čim saznaju da je ovo indijski kanal ili da iza njega stoji indijski kreator, prestaju ga gledati.”
Znakovita šutnja YouTubea
YouTube nije odgovorio na zahtjev za komentarom.
Allen, nekadašnji podatkovni znanstvenik na Facebooku, farme sadržaja opisao je kao problem koji platforme moraju riješiti jer bi ih u suprotnom regulatori mogli kazniti. Usporedio je učestalost lažnih stranica s neispravnim automobilskim gumama: “Vaše gume već deset godina pucaju na autocestama. Zato će se u nekom trenutku to morati zakonski regulirati.”
Sve dok “zločini” farmi klikova ostaju na širenju prožvakanih, nekvalitetnih memova, Allen ne smatra da bi uklanjanje stranica riješilo problem. Umjesto toga, kaže, Facebook bi prije svega trebao ukinuti algoritme koji ljudima omogućavaju i potiču ih na objavljivanje senzacionalističkog smeća.
“Ako farme sadržaja pokušavaju ostvariti korist na vašoj platformi, ali ne dobivaju nijedan klik, hoće li im se to onda isplatiti?”, pita Allen.
( Autorica teksta objavljenog na Forbesu je Emily Baker White. Prevela na hrvatski: Iva Tomečić)
