Strah od Kine: Startup koji radi s američkim ministarstvom obrane potiho raskinuo ugovor s TikTokom
Ovaj ugovor bio je samo jedan od problema s poslovanjem AI startupa Scale vrijednog 7,3 milijarde dolara, čiji je izvršni direktor Alexandr Wang postao glasan zagovaratelj američke nacionalne sigurnosti uslijed prijetnje koju predstavlja Kina. Jedan stručnjak percepciju je nazvao “užasnom.”
U jesen 2022. godine, izvršni direktor Scale AI-ja Alexandr Wang vidio je ogromnu priliku: ugovor s TikTokom prema kojemu bi njegova tvrtka za označavanje podataka pružala nove uvide oglašivačima te društvene platforme. Iako je inicijalni projekt vrijedio manje od milijun dolara, Wang je bio uvjeren kako bi prošireni ugovor mogao biti ogroman, prisjećaju se izvori upoznati s pričom.
No dok je Wang pokušavao progurati ugovor, vodstvo tvrtke se uspaničarilo, kažu tri izvora za Forbes. Samo dvije godine ranije, bivši američki predsjednik Donald Trump najavio je planove za zabranu TikToka, tvrdeći da aplikacija – čiji je vlasnik kineska tvrtka ByteDance – predstavlja prijetnju američkoj nacionalnoj sigurnosti. TikTok je još uvijek predmet analize nacionalne sigurnosti zbog strahova da bi podacima američkih korisnika mogla pristupati Komunistička stranka Kine (što TikTok negira).
Percepcija nije bila dobra, a neki direktori bojali su se kako bi ugovor o suradnji s TikTokom mogao u pitanje dovesti buduće poslovanje s američkom vladom, kažu izvori. No tada 25-godišnji Wang – koji je javno govorio kako je pobjeda nad Kinom u AI utrci pitanje nacionalne sigurnosti, a ponosno se pozicionirao kao lider u industriji obrambene tehnologije – nije se dao pokolebati: komercijalna prilika bila je previše primamljiva. Progurao je ugovor usprkos prigovorima vodstva svoje kompanije.
Strateški, iz perspektive i percepcije i sigurnosti,” bilo kakav ugovor između izvođača za vojnu industriju i TikToka je “loša odluka.”
Bill Evanina, bivši čelnik protuobavještajne službe za američku vladu
“Alex je puno toga, ali nije stručnjak za nacionalnu sigurnost,” rekao je za Forbes jedan bivši zaposlenik u Scaleu za suradnju s državom. Zatražio je da ostane anoniman zbog straha od osvete. “Ignorirao je naše strahove i rekao kako se mora fokusirati na dugoročne ciljeve obje strane biznisa, i kako će u tome pomoći ugovor s TikTokom.”
Ipak, kada je Forbes prvi izvijestio kako matična kompanija TikToka, ByteDance, planira nadzirati Amerikance putem podataka o geolokaciji iz aplikacije (meta je bio upravo jedan Forbesov novinar, a čitavu priču sada istražuju FBI i ministarstvo pravosuđa), u Scaleu su se predomislili. Iz tvrtke za Forbes kažu kako su prekinuli kontakt s TikTokom manje od mjesec dana nakon početka suradnje.
“Strateški, iz perspektive i percepcije i sigurnosti, loša odluka,” kaže Bill Evanina, bivši direktor Nacionalnog obavještajnog i protuobavještajnog centra američke vlade. Govorio je općenito o bilo kakvoj suradnji između izvođača za vojnu industriju i TikToka. “Ali kad se podvuče crta, ako surađujete s ByteDanceom možete zaraditi deset puta više novca nego u ministarstvu obrane. Siguran sam da postoje ljudi koji će reći da je to bila dobra poslovna odluka, ali u široj slici to nije baš točno,” dodaje on.
Potencijalna reputacijska šteta i percepcija izazvana tom suradnjom bila bi “užasna”, kaže Evanina. “Mislim da su izbjegli katastrofu” povlačenjem ugovora.
Promjena smjera po pitanju TikToka samo je jedan od niza problema koji bi mogli, kako se boje neki direktori u tvrtci, potkopati napore za izgradnju poslovne suradnje s vladom i vojskom – koje je i sam Wang nazvao prioritetima – stoji u internim razgovorima i intervjuima s 11 bivših zaposlenika i izvora iz industrije.
U razgovorima s Forbesom, generalni menažder Scalea za javni sektor, John Brennan, rekao je da tvrtka trenutno nema ugovor s TikTokom, a i sam Wang je rekao da “nikakvi podaci niti novac nisu razmijenjeni s TikTokom.” Obojica su naglasili kako je Scale potpuno posvećen nacionalnoj sigurnosti, a Wang se pohvalio privremenim odobrenjem ministarstva obrane koji im dopušta pristup neklasificiranim podacima, naglašavajući kako je njegova tvrtka bila jedna od sedam koji su potpisali dobrovljnu zakletvu Bidenove administracije o radu na sigurnosti umjetne inteligencije.
Iz TikToka nisu željeli komentirati.
Posjet Kini
Scale, koji koristi radnike za označavanje podataka prema kojima se obučava AI, a proširio je uslugu i na druge vrste analize podataka, s vladom radi od 2020. godine. Wangova originalna vizija za novu granu kompanije koja se bavi obranom bila je djelomično, kako je i sam ranije rekao za Forbes, inspirirana njegovim putovanjem u Kinu 2018. godine, kada je razgledao urede ByteDancea i drugih tech tvrtki. Bio je impresioniran umjetnom inteligencijom koju te tvrtke razvijaju, no brinuo se da bi ona mogla predstavljati prijetnju američkoj vodećoj poziciji: “Bilo je jasno da to nije bilo za dobre svrhe,” rekao je, “i bilo je poprilično zastrašujuće.”
Ovaj startup danas je jedan od tek šačice tech kompanija koje otvoreno žele sklapati ugovore s vladom. Između 2020. i kraja trećeg kvartala 2023. godine, Scale je uložio 1,95 milijuna dolara na lobiranje u vladi, pokazuju podaci, a ostvario je 90 milijuna dolara zarade od ugovora s vladom u tom istom periodu. Do 2023. je broj ljudi koji rade u Scaleovom biznisu s javnim sektorom premašio stotinu, rečeno je iz kompanije. Brennan za Forbes kaže kako Scale trenutno ima čak 20 aktivnih ugovora s vladom.
No kako se poslovanje s vladom širilo, rasli su i strahovi lidera u timu za javni sektor, proširivši se i dalje od TikToka.
Obrambena grana Scalea još uvijek je vrlo malena u usporedbi s komercijalnim biznisom startupa, zbog kojeg je godišnja stopa prihoda krajem 2023. godine dosegla 750 milijuna dolara, kažu dva izvora. Početkom 2022. godine, godišnja stopa prihoda Scalea iznosila je oko 250 milijuna dolara. Za rast je odgovorna eksplozija potražnje AI kompanija za takozvani RLHF, odnosno postupak označavanja podataka za velike jezične modele. Tvrtka je do danas prikupila 600 milijuna dolara od velikih investitora poput Accela i Index Venturesa.
Preuveličavanje opsega suradnje
No kako se poslovanje s vladom širilo, rasli su i strahovi lidera u timu za javni sektor, proširivši se i dalje od TikToka. U dva navrata vojno osoblje požalilo se direktorima Scalea zbog, kako su rekli, preuveličavanja opsega suradnje tvrtke s vladom, kao i njenim sposobnostima, kažu tri izvora. Prošle godine tvrtka je najavila predstavljanje svog proizvoda fokusiranog na nacionalnu sigurnost. Radi se o platformi imena Donovan koja prilagođava velike jezične modele (kao što je GPT-3.5 OpenAI-ja) za korištenje s klasificiranim podacima. Scale je u priopćenju tvrdio kako će Donovana “u kriznim situacijama” koristiti 18. zračno-desantni korpus američke vojske, i kako će proizvod “pomoći vojnom osoblju razumjeti i organizirati brzorastući obujam podataka bez iskustva ili znanja o kodiranju – u samo nekoliko minuta.” Iz tvrtke je također rečeno kako “ciklus trenutno traje tri dana, a Donovan vremenski okvir može smanjiti na tek nekoliko sati.”
Nakon objave priopćenja, pukovnik Joe O’Callaghan rekao je direktorima Scalea da je kompanija preuveličala prirodu njihove suradnje, rekli su izvori za Forbes. Dodaju kako Scale u to vrijeme nije imao pristup podacima korpusa i kako Donovan nije imao odobrenje za “korištenje u kriznim situacijama”. Brennan kaže kako Scale stoji iza tvrdnji u priopćenju i kako ne može komentirati ugovore.
Nekoliko mjeseci kasnije, tijekom inicijalnog sastanka s američkim središnjim zapovjedništvom, zapovjednik general Michael Kurilla rekao je kako Donovan nije spreman za proizvodnju nakon što je vidio demonstraciju, kažu dva izvora. Brennan kaže kako Kurilla “nama to nije rekao.” Wang kaže kako Donovana “trenutno koristi preko 80 vladinih organizacija”. Dva izvora za Forbes su izjavili kako se krajem 2023. godine veliki dio korištenja Donovana svodio na probe i pilot-projekte, kao i da Scale ima problema s pretvaranjem tih proba u pune ugovore.
Iz kompanije nisu odgovorili na pitanja o tome uključuje li njihov broj i one organizacije koje su se prijavile na besplatan probni period, koji Scale reklamira na svojim internetskim stranicama.
Projekt zbog kojeg su prosvjedovali zaposlenici Googlea
Wang je očekivao da će ugovori s vladom za tvrtku značiti “lak novac”, kaže troje bivših zaposlenika. Scale je 2020. godine potpisao prvi ugovor s ministarstvom obrane. Pregovori su bili jednostavni, a obećavala se potencijalna zarada od oko 100 milijuna dolara tijekom četiri godine, pokazuju zapisi vladine nabave. Dosad je isplaćeno gotovo 80 milijuna dolara.
Scale je ugovor dobio lakše jer je ministarstvo obrane tražilo novog izvođača za označavanje podataka na projektu Maven, istoj onoj inicijativi protiv koje su zaposlenici Googlea prosvjedovali nekoliko godina ranije jer se njihova tehnologija koristila za analizu snimki udara dronova. Ministarstvo obrane zatražilo je od Scalea da se prijavi za ugovor, kaže nekoliko izvora upoznatih sa situacijom.
Vlada je “prilagodila ugovor za Scale i vodila ih kroz čitav proces kako bi bili sigurni da je Scale kompetitivan,” kaže jedan izvor. “To je iskrivilo Alexovu percepciju o tome kako zapravo izgleda suradnja s vladom.”
Brennan je odbio komentirati projekt Maven, pozvavši se na odredbe koje ga sprječavaju da razgovara o određenim ugovorima s vladom. Ministarstvo obrane slijedi regulacije o akviziciji i sklapanju ugovora, rekla je glasnogovornica Sue Gough, odbivši komentirati pregovore za projekt Maven.
Iako nitko iz Scalea nije javno govorio o ugovoru za Maven, njihov prvi veliki ugovor s ministarstvom obrane jasno je pokazao koliko je kompleksno dobiti ugovore s vojskom: u siječnju 2022. Scale se pohvalio s 249 milijuna dolara koje im je ministarstvo obrane obećalo za razvoj alata za procjenu i testiranje i pružanje “end-to-end” AI rješenja ministarstvu obrane. Ipak, najava je bila pogrešna: nisu spomenuli kako uvjete za dobivanje tog novca ispunjava još 70 drugih tvrtki. Scale do danas još nije dobio nikakve isplate temeljem tog ugovora, pokazuju vladini podaci o nabavi. To su potvrdila i dva insajdera iz kompanije. Brennan kaže kako tvrtka trenutno ima nekoliko važećih ugovora.
Scaleovo poslovanje s ministarstvom obrane još uvijek ovisi o projektu Maven, prvom ugovoru, koji zaključno s 2023. čini veliki dio njihovih prihoda od suradnje s državom, kažu tri izvora. Taj ugovor istječe ovog proljeća, a tvrtka će se tada za njega morati ponovno natjecati. Brennan za Forbes kaže kako su prihodi od suradnje s državom od 2021. porasli za 160 posto, a ne želi komentirati detalje iz Scaleovih ugovora, pozivajući se na povjerljivost.
Američka nacionalna sigurnost još uvijek je za Wanga prioritet. Tijekom AI foruma u prosincu kojeg je organizirao senator iz New Yorka Chuck Schumer, Wang je još jednom govorio o svom putu u Kinu: “Nakon što sam se vratio,” rekao je, “znao sam da dio misije u Scaleu mora biti da učinimo sve što možemo kako bismo podržali SAD.”
Autor originalnog članka: David Jeans, Forbes; Kenrick Cai, Forbes
Link: Defense Contractor Scale AI Quietly Scrapped Deal With Chinese-Owned TikTok Over Security Concerns
(Prevela: Nataša Belančić)
