Ovaj startup želi biti lider u korisnoj primjeni umjetne inteligencije

Baseten, startup iz San Francisca, prikupio je 40 milijuna dolara kako bi olakšao kompanijama da zaista koriste AI aplikacije na praktičan način, a prošle godine su im prihodi narasli na nekoliko milijuna dolara.

Tvrtke ulažu milijarde dolara za obuku modela umjetne inteligencije, ali ti troškovi mijenjaju se jednom kada se umjetna inteligencija zaista počne koristiti – primjer je računalna tehnologija koju koristi ChatGPT za odgovaranje upita u stvarnom vremenu. Taj proces, imena “zaključivanje” (eng. inference) odgovoran je za 40 posto računalnih prihoda koje je Nvidia ostvarila prošle godine, objavljeno je iz tvrtke u posljednjem izvješću o zaradi. “Ako je 90 posto poslovanja Nvidije obuka, a 10 posto zaključivanje, možemo ustvrditi da je AI još uvijek u fazi istraživanja,” rekao je u nedavnom intervjuu izvršni direktor Nvidije Jensen Huang. Toliko računalne tehnologije posvećene zaključivanju, dodaje, dokaz je da “umjetna inteligencija napokon uspijeva.”

Zbog toga, gomila startupova juri kako bi pomoga kompanijama u tom procesu. Posljednji u nizu koji je prikupio značajna sredstva je Baseten. Iz te tvrtke u ponedjeljak je objavljeno kako su u B seriji investiranja prikupili 40 milijuna dolara, a seriju su predvodili IVP i Spark Capital, dok su sudjelovali i već postojeći investitori Greylock, Conviction Partners i Lachy Groom. Vrijednost startupa iz San Francisca u ovom je investicijskom krugu procijenjena na preko 200 milijuna dolara, kaže izvor upoznat s procesom.

Baseten pomaže tvrtkama da već obučene AI modele pokrene unutar aplikacija za javnu upotrebu. Klijenti tako mogu zaobići potrebu za postavljanjem backend infrastrukture i svoje modele pokrenu na Basetenovom cloudu, a softver tvrtke automatski prilagođava količinu računalnih resursa za koje tvrtka plaća ovisno o tome koliko prometa u određenom trenutku dolazi do AI modela. Tvrtka također može pomoći u pristupu grafičkim procesnim jedinicama (GPU), kojih ima iznimno malo, ako su potrebne klijentu.

Krenuli doslovno od nule

Baseten je osnovan 2019. a do kraja 2022. godine bio je samo jedan u moru startupova koji su prodavali softver za olakšavanje izrade aplikacija koje se temelje na umjetnoj inteligenciji. Nisu izazvali gotovo nikakvo zanimanje, kaže izvršni direktor Tuhin Srivastava koji je tvrtku osnovao zajedno s Amirom Haghighatom, Philipom Howesom i Pankajem Guptom. Sav njihov rad donio im je prihode od “praktički nule”, kaže Srivastava za Forbes.

“2023. smo shvatili da je najveće tržište zapravo u procesu zaključivanja. Sve smo promijenili i fokusirali se isključivo na to,” govori.

Srivastava se konkretno referira na prošlogodišnju maniju oko ChatGPT-ja tvrtke OpenAI. “Zašto je ChatGPT toliko dobar? Zato jer ne djeluje nezgrapno,” kaže on. “Ispostavilo se kako OpenAI ima desetke i desetke ljudi koji iznutra rade na zaključivanju”, što vrijeme odgovora u ChatGPT-ju čini bržima, a eliminira probleme koji mogu izazvati dugo čekanje.

“Mi koristimo taj val open-source modela koji su u prošlih 12 mjeseci postali jako dobri.”

Tuhin Srivastava, Baseten, CEO

Odluka Basetena da se fokusiraju upravo na taj proces izazvala je porast prihoda na nekoliko milijuna dolara. Partneri iz IVP-ja, Somesh Dash i Shravan Narayen za Forbes kažu kako su odlučili investirati u startup nakon što su vidjeli da je do takvog rasta došlo, a da tvrtka nije imala tim za prodaju i marketing. Jedan dio prikupljenih sredstava otići će upravo na to, kaže Srivastava, koji predviđa da će do kraja godine Baseten gotovo udvostručiti broj zaposlenih s trenutnih 25. Dio sredstava bit će iskorišten i za kupnju dodatnih grafičkih procesnih jedinica, kao i za optimiziranje softvera kompanije.

Već sada oko “20 velikih tvrtki” i deseci tisuća developera plaćaju za njihov proizvod, kaže on, koji naplaćuju ovisno o količini iskorištene računalne energije. Patreon, platforma gdje potrošači kreatorima plaćaju ekskluzivni pristup videozapisima i drugom sadržaju, koristi Baseten za upravljanje open-source modelom za prepoznavanje govora Whisper tvrtke OpenAI, koji automatski generira titlove.

“Mi koristimo taj val open-source modela koji su u proteklih 12 mjeseci postali jako dobri,” kaže Srivastava. Ipak, trenutni procvat kasnije bi mogao predstavljati i rizik. Proizvod Basetena ovisi o tome da će klijenti odlučiti koristiti prilagodljive open-source modele usprkos dodatnom poslu na održavanju infrastrukture. Ako closed-source rješenjta poput OpenAI-jevog GPT-ja, Anthropicovog Claudea ili Googleovog Geminija zadominiraju tržištem, Baseten bi u velikoj mjeri mogao postati suvišan.

Žestoka konkurencija

Srivastava međutim predviđa budućnost u kojoj developeri koriste i open-source i closed-source modele. Iako closed-source usluge možda bolje rade, faktori poput troškova, brzine i privatnosti podataka nastavit će privlačiti startupove open-source alternativama, kaže on.

Postoji i još jedan rizik, a to je konkurencija koja se opasno zahuktava među pružateljima AI infrastrukture. Will Reed iz Spark Capitala koji se u sklopu investicije pridružuje odboru tvrtke, za Forbes kaže kako po njegovom mišljenju Baseten osvaja “nevjerojatno neproporcionalan udio” klijenata, iako ovaj startup nije najjeftinija opcija na tržištu. Na primjer, Baseten upravlja svim značajkama strojnog učenja u aplikaciji za uređivanje videa i podcasta Descript, što je još jedan startup u kojeg je uložio Reed. Srivastava vjeruje kako će klijenti među konkurencijom odabrati baš Baseten zbog njegove uspješne izvedbe: tijekom prošle godine, Baseten niti na jednu jedinu minutu nije prestao raditi na svim AI aplikacijama koje pokreće.

Investitori sve više ulažu u kompanije fokusirane na proces zaključivanja: Modal Labs, čiji investitori uključuju Redpoint i Amplify Partners; Fireworks AI, u kojeg su uložili Benchmark i Sequoia; i Replicate, koji je prošle godine prikupio 40 milijuna dolara od investitora među kojima je i Andreessen Horowitz. Jednorozi poput Together AI-ja i Anyscalea također ulaze na ovo tržište, a Srivastava očekuje kako bi sljedeći mogli biti Microsoft i Amazon: “Realno, morate razmišljati i o gigantima jer mislim da su oni shvatili kako je ovo kompetitivno tržište.”

Autor originalnog članka: Kenrick Cai, Forbes
Link: This Startup Wants To Power The Bext Big Wave Of AI: Actually Making It Useful
(Prevela: Nataša Belančić)