Zašto se Musk boji AI? Za Forbes govori stručnjak svjetskog ranga koji vodi projekt NeuroData
Dva hrvatska fakulteta sudjeluju u projektu magistarskog studija koji obuhvaća neuroznanost i znanost o podacima. Koordinator projekta je profesor Alon Korngreen koji je kroz dvije priče o ljudskom i životinjskom mozgu objasnio koliko su prirodne neuronske mreže još ispred umjetnih. Objasnio je i što je utjecalo na strah Elona Muska od umjetne inteligencije.
Zagrebački Medicinski fakultet i Fakultet elektrotehnike i računarstva hrvatski su partneri koji sudjeluju u prestižnom projektu dvogodišnjeg magistarskog studija NeuroData. On obuhvaća neuroznanost i znanost o podacima, a glavni koordinator projekta na kojem sudjeluje šest fakulteta je profesor Alon Korngreen s Bar-Ilan Sveučilišta u Izraelu.
U razgovoru za Forbes Hrvatska, rekao je kako su obrazovni programi koji prate ova dva područja još uvijek rijetki. Znanost o podacima tradicionalno se poučava unutar nastavnih planova i programa informatike, dok je neuroznanost ograničena na diplomske programe. Ovo odvajanje rezultira time da stručnjaci nemaju dovoljno znanja u oba područja. Prepoznajući ovaj jaz, obrazovna inicijativa u kojoj sudjeluje Medicinski fakultet i FER ima za cilj stvoriti magistarski program koji spaja znanost o mozgu sa znanošću o podacima.
Drugim riječima, postoji rastuća potražnja za stručnjacima koji dobro poznaju neuroznanost i podatkovnu znanost. Trenutačni akademski nastavni planovi i programi teško je ispunjavaju. Inovativni program koji su pokrenuli nastoji razviti novu generaciju istraživača s dubinskim znanjem u oba polja. Studenti će biti obučeni u praktičnim aspektima obje discipline, pripremajući ih za karijere u neurotehnologiji, zdravstvu, obrazovanju i drugim područjima.
Izdašno financiranje Europske unije
Sveučilište Bar-Ilan prije nekoliko godina razvilo je moderan kurikulum za obrazovanje buduće generacije neuroznanstvenika koji će biti u stanju odgovoriti na računalne izazove u neuroznanosti. U početku je ovaj program bio na hebrejskom, ali je kasnije prebačen na engleski. Nakon što su dobili neke međunarodne studente, htjeli su ga iskoristiti za uspostavljanje suradnje s vodećim europskim institutima.
Erasmus Mundus Joint Master program najbolja je prilika za to. On omogućuje suradnju nekoliko sveučilišta zahvaljujući izdašnom financiranju EU-a. Program koji su osmislili privlači kandidate iz gotovo svih područja znanosti, uključujući informatiku, psihologiju, biologiju, fiziku, kemiju, medicinu, inženjerstvo (električko i mehaničko), društvene znanosti i mnoge druge. Srž njihovog programa je njegova multidisciplinarna priroda.
U fokusu Korngreenovog interesa je biološki realno neuralno računanje. To je grana neuroračunalstva koja pokušava generirati računalne modele koji su izvedeni izravno iz bioloških podataka.
Na pitanje o umjetnoj inteligenciji i njezinoj ulozi u neuroznanosti i znanosti o podacima kaže kako je to duga priča. No, kako je nedavno objavio tekst koji djelomično odgovara na to pitanje, ustupio ga je Forbesu Hrvatska. Tekst je dobar i zbog toga jer neupućenima kroz priču pojašnjava neke mogućnosti stvarnih neuronskih mreža koje umjetne još uvijek nemaju.
Priča o biciklu, sovi i Golemu
Elon Musk, jedna od najutjecajnijih osoba 21. stoljeća, jednom je rekao: “Roboti će sve moći učiniti bolje od nas. Izložen sam najnaprednijoj umjetnoj inteligenciji i vjerujem da bi ljudi trebali biti vrlo zabrinuti za svoju budućnost.” Drugom prilikom, govoreći o umjetnim neuronskim mrežama koje su naučile pobijediti ljude u računalnim igricama, primijetio je: “Priroda umjetne inteligencije je takva da može pobijediti bilo kojeg čovjeka u bilo kojoj računalnoj igrici. Upravo je to priča u filmu ‘Ratne igre’.” U tom filmu, kao i u filmovima ‘Matrix’ i ‘Terminator’, umjetna inteligencija, temeljena na umjetnim neuronskim mrežama, razvija svijest i odmah odlučuje eliminirati čovječanstvo.
U tim pričama kreacija uvijek ustaje protiv svog tvorca. Ali može li tvorevina uopće ustati protiv svog tvorca? Jesu li se granice između ljudi i računala zamaglile kako bismo uskoro mogli vidjeti samosvjesne strojeve? Jesu li umjetne neuronske mreže tolika prijetnja čovječanstvu kao što Musk i mnogi holivudski scenaristi, na koje su nesumnjivo utjecale knjige i priče Isaaca Asimova, vjeruju? Djelomičan odgovor na ova pitanja leži u pričama o ludim biciklima, sovi s naočalama, i naravno, našem inherentnom strahu od “Golema”.
(Prema židovskoj legendi, Golem je figura od nežive materije koju je oživjela magija. U mnogim pričama o Golemu, on postaje prijetnja svom kreatoru zbog čega ga Korngreen navodi kao primjer u kontekstu umjetne inteligencije op.FH.)
Naopaki bicikl
Destin Sandlin je zrakoplovni inženjer koji živi u Alabami. Iz hobija snima razne neobične online videe. Na primjer, jedan video pokazuje što se događa sa staklenkom majoneze kada je udari bejzbolska loptica koja se kreće brzinom od tisuću kilometara na sat. Klasika. Njegovi prijatelji odlučili su ga izazvati izgradnjom jedinstvenog bicikla.
Promijenili su smjer upravljača: kada se upravljač okrene udesno, bicikl skreće ulijevo. Kad se okrene ulijevo, bicikl skreće udesno – suprotno od običnih bicikala. Destin je pokušao voziti naopaki bicikl, ali nije uspio. Pokušavao je nekoliko sati i nije mogao prijeći više od metra bez pada. Većina ljudi bi shvatila nagovještaj, stala i brzo napustila mjesto sramote. Ali ne i Dustin. Nastavio je pokušavati. Pokušavao je gotovo svaki dan tijekom osam mjeseci i odjednom – uspio. Njegova neuronska mreža naučila je novi slijed radnji i uspio je voziti naopaki bicikl.
Umjetne neuronske mreže pokazuju sličan model učenja. Mreža uči kroz opetovano izlaganje informacijama s ponavljajućim obrascima: lica, mačke, kolege ili video igara. Izlaganje mreži, bilo biološkoj ili umjetnoj, ponavljajućem podražaju (inputu) mijenja prijenos informacija između živčanih stanica. Određene veze prenose više informacija kako se obuka nastavlja, dok druge prenose manje.
Biolozi kažu da neke veze jačaju dok druge slabe (iako se ne raspadaju u potpunosti). Nakon mnogo ponavljanja, mreža se mijenja i stabilizira u novom stanju uz manje izmjene. U ovoj fazi mreža je završila svoj proces obuke i točno će i brzo odgovoriti na svaki podražaj sličan onima koje je naučila. Međutim, ako naiđe na različite podražaje (koje nije naučila), mreža na njih neće reagirati. Zapravo, nepoznati podražaji mogu čak i zbuniti mrežu. Na primjer, ako mreži obučenoj za prepoznavanje mačaka pokažete sliku tete i ujaka, mreža će objaviti da je identificirala mačku. Teta i tetak će se, naravno, jako uvrijediti. I kao što je Danny Sanderson napisao, sreća je što to nisu njegovi teta i tetak.
Dustin Sandlin, čija je neuronska mreža naučila upravljati naopakim biciklom, odlučio je otputovati u grad bicikala – Amsterdam. Smatrao je da bi to bilo idealno mjesto za izvođenje još jednog važnog eksperimenta. Posudio je obični bicikl i pokušao ga voziti. Nije uspio. Nakon dugog razdoblja treninga, njegova je neuronska mreža naučila drugačiji slijed radnji. Kad je pokušao unijeti stari slijed radnji, nije ga mogao ispravno kodirati.
No, onda se dogodilo nešto važno. Nakon petnaestak minuta pokušaja, nešto se u Dustinovom mozgu ponovno pomaknulo i bez problema se vratio vožnji običnog bicikla. Trebalo mu je osam mjeseci da nauči voziti naopaki bicikl i samo petnaest minuta da se vrati na stari. U Dustinovom mozgu ostalo je u pozadini sjećanje koje mu je omogućilo relativno brzo prebacivanje između različitih vrsta algoritama. Kad bismo trenirali umjetnu neuronsku mrežu na ovom ili bilo kojem drugom zadatku, a zatim je ponovno stimulirali starim informacijama, mreža to ne bi prepoznala. Umjetna mreža ne bi imala traga sjećanja na stari proces učenja.
Ako je mreža bila uvježbana da prepoznaje tete i tetke, a sada želimo da prepoznaje mačke, morali bismo je ponovno uvježbati od nule da identificira mačke s istom učinkovitošću kao što je prije prepoznavala tete i ujake. Nakon ove obuke, mreža više ne bi odgovarala na figure tete i tetaka. Ovo je značajna i temeljna razlika između naše biološke mreže i najnaprednijih umjetnih mreža koje možemo izgraditi na računalu. Umjetna mreža je “specijalizirani sustav” koji u mnogim slučajevima može izvesti određene radnje bolje od nas. Međutim, ono ne može generalizirati niti se sjećati stvari koje je naučilo prije posljednjeg treninga.
S druge strane, ljudi mogu učiti nove stvari bez zaboravljanja važnih dijelova starih. Na primjer, nećemo zaboraviti kako razlikovati mačku od tete ili tetka. Naš opstanak bi mogao ovisiti o ovoj sposobnosti.
Sova s naočalama
Sova sjedi na grani i čuje šuštanje u grmlju. Okreće pogled prema buci i vidi miša. Raširi krila, sruši se sa stabla i uhvati ga. Sova se zadovoljna (i punog trbuha) vraća na granu. Kada se sova obruši na svoj plijen, koristi informacije koje dobiva od svog vida i sluha kako bi osigurala da njezine kandže dopru do cilja: miša.
U njezinom se mozgu stvaraju dvije karte. Jedna prostorna karta izgrađena je na temelju vizualnih informacija, a druga prostorna karta izgrađena je na temelju slušnih informacija. U određenom području njezinog mozga, ove dvije karte konvergiraju u jednu prostornu kartu koja mu omogućuje da se kreće i baci se na svoj plijen. Slični se procesi događaju u ljudskom mozgu, iako ne koristimo prostorne karte da bismo lovili i jeli poljske miševe.
Eric Knudsen i njegovi laboratorijski kolege sa Sveučilišta Stanford željeli su znati što bi se dogodilo da se slušna mapa ne preklapa s vizualnom mapom. Da bi to učinili, opremili su sovu naočalama koje su sadržavale prizme za lomljenje svjetlosti. Sova koja je gledala naprijed vidjela je što je sa strane i čula što je bilo ispred nje. To je spriječilo preklapanje vizualne karte sa slušnom mapom u njenom mozgu. Isprva su se sove s naočalama mučile kako bi uhvatile poljske miševe. Ali s vremenom su naučile nadoknaditi naočale i nastavili loviti kao prije.
Eksperimenti s ovim sovama otkrili su nešto nevjerojatno: vizualna karta se nije promijenila iako su prizme pomaknule unos u stranu. Auditorna mapa bila je prilagođena novoj žarišnoj točki. Naknadno istraživanje pokazalo je da je promjena slušne slike rezultat promjene mrežne strukture. Biološke žice (zvane aksoni) koje povezuju neurone u mozgu pomicale su se i spajale na različite neurone od onih povezanih u mozgovima sova bez naočala.
Takva strukturna promjena ne događa se u umjetnim mrežama. Umjetna mreža je kruta virtualna softverska struktura. Jednom kada je struktura mreže definirana, ona ostaje fiksna i mijenja samo snagu veza. Trenutno nijedna umjetna mreža ne mijenja svoje strukture kao dio procesa učenja.
Što prirodne neuronske mreže mogu, a umjetne ne?
Bicikl unazad i sova s naočalama samo su dva primjera dubokih razlika – granica koja razdvaja biološke i umjetne mreže. Svaki neuroznanstvenik može dati više primjera iz svog područja istraživanja. Što više proučavamo biološku mrežu, to više otkrivamo da je složenost, fleksibilnost i plastičnost koju pokazuju biološke mreže daleko veća od one umjetnih mreža. Štoviše, mnoga nedavna dostignuća koja su računalni znanstvenici ugradili u umjetne mreže nemaju biološki pandan. Ovi razvoji omogućuju umjetnim mrežama da budu bolji, učinkovitiji i brži ekspertni sustavi – ali ih udaljuju od biološkog predloška.
Dakle, zašto je Elon Musk zabrinut? Dio njegove zabrinutosti je logičan i proizlazi iz brzog razvoja moćnih alata koji bi se, u pogrešnim rukama, mogli zloupotrijebiti. Ali većina njegovih briga je nelogična i proizlazi iz društvene i kulturne pristranosti ukorijenjene u dugoj sjeni “Golema”.
Priča o Golemu koji se diže protiv svog tvorca stara je gotovo koliko i sama ljudska rasa. Njegov moderni dio počinje u ljeto 1816. godine kada je mlada žena bila na odmoru uz Ženevsko jezero. Ljeto je bilo jako hladno i kišovito, a žena i njeni prijatelji bili su prisiljeni dugo satima ostati u kući, zabavljajući se izmišljanjem horor priča.
Jedne noći sinula joj je ideja da spoji staru priču o Golemu s revolucionarnim otkrićima Luigija Galvanija, koji je prvi pokazao da živčani sustav provodi struju. Mlada žena je bila Mary Shelley (supruga slavnog engleskog pjesnika Percyja Shelleyja). Plod njezine mašte i danas je poznat kao “Frankenstein”. U 200 godina otkako je Mary Shelley stajala uz Ženevsko jezero, Frankensteinovo čudovište bacilo je ogromnu sjenu na ljudsku kulturu.
Priča o električnom golemu doživjela je mnoge transformacije, uključujući izum riječi “robot” od strane Karola Čapeka početkom 20. stoljeća, riječi izvedene iz češke riječi za “rad”. Kasnije, s Isaacom Asimovim na čelu, pisci znanstvene fantastike unaprijedili su koncept robota u popularnoj kulturi. Izumom digitalnih računala, trnova kruna Frankensteina i robota prešla je na Skynet i Matrix.
Granica između ljudi i računala neće biti prijeđena još mnogo godina
Elon Musk je, kao što je jasno iz njegovih godina i izjava, odrastao na filmovima u kojima zla računala i roboti pokušavaju, a ponekad i uspijevaju, uništiti čovječanstvo. Stoga nije iznenađujuće da ga Frankensteinova duga sjena navodi na kulturološki pristrane reference kada raspravlja o umjetnim neuronskim mrežama.
Iz biološke perspektive, netočno je nazivati umjetne neuronske mreže “umjetnom inteligencijom”. Bicikl unatrag i sova s naočalama pokazuju koliko su umjetne mreže daleko od bioloških. Izraz “umjetna inteligencija” antropomorfizira računalni program, daje mu emocije i misli, opterećuje ga kulturnom prtljagom i ugrađuje ga duboko u dugu Frankensteinovu sjenu. Ali umjetne neuronske mreže nemaju inteligenciju i svijest. Oni su vrlo složeni računalni programi, nevjerojatni ekspertni sustavi sposobni obavljati određene zadatke bolje od ljudi.
Između toga i samosvijesti postoji veliki jaz koji se u ovoj fazi čini nemogućim premostiti. Umjetna neuronska mreža između ostalog može poraziti šahovskog velemajstora, identificirati osumnjičenika na stadionu ispunjenom desecima tisuća ljudi, voziti automobil, pa čak ponuditi i analizu zadanog teksta. Ali to su, više-manje, njegove granice.
Pokušajte od iste mreže zatražiti šalicu kave i vidjeti što će se dogoditi (osim ako se ne radi o kompjuteriziranom mehaničkom sustavu posebno izgrađenom za pripremu kave…). Granica između ljudi i računala je stvarna i postojana, i koliko mogu procijeniti, neće biti prijeđena još mnogo godina. Golem se nije digao protiv svog tvorca i nema šanse protiv tetki i tetaka.
