Oznake za slike nastale umjetnom inteligencijom uskoro dolaze na mobitele i kamere
Gigant za proizvodnju čipova Qualcomm i proizvođač kamera Leica najavili su novu tehnologiju koja će biti programirana u njihove uređaje, a moći će slike označiti kao stvarne ili nastale umjetnom inteligencijom.
Sadržaj nastao korištenjem umjetne inteligencije polako, ali sigurno preplavljuje internet, zbog čega kompanije i pojedinci pokušavaju pronaći način za razlikovanje onog što je stvarno od onog što nije. Tu mogu pomoći digitalni vodeni žigovi, no njih se lako ukloni, a alati za detekciju nisu uvijek precizni.
Upravo zato nekoliko tvrtki počelo je s predstavljanjem tehnologije koja bi uređajima poput pametnih telefona mogla omogućiti da na slike dodaju nepromjenjive podatke o tome kako je, gdje i kada neki sadržaj nastao. Ovi metapodaci, kojima je teško manipulirati jer se čuvaju na razini hardwarea, dizajnirani su da olakšaju ljudima raspoznavati je li nešto stvarno ili stvoreno korištenjem umjetne inteligencije.
Zamjenik čelnika odjela za kamere Qualcomma, Judd Heape, kaže kako je ovo najsigurniji način za razlikovanje stvarnih i lažnih slika. Zato je Qualcomm ovoga tjedna najavio kako će pametni telefoni marki Samsung, Xiaomi, OnePlus i Motorola koji koriste njihovu platformu Snapdragon 8 Gen 3 Mobile Platform moći dodati “certifikat sadržaja”, kako kažu, na sliku u trenutku njenog nastajanja.
I iz njemačkog proizvođača kamera Leica ovog tjedna su najavili kako će njihova nova kamera stavljati digitalne žigove na svaku fotografiju sa sličnim informacijama – imenom fotografa i mjestom i vremenom nastanka fotografije.
Ovo je dio širih napora u industriji, nazvanih Koalicija za porijeklo i autentičnost sadržaja (C2PA), za razvoj tehničkih standarda za certificiranje originalnosti i povijesti medijskog sadržaja. C2PA savez je između tvrtki Adobe, Arm, Intel, Microsoft i Truepic, a njegov direktor Andrew Jenks, kaže da iako ovo nije savršeno rješenje za identificiranje sadržaja nastalog korištenjem umjetne inteligencije, ipak je sigurnije od vodenih žigova, koji su “lomljivi.”
“Dokle god datoteka ostaje cijela, metapodaci postoje. Ako krenete uređivati datoteku, metapodatke je moguće ukloniti. Ipak, ovo je najbolje što zasad imamo,” kaže Jenks. “Pitanje je koje pristupe ćemo kombinirati kako bismo dobili relativno snažan odgovor na problem dezinformacija.”
Novi set čipova Qualcomma koristit će tehnologiju koju je razvio partner C2PA, start-up Truepic čije alate za provjeru sadržaja koriste banke i osiguravajuće kuće. Tehnologija koristi kirptografiju za kodiranje metapodataka slike – poput lokacije, vremena i aplikacije za kameru – i veže ih na svaki piksel. Ako je fotografija nastala korištenjem umjetne inteligencije, tehnologija kodira informacije o modelu i upitu temeljem kojeg je nastala. Kako datoteka “putuje” internetom i uređuje se korištenjem umjetne inteligencije ili neke druge tehnologije, promjene se dodaju u metapodacima u obliku digitalnog potpisa, slično kao u digitalnim potpisima dokumenata.
Dodavanjem metapodataka stvarnim slikama koji dokazuju otkud slika dolazi želi se olakšati ljudima koji te slike vide na internetu da znaju da su one prave – ili lažne.
Nekoliko aplikacija za kreiranje vizualnog sadržaja poput Adeobeov alat Firefly ili Bingov kreator slika već sada na sadržaj dodaju certifikate, no oni mogu biti uklonjeni ili izgubljeni pri izvozu datoteke. Međutim, tehnologija koju je razvio Truepic stvara metapodatke koji se čuvaju u najsigurnijem dijelu Qualcommovog čipa, gdje se također čuvaju i ključne informacije poput podataka o karticama ili prepoznavanju lica, što znači da se njima ne može manipulirati, kaže Heape.
Izvršni direktor Truepica Jeffrey McGregor kaže kako start-up želi dokazati što je stvarno, a ne otkriti ono što je lažno, nazivajući to “proaktivnim” i “preventativnim” pristupom, budući da tehnike detekcije koje pokušavaju otkriti što je lažno završe u “beskonačnoj igri mačke i miša.” To je zato jer alati umjetne inteligencije napreduju brže od taktika detekcije, koje se oslanjaju na nelogičnosti u sadržaju stvorenom umjetnom inteligencijom. Nove, moćnije verzije AI modela mogu kreirati umjetne slike koje su otpornije na tehnološke pokušaje detekcije.
“Dugoročno gledano, mnogo više će se investirati u generativnu stranu umjetne inteligencije i kvaliteta će ubrzo prestići sposobnosti detektora za točno prepoznavanje,” kaže McGregor. On vjeruje da korištenje čipova u pametnim telefonima u kojima će se čuvati informacije o podrijetlu slika može funkcionirati, no ipak, ova metoda ima jednu potencijalnu manu: proizvođači pametnih telefona, ali i izrađivači aplikacija, moraju odlučiti da će koristiti tu tehnologiju.
Heape iz Qualcomma kaže kako je prioritet uvjeriti ih da poduzmu taj korak.
“Barijera je vrlo niska jer će ovo funkcionirati direktno s hardwarea Qualcomma. Dakle možemo ih omogućiti odmah,” kaže on.
Postoji i još jedan izazov: neke aplikacije možda ne podržavaju ove nove verzije metapodataka. Heape kaže kako se nada da će uskoro sva kućišta i aplikacije trećih strana podržavati informacija C2PA-a. “Želim živjeti u svijetu gdje svaki pametni telefon, sa ili bez Qualcommovih čipova, ima iste standarde,” kaže on.
Autor originalnog članka: Rashi Shrivastava, Forbes
Link: Content Credentials That Label AI-Generated Images Are Coming To Mobile Phones And Cameras
(Prevela: Nataša Belančić)
