Možete li prepoznati deepfake snimke? Riješite kviz

Koliko ste podložni prijevari AI-generiranim fotografijama i videozapisima? Brzi online kviz britanske softverske tvrtke iProov omogućuje vam da testirate svoju sposobnost prepoznavanja deepfake snimaka.

Kviz prikazuje 10 slika ili videozapisa lica, jedno po jedno, i traži od vas da odlučite jesu li stvarni ili ih je generirala umjetna inteligencija. Autor teksta priznaje da je prvi put pogodio samo 6 od 10. Isto se ponovilo i drugi put. Međutim, nakon pažljivijeg promatranja – primjećujući, na primjer, specifičan „sjaj“ na AI-generiranim licima – uspio je postići 9 od 10.

Tvrtka iProov, koja se bavi biometrijskom autentifikacijom identiteta, pokrenula je ovaj kviz zajedno s rezultatima istraživanja o sposobnosti potrošača da prepoznaju deepfake snimke. Među 2.000 ispitanika iz Velike Britanije i SAD-a, samo 0,1 posto ih je točno razlikovalo stvarne slike od lažnih.

Opasnost zloupotrebe

Ovi rezultati objavljeni su u trenutku kada deepfake sadržaji sve više preplavljuju internet. Ovaj tjedan, glumica Scarlett Johansson pozvala je na zabranu deepfake tehnologije nakon što se njezin lik pojavio u viralnom AI-generiranom videu u kojem poznate židovske osobe kritiziraju Kanyea Westa zbog njegovih novih antisemitskih komentara. „Zastrašujuće je što je američka vlada paralizirana kada je riječ o donošenju zakona koji bi zaštitili sve građane od neposrednih opasnosti umjetne inteligencije“, izjavila je Johansson.

Iako su neki pohvalili AI-generirani video koji kritizira Kanyea Westa zbog njegovih antisemitskih izjava, smatrajući ga snažnom porukom protiv govora mržnje, drugi deepfake sadržaji donose mnogo ozbiljnije posljedice.

U vremenu kada generativni AI alati omogućuju svakome da jednostavno kreira realistične fotografije i videozapise samo uz tekstualne opise, lako je manipulirati javnošću. Bilo da se radi o lažnim slikama pape, predsjednika ili bilo koje druge javne osobe. A kada se jednom lažni digitalni sadržaj proširi internetom, teško ga je zaustaviti.

Slaba informiranost

Štoviše, istraživanje iProov-a pokazuje da samo 11 posto ljudi kritički analizira izvor i kontekst informacija kako bi procijenili njihovu autentičnost.

Među najalarmantnijim rezultatima istraživanja jest činjenica da 22 posto ljudi nikada nije čulo za deepfake tehnologiju. Taj postotak raste na 39 posto među osobama starijima od 65 godina. Budući da su stariji ljudi već podložniji prijevarama, ovaj podatak dodatno ukazuje na njihovu povećanu ranjivost u eri masovnih dezinformacija.

Iako istraživanje pokazuje da samo mali broj potrošača može prepoznati deepfake, čak 60 posto ispitanika i dalje ima lažnu sigurnost u svoje sposobnosti otkrivanja manipuliranih snimaka.

„Čak i kada ljudi posumnjaju da je nešto deepfake, naše istraživanje pokazuje da velika većina ne poduzima nikakve korake“, izjavio je Andrew Budd, osnivač i izvršni direktor iProov-a. „Kriminalci koriste nesposobnost potrošača da razlikuju stvarne od lažnih snimaka, čime ugrožavaju našu osobnu i financijsku sigurnost. Na tehnološkim tvrtkama je da zaštite svoje korisnike kroz implementaciju snažnih sigurnosnih mjera.“

Kao tvrtka specijalizirana za sigurnost i autentifikaciju, iProov svakako ima interes u naglašavanju opasnosti od online prijevara. Ipak, prijetnje koje su otkrili u svom istraživanju su itekako stvarne.

Leslie Katz, suradnica Forbes