Stručnjaci upozoravaju: Trend AI karikatura nosi ozbiljne rizike

Stručnjak za vještačku inteligenciju (AI) upozorio je na viralni trend koji koristi ChatGPT i druge AI alate za pretvaranje ličnih fotografija u humoristične karikature, naglašavajući da naizgled bezazlen trend nosi ozbiljne rizike po privatnost i sigurnost.

Trend, koji se nedavno proširio društvenim mrežama, ne svodi se samo na izmjenu crta lica radi stvaranja crtanih prikaza. U mnogim slučajevima pokušava predvidjeti zanimanje korisnika i vizuelno ga uklopiti u satiričnu scenu.

Međutim, stručnjaci upozoravaju da proces iza ovih slika uključuje mnogo više od jednostavne obrade fotografija.

Govoreći za Al Arabiya, Mohamed Mohsen Ramadan, šef Odjela za vještačku inteligenciju i kibernetičku sigurnost pri Arapskom centru za istraživanja i studije, rekao je da ovaj trend, uprkos velikoj popularnosti, krije stvarne tehničke i sigurnosne rizike.

Objasnio je da takve aplikacije koriste napredne AI sisteme, uključujući modele kompjuterskog vida koji analiziraju crte lica, dob, izraze, odjeću i detalje u pozadini. Također koriste duboko učenje i multimodalne modele koji kombinuju slike, tekst, prethodne podatke i ponašanje korisnika.

Detaljna analiza

Ramadan je naveo da učitavanje fotografije ne rezultira samo karikaturom. 

– Umjesto toga, slika prolazi detaljnu algoritamsku analizu kako bi se izdvojile osobine koje mogu ukazivati na nečije zanimanje, poput ljekara, inženjera, novinara ili programera, kao i obrasce životnog stila, profesionalno okruženje i, u nekim slučajevima, indirektne pokazatelje društvenog statusa – rekao je.

Istakao je da AI ne prepoznaje zanimanja na ljudski način, već ih statistički predviđa na osnovu karakteristika lica, izraza, odjeće, pozadine fotografije, metapodataka, a ponekad i povezanosti s korisnikovim profilima na društvenim mrežama.

Iako rezultati mogu djelovati zabavno, Ramadan upozorava da se zapravo radi o automatizovanoj klasifikaciji koja može biti netačna ili pristrasna i često se odvija bez informisanog pristanka korisnika.

Dodao je da se biometrijski podaci, koji se smatraju izuzetno osjetljivim, mogu zloupotrijebiti za kreiranje deepfake sadržaja, krađu identiteta i izgradnju trajnog digitalnog profila. 

– Povezivanje fotografije s digitalnim identitetom putem društvenih mreža praktično spaja lice s imenom i online ponašanjem – istakao je.

Kada se slike koriste za treniranje AI modela, rekao je Ramadan, one mogu postati dio ogromnih baza podataka koje služe za unapređenje sistema za prepoznavanje lica, te potencijalno ostati ugrađene u modele čak i nakon brisanja naloga ili aplikacije.

Korisnici, upozorio je, nemaju jasan uvid u to šta se na kraju dešava s njihovim fotografijama.

Ukazao je i na opasniji scenarij koji uključuje curenje podataka, navodeći da procurjele slike s detaljnim biometrijskim karakteristikama kasnije mogu biti iskorištene za prevaru, ucjenu ili lažno predstavljanje, pri čemu je takve podatke gotovo nemoguće u potpunosti povratiti ili ukloniti.

– Svaka digitalna baza podataka podložna je hakerskim napadima – naglasio je Ramadan.

Upozorenje korisnicima

S druge strane, Aboubakr Abdel Karim, bivši pomoćnik egipatskog ministra unutrašnjih poslova za odnose i medije, izjavio je za Al Arabiya da je lična privatnost sve više ugrožena.

Kazao je da se glavna opasnost krije u zadržavanju fotografija, napominjući da se slike ne brišu uvijek odmah nakon obrade. 

– Umjesto toga, mogu biti privremeno pohranjene, korištene za treniranje AI modela ili dijeljene s trećim stranama na osnovu nejasnih politika privatnosti – rekao je.

Abdel Karim je pozvao na veću svijest o kibernetičkoj sigurnosti, ističući da problem nije u samoj vještačkoj inteligenciji, već u njenoj neinformisanoj upotrebi.

Savjetovao je korisnicima da pažljivo čitaju politike privatnosti, izbjegavaju učitavanje fotografija visoke rezolucije, ne povezuju takve aplikacije s primarnim profilima na društvenim mrežama te se zapitaju da li je trenutak zabave vrijedan potencijalne cijene.