Da je tehnologijo obrazne prepoznave dokaj enostavno pretentati, smo imeli priložnost videti med protesti v Hong Kongu, kjer se protestniki poslužujejo najrazličnejših metod: od preprostih tkanih mask do nanašanja ličil na obraz. Kaj pa če bi želeli, da nas sistem zazna kot nekoga drugega, ne da bi bilo očitno, da se skrivamo?
Facebookovi raziskovalci oddelka za umetno inteligenco so razvili tehnologijo, ki omogoča tako imenovano de-identifikacijo posameznikov kar na videoposnetkih, deluje pa celo na videu, ki se zajema v živo. Tehnologija deluje s pomočjo strojnega učenja, ki prepoznava ključne lastnosti osebe na videoposnetku in ji sproti spreminja ključne lastnosti, na katere se za uspešno delovanje zanašajo sistemi za obrazno prepoznavo. Sistema ni potrebno uriti za vsak posnetek posebej, saj deluje tako, da avtomatično prepozna obraz in ga prekrije z “motnjami”.
Podobna tehnologija je sicer obstajala že prej. Izraelsko podjetje za razvoj umetne inteligence D-ID omogoča uporabo tehnologije de-identifikacije na običajnih slikah. Ravno tako obstaja niša, namenjena nošenju vzorcev, ki pretentajo sisteme za obrazno prepoznavo. Z nošenjem očal, potiskanih z vzorcem, je mogoče sisteme obrazne prepoznave pretentati celo do te mere, da nas prepoznajo kot slavne igralce.
Če tehnologija podjetja D-ID deluje šele po tem, ko je bila slika že posneta, Facebookova tehnologija deluje v živo, kar po besedah raziskovalcev predstavlja prvo tovrstno tehnologijo. Raziskovalci so v študiji zapisali še, da zloraba sistemov obrazne prepoznave poraja potrebo po metodah, ki lahko pretentajo te sisteme.
Facebook tehnologije ne bo uporabljal v komercialne namene, jo pa nameravajo uporabiti pri prepoznavanju videposnetkov z lažnimi obrazi (torej “deepfake” posnetki).
Ravno deepfake posnetki predstavljajo eno največjih težav, s katerimi se ta trenutek soočajo družabna omrežja in spletne strani za deljenje videoposnetkov. Težava je pereča tudi s pravnega stališča, saj je mogoče kogarkoli postaviti v zakonsko sporen videposnetek oziroma posnetek, ki bi lahko škodoval ugledu osebe.
Facebookove raziskovalce skrbi tudi obsežen poseg v zasebnost posameznikov, ki ga predstavlja tehnologija obrazne prepoznave. Slednje ni brez ironije, saj je Facebook sredi tožbe v višini več milijard ameriških dolarjev zaradi nezakonite uporabe tehnologije obrazne prepoznave v ameriški zvezni državi Illinois. Državni zakon predvideva kazen v višini 1000 do 5000 ameriških dolarjev za vsako kršitev zakona, v Illinoisu pa je kar sedem milijonov registriranih uporabnikov Facebooka.
Uvodna fotografija: Engadget
