BIRN: Dva nova sistema za prepoznavanje lica u MUP-u - praćenje građana i društvenih kontakata u realnom vremenu

MUP Srbije poseduje još dva napredna softvera za prepoznavanje lica koji do sada nisu bili poznati domaćoj javnosti, pokazuju podaci do kojih je došaoBIRN.

Jedan je ruski sistem FindFace kompanije NtechLab iz Moskve, koji omogućava prepoznavanje lica u realnom vremenu, analizu ponašanja i povezivanje osoba kroz mreže kontakata. Prema dostupnim podacima, softver može da analizira milione zapisa u sekundi i radi na velikom broju kamera istovremeno.

Drugi sistem je softver NeoFace Watch japanske korporacije NEC, jednog od pionira u oblasti biometrije. Prema podacima iz izmene plana javnih nabavki za 2019. godinu, MUP je planirao nabavku "NEC face recognition system", dok zvanični tender nikada nije objavljen. BIRN saznaje iz dobro obaveštenih izvora MUP-a da je softver ove kompanije, koji takođe može da prepoznaje lica u realnom vremenu, nabavljen i instaliran.

Filip Milošević iz SHARE Fondacije kaže da su "intruzivan, masovni i targetirani nadzor alati autoritarnih režima kojima su kontrola i represija imperativ za očuvanje pozicije moći", a da "tehnologija napreduje svake godine, a nove funkcije i mogućnosti sigurno mame one koji su u poziciji da ih kupuju", piše BIRN.

Tajna javna rasprava o novom nacrtu zakona o policiji održana je početkom aprila ove godine, a u nacrtu nema pomena o biometrijskiim tehnologijama, kao što je bio slučaj u prethodnim nacrtima, koji su povučeni posle negativnih reakcija javnosti.

"Mislim da je biometrijski nadzor izostavljen iz nacrta jer je procenjeno da bi to bio politički rizik u ovom momentu. U MUP-u su svesni da trenutno nema ni kapaciteta ni volje da bilo koja institucija izvrši efektivan nadzor i utvrdi da li se koriste nedozvoljene tehnologije. U takvim okolnostima, rizik od pokušaja regulacije je veći od rizika korišćenja nedozvoljenih tehnologija", kaže Ana Toskić, stručnjak za privatnost i izvršna direktorka nevladine organizacije Partneri Srbija.

Kompanije NtechLab i NEC, kao i MUP Srbije, nisu odgovorili na novinarska pitanja BIRN-a.

Šta do sada znamo o tehnologijama biometrijskog video nadzora u Srbiji

BIRN je ranije otkrio da je 2022. godine MUP Srbije nabavio softver za prepoznavanje lica Griffeye koji ima funkciju prepoznavanja lica, pretrage interneta prema licu i analize metapodataka. U međuvremenu smo mapirali nabavke javnih ustanova i institucija širom Srbije koje su godinama unazad nabavljale invazivnu opremu za video nadzor. Treba podsetiti i na Istraživanje SHARE Fondacije iz 2019. o javno-privatnom partnerstvu sa Huawei i projektu 1000 kamera i istraživanje Radio Slobodne Evrope o nabavkama DSS Pro platforme sa funkcijom prepoznavanja lica u gradovima širom Srbije daju dodatni kontekst o obimu i intruzivnosti opreme za video nadzor koja prati građane.

Od Moskve do Srbije: FindFace za masovni nadzor građana

Da je Srbija jedna od zemalja u kojima se koristi ruski softver za prepoznavanje lica FindFace prvu put smo saznali krajem 2020. godine kada je u intervjuu za američki ForbsAleksandar Kabakov suosnivač tada još mladog ruskog start-apa NtechLab koji stoji iza ovog softvera rekao kako se to rešenje već naširoko koristi u Moskvi, da spremaju funkciju koja "detektuje agresiju" i da su njihovi korisnici vladina tela u Argentini, Brazilu – i u Srbiji. Slično potvrđuje zvanični Telegram kanal kompanije u maju 2024. navodeći da je Srbija jedan od tri korisnika ruskog softvera za prepoznavanje lica, pored Brazila i Meksika.

Dokazi da se ovaj softver u Srbiji koristi bar od 2019. godine pokazuje istraživanje neprofitne tehnološke organizacije Qurium koje je decembra te godine detektovalo server FindFace programa u Srbiji, hostovanog kod srpskog mCloud provajdera. Podsećanja radi, na mCloud hosting provajderu hostovan je i NoviSpy špijunski softver koji je zloupotrebljavala BIA.

FindFace radi kao analitički softver za automatsko prepoznavanje lica, starosti, pola, emocija, aksesoara, siluete, odeće, vozila i objekata. U deliću sekunde softver poredi lica sa bazom podataka i daje obaveštenje ili alarm u realnom vremenu. Omogućava pretragu snimaka prema licu i drugim zadatim parametrima, a može i da kreira analitički izveštaj o ljudima i njihovom ponašanju. Kako kažu njegovi kreatori, FindFace može da radi na stotinama hiljada kamera istovremeno.

"Takvi softveri apsolutno svaku kameru prave 'pametnom'. Osim toga, otvaraju mogućnost za centralizaciju svih materijala na jednom mestu – da signal sa svake kamere prosleđuju u jedan komandno-kontrolni centar iz kog se sve posmatra i analizira u realnom vremenu. Interoperabilnost je još jedan faktor – Huawei sistem u Beogradu je predviđen da radi na svojoj infrastrukturi i terminalnoj opremi, dok neki analitički softveri 'ne pitaju' za izvor materijala, već obrađuju sve što se pohrani u njih", kaže Filip Milošević, tehnološki stručnjak iz SHARE Fondacije.

FindFace je skoro nemoguće zavarati. Program ima ugrađenu detekciju položaja glave i test "živosti" koji detektuje da je lice na snimku zaista ljudsko lice, a ne ekran ili fotografija lica. Firma koristi ruskog provajdera za skladištenje podataka – Tarantool, koji ima bazu od milijardu zapisa lica i može da u sekundi izvrši 13.4 miliona poređenja.

Iran je još jedna zemlja koja koristi FindFace za nadzor građana, pokazalo je nedavno istraživanje redakcijem Forbidden Stories, čiji su novinari imali uvid u promotivne materijale ruske kompanije koja tvrdi da softver ima preciznost od 98 odsto.

Pored prepoznavanja lica, sistem omogućava i automatsko prepoznavanje registarskih tablica za 27 zemalja, među kojima je i Srbija. Prema tehničkoj dokumentaciji kompanije, softver FindFace Multi iz video-nadzora identifikuje registracioni broj vozila, boju, marku, model, tip i veličinu karoserije, kategoriju i težinu vozila, kao i posebne tipove vozila poput taksija, vozila javnog prevoza, ambulantnih, policijskih, vojnih, spasilačkih i komunalnih službi.

Kako FindFace povezuje ljude i gradi mreže njihovih kontakata

Softver takođe ima funkcije koje naziva "klastering" i "praćenje interakcija". Prva funkcija omogućava grupisanje i filtriranje video materijala prema zadatim parametrima u više nivoa, na primer pretraživanje osoba određene dobi, pola ili emocija, pretraživanje snimaka samo određenih kamera i slično..

"Možete pronaći starije osobe ili ljude bez zaštitne maske koji su direktno ili indirektno povezani sa potencijalno zaraženom osobom", navodi se kao primer za filtriranje video snimaka tokom pandemije, unutar zvanične tehničke dokumentacije.

Funkcija "klasterovanja" otključava funkciju "praćenja interakcija" koja omogućava praćenje socijalnog kruga osobe od interesa ili niza osoba.

"Prilikom praćenja interakcija, sistem automatski određuje krug ljudi sa kojima je određena osoba ranije bila u kontaktu. Za svaku osobu iz prvog kruga sistem zatim formira još jedan krug povezanih ljudi, i tako dalje. Ukupno, analiza interakcija ide do dubine od tri kruga povezanosti", stoji u zvaničnoj tehničkoj dokumentaciji.

Jedan od načina na koji program ovo prepoznaje je zajedničko napuštanje kadra – ukoliko dve osobe u istom trenutku napuste kadar koji kamera snima veće su šanse da su povezane. Takođe, sistem nudi podešavanje broja sekundi u kojima su dve osobe zajedno kako bi se smatrale povezanim.

"Ovo je analitčka funkcija koja jasno može da otkrije 'ko se sa kim viđa, gde ide i šta radi', međutim sama činjenica da neselektivno obrađuje biometrijske podatke svih lica na snimcima, a ne samo onih za koje postoji naredba suda je čini protivzakonitom za upotrebu. Nažalost, kada je tehnologija već tu, u zemlji sa istorijom zloupotreba i nedostatkom odgovornosti, velika je šansa da se već sada koristi kako bi se pratili politički protivnici ili kritičari režima", smatra Filip Milošević iz SHARE Fondacije.

Kompanija NtechLab je prethodnih godina dosta puta menjala celokupan menadžment, a neki od investitora su emiratski investicioni fond Mubadala i Rostec, ruski državni tehnološki konglomerat koji je osnovao Vladimir Putin. Ruska kompanija se prethodnih godina našla na različitim sankcijama više država i međunarodnih tela – SAD, Kanade, Evropske Unije, Belgije, Monaka i Francuske – čija uprava za trezor smatra da je Find Face zloupotrebljen u Rusiji za nadzor nad nezavisnim novinarima, političkim aktivistima i onima koji su hteli da izbegnu mobilizaciju u ratu protiv Ukrajine.

MUP Srbije korisnik i japanskog NEC softvera za prepoznavanje lica

Drugi softver za prepoznavanje lica koji je MUP instalirao je softver japanske korporacije NEC, pionira u oblasti biometrije. U jednoj od izmena plana javnih nabavki za 2019. godinu MUP je naveo "NEC softver za prepoznavanje lica", mada zvanična nabavka nikada nije raspisana. BIRN je dobio potvrdu od dobro obaveštenih izvora u MUP-u da je softver NeoFace Watch nabavljen i instaliran.

"Moderni sistemi sada obično imaju taj segment 'gutanja' podataka uživo gde gradske kamere, saobraćajne kamere, kamere na dronovima, policajcima, pa čak i privatnim objektima sve šalju signal u analitički sistem koji u hodu radi detekcije lica, praćenje, poređenje i obaveštavanje. Sistem ne čuva samo video već i proporcije tj. šablone lica, vremenske oznake, putanje kretanja, povezane kamere, opise odeće, vozila itd, tako da na kraju analitičar može da pretraži istoriju, prati osobu kroz više kamera, rekonstruiše kretanje i radi retroaktivno prepoznavanje", objašnjava Filip Milošević iz SHARE Fondacije.

Kompanija NEC se u promotivnom materijalu hvali naprednim algoritmima, brzinom prepoznavanja lica i time da je najbolja u prepoznavanju lica kod fotografija lošeg kvaliteta, sa preciznošću od 99.2 odsto kod slika dobrog kvaliteta, a 85.5 odsto kod slika lošijeg kvaliteta. "Preko tri miliona pretraga u sekundi", "prepoznavanje svih ciljnih grupa", "simultano prepoznavanje više lica" i velike mogućnosti integracije u već postojeće sisteme samo su neke od prednosti koje kompanija promoviše.

Algoritmi za prepoznavanje lica koje je razvio NEC koriste i otkupile su neke kompanije – jedna od njih tu uslugu pruža američkim imigracionim službama, piše američki list The Wired. Testiranje koje je sproveo tamošnji institut za standardizaciju u tehnologiji – NIST pokazalo je da softver može da zakaže kada uslovi u kojima se pravi snimak nisu kontrolisani, te da softver automatski predlaže spisak "kandidata" iako je tačnost niska.

Filip Milošević iz SHARE Fondacije zaključuje da su ovakvi "sistemi previše moćni da bi se odolelo njihovoj zloupotrebi" i da "nijedna tehnička, organizaciona mera ili procedura ne može da zaustavi političku odluku da se tehnologija iskoristi protivno zakonu, a protiv svojih građana".

NEC softverska rešenja za biometrijsko prepoznavanje koriste i pojedine policije u Velikoj Britaniji.

Biometrijski nadzor: od preprodaje do domaćih rešenja

U Srbiji posluje više firmi koje nude kamere ili softvere za prepoznavanje lica i ostale analitičke funkcije. Neke od ovih firmi aktivno učestvuju na tenderima i dobijaju tendere za ugradnju video nadzora u organe javne vlasti. Jedna od firmi registrovana u Srbiji preprodaje izraelski softver kompanije AnyVision sa prepoznavanjem lica koji je, kako crnogorski BIRN otkriva, instaliran od strane crnogorskog MUP-a u Podgorici, Baru i Budvi.

"Nažalost, kako je reakcija institucija uglavnom izostajala u ranije utvrðenim slučajevima biometrijskog nadzora, to je mnogima bio znak da mogu da razvijaju, stavljaju u promet ili koriste različite sisteme nadzora. Oni su, meðutim, i dalje nezakoniti, i ovim slučajevima bi trebalo da se pozabavi širi krug institucija u kontekstu zaštite prava graðana, ali i kontrole javnih nabavki ili nadzora nad trżištem. To će, verovatno, izostati sve dok državni organi prednjače u nabavci i korišćenju nedozvoljenih tehnologija", kaže za BIRN Ana Toskić, direktorka nevladine organizacije Partneri Srbija.

I dok se najveći broj firmi bavi preprodajom hardvera i softvera inostranih kompanija, neke imaju i svoj, domaći proizvod.

Prošle godine otvorena je kompanija Mercury AI Solutions koja promoviše svoje kamere i softver za prepoznavanje lica, nasilja, oružja, registarskih tablica itd. Kompanija već zapošljava nekoliko domaćih stručnjaka u oblasti veštačke inteligencije, kompjuterske vizije i planira veliku fabriku kamera u okolini Jagodine, kako piše na svom sajtu, koja bi zapošljavala stotine inženjera, tehničara i visokokvalifikovanih radnika. Kompanija je učestvovala na beogradskom sajmu vojnog naoružanja Partner 2025.

Vlasnik kompanije je Veljko Simić, istovremeno vlasnik Atlas Security, firme za privatno obezbedjenje koja godinama unazad dobija milionske poslove od javne uprave i grada Beograda.

Na pitanja BIRN-a iz kompanije odgovaraju da posluju u skladu sa GDPR-om, da njihov softver primarno "detektuje opasno ponašanje", te da planiraju da rade sa svim zainteresovanim državnim institucijama.