Probe algoritamske diskriminacije u Srbiji

Novi zakon o socijalnoj pomoći u Srbiji predviđa prikupljanje velikog broja ličnih podataka korisnika radi analiziranja putem algoritma. Proklamovani cilj je poboljšanje raspodele sredstava. Međutim, do danas je više od 22.000 osoba izgubilo pomoć, ne znajući zbog čega

Kada je u Srbiji, u martu 2022, stupio na snagu Zakon o Socijalnoj karti, mnogi su izrazili zabrinutost zbog potencijalnih posledica novih pravila po osobe kojima je potrebna socijalna pomoć. Od tada, više od 22.000 osoba uklonjeno je iz sistema socijalne zaštite. Zabrinutost je očigledno bila opravdana.

Zakon predviđa uvođenje registra za prikupljanje i obradu ličnih podataka o korisnicima bilo koje vrste novčane socijalne pomoći, u cilju procene njihove celokupne ekonomske situacije i eventualne preraspodele sredstava izdvojenih za ovu stavku u državnom budžetu. Radi utvrđivanja socijalno-ekonomskog statusa korisnika, zakon uvodi sistem prikupljanja velikog broja ličnih podataka, iz različitih izvora, koje se unose u jedinstven registar da bi se, putem automatizovanog procesa donošenja odluka, utvrdilo da li i u kojoj meri određena osoba ima pravo da nastavi primati pomoć.

Ovaj sistem izazvao je zabrinutost iz dva razloga. Prvi je vezan za odranije problematičnu situaciju po pitanju socijalne zaštite u Srbiji, koja bi trebalo da bude reformisana tako da obuhvata veći broj korisnika, uz povećanje iznosa socijalne naknade. Čini se, međutim, da novi zakon teži preraspodeli postojećih sredstava i isključivanju jednog dela korisnika, umesto uključivanja novih.

Drugi razlog tiče se kršenja odredbi o prikupljanju i obradi ličnih podataka, kao i onih koje bi trebalo da zaštite građane od odluka donesenih putem automatizovanih sistema. Ovi sistemi često reprodukuju i pojačavaju diskriminaciju kojoj su izložene ranjive društvene grupe, poput romske zajednice.

Mreža za ekonomska, socijalna i kulturna prava (ESCR-Net) – koju čine Amnesty Internetional, A 11-Inicijativa za socijalna i ekonomska prava i Evropski centar za prava Roma – nedavno je podnela pravno mišljenje Ustavnom sudu Srbije u kojem se navode problematični aspekti novog zakona.

Neinkluzivan sistem

Prema podacima inicijative A 11, u februaru 2022. (pre početka primene novog zakona), broj korisnika novčane socijalne pomoći iznosio je 211.266, dok je u avgustu 2022. taj broj smanjen na 189.036, dakle za 10,5 odsto.

Kako nam je objasnio Danilo Ćurčić, koordinator inicijative A 11, sistem je stupio na snagu samo u pojedinim gradovima jer brojni centri za socijalnu pomoć nemaju tehnologiju i sposobnosti potrebne za povezivanje u centralni registar. Dakle, postoji i problem vezan za troškove uvođenja i održavanja čitavog sistema, koji je – prema rečima Ćurčića – neodrživ.

U 11 od ukupno 15 gradova, za koje je A 11 dobila podatke, beleži se smanjenje broja korisnika, koje je u pojedinim slučajevima izraženije u odnosu na brojke na nacionalnom nivou (Ada -28,7%, Irig -28,8%). S druge strane, u nekim gradovima broj korisnika se povećao, ponekad značajno (Leskovac +17,1%). “S obzirom da je funkcionisanje sistema netransparentno, nije jasno zbog čega su pojedini centri za socijalnu pomoć povećali broj korisnika”, ističe Ćurčić i dodaje: “U svakom slučaju, povećanje ne može biti vezano za socijalnoj kartu budući da ona centrima ne pruža mogućnost da uvtrde ko još uvek ne prima pomoć i da eventualno uključe ove osobe u sistem zaštite”.

Kako objašnjava Radio Slobodna Evropa , u Srbiji mesečna socijalna pomoć za pojedinca trenutno iznosi 10.385 dinara (88 evra). Ovaj iznos je čak niži u odnosu na prag od 12.695 dinara koji je utvrdila sama vlada kao minimum za izlazak iz apsolutnog siromaštva u 2020. Pored toga, prema podacima vlade, u Srbiji je u 2020. godini 6,9 odsto ukupnog broja stanovnika živelo u apsolutnom siromaštvu, dakle nešto manje od 475.000 osoba, što je 2,5 puta više od broja korisnika socijalne pomoći.

Jedan od razloga koji mogu dovesti do isključivanja iz sistema socijalne zaštite jeste sakupljanje i prodaja sekundarnih materijala, poput plastike, kartona i stakla, kojim se bave brojne osobe romske nacionalnosti, koje čine upravo najsiromašniju grupu stanovništva. “Prilikom predaje materijala osobe moraju pokazati svoj JMBG, u suprotnom ne mogu biti plaćene”, objašnjava Francesca Feruglio, koordinatorka mreže ESCR-Net, “na taj način ovaj prihod, makoliko nizak, biva zabeležen i završava u centralnom registru Socijalne karte, što u pojedinim slučajevima rezultira ukidanjem pomoći. To je potpuno nepravedno, imajući u vidu celokupnu situaciju u kojoj žive ove osobe”.

Sistemi automatske diskriminacije

Jedna od kritika na račun novog zakona tiče se automatizovanog procesa donošenja odluka koje snažno utiču na život građana, bez predviđanja ikakve mogućnosti ljudske intervencije u čitavom procesu. Naime, kada algoritam Socijalne karte napravi procenu određenog slučaja šalje obavest lokalnom cenyru u kojem je dotični korisnik zaveden. Međutim, lokalni funkcionar za procenu valjanosti odluke na raspolaganju ima vremenski period koji se smatra nedovoljnim, imajući u vidu, između ostalog, manjak zaposlenih.

Ministarstvo rada, u svojoj proceni uticaja zakona, tvrdi da su građani zaštićeni, s obzirom da uvek postoji mogućnost da zaposleni u nadležnom uredu ili ministarstvu, na zahtev građana, ponovo obrade predmet i eventualno promene konačnu odluku. Međutim, u praksi – kako objašnjava Ćurčić – građani imaju “samo 15 dana da podnesu žalbu na odluku, što skoro niko ne čini, često zato što ne znaju da na to imaju pravo, ili zato što su nepismeni, odnosno nemaju potrebne alate da bi mogli reagovati. Stoga, jednostavno čekaju da prođe šest meseci da bi mogli ponovo podneti zahtev za socijalnu pomoć. Ali čak i u slučaju da taj zahtev bude prihvaćen, ipak se gubi šest meseci pomoći, a nikad se ne zna da li će zahtev biti usvojen niti da li će ponovo doći do ukidanja pomoći”.

Biljana Đorđević, narodna poslanica iz pokreta Ne davimo Beograd, tražila je od vlade veću transparentnost po pitanju funkcionisanja algoritma i broja osoba kojima je ukinuta pomoć nakon uvođenja socijalne karte. “Odgovorili su da ne postoji nikakav algoritam – objašnjava Đorđević – po njima sistem samo prikuplja podatke, a potom socijalni radnik pravi procenu. Svedočenja koja smo prikupili pokazuju da to nije tačno”. I zaista, ako ne postoji algoritam, na osnovu čega Ministarstvo šalje obavesti centrima za socijalni rad? Prilično je jasno da se podaci obrađuju, ali ne i po kojoj osnovi. “Tražili smo i pristup kodu koji zapravo pokreće prikupljanje podataka – dodaje Đorđević – ali naš zahtev je odbijen zbog ‘pitanja autorskih prava’ i ‘nacionalne sigurnosti’”.

Kada je reč o smanjenju broja korisnika, Ministarstvo nije objavilo tačne podatke, objašnjavajući da Srbija postepeno napreduje i da se životni uslovi građana se poboljšavaju, tako da je sve manje potrebe za socijalnom pomoći. Iako je tačno da se situacija po pitanju apsolutnog siromaštva u Srbiji blago poboljšala tokom proteklih godina (ali je, prema podacima, ipak lošija nego u periodu 2008-2009.), ostaje činjenica da je potrebno povećati broj korisnika, međutim “prilično je očigledno da zakon služi za isključivanje”, kaže Biljana Đorđević.

“Iznenađen sam činjenicom da je procena učinka koju ju napravilo Ministarstvo tako loša”, komentariše Đanklaudio Malđeri, vanredni profesor prava na Univerzitetu u Lajdenu. “Postoji određeni konsenzus oko toga da ljudska intervencija u procesima donošenja odluka putem automatizovanih sistema mora biti ‘značajna’. Ovde se ništa slično ne nazire. Pored toga, u slučaju sistema koji donose odluke u jednoj sekundi, procedura podnošenja žalbe morala bi biti pojednostavljena. U ovom slučaju se, međutim, primenjuju standardne procedure, koje su u suštini usmerene na uobičajene pravosudne postupke, sa svim onim što to podrazumeva u smislu vremena i troškova. Nadalje, u tekstu zakona o socijalnoj karti piše da ovaj sistem može imati posledice po ugrožene pojedince i društvene grupe. Tu bi onda trebalo da sledi spisak dodatnih mera zaštite: ništa od ovoga nema u zakonu. Srbija je, između ostalog, usvojila zakon o zaštiti ličnih podataka po uzoru na odgovarajuću evropsku uredbu (GDPR), takođe je potpisala i ratifikovala Konvenciju Saveta Evrope 108+. Dakle, sigurno nije zaostala zemlja kada je reč o ličnim podacima. Zakon o socijalnoj karti krši pravila koja je Srbija sama sebi postavila”.

Neograničeno prikupljanje podataka

Prema analizi koju je uradila inicijativa A 11, na osnovu zakona o socijalnoj karti prikuplja se do 135 vrsta ličnih podataka iz različitih izvora, uključujući Centralni registar građana, Ministarstvo unutrašnjih poslova, Poresku upravu, Fond za penzijsko i invalidsko osiguranje. Neki od podataka koje se prikupljaju veoma su problematični, poput onih vezanih za etničku pripadnost (član 7 (1)(6)), dok neki drugi, poput onih o eventualnom posedovanju oružja, nemaju jasnu vezu s procenom socijalno-ekonomske situacije korisnika. “Od građana se traže informacije o etničkoj pripadnosti – komentariše Ćurčić – ali ne i o tome da li im je kuća priključena na električnu mrežu i vodovod”.

Postoji bojazan će se zakon, mimo svojih proklamovanih ciljeva, na kraju pretvoriti u sistem profilisanja i masovnog nadzora korisnika. “I ovde – nastavlja Malđeri – postoji rizik da dođe do kršenja srpskog zakona o zaštiti ličnih podataka. Prikupljanje tolike količina podataka koju predviđa socijalna karta nije opravdano svrhom samog zakona. Između ostalog, u članu 4, među svrhama prikupljanja ličnih podataja, navodi se ‘sprečavanje siromaštva i otklanjanje posledica socijalne marginalizacije’. Međutim, svrhe prikupljanja, i po srpskom zakonu o podacima, moraju biti specifične i precizne, ne mogu biti tako uopštene”.

Pored pravnog mišljenja koje je mreža ESCR-Net podnela Ustavnom sudu Srbije, narednih nedelja biće pokrenuta još jedna inicijativa na kojoj radi poslanica Biljana Đorđević. “Ako najmanje 25 poslanika podnese zahtev Ustavnom sudu, ovaj je dužan da se izjasni o dotičnom predmetu. Nažalost, ne postoje jasno definisani vremenski rokovi, tako da Sud može odlučiti da unedogled odlaže pitanje. Ne možemo ništa drugo do iskoristiti pravne alate koji su nam na raspolaganju. Sada je važno zadržati pažnju javnosti na ovom pitanju”. Ono što brine Biljanu Đorđević jeste mogućnost da centralni registar, kada bude ustanovljen, posluži kao osnova za nove vidove diskriminacije i marginalicazije u budućnosti.