{"id":16262,"date":"2023-04-17T11:58:49","date_gmt":"2023-04-17T09:58:49","guid":{"rendered":"https:\/\/www.ombudsman.hr\/hr\/?p=16262"},"modified":"2023-09-28T10:50:53","modified_gmt":"2023-09-28T08:50:53","slug":"pravo-na-privatnost-i-utjecaj-umjetne-inteligencije-na-ljudska-prava-2","status":"publish","type":"post","link":"https:\/\/www.ombudsman.hr\/hr\/pravo-na-privatnost-i-utjecaj-umjetne-inteligencije-na-ljudska-prava-2\/","title":{"rendered":"Pravo na privatnost i utjecaj umjetne inteligencije na ljudska prava"},"content":{"rendered":"
* Napomena: \u010citate poglavlje iz Izvje\u0161\u0107a pu\u010dke pravobraniteljice za 2022.<\/a>, koje smo predali Hrvatskom saboru u o\u017eujku 2023. Cijelo Izvje\u0161\u0107e mo\u017eete otvoriti u PDF formatu<\/a> i u interaktivnoj verziji<\/a>. Vi\u0161e o povezanim temama mo\u017eete doznati i u brojnim drugim poglavljima Izvje\u0161\u0107a, u popisu na dnu ove stranice.<\/h5>\n
\n

Pravo na privatnost<\/strong><\/h3>\n

Moderne tehnologije unose niz pogodnosti u svakodnevni \u017eivot, primjerice unaprje\u0111uju dostupnost usluga, ubrzavaju komunikaciju te donose nove metode podu\u010davanja. Me\u0111utim, ujedno mogu predstavljati potencijalnu opasnost za povredu ili ugrozu prava na privatnost, koje nije uvijek jednostavno prepoznati.<\/p>\n

Obratio nam se uznemireni gra\u0111anin radi ugro\u017eavanja privatnosti njega i njegove obitelji jer je nepoznata osoba bespilotnom letjelicom (dronom) nadlijetala njihovo dvori\u0161te te im time neovla\u0161teno pristupila u dom. Od Hrvatske agencije za civilno zrakoplovstvo (HACZ) zatra\u017eili smo informacije o mehanizmima za\u0161tite gra\u0111ana u takvim situacijama. HACZ je ukazala da nelegalne operacije dronovima gra\u0111ani mogu prijaviti njima i policiji, radi otkrivanja i sankcioniranja po\u010dinitelja. HACZ nas je obavijestio da je u 2021. i 2022. godini zaprimio 29 prijava o mogu\u0107im nelegalnim operacijama dronovima, pri \u010demu je izdano 11 prekr\u0161ajnih naloga, 10 upozorenja i jedan optu\u017eni prijedlog, a u odnosu na sedam prijava nije bilo elemenata za postupanje. Iz podataka MUP-a proizlazi da je 2022. evidentirano 360 kaznenih djela protiv privatnosti, me\u0111utim, nije razvidno koliko ih se odnosi na eventualnu povredu prava na privatnost kori\u0161tenjem bespilotnih letjelica. Stoga je potrebno sustavno informirati gra\u0111ane o mogu\u0107oj povredi prava na privatnost kori\u0161tenjem bespilotnih letjelica te na\u010dinima podno\u0161enja prijave nadle\u017enim tijelima.<\/p>\n

Gra\u0111ani su nam se obra\u0107ali i radi povrede prava na privatnost od strane banaka zbog tra\u017eenja opse\u017enih podataka o njihovom imovnom stanju i izvorima prihoda pri provedbi tzv. dubinske analize klijenata, propisane Zakonom o sprje\u010davanju pranja novca i financiranja terorizma. Od pojedinih pritu\u017eitelja, gre\u0161kom ozna\u010denih kao politi\u010dki izlo\u017eenih osoba, tra\u017eeni su dodatni podatci o porijeklu imovine, o obiteljskim ili dru\u0161tvenim odnosima te rje\u0161enja o naslje\u0111ivanju ili kupoprodajni ugovori. Pritu\u017eiteljima koji nisu dostavili tra\u017eenu dokumentaciju i podatke blokiran je ra\u010dun, a nadzorom HNB-a utvr\u0111ena je pogre\u0161ka u bankarskom sustavu. Stoga je nu\u017ena pa\u017eljiva provedba postupaka dubinske analize, jer ovakve pogre\u0161ke banaka mogu ugroziti egzistenciju gra\u0111ana zbog nemogu\u0107nosti raspolaganja sredstvima na ra\u010dunima.<\/p>\n

Povredu prava na privatnost mogu\u0107e je prevenirati ve\u0107 prilikom dono\u0161enja zakona i drugih propisa. Tijekom javnog savjetovanja o Nacrtu prijedloga Zakona o izmjenama i dopunama Zakona o radu, dali smo mi\u0161ljenje na odredbu kojom se poslodavcu dopu\u0161ta ulazak u dom radnika kada rad obavlja na daljinu. Pri tom smo ukazali na potrebu procijene razmjernosti predlo\u017eenog te razmatranja kori\u0161tenja manje invazivnih na\u010dina ispunjenja obveze poslodavaca na odr\u017eavanje opreme i osiguravanja adekvatnih uvjeta rada, u slu\u010dajevima u kojima je dom radnika ujedno i izdvojeno mjesto rada. Prijedlog nije prihva\u0107en.<\/p>\n

U javnoj raspravi o prijedlogu Zakona o izmjenama i dopunama Zakona o me\u0111unarodnoj i privremenoj za\u0161titi, dali smo mi\u0161ljenje na odredbu kojom su radi provjere i utvr\u0111ivanja identiteta, tra\u017eitelji me\u0111unarodne za\u0161tite du\u017eni omogu\u0107iti pretragu svojih ra\u010dunala, drugih elektroni\u010dkih ure\u0111aja i predmeta koje imaju kod sebe, kori\u0161tenjem programskih tehnologija (upotrebom razli\u010ditih kompjuterskih programa i aplikacija). Istaknuli smo potrebu provedbe testa razmjernosti radi ostvarivanja ravnote\u017ee izme\u0111u svrhe odredbe i na\u010dina kojima se ona posti\u017ee. Predlo\u017eili smo da se u obrazlo\u017eenju zakonskog prijedloga pojasni svrha i pravna osnova zadiranja u privatnost prikupljanjem ve\u0107eg opsega podataka od potrebnih za procjenu osnovanosti zahtjeva za me\u0111unarodnom za\u0161titom. Sukladno tome, u kona\u010dnom prijedlogu Zakona detaljnije je definirano da \u0107e se pretraga provoditi samo kada drugim sredstvima nije mogu\u0107e utvrditi identitet i dr\u017eavu porijekla te uz izri\u010ditu suglasnost tra\u017eitelja me\u0111unarodne za\u0161tite.<\/p>\n

Umjetna inteligencija<\/strong><\/h3>\n

U svakodnevnom \u017eivotu sve je \u010de\u0161\u0107a upotreba algoritama odnosno ra\u010dunalnih sustava utemeljenih na umjetnoj inteligenciji (UI), a zasigurno \u0107e se jo\u0161 vi\u0161e koristiti ubudu\u0107e. Me\u0111utim, tek su u tijeku inicijative za reguliranjem upotrebe UI, kako bi se prevenirao negativni u\u010dinak na ljudska prava i jednakost. Tako je na razini EU u tijeku postupak dono\u0161enja Uredbe o UI, dok se u okviru VE izra\u0111uje nacrt Okvirne konvencije o UI, ljudskim pravima, demokraciji i vladavini prava.
\n2022. godinu obilje\u017eio je nastavak pregovora o Uredbi o UI, a najvi\u0161e je prijepora bilo oko definicije pojma UI, opsega primjene Uredbe, kao i liste visokorizi\u010dnih sustava. Na poziv MGOR-a dali smo mi\u0161ljenje na drugi kompromisni prijedlog Uredbe s fokusom na u\u010dinak UI na ljudska prava i jednakost, odnosno diskriminatorne u\u010dinke, ukazuju\u0107i na mjere kojima bi se prevenirali negativni u\u010dinci. Tako\u0111er, putem Europske mre\u017ee nacionalnih institucija za ljudska prava (ENNHRI), koja ima status promatra\u010da pri Odboru za UI Vije\u0107a Europe (CAI), dali smo mi\u0161ljenje na prijedlog Okvirne konvencije koju priprema VE, ukazuju\u0107i na potrebu transparentnosti ovakvih sustava te va\u017enosti uspostave nadzora nad primjenom konvencije.<\/p>\n

Iako su temeljem Koordiniranog plana za razvoj UI u EU iz 2018. godine, dr\u017eave \u010dlanice trebale izraditi nacionalne strategije razvoja umjetne inteligencije do kraja 2019. godine, RH to jo\u0161 nije u\u010dinila. Radna skupina za izradu nacionalne strategije, \u010diji smo \u010dlan, tijekom 2022. nije se sastajala.
\nUporaba UI mogu\u0107a je u raznim podru\u010djima \u017eivota \u2013 zapo\u0161ljavanja, rada, zdravstva, javne uprave, borbe protiv dezinformacija i govora mr\u017enje i drugih, kako u privatnom tako i u javnom sektoru.
\nRazmatraju\u0107i unaprje\u0111enja koja UI mo\u017ee donijeti u zdravstveni sustav u sklopu programa Digitalna Europa kojeg koordinira Institut Ru\u0111er Bo\u0161kovi\u0107, EK je 2022. odobrila financiranje projekta AI4HEALTH.Cro – UI za pametno zdravstvo i medicinu, koji je zapo\u010deo u sije\u010dnju 2023. godine. Projektni partneri uklju\u010duju privatni poslovni sektor, akademsku zajednicu, javni sektor i regulatorna tijela, a projektom se \u017eeli doprinijeti razvoju efikasnih i otpornih digitalnih rje\u0161enja u zdravstvenom sustavu. Centar AI4HEALTH.Cro slu\u017eit \u0107e kao jedinstvena platforma i \u201eone-stop-shop\u201c za pru\u017eanje sveobuhvatne podr\u0161ke korisnicima u svim fazama razvoja, od testiranja prije ulaganja do plasiranja, u stjecanju novih vje\u0161tina i kompetencija, olak\u0161avanju financiranja te ja\u010danju njihove uloge u inovacijskom ekosustavu te umre\u017eavanju i suradnji na europskoj razini.<\/p>\n

U javnoj upravi u RH se trenutno provode projekti kojima se uvodi UI radi unaprje\u0111enja tra\u017eilica te razvoja automatizacije analize dokumenata, \u010dime \u0107e se unaprijediti i olak\u0161ati njihovo pretra\u017eivanje i dostupnost. MPU je 2022. godine pokrenulo postupak nabave centraliziranog sustava selekcije kojim bi se u potpunosti digitalizirao proces zapo\u0161ljavanja u dr\u017eavnoj slu\u017ebi. Kako jo\u0161 nije poznata metodologija rada sustava i kriteriji algoritamskog odlu\u010divanja pri selektiranju kandidata, nastavit \u0107emo pratiti njegovo uvo\u0111enje, posebno jer su prijedlogom Uredbe EK o UI iz 2021. sustavi rangiranja kandidata pri zapo\u0161ljavanju kategorizirani kao visokorizi\u010dni. Stoga je prije njihovog stavljanja u funkciju potrebno pa\u017eljivo procijeniti i prevenirati mogu\u0107e negativne posljedice na ljudska prava i jednakost.<\/p>\n

Zapo\u0161ljavanje postaje slo\u017eenije jer se poslovi sve vi\u0161e obavljaju na daljinu, a radnici zapo\u0161ljavaju putem Interneta, bez osobnog susreta s budu\u0107im poslodavcem. EU projektom FINDHRxxiii (Fairness and Intersectional Non-Discrimination in Human Recommendation), kojeg provodi multidisciplinarni tim stru\u010dnjaka, a koordinira Sveu\u010dili\u0161te u Barceloni, nastoji se razviti sustav za algoritamsko zapo\u0161ljavanje najboljih kandidata, bez diskriminacije. Projekt bi trebao osigurati sustav pravednog rangiranja, alate kojima \u0107e se smanjiti rizik od diskriminacije, tehni\u010dke smjernice za procjenu u\u010dinka i algoritamski nadzor, kao i vodi\u010d za razvoj takvih softvera UI.<\/p>\n

Osmislit \u0107e se specijalizirana obuka za programere i revizore sustava UI te \u0107e po zavr\u0161etku projekta publikacije, softver i programi za nastavu biti dostupni javnosti bez naknade. Stoga bi rezultati ovog projekta trebali biti zna\u010dajni i za nacionalna tijela koja namjeravaju koristiti ovakve sustave za selekciju kandidata.<\/p>\n

Automatski sustavi, uklju\u010duju\u0107i UI, mogu biti koristan alat i za detektiranje govora mr\u017enje ili provjeru to\u010dnosti informacija. Iako identificiranje dezinformacija ima niz izazova, pozitivan primjer kori\u0161tenja UI jest razvoj ra\u010dunalnih sustava namijenjenih provjeri to\u010dnosti informacija radi u\u010dinkovitijeg suzbijanja dezinformacija, namijenjen hrvatskom jeziku. U okviru NPOO-axxiv predstavljen je projekt \u201eUspostava provjere medijskih \u010dinjenica i sustava javne objave podataka\u201c s ciljem razvijanja mehanizma za poticanje profesionalnog novinarstva. Pritom su predstavljeni i rezultati istra\u017eivanja Laboratorija za analizu teksta i in\u017eenjerstvo znanja (TakeLab) pri Fakultetu za elektrotehniku i ra\u010dunarstvo u Zagrebu (FER). S obzirom da trenutno dostupni alati ne rje\u0161avaju sve izazove i nisu prilago\u0111eni specifi\u010dnostima pojedinih jezika, TakeLab namjerava razviti u\u010dinkovit sustav analize teksta prilago\u0111en specifi\u010dnostima hrvatskoga jezika s ciljem preveniranja \u0161irenja dezinformacija. Me\u0111utim, osim prednosti u ubrzavanju i olak\u0161avanju procesa, UI nosi i rizike.<\/p>\n

Preporuka 119.<\/strong><\/span>
\nMinistarstvu gospodarstva i odr\u017eivog razvoja, da izradi Nacionalni plan za razvoj umjetne inteligencije<\/span><\/p>\n

Pojedine zemlje koje su uvele sustav UI radi ubrzavanja i\/ili olak\u0161avanja dono\u0161enja odluka u javnom sektoru, svjedo\u010de i ozbiljnim propustima takvih sustava. Dr\u017eavna tijela koja primjenjuju sustave UI naj\u010de\u0161\u0107e ih nabavljaju od tre\u0107ih osoba, bez znanja koje podatke i na koji na\u010din ih sustav koristi, \u0161to se mo\u017ee negativno odraziti na prava gra\u0111ana. Primjerice, prema izvje\u0161tavanju medija i OCD-a, u Srbiji je nedavno donesen zakon, koji je trenutno na ocjeni ustavnosti, kojim je uveden automatski sustav odobravanja socijalnih naknada, pri \u010demu je algoritam koristio osobne podatke iz razli\u010ditih registara, izme\u0111u ostalih i podatke o etnicitetu te socio-ekonomskom statusu gra\u0111ana. Zbog toga je velikom broju osoba, posebice Romima, uskra\u0107ena socijalna pomo\u0107 jer je algoritam zaklju\u010dio da ostvaruju prihode prikupljanjem sekundarnih sirovina. Radi preveniranja prijevara sli\u010dan sustav automatskog dono\u0161enja odluka kod odobravanja socijalne pomo\u0107i uveden je 2014. u Nizozemskoj. Vi\u0161e od \u0161est godina sustav je znao pogre\u0161no ozna\u010davati osobe koji \u017eive u siroma\u0161nim \u010detvrtima kao rizi\u010dne za po\u010dinjenje prijevara, koriste\u0107i velike koli\u010dine podataka iz nekoliko dr\u017eavnih registara, a kao veliki pokazatelj rizika ozna\u010deni su dvojno dr\u017eavljanstvo i niska primanja. Gra\u0111ani nisu znali koji se podaci i kako obra\u0111uju te nije bilo dovoljno za\u0161titnih mehanizama unutar sustava. Zbog nejasnog na\u010dina funkcioniranja algoritma te etni\u010dkog i socioekonomskog profiliranja gra\u0111ana, \u0161to mo\u017ee dovesti do diskriminacije, sud je donio odluku o nedopu\u0161tenosti kori\u0161tenja ovog sustava, a vlada je podnijela ostavku.<\/p>\n

S obzirom na utjecaj javnog sektora na ostvarivanje prava gra\u0111ana, osobito je va\u017eno da uvo\u0111enje UI u javni sektor bude pa\u017eljivo osmi\u0161ljeno. Pri tome bi trebalo biti i transparentno, odnosno gra\u0111ani bi trebali biti informirani da sustavi koriste UI.<\/p>\n

S izazovima kori\u0161tenja UI se susre\u0107u i radnici zaposleni putem digitalnih radnih platformi. Tako je u Italiji sud zaklju\u010dio da platforma diskriminira radnike dodjeljuju\u0107i im manje po\u017eeljne i udaljenije vo\u017enje ukoliko su neko vrijeme bili odsutni s aplikacije, \u010dak i kad je to bilo uvjetovano zdravstvenim razlozima. Na sli\u010dne probleme ukazuju i platformski radnici u RH. To ukazuje da digitalni alati i tehnolo\u0161ka rje\u0161enja mogu biti korisni, no sustavi moraju biti transparentni, odnosno treba biti jasno kako sustav donosi odluke, koje podatke obra\u0111uje i koji su rizici, radi njihovog pravovremenog otklanjanja. Radi toga smo u e-savjetovanju pri izmjenama i dopunama Zakona o radu predlo\u017eili transparentno postupanje digitalnih radnih platformi i agregatora kod zapo\u0161ljavanja i dodjele poslova platformskim radnicima, o \u010demu vi\u0161e pi\u0161emo u dijelu o pravu na rad.<\/p>\n

Sve se \u010de\u0161\u0107e postavlja pitanje odgovornosti za \u0161tetu nastalu kori\u0161tenjem UI, primjerice ukoliko autonomno vozilo izazove nesre\u0107u ili ako lije\u010dnik donese pogre\u0161an zaklju\u010dak jer je dijagnostiku prepustio automatskom sustavu. Zbog toga je EK 2022. donijela novu Direktivu o odgovornosti za UI, kojom se o\u0161te\u0107enom pojednostavljuje dokazivanje ukoliko je \u0161teta nastala a\u017euriranjem softvera ili UI.<\/p>\n

\u00a0Preporuka 120.<\/strong><\/span>
\nMinistarstvu gospodarstva i odr\u017eivog razvoja, da uspostavi registar sustava umjetne inteligencije koji se koriste u javnom sektoru<\/span><\/p>\n

U slu\u010dajevima visokorizi\u010dnih sustava UI, o\u0161te\u0107enici \u0107e mo\u0107i pristupiti relevantnim podacima u vlasni\u0161tvu kompanije i\/ili dobavlja\u010da te potom podnijeti od\u0161tetni zahtjev na temelju pretpostavke uzro\u010dnosti, bez dokazivanja da je \u0161teta prouzro\u010dena gre\u0161kom ili propustom sustava UI.<\/p>\n

U svakom slu\u010daju, u primjeni novih tehnologija va\u017ena je edukacija svih aktera uklju\u010denih u izradu, implementaciju i kori\u0161tenje digitalnih sustava, posebno o njihovom utjecaju na ljudska prava i jednakost. Radi osvje\u0161tavanja postojanja rizika, o utjecaju UI na ljudska prava i diskriminaciju na FER-u smo odr\u017eali predavanje polaznicima kolegija Uvod u UI, a studentima Pravne klinike Pravnog fakulteta u Splitu odr\u017eali smo predavanje o utjecaju modernih tehnologija koje koriste UI na pravo na privatnost i za\u0161titu osobnih podataka.<\/p>\n

\n

Povezane teme u Izvje\u0161\u0107u pu\u010dke pravobraniteljice za 2021.:<\/p>\n

Pravo na zdravlje<\/a>, Policijski sustav<\/a>, Zatvorski sustav<\/a> i Osobe s du\u0161evnim smetnjama kojima je ograni\u010dena sloboda kretanja<\/a>.<\/p>\n

Cijelo Izvje\u0161\u0107e pu\u010dke pravobraniteljice za 2022.<\/strong> mo\u017eete otvoriti u interaktivnoj verziji<\/a> i u PDF formatu<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"

* Napomena: \u010citate poglavlje iz Izvje\u0161\u0107a pu\u010dke pravobraniteljice za 2022., koje smo predali Hrvatskom saboru u o\u017eujku 2023. Cijelo Izvje\u0161\u0107e mo\u017eete otvoriti u PDF formatu i u interaktivnoj verziji. Vi\u0161e o povezanim temama mo\u017eete doznati i u brojnim drugim poglavljima Izvje\u0161\u0107a, u popisu na dnu ove stranice. Pravo na privatnost Moderne tehnologije unose niz pogodnosti […]<\/p>\n","protected":false},"author":7,"featured_media":15688,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2059],"tags":[],"class_list":["post-16262","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-izvjesce-2022"],"_links":{"self":[{"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/posts\/16262","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/comments?post=16262"}],"version-history":[{"count":6,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/posts\/16262\/revisions"}],"predecessor-version":[{"id":17884,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/posts\/16262\/revisions\/17884"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/media\/15688"}],"wp:attachment":[{"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/media?parent=16262"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/categories?post=16262"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/tags?post=16262"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}