\n
Pu\u010dka pravobraniteljica od 2019. godine prati aktivnosti koje se povodom razvoja umjetne inteligencije (UI) i njezine primjene poduzimaju na nacionalnom i europskom nivou. 2023. godinu obilje\u017eilo je sve ve\u0107e kori\u0161tenje UI u razli\u010ditim podru\u010djima \u017eivota, poja\u010dan interes javnosti i medija o UI, podijeljena mi\u0161ljenja nakon pu\u0161tanja u promet \u201evelikih jezi\u010dnih modela\u201c ChatGPT-a tvrtke OpenAI i Google-ovog Barda, kao i nastavak regulacije UI na razini EU i VE. U RH su intenzivirane stru\u010dne rasprave te je po prvi put u Hrvatskom saboru odr\u017eana temetska sjednica na temu UI, kao i prvi znanstveni simpozij.<\/p>\n
![\"\"](\"https:\/\/www.ombudsman.hr\/wp-content\/uploads\/2024\/04\/23-202x300.png\")
<\/p>\n
Prema istra\u017eivanju Me\u0111unarodnog monetarnog fonda (MMF), UI bi mogla utjecati na oko 60% radnih mjesta u razvijenim gospodarstvima, dok bi na tr\u017ei\u0161tima u razvoju mogla promijeniti 40%, a u zemljama s niskim prihodima 26% poslova. Prema istra\u017eivanju, mnoge slabije razvijene zemlje nemaju infrastrukturu ili kvalificiranu radnu snagu da iskoriste prednosti UI, zbog \u010dega postoji pove\u0107ani rizik produbljivanja nejednakosti izme\u0111u zemalja.<\/p>\n
U rujnu 2023. godine obavljeno je prvo istra\u017eivanje o percepciji UI u RH<\/a>, provedeno na uzorku od 1.300 osoba, a dio je znanstveno-stru\u010dnog projekta Percepcija UI u RH. Rezultati su pokazali da je 42% ispitanika isku\u0161alo alate UI ili se njima koristi, 19,3% navodi da ima visoko poznavanje UI, dok 26,3% nisko. Za 60% anketiranih UI predstavlja osje\u0107aj neizvjesnosti ili zabrinutosti, dok ju 30% smatra korisnom. Radi straha od nestanka poslova u idu\u0107ih pet do deset godina zbog UI zabrinuto je 49% ispitanika, dok ih 72% smatra da \u0107e UI negativno utjecati na me\u0111uljudske odnose.<\/p>\n O percepciji gubitka radnih mjesta uslijed primjene UI, portal MojPosao je tako\u0111er proveo istra\u017eivanje na 800 ispitanika <\/a>te su rezultati pokazali da svaka peta osoba (22%) smatra kako bi u narednih 10 godina mogli ostati bez posla zbog napretka tehnologije, a 10% radnika u RH je ve\u0107 do\u017eivjelo promjenu radnih zadataka zbog automatizacije. Prema istra\u017eivanju Hrvatske gospodarske komore i Best Advisory d.o.o.<\/a> u 342 hrvatske tvrtke, 50% velikih poduze\u0107a primjenjuje neke od alata UI, najvi\u0161e u automatizaciji poslovnih procesa, no samo 5% poduze\u0107a u RH redovito educira zaposlenike o UI.<\/p>\n Nakon \u0161to je EK u travnju 2021. predstavila prijedlog Uredbe o UI (Uredba), u prosincu 2023. godine je postignut privremeni dogovor izme\u0111u tijela EU o nacrtu Uredbe. Tijekom pregovora koji su 2023. bili intenzivni, na poziv MINGOR-a u vi\u0161e smo navrata dali mi\u0161ljenje na pojedine odredbe te kona\u010dni tekst Uredbe, s ciljem preveniranja potencijalno \u0161tetnih utjecaja UI sustava na ljudska prava i jednakost, posebice pri upotrebi visokorizi\u010dnih sustava UI.<\/p>\n Izme\u0111u ostalog smo se zalagali za osiguravanje neovisne procjene rizika svih sustava UI od strane tre\u0107ih osoba te obveznu provedbu procjene u\u010dinaka visokorizi\u010dnih sustava na ljudska prava i diskriminaciju. Takva procjena rizika trebala bi biti obveza korisnika u javnom i privatnom sektoru i to pri izradi sustava, prije po\u010detka kori\u0161tenja te periodi\u010dno nakon stavljanja sustava u promet, imaju\u0107i u vidu konkretnu svrhu za koju se odobrava.<\/p>\n Prepoznaju\u0107i potencijalnu prijetnju pravima gra\u0111ana i demokraciji koju predstavljaju odre\u0111ene primjene UI, Uredbom su zabranjeni sustavi biometrijske kategorizacije koji se temelje na biometrijskim podacima pojedinaca, poput lica ili otisaka prstiju. Iako je kori\u0161tenje biometrijskih identifikacijskih sustava zabranjeno u radu policije, bit \u0107e iznimno dopu\u0161teno uz odobrenje suda, u slu\u010dajevima te\u0161kih kaznenih djela poput terorizma, trgovanja ljudima ili seksualnog iskori\u0161tavanja djece.<\/p>\n Uredbom se zabranjuje prikupljanje fotografija lica s interneta ili nadzornih kamera radi stvaranja baze podataka, prepoznavanje emocija na radnom mjestu i u obrazovnim ustanovama, dru\u0161tveno bodovanje na temelju pona\u0161anja ili osobnih karakteristika, kao i sustavi za manipulaciju ljudskim pona\u0161anjem.<\/p>\n Za visokorizi\u010dne sustave UI koji mogu zna\u010dajno nanijeti \u0161tetu zdravlju, sigurnosti, temeljnim pravima, okoli\u0161u, demokraciji i vladavini prava, dogovorena je obvezna procjena u\u010dinka na temeljna prava. Gra\u0111ani \u0107e imati pravo pritu\u017eiti se na rad sustava UI i dobiti poja\u0161njenja na\u010dina odlu\u010divanja o njihovim pravima, za \u0161to smo se tako\u0111er zalagali. S obzirom na ubrazani razvoj UI, sustavi UI i modeli op\u0107e namjene poput ChatGPT, morat \u0107e biti transparentni te \u0107e se korisnike morati informirati da je sadr\u017eaj generiran UI.<\/p>\n Da bi Uredba postala pravno obvezuju\u0107a mora biti slu\u017ebeno potvr\u0111ena od strane EU Parlamenta i Vije\u0107a EU i objavljena u slu\u017ebenom glasilu EU. Budu\u0107i da \u0107e biti potpuno primjenjiva 24 mjeseca nakon stupanja na snagu, o\u010dekuje se njezina primjena od 2025. godine uz odre\u0111ene iznimke. Primjerice, odredbe kojima se zabranjuju ranije navedene prakse bit \u0107e u primjeni \u0161est mjeseci od stupanja na snagu. Kako bi potaknula poduze\u0107a, startupove i istra\u017eiva\u010de na izradu eti\u010dne i odgovorne UI i prije stupanja Uredbe na snagu, EK je u prosincu 2023. godine donijela Pakt o UI.<\/p>\n Nastavljeni su i pregovori o Nacrtu Okvirne konvencije o UI, ljudskim pravima, demokraciji i vladavini prava koju priprema VE. Na poziv MINGOR-a komentirali smo prijedlog Nacrta Konvencije, zala\u017eu\u0107i se za uspostavu u\u010dinkovitih mehanizama pravne za\u0161tite koji \u0107e omogu\u0107iti jednostavno osporavanje odluka ili sprje\u010davanje nastanka \u0161tete te adekvatne mehanizme nadzora i provedbe na nacionalnoj i na razini VE. Ukazali smo i da je podru\u010dje primjene Konvencije potrebno pro\u0161iriti i na sustave koji se upotrebljavaju u privatnom sektoru, kao i koji se koriste za nacionalnu sigurnost ili vojne svrhe i obranu, jer oni tako\u0111er mogu prouzro\u010diti neprihvatljive rizike za temeljna prava gra\u0111ana, primjerice kod masovnog nadzora ili kori\u0161tenja tehnologije prepoznavanja lica te alata za prepoznavanje pona\u0161anja. Me\u0111utim, prema zadnjem nacrtu dokumenta nije izgledno da \u0107e navedeno biti prihva\u0107eno.<\/p>\n Tako\u0111er, komentare na prijedlog nacrta Konvencije dali smo i kao \u010dlanovi Europske mre\u017ee nacionalnih institucija za ljudska prava (ENNHRI) i Europske mre\u017ee tijela za jednakost (EQUINET), koje imaju status promatra\u010da pri Odboru za UI Vije\u0107a Europe (CAI), dok je pu\u010dka pravobraniteljica sudjelovala u radu Odbora i pregovorima oko teksta Konvencija ispred Europske komisije za borbu protiv rasizma i netolerancije (ECRI). S obzirom da Konvencija mo\u017ee utjecati na kori\u0161tenje UI i algoritama u skladu s ljudskim pravima, VE je 2023. godine objavilo studiju<\/a> o utjecaju UI na diskriminaciju te je dalo specifi\u010dne preporuke s ciljem promicanja ravnopravnosti, uklju\u010duju\u0107i i ravnopravnost spolova.<\/p>\n U cilju regulacije upotrebe UI, 2023. godina obilje\u017eena je razli\u010ditim inicijativama i na globalnoj razini. Ujedinjeni narodi (UN) su formirali novo savjetodavno tijelo<\/a> s ciljem izrade preporuka za upravljanje UI za op\u0107e dobro i br\u017eeg ispunjavanja ciljeva odr\u017eivog razvoja te su pozvali \u010delnike dr\u017eava<\/a> da pokrenu pregovore o novom pravno obvezuju\u0107em instrumentu za postavljanje jasnih zabrana i ograni\u010denja upotrebe autonomnih oru\u017eanih sustava. UNESCO usko sura\u0111uje s EU<\/a> na programima za o\u010duvanje eti\u010dne UI te je pozvao na hitnu provedbu<\/a> Preporuka o etici UI, koje pru\u017eaju potrebne za\u0161titne mjere i jednoglasno su usvojene od 193 dr\u017eava \u010dlanica organizacije. \u010celnici skupine G7 (Francuska, Njema\u010dka, Italija, Velika Britanija, Japan, Kanada, SAD te EU) postigli su dogovor o me\u0111unarodnim na\u010delima za pouzdan razvoj UI te za\u0161titu ljudskih prava, uklju\u010duju\u0107i i generativnu UI .<\/p>\n Iako postoji veliki broj prednosti upotrebe UI, primjerice u obrazovanju i zdravstvu, upravljanju financijama, javnoj upravi, poljoprivredi, UI mo\u017ee ugroziti temeljna ljudska prava i jednakost na sasvim nove na\u010dine. Osim prava na privatnost i za\u0161titu osobnih podataka, ugo\u017eeni mogu biti i pravo na fizi\u010dki i psihi\u010dki integritet, nediskriminacija\/jednakost, sloboda izra\u017eavanja, okupljanja i informiranja, presumpcija nevinosti te pravo na po\u0161teno su\u0111enje, pravo na djelotvoran pravni lijek te druga prava.<\/p>\n U o\u017eujku 2023. godine je preko 30.000 znanstvenika i tehnolo\u0161kih stru\u010dnjaka potpisalo otvoreno pismo upozoravaju\u0107i na nekontrolirani razvoj sustava UI i sigurnosne rizike velikih jezi\u010dnih modela (ChatGPT), tra\u017ee\u0107i zaustavljanje razvijanja ovih sustava na \u0161est mjeseci, a neke dr\u017eave poput Italije su privremeno zabranile njihovu upotrebu zbog povrede prava na za\u0161titu osobnih podataka.<\/p>\n Sud pravde EU (CJEU) je u prosincu 2023. godine donio prvu presudu u vezi automatiziranog dono\u0161enja odluka, koja bi mogla imati zna\u010dajne u\u010dinke na kreditne institucije i osiguravaju\u0107a dru\u0161tva. Naime, Sud je presudio<\/a> da najve\u0107a njema\u010dka privatna kreditna agencija SCHUFA, nezakonito ocjenjuje kreditnu sposobnost klijenata na temelju automatiziranog sustava koji se temelji na osobnim podatcima (profiliranje), \u010dime kr\u0161i Op\u0107u uredbu o za\u0161titi osobih podataka.<\/p>\n RH \u0107e kao dr\u017eava \u010dlanica EU, nakon usvajanja Uredbe njome biti vezana, a mo\u0107i \u0107e i ratificirati Konvenciju VE nakon \u0161to bude usvojena te \u0107e ovi dokumenti predstavljati pravni okvir za razvoj i upotrebu UI u RH. U me\u0111uvremenu je RH 2022. godine donijela Strategiju digitalne Hrvatske do 2032. godine, koja u sljede\u0107em desetlje\u0107u pretpostavlja primjenu naprednih tehnologija poput UI u javnom i privatnom sektoru, i Strategiju pametne specijalizacije do 2029. godine, a u postupku je izrada Nacionalnog plana za digitalno desetlje\u0107e do 2030. godine. No, RH jo\u0161 nije izradila Nacionalni plan za razvoj UI, iako je 2019. godine osnovana radna skupina za njegovu izradu, koja se nije sastajala niti tijekom 2023. godine.<\/p>\n