{"id":21436,"date":"2024-08-01T05:25:51","date_gmt":"2024-08-01T03:25:51","guid":{"rendered":"https:\/\/www.ombudsman.hr\/hr\/?p=19773"},"modified":"2025-09-10T11:22:33","modified_gmt":"2025-09-10T09:22:33","slug":"na-snagu-je-stupila-uredba-o-umjetnoj-inteligenciji-to-donosi-i-za-to-je-va-na-za-gra-ane","status":"publish","type":"post","link":"https:\/\/www.ombudsman.hr\/hr\/na-snagu-je-stupila-uredba-o-umjetnoj-inteligenciji-to-donosi-i-za-to-je-va-na-za-gra-ane\/","title":{"rendered":"Na snagu je stupila Uredba o umjetnoj inteligenciji \u2013 \u0161to donosi i za\u0161to je va\u017ena za gra\u0111ane"},"content":{"rendered":"<p style=\"text-align: justify;\">Umjetna inteligencija dio je na\u0161ih \u017eivota, a svakim danom to \u0107e biti sve vi\u0161e \u2013 u Hrvatskoj poma\u017ee da <a href=\"https:\/\/sib.net.hr\/vijesti\/ostalo-vijesti\/4337489\/hrvatska-ima-program-koji-uz-pomoc-umjetne-inteligencije-dijagnosticira-rak-europa-ce-uciti-od-hrvatske\/\">pacijenti<\/a> dobiju to\u010dnu dijagnozu, <a href=\"https:\/\/www.bug.hr\/umjetna-inteligencija\/fer-s-infobipom-osmislio-branku-ai-pomocnicu-za-laksi-upis-studenata-na-42334\">studenti<\/a> podr\u0161ku pri upisu fakulteta, kupci brze odgovore na \u010desta pitanja, dok na dru\u0161tvenim mre\u017eama bira informacije koje bismo trebali vidjeti.<\/p>\n<p style=\"text-align: justify;\">Uz sve prednosti kori\u0161tenja umjetne inteligencije, postoje i veliki rizici od zlouporaba, ali i slu\u010dajnog nano\u0161enja \u0161tete, uklju\u010duju\u0107i kr\u0161enje ljudskih prava i diskriminaciju (primjeri su ni\u017ee u tekstu).<\/p>\n<p style=\"text-align: justify;\">Ti bi rizici uskoro u EU trebali biti bitno smanjeni, nakon \u0161to je 1.8.2024. godine na snagu stupila <a href=\"https:\/\/eur-lex.europa.eu\/eli\/reg\/2024\/1689\/oj\">Uredba o umjetnoj inteligenciji<\/a>.<\/p>\n<p style=\"text-align: justify;\"><strong>\u0160to je Uredba o umjetnoj inteligenciji<\/strong><\/p>\n<p style=\"text-align: justify;\">Rije\u010d je o prvom EU pravnom okviru za uporabu umjetne inteligencije. Ova Uredba odre\u0111uje minimalna pravila koja dr\u017eave \u010dlanice, pa tako i Hrvatska, moraju uvesti. Istovremeno dr\u017eave mogu u\u010diniti i vi\u0161e od onoga na \u0161to ih Uredba obvezuje i tako jo\u0161 i sna\u017enije za\u0161titi gra\u0111ane.<\/p>\n<p style=\"text-align: justify;\">Europska komisija navodi kako je \u201ecilj Uredbe o umjetnoj inteligenciji pru\u017eiti programerima i subjektima za uvo\u0111enje umjetne inteligencije jasne zahtjeve i obveze\u201c i \u201esmanjiti administrativno i financijsko optere\u0107enje za poduze\u0107a, posebno mala i srednja\u201c. Isti\u010de i da vodi povjerenju u ono \u0161to umjetna inteligencija nudi, jer se njime \u201euvode posebne obveze transparentnosti\u201c, s ciljem da gra\u0111ani budu adekvatno informirani.<\/p>\n<p style=\"text-align: justify;\">Konkretnije, Uredba izme\u0111u ostalog zabranjuje rad umjetne inteligencije koji predstavlja neprihvatljiv rizik, utvr\u0111uje popis aplikacija visokog rizika i uspostavlja upravlja\u010dku strukturu na europskoj i nacionalnoj razini. Izvr\u0161enje i provedbu Uredbe nadgleda Europski ured za umjetnu inteligenciju, koji je s radom po\u010deo po\u010detkom 2024. godine, u okviru Europske komisije. EU je stupanjem na snagu Uredbe postao globalni lider u za\u0161titi gra\u0111ana od rizika koje donosi kori\u0161tenje umjetne inteligencije.<\/p>\n<p style=\"text-align: justify;\"><strong>Primjeri rizika <\/strong><\/p>\n<p style=\"text-align: justify;\">\u0160to se sve mo\u017ee dogoditi ako kori\u0161tenje umjetne inteligencije nije dobro pripremljeno, i to s fokusom i na ljudska prava i jednakost, pokazuju brojni primjeri iz cijelog svijeta.<\/p>\n<p style=\"text-align: justify;\">U Amazonu su <a href=\"https:\/\/www.reuters.com\/article\/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G\/\">prestali koristiti algoritam kod zapo\u0161ljavanja<\/a>, nakon \u0161to su otkrili da daje prednost kandidatima koji su u \u017eivotopisima imali rije\u010di \u201eizvr\u0161avati\u201c ili \u201ezauzeti\u201c, koje su \u010de\u0161\u0107e pisali mu\u0161ki kandidati.<\/p>\n<p style=\"text-align: justify;\">Istra\u017eivanja provedena u SAD-u i Velikoj Britaniji pokazala su kako je umjetna inteligencija podcijenila rizik od te\u0161kih bolesti kod mla\u0111ih pacijenata, a precijenila kod starijih. To je za neke mlade zna\u010dilo da nisu dobili adekvatno lije\u010denje, dok su neki stariji pacijenti bespotrebno obavljali dodatne zahvate i koristili terapiju koja im nije bila potrebna.<\/p>\n<p style=\"text-align: justify;\">Naj\u010de\u0161\u0107e je spominjan rizik u podru\u010dju sigurnosti, kod <a href=\"https:\/\/fra.europa.eu\/sites\/default\/files\/fra_uploads\/fra-2019-facial-recognition-technology-focus-paper-1_en.pdf\">automatiziranog prepoznavanja lica<\/a>, gdje se isti\u010de mogu\u0107nost ve\u0107e gre\u0161ke kod osoba druge boje ko\u017ee, \u0161to mo\u017ee dovesti do diskriminacije i nepovjerenja razli\u010ditih skupina u policiju.<\/p>\n<p style=\"text-align: justify;\"><strong>Kako \u0107e Uredba \u0161tititi gra\u0111ane od razli\u010ditih vrsta rizika<\/strong><\/p>\n<p style=\"text-align: justify;\">Uredba govori o \u010detiri razine rizika od nepravilnog kori\u0161tenja umjetne inteligencije:<\/p>\n<ul style=\"text-align: justify;\">\n<li><strong>neprihvatljivi rizik<\/strong>: sustavi koji su jasna prijetnja sigurnosti, \u017eivotima i pravima su zabranjeni, primjerice igra\u010dke s glasovnim funkcijama koje poti\u010du opasno pona\u0161anje<\/li>\n<li><strong>visoki rizik<\/strong>: sustavi koji moraju ispuniti stroge obveze kako bi mogli biti kori\u0161teni (vezano uz promet, polaganje ispita u \u0161kolama i na fakultetima, kori\u0161tenje robota u kirurgiji, automatizirano rje\u0161avanje zahtjeva za vizu, odre\u0111ivanje kreditnih bodova u banci, filtriranje \u017eivotopisa kod zapo\u0161ljavanja i drugi)<\/li>\n<li><strong>ograni\u010deni rizik<\/strong>: sustavi kod kojih nedostaje transparentnosti u kori\u0161tenju umjetne inteligencije, a kod kojih su uvedene posebne obveze upravo u tom smjeru (posjetitelji web stranice \u0107e trebati biti informirani da razgovaraju s robotom, a ne \u010dovjekom iz slu\u017ebe za korisnike; u tekstu koji je stvorila umjetna inteligencija, za informiranje gra\u0111ana na temu od javnog interesa, morat \u0107e biti ozna\u010den kao sadr\u017eaj stvoren umjetnom inteligencijom)<\/li>\n<li><strong>minimalan ili nikakav rizik:<\/strong> Uredbom se dozvoljava besplatna uporaba sustava s minimalnim rizikom, u koji spada velika ve\u0107ina onih koji se trenutno koriste u EU (primjerice, filtri za ne\u017eeljenu po\u0161tu)<\/li>\n<\/ul>\n<p style=\"text-align: justify;\">Sada, kad je Uredba o umjetnoj inteligenciji stupila na snagu, Hrvatska ju je kao dr\u017eava \u010dlanica EU obvezna implementirati, ali i paralelno raditi na pove\u0107anju povjerenja gra\u0111ana u umjetnu inteligenciju.<br \/>\n<strong>\u00a0<\/strong><\/p>\n<p style=\"text-align: justify;\"><strong>\u0160to gra\u0111ani Hrvatske misle o umjetnoj inteligenciji<\/strong><\/p>\n<p style=\"text-align: justify;\">U rujnu 2023. godine obavljeno je <a href=\"https:\/\/effectus.com.hr\/wp-content\/uploads\/2023\/09\/Izvjestaj_AI_mediji_15092023.pdf\">prvo istra\u017eivanje o percepciji UI u RH<\/a>, provedeno na uzorku od 1.300 osoba, a dio je znanstveno-stru\u010dnog projekta Percepcija umjetne inteligencije u Republici Hrvatskoj. Rezultati su pokazali da je 42% ispitanika isku\u0161alo alate umjetne inteligencije ili se njima koristi, 19,3% navodi da ima visoko poznavanje umjetne inteligencije, dok 26,3% nisko. Za 60% anketiranih ona predstavlja osje\u0107aj neizvjesnosti ili zabrinutosti, dok ju 30% smatra korisnom. Radi straha od nestanka poslova u idu\u0107ih pet do deset godina zbog umjetne inteligencije, zabrinuto je 49% ispitanika, dok ih 72% smatra da \u0107e ona negativno utjecati na me\u0111uljudske odnose.<\/p>\n<p style=\"text-align: justify;\">O percepciji gubitka radnih mjesta <a href=\"https:\/\/www.moj-posao.net\/Savjet\/83183\/Svaki-peti-radnik-u-Hrvatskoj-strahuje-da-ce-ostati-bez-posla-zbog-automatizacije-i-umjetne-inteligencije\/55\/\">istra\u017eivanje je na 800 ispitanika<\/a> proveo i portal MojPosao. Rezultati su pokazali da svaka peta osoba (22%) smatra kako bi u narednih 10 godina mogli ostati bez posla zbog napretka tehnologije, a 10% radnika je ve\u0107 do\u017eivjelo promjenu radnih zadataka zbog automatizacije. Prema <a href=\"https:\/\/hgk.hr\/documents\/analiza-percepcije-i-upotrebe-umjetne-inteligencije-u-hrvatskom-gospodarstvu656f2b98d09f5.pdf\">istra\u017eivanju Hrvatske gospodarske komore i Best Advisory d.o.o.<\/a> u 342 hrvatske tvrtke, 50% velikih poduze\u0107a primjenjuje neke od alata umjetne inteligencije, najvi\u0161e u automatizaciji poslovnih procesa, no samo 5% poduze\u0107a redovito o njoj educira zaposlenike.<\/p>\n<p style=\"text-align: justify;\"><strong>Aktivnosti pu\u010dke pravobraniteljice <\/strong><\/p>\n<p style=\"text-align: justify;\">Kao nacionalna institucija za za\u0161titu ljudskih prava i sredi\u0161nje tijelo za suzbijanje diskriminacije, na\u0161a institucija od 2019. godine prati utjecaj umjetne inteligencije na ljudska prava i zagovara bolja pravila za njeno kori\u0161tenje.<\/p>\n<p>Tako\u0111er je odre\u0111ena kao jedno je od tijela nadle\u017enih za za\u0161titu temeljnih prava u skladu s Uredbom, zajedno s pravobraniteljicom za djecu, pravobraniteljicom za ravnopravnost spolova, pravobraniteljem za osobe s invaliditetom, Agencijom za za\u0161titu osobnih podataka, Dr\u017eavnim izbornim povjerenstvom i Agencijom za elektroni\u010dke medije.<\/p>\n<p style=\"text-align: justify;\">Umjetna inteligencija zasebno je poglavlje u godi\u0161njim izvje\u0161\u0107ima pu\u010dke pravobraniteljice Hrvatskom saboru, a posljednje <a href=\"https:\/\/www.ombudsman.hr\/hr\/umjetna-inteligencija-2023\/\">mo\u017eete pro\u010ditati ovdje<\/a>. U njemu su i dvije preporuke Ministarstvu gospodarstva: da uspostavi registar sustava umjetne inteligencije koji se koriste u javnom sektoru i da izradi Nacionalni plan za razvoj umjetne inteligencije. Naime, Hrvatska jo\u0161 uvijek nema ovaj nacionalni plan, iako je umjetna inteligencija ve\u0107 vi\u0161e godina u sve \u0161iroj uporabi.<\/p>\n<p style=\"text-align: justify;\">Pu\u010dka pravobraniteljica Tena \u0160imonovi\u0107 Einwalter je, kao \u010dlanica Europske komisije protiv rasizma i nesno\u0161ljivosti (ECRI) Vije\u0107a Europe, sudjelovala u radu Ad-hoc odbora za umjetnu inteligenciju (CAHAI) i Odbora za umjetnu inteligenciju (CAI), koji je izradio Okvirnu konvenciju Vije\u0107a Europe o umjetnoj inteligenciji, ljudskim pravima i vladavini prava (2024) te predstavlja ECRI u Odboru stru\u010dnjaka za umjetnu inteligenciju, jednakost i diskriminaciju Vije\u0107a Europe.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Umjetna inteligencija dio je na\u0161ih \u017eivota, a svakim danom to \u0107e biti sve vi\u0161e \u2013 u Hrvatskoj poma\u017ee da pacijenti dobiju to\u010dnu dijagnozu, studenti podr\u0161ku pri upisu fakulteta, kupci brze odgovore na \u010desta pitanja, dok na dru\u0161tvenim mre\u017eama bira informacije koje bismo trebali vidjeti. Uz sve prednosti kori\u0161tenja umjetne inteligencije, postoje i veliki rizici od [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":13705,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2090],"tags":[2079,1959,2055],"class_list":["post-21436","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-novosti","tag-korisne-informacije","tag-umjetna-inteligencija","tag-zakoni-drugi-propisi-i-strateski-dokumenti"],"_links":{"self":[{"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/posts\/21436","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/comments?post=21436"}],"version-history":[{"count":2,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/posts\/21436\/revisions"}],"predecessor-version":[{"id":22072,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/posts\/21436\/revisions\/22072"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/media\/13705"}],"wp:attachment":[{"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/media?parent=21436"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/categories?post=21436"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/tags?post=21436"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}