{"id":23859,"date":"2026-05-11T14:51:32","date_gmt":"2026-05-11T12:51:32","guid":{"rendered":"https:\/\/www.ombudsman.hr\/hr\/?p=23859"},"modified":"2026-05-28T12:20:46","modified_gmt":"2026-05-28T10:20:46","slug":"umjetna-inteligencija-2025","status":"publish","type":"post","link":"https:\/\/www.ombudsman.hr\/hr\/umjetna-inteligencija-2025\/","title":{"rendered":"Umjetna inteligencija"},"content":{"rendered":"

*Napomena: \u010citate poglavlje iz Izvje\u0161\u0107a pu\u010dke pravobraniteljice za 2025. godinu<\/a>, koje smo predali Hrvatskom saboru u o\u017eujku 2026. Cijelo Izvje\u0161\u0107e mo\u017eete otvoriti u PDF formatu<\/a> ili u interaktivnoj verziji<\/a>.<\/p>\n

Vi\u0161e o povezanim temama prona\u0111ite i u drugim poglavljima Izvje\u0161\u0107a, na dnu ove stranice.<\/p>\n

 <\/p>\n

\n

 <\/p>\n

Posljednjih godina bilje\u017ee se zna\u010dajni pomaci u transformaciji gospodarstva i javne uprave, a zbog sve br\u017eeg razvoja tehnologije fokus se, uz digitalizaciju, usmjerio i na razvoj te primjenu umjetne inteligencije (UI), s ciljem pove\u0107anja u\u010dinkovitosti rada, automatizacije poslovnih procesa, pru\u017eanja prilago\u0111enih, dostupnih usluga te pobolj\u0161anja komunikacije s gra\u0111anima. Unato\u010d napretku i dalje postoje brojna pitanja i prepreke. Napori za pove\u0107anjem u\u010dinkovitosti moraju biti pra\u0107eni povjerenjem gra\u0111ana u dostupne, sigurne i pouzdane usluge, koje su u skladu sa za\u0161titom ljudskih prava, pri \u010demu su potrebni ve\u0107i kapaciteti javnog sektora za regulaciju i provedbu, kao i bolje informiranje gra\u0111ana.<\/p>\n

U RH se o temi UI, pa tako i na razini dono\u0161enja odluka, jo\u0161 uvijek pre\u010desto ne raspravlja dovoljno ozbiljno, niti se u potrebnoj mjeri analizira njezin utjecaj na cjelokupno dru\u0161tvo, osobito na ljudska prava, slobodu i jednakost gra\u0111ana (na \u0161to je pu\u010dka pravobraniteljica vi\u0161e puta ukazivala tijekom 2025. godine).<\/p>\n

 <\/p>\n

Istra\u017eivanja o percepciji i primjeni UI<\/span><\/h3>\n

Rezultati tre\u0107eg po redu ispitivanja o percepciji UI u RH, provedeni na uzorku od \u010dak 2.500 ispitanika, pokazali su da je kori\u0161tenje alata UI u odnosu na 2023. godinu poraslo za 60%, pri \u010demu je naj\u010de\u0161\u0107e kori\u0161ten ChatGPT. Alati se naj\u010de\u0161\u0107e koriste za pretra\u017eivanje, zabavu, pisanje tekstova i prevo\u0111enje. Najizra\u017eenija zabrinutost odnosi se na pove\u0107anje dezinformacija, \u0161to isti\u010de 46% ispitanika. U stavovima prema UI primjetan je generacijski jaz: 49% generacije Z smatra da je pojava UI pozitivna za dru\u0161tvo, a 65% ju aktivno koristi. Starije generacije pokazuju ve\u0107u skepsu ili indiferentnost te alate UI koriste rje\u0111e.<\/p>\n

Budu\u0107i da su kompetencije slu\u017ebenika tijela javne uprave klju\u010dne za pobolj\u0161anje kvalitete javnih usluga, D\u0160JU je provela istra\u017eivanje o spremnosti dr\u017eavnih tijela i slu\u017ebenika na primjenu UI. Iako je upitnik ispunilo samo 15% od ukupno 44.621 zaposlenika, preliminarni podaci ukazuju na nedostatak znanja slu\u017ebenika u primjeni alata UI te potrebu za sustavnom izobrazbom, dok se tijela javne vlasti nalaze tek u fazi po\u010detne izgradnje kapaciteta u pogledu primjene UI.<\/p>\n

Provedeno je i prvo istra\u017eivanje u RH o iskustvima sindikalnih predstavnika u vezi s utjecajem UI na svijet rada. Podaci su pokazali da je primjena UI alata u sindikalnom radu tako\u0111er tek u po\u010detnoj fazi. Oko polovice ispitanika vrlo rijetko koristi UI alate i to prete\u017eno za stvaranje tekstualnog sadr\u017eaja, u\u010denje, pronala\u017eenje informacija, prevo\u0111enje, informiranje i komuniciranje sa \u010dlanovima. Kao glavne prepreke isti\u010du zabrinutost za privatnost podataka te nedostatak potrebnih vje\u0161tina i kompetencija, \u0161to dodatno nagla\u0161ava potrebu za ciljanim edukacijama.<\/p>\n

Hrvatska udruga poslodavaca provela je istra\u017eivanje me\u0111u 659 poduze\u0107a, ispituju\u0107i kako hrvatsko gospodarstvo vidi i koristi UI. Ve\u0107ina ispitanika ima pozitivan stav prema UI te procjenjuje da je dobro ili djelomi\u010dno upoznata s njezinim mogu\u0107nostima. UI se naj\u010de\u0161\u0107e koristi ili planira koristiti u marketingu, prodaji i automatizaciji sadr\u017eaja, a naj\u010de\u0161\u0107e kori\u0161ten alat tako\u0111er je ChatGPT. Gotovo polovica poduze\u0107a percipira UI kao prijetnju radnim mjestima te postoji zabrinutost oko nedostatka ljudske kontrole i sigurnosti. Me\u0111utim, 70% ih smatra da ne\u0107e do\u0107i do zamjene radnih mjesta u njihovim poduze\u0107ima. Tvrtke koje ve\u0107 koriste UI isti\u010du jasne prednosti, a \u010detvrtina navodi u\u0161tedu ve\u0107u od jednog sata dnevno po zaposleniku. Me\u0111utim, vlastita rje\u0161enja UI su rijetka te se ve\u0107inom oslanjaju na komercijalna. Samo 3% poduze\u0107a ima definiranu strategiju UI, a 10% ima osobu ili tim koji nadzire razvoj i upotrebu UI-ja. Ve\u0107ina nije upoznata s Uredbom o UI. Iako poduze\u0107a prepoznaju va\u017enost razvoja analiti\u010dkih, kreativnih i kriti\u010dkih vje\u0161tina, sustavna ulaganja u edukaciju zaposlenika su rijetka.<\/p>\n

U studenom 2025. godine provedeno je istra\u017eivanje o razumijevanju i primjeni UI u osnovnim i srednjim \u0161kolama, u kojem je sudjelovalo 2.514 u\u010denika te 399 u\u010ditelja i nastavnika. Rezultati pokazuju otvorenost \u0161kola prema primjeni UI, ali i potrebu za sustavnom podr\u0161kom, dodatnim edukacijama i razvojem jasnih smjernica. Iako 94% u\u010ditelja i nastavnika te gotovo 60% u\u010denika koristi alate UI, zna\u010dajan dio jo\u0161 nije siguran kako ti sustavi funkcioniraju. I u\u010ditelji i u\u010denici osje\u0107aju nesigurnost prilikom kori\u0161tenja jer nemaju iskustva i jasnih primjera u kori\u0161tenju alata u nastavi, pri \u010demu \u010dak 95% u\u010ditelja i 80,6% u\u010denika prepoznaje mogu\u0107nost neto\u010dnih ili pristranih informacija te vi\u0161e od 70% smatra provjeru podataka nu\u017enom.<\/p>\n

Istra\u017eivanja ukazuju na nedovoljnu informiranost gra\u0111ana o UI, nedostatku znanja o primjeni UI, kao i negativnim posljedicama upotrebe ovakvih sustava. Problem je ka\u0161njenje s informiranjem javnosti i edukacijom o ovoj temi. Naime, gra\u0111ane je potrebno \u0161iroko informirati i upoznati s osnovama UI, regulatornim okvirom, prednostima te nedostacima, uklju\u010duju\u0107i i rizicima za ljudska prava i diskriminaciju pa i mogu\u0107ih negativnih posljedica po njih, i to prije po\u010detka kori\u0161tenja alata umjetne inteligencije. Stoga preporu\u010damo da se provede sveobuhvatna nacionalna kampanja radi podizanja svijesti javnosti o primjeni UI, regulatornom okviru, prednostima te nedostacima, uklju\u010duju\u0107i i rizike za ljudska prava i diskriminaciju.<\/p>\n\n\n\n
Preporuka 136.<\/strong><\/span><\/p>\n

Vladi Republike Hrvatske, da provede sveobuhvatnu nacionalnu kampanju radi podizanja svijesti javnosti o primjeni UI, regulatornom okviru, prednostima te nedostacima, uklju\u010duju\u0107i rizike za ljudska prava i diskriminaciju<\/span><\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

 <\/p>\n

 <\/p>\n

Edukacija<\/strong><\/span><\/h3>\n

Vezano za uvo\u0111enje umjetne inteligencije u obrazovni sustav, u javnosti se navodi da se u hrvatskim \u0161kolama trenuta\u010dno provodi kurikul o umjetnoj inteligenciji u 147 osnovnih i 93 srednje \u0161kole, pri \u010demu je program zasad organiziran kao izvannastavna aktivnost za u\u010denike 5. do 8. razreda te kao fakultativni predmet za u\u010denike 2. i 3. razreda srednjih \u0161kola. Pri tome se najavljuje se da \u0107e se u \u0161kolskoj godini 2026.\/2027. kurikul “Umjetna inteligencija: od koncepta do primjene” provoditi u svim razredima srednjih \u0161kola diljem Hrvatske.<\/p>\n

Kao pozitivni primjer edukacija o UI u 2025. godini isti\u010demo one koje je provodila D\u0160JU za dr\u017eavne slu\u017ebenike, a odr\u017eano je 14 radionica s 307 polaznika. Dr\u017eavnim slu\u017ebenicima u RH omogu\u0107eno je i besplatno poha\u0111anje e-te\u010daja pod nazivom \u201eUI i digitalna transformacija u javnoj upravi\u201c koji su pokrenuli UNESCO i Poslovna \u0161kola Sa\u00efd Sveu\u010dili\u0161ta u Oxfordu.<\/p>\n

Pokrenut je i program besplatnih edukacija od strane Hrvatskog telekoma o UI pod nazivom \u201eAI ti to mo\u017ee\u0161\u201c, na hrvatskom jeziku, koji se sastoji od 12 kratkih informativno-edukativnih videa, a odr\u017eane su i edukacije \u201cAI se educiraj\u201d namijenjene nastavnicima, profesorima i drugim osobama za primjenu UI u obrazovanju.<\/p>\n

O prepoznavanju potrebe za odgovornom uporabom alata UI u u\u010denju i pou\u010davanju od strane visokih u\u010dili\u0161ta, kao i potrebu za razvojem znanja, ve\u0107 smo pisali u Izvje\u0161\u0107u za 2024. godinu. U 2025. Fakultet elektrotehnike i ra\u010dunarstva (FER), Farmaceutsko-biokemijski fakultet Sveu\u010dili\u0161ta u Zagrebu i Sveu\u010dili\u0161te Algebra Bernays, donijeli su Politiku primjerenog kori\u0161tenja UI, a po\u010detkom 2026. godine FER je donio i Vodi\u010d za studente: Kako (ne) koristiti UI.<\/p>\n

U svijetu ubrzanog razvoja tehnologije i dru\u0161tvenih promjena FER je prepoznao potrebu za novim kompetencijama u podru\u010dju elektrotehnike i ra\u010dunarstva, a kroz program cjelo\u017eivotnog u\u010denja provodi edukacije prilago\u0111ene razli\u010ditim razinama predznanja, trajanja i dostupnosti. Fakultet informatike u Puli je prepoznao i potrebu za obrazovanjem budu\u0107ih nastavnika informatike, ne samo o eti\u010dkom kori\u0161tenju alata UI, nego i kao asistativnoj tehnologiji za u\u010denike s te\u0161ko\u0107ama. Tako\u0111er, razvijaju i vlastite sustave koji studentima omogu\u0107uju dubinsko razumijevanje tehnologije te kao prakti\u010dna rje\u0161enja za stvarne probleme u obrazovanju i industriji. Na Pomorskom i Tehni\u010dkom fakultetu u Rijeci izra\u0111eno je prvo autonomno plovilo koje mo\u017ee slu\u017eiti za mapiranje podmorja, otkrivanje zaga\u0111enja, ali i pomorskih prekr\u0161aja. Pravni fakultet u Zagrebu provodi projekt Algoritamska pravednost za tra\u017eitelje azila i izbjeglice (Algorithmic Fairness for Asylum Seekers and Refugees<\/em> \u2013 AFAR), koji ima za cilj dati doprinos razumijevanju i institucionalizaciji ‘pravednosti’ u upravljanju migracijama i azilom.<\/p>\n

 <\/p>\n

Primjena UI u dr\u017eavnom i javnom sektoru i zakonodavni okvir<\/strong><\/span><\/h3>\n

Primjena UI je sve prisutnija u dr\u017eavnim i lokalnim tijelima. Uvedena je automatizirana anonimizacija sudskih odluka (sustav ANON), pri \u010demu, kako je izvijestilo MPUDT, u 5% slu\u010dajeva dolazi do gre\u0161aka te potreba za naknadnim ispravcima. Ljudski nadzor je osiguran kod anonimizacije odluka drugostupanjskih sudova. Tako\u0111er, unaprje\u0111en je sustav za upravljanje sudskim predmetima (e-Spis), koristi se i nacionalna jezi\u010dna platforma (HRVOJKA), jedinstveni kontakt centar za gra\u0111ane (JKC) te virtualni asistent za zemlji\u0161ne knjige i katastar (ZIS OSS).<\/p>\n

\u201eNakon promjena, iz posjedovnog lista br. … brisane su \u010destice u k.o. \u2026 te su unesene u novoformirane BZP \u010destice \u2026 koje sada sadr\u017ee velik broj osoba upisanih u dalekoj pro\u0161losti, \u0161to u stvarnosti proizvodi rezultate koji nalikuju \u201cadministrativnim halucinacijama\u201d odnosno u AI terminologiji \u201chalucinacijama umjetne inteligencije\u201d\u2013 tj. podacima koji ne odra\u017eavaju realno stanje posjeda\u201c<\/em><\/p><\/blockquote>\n

ZIS koristi UI i za vo\u0111enje i odr\u017eavanje baze podatka zemlji\u0161nih knjiga i katastra. Me\u0111utim, unato\u010d namjeri da se automatski usklade baze podataka s ciljem osiguravanja njihove preglednosti i to\u010dnosti, pojedini gra\u0111ani izbrisani su iz evidencije dosada\u0161njih posjednika, posebice u ruralnim podru\u010djima. S tim u svezi, zaprimili smo pritu\u017ebu gra\u0111anina na netransparentan rad automatskog sustava, kojemu su izbrisane \u010destice iz posjedovnog lista nakon smrti oca. Ispitni postupak po ovoj pritu\u017ebi je u tijeku.<\/p>\n

S obzirom na najavljeni projekt \u201ePredvidive sudske odluke\u201c u kojemu \u0107e gra\u0111ani uno\u0161enjem klju\u010dnih rije\u010di i \u010dinjenica mo\u0107i dobiti odgovor o mogu\u0107oj uspje\u0161nosti u sporu s ciljem smanjenja broja novih predmeta na sudovima, u eSavjetovanju na Nacrt Akcijskog plana provedbe Nacionalnog plana razvoja pravosudnog sustava za razdoblje od 2022. do 2027. godine, ukazali smo na nu\u017enost edukacije pravosudnih du\u017enosnika i slu\u017ebenika o rizicima primjene UI u pravosu\u0111u. Prijedlog je primljen na znanje te \u0107e Pravosudna akademija doraditi mjeru i uvrstiti edukacije o ovoj temi. Probacijski sustav tako\u0111er uvodi UI u svoj rad te se najavljuje da \u0107e uz pomo\u0107 virtualne stvarnosti (VR) osu\u0111enici vje\u017ebati rje\u0161avanje problema i snala\u017eenje u odre\u0111enim \u017eivotnim situacijama.<\/p>\n

Najavljeno je uvo\u0111enje UI u energetiku. MPUGDI koristi rje\u0161enje eProstorna inspekcija za detektiranje promjena u prostoru koriste\u0107i satelitske snimke za nadzor bespravne gradnje, a Hrvatsko ratno zrakoplovstvo ima na raspolaganju besposadni zrakoplovni sustav Bayraktar<\/em> za borbeno djelovanje, koji se mo\u017ee koristiti i za civilne aktivnosti, od nadzora granice i obalnog pojasa do detektiranja po\u017eara i nestalih.<\/p>\n

Digitalni asistenti koji pru\u017eaju podr\u0161ku gra\u0111anima uz pomo\u0107 UI (chatbotovi), osim u pravosu\u0111u, razvijeni su i na portalu eGra\u0111ani, ali i u diplomaciji. U zdravstvu, HZZO je razvio alat radi lak\u0161eg pristupa informacijama osiguranim osobama o obveznom i dopunskom zdravstvenom osiguranju (HANA), za ginekolo\u0161ku pismenost razvijen je asistent GINA Hrvatskog zavoda za javno zdravstvo (HZJZ). Po\u010detkom 2026. godine predstavljen je i asistent ZdrAVKO namijenjen unaprje\u0111enju zdravstvene pismenosti gra\u0111ana.<\/p>\n

U gradovima se UI asistenti trenutno naj\u010de\u0161\u0107e koriste u administrativnim poslovima, komunalnim uslugama ili pru\u017eanju turisti\u010dkih informacija. UI se koristi i u sustavima pametnog parkiranja i upravljanja semaforima, za predvi\u0111anje potro\u0161nje elektri\u010dne energije u javnim zgradama te optimizaciju sustava javne rasvjete. Udruga gradova ukazuje na visok stupanj interesa za upotrebu UI u javnoj upravi, ali i na manjak informati\u010dkih stru\u010dnjaka te osnovne digitalne infrastrukture. Tako\u0111er, obzirom na tehnolo\u0161ke promjene, primje\u0107uju i prepreke u komunikaciji s gra\u0111anima koji nisu dovoljno informati\u010dki pismeni te digitalnu isklju\u010denost starije populacije.<\/p>\n

Sindikati su ukazali na sve ve\u0107u upotrebu UI od strane privatnih poslodavca u nadzoru radnika, kod dodjeljivanja zadataka te vrednovanja u\u010dinka. Problem je \u0161to kompanije uglavnom ne razvijaju vlastite sustave UI, ve\u0107 ih nabavljaju od tre\u0107ih strana te pritom prikupljaju velike koli\u010dine podataka. Istovremeno, nemaju ni strate\u0161kog okvira za upravljanje UI, ne raspola\u017eu adekvatnom pismeno\u0161\u0107u o UI te stoga ne znaju kako alati funkcioniraju ili donose odluke, iako iste imaju direktan utjecaj na radne uvjete zaposlenika.<\/p>\n

GONG je upozorio na kori\u0161tenje deepfake<\/em> sadr\u017eaja generiranog UI na lokalnim izborima 2025. godine te da njihova upotreba otvara prostor za manipulaciju bira\u010da i \u0161irenje dezinformacija, ugro\u017eavaju\u0107i integritet izbornih procesa.<\/p>\n

Nakon \u0161to su krajem 2024. godine stupile na snagu izmjene Zakona o sigurnosti prometa na cestama kojim se, izme\u0111u ostaloga, ure\u0111uje uvo\u0111enje tzv. autonomnih vozila u promet, izvr\u0161en je terenski pregled 60 prototipova kao preduvjet za izdavanje potvrde o uskla\u0111enosti, dok je proizvodni pogon u zavr\u0161noj fazi izgradnje. U tijeku je izrada prijedloga sporazuma s Gradom Zagrebom i operaterom javnog prijevoza o izdavanju 50.000 besplatnih vau\u010dera za vo\u017enju osobama s invaliditetom na podru\u010dju Grada Zagreba. FER je u zavr\u0161noj fazi izrade sustava koji \u0107e pouzdano mo\u0107i prepoznati ljudske radnje u otkrivanju kriznih situacija, kao va\u017ena pomo\u0107na funkcionalnost autonomnih vozila.<\/p>\n

U 2025. godini donesene su izmjene Kaznenog zakona, kojim je RH prva u EU uvela novo kazneno djelo \u201eDovo\u0111enje u opasnost \u017eivota i imovine sustavom UI\u201c. U slu\u010daju kada sustav UI prouzro\u010di konkretnu opasnost za \u017eivot, tijelo ljudi ili imovinu ve\u0107eg opsega, kazneno \u0107e odgovarati osoba koja razvija, testira ili upravlja sustavima, bilo zlonamjerno ili iz nehaja. To je izazvalo raspravu u stru\u010dnoj javnosti, pri \u010demu se ukazuje da je norma vrlo \u0161iroka i nedovoljno precizna te je pitanje u odnosu na koga sve i kako \u0107e se utvr\u0111ivati krivnja za ovo djelo, a pitanje je i koliko pravosudni sustav trenutno raspola\u017ee adekvatnim znanjima o funkcioniranju UI sustava za provo\u0111enje postupaka glede ovog kaznenog djela.<\/p>\n

Unato\u010d razli\u010ditim navedenim inicijativama, i dalje se kasni s izradom potrebnog zakona o UI i strate\u0161kih dokumenata, budu\u0107i da je Uredba (EU) 2024\/1689 Europskog parlamenta i Vije\u0107a od 13. lipnja 2024. o utvr\u0111ivanju uskla\u0111enih pravila o umjetnoj inteligenciji (Uredba o UI) stupila na snagu u kolovozu 2024. godine (pri \u010demu je njena provedba planirana po fazama), a rok za implementaciju istekao je u svibnju 2025. godine. Iako je Zakon o provedbi Uredbe o UI bio planiran za upu\u0107ivanje u proceduru Vlade RH do kraja prvog tromjese\u010dja 2025. godine, rok je prolongiran na I. tromjese\u010dje 2026. godine. Sastanak Radne skupine za izradu Zakona, u kojoj sudjeluje i institucija pu\u010dke pravobraniteljice, ujedno i kao jedno od tijela za za\u0161titu ljudskih prava iz \u010dl. 77. Uredbe o UI, odr\u017ean je u travnju 2025. godine, no nakon toga vi\u0161e nije bilo novih sastanaka.<\/p>\n

U me\u0111uvremenu je Europska komisija (EK) predlo\u017eila Europskom parlamentu i Vije\u0107u EU tzv. Digital Omnibus<\/em>, u kojem predla\u017ee pojednostavljenje obveza, izme\u0111u ostalog i iz Uredbe o UI, iako Uredba jo\u0161 nije u potpunosti primjenjiva. Dodatno zabrinjava \u0161to je postupak pokrenut bez procjene u\u010dinaka i javnih konzultacija, a usvajanje Omnibusa<\/em> o\u010dekuje se do polovice 2026. godine. U pogledu odgovornosti i za\u0161tite ljudskih prava zabrinjava prijedlog izmjene vezane uz obvezu registracije i izvje\u0161tavanja o samoprocjeni visokorizi\u010dnih sustava, \u0161to utje\u010de na transparentnost u upravljanju UI, kao i odgoda primjene glede visokorizi\u010dnih sustava, koja je prvotno odre\u0111ena za kolovoz 2026. godine. Zabrinutost izaziva prijedlog smanjenja ovlasti tijela za za\u0161titu ljudskih prava iz \u010dl. 77. Uredbe. Dodatno zabrinjava i \u010dinjenica da Komisija jo\u0161 nije objavila tehni\u010dke standarde s ciljem lak\u0161eg uskla\u0111ivanja s obvezama iz Uredbe za visokorizi\u010dne sustave te je u velja\u010di 2025. godine povukla prijedlog Direktive o odgovornosti za UI kojim je gra\u0111anima trebala olak\u0161ati pristup pravosu\u0111u ukoliko su pretrpjeli \u0161tetu.<\/p>\n

Prema Uredbi o UI, dr\u017eave \u010dlanice bile su u obvezi do 2. kolovoza 2025. godine imenovati tijelo za nadzor tr\u017ei\u0161ta i o tome obavijestiti EK, \u0161to veliki broj dr\u017eava \u010dlanica, uklju\u010duju\u0107i i RH, nisu izvr\u0161ile, iako bi ka\u0161njenje moglo pokrenuti postupak povrede prava EU. Tako\u0111er, trebalo je definirati i suradnju izme\u0111u tijela za nadzor tr\u017ei\u0161ta i tijela za za\u0161titu ljudskih prava, \u0161to RH tako\u0111er nije uradila. Navedeni propust stvara nesigurnost na tr\u017ei\u0161tu, jer se mo\u017ee pogre\u0161no shvatiti da pojedina pravila jo\u0161 nisu obvezuju\u0107a, primjerice, obveza o informiranom uvo\u0111enju UI te osiguranju dostatne razine pismenosti u podru\u010dju UI svih koji razvijaju, uvode ili koriste sustave UI, kao i rizicima te \u0161teti koju ona mo\u017ee izazvati, iako je obveza u primjeni od velja\u010de 2025. godine.<\/p>\n

Sud pravde EU (CJEU) je u velja\u010di 2025. godine donio jo\u0161 jednu presudu u vezi automatiziranog dono\u0161enja odluka, nagla\u0161avaju\u0107i da osoba ima pravo na obja\u0161njenje kako je odluka donijeta i koji su osobni podaci kori\u0161teni, dok samo priop\u0107avanje algoritma ne predstavlja dovoljno sa\u017eeto i razumljivo obja\u0161njenje.<\/p>\n

Nakon \u0161to je VE u svibnju 2024. godine usvojilo Okvirnu konvenciju o UI, ljudskim pravima, demokraciji i vladavini prava, prvi pravno obvezuju\u0107i me\u0111unarodni instrument o UI, do kraja 2025. godine potpisale su je 42 dr\u017eave \u010dlanice. Budu\u0107i da Konvencija promovira inovacije te nadopunjuje postoje\u0107e me\u0111unarodne standarde o ljudskim pravima, demokraciji i vladavini prava, kao i pravne praznine koje mogu proiza\u0107i iz brzog tehnolo\u0161kog napretka, a na razini EU se trenutno razmatraju izmjene Uredbe o UI koje bi mogle degradirati za\u0161titu ljudskih prava gra\u0111ana, ponovno preporu\u010damo da RH ratificira Okvirnu konvenciju VE.<\/p>\n

Primje\u0107uju\u0107i brzi napredak UI u upravljanju migracijama, Parlamentarna skup\u0161tina VE donijela je Rezoluciju 2628 (2025) \u201eUI i migracije\u201c isti\u010du\u0107i njezin potencijal za pobolj\u0161anje u\u010dinkovitosti i dostupnosti usluga za migrante, izbjeglice i tra\u017eitelje azila, kao \u0161to su nadzor granica, obrada viza, biometrijska identifikacija i podr\u0161ka integraciji. Skup\u0161tina nagla\u0161ava i va\u017enost za\u0161tite temeljnih prava, poti\u010du\u0107i dr\u017eave \u010dlanice da usklade razvoj UI s eti\u010dkim standardima i za\u0161titom ljudskih prava, izbjegavaju\u0107i diskriminiraju\u0107e ili aplikacije koje kr\u0161e privatnost. Poziva na transparentnost i uklju\u010divanje ljudskog nadzora u dono\u0161enje odluka u migracijskim procesima te preporu\u010da Odboru ministara da poti\u010de dr\u017eave na potpisivanje, ratifikaciju i provedbu Okvirne konvencije o UI, uz osiguravanje provedivih za\u0161titnih mjera, uklju\u010duju\u0107i i\u00a0 razvoj kodeksa dobre prakse o kori\u0161tenju UI u upravljanju migracijama.<\/p>\n\n\n\n
Preporuka 137. (ponovljena)<\/strong><\/span><\/p>\n

Vladi Republike Hrvatske, da ratificira Okvirnu konvenciju o UI, ljudskim pravima, demokraciji i vladavini prava Vije\u0107a Europe<\/span><\/p>\n

Preporuka 138. <\/strong><\/span><\/p>\n

Ministarstvu pravosu\u0111a, uprave i digitalne transformacije, da uspostavi registar sustava umjetne inteligencije koji se koriste u javnom sektoru<\/span><\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

Obzirom na rizike ovakvih sustava za ljudska prava i pravo na jednakost, a uzimaju\u0107i u obzir da je i Entry\/Exit sustav (EES) za digitalnu registraciju podataka o ulasku i izlasku dr\u017eavljana tre\u0107ih zemalja, koji prikuplja biometrijske podatke (otiske prstiju i sliku lica), u primjeni od sredine listopada 2025. godine, potrebno je osigurati transparentnost i kontrolu na\u010dina njihovog rada te upoznati javnost s njihovim kori\u0161tenjem. Stoga ponovno isti\u010demo da je objava te poja\u0161njenje na\u010dina rada sustava UI koji koristi javna uprava od izuzetne va\u017enosti.<\/p>\n

Nastavno na vi\u0161egodi\u0161nje preporuke pu\u010dke pravobraniteljice vezano za izradu Nacionalnog plana za razvoj umjetne inteligencije, pozitivno je da je 2025. godine zapo\u010dela s radom Radna skupina za izradu nacrta prijedloga Nacionalnog plana za razvoj UI u RH 2026. do 2032. godine i Akcijskog plana za razvoj UI, \u010diji smo \u010dlanovi. U rad stru\u010dne radne skupine uklju\u010deno je 128 \u010dlanova iz 55 institucija, me\u0111utim, ne i organizacije civilnog dru\u0161tva za za\u0161titu digitalnih prava, ve\u0107 udruge iz poslovnog sektora.<\/p>\n

Sudjeluju\u0107i u radnoj skupini zalagali smo se, izme\u0111u ostaloga, za izradu smjernica za upotrebu visokorizi\u010dnih sustava UI, uklju\u010duju\u0107i i onih za procjenu u\u010dinaka na ljudska prava i diskriminaciju u skladu s nacionalnim zakonodavstvom, kao i za osiguravanje za\u0161titnih mjera i pravnih lijekova te ljudskog nadzora nad radom sustava u sektorima poput rada i zapo\u0161ljavanja, obrazovanja, zdravstva, pravosu\u0111a, osiguranja, financija, ali i sigurnosti i obrane. Zalagali smo se i za uspostavu i javnu objavu registra sustava UI, koji bi se kontinuirano a\u017eurirao, te transparentno objavljivanje izvje\u0161\u0107a o radu i funkcioniranju sustava UI, koji \u0107e dokumentirati odstupanja i pristranosti te procjene algoritma na ljudska prava. Isticali smo da je potrebno osigurati neovisnu stru\u010dnu evaluaciju sustava, anga\u017eiranjem dru\u0161tvenih i tehni\u010dkih stru\u010dnjaka za provedbu procjene pristranosti, nepristran nadzor tre\u0107ih strana sa specijaliziranim znanjem u podru\u010dju etike UI i analize sistemskih rizika te, ovisno o namjeni sustava, aktivno uklju\u010divanje gra\u0111ana i organizacija civilnog dru\u0161tva.<\/p>\n

\n

 <\/p>\n

Povezane teme u Izvje\u0161\u0107u pu\u010dke pravobraniteljice za 2025. godinu<\/a>:<\/p>\n

Pravo na zdravlje<\/a>, Pravosu\u0111e<\/a>, Mladi<\/a>, Pravo na obrazovanje i diskriminacija temeljem obrazovanja<\/a> i Pravo na rad<\/a>.<\/p>\n

Cijelo Izvje\u0161\u0107e pu\u010dke pravobraniteljice za 2025. godinu mo\u017eete otvoriti u PDF formatu<\/a> ili u interaktivnoj verziji<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"

*Napomena: \u010citate poglavlje iz Izvje\u0161\u0107a pu\u010dke pravobraniteljice za 2025. godinu, koje smo predali Hrvatskom saboru u o\u017eujku 2026. Cijelo Izvje\u0161\u0107e mo\u017eete otvoriti u PDF formatu ili u interaktivnoj verziji. Vi\u0161e o povezanim temama prona\u0111ite i u drugim poglavljima Izvje\u0161\u0107a, na dnu ove stranice.     Posljednjih godina bilje\u017ee se zna\u010dajni pomaci u transformaciji gospodarstva i […]<\/p>\n","protected":false},"author":11,"featured_media":23184,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2161],"tags":[2160],"class_list":["post-23859","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-izvjesce-2025","tag-izvjesce-2025"],"_links":{"self":[{"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/posts\/23859","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/comments?post=23859"}],"version-history":[{"count":5,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/posts\/23859\/revisions"}],"predecessor-version":[{"id":24109,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/posts\/23859\/revisions\/24109"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/media\/23184"}],"wp:attachment":[{"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/media?parent=23859"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/categories?post=23859"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/tags?post=23859"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}