*Napomena: Čitate poglavlje iz Izvješća pučke pravobraniteljice za 2025. godinu, koje smo predali Hrvatskom saboru u ožujku 2026. Cijelo Izvješće možete otvoriti u PDF formatu ili u interaktivnoj verziji.

Više o povezanim temama pronađite i u drugim poglavljima Izvješća, na dnu ove stranice.

Posljednjih godina bilježe se značajni pomaci u transformaciji gospodarstva i javne uprave, a zbog sve bržeg razvoja tehnologije fokus se, uz digitalizaciju, usmjerio i na razvoj te primjenu umjetne inteligencije (UI), s ciljem povećanja učinkovitosti rada, automatizacije poslovnih procesa, pružanja prilagođenih, dostupnih usluga te poboljšanja komunikacije s građanima. Unatoč napretku i dalje postoje brojna pitanja i prepreke. Napori za povećanjem učinkovitosti moraju biti praćeni povjerenjem građana u dostupne, sigurne i pouzdane usluge, koje su u skladu sa zaštitom ljudskih prava, pri čemu su potrebni veći kapaciteti javnog sektora za regulaciju i provedbu, kao i bolje informiranje građana.

U RH se o temi UI, pa tako i na razini donošenja odluka, još uvijek prečesto ne raspravlja dovoljno ozbiljno, niti se u potrebnoj mjeri analizira njezin utjecaj na cjelokupno društvo, osobito na ljudska prava, slobodu i jednakost građana (na što je pučka pravobraniteljica više puta ukazivala tijekom 2025. godine).

Istraživanja o percepciji i primjeni UI

Rezultati trećeg po redu ispitivanja o percepciji UI u RH, provedeni na uzorku od čak 2.500 ispitanika, pokazali su da je korištenje alata UI u odnosu na 2023. godinu poraslo za 60%, pri čemu je najčešće korišten ChatGPT. Alati se najčešće koriste za pretraživanje, zabavu, pisanje tekstova i prevođenje. Najizraženija zabrinutost odnosi se na povećanje dezinformacija, što ističe 46% ispitanika. U stavovima prema UI primjetan je generacijski jaz: 49% generacije Z smatra da je pojava UI pozitivna za društvo, a 65% ju aktivno koristi. Starije generacije pokazuju veću skepsu ili indiferentnost te alate UI koriste rjeđe.

Budući da su kompetencije službenika tijela javne uprave ključne za poboljšanje kvalitete javnih usluga, DŠJU je provela istraživanje o spremnosti državnih tijela i službenika na primjenu UI. Iako je upitnik ispunilo samo 15% od ukupno 44.621 zaposlenika, preliminarni podaci ukazuju na nedostatak znanja službenika u primjeni alata UI te potrebu za sustavnom izobrazbom, dok se tijela javne vlasti nalaze tek u fazi početne izgradnje kapaciteta u pogledu primjene UI.

Provedeno je i prvo istraživanje u RH o iskustvima sindikalnih predstavnika u vezi s utjecajem UI na svijet rada. Podaci su pokazali da je primjena UI alata u sindikalnom radu također tek u početnoj fazi. Oko polovice ispitanika vrlo rijetko koristi UI alate i to pretežno za stvaranje tekstualnog sadržaja, učenje, pronalaženje informacija, prevođenje, informiranje i komuniciranje sa članovima. Kao glavne prepreke ističu zabrinutost za privatnost podataka te nedostatak potrebnih vještina i kompetencija, što dodatno naglašava potrebu za ciljanim edukacijama.

Hrvatska udruga poslodavaca provela je istraživanje među 659 poduzeća, ispitujući kako hrvatsko gospodarstvo vidi i koristi UI. Većina ispitanika ima pozitivan stav prema UI te procjenjuje da je dobro ili djelomično upoznata s njezinim mogućnostima. UI se najčešće koristi ili planira koristiti u marketingu, prodaji i automatizaciji sadržaja, a najčešće korišten alat također je ChatGPT. Gotovo polovica poduzeća percipira UI kao prijetnju radnim mjestima te postoji zabrinutost oko nedostatka ljudske kontrole i sigurnosti. Međutim, 70% ih smatra da neće doći do zamjene radnih mjesta u njihovim poduzećima. Tvrtke koje već koriste UI ističu jasne prednosti, a četvrtina navodi uštedu veću od jednog sata dnevno po zaposleniku. Međutim, vlastita rješenja UI su rijetka te se većinom oslanjaju na komercijalna. Samo 3% poduzeća ima definiranu strategiju UI, a 10% ima osobu ili tim koji nadzire razvoj i upotrebu UI-ja. Većina nije upoznata s Uredbom o UI. Iako poduzeća prepoznaju važnost razvoja analitičkih, kreativnih i kritičkih vještina, sustavna ulaganja u edukaciju zaposlenika su rijetka.

U studenom 2025. godine provedeno je istraživanje o razumijevanju i primjeni UI u osnovnim i srednjim školama, u kojem je sudjelovalo 2.514 učenika te 399 učitelja i nastavnika. Rezultati pokazuju otvorenost škola prema primjeni UI, ali i potrebu za sustavnom podrškom, dodatnim edukacijama i razvojem jasnih smjernica. Iako 94% učitelja i nastavnika te gotovo 60% učenika koristi alate UI, značajan dio još nije siguran kako ti sustavi funkcioniraju. I učitelji i učenici osjećaju nesigurnost prilikom korištenja jer nemaju iskustva i jasnih primjera u korištenju alata u nastavi, pri čemu čak 95% učitelja i 80,6% učenika prepoznaje mogućnost netočnih ili pristranih informacija te više od 70% smatra provjeru podataka nužnom.

Istraživanja ukazuju na nedovoljnu informiranost građana o UI, nedostatku znanja o primjeni UI, kao i negativnim posljedicama upotrebe ovakvih sustava. Problem je kašnjenje s informiranjem javnosti i edukacijom o ovoj temi. Naime, građane je potrebno široko informirati i upoznati s osnovama UI, regulatornim okvirom, prednostima te nedostacima, uključujući i rizicima za ljudska prava i diskriminaciju pa i mogućih negativnih posljedica po njih, i to prije početka korištenja alata umjetne inteligencije. Stoga preporučamo da se provede sveobuhvatna nacionalna kampanja radi podizanja svijesti javnosti o primjeni UI, regulatornom okviru, prednostima te nedostacima, uključujući i rizike za ljudska prava i diskriminaciju.

Edukacija

Vezano za uvođenje umjetne inteligencije u obrazovni sustav, u javnosti se navodi da se u hrvatskim školama trenutačno provodi kurikul o umjetnoj inteligenciji u 147 osnovnih i 93 srednje škole, pri čemu je program zasad organiziran kao izvannastavna aktivnost za učenike 5. do 8. razreda te kao fakultativni predmet za učenike 2. i 3. razreda srednjih škola. Pri tome se najavljuje se da će se u školskoj godini 2026./2027. kurikul “Umjetna inteligencija: od koncepta do primjene” provoditi u svim razredima srednjih škola diljem Hrvatske.

Kao pozitivni primjer edukacija o UI u 2025. godini ističemo one koje je provodila DŠJU za državne službenike, a održano je 14 radionica s 307 polaznika. Državnim službenicima u RH omogućeno je i besplatno pohađanje e-tečaja pod nazivom „UI i digitalna transformacija u javnoj upravi“ koji su pokrenuli UNESCO i Poslovna škola Saïd Sveučilišta u Oxfordu.

Pokrenut je i program besplatnih edukacija od strane Hrvatskog telekoma o UI pod nazivom „AI ti to možeš“, na hrvatskom jeziku, koji se sastoji od 12 kratkih informativno-edukativnih videa, a održane su i edukacije “AI se educiraj” namijenjene nastavnicima, profesorima i drugim osobama za primjenu UI u obrazovanju.

O prepoznavanju potrebe za odgovornom uporabom alata UI u učenju i poučavanju od strane visokih učilišta, kao i potrebu za razvojem znanja, već smo pisali u Izvješću za 2024. godinu. U 2025. Fakultet elektrotehnike i računarstva (FER), Farmaceutsko-biokemijski fakultet Sveučilišta u Zagrebu i Sveučilište Algebra Bernays, donijeli su Politiku primjerenog korištenja UI, a početkom 2026. godine FER je donio i Vodič za studente: Kako (ne) koristiti UI.

U svijetu ubrzanog razvoja tehnologije i društvenih promjena FER je prepoznao potrebu za novim kompetencijama u području elektrotehnike i računarstva, a kroz program cjeloživotnog učenja provodi edukacije prilagođene različitim razinama predznanja, trajanja i dostupnosti. Fakultet informatike u Puli je prepoznao i potrebu za obrazovanjem budućih nastavnika informatike, ne samo o etičkom korištenju alata UI, nego i kao asistativnoj tehnologiji za učenike s teškoćama. Također, razvijaju i vlastite sustave koji studentima omogućuju dubinsko razumijevanje tehnologije te kao praktična rješenja za stvarne probleme u obrazovanju i industriji. Na Pomorskom i Tehničkom fakultetu u Rijeci izrađeno je prvo autonomno plovilo koje može služiti za mapiranje podmorja, otkrivanje zagađenja, ali i pomorskih prekršaja. Pravni fakultet u Zagrebu provodi projekt Algoritamska pravednost za tražitelje azila i izbjeglice (Algorithmic Fairness for Asylum Seekers and Refugees – AFAR), koji ima za cilj dati doprinos razumijevanju i institucionalizaciji ‘pravednosti’ u upravljanju migracijama i azilom.

Primjena UI u državnom i javnom sektoru i zakonodavni okvir

Primjena UI je sve prisutnija u državnim i lokalnim tijelima. Uvedena je automatizirana anonimizacija sudskih odluka (sustav ANON), pri čemu, kako je izvijestilo MPUDT, u 5% slučajeva dolazi do grešaka te potreba za naknadnim ispravcima. Ljudski nadzor je osiguran kod anonimizacije odluka drugostupanjskih sudova. Također, unaprjeđen je sustav za upravljanje sudskim predmetima (e-Spis), koristi se i nacionalna jezična platforma (HRVOJKA), jedinstveni kontakt centar za građane (JKC) te virtualni asistent za zemljišne knjige i katastar (ZIS OSS).

„Nakon promjena, iz posjedovnog lista br. … brisane su čestice u k.o. … te su unesene u novoformirane BZP čestice … koje sada sadrže velik broj osoba upisanih u dalekoj prošlosti, što u stvarnosti proizvodi rezultate koji nalikuju “administrativnim halucinacijama” odnosno u AI terminologiji “halucinacijama umjetne inteligencije”– tj. podacima koji ne odražavaju realno stanje posjeda“

ZIS koristi UI i za vođenje i održavanje baze podatka zemljišnih knjiga i katastra. Međutim, unatoč namjeri da se automatski usklade baze podataka s ciljem osiguravanja njihove preglednosti i točnosti, pojedini građani izbrisani su iz evidencije dosadašnjih posjednika, posebice u ruralnim područjima. S tim u svezi, zaprimili smo pritužbu građanina na netransparentan rad automatskog sustava, kojemu su izbrisane čestice iz posjedovnog lista nakon smrti oca. Ispitni postupak po ovoj pritužbi je u tijeku.

S obzirom na najavljeni projekt „Predvidive sudske odluke“ u kojemu će građani unošenjem ključnih riječi i činjenica moći dobiti odgovor o mogućoj uspješnosti u sporu s ciljem smanjenja broja novih predmeta na sudovima, u eSavjetovanju na Nacrt Akcijskog plana provedbe Nacionalnog plana razvoja pravosudnog sustava za razdoblje od 2022. do 2027. godine, ukazali smo na nužnost edukacije pravosudnih dužnosnika i službenika o rizicima primjene UI u pravosuđu. Prijedlog je primljen na znanje te će Pravosudna akademija doraditi mjeru i uvrstiti edukacije o ovoj temi. Probacijski sustav također uvodi UI u svoj rad te se najavljuje da će uz pomoć virtualne stvarnosti (VR) osuđenici vježbati rješavanje problema i snalaženje u određenim životnim situacijama.

Najavljeno je uvođenje UI u energetiku. MPUGDI koristi rješenje eProstorna inspekcija za detektiranje promjena u prostoru koristeći satelitske snimke za nadzor bespravne gradnje, a Hrvatsko ratno zrakoplovstvo ima na raspolaganju besposadni zrakoplovni sustav Bayraktar za borbeno djelovanje, koji se može koristiti i za civilne aktivnosti, od nadzora granice i obalnog pojasa do detektiranja požara i nestalih.

Digitalni asistenti koji pružaju podršku građanima uz pomoć UI (chatbotovi), osim u pravosuđu, razvijeni su i na portalu eGrađani, ali i u diplomaciji. U zdravstvu, HZZO je razvio alat radi lakšeg pristupa informacijama osiguranim osobama o obveznom i dopunskom zdravstvenom osiguranju (HANA), za ginekološku pismenost razvijen je asistent GINA Hrvatskog zavoda za javno zdravstvo (HZJZ). Početkom 2026. godine predstavljen je i asistent ZdrAVKO namijenjen unaprjeđenju zdravstvene pismenosti građana.

U gradovima se UI asistenti trenutno najčešće koriste u administrativnim poslovima, komunalnim uslugama ili pružanju turističkih informacija. UI se koristi i u sustavima pametnog parkiranja i upravljanja semaforima, za predviđanje potrošnje električne energije u javnim zgradama te optimizaciju sustava javne rasvjete. Udruga gradova ukazuje na visok stupanj interesa za upotrebu UI u javnoj upravi, ali i na manjak informatičkih stručnjaka te osnovne digitalne infrastrukture. Također, obzirom na tehnološke promjene, primjećuju i prepreke u komunikaciji s građanima koji nisu dovoljno informatički pismeni te digitalnu isključenost starije populacije.

Sindikati su ukazali na sve veću upotrebu UI od strane privatnih poslodavca u nadzoru radnika, kod dodjeljivanja zadataka te vrednovanja učinka. Problem je što kompanije uglavnom ne razvijaju vlastite sustave UI, već ih nabavljaju od trećih strana te pritom prikupljaju velike količine podataka. Istovremeno, nemaju ni strateškog okvira za upravljanje UI, ne raspolažu adekvatnom pismenošću o UI te stoga ne znaju kako alati funkcioniraju ili donose odluke, iako iste imaju direktan utjecaj na radne uvjete zaposlenika.

GONG je upozorio na korištenje deepfake sadržaja generiranog UI na lokalnim izborima 2025. godine te da njihova upotreba otvara prostor za manipulaciju birača i širenje dezinformacija, ugrožavajući integritet izbornih procesa.

Nakon što su krajem 2024. godine stupile na snagu izmjene Zakona o sigurnosti prometa na cestama kojim se, između ostaloga, uređuje uvođenje tzv. autonomnih vozila u promet, izvršen je terenski pregled 60 prototipova kao preduvjet za izdavanje potvrde o usklađenosti, dok je proizvodni pogon u završnoj fazi izgradnje. U tijeku je izrada prijedloga sporazuma s Gradom Zagrebom i operaterom javnog prijevoza o izdavanju 50.000 besplatnih vaučera za vožnju osobama s invaliditetom na području Grada Zagreba. FER je u završnoj fazi izrade sustava koji će pouzdano moći prepoznati ljudske radnje u otkrivanju kriznih situacija, kao važna pomoćna funkcionalnost autonomnih vozila.

U 2025. godini donesene su izmjene Kaznenog zakona, kojim je RH prva u EU uvela novo kazneno djelo „Dovođenje u opasnost života i imovine sustavom UI“. U slučaju kada sustav UI prouzroči konkretnu opasnost za život, tijelo ljudi ili imovinu većeg opsega, kazneno će odgovarati osoba koja razvija, testira ili upravlja sustavima, bilo zlonamjerno ili iz nehaja. To je izazvalo raspravu u stručnoj javnosti, pri čemu se ukazuje da je norma vrlo široka i nedovoljno precizna te je pitanje u odnosu na koga sve i kako će se utvrđivati krivnja za ovo djelo, a pitanje je i koliko pravosudni sustav trenutno raspolaže adekvatnim znanjima o funkcioniranju UI sustava za provođenje postupaka glede ovog kaznenog djela.

Unatoč različitim navedenim inicijativama, i dalje se kasni s izradom potrebnog zakona o UI i strateških dokumenata, budući da je Uredba (EU) 2024/1689 Europskog parlamenta i Vijeća od 13. lipnja 2024. o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Uredba o UI) stupila na snagu u kolovozu 2024. godine (pri čemu je njena provedba planirana po fazama), a rok za implementaciju istekao je u svibnju 2025. godine. Iako je Zakon o provedbi Uredbe o UI bio planiran za upućivanje u proceduru Vlade RH do kraja prvog tromjesečja 2025. godine, rok je prolongiran na I. tromjesečje 2026. godine. Sastanak Radne skupine za izradu Zakona, u kojoj sudjeluje i institucija pučke pravobraniteljice, ujedno i kao jedno od tijela za zaštitu ljudskih prava iz čl. 77. Uredbe o UI, održan je u travnju 2025. godine, no nakon toga više nije bilo novih sastanaka.

U međuvremenu je Europska komisija (EK) predložila Europskom parlamentu i Vijeću EU tzv. Digital Omnibus, u kojem predlaže pojednostavljenje obveza, između ostalog i iz Uredbe o UI, iako Uredba još nije u potpunosti primjenjiva. Dodatno zabrinjava što je postupak pokrenut bez procjene učinaka i javnih konzultacija, a usvajanje Omnibusa očekuje se do polovice 2026. godine. U pogledu odgovornosti i zaštite ljudskih prava zabrinjava prijedlog izmjene vezane uz obvezu registracije i izvještavanja o samoprocjeni visokorizičnih sustava, što utječe na transparentnost u upravljanju UI, kao i odgoda primjene glede visokorizičnih sustava, koja je prvotno određena za kolovoz 2026. godine. Zabrinutost izaziva prijedlog smanjenja ovlasti tijela za zaštitu ljudskih prava iz čl. 77. Uredbe. Dodatno zabrinjava i činjenica da Komisija još nije objavila tehničke standarde s ciljem lakšeg usklađivanja s obvezama iz Uredbe za visokorizične sustave te je u veljači 2025. godine povukla prijedlog Direktive o odgovornosti za UI kojim je građanima trebala olakšati pristup pravosuđu ukoliko su pretrpjeli štetu.

Prema Uredbi o UI, države članice bile su u obvezi do 2. kolovoza 2025. godine imenovati tijelo za nadzor tržišta i o tome obavijestiti EK, što veliki broj država članica, uključujući i RH, nisu izvršile, iako bi kašnjenje moglo pokrenuti postupak povrede prava EU. Također, trebalo je definirati i suradnju između tijela za nadzor tržišta i tijela za zaštitu ljudskih prava, što RH također nije uradila. Navedeni propust stvara nesigurnost na tržištu, jer se može pogrešno shvatiti da pojedina pravila još nisu obvezujuća, primjerice, obveza o informiranom uvođenju UI te osiguranju dostatne razine pismenosti u području UI svih koji razvijaju, uvode ili koriste sustave UI, kao i rizicima te šteti koju ona može izazvati, iako je obveza u primjeni od veljače 2025. godine.

Sud pravde EU (CJEU) je u veljači 2025. godine donio još jednu presudu u vezi automatiziranog donošenja odluka, naglašavajući da osoba ima pravo na objašnjenje kako je odluka donijeta i koji su osobni podaci korišteni, dok samo priopćavanje algoritma ne predstavlja dovoljno sažeto i razumljivo objašnjenje.

Nakon što je VE u svibnju 2024. godine usvojilo Okvirnu konvenciju o UI, ljudskim pravima, demokraciji i vladavini prava, prvi pravno obvezujući međunarodni instrument o UI, do kraja 2025. godine potpisale su je 42 države članice. Budući da Konvencija promovira inovacije te nadopunjuje postojeće međunarodne standarde o ljudskim pravima, demokraciji i vladavini prava, kao i pravne praznine koje mogu proizaći iz brzog tehnološkog napretka, a na razini EU se trenutno razmatraju izmjene Uredbe o UI koje bi mogle degradirati zaštitu ljudskih prava građana, ponovno preporučamo da RH ratificira Okvirnu konvenciju VE.

Primjećujući brzi napredak UI u upravljanju migracijama, Parlamentarna skupština VE donijela je Rezoluciju 2628 (2025) „UI i migracije“ ističući njezin potencijal za poboljšanje učinkovitosti i dostupnosti usluga za migrante, izbjeglice i tražitelje azila, kao što su nadzor granica, obrada viza, biometrijska identifikacija i podrška integraciji. Skupština naglašava i važnost zaštite temeljnih prava, potičući države članice da usklade razvoj UI s etičkim standardima i zaštitom ljudskih prava, izbjegavajući diskriminirajuće ili aplikacije koje krše privatnost. Poziva na transparentnost i uključivanje ljudskog nadzora u donošenje odluka u migracijskim procesima te preporuča Odboru ministara da potiče države na potpisivanje, ratifikaciju i provedbu Okvirne konvencije o UI, uz osiguravanje provedivih zaštitnih mjera, uključujući i  razvoj kodeksa dobre prakse o korištenju UI u upravljanju migracijama.

Obzirom na rizike ovakvih sustava za ljudska prava i pravo na jednakost, a uzimajući u obzir da je i Entry/Exit sustav (EES) za digitalnu registraciju podataka o ulasku i izlasku državljana trećih zemalja, koji prikuplja biometrijske podatke (otiske prstiju i sliku lica), u primjeni od sredine listopada 2025. godine, potrebno je osigurati transparentnost i kontrolu načina njihovog rada te upoznati javnost s njihovim korištenjem. Stoga ponovno ističemo da je objava te pojašnjenje načina rada sustava UI koji koristi javna uprava od izuzetne važnosti.

Nastavno na višegodišnje preporuke pučke pravobraniteljice vezano za izradu Nacionalnog plana za razvoj umjetne inteligencije, pozitivno je da je 2025. godine započela s radom Radna skupina za izradu nacrta prijedloga Nacionalnog plana za razvoj UI u RH 2026. do 2032. godine i Akcijskog plana za razvoj UI, čiji smo članovi. U rad stručne radne skupine uključeno je 128 članova iz 55 institucija, međutim, ne i organizacije civilnog društva za zaštitu digitalnih prava, već udruge iz poslovnog sektora.

Sudjelujući u radnoj skupini zalagali smo se, između ostaloga, za izradu smjernica za upotrebu visokorizičnih sustava UI, uključujući i onih za procjenu učinaka na ljudska prava i diskriminaciju u skladu s nacionalnim zakonodavstvom, kao i za osiguravanje zaštitnih mjera i pravnih lijekova te ljudskog nadzora nad radom sustava u sektorima poput rada i zapošljavanja, obrazovanja, zdravstva, pravosuđa, osiguranja, financija, ali i sigurnosti i obrane. Zalagali smo se i za uspostavu i javnu objavu registra sustava UI, koji bi se kontinuirano ažurirao, te transparentno objavljivanje izvješća o radu i funkcioniranju sustava UI, koji će dokumentirati odstupanja i pristranosti te procjene algoritma na ljudska prava. Isticali smo da je potrebno osigurati neovisnu stručnu evaluaciju sustava, angažiranjem društvenih i tehničkih stručnjaka za provedbu procjene pristranosti, nepristran nadzor trećih strana sa specijaliziranim znanjem u području etike UI i analize sistemskih rizika te, ovisno o namjeni sustava, aktivno uključivanje građana i organizacija civilnog društva.

Povezane teme u Izvješću pučke pravobraniteljice za 2025. godinu:

Pravo na zdravlje, Pravosuđe, Mladi, Pravo na obrazovanje i diskriminacija temeljem obrazovanja i Pravo na rad.

Cijelo Izvješće pučke pravobraniteljice za 2025. godinu možete otvoriti u PDF formatu ili u interaktivnoj verziji.