U organizaciji studenata Pravnog fakulteta Sveučilišta u Zagrebu, 15. siječnja 2026. održala se konferencija „Law & Tech“, s ciljem povezivanja stručnjaka u području prava i IT-ja te naglaskom na utjecaj suvremenih tehnologija poput sustava umjetne inteligencije na građane, njihova prava, slobode i jednakost, ali i cjelokupan društveni razvoj.
Na konferenciji je sudjelovala i pučka pravobraniteljica Tena Šimonović Einwalter, kao jedna od panelistica u raspravi posvećenoj Uredbi EU-a o umjetnoj inteligenciji i donošenju nacionalnog zakona o njezinoj provedbi. Uz pravobraniteljicu, u raspravi su sudjelovali i zamjenica voditeljice Predstavništva Europske komisije u Hrvatskoj Andrea Čović Vidović i odvjetnik Stefan Martinić, uz moderiranje odvjetnice Natalije Perić.
Pučka pravobraniteljica ukazala je na važnost postojanja legislative u području korištenja sustava umjetne inteligencije, kako na europskoj, tako i na nacionalnoj razini, naglasivši kako je upravo detaljna regulacija ključna u zaštiti prava građana od negativnih utjecaja umjetne inteligencije.
Osvrnuvši se na korištenje sustava umjetne inteligencije u Hrvatskoj, istaknula je i neke primjere iz postupanja institucije u kojima je postojala sumnja ili su utvrđene povrede prava, a do kojih je došlo korištenjem UI. Primjerice, kada je jedna kompanija s ciljem povećanja radne učinkovitosti od zaposlenika zahtijevala instaliranje određene aplikacije na mobitele kako bi ih mogla pratiti ili probleme vezane za automatsku sinkronizaciju podataka iz katastra i zemljišnih knjiga u sustav Baze zemljišnih podataka.
Pravobraniteljica je naglasila da se sustavi UI u Hrvatskoj koriste i u privatnom i u javnom sektoru, no problem predstavlja činjenica da njihovo korištenje još uvijek nije dovoljno transparentno, odnosno ne postoje javno dostupni podaci u kojim se slučajevima takvi sustavi koriste u javnom sektoru. Ukazala je i na preporuku o nužnosti postojanja javnog registra o njihovom korištenju, što je propisano i Uredbom o umjetnoj inteligenciji, i to ne nužno samo za visokorizične sustave.
Govoreći o drugim izazovima u ovom području, pravobraniteljica je istaknula i nužnost usklađivanja samih definicija unutar zakonskog okvira, kao i da je za njegovo uspješno donošenje i učinkovito provođenje uz razumijevanje nacionalnog i europskog prava, potrebno i razumijevanje same tehnološke pozadine UI sustava.
Ukazala je i na neke rizike u području zaštite ljudskih prava i diskriminacije građana uslijed korištenja UI sustava. Oni se ne odnose samo na zaštitu prava na privatnost i zaštitu osobnih podataka, već se mogu odnositi na sva ljudska prava, od suzbijanja diskriminacije, prava na zdravlje, prava na obrazovanje, prava na život i sl.
U području suzbijanja diskriminacije već sada postoje slučajevi u kojima su pravno utvrđene povrede zbog korištenja ovih sustava u drugim zemljama. Primjerice, kod zapošljavanja, sustava za prepoznavanje lica, pružanja bankarskih usluga, predviđanja zlouporaba korištenja socijalnih naknada, korištenja bolovanja i sl.
Pravobraniteljica se na kraju osvrnula i na preporuke vezano za korištenje UI sustava, prije svega, nužnost transparentnog korištenja, odnosno potrebe da se jasno zna gdje, kada i na koji način se oni koriste, ljudski nadzor, dodatno osiguravanje pravne zaštite, kao i informiranje onih čija su prava povrijeđena jer mnogi od njih toga uopće nisu ni svjesni. Pritom, ključno je i obrazovanje djece i mladih o takvim sustavima i rizicima njihovog korištenja, i to od najranije dobi, kao i stručna i profesionalna edukacija.
U sklopu konferencije održano je i uvodno predavanje o viziji korištenja sustava umjetne inteligencije i budućnosti društva, uz rasprave o novom kaznenom djelu povezanom uz sustave umjetne inteligencije te analizi digitalnih dokaza i aplikaciji SKY, kao i prezentacija “AI vs. Student”.
Inače, o temi umjetne inteligencije u Hrvatskoj se na svim razinama vlasti, pa tako i donositelja odluka, još uvijek ne govori dovoljno ozbiljno, niti se u potrebnoj mjeri dubinski razmatra njezin utjecaj na cjelokupno društvo, a time i ljudska prava, slobode i jednakost građana.
Stoga je s ciljem zaštite prava građana ključno ojačati potrebne kapacitete kako bi država bila sposobna pratiti tehnološki razvoj u ovom području i odgovoriti na sve izazove korištenja umjetne tehnologije u svakodnevnom životu, prije svega od strane privatnog sektora.
