{"id":11779,"date":"2021-05-04T09:41:46","date_gmt":"2021-05-04T07:41:46","guid":{"rendered":"https:\/\/www.ombudsman.hr\/hr\/?p=11779"},"modified":"2021-05-21T09:50:11","modified_gmt":"2021-05-21T07:50:11","slug":"o-jednakosti-treba-razmisljati-vec-kod-kreiranja-sustava-umjetne-inteligencije","status":"publish","type":"post","link":"https:\/\/www.ombudsman.hr\/hr\/o-jednakosti-treba-razmisljati-vec-kod-kreiranja-sustava-umjetne-inteligencije\/","title":{"rendered":"O jednakosti treba razmi\u0161ljati ve\u0107 kod kreiranja sustava umjetne inteligencije"},"content":{"rendered":"

Pravni i prakti\u010dni izazovi kori\u0161tenja umjetne inteligencije (UI) u svakodnevnom \u017eivotu i utjecaj na po\u0161tivanje jednakosti bili su tema radionice u organizaciji Europske mre\u017ee tijela za suzbijanje diskriminacije (Equinet), odr\u017eane u dva dijela, 22. i 30. travnja 2021.<\/em><\/p>\n

Zbog sve ve\u0107eg kori\u0161tenja sustava UI-a u mnogim je dr\u017eavama potrebno oja\u010dati suradnju tijela za jednakost, znanstvenika i tehnolo\u0161kih organizacija koje ih dizajniraju. Upravo stvaranjem takvih multidisciplinarnih timova moglo bi se na vrijeme uo\u010diti i ispraviti potencijalne probleme, kako s tehnolo\u0161ke strane, tako i iz aspekta za\u0161tite ljudskih prava i suzbijanja diskriminacije, \u010dime bi se doprinijelo i izbjegavanju negativnih posljedica na prava pojedinaca i razli\u010ditih dru\u0161tvenih skupina uslijed njihovog kori\u0161tenja.<\/p>\n

Potrebna je suradnja stru\u010dnjaka razli\u010ditih profila <\/strong><\/p>\n

Velika odgovornost je i na nadle\u017enim tijelima za nadzor sustava UI-a koje \u0107e dr\u017eave \u010dlanice morati osnovati za implementaciju i provedbu nove regulative. Ukoliko u njima ne budu postojali stru\u010dnjaci koji \u0107e mo\u0107i nadzirati i kontrolirati takve sustave, za\u0161tita gra\u0111ana ne\u0107e biti odgovaraju\u0107a, a u tom \u0107e slu\u010daju veliku ulogu imati i tijela za jednakost, \u010dija je uloga suzbijanje diskriminacije i promicanje jednakosti.<\/p>\n

Me\u0111utim, kako mnogi gra\u0111ani jo\u0161 uop\u0107e nisu svjesni njihove zastupljenosti u svakodnevnim \u017eivotima, nedostaju i konkretne pritu\u017ebe kojima bi se u\u010dinkovitije mogli identificirati stvarni problemi. Potrebne su i procjene utjecaja tih sustava na ljudska prava, a prilikom njihovog kori\u0161tenja, uz transparentnost je nu\u017eno i po\u0161tivanje svih eti\u010dkih na\u010dela i vrijednosti, kao i definiranje jasne odgovornosti za potencijalne gre\u0161ke i osiguravanje u\u010dinkovitih za\u0161titnih sredstava.<\/p>\n

Mo\u017ee li UI razumjeti nejednakost?<\/strong><\/p>\n

Jedan od najve\u0107ih izazova kreiranja u\u010dinkovitih sustava UI-a u ovom kontekstu je odlu\u010divanje na temelju apstraktnih algoritama, odnosno \u010dinjenica da umjetnoj inteligenciji kod dono\u0161enja odluka nedostaje zdrav razum kao i osje\u0107aj ili uvjerenje da odluka mo\u017ee dovesti do nejednakosti. Mogu\u0107e rje\u0161enje tog problema le\u017ei u njihovoj kontekstualizaciji, odnosno kori\u0161tenju raznih alata prilikom testiranja podataka koji mogu biti pristrani, pri \u010demu bi metode i rezultati morali biti javno objavljeni.<\/p>\n

Primjer iz Finske<\/strong><\/p>\n

U sklopu radionice predstavljeni su primjeri konkretnih slu\u010dajeva u kojima je kori\u0161tenje sustava UI-a dovelo do nejednakosti gra\u0111ana. Primjerice, u Finskoj je u bankarskom sektoru utvr\u0111ena izravna vi\u0161estruka diskriminacija jer je kreditna institucija kod odobravanja kredita koristila automatski model bodovanja uzimaju\u0107i u obzir spol, jezik, dob i mjesto prebivali\u0161ta kao bitne faktore za dono\u0161enje automatske odluke. Sud je utvrdio kako spol i jezik nije prihvatljivo koristiti kao podatke koji \u0107e utjecati na dono\u0161enje odluke, dok dob i mjesto prebivali\u0161ta imaju ograni\u010denu primjenu pa \u0107e se nu\u017enost kori\u0161tenja tih podataka ubudu\u0107e procjenjivati u svakom pojedinom slu\u010daju.<\/p>\n

Vode\u0107i stru\u010dnjaci za UI i jednakost<\/strong><\/p>\n

Jedan od panela, na kojem je predstavljen prijedlog novog europskog regulatornog okvira Europske komisije, uz usporedbu s onim na razini Vije\u0107a Europe, moderirala je i pu\u010dka pravobraniteljica Tena \u0160imonovi\u0107 Einwalter, predsjedavaju\u0107a Equineta i predstavnica Europske komisije protiv rasizma i netolerancije (ECRI) u Ad-hoc odboru za umjetnu inteligenciju (CAHAI) Vije\u0107a Europe. Ina\u010de, radionica je okupila i trenutno vode\u0107a imena u podru\u010dju UI-a i jednakosti, poput Raja Chatila s pari\u0161ke Sorbonne, Sandre Wachter sa Sveu\u010dili\u0161ta Oxford, Janneke Gerards sa Sveu\u010dili\u0161ta u Utrechtu, Rapha\u00eble Xenidis sa Sveu\u010dili\u0161ta u Edinburghu i Copenhagenu, druge stru\u010dnjake poput Robina Allena te predstavnika Europske komisije Eike Gr\u00e4f.<\/p>\n","protected":false},"excerpt":{"rendered":"

Pravni i prakti\u010dni izazovi kori\u0161tenja umjetne inteligencije (UI) u svakodnevnom \u017eivotu i utjecaj na po\u0161tivanje jednakosti bili su tema radionice u organizaciji Europske mre\u017ee tijela za suzbijanje diskriminacije (Equinet), odr\u017eane u dva dijela, 22. i 30. travnja 2021. Zbog sve ve\u0107eg kori\u0161tenja sustava UI-a u mnogim je dr\u017eavama potrebno oja\u010dati suradnju tijela za jednakost, znanstvenika […]<\/p>\n","protected":false},"author":9,"featured_media":11780,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2090],"tags":[296,629,1959],"class_list":["post-11779","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-novosti","tag-equinet","tag-suzbijanje-diskriminacije","tag-umjetna-inteligencija"],"_links":{"self":[{"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/posts\/11779","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/comments?post=11779"}],"version-history":[{"count":2,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/posts\/11779\/revisions"}],"predecessor-version":[{"id":11782,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/posts\/11779\/revisions\/11782"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/media\/11780"}],"wp:attachment":[{"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/media?parent=11779"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/categories?post=11779"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ombudsman.hr\/hr\/wp-json\/wp\/v2\/tags?post=11779"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}