Vprašalnik o stališčih na EU uredbo o umetni inteligenci   
Vprašalnik  

		
Kratko ime ankete:	AIA	
		
Število vprašanj:	72	
		
Število spremenljivk:	61	
		
Status:	Aktivna od: 02.03.2023 Aktivna do: 02.06.2023	
		
Avtor:	Nadja Kamenšek, 15.02.2023	
		
Spreminjal:	Nadja Kamenšek, 21.03.2023	

Pozdravljeni!   

Evropska komisija je 21. 4. 2021 objavila predlog Uredbe Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci (Akt o umetni inteligenci) in spremembi nekaterih zakonodajnih aktov unije COM(2021) 206. Republika Slovenija je na predlog akta v skladu z Nacionalnim programom spodbujanja razvoja in uporabe umetne inteligence v RS do 2025 (NpUI) podala svoje generalno stališče, ki je bilo osnova za usklajevanje predloga uredbe na Svetu za promet, telekomunikacije in energijo (PTE).  

Glede na spremembe prvotnega predloga Evropske komisije, se je Slovenija odločila preveriti svoja dosedanja stališča in jih po potrebi prenoviti, čemur so namenjena stališča v tem posvetovalnem vprašalniku. Stališča so preliminarna, z odgovori boste pa pomagali sooblikovati stališče Slovenije glede pravil o umetni inteligenci. 

Prosimo, da si vzamete 20-30 min časa za vrednotenje napisanih stališč. Vaši odgovori so anonimni.  

Za vaš čas se vam že v naprej iskreno zahvaljujemo.  

Relevantni dokumenti: 
1. Predlog Uredbe o umetni inteligenci - predlog Evropske komisije (COM(2021) 206 final) (tekst uredbe, priloge) 
2. Stališče Slovenije z dne 10. 9. 2021 
3. Predlog Uredbe o umetni inteligenci - splošen pristop z dne 6.12.2022 
4. Nacionalni program spodbujanja razvoja in uporabe umetne inteligence v Republiki Sloveniji do leta 2025                                                                                                                                             

Q61 - Na vprašalnik odgovarjam v:  
 svojem imenu 
 imenu organizacije 

IF (1) Q61 = [2]
Q60 - Vaša organizacija: 
__________________ 
 
IF (2) Q61 = [2]
Q50 - Tip organizacije: 
 Raziskovalno razvojna organizacija - področje UI 
 Raziskovalno razvojna organizacija  - druga področja  
 Industrija - razvoj UI rešitev 
 Industrija - uporaba UI rešitev 
 Industrija - druga področja 
 Izobraževalna ustanova  
 Javni sektor 
 Javni sektor - državna uprava  
 Javni sektor - lokalna samouprava 
 Drugo: 

Q62 - Kako bi najbolje opredelili vašo osebno dejavnost v povezavi z umetno inteligenco?  
 raziskovanje umetne inteligence ali z njo povezane problematike 
 razvoj rešitev umetne inteligence 
 uporaba umetne inteligence za razvoj drugih proizvodov ali storitev 
 uporaba umetne inteligence za lastno poslovanje 
 regulacija umetne inteligence 

 načrtovanje uvajanja umetne inteligence 
 ne ukvarjam se z umetno inteligenco 
 predstavnik ali predstavnica javne uprave 
 Drugo: 

IF (4) Q62 = [2, 3, 4]
Q64 - Označite področja, s katerimi se ukvarjate:  
 Možnih je več odgovorov 
 Biometrija 
 Kritična infrastruktura 
 Izobraževanje in poklicno usposabljanje 
 Zaposlovanje, upravljanje delavcev in dostop do samozaposlitve 

 Uživanje bistvenih zasebnih in javnih storitev in ugodnosti ter dostop do njih 

 Preprečevanje, odkrivanje in preiskovanje kaznivih dejanj 

 Upravljanje migracij, azila in nadzora meje 
 Pravosodje in demokratični procesi 
 Drugo: 

Q1 - Usklajeni mednarodni pristop 

Slovenija se na podlagi pristopa do umetne inteligence (UI) v nacionalnem programu za umetno inteligenco (NpUI) vključuje  v vse najpomembnejše mednarodne aktivnosti in tako sodeluje na vseh ravneh načrtovanja in izvajanja politik na ravni EU[1], ter na mednarodni ravni v organizacijah, kot so OECD (delovna skupina AIGO[2]), Svet Evrope (Odbor za UI – CAI[3]), Globalno partnerstvo za umetno inteligenco (GPAI[4]), UNESCO (IRCAI[5]), Urad visokega komisarja za človekove pravice in drugih relevantnih iniciativah.  

Slovenija se v skladu z vizijo NpUI pri vseh aktivnostih zavzema za raziskave, razvoj in uporabo vrhunskih, etičnih in varnih tehnologij s področja UI ter njihov prenos v človeku prijazne in zaupanja vredne storitve in proizvode skladne s človekovimi pravicami in temeljnimi svoboščinami, na človeka osredotočen način in v njegovo dobro. 

Glede na zelo raznovrstne aktivnosti, ki jih izvajajo omenjene organizacije, se Slovenija na mednarodni ravni zavzema za čim večje mednarodno sodelovanje ter poenotenje razumevanja, pristopov ter načrtovanja in izvajanja politik na področju UI, ki bi zagotovili bodoči razvoj in uporabo UI v družbi, skladno s prej omenjenimi izhodišči.   

 https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence  
 https://oecd.ai/en/network-of-experts 
 https://www.coe.int/en/web/artificial-intelligence/cai 
 https://gpai.ai/ 
 https://ircai.org/  
_____________________________________________________________________
Q2 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.   
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q3 - Vaš komentar: 
____________________________ 

Q4 - Sistemsko urejanje - obseg regulacije 

Slovenija podpira predlog zakonske ureditve razvoja in uporabe UI, ki prinaša sistemski način ureditve različnih vplivov, učinkov in izzivov, ki jih uvajanje umetne inteligence prinaša v družbo. 

Slovenija ne podpira ločenega urejanja problematike za različna vsebinska ali sektorska področja (npr. javna varnost, dvojna uporaba v civilne in vojaške namene, sektorsko urejanje), temveč podpira in želi enotno krovno ureditev, ki bi zagotovila dejansko preglednost in predvidljivost razvoja in uporabe UI za vse deležnike v EU, s tem pa pospešila zagotovitev prepotrebnega zaupanja javnosti v UI.     
_____________________________________________________________________
Q5 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q36 - Vaš komentar: 
____________________________ 

Q28 - Sistemsko urejanje  - obseg regulacije  

Republika Slovenija se strinja s potrebo po doseganju opredeljenih štirih specifičnih ciljev, ki jih v tem smislu zasleduje Akt o umetni inteligenci (Akt o UI): 

•	 zagotoviti, da so sistemi UI varni za uporabo in skladni z zakonodajo o človekovih pravicah in temeljnih svoboščinah ter vrednotami EU; 

•	 zagotoviti pravno varnost za olajšanje naložb in inovacij na področju UI; 

•	 izboljšati upravljanje in učinkovito izvrševanje zakonodaje o človekovih pravicah in temeljnih svoboščinah ter varnostnih zahtevah proizvodov in storitev, ki temeljijo ali vključujejo UI; 

•	 olajšati razvoj enotnega trga za uporabo zakonite, varne in zaupanja vredne UI, ter preprečiti razdrobljenost trga. 

_____________________________________________________________________
Q34 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q35 - Vaš komentar: 
____________________________ 

Q30 - Sistemsko urejanje - obseg regulacije 

Slovenija podpira usmeritev, da se iz Akta o UI izključi področje nacionalne varnosti in vojaška raba, vendar se v skladu z NpUI tudi na teh področjih zavzema za ustrezno upoštevanje etičnih načel in človekovih pravic. Ob tem se Slovenija zavzema za čim bolj jasno pravno razmejitev med civilno in vojaško uporabo sistemov UI ter se zavzema za to, da se vsi sistemi UI, ki omogočajo dvojno rabo, obravnavajo skladno z Aktom o UI.  
_____________________________________________________________________
Q29 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q6 - Vaš komentar: 
____________________________ 

Q7 - Urejanje na podlagi tveganja uporabe za človekove pravice in varnost 

Slovenija podpira urejanje UI, ki temelji na tveganju in ne regulira vseh različnih sistemov UI na različnih področjih uporabe enako. Ob tem se zavzema za pristop, s katerim se ne regulira same tehnologije, temveč njeno uporabo v različnih kontekstih. V ta namen se jasno in transparentno opredeli hierarhijo različnih segmentov uporabe glede na potencialna tveganja ter za različne segmente opredeli ustrezne zahteve regulacije. 

S tega vidika Slovenija opozarja in se zavzema za čim bolj jasno opredelitev kriterijev po katerih se ocenjuje stopnja tveganja, ki bi dovolj podrobno in kvalitetno razločila med različnimi scenariji uporabe, s tem pa različnimi stopnjami tveganja, ki jih slednji prinašajo. 

Z vidika vrste tveganj Slovenija podpira opredelitev glavnih ciljev zagotavljanja ustreznega regulativnega režima za UI, t.j. tveganje kršenja človekovih pravic in temeljnih svoboščin na eni strani ter tveganja varnosti proizvodov in storitev na drugi. 

Zaradi kompleksnosti s tem v zvezi opozarjamo tudi na potrebo po zagotovitvi jasnosti in predvidljivosti zakonodaje glede odgovornosti posameznih deležnikov. Akt o UI mora zagotoviti ustrezne informacije o delovanju sistemov UI v celotni dobavni verigi, ki bi omogočale ugotavljanje, preverjanje in nadzor skladnosti delovanja sistemov UI in deležnikov z opredeljenim regulativnim okvirom ter učinkovito pravno varstvo vseh oseb na katere sistem UI vpliva. Slovenija se bo zavzemala za tiste rešitve predloga, katerih namen je zagotoviti pravni okvir, ki bo pri razvoju in uporabi sistemov umetne inteligence zagotavljal učinkovito spoštovanje človekovih pravic in temeljnih svoboščin.  
_____________________________________________________________________
Q8 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q9 - Vaš komentar: 
____________________________ 

Q10 - Horizontalni pristop 

Slovenija tudi nadalje podpira pripravo enotne horizontalne uredbe o UI na ravni EU, da bi tako vzpostavili koherenten temeljni okvir za bodoči razvoj in uporabo UI ne glede na različna področja ali kontekste uporabe, predvsem, ko gre za visoko tvegane sisteme UI. Slovenija podpira trenutno zasnovo Akta o UI, ki je zasnovana za urejanje dajanja proizvodov in storitev na trg in pri tem ne nadomešča obstoječe zakonodaje za različne vrste proizvodov in storitev temveč jo dopolnjuje z vidika zahtev in pogojev tako za sisteme UI kot tudi za vse deležnike, ki pri tem nastopajo. 

Z vidika obsega urejanja pa Slovenija opozarja in se zavzema tudi za ustrezno prenovitev ostale zakonodaje, ki ureja tudi druge vidike razmerij med deležniki (npr. odgovornostjo za proizvode z napako, civilna odgovornost, kazenska odgovornost, pravice potrošnikov itd.), ko gre za razvoj in uporabo UI in ni zajeta v Aktu o UI (kot npr. regulaciji dajanja proizvodov in storitev na trg).  
_____________________________________________________________________
Q11 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q12 - Vaš komentar: 
____________________________ 

Q13 - Tehnično jasna in razumljiva definicija sistema UI 

Slovenija pozdravlja uporabo definicije »sistema umetne inteligence« organizacije OECD, mednarodno usklajene ter sprejete definicije sistema UI na tehnični ravni, kot osnovo za opredelitev umetne inteligence v uredbi. V zvezi s trenutno opredeljeno definicijo v Aktu o UI, se Slovenija zavzema predvsem za: 

•	 jasno definicijo sistema UI, ki bi predvsem na tehnični ravni zagotovila razumevanje predmeta regulacije za vse zadevne strani; 

•	 jasno opredelitev obsega regulacije Akta o UI, ki ne more biti opredeljena v okviru same definicije sistema UI; 

•	 ustrezno definicijo sistema UI, ki bi omogočila skladnost Akta o UI z drugimi mednarodnimi zakonodajnimi in drugimi dokumenti v mednarodnem okolju  ter s tem njegovo široko mednarodno relevanco; 

•	 ustrezno strukturo definicije sistema UI v aktu, ki omogoča hitro in enostavno prilagoditev na podlagi hitrega razvoja UI; 

•	 jasen pristop k temu, da ne reguliramo tehnologije, temveč njeno uporabo. 

_____________________________________________________________________
Q14 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q15 - Vaš komentar: 
____________________________ 

Q63 - Tehnično jasna in razumljiva definicija sistema UI 

Slovenija se zavzema za opredelitev sistema UI na podlagi OECD definicije, ki je povzeta tudi v NpUI, kjer za jasno ločitev sistemov UI od drugih sistemov oziroma splošne programske opreme predlaga v definiciji UI eksplicitno omembo treh bistvenih funkcionalnih značilnosti sistemov UI, t.j. učenja (generiranje modela), modeliranja (preoblikovanje modela) ter sklepanja (uporaba modela).  

Trenutna definicija sistema UI v Aktu o UI je omejena predvsem na uporabo strojnega učenja in pristopa temelječega na logiki in znanju, kar po našem mnenju ne zadošča, saj sistemi UI ne temeljijo le na pristopih, ki temeljijo na logiki in znanju, ampak običajno tudi na različnih drugih pristopih, kot so npr. evolucijski pristopi (npr. genetski algoritmi), hevristične metode iskanja in optimizacije, metode planiranja itd., ki torej pravno ne bi bili regulirani kot UI, čeprav jih običajno tja razvrščamo.   
_____________________________________________________________________
Q66 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q67 - Vaš komentar: 
____________________________ 

Q65 - Tehnično jasna in razumljiva definicija sistema UI 

Slovenija ne podpira stališča, da bi se sistem, ki za samodejno izvajanje operacij uporablja pravila, ki jih opredelijo izključno fizične osebe, ne bi smel šteti za sistem UI. Menimo namreč, da ti vseeno predstavljajo sisteme UI (npr. ekspertni sistemi), čeprav jih morda ne želimo regulirati. V zvezi s tem predlagamo, da se tovrstne vidike opredeli v obsegu regulacije in ne v sami definiciji. 

Zaradi večje fleksibilnosti, Slovenija zagovarja prvotni predlog določitve pristopov in tehnik za implementacijo omenjenih treh funkcionalnosti, in samo v povezavi z njimi, ne samo v recitalih, temveč tudi na način, da bi jih lahko v prvih letih uporabe uredbe lažje dopolnili glede na stanje tehnike (npr. v prilogi, kot je bilo prvotno predvideno).   
_____________________________________________________________________
Q68 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q69 - Vaš komentar: 
____________________________ 

Q16 - Ureditev regulacije umetne inteligence splošnega namena 

Slovenija se v Aktu za UI zavzema za jasno definicijo umetne inteligence splošnega pomena (UISP), kot posebne vrste sistemov UI, ki potrebujejo posebno obravnavo, saj gre za sisteme, ki nimajo vnaprej določenega »predvidenega namena« uporabe (intended purpose). Ti sistemi lahko opravljajo splošno uporabne funkcije, kot so prepoznavanje slike/govora, ustvarjanje zvočnih ali video vsebin, odkrivanje vzorcev, odgovarjanje na vprašanja ter prevajanje in drugo. Lahko se uporabijo v zelo različnih kontekstih in področjih ter integrirajo v okviru različnih drugih sistemih UI. 

Glede na to, da osnovni koncept akta temelji na predvidenem namenu uporabe, v skladu s čimer so urejeni tudi pogoji in obveznosti sistema UI samega kot tudi pravice in dolžnosti posameznih deležnikov, se Slovenija strinja z izključitvijo UISP iz regulacije do trenutka, ko se UISP dejansko da na trg (samostojno ali v okviru drugih sistemov UI) ali uporabi v konkretnem primeru. V tem trenutku mora tovrstni sistem postati predmet regulacije ne glede na to ali predstavlja oziroma se uporablja v okviru UI visokega tveganja ali ne. 
_____________________________________________________________________
Q17 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q18 - Vaš komentar: 
____________________________ 

Q19 - Ureditev raziskav in razvoja 

Raziskave in razvoj je ključno področje, ki omogoča iskanje in reševanje vedno novih problemov, ki se bodo pojavljali v povezavi z razvojem, uvajanjem in uporabo UI v družbi. Raziskovalno razvojna dejavnost  ponuja nove modele, algoritme in rešitve UI ter z njimi povezane izzive, ki z drugimi področji znanosti odstirajo neznano in zato omogočajo razumevanje tako pozitivnih kot tudi negativnih učinkov, ki jih UI povzroča.  

V skladu s tem Slovenija podpira izključitev raziskovalno razvojne dejavnosti iz obsega regulacije Akta o UI skupaj s sistemi UI, ki se uporabljajo izključno za raziskave in razvoj. Te izjeme pa Slovenija podpira le pod pogojem, da se raziskovalno razvojna dejavnost izvaja v skladu s priznanimi etičnimi in strokovnimi standardi za znanstvene raziskave. 

_____________________________________________________________________
Q20 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q21 - Vaš komentar: 
____________________________ 

Q22 - Prilagodljivost regulacije hitremu razvoju in inovacijam 

Slovenija podpira odprto in prilagodljivo ureditev, ki bi omogočala prilagajanje hitremu razvoju in rešitvam UI ter za podporo okolju za spodbujanje inovacij, prihodnjega razvoja umetne inteligence, zlasti s strani malih in srednih podjetij (MSP).  

V tem smislu Slovenija podpira vzpostavitev regulativnih peskovnikov, ki omogočajo izdelavo in preverjanje skladnosti prototipov v realnih tržnih nadzorovanih okoliščinah že v zgodnjih fazah razvoja. Prav tako Slovenija podpira možnost razvoja in testiranja sistemov UI visokega tveganja izven peskovnikov, če je to v skladu z opredeljenimi pogoji kot jih določa uredba, vendar meni, da je pri tem izjema za organe javne varnosti glede potrebe po pridobitvi informirane privolitve oseb, ki so vključeni v testiranje, preohlapno določena in potrebuje jasnejšo opredelitev. 

Slovenija se zavzema, da so regulativni peskovniki prednostno dostopni ne samo mikro temveč tudi MSP. Hkrati Slovenija za MSP podpira izjemo za ponudnike sistemov UI v povezavi z vzpostavitvijo in uporabo sistemov za upravljanje kvalitete ali zahtev za UISP.  
_____________________________________________________________________
Q23 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q24 - Vaš komentar: 
____________________________ 

Q25 - Jasna in podrobnejša opredelitev kriterijev visokega tveganja 

Slovenija se zavzema za jasno opredelitev meril za določitev primerov uporabe UI, ki potrebujejo strožje vrednotenje in nadzor, t.j. visoko tvegane umetne inteligence ter v tem kontekstu jasno definicijo kategorij metod umetne inteligence, ki jih uredba dejansko zajema, kar mora biti posebej izraženo v kriterijih za opredelitev visoko tvegane UI.  

Trenutni kriteriji za oceno tveganja v Aktu o UI pa po mnenju Slovenije ne zmorejo opisati vseh vidikov uporabe sistemov UI na dovolj podrobni ravni in zato  ne omogočajo, da bi se regulacija ustrezno prilagajala stvarnosti realnega sveta. Ključno je, da metoda za ocenjevanje tveganj, ki jo predvideva Akt o UI, omogoča odslikavanje dejanskega stanja in slednjega ne generalizira več kot je potrebno. 

Slovenija zato podpira uporabo klasifikacijskega okvira za sisteme UI, ki ga je pripravil OECD. Ta okvir podrobno opredeljuje tako značilnosti sistema UI samega kot tudi okolje in vpliv nanj, segmentirane v pet kategorij: 

- vpliv na ljudi in planet, 

- ekonomski kontekst, 

- značilnost podatkov in vhodnih navodil na podlagi katerih sistem UI vzpostavlja model zunanjega okolja v katerem deluje, 

- uporabljen model UI za predstavitev zunanjega okolja ter 

- vrsto nalog in rezultatov, ki jih sistem producira.  
_____________________________________________________________________
Q26 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q27 - Vaš komentar: 
____________________________ 

Q31 - Metodologija opredelitve sistemov UI visokega tveganja 

Slovenija zaradi jasnosti, enostavnosti in pravne predvidljivosti, podpira metodologijo določanja področij in sistemov UI visokega tveganja kot je zasnovana v Aktu o UI, kjer se za samostojne sisteme UI določajo področja in sistemi UI, ki predstavljajo visoko tveganje. Področja so opredeljena v Prilogi III.  

Vendar pri tem opozarja, da slednje lahko pripelje do pretiranega generaliziranja in s tem problema prilagajanja konkretnim okoliščinam uporabe sistemov UI v posameznih realnih kontekstih, kjer se lahko tudi povsem ne tvegana uporaba šteje za visoko tvegano in obratno. Slednje lahko zmanjšuje interes za uvajanje UI na določenih področjih opredeljenih kot visoko tvegana, čeprav to glede na dejanska tveganja morebiti ne bi bilo smiselno. 

Za zagotavljanje zaupanja javnosti je potrebno zagotoviti čim boljše prilagajanje realnim okoliščinam, zato Slovenija podpira zadnji kompromisni predlog Akta o UI, ki v dvostopenjski sistem opredelitve področij in sistemov UI visokega tveganja v Prilogi III dodaja dodaten kriterij. Ta preverja, ali je rezultat sistema UI v razmerju do zadevnega ukrepa ali odločitve, ki jo je treba sprejeti, zgolj pomožen, in zato ni verjetnosti, da bi vodil v pomembno tveganje za zdravje, varnost ali temeljne pravice. 

_____________________________________________________________________
Q32 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q33 - Vaš komentar: 
____________________________ 

Q70 - Metodologija opredelitve sistemov UI visokega tveganja 

Slovenija podpira zadnji kompromisni predlog Akta o UI, ki v dvostopenjski sistem opredelitve področij in sistemov UI visokega tveganja v Prilogi III dodaja dodaten kriterij o razmerju sistema UI do zadevnega ukrepa ali odločitve.  

Vendar pa Slovenija meni, da to ni dovolj. Zato predlaga, da se za vsako področje in sisteme UI visokega tveganja, glede na to, da so pri vsakem od področij za oceno tveganja lahko relevantne povsem različne okoliščine uporabe, ne samo vprašanje pomožnosti rezultata, posebej pripravi jasen in enostaven odločitven sistem za opredelitev okoliščin, ki prinašajo visoko tveganje. V tem kontekstu Slovenija opozarja, da je za opredelitev teh okoliščin potrebno uporabiti kriterije, ki bolj kompleksno in celovito opisujejo same sisteme UI in kontekst njihove uporabe, kar se nanaša na že omenjeni predlog, da se za to uporabi klasifikacijski okvir OECD.  
_____________________________________________________________________
Q71 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q72 - Vaš komentar: 
____________________________ 

Q37 - Razložljivost in avtonomnost UI 

Slovenija se zavzema za obravnavo problema razložljivosti različnih modelov in algoritmov UI. 

To je ključnega pomena v posebnih okoliščinah uporabe UI, kjer so obrazložitve odločitev sistemov UI ključni pravni in tehnični predpogoj za uporabo rezultatov sistemov UI v določenih področjih uporabe, kot je na primer uporaba UI v postopkih odločanja v pravosodju ali upravnih organih, posebej v primerih, ko gre za avtomatizirane postopke odločanja. 

Slednje v Aktu o UI trenutno ni posebej izpostavljeno, razen v kolikor je obravnavano v okviru sistemov UI visokega tveganja v pravosodju (področje pravosodja in demokratičnih procesov v Prilogi III). Slovenija se zato zavzema, da na področju pravosodja, še posebej  sistemi UI visokega tveganja, ne delujejo avtonomno brez človeškega nadzora in da človek vedno sprejema sodne odločitve.  
_____________________________________________________________________
Q38 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q39 - Vaš komentar: 
____________________________ 

Q40 - Javna varnost 

Slovenija meni, da je posebno pozornost potrebno posvetiti uspešni in učinkoviti uporabi sistemov UI za zagotavljanje javne varnosti. Brez uporabe novih tehnologij kot je UI, se bo nivo zagotavljanja javne varnosti znižal. To velja tudi z vidika preprečevanja kaznive uporabe sistemov umetne inteligence, ki se predvsem z generativnimi modeli umetne inteligence vse bolj pojavlja na zelo raznolikih področij (npr. informacijska varnost, mediji, socialna omrežja, nezaželene vsebine, sovražni govor itd.). 

V skladu z nacionalnim programom NpUI se Slovenija zavzema, da mora uporaba UI na področju javne varnosti odražati evropske vrednote in načela ter vedno podpirati in zagotavljati spoštovanje človekovih pravic in temeljnih svoboščin. 

Slovenija se zavzema, da so sistemi UI za razpoznavanje globokih ponaredkov na področju organov javne varnosti v Prilogi III opredeljeni kot sistemi UI visokega tveganja, ko gre za preverjanje in ali dokazovanje avtentičnosti in resničnosti (authenticity and truthfulness).   
_____________________________________________________________________
Q41 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q42 - Vaš komentar: 
____________________________ 

Q43 - Prepovedane prakse 

Slovenija se strinja s predlogom prepovedanih praks uporabe sistemov UI. V zvezi z oddaljeno biometrično identifikacijo na javnih mestih v realnem času, se poleg prepovedi izvajanja teh aktivnosti s strani organov javne varnosti, kjer se to lahko izvaja le pod striktnimi pogoji, ki so opredeljeni v Aktu o UI, zavzema tudi za prepoved izvajanja teh aktivnosti s strani zasebnega sektorja. Prav tako se Slovenija zavzema za omejitev socialnega rangiranja, kot je opredejena v uredbi,  ne samo na javni sektor, temveč tudi na zasebni sektor. 

Glede prepovedi sistemov UI, ki izkoriščajo katere koli šibke točke določene skupine oseb, se Slovenija zavzema za to, da slednje poleg skupin oseb na osnovi njihove starosti in invalidnosti, vključuje tudi skupine oseb na osnovi njihovega posebnega socialnega ali ekonomskega položaja.  
_____________________________________________________________________
Q51 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q52 - Vaš komentar: 
____________________________ 

Q44 - Biometrična identifikacija kot uporaba UI visokega tveganja 

Slovenija se zavzema, da bi kot UI visokega tveganje poleg oddaljene biometrične identifikacije opredelili tudi bližnjo. Primer tega je uporaba identifikacije z uporabo naprav, ki se uporabljajo s stikom osebe oziroma "na bližino", pri čemer ne gre samo za prepoznavo obrazov, temveč tudi vseh drugih biometričnih znakov, kot so delovanje srca, prepoznava prstnih odtisov, itd. 

Slovenija meni, da bi morali biti vsi sistemi biometrične identifikacije, ki se uporabljajo brez dogovora z osebo, ki je predmet identifikacije, opredeljeni kot UI visokega tveganja.  
_____________________________________________________________________
Q53 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q54 - Vaš komentar: 
____________________________ 

Q45 - Učinkovit upravljavski okvir 

Slovenija spodbuja uporabo obstoječega sistema za preverjanje skladnosti delovanja sistemov UI, kar vključuje sisteme za akreditacijo, certifikacijo in nadzor, predvsem pa tudi na nacionalni ravni. Vendar se strinja s predlogi, da je potrebno zagotoviti enotno obravnavo sistemov UI na celotnem področju EU, kar zahteva intenzivno sodelovanje tako med državami EU kot tudi med državo in Evropsko komisijo.  

Zato podpira vlogo Evropskega odbora za umetno inteligenco, ki ga sestavljajo predstavniki držav članic in Komisije in bo prispeval k učinkovitemu sodelovanju nacionalnih nadzornih organov in Komisije.  Menimo, da ima vključno vlogo predvsem takrat, ko gre za čezmejne preiskave nadzora trga, tudi v zvezi s pojavom sistemskih tveganj, ki lahko izhajajo iz uporabe posameznih sistemov UI. 

Slovenija pri tem izpostavlja problematiko kapacitet in znanja na področju UI potrebnega za izvajanje nadzornih funkcij, aktivnosti preverjanja skladnosti in sledenja razvoju stanja tehnike na področju UI. Podpira predloge, ki bi zagotavljali stabilen in dolgoročen upravljavski okvir za celotno EU.    
_____________________________________________________________________
Q55 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q56 - Vaš komentar: 
____________________________ 

Q46 - Učinkovito pravno varstvo 

Slovenija se zavzema za zagotovitev učinkovitega pravnega varstva oseb, na katere učinkuje sistem UI, saj meni, da trenutna verzija Akta o UI ne zagotavlja vseh pogojev, ki jih za to potrebujejo osebe na katere vpliva delovanje UI sistema (tretje osebe). 

Slovenija meni, da bi morala uredba zagotoviti ustrezen pretok informacij od ponudnika do uporabnika in uporabnika do tretjih oseb (kot prizadetih oseb), tako da bi lahko uporabnik ali potrošnik oziroma tretje osebe imele vse potrebne informacije za poročanje o težavah s sistemom UI. S tem bi imeli možnosti pridobitve ustrezne rešitve in zagotovljeno pravico do učinkovitega pravnega varstva. 

Da bi zagotovili pravilno uporabo sistema UI, mora ponudnik v tehnični dokumentaciji, kot jo opisuje Priloga IV,  zagotoviti ustrezne informacije, tudi v zvezi z tretjimi osebami, ki jih uporaba sistema UI zadeva. Uporabnik mora te informacije pridobiti od ponudnika, kar vključuje tako način interakcije sistema UI z okoljem kot tudi to, kako varno uporabljati sistem UI zase in za tretje osebe (ob upoštevanju tako predvidenega namena kot tudi razumno predvidljive napačne uporabe). Bistveno je, da ima uporabnik določene informacije, ki jih lahko pridobi le od ponudnika, kar vključuje predvsem predvidljive okoliščine ter delovanje in natančnost sistema UI, ki bi lahko povzročile tveganje za zdravje in varnost ali temeljne pravice in svoboščine njega ali tretjih oseb. To je ključno za obveznost uporabnika, da o delovanju sistema UI ustrezno obvesti tudi tretje osebe, kadar so bile morda kršene varnost, zdravje ter človekove pravice in temeljne svoboščine teh oseb, da le-ti lahko začnejo preiskavo ali aktivnosti za popravo sprejetih odločitev.  
_____________________________________________________________________
Q57 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q58 - Vaš komentar: 
____________________________ 

Q47 - Primerljive kazni za EU institucije 

Slovenija meni, da morajo biti kazni proporcionalne in namenjene spodbujanju etičnega in pravno skladnega delovanja vseh deležnikov. V tem smislu menimo, da bi morale biti kazni za vse primerljive deležnike enake, vključno z institucijami EU, za katere v trenutnem osnutku s tega vidika kazni odstopajo.  
_____________________________________________________________________
Q48 - Prosimo, da se na lestvici od 1 do 5 opredelite, v kolikšni meri se strinjate z zgoraj navedenim stališčem.  
 1- sploh se ne strinjam 
 2 - se ne strinjam 
 3 - nevtralen 
 4 - se strinjam 
 5 - popolnoma se strinjam 

Q49 - V kolikor bi nam želeli podati še kakšne predloge, lahko to storite spodaj:  
_____________________________________ 
 
Q59 - Kliknite in vpišite besedilo vprašanja 
__________________