Na okrogli mizi bodo sodelovali: akad. prof. dr. Ivan Bratko, Marko Grobelnik, prof. dr. Olga Markič, izr. prof. dr. Aleš Završnik, dr. Luka Omladič, Gregor Strojin, dr. Maja Bogataj Jančič. Uvodoma bo zbrane nagovoril minister Boštjan Koritnik.

Vse večja prisotnost in uporaba umetne inteligence (UI) postaja naša družbena stvarnost. Pri tem pa vse več ljudi, različnih odborov in združenj ter navsezadnje držav razmišlja o tem kaj bo UI v naša življenja prinesla in kako jih bo spremenila. UI bo kot splošno uporabna tehnologija (angl. general purpose technology), ki jo nekateri primerjajo z elektriko, parnim strojem in internetom prodrla na vsa področja našega življenja. UI za razliko od drugih tehnologij v največji meri omogoča strojem izvajanje dejavnosti, ki so bile do nedavnega omejene le na človeške zmožnosti in inteligenco. S tem prinaša neizmerni potencial za to, da prinese koristi posameznikom in družbi ter človeštvu kot celoti.

Glede na obseg predvidenih sprememb sta med ključnimi izzivi vprašanje etike in človekovih pravic in temeljnih svoboščin oziroma ali in kako naj slednji vplivata na uvajanje UI oziroma kako bo uvajanje UI vplivalo na ti načeli in pravice ljudi tudi v digitalnem svetu. Odgovor bo v celoti odvisen od tega, kako se UI rešitve raziskujejo, zasnujejo in razvijejo, regulirajo ter uporabljajo.

Problematiki etičnosti ter skladnost UI s človekovimi pravicami in temeljnimi svoboščinami zato pridobivata vse večjo veljavo in pomembnost tudi na mednarodni ravni. Evropska unija je naredila korak naprej v smer konkretizacije razumevanja etike v kontekstu UI z določitvijo smernic za zaupanja vredno umetno inteligenco, ki mora biti zakonita, etična in robustna. Določila je načela za zagotavljanje etičnosti, v katerih je posebno pozornost namenila situacijam, ki vključujejo ranljivejše skupine, na  primer otroke, invalide in druge osebe, ki so bile v preteklosti prikrajšane ali jim grozi izključenost, ter situacijam, za katere je značilna asimetrija moči ali informacij, na primer med delodajalci in delojemalci ali podjetji in potrošniki (na primer rasna, verska, spolna diskriminacija).

V Sloveniji je v fazi priprave nacionalni program za umetno inteligenco (NpUI), ki se že v svoji viziji, posebej pa v strateškem cilju 8 »Zagotovitev ustreznega pravnega in etičnega okvira« zelo jasno zavzema in z ustreznimi ukrepi podpira etično uporabo UI ter njeno uvajanje na način, da se zagotavljajo človekove pravice in temeljne svoboščine. V tem smislu NpUI sledi oziroma je skladen z usmeritvami EU, Slovenija pa bo na tej podlagi pri pripravi ustreznega regulatornega okvira za UI na ravni EU tudi aktivno sodelovala.

Za potrebe operacionalizacije se NpUI naslanja na omenjene etične smernice in načela EU, z vidika definicije UI pa sledi definiciji sistema UI, ki jo je Organizacija za gospodarsko sodelovanje in razvoj (OECD) definirala v okviru opredelitve OECD načel za etično in zaupanja vredno UI. Sistem UI je OECD opredelila na način, da lahko predstavlja model za jasen tehnični opis večine rešitev temelječih na metodah UI, s tem pa tudi bolj konkretno in jasno obravnavo in preverjanje skladnosti z etičnimi načeli ter človekovimi pravicami in temeljnimi svoboščinami v povezavi s konkretnimi rešitvami UI.

Ali to zadošča za vse pravne, tehnične in uporabniške vidike razvoja in uporabe UI ter za vse različne deležnike od raziskovalcev, razvojnih inženirjev, podjetij, uporabnikov v gospodarstvu, javnemu sektorju in javni upravi, do končnih uporabnikov, bo pokazala prihodnost. Na ta vprašanja bodo svoje poglede na delavnici predstavili ugledni strokovnjaki s področja UI, prava, etike in človekovih pravic.

Program

10.00–10.05 uvodni pozdrav: minister za javno upravo Boštjan Koritnik

10.05–10.15 predstavitev Nacionalnega programa za Umetno inteligenco: mag. Samo Zorc, Ministrstvo za javno upravo, koordinator priprave Nacionalnega programa za umetno inteligenco

10.15–11.50 okrogla miza

11.50–12.00 zaključek dogodka

Okrogla miza

Sogovorniki na okrogli mizi bodo med drugimi skušali odgovoriti tudi na vprašanja: katera etična načela so aktualna in ključna za uspešen razvoj in uporabo UI (na primer načela iz smernic EU); kje nastopi etika pri IKT rešitvah, ki temeljijo na različnih metodah UI oziroma različnih modelih in algoritmih uporabljanih v okviru osnovnih delov sistema UI; kako pomembna je etika za zagotavljanja zaupanja javnosti v UI; ali se lahko UI nauči etike in postane bolj etična od človeka samega in ali je sploh mogoča etična UI v neetični družbi.

Cilj razprave bo deliti različne poglede, mnenja, predvsem pa priti do zaključkov o tem, ali potrebujemo poseben okvir za upoštevanje etike ter človekovih pravic in temeljnih svoboščin za UI (e.g. ex-ante certifikacija + ex-post nadzorne mehanizme) ter osvetlitev vloge etike ter človekovih pravic in temeljnih svoboščin za uspešno in učinkovito uvajanje rešitev UI v družbo in ali potrebujemo večjo konkretizacijo predvsem etičnih načel s pravnega vidika na eni strani ter konkretno definicijo UI na drugi strani.

Udeleženci okrogle mize

Akad. prof. dr. Ivan Bratko

Slovenski računalnikar in akademik, pionir in utemeljitelj raziskav in visokošolskega izobraževanja umetne inteligence v Sloveniji ter ustanovitelj oddelkov za umetno inteligenco na Institutu Jožef Stefan in Fakulteti za računalništvo in informatiko Univerze v Ljubljani. Njegova področja raziskovanja so strojno učenje, kvalitativno modeliranje, inteligentna robotika, hevristično programiranje in aplikacije strojnega učenja, med drugim v medicini in vodenju dinamičnih sistemov. Prof. Bratko je (so)avtor številnih znanstvenih člankov in knjig, med njimi Prolog Programming for Artificial Intelligence (četrta izdaja Pearson Education 2012), Machine Learning and Data Mining: Methods and Applications (Wiley, 1998) in KARDIO: a Study in Deep and Qualitative Knowledge for Expert Systems (MIT Press, 1989). Je redni član Slovenske akademije znanosti in umetnosti (SAZU), Inženirske akademije Slovenije (IAS), EurAI, Academia Europaea. Kot gostujoči profesor ali raziskovalec je med drugim deloval na Edinburgh University, Strathclyde University, Sydney University, University of New South Wales, Polytechnic University of Madrid, University of Klagenfurt, Delft University of Technology.

Marko Grobelnik

Marko Grobelnik je strokovnjak s področja umetne inteligence. Je soustanovitelj Odseka za umetno inteligenco na Inštitutu Jožef Stefan, soustanovitelj Mednarodnega raziskovalnega središča za umetno inteligenco (IRCAI) in je direktor podjetja Quintelligence.com, specializiranega za reševanje zapletenih nalog umetne inteligence v komercialnem svetu. Osrednja področja strokovnega zanimanja so Strojno učenje, Data / Text / Web Mining, Analiza omrežja, Semantične tehnologije, Poglobljeno razumevanje besedila in Vizualizacija podatkov. Sodeluje z velikimi evropskimi akademskimi institucijami in glavnimi panogami, kot so Bloomberg, British Telecom, Evropska komisija, Microsoft Research, New York Times. Je soavtor več knjig, soustanovitelj več zagonskih podjetij in je sodeloval pri več kot 50 raziskovalnih projektih, ki jih financira EU na različnih področjih umetne inteligence. Zastopa Slovenijo v odboru OECD za umetno inteligenco (AI ONE) in v odboru Sveta Evrope za umetno inteligenco (CAHAI). Leta 2016 je postal evropski digitalni glasnik pri Evropski komisiji.

Prof. dr. Olga Markič

Prof. dr. Olga Markič je slovenska filozofinja, predavateljica in raziskovalka, ki deluje na področjih filozofije kognitivnih znanosti, logike, teorije argumentacije, filozofije duha, filozofije športa, etike kognitivnih znanosti in analitične filozofije. Doktorirala je leta 1998 na Filozofski fakulteti Univerze v Ljubljani, kjer je tudi zaposlena kot redna profesorica. Kot raziskovalka je dejavna v programski skupini Filozofske raziskave. Raziskovalno in pedagoško je vpeta v mednarodni prostor kot predavateljica na tujih univerzah in avtorica številnih odmevnih znanstvenih člankov in monografij. Je tudi predsednica Slovenskega društva za kognitivne znanosti.

Izr. prof. dr. Aleš Završnik

Dr. Aleš Završnik je izredni profesor na Pravni fakulteti Univerze v Ljubljanji in znanstveni svetnik na Inštitutu za kriminologijo pri Pravni fakulteti v Ljubljani. Zanimajo ga teme povezane s pravom, informacijsko tehnologijo in kriminaliteto (na primer kot v knjigi Big Data, Crime and Social Control (Routledge, 2018)) ali v članku o kazenskem pravosodju, umetni inteligenci in človekovih pravicah (na primer v European Journal of Criminology, 2019). Na Inštitutu za kriminologijo vodi raziskovalno skupino Avtomatizirana pravičnost: družbeni, etični in pravni vidiki (2018–2021), v Evropskem prostoru je omembe vredno sodelovanje z Evropsko komisijo za učinkovitost pravosodja pri Svetu Evrope (CEPEJ) pri pripravi Evropske listine o uporabi umetne inteligence v pravosodnih sistemih (2018), trenutno pa sodeluje v delovni skupini Umetna inteligenca in kazensko pravna odgovornost – primer avtomatiziranih vozil, ki jo je imenoval Odbor Sveta Evrope za kazenske zadeve. Zadnja leta sodeluje z Evropskim raziskovalnim svetom (ERC) v postopkih etične presoje varnostnih in IKT projektov.

Dr. Luka Omladič

Dr. Luka Omladič je doktor filozofije (Univerza v Ljubljani). Med njegovimi prejšnjimi zaposlitvami je raziskovalno in predavateljsko mesto na Univerzi v Ljubljani. Trenutno je zaposlen v lastnem svetovalnem podjetju Inštitut za uporabno etiko v Ljubljani. Bil je dva mandata član Unescove svetovne komisije za etiko znanstvenega znanja in tehnologije (COMEST), njegov mandat se je končal leta 2019. V času, ko je bil član urada COMEST, je bil dvakrat član žirije za Unescovo nagrado Avicenna za etiko v znanosti. Bil je poročevalec poročila UNESCO COMEST za robotsko etiko za leto 2017 in soavtor predhodne študije COMEST za etiko umetne inteligence za leto 2019. Udeležil se je in predstavil svoje delo na več konferencah o umetni inteligenci in robotiki, med njimi 1. umetniška umetnost za dober svetovni vrh (Ženeva 2017), delavnica Ljudje, stroji in zdravje (Vatikan, 2019), globalni forum o umetni inteligenci za človeštvo (Pariz 2019). Leta 2020 je bil član Unescove ad hoc strokovne skupine, ki ji je bila zaupana priprava predhodnega besedila Priporočila o etiki umetne inteligence. Je tudi član slovenske skupine strokovnjakov za Globalno partnerstvo na področju umetne inteligence (GPAI).

Gregor Strojin

Gregor Strojin je diplomiral na Pravni fakulteti Univerze v Ljubljani in magistriral iz mednarodnega in primerjalnega prava na Chicago Kent College of Law, kjer je pridobil tudi specializacijo iz prava informacijske tehnologije in intelektualne lastnine. Bil je eden od pobudnikov na področju raziskovanja in razvoja pravnih vidikov interneta in informacijske družbe v 90ih. Na Vrhovnem sodišču RS deluje od leta 2002, zlasti na projektih optimizacije in transformacije sodnih postopkov in sodne uprave. V obdobju 2007–2017 je bil član Statističnega sveta RS, prav tako je član Evropske komisije za učinkovitost pravosodja (CEPEJ) ter njegove delovne skupine CEPEJ-GT-CYBERJUST. V letih 2018–2020 je bil državni sekretar na Ministrstvu RS za pravosodje. Leta 2019 je bil izvoljen za predsednika Ad hoc odbora Sveta Evrope za umetno inteligenco (CAHAI), ki proučuje možnost izvedljivosti in elemente za pripravo pravnega okvirja za oblikovanje, razvoj in uporabo umetne inteligence skladno s standardi Sveta Evrope na področju človekovih pravic, demokracije in vladavine prava.

Dr. Maja Bogataj Jančič

Dr. Maja Bogataj Jančič je ustanoviteljica in vodja Inštituta za intelektualno lastnino, zasebne raziskovalne in svetovalne institucije. Njeno raziskovalno in svetovalno delo je osredotočeno na intelektualno lastnino, zlasti avtorsko pravo. Sodeluje pri številnih mednarodnih projektih. Od leta 2020 je ko-predsedujoča delovni skupini za Upravljanje s podatki v Global Partnership for Artificial Intelligence (GPAI). Predseduje tudi delovni skupini za avtorsko pravo pri Conference of European National Libraries (CENL). Maja je diplomantka Pravne fakultete v Ljubljani (1996). Magistrirala je na Pravni fakulteti v Ljubljani (1999, ekonomija), Harvard Law School (2000, pravo) in Facoltà di Giurisprudenza di Torino (2005, intelektualna lastnina) in doktorirala na Pravni fakulteti v Ljubljani (2006, avtorsko pravo).

Moderator okrogle mize: Jaka Repanšek, vodja Strateške skupine za regulativo in okolje Slovenske Digitalne Koalicije