Evropski akt o umetni inteligenci (Uredba (EU) 2024/1689),[1] ki je začel veljati avgusta 2024, predstavlja prvo celovito pravno ureditev umetne inteligence na ravni EU. V slovenski pravni red se umešča z Zakonom o izvajanju Uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI),[2] ki določa pristojne organe za izvajanje in nadzor nad izvajanjem uredbe, postopke, prekrške, globe ter druge ukrepe.[3] Zakon uresničuje temeljna načela etične in zaupanja vredne umetne inteligence s poudarkom na človeškem nadzoru, varnosti, zasebnosti, preglednosti, nediskriminaciji, sorazmernosti ter pravni varnosti ob spoštovanju človekovih pravic. V veljavi in uporabi je od 21. 11. 2025 naprej.
1. Priglasitveni organi, organi za nadzor trga in nadzor
Zakon pristojnosti razdeli med več institucij. Vlogo priglasitvenih organov prevzemajo ministrstvo za gospodarstvo, turizem in šport, infrastrukturo, zdravje in digitalno preobrazbo ter Javna agencija Republike Slovenije za zdravila in medicinske pripomočke.[4] Naloge organov za nadzor trga po Uredbi 2024/1689/EU bodo izvajali Informacijski pooblaščenec, Banka Slovenije, Agencija za zavarovalni nadzor, Tržni inšpektorat in Agencija za komunikacijska omrežja in storitve (AKOS),[5] ki je tudi določena kot enotna kontaktna točka.[6] Nadzor nad priglašenimi organi, zagotavljanjem pismenosti in javno objavo podatkov o sistemih UI v javnem sektorju bo izvajala inšpekcija za informacijsko družbo.[7] V postopku nadzora se uporabljajo pooblastila in ukrepi, določeni v zakonu, ki ureja tehnične zahteve za proizvode in ugotavljanje skladnosti, inšpekcijskem nadzoru ter glede posebnih področij tudi področna zakonodaja (npr. zavarovalništvo).[8] Predvideno je tudi posvetovanje organov za nadzor trga z drugimi inšpekcijskimi organi.[9]
Prav tako je predvidena javna objava informacij v zvezi z ukrepi nadzora in izrečenih sankcij zaradi kršitev Akta o UI.[10] Organi za nadzor trga bodo morali na svojih spletnih straneh objavljati podatke o kršitelju in zavezancu za izvedbo ukrepa, kršitvi ali naravi odrejenega ukrepa, izreku odločbe in morebitni odpravi kršitve ali izvedbi odrejenega ukrepa, s čimer se zagotavlja transparentnost in odvračanje od zlorab. Te objave bodo na spletni strani dostopne tri leta po objavi.[11] Pri objavi osebnih podatkov kršitelja – fizične osebe veljajo izjeme.
2. Ukrepi v podporo inovacijam in dodatne naloge AKOS
Za zagotavljanje usklajenega delovanja med organi za nadzor trga se predvideva vzpostavitev koordinacijskega sosveta nadzornih organov,[12] medtem ko bo AKOS med drugim imel tudi posebno pristojnost za vzpostavitev regulativnih peskovnikov (rok za vzpostavitev prvega peskovnika je 2. 8. 2026),[13] za vodenje evidence visokotveganih sistemov umetne inteligence na področju kritične infrastrukture, za vodenje podatkov, ki jih predložijo ponudniki visokotveganih sistemov umetne inteligence v skladu s členom 49(1) Akta o UI, in drugo.[14]
Zakon predvideva vzpostavitev vstopne točke za svetovanje določenim podjetjem in javnosti o izvajanju Akta o UI ter ureja vodenje dokumentacije v primeru stečaja ali prenehanja opravljanja dejavnosti.[15]
3. Podporno okolje za izvajanje Akta o UI
Akt o UI v členu 4 zahteva, da države članice spodbujajo pismenost na področju umetne inteligence,[16] saj je to ključno za varno uporabo sistemov umetne inteligence in za zaščito temeljnih pravic. Slovenski zakon sicer predvideva promocijske kampanje o uporabi Akta o UI, imenovanje nacionalnega sveta za etiko v umetni inteligenci ter usposabljanja javnih uslužbencev, a ostaja vprašanje, ali je to dovolj.[17] To pa zlasti glede potrošnikov, delavcev in drugih ranljivih skupin, ki so najbolj izpostavljeni tveganjem, pa tudi glede spodbujanja izobraževanja osebja, ki bo operiralo s temi sistemi.
4. Sankcije in nadzor
Sankcije so predvidene za vse ključne deležnike v verigi umetne inteligence – ponudnike, uvajalce (npr. glede zagotavljanja pismenosti na področju umetne inteligence, preglednosti in drugo), uvoznike, distributerje, pooblaščene zastopnike in priglašene organe. Posebej strogo bo kaznovano tudi neupoštevanje prepovedanih praks iz člena 5 Akta o UI. Globe se lahko povzpnejo do 35 milijonov evrov ali do 7 % celotnega letnega svetovnega prometa v preteklem poslovnem letu.
Sklepno
Slovenija z zakonom sledi evropski ureditvi in postavlja institucionalne temelje za nadzor nad tehnologijo, ki bo v prihodnjih letih še intenzivneje vplivala na gospodarstvo, javno upravo in širšo družbo. Sam zakon ne ustvarja novih vsebinskih obveznosti, te so določene v sami uredbi EU, temveč v bistvenem ureja, kdo bo izvajal nadzor, kako bodo potekali postopki in katere sankcije bodo veljale.
Javna razprava je razkrila dve glavni napetosti: razpršitev pristojnosti med več organov, kar zahteva dodatne kadrovske okrepitve in lahko vodi do počasnejših odzivov, ter vprašanje učinkovitega usklajevanja, ki ga ministrstvo napoveduje prek posebnega sosveta. Ob tem zakon prinaša tudi priložnosti, na primer z uvedbo regulativnih peskovnikov za testiranje novih rešitev. V praksi pa bo treba še natančneje urediti pravila izvajanja, saj bo šele njihova uporaba pokazala, ali je obstoječa ureditev zadostna in učinkovita.
Zlasti ključno bo, da se vzporedno krepi pismenost o umetni inteligenci – ne le med regulatorji in podjetji, temveč tudi med potrošniki, delavci in drugimi skupinami, ki so tehnologiji neposredno izpostavljene. Brez razumevanja delovanja teh sistemov in tveganj, ki jih prinašajo, tudi najbolj skrbno zasnovana pravila ne bodo dovolj. Zato je pomembno, da se nova ureditev ne ustavi pri črki zakona, temveč se njeno izvajanje nenehno spremlja in preverja v praksi. Šele konkretni primeri bodo pokazali, ali so pravila res primerna in močna, da učinkovito varujejo pravice ljudi ter hkrati omogočajo razvoj inovacij. Poseben izziv bo tudi zagotoviti strokovno osebje, ki bo znalo povezati nove tehnologije z uveljavljenimi pravnimi koncepti, ki jih poznamo že desetletja. Prav skozi takšno povezovanje bo mogoče vzpostaviti okvir, ki bo v Sloveniji krepil pravno varnost in zaupanje v umetno inteligenco.
Zato je prihodnji izziv dvojen: na strani regulatorjev zagotoviti jasne, usklajene in strokovno podprte nadzorne in podporne mehanizme, na strani podjetij pa čim prej prilagoditi svoje sisteme novim zahtevam. Pomembno pa je tudi, da posamezniki razumejo osnovna načela delovanja umetne inteligence, saj znanje zmanjšuje odpor in omogoča bolj samozavestno uporabo novih tehnologij. Le tako bo mogoče uresničiti cilj evropskega in slovenskega zakonodajalca – umetna inteligenca, ki je hkrati konkurenčna, inovativna in zavezana varstvu temeljnih pravic.
[1] Uredba (EU) 2024/1689 Evropskega parlamenta in Sveta z dne 13. junija 2024 o določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828 (Akt o AI).
[2] Zakon o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (Uradni list RS, št. 85/25; sprejet: 23. 10. 2025, objavljen v UL: 6. 11. 2025, velja in se uporablja od 21. 11. 2025; »ZIUDHPUI«).
[3] Dostopen na URL: https://imss.dz-rs.si/IMiS/ImisAdmin.nsf/ImisnetAgent?OpenAgent&2&DZ-MSS-01/70045a0359c34c58be15891f5322e8ebfdb44853847921b447f42a1798395f19 (21. 9. 2025).
[4] Člena 3 in 4 ZIUDHPUI.
[5] Člen 6 v zvezi s členom 10 (nadzor nad izvajanjem Akta o AI)ZIUDHPUI.
[6] Člen 7 ZIUDHPUI v zvezi s členom 70(2) Akta o AI.
[7] Člen 11 ZIUDHPUI.
[8] Člen 12 ZIUDHPUI.
[9] Člen 13 ZIUDHPUI.
[10] Po tem, ko postane odločba, s katero je ugotovljena kršitev ali odrejen ukrep, dokončna oziroma odločba, s katero je bil izrečen prekršek, pravnomočna in je kršitelj ali zavezanec za izvedbo ukrepa z njo seznanjen.
[11] Člen 16 ZIUDHPUI.
[12] Člen 15 ZIUDHPUI.
[13] Člen 40 ZIUDHPUI.
[14] Člena 17 in 18 ZIUDHPUI.
[15] Člena 19 in 20 ZIUDHPUI.
[16] Predviden je tudi prekršek za gospodarsko družbo, ki ne sprejme ukrepov, da se čim bolj zagotovi zadostna raven pismenosti njenega osebja in drugih oseb, ki se v njenem imenu ukvarjajo z obratovanjem in uporabo sistemov UI, na področju UI, upoštevajoč njihovo tehnično znanje, izkušnje, izobrazbo in usposobljenost ter okolje, v katerem se bodo uporabljali sistemi UI, pa tudi oseb ali skupine oseb, v zvezi s katerimi se bodo uporabljali ti sistemi (člen 25 ZIUDHPUI).
[17] Členi 21 – 23 ZIUDHPUI.
