Kako se umetna inteligenca umešča v delovno pravo

Prispevek obravnava nekatere izzive in možnosti uporabe umetne inteligence (UI) v delovnem okolju, zlasti z vidika vpliva UI na temeljne pravice delavcev in tveganj, povezanih s pristranskostjo, dehumanizacijo, prekoračenim nadzorom in obdelavo velike količine osebnih podatkov.

Dandanes, ko hiter tehnološki napredek vodi v četrto industrijsko revolucijo,1 je ena bolj perečih razprav o UI, saj ta vse bolj kroji vsak vidik življenja ljudi.2 Zaradi tega je področje UI tudi ključno vprašanje Evropske Unije (EU), ki razvija regulativni okvir za zaupanja vredno UI in naslavlja pomembna tveganja, ki jih UI prinaša.3

Spregledano ni ostalo niti področje delovnega prava, ki je še posebej dovzetno za izzive in tveganja UI. Vse to je sprožilo dinamičen diskurz o potrebi po redefiniranju tradicionalnih delovnih razmerij, spreminjajoči se naravi dela in potrebi po prilagoditvi oziroma pripravi novih pravnih okvirjev, ki bi se lahko učinkovito spopadali z eksponentnim razvojem UI.4

UI je prisotna pri zaposlovanju, trajanju in prenehanju dela, ne glede na njegovo obliko.5

 

Pravni okvir UI: katere obveznosti so že v veljavi?

 V Republiki Sloveniji (RS) trenutno ne obstajajo posebni predpisi, ki bi neposredno urejali področje UI. Ob tem pa najbrž ni napačno sklepanje, da bo Slovenija sledila evropskim smernicam in počakala na izdajo ustrezne evropske zakonodaje s tega področja, preden bo UI neposredno vpletena v nacionalno zakonodajo. Kljub temu pa obstoječa zakonodaja že določa nekatere obveznosti, ki so dovolj široke, da bi lahko zajele tudi uporabo UI v delovnem okolju.

Kot najbolj izrazito obliko tveganja si lahko predstavljamo navzven razvidno škodo, ki bi jo povzročila UI. V tem kontekstu pa že obstaja delodajalčeva obveznost zagotavljanja varstva in zdravja pri delu.6 To pomeni, da mora delodajalec npr. pisno oceniti tveganja, ki so jim delavci izpostavljeni ali bi lahko bili izpostavljeni pri delu, nato pa tudi sprejeti pisno izjavo o varnosti z oceno tveganja.

Če bi delodajalec implementiral sisteme UI v delovne procese, bi moral to upoštevati pri pisni oceni, prav tako pa tudi zagotoviti ustrezna usposabljanja. Trenutna dikcija iz 170. člena ZDR-17 bi najbrž zajela to obveznost, vendar bi bilo smotrno to določneje urediti v internih aktih delodajalca oziroma s kolektivnimi pogodbami.

Vendar pa je treba vlogo pripisati tudi, na prvi pogled, nekoliko manj izrazitim oblikam tveganja. Ob dejstvu, da sta v digitalni dobi varstvo (osebnih) podatkov in UI neločljivo povezana ter da sistemi UI obdelujejo ogromne količine podatkov za učenje in odločanje, postane zagotavljanje varnosti teh podatkov ključnega pomena.

V Sloveniji sta v zvezi z delodajalčevo obdelavo osebnih podatkov delavcev relevantna zlasti ZVOP-28 in ZEPDSV9. V osnovi pa je varstvo osebnih podatkov predmet Splošne uredbe o varstvu podatkov,10 ki se neposredno uporablja od maja 2018.

 

Na evropski ravni premik pri izboljšanju pogojev platformnega dela

Na evropski ravni je kot vidnejši zakonodajni premik k nadzoru avtomatiziranih sistemov predlog Direktive o izboljšanju delovnih pogojev pri platformnem delu – npr. dostavljalcev Wolta. Ta direktiva v določenem delu obravnava tudi algoritmično upravljanje, vendar zadeva izključno delo preko spletnih platform dela in tako ne velja za tradicionalna delovna razmerja.11

Ne le avtomatizirane sisteme, ampak konkretno UI pa Evropska komisija (EK) obravnava s predlogom regulativnega okvira EU za UI, in sicer Akta o UI,12 ki med sisteme velikega tveganja uvršča sisteme UI s področja zaposlovanja, upravljanja delavcev in dostopa do samozaposlitve.13 Posledično se bodo zaradi take uvrstitve na delodajalce prenesle številne obveznosti. Zlasti bodo morali vseskozi spremljati tveganja umetnointeligenčnega sistema za zdravje in varnost pri delu.14 Decembra 2023 je bil dosežen politični sporazum glede Akta o UI, ki mora biti še uradno potrjen, kar je predvideno za spomlad 2024.15

 

Je UI povod za prekomeren nadzor delavcev?

 Eden izmed ključnih elementov delovnega razmerja je podrejenost, tj. odvisnost delavca, in s tem povezan nadzor delodajalca. Delodajalci imajo zakonsko in ustavno podlago za preverjanje, ali se npr. delovna oprema uporablja v skladu z navodili in če je delo opravljeno. K večjemu obsegu nadzora delodajalca spodbujajo tudi drugi motivi, kot so spremljanje učinkovitosti in varnosti delovnega okolja, ugotavljanje delovne uspešnosti, racionalnejša izraba delovnih sredstev in delovnega procesa.

Praksa je že pokazala več primerov, kjer je ravno UI orodje za prekomeren nadzor delavcev. Primer so nosljive naprave, ki jih delavci nosijo med delovnim časom z namenom spremljanja delavčeve produktivnosti in tudi za prejemanje navodil.16

Nadzor delavcev in dajanje navodil ni novodoben koncept, vendar pa UI spreminja ustaljene prakse, saj omogoča njegovo intenzivnejše izvajanje.

Amazon je primer podjetja, ki uporablja tovrstne sisteme UI, kjer algoritmi, med drugim, samodejno ustvarijo opozorila ob odstopanju od pričakovane produktivnosti ali kakovosti dela.¹⁷ Podobno se uporabljajo GPS sistemi, ki merijo lokacijo in hitrost voznikov, periodično ustvarjanje posnetkov zaslona, fotografiranje preko spletnih kamer, spremljanje aktivnosti uporabe tipkovnice in aplikacije za spremljanje delovne učinkovitosti delavcev.

Zlasti sporne pa so avtomatizirane odločitve, ki lahko odpovedujejo delovna razmerja18 ter prakse, ki brišejo meje med delavčevim zasebnim in poklicnim življenjem. Informacijska orodja namreč lahko zbirajo podatke o delavcu tudi izven delovnega časa, saj omogočajo pretok in obdelavo ogromnega števila informacij, ki jih je zelo težko vnaprej omejiti oziroma predvideti. Zlasti zaradi izrazite neenakosti moči pogodbenih strank v delovnem razmerju, bi morali delodajalci upoštevati delavčevo pravico do zasebnosti, do katere so delavci v razumnih mejah upravičeni tudi na delovnem mestu.19 Tu je potrebna posebna pozornost zlasti v dobi razvoja UI – zaradi nje postaja vprašanje pričakovane zasebnosti na delovnem mestu vse bolj zapleteno.

 

Ali je lahko UI orodje pristranskosti in diskrminacije?

 Avtomatizirani odločitveni sistemi UI v delovnem pravu so zasnovani, da se izognejo človeškim pristranskostim, s ciljem doseganja objektivnejšega odločanja. Kljub temu pa je pristranskost lahko vnešena tudi v sisteme UI (ne)namerno:

• pri samem modeliranju,
• skozi učenje na podlagi pristranskih preteklih odločitev ali
• zaradi nepravilne uporabe oziroma napačne razlage.20

Zaradi tega je pomembno, da se algoritmi UI razvijajo z etičnim premislekom in družbeno odgovornostjo, da se prepreči prispevanje k družbeni neenakosti.

Delodajalci pogosto uporabljajo sisteme UI v procesu zaposlovanja, začenši z optimizacijo oglasov za delo in izvajanjem ciljno usmerjenih iskanj kandidatov.²¹  Ko prejmejo veliko število prijav, kar predstavlja kadrovski zalogaj, si z uporabo sistemov UI22 pomagajo pri hitrejšem razvrščanju kandidatov in celo izvajajo avtomatizirane razgovore.

V ZDA so priljubljeni intervjuji, kjer kandidati odgovarjajo na vprašanja preko kamere. Pri tem algoritmi analizirajo ne le odgovore, ampak tudi biometrične podatke, kot so videz in glas. V končni fazi izbirnega postopka sistemi UI pomagajo delodajalcem pri izbiri, s priporočanjem najboljšega kandidata.23

Vendar pa se sistemi UI ne uporabljajo samo pri zaposlovanju, temveč tudi za usposabljanje in ocenjevanje delovne uspešnosti delavcev. Nekateri delodajalci celo raziskujejo možnost uporabe UI klepetalnih robotov, ki bi pomagali delavcem z osnovnimi vprašanji v zvezi z delovnim razmerjem, kar naj bi delodajalcem oziroma kadrovskim službam omogočalo, da se osredotočijo na strateško razmišljanje.24

Kljub prednostim, ki jih UI prinaša, obstajajo tveganja povezana z možno pristranskostjo in diskriminacijo v teh sistemih, ki se lahko učijo iz pristranskih podatkov. Izbira kandidata je namreč vsaj v enem delu subjektivna odločitev delodajalca. Ker je izhodni logiki teh sistemov težko slediti, se sisteme UI pogosto označuje kot »sisteme črne škatle«.25 Ta nepreglednost sprejemanja odločitev sistemov UI lahko povzroči težave zlasti v dokaznem postopku, v katerem bi neizbrani kandidat zatrjeval diskriminatorno obravnavo.

 

Kaj so prinesli prvi primeri UI diskriminacije na sodišču?

V avgustu 2023 v ZDA vložena prva tožba zaradi uporabe sistema UI v postopku zaposlovanja,26 ki je zavrnil kandidate, ki so presegali določeno starost. V obravnavani tožbi se je tožnica prijavila na razpisano delovno mesto in bila samodejno zavrnjena zaradi svoje starosti. Ko je v naslednjo prijavo vnesla lažno, nižjo starost pa je prejela vabilo na razgovor. Primer se je zaključil s poravnavo, kjer se je tožena stranka zavezala plačati odškodnino in izpolniti nase prevzete obveznosti.

V EU pa se je na področju UI obravnavala npr. zadeva Deliveroo,27 ki predstavlja enega prvih korakov v preprečevanju diskriminatornih praks algoritmov. Dostavljalci hrane Deliveroo so zaradi algoritemskih odločitev utrpeli negativne posledice, če svoje izmene niso uspeli odpovedati pravočasno ali če nanjo niso prišli, četudi so za to imeli zakoniti razlog. Italijansko sodišče je ugotovilo, da ta nezmožnost algoritma, da upošteva razloge, kot so stavke, zdravstveni ali družinski razlogi, pomeni posredno diskriminacijo. Ta sodba tudi poudarja pomen večje preglednosti delovanja algoritmov, kar je nato prepoznala tudi EU s svojimi prizadevanji na zakonodajni ravni.

Zaradi razvoja UI postaja vprašanje pričakovane zasebnosti na delovnem mestu vse bolj zapleteno.

Nepreglednost sistemov UI predstavlja izziv v dokazovanju diskriminacije v postopkih zaposlovanja – pa tudi kasneje, zaradi česar je dokazovanje za posameznika izjemno težko (probatio diabolica). Predvsem zaradi otežkočene sledljivosti in dejstva, da so taki sistemi pogosto zavarovani s pravicami intelektualne lastnine. To vprašanje je pomembno tudi za delodajalce, saj morajo v postopkih, povezanih z očitkom diskriminacije, izpolniti zahtevo po jasnosti, da se razbremenijo dokaznega bremena in s tem morebitne (odškodninske) odgovornosti.

 

Nas čaka dehumanizacija delovnega okolja?

Sistemi UI v delovnem okolju prevzemajo vloge, ki so bile tradicionalno v domeni človeka,25 kar vsaj v enem delu odstranjuje človeško prisotnost in dehumanizira postopek zaposlovanja in delovnega okolja na sploh.24 Razprava o podelitvi »elektronske osebnosti« robotom, ki jo je predlagal Evropski parlament, odraža kompleksnost te problematike.28

V procesih zaposlovanja, kjer se uporabljajo sistemi UI, se pojavlja izziv pri uravnoteženju človeških in umetnih vrednot, ki jih je UI podelil ustvarjalec sistema. Kot take uživajo določeno jasnost, kar jih razlikuje od običajno nepreglednih človeških vrednot. Kandidat kot tak zato ne vpliva v celoti na zaposlitveni algoritem, ampak se ga presoja na podlagi vnaprej vnesenih podatkov in meril.

Ta pristop lahko pri kandidatih in zaposlenih povzroči občutek omejenih možnosti za uspeh, ki izhajajo iz nezmožnosti algoritmov, da bi v celoti razumeli človeško interakcijo in izraznost. Prav tako se lahko kljub uspehu počutijo dehumanizirano, omejene na svoje lastnosti in objektivizirano.24

Zdi se, da se tudi algoritmi, podobno kot ljudje, v celoti zanašajo na umetne vrednote, ki človeške odnose v končni posledici oropajo tistega, kar jih dela izrazito dragocene.29 Tako bi se npr. kandidat pri razgovoru za službo, ki bi potekal preko programske opreme UI, lahko počutil dehumaniziranega, ker bi ga UI obravnavala zgolj kot niz podatkovnih točk, pri tem pa ignorirala njegove osebne izkušnje in nebesedno komunikacijo.

K občutku dehumanizacije lahko prispevajo tudi morebitna generična sporočila o neuspešnem razgovoru, pomanjkanje empatije in odsotnost priložnosti lastnega izražanja in ustvarjanja povezave med kandidatom in izpraševalcem.

 

Koristi, ki jih prinaša UI

Zaradi omejenega obsega prispevka je nemogoče nasloviti UI z vseh vidikov, vsekakor pa ne smemo prezreti tudi njenih (ne malo) koristi. Ena izmed izvedenih študij30 je npr. pokazala tri prednosti uvedbe sistemov UI v delovno okolje, in sicer:

• povečanje produktivnosti (predvsem pri manj usposobljenih in novejših delavcih),
• prilagojeno učenje ter
• razvoj in izboljšane storitve za stranke.

Prav tako lahko sistemi UI:

• olajšajo opravljanje dela na daljavo,
• zmanjšujejo možnost napak,
• fizičnih naporov in
• tveganj na nekaterih delovnih mestih ter
• oblikujejo nova delovna mesta.³¹

Prav tako se lahko z vključevanjem UI, ki je v pomoč delavcem pri nalogah, ki so izrazito administrativne, omogoči, da se ukvarjajo s ključnimi, morda bolj kreativnimi vidiki svojega poklica.32 UI tako skozi optimizacijo, nedvomno pozitivno vpliva na delovni proces.

 S svojo sposobnostjo obdelave velike količine podatkov in prepoznavanja vzorcev, UI omogoča delodajalcem, da učinkoviteje spremljajo in analizirajo delovne prakse. V luči razprav ob sprejemu novele ZEPDSV-A, kot primer navajam orodja, ki temeljijo na UI in lahko avtomatizirajo procese beleženja delovnega časa.33 Ti sistemi lahko:

• samodejno izračunavajo nadure,
• sledijo plačanemu dopustu in
• zagotavljajo natančno poročanje za namene obračuna plač.

Z avtomatizacijo nalog, povezanih s skladnostjo, lahko delodajalci zmanjšajo napake in minimizirajo tveganje za neskladnost. Prav tako lahko z zagotavljanjem preglednosti lastne uporabe delovnega časa, zaposleni identificirajo področja, kjer lahko izboljšajo produktivnost ali bolj učinkovito razporedijo čas. Na tak način imajo zaposleni večji nadzor nad ravnovesjem med delom in zasebnim življenjem.33

 

Implementacija UI naj bo premišljena

 Vključevanje UI na trg dela prinaša nove priložnosti in izzive, kar zahteva premislek o tradicionalnem okvirju delovnega razmerja. Trenutna slovenska zakonodaja ponuja le parcialne rešitve, zato je ključno, da se pravo pravočasno odzove na razvoj UI, da zaščiti temeljne pravice delavcev.

Pomembno je, da je implementacija UI v delovno okolje premišljena in ne upošteva le privlačnosti UI za delodajalce zaradi njene učinkovitosti pri opravljanju rutinskih opravil in optimizacije stroškov delovnega procesa, ter da se omogoči delavska paritcipacija.

Dosedanji teoretski pristopi se običajno osredotočajo na izgubo delovnih mest, vendar je enako pomemben vpliv UI na kakovost obstoječih delovnih mest in na – že tako obremenjen – odnos med delavci in delodajalci. Ne smemo namreč spregledati, da UI v določeni meri poustvarja odločitve, ki so obstajale že pred njo. Ker je UI neizbežna in tudi v veliki meri koristna, mora zakonodajalec poskrbeti za vzpostavitev občutljivega ravnovesja med spodbujanjem inovacij ter varovanjem pravic in dostojanstva delavcev, in s tem sobivanja UI in delavcev.

 

*** Članek je bil najprej objavljen v HR&M, št. 51; april/maj 2024, izdajatelj @Planet GV

LITERATURA IN VIRI:

1. Evropski parlament, Report on artificial intelligence (“AI”) in a digital age (2022), str. 10.
2. EK, White paper on AI (2020), str. 1.
3. EK, A European approach to AI.
4. Bagari, S. (2023), Tveganja pri uvajanju UI v delovna razmerja in možne pravne rešitve, Delavci in delodajalci, 23, 2-3, 237-238.
5. Bagari, S. (2022), Uporaba algoritmov na področju delovnih razmerij in socialne varnosti, Delavci in delodajalci, 22, 1, 41.
6. Prvi odstavek 5. člena Zakona o varnosti in zdravju pri delu (Ur. l. RS, št. 43/11).
7. Zakon o delovnih razmerjih (Ur. l. RS, š 21/13 s spremembami, »ZDR-1«).
8. Zakon o varstvu osebnih podatkov (Ur. l. RS, št. 163/22, »ZVOP-2«).
9. Zakon o evidencah na področju dela in socialne varnosti (Ur. l. RS, š 40/06 s spremembami, »ZEPDS«).
10. Uredba (EU) 2016/679 Evropskega Parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES, Ur. l. EU, L 119, 4. 5. 2016.
11. EK, Predlog Direktive Evropskega Parlamenta in Sveta o izboljšanju delovnih pogojev pri platformnem delu (2021), prva točka.
12. Predlog Uredbe Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o UI in spremembi nekaterih zakonodajnih aktov Unije.
13. Točka 4 Priloge III k Aktu o UI, str. 4.
14. Tretji odstavek 29. člena Akta o UI.
15. Dostopno na URLhttps://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473 (4. 2. 2024).
16. De Stefano, V. (2018), Negotiating the Algorithm: Automation, AI and labour protection, Working Paper No. 246.
17. Gibson, K. (2019), Amazon under fire for software that recommends firing workers.
18. Soper, S. (2021), Fired by Bot at Amazon: It’s You Against the Machine.
19. Sodba ESČP Bărbulescu v. Romania, št. zadeve: 61496/08 z dne 5. 9. 2017.
20. Ferrer x. et al. (2021), Bias and discrimination in AI: A cross-disciplinary perspective, IEEE Technology and Society Magazine, Vol. 40, No. 2, 73.
21. QC, A. R., Masters, D. (2021), Technology Managing People – the legal implications.
22. Mohan, P. R. (2023), Top 5 AI tools for HR and hiring needs.
23. Phillips, F. (2023), How is HR Using AI?
24. Fritts, M., Cabrera, F. (2021) AI recruitment algorithms and the dehumanization problem, Ethics and Information Technology, Vol. 23, Issue 4, 791-801.
25. Diakopoulos, N., (2015,) Algorithmic Accountability, Digital Journalism, Vol. 3, Issue 3, 398–415.
26. Dostopno na URL: https://storage.courtlistener.com/recap/gov.uscourts.nyed.479565/gov.uscourts.nyed.479565.24.1.pdf (18. 1. 2024).
27. Case N. R.G. 2949/2019 Filcams Cgil Bologna and others v. Deliveroo ITALIA S.R.L, judgment of Dr. Chiara Zompì, 31. 12. 2020.
28. Dostopno na URL: https://www.europarl.europa.eu/doceo/document/JURI-PR-582443_EN.pdf (18. 1. 2024).
29. Nemac, L. (2023), UI in delovno pravo, Magistrsko delo.
30. Brynjolfsson, E., Li, D, Raymond, L. R. (2023), Generative AI at Work, Working Paper 31161.
31. Abdelhay, D. M. (2022), How AI can affect the process of recruitment and improve the quality of new hired employees.
32. Farell, K. (2023), Future regulation of AI and employment law considerations.
33. Dostopno na URL: https://archarina-software.medium.com/the-rise-of-ai-powered-time-tracking-what-to-expect-in-the-coming-years-e828ceb030f9 (21. 1. 2024).