13.3.2024
NEWTECH
> Nove tehnologije

AI Act: Skok v ureditev umetne inteligence v EU

Evropska unija (EU) je s predlaganim AI Actom naredila pomembne korake k ureditvi umetne inteligence (AI). Ta zakonodaja si prizadeva zagotoviti, da so AI sistemi, ki se uporabljajo znotraj EU, varni in spoštujejo temeljne pravice in vrednote EU.

Pristop na podlagi tveganja

AI Act sledi ‘pristopu na podlagi tveganja’, kar pomeni, da so strožja pravila, ki jih mora upoštevati AI sistem, če družbi predstavlja večje tveganje. Ta pristop je zasnovan tako, da zmanjšuje morebitno škodo, hkrati pa spodbuja inovacije in rast v sektorju AI.

Postopek sprejemanja

Postopek sprejemanja AI Acta je nenehno potovanje. Evropska komisija je AI Act prvič predlagala aprila 2021. Evropski parlament je junija 2023 glasoval o svojem stališču, nato so se začela pogajanja za dokončanje nove zakonodaje. Začasni dogovor je bil dosežen 9. decembra 2023, kar predstavlja pomemben mejnik na poti Acta.

Februarja 2024 so predstavniki držav članic EU formalno odobrili končno besedilo AI Acta. Nato je bil Act predložen v glasovanje Odboru za državljanske svoboščine, pravosodje in notranje zadeve (LIBE) in Odboru za notranji trg in varstvo potrošnikov (IMCO) v EU parlamentu, ki so Act odobrili z izjemno ugodnim glasovanjem. To je Act postavilo na pot, da postane zakon.

Končno parlamentarno odobritev AI Acta pričakujemo aprila. Ko bo odobren, bo Act začel veljati dve leti po končni odobritvi.

Kaj je dogovorjeno?

Začasni dogovor o AI Actu vključuje več ključnih elementov:

Visoko vplivni splošni AI modeli: Act poudarja ureditev visoko vplivnih splošnih AI modelov, ki lahko v prihodnosti povzročijo sistemsko tveganje. To vključuje AI sisteme, ki imajo potencial, da bistveno vplivajo na fizično ali virtualno okolje in družbo kot celoto.

Visoko tvegani AI sistemi: Act se osredotoča tudi na visoko tvegane AI sisteme. To so AI aplikacije, ki imajo velik potencial za škodo, kot so tiste, ki se uporabljajo v kritični infrastrukturi, izobraževanju, zaposlovanju, bistvenih zasebnih in javnih storitvah, kazenskem pregonu, migracijah, azilu in nadzoru meja ter upravi pravice.

Revidiran sistem upravljanja: Dogovorjen je bil revidiran sistem upravljanja z nekaterimi izvršilnimi pooblastili na ravni EU. To je zasnovano tako, da zagotavlja skladnost z Actom in učinkovito obravnava morebitne kršitve.

Transparentnost in stresno testiranje: Act uvaja posebna pravila za splošne AI modele, da zagotovi transparentnost vzdolž verige vrednosti. Za zelo močne modele, ki bi lahko predstavljali sistemsko tveganje, bodo dodatne zavezujoče obveznosti, povezane z upravljanjem tveganj in spremljanjem resnih incidentov, izvajanjem ocenjevanja modelov in nasprotnega testiranja.[1]

Spodbujanje inovacij AI: Poleg upravljanja in izvrševanja AI Act cilja na spodbujanje inovacij AI znotraj EU. Vključuje določbe za spodbujanje enotnega trga za AI aplikacije, ki se usklajujejo s koordiniranim načrtom EU o umetni inteligenci za pospeševanje naložb v AI po vsej Evropi.[2]

Ti elementi predstavljajo celovit pristop k ureditvi AI, ki uravnoteži potrebo po varnosti in etičnih premislekih z željo po spodbujanju inovacij in rasti v sektorju AI. Končno besedilo AI Acta, ki naj bi bilo objavljeno v prvem četrtletju leta 2024, bo podrobneje predstavilo te in druge vidike zakonodaje.

Pot naprej

AI Act zdaj čaka na odobritev zakonodajalcev EU, preden bodo pravila začela veljati. Ta zakonodaja predstavlja pomemben korak k urejeni krajini AI v EU, ki uravnoteži potrebo po inovacijah s pomembnostjo varnosti in etičnih premislekov.

Upoštevajte, da so te informacije natančne glede na najnovejše razpoložljive vire in se lahko spremenijo. Za najnovejše informacije se obrnite na uradne vire EU.

Avtor: Microsoft. (2024). Copilot. https://copilot.microsoft.com/

 

Ker je to prvi članek in prevod (izvorno besedilo je bilo pripravljeno v angleškem jeziku, slovenska verzija predstavlja prevod), ki je objavljen na naši spletni strani in ga je ustvaril sistem AI, bi rad dodal pravno oceno avtorstva in potrdil, da je bil izveden bistven etični pregled za objavo članka ustvarjenega s sistemom AI.

Pravna ocena avtorstva:

Zgoraj navedeni članek in njegov prevod, ki je rezultat sistema AI Copilot, se šteje za produkt, ki ga je pomagal ustvariti AI (in ne produkt, ki ga je ustvaril AI), ker je bilo besedilo ustvarjeno s ključnim človeškim posredovanjem (in ne brez človeškega posredovanja). Samo produkti, ki jih pomaga ustvariti AI, se lahko klasificirajo kot “avtorsko dela” skladno z avtorskim pravom EU v skladu s splošnim načelom avtorskega prava, kjer so samo fizične osebe lahko avtorji avtorskih del.

Nadalje bi se avtorstvo zgoraj navedenega članka lahko presojalo le, če bi se članek lahko kvalificiral kot “ avtorsko delo”, zaščiteno z avtorskimi pravicami EU. Da bi se produkt AI kvalificiral kot “avtorsko delo”, zaščiteno z avtorskimi pravicami EU, morajo biti izpolnjeni kriteriji “štiristopenjskega testa”, ki je bil vzpostavljen v poročilu Trendi in razvoj umetne inteligence, pripravljenem za Evropsko komisijo:

Korak 1 – Produkt na literarnem, znanstvenem ali umetniškem področju – zgoraj navedeni članek je izražen v literarni obliki, ustvarjen kot produkt, ki ga je pomagal ustvariti AI, in kot tak izpolnjuje ta materialni predpogoj za produkt, zato lahko potrdimo, da je ta kriterij izpolnjen;

Korak 2 – Človeški intelektualni napor – ker je bil članek ustvarjen z AI sistemom (Copilot), ki je nadzoroval in vodil ustvarjalni proces zgoraj navedenega članka, in je ta AI sistem proizvod človeškega intelektualnega napora, lahko potrdimo, da je ta kriterij izpolnjen;

Korak 3 – Izvirnost/kreativnost (kreativna izbira) – lahko potrdimo, da je bil sistem AI sposoben izraziti svoje ustvarjalne sposobnosti (zamisel, izvedba in redakcijo) v procesu ustvarjanja dela z izvajanjem prostih in kreativnih izbir, zato lahko potrdimo, da je ta kriterij izpolnjen;

Korak 4 – Izraz – ker produkt ostaja v okviru splošne avtorske namere sistema AI, je tudi ta kriterij izpolnjen.

Lahko zaključimo, da bi se zgoraj navedeni članek lahko klasificiral kot “avtorsko dela” po avtorskem pravu EU, zato je avtorstvo članka mogoče.

Ker je Copilot pripravil zgoraj navedeni članek samo na podlagi mojega vstavljenega poziva (“Ali lahko pripraviš kratek članek o AI Actu in trenutnem stanju postopka sprejemanja. Članek naj bo kratek in informativen.”), je bila moja vloga v kontekstu avtorstva pasivna, ker nisem mogel izvajati prostih izbir na nobeni stopnji ustvarjalnega procesa. To pomeni, da se razvijalec sistema AI, ki ima dominantno vlogo v izvedbeni fazi, šteje za avtorja zgoraj navedenega članka v skladu s splošnim načelom avtorskega prava »avtorske pravice se prvotno pripisujejo osebi, ki je ustvarila delo«. Ker je avtor fizična oseba, ki je ustvarila avtorsko delo, se zanašam in zaupam Microsoftu, da je uspešno pridobil vse materialne avtorske pravice na sistemu AI, ki so ga razvile fizične osebe. Nadalje določbe splošnih pogojev o izkušnji z AI Copilotom določajo, da Microsoft ne prevzema avtorstva nad stvaritvami. Ne glede na to sklepam, da je pravilno trditi, da je Microsoft avtor tega članka, še posebej, ker je bila moja vloga v ustvarjalnem procesu omejena in težko trdim, da sem jaz ustvaril ta članek. Izvedena bi mogla biti nadaljnja analiza v zvezi s to presojo (morda v naslednjem članku?), kar to nekako presega namen te pravne ocene.

 

Etični pregled za objavo članka, ki ga je ustvarila umetna inteligenca, na spletni strani

Kontrola kakovosti: Članek je pregledal in preveril Aljaž Jadek, ki potrjuje, da je kakovost članka zadostna za objavo in da v njem ni napak (tj. halucinacij AI).

Izogib plagiatorstvu: Članek je z vidika plagiatorstva pregledal in preveril Aljaž Jadek. Le odseki, označeni z opombami, so citati iz drugih publikacij, zato članek ne predstavlja plagiatorstva.

Ohranjanje kreativnosti: Po mnenju Aljaža je vsebina edinstvena, informativna in zanimiva ter zato primerna za objavo.

Etični razmislek: Po mnenju Aljaža vsebina ni zavajajoča ali kako drugače etično problematična in je zato primerna za objavo.

Označitev vsebine AI: Transparentno je razkrito, da je članek ustvaril sistem umetne inteligence – Copilot.

Najboljše prakse SEO: Članek ni bil ustvarjen in objavljen za manipulacijo z iskalnimi uvrstitvami, ampak za informativne namene in opis trenutnega stanja postopka sprejemanja AI Act.

[1] https://ireland.representation.ec.europa.eu/news-and-events/news/commission-welcomes-political-agreement-artificial-intelligence-act-2023-12-09_en

[2] https://www.eeas.europa.eu/delegations/australia/world%E2%80%99s-first-ai-law-eu-announces-provisional-agreement-ai-act_en?s=163