Evropski zakon o umetni inteligenci je 2. februarja 2025 uvedel večje spremembe, s katerimi je nekatere prakse umetne inteligence po vsej EU postal nezakonite. Nizozemska podjetja morajo zdaj upoštevati stroga pravila o tem, katere sisteme umetne inteligence lahko uporabljajo.
Podjetja, ki ne bodo odstranila prepovedanih orodij umetne inteligence, se soočajo z visokimi globami in morebitnimi pravnimi ukrepi proti vsem, ki utrpijo škodo.
Od februarja 2025 so na Nizozemskem prepovedani sistemi umetne inteligence, ki manipulirajo z ljudmi, uporabljajo socialno točkovanje, kategorizirajo posameznike na podlagi biometričnih podatkov ali uporabljajo prepoznavanje obrazov v realnem času v javnih prostorih. Te prepovedi zajemajo tudi tehnologijo prepoznavanja čustev na delovnih mestih in v šolah, skupaj z neciljnim zbiranjem slik obrazov z interneta za izdelavo podatkovnih baz za prepoznavanje.
Pravila veljajo takoj in podjetjem ne dajejo nobenega obdobja mirovanja za postopno opustitev teh sistemov. Razumevanje, katere prakse umetne inteligence so prepovedane in katere korake mora vaša organizacija sprejeti, je bistvenega pomena, da se izognete kaznim.
Ta priročnik pojasnjuje posebne prepovedi, opisuje vaše dolžnosti glede skladnosti kot nizozemskega podjetja in zajema zahteve glede usposabljanja, potrebne za ohranitev zakonitosti vašega poslovanja v skladu z novo zakonodajo.
Kaj zajemajo prepovedi
Uredba (EU) 2024/1689, znana kot Zakon EU o umetni inteligenci , je uvedla posebne prepovedi glede nekaterih praks umetne inteligence, ki so začele veljati 2. februarja 2025. Ta pravila veljajo za vaše nizozemsko podjetje, če razvijate, uvajate ali uporabljate sisteme umetne inteligence na Nizozemskem ali v širši Evropski uniji.
Obseg prepovedanih praks umetne inteligence
Zakon o umetni inteligenci prepoveduje določene prakse umetne inteligence, ki predstavljajo nesprejemljivo tveganje za temeljne pravice in evropske vrednote. Člen 5 Uredbe (EU) 2024/1689 opredeljuje te prepovedane prakse na podlagi njihove morebitne škode in ne na podlagi same tehnologije.
Glavne prepovedane kategorije vključujejo:
- Manipulativni sistemi umetne inteligence ki izkoriščajo ranljivosti določenih skupin
- Sistemi socialnega točkovanja, ne glede na to, ali ga upravlja javni organ ali zasebno podjetje
- Biometrična identifikacija na daljavo v realnem času v javno dostopnih prostorih za organe pregona (z omejenimi izjemami)
- Biometrični sistemi kategorizacije ki sklepajo na občutljive atribute
- Neciljno strganje slik obrazov z interneta ali posnetkov nadzornih nadzornih sistemov
Vaše podjetje spada pod te prepovedi, ne glede na to, ali delujete kot ponudnik, uvajalec ali distributer umetne inteligence na Nizozemskem. Nizozemski organ za varstvo podatkov sodeluje z drugimi organi pregona Evropske unije, da bi zagotovil skladnost.
Neupoštevanje prepovedi se kaznuje z globami do petintrideset milijonov evrov ali sedmimi odstotki svetovnega letnega prometa, kar je višje.
Datumi veljavnosti in prehodna obdobja
Prepovedi iz 5. člena so začele veljati 2. februarja 2025. To pomeni, da mora vaše podjetje nemudoma upoštevati ta pravila, če uporablja ali razvija ustrezne sisteme umetne inteligence.
Okvir izvrševanja sledi postopnemu časovnemu načrtu. Vse kazni, strukture upravljanja in določbe o zaupnosti začnejo veljati 2. avgusta 2025.
To vaši organizaciji daje šestmesečno obdobje, v katerem pravila veljajo, vendar so celotni mehanizmi izvrševanja še v fazi vzpostavljanja. Evropska komisija je 4. februarja 2025 objavila uradne smernice, da bi pojasnila, kako te prepovedi delujejo v praksi.
Izvrševanje je organizirano prek nacionalnih organov za nadzor trga, ki jih mora imenovati vsaka država članica. Nizozemska še ni dokončala izvedbenega akta, ki bi jih formalno imenoval; v pripravljalni fazi nizozemski organ za varstvo podatkov in nizozemski organ za digitalno infrastrukturo delujeta kot usklajevalna organa, sektorski regulatorji pa nadzorujejo umetno inteligenco na svojih področjih. Prepoved sama velja ne glede na to: dejstvo, da se struktura izvrševanja še dokončuje, ne pomeni, da je prepovedana praksa zakonita, sistem, ki krši 5. člen, pa v večini primerov krši tudi GDPR, kar lahko nizozemski organ za varstvo podatkov uveljavlja že danes.
Ključne definicije: sistemi in prakse umetne inteligence
Člen 3 Uredbe opredeljuje sistem umetne inteligence kot sistem, ki temelji na stroju in je zasnovan za delovanje z različnimi stopnjami avtonomije, ki lahko po uvedbi pokaže prilagodljivost in ki na podlagi prejetih vhodnih podatkov sklepa, kako ustvariti izhodne podatke, kot so napovedi, vsebina, priporočila ali odločitve, ki lahko vplivajo na fizično ali virtualno okolje. Element, ki opravlja delo v tej definiciji, je sklepanje: sistem, ki zgolj uporablja pravila, ki jih je oseba v celoti zapisala, ni sistem umetne inteligence, medtem ko model, ki iz podatkov izpelje lastno pravilo odločanja, to velja.
Prepovedana praksa umetne inteligence se nanaša na specifične načine uvajanja ali uporabe umetne inteligence, ki jih Evropska unija šteje za nesprejemljive. Prepoved velja za samo prakso, ne za osnovno tehnologijo.
To pomeni, da lahko isti sistem umetne inteligence uporabljate za dovoljene namene, medtem ko vam je prepovedano uporabljati določene aplikacije. Vaše podjetje mora razlikovati med sistemom umetne inteligence (tehnologijo) in njegovo prakso (kako ga uporabljate).
Sistem umetne inteligence za prepoznavanje obrazov je morda zakonit za nadzor dostopa v stavbah, vendar prepovedan za nadzor v realnem času v javnih prostorih. Kontekst in uporaba določata zakonitost v skladu z Uredbo (EU) 2024/1689.
Podroben seznam prepovedanih praks umetne inteligence
Zakon EU o umetni inteligenci prepoveduje specifične aplikacije umetne inteligence, ki predstavljajo nesprejemljivo tveganje za temeljne pravice in varnost. Te prepovedane prakse spadajo v tri glavne kategorije: sistemi, ki manipulirajo s človeškim vedenjem, tisti, ki izkoriščajo ranljive skupine , in mehanizmi, ki omogočajo množični nadzor s socialnim točkovanjem.
Manipulativni in zavajajoči sistemi
Zakon o umetni inteligenci prepoveduje vsak sistem umetne inteligence, ki uporablja subliminalne tehnike za bistveno izkrivljanje človeškega vedenja na načine, ki povzročajo škodo. To so metode, ki delujejo onkraj vaše zavesti in vplivajo na vaše odločitve ali dejanja.
Prepovedane manipulativne prakse vključujejo:
- Sistemi umetne inteligence, ki uporabljajo subliminalne komponente, ki jih ne morete zaznati
- Sistemi, zasnovani za izkoriščanje starostnih ranljivosti pri otrocih
- Tehnologije, ki manipulirajo z vedenjem, da bi povzročile fizično ali psihično škodo
Umetne inteligence ne smete uporabljati za namerno zavajanje ljudi na načine, ki bi lahko povzročili znatno škodo . To pomeni, da vaše podjetje ne sme uporabljati klepetalnih robotov ali virtualnih asistentov, ki uporabnike zavajajo glede njihove umetne inteligence, kadar bi ta zavajanja lahko povzročila škodo.
Prepoved velja tudi za sisteme umetne inteligence, ki uporabljajo temne vzorce ali psihološko manipulacijo, da bi uporabnike spodbudili k škodljivim odločitvam. Zakon ščiti posameznike pred praksami umetne inteligence, ki se izognejo racionalnemu odločanju.
Če vaš sistem umetne inteligence vpliva na vedenje s skritimi manipulacijami in ne s preglednimi informacijami, krši zakon.
Izkoriščanje ranljivih posameznikov
Sistemi umetne inteligence, ki izkoriščajo ranljivosti, povezane s starostjo, invalidnostjo ali socialnimi ali ekonomskimi okoliščinami, so strogo prepovedani. Umetne inteligence ne smete uporabljati za izkoriščanje ljudi, ki nimajo sposobnosti razumevanja ali upiranja manipulaciji.
Ta prepoved zajema umetno inteligenco, ki cilja na neizkušenost otrok ali kognitivni upad starejših posameznikov. Vaše podjetje ne sme uporabljati sistemov, ki izkoriščajo telesne ali duševne invalidnosti za manipulacijo vedenja.
Tudi umetna inteligenca, ki izkorišča ekonomsko obup ali socialno izolacijo, spada pod to prepoved.
Zaščitene ranljive skupine vključujejo:
- Otroci in mladoletniki
- Starejše osebe s kognitivnimi motnjami
- Ljudje s telesnimi ali duševnimi motnjami
- Posamezniki, ki se soočajo z ekonomskimi težavami
Prepoved velja, kadar vaš sistem umetne inteligence povzroča ali bi lahko povzročil znatno škodo z izkoriščanjem. Oceniti morate, ali bi vaše aplikacije umetne inteligence lahko nepošteno ciljale na ranljive skupine prebivalstva.
Socialno točkovanje in vedenjsko profiliranje
Zakon o umetni inteligenci prepoveduje sisteme umetne inteligence, ki ocenjujejo ali razvrščajo ljudi na podlagi njihovega socialnega vedenja ali osebnih značilnosti. Ne smete uporabljati mehanizmov socialnega točkovanja, ki vodijo do nepravične obravnave ali škode.
Socialno točkovanje vključuje ocenjevanje posameznikov na podlagi njihovega vedenja, odnosov ali predvidenega vedenja. To ustvarja profile, ki določajo dostop do storitev, priložnosti ali pravic.
Prepovedane dejavnosti socialnega točkovanja vključujejo:
- Ocenjevanje državljanov na podlagi socialnega ali poklicnega vedenja
- Ustvarjanje ocen zaupanja iz osebnih podatkov
- Napovedovanje kriminalnega vedenja na podlagi profiliranja
- Zavrnitev storitev na podlagi vedenjskih ocen
Ne morete uvesti sistemov umetne inteligence, ki dodeljujejo ocene, s katerimi se določa, ali nekdo prejema zdravstveno varstvo, izobraževanje, zaposlitev ali finančne storitve. Prepoved velja ne glede na to, ali te sisteme upravljate kot javni organ ali zasebno podjetje.
Tudi biometrična identifikacija na daljavo v javnih prostorih spada pod stroge prepovedi z omejenimi izjemami za organe pregona.
Prepovedi biometričnega prepoznavanja, prepoznavanja obrazov in umetne inteligence, ki temelji na čustvih
Zakon EU o umetni inteligenci prepoveduje več vrst biometričnih sistemov in sistemov za prepoznavanje obrazov, ki predstavljajo tveganje za temeljne pravice . Te prepovedi vplivajo na to, kako lahko nizozemska podjetja uporabljajo biometrične podatke , podatkovne zbirke za prepoznavanje obrazov, orodja za prepoznavanje čustev in sisteme za identifikacijo v realnem času v javnih prostorih.
Biometrična kategorizacija
Sistemov umetne inteligence, ki ljudi kategorizirajo na podlagi njihovih biometričnih podatkov, ne morete uporabljati za sklepanje o njihovi rasi, političnih prepričanjih, članstvu v sindikatu, verskih prepričanjih ali spolni usmerjenosti. Ta prepoved velja, ko te sisteme daste na trg, jih date v uporabo ali jih uporabljate za ta poseben namen.
Prepoved je usmerjena na sisteme, ki z biometrično analizo sklepajo o posameznikih. Vaše podjetje se zaradi neupoštevanja predpisov sooča z globami v višini do 7 % letnega svetovnega prometa.
Od tega pravila obstaja ena izjema. Zakonito pridobljene biometrične nabore podatkov, kot so slike, lahko v okviru kazenskega pregona označite ali filtrirate na podlagi biometričnih podatkov.
Zunaj organov pregona so te prakse kategorizacije še vedno popolnoma prepovedane.
Omejitve tehnologij za prepoznavanje obrazov
Podatkovnih baz za prepoznavanje obrazov ni mogoče ustvarjati ali širiti z nenamernim strganjem slik obrazov z interneta ali posnetkov nadzornih kamer. Ta prepoved je začela veljati 2. februarja 2025.
Za uporabo te prepovedi morajo biti izpolnjeni štirje pogoji:
- Praksa vključuje namestitev, servisiranje ali uporabo sistema umetne inteligence
- Namen je ustvariti ali razširiti baze podatkov za prepoznavanje obrazov
- Metoda uporablja nenamerno strganje slik obrazov
- Viri podatkov so internet ali posnetki nadzornih kamer
Ključna beseda je »neciljano«. Obraznih slik ni mogoče zbirati na širok in neselektivni način.
To pomeni, da v supermarketih ali javnih prostorih ne morete namestiti kamer, ki samodejno strgajo obraze za izdelavo podatkovnih baz za prepoznavanje brez posebnih meril ciljanja.
Prepoznavanje čustev pri zaposlovanju in izobraževanju
Sistemov umetne inteligence ni mogoče uporabljati za sklepanje o čustvih ljudi na delovnih mestih in v izobraževalnih ustanovah. Ta prepoved neposredno vpliva na kadrovske oddelke, šole in izobraževalne ustanove, ki bi lahko razmislile o orodjih za zaznavanje čustev.
Prepoved velja za vse sisteme umetne inteligence, zasnovane za branje ali interpretiranje čustvenih stanj v teh specifičnih okoljih. Ne glede na to, ali uporabljate analizo obraza, prepoznavanje glasovnih vzorcev ali druge biometrične kazalnike, ni pomembno.
Obstaja ena ozka izjema. Umetno inteligenco za prepoznavanje čustev lahko uporabite, če služi medicinskim ali varnostnim namenom.
Na primer, spremljanje voznikove pozornosti zaradi varnostnih razlogov ali zaznavanje stiske pacientov v zdravstvenih ustanovah lahko spada pod to izjemo.
Omejitve pri oddaljeni biometrični identifikaciji
Sistemov za oddaljeno biometrično identifikacijo v realnem času ni dovoljeno uporabljati v javno dostopnih prostorih za namene kazenskega pregona, razen v strogo določenih okoliščinah. Te izjeme vključujejo iskanje žrtev ugrabitve ali trgovine z ljudmi, preprečevanje neposrednih groženj za življenje ali terorističnih napadov ter iskanje osumljencev hudih kaznivih dejanj, za katera je zagrožena zaporna kazen najmanj štirih let.
Za vsako uporabo je potrebno predhodno dovoljenje sodnega organa ali neodvisnega upravnega organa. V nujnih primerih lahko začnete uporabljati brez dovoljenja, vendar morate zaprositi za odobritev v 24 urah.
Če organi zavrnejo dovoljenje, morate takoj prenehati uporabljati sistem in izbrisati vse podatke. Nizozemska lahko v okviru nacionalne zakonodaje določi lastna podrobna pravila za te izjeme.
Vaše podjetje mora o vsaki uporabi obvestiti pristojni organ za nadzor trga in nacionalni organ za varstvo podatkov. Države članice Evropski komisiji predložijo letna poročila o uporabi biometrične identifikacije na daljavo v realnem času.
Obveznosti skladnosti za nizozemska podjetja
Nizozemska podjetja morajo sprejeti konkretne ukrepe za doseganje skladnosti z umetno inteligenco z identifikacijo prepovedanih sistemov, njihovo ukinitvijo iz poslovanja in vzdrževanjem ustrezne dokumentacije. Nizozemski organ za varstvo podatkov (DPA) in nizozemski organ za digitalno infrastrukturo bosta te zahteve uveljavljala z znatnimi kaznimi za kršitve.
Prepoznavanje prepovedane umetne inteligence znotraj operacij
V celotni organizaciji morate izvesti temeljite ocene tveganja, da bi odkrili sisteme umetne inteligence, ki bi lahko kršili nova pravila. To pomeni, da morate preučiti vse tehnologije, ki uporabljajo tehnike manipulacije, izkoriščajo ranljivosti, izvajajo socialno točkovanje ali izvajajo biometrične identifikacije v realnem času v javnih prostorih.
Začnite z izdelavo popisa vseh sistemov umetne inteligence, ki so trenutno v uporabi. Dokumentirajte, kaj vsak sistem počne, kako obdeluje podatke in na koga vpliva.
Posebno pozornost posvetite sistemom, ki komunicirajo s strankami, zaposlenimi ali javnostjo. Vaše ocene tveganja bi morale oceniti, ali bi kateri koli sistem lahko škodoval temeljnim pravicam.
To vključuje preverjanje, ali sistemi umetne inteligence sprejemajo odločitve o ljudeh na podlagi vedenja, osebnih značilnosti ali družbenih povezav. Sistemi, ki sledijo ali profilirajo posameznike brez preglednosti, zahtevajo takojšen pregled.
Sodelujte s svojimi tehničnimi ekipami, da bi razumeli, kako deluje vsak sistem umetne inteligence. Ne morete se zanašati samo na opise prodajalcev.
Nizozemski organ za varstvo podatkov je jasno povedal, da ste odgovorni za skladnost ne glede na to, ali ste sistem zgradili ali ga kupili od tretje osebe.
Postopno opuščanje ali odstranjevanje prepovedanih sistemov umetne inteligence
Prepovedane prakse umetne inteligence morate takoj prenehati uporabljati. Zakon ne dovoljuje prepovedi za prepovedane sisteme.
Če vaša ocena tveganja ugotovi prepovedano prakso, jo morate takoj deaktivirati. Pripravite načrt odstranitve, ki obravnava tako tehnične kot operativne vplive.
Nekateri sistemi so lahko vgrajeni v večje platforme ali povezani z več procesi. Zagotoviti boste morali, da odstranitev prepovedanih elementov ne moti bistvenih poslovnih funkcij.
Preden zaustavite sistem, ugotovite, kako boste obravnavali naloge, ki jih je prej opravljal. To lahko pomeni vrnitev k ročnim procesom, uvedbo drugačne tehnologije ali popolno preoblikovanje delovnih procesov.
Dokumentirajte vsak korak postopka odstranitve. Zabeležite, kdaj ste odkrili prepovedano prakso, katere ukrepe ste izvedli in kdaj je bil sistem popolnoma deaktiviran.
Regulatorji bodo pričakovali jasne dokaze, da ste ukrepali takoj, ko ste ugotovili kršitev.
Zapisi in dokumentacija
Vzdrževati morate tehnično dokumentacijo, ki dokazuje skladnost s pravili o prepovedi. To vključuje zapise o vaših ocenah tveganja, odločitvah o sistemih umetne inteligence in vseh spremembah, ki ste jih naredili za dosego skladnosti.
Vaša dokumentacija mora zajemati:
- Sistemski popisi z opisi posameznih aplikacij umetne inteligence
- Poročila o oceni tveganja prikaz vaše analize morebitnih kršitev
- Zapisi o odstranitvi podrobno o tem, kdaj in kako ste deaktivirali prepovedane sisteme
- Ocene vpliva na temeljne pravice za vse mejne primere
Zakon o umetni inteligenci ne določa fiksnega obdobja hrambe tega gradiva za skladnost s prepovedanimi praksami; obdobja hrambe evidenc, ki jih predpisuje, kot je deset let za tehnično dokumentacijo sistema z visokim tveganjem in minimalno obdobje za samodejno ustvarjene dnevnike, spadajo v poglavje o visokem tveganju. Svoje ocene hranite, dokler so še vedno na voljo, kar v praksi pomeni za zastaralni rok za morebitne zahtevke, ki bi lahko izhajali iz sistema, in jih morate na zahtevo predložiti. Posredovanje napačnih, nepopolnih ali zavajajočih informacij organu je ločeno kaznivo v skladu s členom 99 Uredbe.
Splošni opisi ali trženjsko gradivo ne izpolnjujejo te zahteve. Vključite tehnične specifikacije, podatkovne tokove in postopke odločanja.
Posodobite svojo dokumentacijo vsakič, ko spreminjate sisteme umetne inteligence ali uvajate nove. Potrebujete stalne procese, da zagotovite, da prihodnji sistemi ne bodo uvajali prepovedanih praks.
Zahteve glede pismenosti v zvezi z umetno inteligenco in usposabljanje osebja
Nizozemska podjetja, ki zagotavljajo ali uvajajo sisteme umetne inteligence, morajo od 2. februarja 2025 zagotoviti, da imajo njihovi zaposleni ustrezno znanje o umetni inteligenci. Ta obveznost velja ne glede na to, ali uporabljate sisteme umetne inteligence z visokim ali nizkim tveganjem.
Dokumentirani programi usposabljanja morajo biti prilagojeni vlogam in tehničnemu znanju vaših zaposlenih.
Pojasnjena obveznost pismenosti na področju umetne inteligence
Člen 4 Zakona EU o umetni inteligenci nalaga vsem ponudnikom in izvajalcem umetne inteligence zakonsko obveznost , da zagotovijo zadostno pismenost svojega osebja na področju umetne inteligence. Sprejeti morate ukrepe, s katerimi zagotovite, da osebje in izvajalci, ki se ukvarjajo s sistemi umetne inteligence, razumejo tehnologijo, s katero delajo.
Obveznost pismenosti na področju umetne inteligence velja za vse, ki upravljajo, uporabljajo ali sprejemajo odločitve o sistemih umetne inteligence v vašem imenu. To vključuje tehnično osebje, ki gradi ali vzdržuje sisteme umetne inteligence, pa tudi netehnične zaposlene, ki pri svojem vsakodnevnem delu uporabljajo orodja umetne inteligence.
Usposabljanje za opismenjevanje na področju umetne inteligence morate prilagoditi vlogi, tehničnemu znanju, izkušnjam, izobrazbi in specifičnemu kontekstu, v katerem vsak posameznik uporablja sisteme umetne inteligence. Razvijalec programske opreme, ki implementira modele umetne inteligence, potrebuje drugačno usposabljanje kot predstavnik službe za stranke, ki uporablja klepetalnice, ki jih poganja umetna inteligenca.
Obveznost od vas zahteva, da se "po svojih najboljših močeh" potrudite za zagotovitev ustrezne ravni pismenosti. Ne morete preprosto ponuditi simboličnega usposabljanja in zahtevati skladnosti.
Razvoj učinkovitih programov usposabljanja
Vaš program opismenjevanja na področju umetne inteligence bi moral obravnavati specifične sisteme umetne inteligence, ki jih uporablja vaša organizacija, namesto da bi zagotavljal splošne informacije. Zaposleni morajo razumeti, kako delujejo določena orodja umetne inteligence, s katerimi delajo, njihove omejitve in morebitna tveganja.
Vsebina usposabljanja naj bi zajemala:
- Osnovni koncepti umetne inteligence, pomembni za vaše sisteme
- Kako pravilno upravljati orodja umetne inteligence
- Potencialne pristranskosti in napake v rezultatih umetne inteligence
- Ko je potreben človeški nadzor
- Politike in postopki vaše organizacije za umetno inteligenco
Upoštevati morate začetno raven znanja vsakega zaposlenega. Tehnično osebje bo morda potrebovalo dodatno usposabljanje za razvoj in testiranje modelov, medtem ko splošni uporabniki potrebujejo praktične nasvete za interpretacijo rezultatov umetne inteligence in prepoznavanje, kdaj se rezultati zdijo napačni.
Usposabljanje se lahko izvaja v različnih oblikah, vključno z delavnicami, spletnimi tečaji, mentorstvom na delovnem mestu ali zunanjimi programi. Oblika je manj pomembna kot zagotavljanje, da zaposleni dejansko pridobijo potrebno znanje in veščine.
Dokumentiranje dejavnosti opismenjevanja na področju umetne inteligence
Voditi morate evidenco o svojih dejavnostih usposabljanja za opismenjevanje na področju umetne inteligence, da dokažete skladnost z zakonom EU o umetni inteligenci. Ta dokumentacija služi kot dokaz, da ste izpolnili svoje zakonske obveznosti.
Vaši zapisi naj vključujejo:
- Vsebina in gradiva programa usposabljanja
- Seznami zaposlenih, ki so opravili usposabljanje
- Datumi in trajanje usposabljanj
- Rezultati ocenjevanja (če je primerno)
- Kako ste določili ustrezne ravni pismenosti za različne vloge
Dokumentirajte svoj postopek za prepoznavanje potreb po pismenosti v zvezi z umetno inteligenco v vaši organizaciji. To vključuje, kako ste ocenili, kateri zaposleni potrebujejo usposabljanje in katero specifično znanje potrebujejo na podlagi njihove interakcije s sistemi umetne inteligence.
Vodite evidenco o tem, kako posodabljate usposabljanje, ko se vaši sistemi umetne inteligence spremenijo ali ko se vaši organizaciji pridružijo novi zaposleni. Pismenost na področju umetne inteligence ni enkratna zahteva, temveč stalna obveznost, ki se mora prilagajati vaši spreminjajoči se uporabi tehnologije umetne inteligence.
Nadzor, izvrševanje in kazni
Zakon EU o umetni inteligenci vzpostavlja večplastno strukturo izvrševanja z znatnimi finančnimi kaznimi za neupoštevanje. Nizozemska podjetja se soočajo z nadzorom tako nacionalnih kot evropskih organov, pri čemer globe za prepovedane prakse umetne inteligence dosežejo do 7 % svetovnega letnega prometa.
Nizozemski in nadzorni organi EU
Na Nizozemskem se nadzorna arhitektura še vedno vzpostavlja. Nizozemski organ za varstvo podatkov ima usklajevalno vlogo in je skupaj z nizozemskim organom za digitalno infrastrukturo pripravil okvir za nadzor trga, vendar zakon, ki imenuje pristojne organe in jim daje pooblastila v skladu z uredbo, še ni dokončan. Dokler ni, obstoječi regulatorji izvajajo v okviru svojih mandatov, nizozemski organ za varstvo podatkov pa ostaja organ, s katerim je treba upoštevati vse, kjer sistem umetne inteligence obdeluje osebne podatke.
Na evropski ravni Evropska komisija nadzoruje izvajanje zakona o umetni inteligenci v vseh državah članicah. Evropski urad za umetno inteligenco, ustanovljen v okviru Komisije, usklajuje dejavnosti izvrševanja in zagotavlja tehnično znanje.
Evropski odbor za umetno inteligenco, ki ga sestavljajo predstavniki držav članic, podpira dosledno uporabo uredbe in svetuje Komisiji ter sodeluje z organi za varstvo podatkov, kadar sistemi umetne inteligence obdelujejo osebne podatke.
Če upravljate sisteme umetne inteligence v več državah EU, se lahko soočite z nadzorom nadzornih organov v vsaki jurisdikciji, kjer so vaši sistemi nameščeni ali imajo učinek.
Sankcije in civilna odgovornost
Kršitve prepovedanih praks iz 5. člena se kaznujejo z globo do 35 milijonov evrov ali 7 % vašega skupnega letnega prometa po vsem svetu, kar je višje. Sama prepoved velja od 2. februarja 2025, vendar se določbe o kaznih iz Uredbe uporabljajo od 2. avgusta 2025, zato se lahko za ravnanje od tega datuma naprej naloži globa. Kršitve drugih obveznosti imajo nižje zgornje meje: petnajst milijonov evrov ali tri odstotke za neizpolnjevanje zahtev glede visokega tveganja ter sedem milijonov evrov in pol ali en odstotek za posredovanje napačnih ali zavajajočih informacij organu.
Sodišče EU ima končno pristojnost za razlago določb zakona o umetni inteligenci. Nacionalna sodišča lahko v primeru sporov o tem, kaj pomeni prepovedana praksa, naslovijo vprašanja na Sodišče EU.
Poleg upravnih glob lahko oseba, ki jo je oškodoval prepovedani sistem, vloži civilno tožbo. Za to ni usklajene evropske ureditve: predlagana direktiva o odgovornosti za umetno inteligenco je bila umaknjena, zato se tožba na Nizozemskem vloži po nizozemskem pravu, običajno kot nezakonito dejanje v skladu s členom 6:162 civilnega zakonika, kršitev člena 5 pa služi kot dokaz, da je bila kršena zakonska dolžnost. Države članice lahko v nacionalni zakonodaji določijo tudi dodatne kazni.
Smernice evropskih in nacionalnih organov
Evropska komisija je 4. februarja 2025 objavila smernice o prepovedanih praksah umetne inteligence. Ti dokumenti pojasnjujejo, kako bodo organi razlagali prepovedi iz 5. člena, in zagotavljajo praktične primere za skladnost.
Čeprav te smernice niso zavezujoče, ponujajo dragocen vpogled v prednostne naloge izvrševanja. Le Sodišče EU lahko poda verodostojne pravne razlage.
Nizozemski nadzorni organi lahko izdajo dodatne nacionalne smernice, prilagojene lokalnim poslovnim kontekstom. Spremljati morate posodobitve evropskih in nizozemskih organov, saj se bodo pristopi k izvrševanju razvijali.
Smernice so na voljo v vseh jezikih EU, da bi podprle čezmejno razumevanje.
Pogosta vprašanja
Evropski zakon o umetni inteligenci uvaja posebne zahteve in omejitve, ki veljajo za nizozemska podjetja od februarja 2025. Ti predpisi prepovedujejo nekatere prakse umetne inteligence, zahtevajo ukrepe za skladnost in določajo kazni za kršitve.
Kakšni so novi predpisi glede uporabe umetne inteligence v nizozemskih podjetjih od februarja?
Evropski zakon o umetni inteligenci je začel veljati 1. avgusta 2024, prvi sklop prepovedi pa je začel veljati 2. februarja 2025. Ti predpisi veljajo za vsa nizozemska podjetja, ki razvijajo, uvajajo ali uporabljajo sisteme umetne inteligence v Evropski uniji.
Zakon prepoveduje manipulativne sisteme umetne inteligence, ki uporabljajo subliminalne tehnike za vplivanje na odločitve, ki jih ljudje običajno ne bi sprejeli. Prepovedani so tudi sistemi umetne inteligence, ki izkoriščajo ranljivosti na podlagi starosti, invalidnosti ali socialno-ekonomskega statusa.
Sistemi socialnega točkovanja, ki posameznike presojajo na podlagi njihovega socialnega vedenja ali osebnih značilnosti, se soočajo s popolno prepovedjo. Predpisi prepovedujejo tudi ocene tveganja na podlagi umetne inteligence, ki napovedujejo kazniva dejanja zgolj s profiliranjem ali analizo osebnostnih lastnosti in ne z dejstvi, povezanimi s kriminalno dejavnostjo.
Biometrični sistemi kategorizacije, ki iz podob obraza ali prstnih odtisov sklepajo o rasi, političnih stališčih, članstvu v sindikatu, verskih prepričanjih ali spolni usmerjenosti, niso dovoljeni. Biometrična identifikacija na daljavo v javnih prostorih je prepovedana, razen v strogo določenih primerih s posebnim zakonskim dovoljenjem.
Kako nizozemske smernice o umetni inteligenci iz februarja 2025 vplivajo na zasebnost in varstvo podatkov potrošnikov?
Zakon o umetni inteligenci deluje vzporedno z obstoječimi predpisi o varstvu podatkov, vključno z GDPR. Nizozemski organ za varstvo podatkov zagotavlja smernice o tem, kako morajo sistemi umetne inteligence izpolnjevati pravila o varstvu podatkov, zlasti glede avtomatiziranega odločanja.
Neciljno strganje slik obrazov z interneta ali posnetkov kamer za ustvarjanje ali širjenje podatkovnih zbirk za prepoznavanje obrazov je prepovedano. Ta omejitev ščiti pravice posameznikov do zasebnosti in preprečuje nepooblaščeno zbiranje biometričnih podatkov.
Sistemi umetne inteligence morajo spoštovati temeljne pravice v celotnem svojem življenjskem ciklu. Javni organi in subjekti, ki zagotavljajo javne storitve, morajo pri uporabi sistemov umetne inteligence z visokim tveganjem izvesti oceno vpliva na temeljne pravice.
Katere dejavnosti, ki temeljijo na umetni inteligenci, nizozemska podjetja zaradi nedavnih zakonodajnih sprememb ne smejo več opravljati?
Vaše podjetje ne sme uporabljati sistemov za prepoznavanje čustev na delovnem mestu ali v izobraževalnih okoljih. Ti sistemi so prepovedani ne glede na domnevne koristi ali primere uporabe.
Ne morete uporabljati sistemov umetne inteligence, ki manipulirajo z ljudmi s subliminalnimi tehnikami ali izkoriščajo njihove ranljivosti. To vključuje sisteme, ki ciljajo na posameznike na podlagi njihove invalidnosti, socialnega statusa ali starosti, da bi vplivali na njihovo vedenje.
Biometrični sistemi kategorizacije, ki razvrščajo ljudi na podlagi občutljivih značilnosti, so prepovedani. Z umetno inteligenco ni mogoče sklepati o rasi, političnih mnenjih, verskih prepričanjih ali spolni usmerjenosti nekoga iz njegovih biometričnih podatkov.
Sistemi socialnega točkovanja so v celoti prepovedani. Ne morete uvesti umetne inteligence, ki ocenjuje ali razvršča ljudi na podlagi njihovega socialnega vedenja ali osebnih značilnosti.
Biometrična identifikacija na daljavo v realnem času v javno dostopnih prostorih je prepovedana za komercialno uporabo . Organi pregona lahko takšne sisteme uporabljajo le v ozko opredeljenih okoliščinah z ustreznim pravnim dovoljenjem.
Katere korake morajo sprejeti nizozemska podjetja, da bi uskladila svoje sisteme umetne inteligence s standardi skladnosti, določenimi februarja?
Navesti morate vse sisteme umetne inteligence, ki jih vaša organizacija trenutno uporablja ali uvaja. Ta popis mora vsak sistem kategorizirati glede na klasifikacije tveganja, opredeljene v zakonu o umetni inteligenci.
Preverite svoje sisteme umetne inteligence glede na seznam prepovedanih praks. Če uporabljate kakršne koli prepovedane sisteme, jih morate takoj opustiti, da se izognete regulativnim kaznim.
Dokumentirajte namene, vire podatkov in procese odločanja vaših sistemov umetne inteligence. Ta dokumentacija pomaga dokazati skladnost in podpira vse potrebne ocene vpliva.
Visoko tvegani sistemi imajo svoje obveznosti, vključno z registracijo v evropski zbirki podatkov in, za javne organe in ponudnike javnih storitev, oceno vpliva na temeljne pravice. Ta ureditev je bila preložena: za sisteme, navedene v Prilogi III, kot so orodja za zaposlovanje, kreditno točkovanje in upravljanje zaposlovanja, se začne 2. decembra 2027, za visoko tvegane sisteme, ki so varnostne komponente reguliranih izdelkov, pa 2. avgusta 2028.
Usposobite svoje osebje za nove zahteve in vzpostavite notranje postopke za stalno spremljanje skladnosti. Vaš program skladnosti mora vključevati redne preglede sistemov umetne inteligence, da se zagotovi, da ostanejo znotraj regulativnih meja.
Ali obstajajo kakšne sektorske prepovedi umetne inteligence, ki bi se jih morala nizozemska podjetja zavedati v skladu z novimi predpisi?
Organizacije v izobraževalnem sektorju se soočajo s posebnimi omejitvami. Sistemov za prepoznavanje čustev ne morete uporabljati za spremljanje učencev ali ocenjevanje njihovega čustvenega stanja, ne glede na predvideno izobraževalno korist.
Delovna okolja imajo podobne omejitve. Delodajalci ne morejo uporabljati umetne inteligence za prepoznavanje čustev za spremljanje čustvenih stanj ali reakcij zaposlenih med delovnimi aktivnostmi.
Organi pregona imajo omejene izjeme za biometrične identifikacijske sisteme. Te izjeme zahtevajo strogo pravno odobritev in veljajo le za posebne situacije, kot so iskanje žrtev ugrabitve, preprečevanje neposrednih groženj ali sledenje osumljencem hudih kaznivih dejanj.
Javni organi, ki zagotavljajo javne storitve, se soočajo z dodatnimi zahtevami, ki presegajo splošne prepovedi. Za vse visoko tvegane sisteme umetne inteligence morate izvesti ocene vpliva na temeljne pravice in te sisteme registrirati v evropski zbirki podatkov.
Kakšne so kazni za neupoštevanje nizozemskih omejitev umetne inteligence, uvedenih februarja 2025?
Regulatorji lahko naložijo znatne globe za neupoštevanje zakona o umetni inteligenci. Struktura kazni sledi večstopenjskemu pristopu, ki temelji na resnosti kršitve.
Uporaba prepovedanih sistemov umetne inteligence predstavlja najresnejšo kategorijo kršitev. Vaša organizacija tvega znatne finančne kazni, če bo po roku februarja 2025 nadaljevala z upravljanjem prepovedanih sistemov.
Natančni zneski kazni so odvisni od tega, ali se vaša organizacija uvršča med mala in srednje velika podjetja ali večje družbe. Regulativni organi upoštevajo dejavnike, kot so narava kršitve, njeno trajanje in morebitna povzročena škoda.
Poleg finančnih kazni lahko neskladnost škoduje ugledu vaše organizacije. Posamezniki, ki so jim prepovedani sistemi umetne inteligence povzročili škodo, lahko uveljavljajo dodatna pravna sredstva v civilnem postopku.
Nizozemski organ za varstvo podatkov in drugi regulativni organi imajo izvršilna pooblastila. Lahko preiskujejo pritožbe, izvajajo revizije in zahtevajo takojšnjo prekinitev prepovedanih praks.
Law & More Svetuje podjetjem glede zakona o umetni inteligenci v praksi: preverja sisteme, ki so že v uporabi, glede na prepovedi iz 5. člena, ocenjuje, kje se primer uporabe nahaja blizu meje med dovoljeno in prepovedano prakso, vzpostavlja ukrepe za opismenjevanje na področju umetne inteligence, ki jih zahteva 4. člen, in se pripravlja na obveznosti z visokim tveganjem, ki sledijo decembra 2027. Kadar sistem umetne inteligence obdeluje tudi osebne podatke, hkrati ocenjujemo stališče GDPR, ker je tam danes na voljo izvrševanje.
