Evropski zakon o umetni inteligenci je 2. februarja 2025 uvedel večje spremembe, s katerimi je zagotovil nekatere Prakse umetne inteligence nezakonito po vsej EU. Nizozemska podjetja morajo zdaj upoštevati stroga pravila o tem, katere sisteme umetne inteligence lahko uporabljajo.

Podjetja, ki ne bodo odstranila prepovedanih orodij umetne inteligence, se soočajo z visokimi globami in morebitnimi pravnimi ukrepi proti vsem, ki utrpijo škodo.

Od februarja 2025 so na Nizozemskem prepovedani sistemi umetne inteligence, ki manipulirajo z ljudmi, uporabljajo socialno točkovanje, kategorizirajo posameznike na podlagi biometričnih podatkov ali uporabljajo prepoznavanje obrazov v realnem času v javnih prostorih. Te prepovedi zajemajo tudi tehnologijo prepoznavanja čustev na delovnih mestih in v šolah, skupaj z neciljnim zbiranjem slik obrazov z interneta za izgradnjo podatkovnih baz za prepoznavanje.

Pravila veljajo takoj in podjetjem ne dajejo nobenega obdobja mirovanja za postopno opustitev teh sistemov. Razumevanje, katere prakse umetne inteligence so prepovedane in katere korake mora vaša organizacija sprejeti, je bistvenega pomena, da se izognete kaznim.

Ta priročnik pojasnjuje posebne prepovedi in opisuje vaše dolžnosti skladnosti kot nizozemsko podjetje in pokriva zahteve glede usposabljanja, potrebne za ohranitev zakonitosti vašega poslovanja v skladu z novo zakonodajo.

Pregled prepovedi iz februarja 2025

Uredba (EU) 2024/1689, znana kot Zakon EU o AI, je uvedla posebne prepovedi glede nekaterih praks umetne inteligence, ki so začele veljati 2. februarja 2025. Ta pravila veljajo za vaše nizozemsko podjetje, če razvijate, uvajate ali uporabljate AI sistemna Nizozemskem ali v širši Evropski uniji.

Obseg prepovedanih praks umetne inteligence

Zakon o umetni inteligenci prepoveduje določene prakse umetne inteligence, ki predstavljajo nesprejemljivo tveganje za temeljne pravice in evropske vrednote. Člen 5 Uredbe (EU) 2024/1689 opredeljuje te prepovedane prakse na podlagi njihove morebitne škode in ne na podlagi same tehnologije.

Glavne prepovedane kategorije vključujejo:

• Manipulativni sistemi umetne inteligence ki izkoriščajo ranljivosti določenih skupin
• Sistemi socialnega točkovanja s strani javnih organov
• Biometrična identifikacija na daljavo v realnem času v javno dostopnih prostorih za zakon izvrševanje (z omejenimi izjemami)
• Biometrični sistemi kategorizacije ki sklepajo na občutljive atribute
• Neciljno strganje slik obrazov z interneta ali posnetkov nadzornih nadzornih sistemov

Vaše podjetje spada pod te prepovedi, ne glede na to, ali delujete kot ponudnik, uvajalec ali distributer umetne inteligence na Nizozemskem. Nizozemski organ za varstvo podatkov sodeluje z drugimi organi pregona Evropske unije, da bi zagotovil skladnost.

Neupoštevanje predpisov se kaznuje z globami v višini do 7 % vašega letnega prometa po vsem svetu.

Datumi začetka veljavnosti in prehodna obdobja

Prepovedi iz 5. člena so začele veljati 2. februarja 2025. To pomeni, da mora vaše podjetje nemudoma upoštevati ta pravila, če uporablja ali razvija ustrezne sisteme umetne inteligence.

Okvir izvrševanja sledi postopnemu časovnemu načrtu. Vse kazni, strukture upravljanja in določbe o zaupnosti začnejo veljati 2. avgusta 2025.

To vaši organizaciji daje šestmesečno obdobje, v katerem pravila veljajo, vendar so celotni mehanizmi izvrševanja še v fazi vzpostavljanja. Evropska komisija je 4. februarja 2025 objavila uradne smernice, da bi pojasnila, kako te prepovedi delujejo v praksi.

Organi za nadzor trga, vključno z nizozemskim organom za varstvo podatkov, so od februarskega datuma začetka veljavnosti prevzeli odgovornost za spremljanje in izvrševanje teh pravil.

Ključne definicije: Sistemi in prakse umetne inteligence

V skladu z zakonom o umetni inteligenci AI sistem pomeni programsko opremo, ki uporablja strojno učenje, logične pristope ali statistične metode za ustvarjanje rezultatov, kot so napovedi, priporočila ali odločitve. Ta definicija je namerno široka, da zajema trenutne in nastajajoče tehnologije.

A prepovedana praksa umetne inteligence se nanaša na specifične načine uvajanja ali uporabe umetne inteligence, ki jih je Evropska unija ocenila kot nesprejemljive. Prepoved velja za samo prakso, ne za osnovno tehnologijo.

To pomeni, da lahko isti sistem umetne inteligence uporabljate za dovoljene namene, medtem ko vam je prepovedano uporabljati določene aplikacije. Vaše podjetje mora razlikovati med sistemom umetne inteligence (tehnologijo) in njegovo prakso (kako ga uporabljate).

Sistem umetne inteligence za prepoznavanje obrazov je morda zakonit za nadzor dostopa v stavbah, vendar prepovedan za nadzor v realnem času v javnih prostorih. Kontekst in uporaba določata zakonitost v skladu z Uredbo (EU) 2024/1689.

Podroben seznam prepovedanih praks umetne inteligence

Zakon EU o umetni inteligenci prepoveduje specifične aplikacije umetne inteligence, ki predstavljajo nesprejemljivo tveganje za temeljne pravice in varnost. Te prepovedane prakse spadajo v tri glavne kategorije: sistemi, ki manipulirajo s človeškim vedenjem, tisti, ki izkoriščanje ranljivih skupinin mehanizme, ki omogočajo množični nadzor s socialnim točkovanjem.

Manipulativni in zavajajoči sistemi

Zakon o umetni inteligenci prepoveduje vsak sistem umetne inteligence, ki uporablja subliminalne tehnike za bistveno izkrivljanje človeškega vedenja na načine, ki povzročajo škodo. To so metode, ki delujejo onkraj vaše zavesti in vplivajo na vaše odločitve ali dejanja.

Prepovedane manipulativne prakse vključujejo:

• Sistemi umetne inteligence, ki uporabljajo subliminalne komponente, ki jih ne morete zaznati
• Sistemi, zasnovani za izkoriščanje starostnih ranljivosti pri otrocih
• Tehnologije, ki manipulirajo z vedenjem, da bi povzročile fizično ali psihično škodo

Umetne inteligence ne morete uporabljati namerno zavajati ljudi na načine, ki vodijo do znatna škodaTo pomeni, da vaše podjetje ne sme uporabljati klepetalnih robotov ali virtualnih asistentov, ki uporabnike zavajajo glede njihove umetne inteligence, če bi ta zavajanja lahko povzročila škodo.

Prepoved se nanaša na sisteme umetne inteligence, ki uporabljajo temne vzorce ali psihološko manipulacijo, da bi uporabnike spodbudili k škodljivim odločitvam. zakon ščiti posameznike pred praksami umetne inteligence, ki zaobidejo racionalno odločanje.

Če vaš sistem umetne inteligence vpliva na vedenje s skritimi manipulacijami in ne s preglednimi informacijami, krši zakon.

Izkoriščanje ranljivih posameznikov

Sistemi umetne inteligence, ki izkoriščajo ranljivosti, povezane s starostjo, invalidnostjo ali socialnimi ali ekonomskimi okoliščinami, so strogo prepovedani. Umetne inteligence ne smete uporabljati za izkoriščanje ljudi, ki nimajo sposobnosti razumevanja ali upiranja manipulaciji.

Ta prepoved zajema umetno inteligenco, ki cilja na neizkušenost otrok ali kognitivni upad starejših posameznikov. Vaše podjetje ne sme uporabljati sistemov, ki izkoriščajo telesne ali duševne invalidnosti za manipulacijo vedenja.

Tudi umetna inteligenca, ki izkorišča ekonomsko obup ali socialno izolacijo, spada pod to prepoved.

Zaščitene ranljive skupine vključujejo:

• Otroci in mladoletniki
• Starejše osebe s kognitivnimi motnjami
• Ljudje s telesnimi ali duševnimi motnjami
• Posamezniki, ki se soočajo z ekonomskimi težavami

Prepoved velja, kadar vaš sistem umetne inteligence povzroča ali bi lahko povzročil znatno škodo z izkoriščanjem. Oceniti morate, ali bi vaše aplikacije umetne inteligence lahko nepošteno ciljale na ranljive skupine prebivalstva.

Socialno točkovanje in vedenjsko profiliranje

Zakon o umetni inteligenci prepoveduje sisteme umetne inteligence, ki ocenjujejo ali razvrščajo ljudi na podlagi njihovih socialno vedenje ali osebne značilnosti. Ne smete uporabljati mehanizmov socialnega točkovanja, ki vodijo do nepravične obravnave ali škode.

Socialno točkovanje vključuje ocenjevanje posameznikov na podlagi njihovega vedenja, odnosov ali predvidenega vedenja. To ustvarja profile, ki določajo dostop do storitev, priložnosti ali pravic.

Prepovedane dejavnosti socialnega točkovanja vključujejo:

• Ocenjevanje državljanov na podlagi socialnega ali poklicnega vedenja
• Ustvarjanje ocen zaupanja iz osebnih podatkov
• Napovedovanje kriminalnega vedenja na podlagi profiliranja
• Zavrnitev storitev na podlagi vedenjskih ocen

Ne morete uvesti sistemov umetne inteligence, ki dodeljujejo ocene, s katerimi se določa, ali nekdo prejema zdravstveno varstvo, izobraževanje, zaposlitev ali finančne storitve. Prepoved velja ne glede na to, ali te sisteme upravljate kot javni organ ali zasebno podjetje.

Daljinsko upravljanje v realnem času biometrična identifikacija v javnih prostorih prav tako spada pod stroge prepovedi z omejenimi izjemami za organe pregona.

Prepovedi biometričnega prepoznavanja obrazov in umetne inteligence, ki temelji na čustvih

Zakon EU o umetni inteligenci prepoveduje več vrst biometričnih sistemov in sistemov za prepoznavanje obrazov, ki predstavljajo tveganje za temeljne praviceTe prepovedi vplivajo na to, kako lahko nizozemska podjetja uporabljajo biometrični podatki, podatkovne baze za prepoznavanje obrazov, orodja za prepoznavanje čustev in sistemi za identifikacijo v realnem času v javnih prostorih.

Biometrična kategorizacija in uporaba podatkov

Sistemov umetne inteligence, ki ljudi kategorizirajo na podlagi njihovih biometričnih podatkov, ne morete uporabljati za sklepanje o njihovi rasi, političnih prepričanjih, članstvu v sindikatu, verskih prepričanjih ali spolni usmerjenosti. Ta prepoved velja, ko te sisteme daste na trg, jih date v uporabo ali jih uporabljate za ta poseben namen.

Prepoved je usmerjena na sisteme, ki občutljivi sklepi o posameznikih z biometrično analizo. Vaše podjetje se zaradi neskladnosti sooča z globami v višini do 7 % svetovnega letnega prometa.

Od tega pravila obstaja ena izjema. Zakonito pridobljene biometrične nabore podatkov, kot so slike, lahko v okviru kazenskega pregona označite ali filtrirate na podlagi biometričnih podatkov.

Zunaj organov pregona so te prakse kategorizacije še vedno popolnoma prepovedane.

Omejitve tehnologij za prepoznavanje obrazov

Podatkovnih baz za prepoznavanje obrazov ni mogoče ustvarjati ali širiti z nenamernim strganjem slik obrazov z interneta ali posnetkov nadzornih kamer. Ta prepoved je začela veljati 2. februarja 2025.

Za uporabo te prepovedi morajo biti izpolnjeni štirje pogoji:

• Praksa vključuje namestitev, servisiranje ali uporabo sistema umetne inteligence
• Namen je ustvariti ali razširiti baze podatkov za prepoznavanje obrazov
• Metoda uporablja nenamerno strganje slik obrazov
• Viri podatkov so internet ali posnetki nadzornih kamer

Ključna beseda je »neciljano«. Obraznih slik ni mogoče zbirati na širok in neselektivni način.

To pomeni, da v supermarketih ali javnih prostorih ne morete namestiti kamer, ki samodejno strgajo obraze za izdelavo podatkovnih baz za prepoznavanje brez posebnih meril ciljanja.

Prepoznavanje čustev pri zaposlovanju in izobraževanju

Sistemov umetne inteligence ni mogoče uporabljati za sklepanje o čustvih ljudi na delovnih mestih in v izobraževalnih ustanovah. Ta prepoved neposredno vpliva na kadrovske oddelke, šole in izobraževalne ustanove, ki bi lahko razmislile o orodjih za zaznavanje čustev.

Prepoved velja za vse sisteme umetne inteligence, zasnovane za branje ali interpretiranje čustvenih stanj v teh specifičnih okoljih. Ne glede na to, ali uporabljate analizo obraza, prepoznavanje glasovnih vzorcev ali druge biometrične kazalnike, ni pomembno.

Obstaja ena ozka izjema. Umetno inteligenco za prepoznavanje čustev lahko uporabite, če služi medicinskim ali varnostnim namenom.

Na primer, spremljanje voznikove pozornosti zaradi varnostnih razlogov ali zaznavanje stiske pacientov v zdravstvenih ustanovah lahko spada pod to izjemo.

Omejitve oddaljene biometrične identifikacije

Sistemov za oddaljeno biometrično identifikacijo v realnem času ni dovoljeno uporabljati v javno dostopnih prostorih za namene kazenskega pregona, razen v strogo določenih okoliščinah. Te izjeme vključujejo iskanje žrtev ugrabitve ali trgovine z ljudmi, preprečevanje neposrednih groženj za življenje ali terorističnih napadov ter iskanje osumljencev hudih kaznivih dejanj, za katera je zagrožena zaporna kazen najmanj štirih let.

Vsaka uporaba zahteva predhodno dovoljenje od sodni organ ali neodvisni upravni organ. V nujnih primerih lahko začnete uporabljati brez dovoljenja, vendar morate zaprositi za odobritev v 24 urah.

Če organi zavrnejo dovoljenje, morate takoj prenehati uporabljati sistem in izbrisati vse podatke. Nizozemska lahko v okviru nacionalne zakonodaje določi lastna podrobna pravila za te izjeme.

Vaše podjetje mora o vsaki uporabi obvestiti pristojni organ za nadzor trga in nacionalni organ za varstvo podatkov. Države članice Evropski komisiji predložijo letna poročila o uporabi biometrične identifikacije na daljavo v realnem času.

Obveznosti skladnosti za nizozemska podjetja

Nizozemska podjetja morajo sprejeti konkretne ukrepe za doseganje skladnosti z umetno inteligenco z identifikacijo prepovedanih sistemov, njihovo odstranitvijo iz poslovanja in vzdrževanjem ustrezne dokumentacije. Nizozemski DPA in nizozemski organ za digitalno infrastrukturo bo te zahteve uveljavljal z znatnimi kaznimi za kršitve.

Prepoznavanje prepovedane umetne inteligence znotraj operacij

V celotni organizaciji morate izvesti temeljite ocene tveganja, da bi odkrili sisteme umetne inteligence, ki bi lahko kršili nova pravila. To pomeni, da morate preučiti vse tehnologije, ki uporabljajo tehnike manipulacije, izkoriščajo ranljivosti, izvajajo socialno točkovanje ali izvajajo biometrične identifikacije v realnem času v javnih prostorih.

Začnite z izdelavo popisa vseh sistemov umetne inteligence, ki so trenutno v uporabi. Dokumentirajte, kaj vsak sistem počne, kako obdeluje podatke in na koga vpliva.

Posebno pozornost posvetite sistemom, ki komunicirajo s strankami, zaposlenimi ali javnostjo. Vaše ocene tveganja bi morale oceniti, ali bi kateri koli sistem lahko škodoval temeljnim pravicam.

To vključuje preverjanje, ali sistemi umetne inteligence sprejemajo odločitve o ljudeh na podlagi vedenja, osebnih značilnosti ali družbenih povezav. Sistemi, ki sledijo ali profilirajo posameznike brez preglednosti, zahtevajo takojšen pregled.

Sodelujte s svojimi tehničnimi ekipami, da bi razumeli, kako deluje vsak sistem umetne inteligence. Ne morete se zanašati samo na opise prodajalcev.

Nizozemski organ za varstvo podatkov je jasno povedal, da ste odgovorni za skladnost ne glede na to, ali ste sistem zgradili ali ga kupili od tretje osebe.

Postopno opuščanje ali odstranjevanje prepovedanih sistemov umetne inteligence

Prepovedane prakse umetne inteligence morate takoj prenehati uporabljati. Zakon ne dovoljuje prepovedi za prepovedane sisteme.

Če vaša ocena tveganja ugotovi prepovedano prakso, jo morate takoj deaktivirati. Pripravite načrt odstranitve, ki obravnava tako tehnične kot operativne vplive.

Nekateri sistemi so lahko vgrajeni v večje platforme ali povezani z več procesi. Zagotoviti boste morali, da odstranitev prepovedanih elementov ne moti bistvenih poslovnih funkcij.

Preden zaustavite sistem, ugotovite, kako boste obravnavali naloge, ki jih je prej opravljal. To lahko pomeni vrnitev k ročnim procesom, uvedbo drugačne tehnologije ali popolno preoblikovanje delovnih procesov.

Dokumentirajte vsak korak postopka odstranitve. Zabeležite, kdaj ste odkrili prepovedano prakso, katere ukrepe ste izvedli in kdaj je bil sistem popolnoma deaktiviran.

Regulatorji bodo pričakovali jasne dokaze, da ste ukrepali takoj, ko ste ugotovili kršitev.

Vodenje evidenc in dokumentacija

Vzdrževati morate tehnično dokumentacijo, ki dokazuje skladnost s pravili o prepovedi. To vključuje zapise o vaših ocenah tveganja, odločitvah o sistemih umetne inteligence in vseh spremembah, ki ste jih naredili za dosego skladnosti.

Vaša dokumentacija mora zajemati:

• Sistemski popisi z opisi posameznih aplikacij umetne inteligence
• Poročila o oceni tveganja prikaz vaše analize morebitnih kršitev
• Zapisi o odstranitvi podrobno o tem, kdaj in kako ste deaktivirali prepovedane sisteme
• Ocene vpliva na temeljne pravice za vse mejne primere

Te evidence hranite vsaj pet let. Nizozemski organ za varstvo podatkov jih lahko zahteva med inšpekcijskimi pregledi ali preiskavami.

Manjkajoča ali nepopolna dokumentacija lahko povzroči globe do 7,500,000 EUR ali 1 % letnega svetovnega prometa. Vaša tehnična dokumentacija mora biti dovolj podrobna, da lahko regulatorji razumejo, kaj vaši sistemi umetne inteligence počnejo in zakaj so v skladu z zakonom.

Splošni opisi ali trženjsko gradivo ne izpolnjujejo te zahteve. Vključite tehnične specifikacije, podatkovne tokove in postopke odločanja.

Posodobite svojo dokumentacijo vsakič, ko spreminjate sisteme umetne inteligence ali uvajate nove. Potrebujete stalne procese, da zagotovite, da prihodnji sistemi ne bodo uvajali prepovedanih praks.

Zahteve glede pismenosti na področju umetne inteligence in usposabljanje osebja

Nizozemska podjetja, ki zagotavljajo ali uvajajo sisteme umetne inteligence, morajo od 2. februarja 2025 zagotoviti, da imajo njihovi zaposleni ustrezno znanje o umetni inteligenci. Ta obveznost velja ne glede na to, ali uporabljate sisteme umetne inteligence z visokim ali nizkim tveganjem.

Dokumentirani programi usposabljanja morajo biti prilagojeni vlogam in tehničnemu znanju vaših zaposlenih.

Pojasnjena obveznost pismenosti na področju umetne inteligence

Člen 4 Zakona EU o umetni inteligenci nalaga zakonska zahteva za vse ponudnike in izvajalce umetne inteligence, da se zagotovi zadostna pismenost njihovega osebja na področju umetne inteligence. Sprejeti morate ukrepe, s katerimi zagotovite, da osebje in izvajalci, ki se ukvarjajo s sistemi umetne inteligence, razumejo tehnologijo, s katero delajo.

Obveznost pismenosti na področju umetne inteligence velja za vse, ki upravljajo, uporabljajo ali sprejemajo odločitve o sistemih umetne inteligence v vašem imenu. To vključuje tehnično osebje, ki gradi ali vzdržuje sisteme umetne inteligence, pa tudi netehnične zaposlene, ki pri svojem vsakodnevnem delu uporabljajo orodja umetne inteligence.

Usposabljanje za opismenjevanje na področju umetne inteligence morate prilagoditi vlogi, tehničnemu znanju, izkušnjam, izobrazbi in specifičnemu kontekstu, v katerem vsak posameznik uporablja sisteme umetne inteligence. Razvijalec programske opreme, ki implementira modele umetne inteligence, potrebuje drugačno usposabljanje kot predstavnik službe za stranke, ki uporablja klepetalnice, ki jih poganja umetna inteligenca.

Obveznost od vas zahteva, da se "po svojih najboljših močeh" potrudite za zagotovitev ustrezne ravni pismenosti. Ne morete preprosto ponuditi simboličnega usposabljanja in zahtevati skladnosti.

Razvoj učinkovitih programov usposabljanja

Vaš program opismenjevanja na področju umetne inteligence bi moral obravnavati specifične sisteme umetne inteligence, ki jih uporablja vaša organizacija, namesto da bi zagotavljal splošne informacije. Zaposleni morajo razumeti, kako delujejo določena orodja umetne inteligence, s katerimi delajo, njihove omejitve in morebitna tveganja.

Vsebina usposabljanja naj bi zajemala:

• Osnovni koncepti umetne inteligence, pomembni za vaše sisteme
• Kako pravilno upravljati orodja umetne inteligence
• Potencialne pristranskosti in napake v rezultatih umetne inteligence
• Ko je potreben človeški nadzor
• Politike in postopki vaše organizacije za umetno inteligenco

Upoštevati morate začetno raven znanja vsakega zaposlenega. Tehnično osebje bo morda potrebovalo dodatno usposabljanje za razvoj in testiranje modelov, medtem ko splošni uporabniki potrebujejo praktične nasvete za interpretacijo rezultatov umetne inteligence in prepoznavanje, kdaj se rezultati zdijo napačni.

Usposabljanje se lahko izvaja v različnih oblikah, vključno z delavnicami, spletnimi tečaji, mentorstvom na delovnem mestu ali zunanjimi programi. Oblika je manj pomembna kot zagotavljanje, da zaposleni dejansko pridobijo potrebno znanje in veščine.

Dokumentiranje dejavnosti opismenjevanja na področju umetne inteligence

Voditi morate evidenco o svojih dejavnostih usposabljanja za umetno inteligenco, da dokažete skladnost z zakonom EU o umetni inteligenci. Ta dokumentacija služi kot dokazilo, da ste izpolnili svoje pravne obveznosti.

Vaši zapisi naj vključujejo:

• Vsebina in gradiva programa usposabljanja
• Seznami zaposlenih, ki so opravili usposabljanje
• Datumi in trajanje usposabljanj
• Rezultati ocenjevanja (če je primerno)
• Kako ste določili ustrezne ravni pismenosti za različne vloge

Dokumentirajte svoj postopek za prepoznavanje potreb po pismenosti v zvezi z umetno inteligenco v vaši organizaciji. To vključuje, kako ste ocenili, kateri zaposleni potrebujejo usposabljanje in katero specifično znanje potrebujejo na podlagi njihove interakcije s sistemi umetne inteligence.

Vodite evidenco o tem, kako posodabljate usposabljanje, ko se vaši sistemi umetne inteligence spremenijo ali ko se vaši organizaciji pridružijo novi zaposleni. Pismenost na področju umetne inteligence ni enkratna zahteva, temveč stalna obveznost, ki se mora prilagajati vaši spreminjajoči se uporabi tehnologije umetne inteligence.

Nadzor, izvrševanje in kazni

Zakon EU o umetni inteligenci vzpostavlja večplastno strukturo izvrševanja s pomembnimi finančne kazni zaradi neskladnosti. Nizozemska podjetja se soočajo z nadzorom tako nacionalnih kot evropskih organov, pri čemer globe za prepovedane prakse umetne inteligence dosežejo do 7 % svetovnega letnega prometa.

Nizozemski in nadzorni organi EU

Nizozemski organ za varstvo podatkov deluje kot glavni nacionalni nadzorni organ za izvrševanje zakona o umetni inteligenci na Nizozemskem. Ta organ sodeluje z drugimi imenovanimi nizozemskimi organi za nadzor trga pri spremljanju skladnosti z uredbo.

Na evropski ravni Evropska komisija nadzoruje izvajanje zakona o umetni inteligenci v vseh državah članicah. Evropski urad za umetno inteligenco, ustanovljen v okviru Komisije, usklajuje dejavnosti izvrševanja in zagotavlja tehnično znanje.

Evropski odbor za varstvo podatkov podpira dosledno uporabo zakona, zlasti kadar sistemi umetne inteligence vključujejo obdelavo osebnih podatkov. Ti organi sodelujejo pri zagotavljanju enotnega izvrševanja po vsej Evropski uniji.

Če upravljate sisteme umetne inteligence v več državah EU, se lahko soočite z nadzorom nadzornih organov v vsaki jurisdikciji, kjer so vaši sistemi nameščeni ali imajo učinek.

Sankcije in civilna odgovornost

Kršitve prepovedanih praks iz 5. člena se kaznujejo z globo do 35 milijonov evrov ali 7 % vašega skupnega letnega prometa po vsem svetu, kar je višje. Te globe veljajo od 2. februarja 2025.

Sodišče EU ima končno pristojnost za razlago določb zakona o umetni inteligenci. Nacionalna sodišča lahko v primeru sporov o tem, kaj pomeni prepovedana praksa, naslovijo vprašanja na Sodišče EU.

Poleg upravnih glob se lahko soočite tudi z zahtevki za civilno odgovornost posameznikov ali organizacij, ki so jih oškodovali neskladni sistemi umetne inteligence. Države članice lahko v skladu s svojo nacionalno zakonodajo določijo dodatne kazni.

Smernice evropskih in nacionalnih organov

Evropska komisija je objavila smernice o prepovedanih Praktike umetne inteligence 4. februarja 2025. Ti dokumenti pojasnjujejo, kako bodo organi razlagali prepovedi iz 5. člena, in zagotavljajo praktične primere za skladnost.

Čeprav te smernice niso zavezujoče, ponujajo dragocen vpogled v prednostne naloge izvrševanja. Le Sodišče EU lahko poda verodostojne pravne razlage.

Nizozemski nadzorni organi lahko izdajo dodatne nacionalne smernice, prilagojene lokalnim poslovnim kontekstom. Spremljati morate posodobitve evropskih in nizozemskih organov, saj se bodo pristopi k izvrševanju razvijali.

Smernice so na voljo v vseh jezikih EU, da bi podprle čezmejno razumevanje.

Pogosto zastavljena vprašanja

Evropski zakon o umetni inteligenci uvaja posebne zahteve in omejitve, ki veljajo za nizozemska podjetja od februarja 2025. Ti predpisi prepovedujejo nekatere prakse umetne inteligence, zahtevajo ukrepi skladnosti, in določiti kazni za kršitve.

Kakšni so novi predpisi glede uporabe umetne inteligence v nizozemskih podjetjih od februarja 2025?

Evropski zakon o umetni inteligenci je začel veljati 1. avgusta 2024, prvi sklop prepovedi pa je začel veljati 2. februarja 2025. Ti predpisi veljajo za vsa nizozemska podjetja, ki razvijajo, uvajajo ali uporabljajo sisteme umetne inteligence v Evropski uniji.

Zakon prepoveduje manipulativne sisteme umetne inteligence, ki uporabljajo subliminalne tehnike za vplivanje na odločitve, ki jih ljudje običajno ne bi sprejeli. Prepovedani so tudi sistemi umetne inteligence, ki izkoriščajo ranljivosti na podlagi starosti, invalidnosti ali socialno-ekonomskega statusa.

Sistemi socialnega točkovanja, ki posameznike presojajo na podlagi njihovega socialnega vedenja ali osebnih značilnosti, se soočajo s popolno prepovedjo. Predpisi prepovedujejo tudi ocene tveganja na podlagi umetne inteligence, ki napovedujejo kazniva dejanja zgolj s profiliranjem ali analizo osebnostnih lastnosti in ne z dejstvi, povezanimi s kriminalno dejavnostjo.

Biometrični sistemi kategorizacije, ki sklepajo o rasi, političnih stališčih, članstvu v sindikatu, verskih prepričanjih ali spolni usmerjenosti iz podob obraza ali prstnih odtisov, niso dovoljeni. Biometrična identifikacija na daljavo v realnem času v javnih prostorih je prepovedana, razen v strogo določenih situacijah s posebnimi pravno pooblastilo.

Kako nizozemske smernice o umetni inteligenci iz februarja 2025 vplivajo na zasebnost in varstvo podatkov potrošnikov?

Zakon o umetni inteligenci deluje vzporedno z obstoječimi predpisi o varstvu podatkov, vključno z GDPR. Nizozemski organ za varstvo podatkov zagotavlja smernice o tem, kako morajo sistemi umetne inteligence izpolnjevati pravila o varstvu podatkov, zlasti glede avtomatiziranega odločanja.

Neciljno strganje slik obrazov z interneta ali posnetkov kamer za ustvarjanje ali širjenje podatkovnih zbirk za prepoznavanje obrazov je prepovedano. Ta omejitev ščiti pravice posameznikov do zasebnosti in preprečuje nepooblaščeno zbiranje biometričnih podatkov.

Sistemi umetne inteligence morajo spoštovati temeljne pravice v celotnem svojem življenjskem ciklu. Javni organi in subjekti, ki zagotavljajo javne storitve, morajo pri uporabi sistemov umetne inteligence z visokim tveganjem izvesti oceno vpliva na temeljne pravice.

Katere dejavnosti, ki temeljijo na umetni inteligenci, nizozemska podjetja zaradi nedavnih zakonodajnih sprememb ne smejo več opravljati?

Vaše podjetje ne sme uporabljati sistemov za prepoznavanje čustev na delovnem mestu ali v izobraževalnih okoljih. Ti sistemi so prepovedani ne glede na domnevne koristi ali primere uporabe.

Ne morete uporabljati sistemov umetne inteligence, ki manipulirajo z ljudmi s subliminalnimi tehnikami ali izkoriščajo njihove ranljivosti. To vključuje sisteme, ki ciljajo na posameznike na podlagi njihove invalidnosti, socialnega statusa ali starosti, da bi vplivali na njihovo vedenje.

Biometrični sistemi kategorizacije, ki razvrščajo ljudi na podlagi občutljivih značilnosti, so prepovedani. Z umetno inteligenco ni mogoče sklepati o rasi, političnih mnenjih, verskih prepričanjih ali spolni usmerjenosti nekoga iz njegovih biometričnih podatkov.

Sistemi socialnega točkovanja so v celoti prepovedani. Ne morete uvesti umetne inteligence, ki ocenjuje ali razvršča ljudi na podlagi njihovega socialnega vedenja ali osebnih značilnosti.

Biometrična identifikacija na daljavo v realnem času v javno dostopnih prostorih je prepovedana za komercialno uporabo. Organi pregona lahko takšne sisteme uporabljajo le v ozko opredeljenih okoliščinah z ustreznim pravnim dovoljenjem.

Katere korake morajo sprejeti nizozemska podjetja, da bi uskladila svoje sisteme umetne inteligence s standardi skladnosti, določenimi februarja 2025?

Navesti morate vse sisteme umetne inteligence, ki jih vaša organizacija trenutno uporablja ali uvaja. Ta popis mora vsak sistem kategorizirati glede na klasifikacije tveganja, opredeljene v zakonu o umetni inteligenci.

Preverite svoje sisteme umetne inteligence glede na seznam prepovedanih praks. Če uporabljate kakršne koli prepovedane sisteme, jih morate takoj opustiti, da se izognete regulativnim kaznim.

Dokumentirajte namene, vire podatkov in procese odločanja vaših sistemov umetne inteligence. Ta dokumentacija pomaga dokazati skladnost in podpira vse potrebne ocene vpliva.

Za visoko tvegane sisteme umetne inteligence so potrebni dodatni ukrepi za skladnost. Javni organi morajo visoko tvegane sisteme registrirati v evropski podatkovni zbirki do 2. avgusta 2026 in izvesti ocene vpliva na temeljne pravice.

Usposobite svoje osebje za nove zahteve in vzpostavite notranje postopke za stalno spremljanje skladnosti. Vaš program skladnosti mora vključevati redne preglede sistemov umetne inteligence, da se zagotovi, da ostanejo znotraj regulativnih meja.

Ali obstajajo kakšne sektorske prepovedi umetne inteligence, ki bi se jih morala nizozemska podjetja zavedati v skladu z novimi predpisi?

Organizacije v izobraževalnem sektorju se soočajo s posebnimi omejitvami. Sistemov za prepoznavanje čustev ne morete uporabljati za spremljanje učencev ali ocenjevanje njihovega čustvenega stanja, ne glede na predvideno izobraževalno korist.

Delovna okolja imajo podobne omejitve. Delodajalci ne morejo uporabljati umetne inteligence za prepoznavanje čustev za spremljanje čustvenih stanj ali reakcij zaposlenih med delovnimi aktivnostmi.

Organi pregona imajo omejene izjeme za biometrične identifikacijske sisteme. Te izjeme zahtevajo strogo pravno odobritev in veljajo le za posebne situacije, kot so iskanje žrtev ugrabitve, preprečevanje neposrednih groženj ali sledenje osumljencem hudih kaznivih dejanj.

Javni organi, ki zagotavljajo javne storitve, se soočajo z dodatnimi zahtevami, ki presegajo splošne prepovedi. Za vse visoko tvegane sisteme umetne inteligence morate izvesti ocene vpliva na temeljne pravice in te sisteme registrirati v evropski zbirki podatkov.

Kakšne so kazni za neupoštevanje nizozemskih omejitev umetne inteligence, uvedenih februarja 2025?

Regulatorji lahko naložijo znatne globe za neupoštevanje zakona o umetni inteligenci. Struktura kazni sledi večstopenjskemu pristopu, ki temelji na resnosti kršitve.

Uporaba prepovedanih sistemov umetne inteligence predstavlja najresnejšo kategorijo kršitev. Vaša organizacija tvega znatne finančne kazni, če bo po roku februarja 2025 nadaljevala z upravljanjem prepovedanih sistemov.

Natančni zneski kazni so odvisni od tega, ali se vaša organizacija uvršča med mala in srednje velika podjetja ali večje družbe. Regulativni organi upoštevajo dejavnike, kot so narava kršitve, njeno trajanje in morebitna povzročena škoda.

Poleg finančnih kazni lahko neskladnost škoduje ugledu vaše organizacije. Posamezniki, ki so jim prepovedani sistemi umetne inteligence povzročili škodo, lahko uveljavljajo dodatna pravna sredstva v civilnem postopku.

Nizozemski organ za varstvo podatkov in drugi regulativni organi imajo izvršilna pooblastila. Lahko preiskujejo pritožbe, izvajajo revizije in zahtevajo takojšnjo prekinitev prepovedanih praks.