Odgovornost umetne inteligence na Nizozemskem: kdo plača, ko umetna inteligenca naredi napako?

Robot pripravlja brizgo za injiciranje.

Kadar sistem umetne inteligence na Nizozemskem naredi napako, se odgovornost določa po običajnih pravilih nizozemskega civilnega prava: običajno gre za stranko, ki je sistem dobavila ali uporabila na podlagi pogodbe, ali za organizacijo, ki ga je uvedla brez zadostne skrbnosti. Glavna izjema je proizvajalec okvarjenega izdelka, ki je lahko odgovoren brez krivde.

Ni ločenega zakona o odgovornosti za umetno inteligenco. Odgovornost izhaja iz pogodbe med strankama, odgovornost za pripisljivo neizpolnitev obveznosti v skladu s členom 6:74 nizozemskega civilnega zakonika (BW), odškodninska odgovornost v skladu s členom 6:162 BW, odgovornost za pomožne snovi in ​​za neprimerne predmete, uporabljene pri izvedbi, ter pravila o odgovornosti za izdelke v členih 6:185 do 6:193 BW. Zakon EU o umetni inteligenci nalaga javnopravne dolžnosti in globe ponudnikom in izvajalcem, vendar sam po sebi žrtvi ne daje odškodninskega zahtevka.

Robotska roka, ki poleg kladiva kaže na pravne dokumente, ponazarja vprašanja odgovornosti za umetno inteligenco v skladu z nizozemsko in evropsko zakonodajo.

Kazalo

Katere nizozemske pravne podlage se uporabljajo za škodo, ki jo je povzročila umetna inteligenca?

Splošna pravila civilnega zakonika, napisana za druge primere, katera sodišča se zdaj uporabljajo za umetno inteligenco. Katero sodišče je primernejše za vaš primer, določa, koga lahko štejete za odgovornega, kaj morate dokazati in koliko lahko povrnete.

  • Pripisljiva neizpolnitev pogodbe (člen 6:74 BW). Običajna pot, kjer se stranki dogovorita. Dobavitelj je obljubil sistem z določenimi lastnostmi in jih ni dobavil ali pa ga je ponudnik uporabljal zunaj dogovorjenih omejitev.
  • Odgovornost za pomožne službe (člen 6:76 BW). Stranka, ki za izpolnitev obveznosti uporabi drugo osebo, je odgovorna za to osebo kot zase. To je pomembno, kadar prodajalec umetne inteligence odda razvoj ali gostovanje modela podizvajalcu.
  • Odgovornost za neprimerne predmete, uporabljene pri izpolnitvi (člen 6:77 BW). Če je predmet, uporabljen za izpolnitev obveznosti, neprimeren, se nastala neizpolnitev pripiše dolžniku, razen če bi bilo to v danih okoliščinah nerazumno. V skladu s to določbo je lahko bolnišnica ali računovodsko podjetje odgovorno za okvarjeno orodje, ki ga je uporabilo. Izjema je ožja, kot toženci običajno domnevajo.
  • Odškodninska odgovornost (člen 6:162 BW). Pot za vsakogar zunaj pogodbe, kot so pacient, zavrnjeni kandidat za zaposlitev ali udeleženec v prometu. Tožnik mora dokazati nezakonito dejanje, pripisljivost, škodo, vzročnost in relativnost (kršeno pravilo mora ščititi pred tovrstno škodo).
  • Odgovornost zaposlenih in nepovezanih izvajalcev (člena 6:170 in 6:171 BW). Organizacija odgovarja za napake ljudi, ki delajo zanjo. To vključuje tudi zaposlenega, ki se je nekritično zanašal na strojni izpis.
  • Odgovornost za izdelke (členi 6:185 do 6:193 BW). Objektivna odgovornost proizvajalca za izdelek z napako brez dokaza o napaki. Ali se čista programska oprema šteje za izdelek v skladu s trenutnim besedilom, je sporno. Revidirana evropska direktiva to vprašanje rešuje.

Kaj dodaja GDPR?

Sistem umetne inteligence, ki obdeluje osebne podatke, mora biti skladen z GDPR ( AVG ). To daje prizadeti osebi dodatno pravico.

Člen 22 GDPR omejuje odločitve, ki temeljijo izključno na avtomatizirani obdelavi in ​​imajo pravne učinke ali podobno pomembne posledice za osebo. Člen 82 GDPR daje ločeno pravico do odškodnine za premoženjsko in nepremoženjsko škodo, ki jo je povzročila kršitev. V praksi tožnik z vidika varstva podatkov to pogosto uveljavlja skupaj z odškodninsko tožbo. Upravljavec mora nato dokazati, da je ravnal v skladu s predpisi, kar krepi položaj tožnika.

Zakaj bi morali začeti s pogodbo?

Ker je med podjetji odgovor na vprašanje, kdo je odgovoren za napako umetne inteligence, običajno zapisan v pogodbi, še preden gre kaj narobe. Nizozemska zakonodaja daje strankam široko svobodo pri porazdelitvi tega tveganja.

Dobavitelji umetne inteligence to svobodo uporabljajo. Njihovi standardni pogoji običajno opisujejo rezultat kot okviren in zavračajo primernost za določen namen. Odgovornost omejujejo na provizije, plačane v omejenem obdobju, in v celoti izključujejo posledično izgubo.

Ali omejitvene klavzule držijo?

Pogosteje, kot stranke pričakujejo, vendar ne vedno. Sodišče lahko razveljavi klavzulo, kadar bi bilo zanašanje nanjo nesprejemljivo glede na standarde razumnosti in pravičnosti.

Ta preizkus je v členu 6:248 BW. Nizozemska sodišča ga najlažje uporabljajo, kadar je bila škoda povzročena z namero ali namerno malomarnostjo dobavitelja ali njegovega vodstva. V splošnih pogojih poslovanja je klavzula lahko izpodbojna tudi kot nerazumno obremenjujoča v skladu s členom 6:233 BW. Potrošniki imajo dodatno zaščito pred zakonskimi seznami v členih 6:236 in 6:237 BW.

Katere pogodbene klavzule dejansko odločajo o sporih glede umetne inteligence?

Praktične klavzule, bolj kot le zgornja meja odgovornosti. Določale so, kdo je kaj obljubil in kdo je moral preveriti rezultate.

Kaj je dobavitelj jamčil glede natančnosti, podatkov o učenju in testiranja pristranskosti? Kdo mora potrditi izhod, preden kdo ukrepa na podlagi njega? Katera stranka je lastnica dnevnikov in kako dolgo se hranijo? Ali mora dobavitelj poročati o upadu delovanja modela? Ali se dobavitelj zavezuje, da bo sistem ohranjal skladen z zakonom o umetni inteligenci in kdo plača, če tega ne stori? Pogodba o umetni inteligenci, sklenjena s pogajanji, ki odgovori na ta vprašanja, je vredna več kot katera koli klavzula o višini odškodnine.

Kadar je ponudnik profesionalno podjetje, ki deluje za stranke, obstaja še druga plast. Podjetje, ki uporablja orodje umetne inteligence v svojih storitvah, je še vedno odgovorno svoji stranki za rezultat. V skladu s členom 6:77 BW se neprimernost orodja načeloma pripiše podjetju, ne stranki. Ali lahko podjetje to tveganje prenese na svojega dobavitelja, je v celoti odvisno od pogodbe o dobavi. Zato je treba oba sklopa pogojev brati vzporedno.

Kakšno dolžnost skrbnosti ima organizacija, ki uvaja umetno inteligenco?

Ravnati mora kot razumno previden ponudnik. Zunaj pogodbe je odgovornost odvisna od tega vprašanja.

Nizozemska sodišča to presojajo tako, kot presojajo katero koli dolžnost skrbnosti. Kako verjetna je bila škoda? Kako resna bi bila? Kako obremenjujoči so bili previdnostni ukrepi? Kaj je omogočalo najsodobnejše stanje tehnike? V praksi se je pojavil prepoznaven standard, ki se uporablja za umetno inteligenco.

  • Primernost za dejansko uporabo. Sistem, validiran za eno populacijo, nabor podatkov ali državo, ni samodejno primeren za drugo. Njegova uporaba zunaj pogojev, v katerih je bil preizkušen, je klasična kršitev dolžnosti skrbnega ravnanja.
  • Pomemben človeški nadzor. Oseba, ki pregleduje rezultate, potrebuje informacije, čas in pooblastilo, da se od njih odmakne. Nadzor, ki obstaja le na papirju, kjer pregledovalec odobri na stotine rezultatov na uro, ne nudi nobene zaščite.
  • Spremljanje po zagonu. Učinkovitost modela se spreminja, ko se svet spreminja. Organizacija, ki po lansiranju nikoli ne izmeri natančnosti, ne more dokazati, da je bila previdna.
  • Transparentnost do prizadete osebe. Obveščanje ljudi o uporabi umetne inteligence in o tem, kako je bila ta uporabljena, je v določenih primerih obveznost iz zakona o umetni inteligenci. To je tudi dejavnik, ko sodišče odloča o tem, ali je bilo ravnanje nezakonito.
  • Dokumentacija. Dnevniki, zapisi različic, rezultati testov in razlogi za sprejetje ali razveljavitev izhodnega podatka. Brez njih organizacija ne more ovreči trditve, ne glede na to, kaj se je dejansko zgodilo.

Velja tudi obratno. Organizacija, ki preglasi pravilen izhod umetne inteligence ali prezre opozorilo, ki ga je sistem dal, je izpostavljena isti dolžnosti skrbnega ravnanja. Vprašanje nikoli ni, ali je bila umetna inteligenca uporabljena. Vprašanje je, ali je bilo odločanje v zvezi z njo premišljeno.

Kako se odgovornost za izdelke nanaša na umetno inteligenco zdaj in od decembra 2026?

Danes je proizvajalec okvarjenega izdelka objektivno odgovoren v skladu s členi 6:185 do 6:193 BW, vendar ni jasno, ali je samostojna programska oprema izdelek. Revidirana direktiva EU programsko opremo, vključno z umetno inteligenco, izrecno opredeljuje kot izdelek za izdelke, dane na trg po 9. decembru 2026.

Kakšna so trenutna pravila?

Proizvajalec je odgovoren za smrt, telesne poškodbe in škodo na premoženju za zasebno uporabo, ne da bi oškodovanec moral dokazati krivdo. Izdelek je pokvarjen, če ne nudi varnosti, ki jo oseba pričakuje.

To pričakovanje upošteva predstavitev izdelka, njegovo razumno pričakovano uporabo in trenutek, ko je bil dan v promet. Oškodovanec mora dokazati napako, škodo in vzročno zvezo. V skladu s členom 6:191 BW zahtevek zastara tri leta po tem, ko je oškodovanec vedel ali bi moral vedeti za škodo, napako in proizvajalca. V vsakem primeru zastara deset let po tem, ko je bil izdelek dan v promet.

Za umetno inteligenco je slabost te ureditve strukturna. Napisana je bila za oprijemljive dobrine. Ni jasno, ali samostojna programska oprema šteje kot izdelek. Sistem, ki spremeni svoje vedenje po tem, ko je bil dan v obtok, pa se nerodno ujema z napako, ki se oceni v trenutku obtoka.

Kaj se spreminja v novi direktivi o odgovornosti za izdelke?

Direktiva (EU) 2024/2853 z dne 23. oktobra 2024 nadomešča direktivo iz leta 1985 in odgovarja na večino teh ugovorov. Programska oprema, vključno s sistemi umetne inteligence, je izrecno izdelek.

Odgovornih je lahko več strank. Poleg proizvajalca direktiva zajema uvoznike, pooblaščene zastopnike, ponudnike storitev izpolnjevanja naročil in v določenih primerih stranko, ki bistveno spremeni izdelek, ki je že na trgu. Pri ocenjevanju napake lahko sodišče upošteva učinke učenja po uvedbi in zmožnost zagotavljanja posodobitev. Minimalni prag za materialno škodo izgine. Nadomestljiva škoda izrecno vključuje uničenje ali poškodbo podatkov in medicinsko priznano psihično škodo.

Za umetno inteligenco je ključnega pomena, da lahko sodišče tožencu naloži razkritje dokazov, ki jih ima v lasti. Izpodbojne domneve o pomanjkljivosti in vzročnosti se uporabljajo, kadar tehnična ali znanstvena kompleksnost tožniku pretirano otežuje dokazovanje.

Kdaj začnejo nova pravila veljati na Nizozemskem?

Države članice morajo direktivo prenesti do 9. decembra 2026, uporablja pa se za izdelke, dane na trg po tem datumu. Nizozemski izvedbeni zakon še ni bil sprejet.

Predlog zakona ( Implementatiewet richtlijn herziening productaansprakelijkheid , zakon 36906) spreminja 6. in 7. knjigo civilnega zakonika. Predstavniškemu domu ( Tweede Kamer ) je bil predložen 18. februarja 2026; vlada je na poročilo odbora odgovorila 3. septembra 2026 in predlog zakona je še vedno v obravnavi. Datum začetka veljavnosti bo določen s kraljevim odlokom. Do takrat se še naprej uporabljajo veljavni členi od 6:185 do 6:193 BW. Izdelki, ki so že na trgu, ko začnejo veljati nova pravila, ostanejo v skladu s starim režimom. Tako bosta sistema več let delovala vzporedno, datum, ko je bil sistem dan na trg, pa bo odločil, kateri se bo uporabil.

Kaj Zakon o umetni inteligenci počne in česa ne?

Zakon o umetni inteligenci določa pravila o varnosti in nadzoru izdelkov ter se izvršuje z upravnimi globami. Ne ustvarja pravice do odškodnine: žrtev, ki želi odškodnino, mora še vedno vložiti zahtevek v skladu s civilnim zakonikom.

Zakon o umetni inteligenci, Uredba (EU) 2024/1689, razvršča sisteme glede na tveganje in neposredno prepoveduje majhno število praks. Ponudnikom visoko tveganih sistemov umetne inteligence nalaga obveznosti glede zasnove, dokumentacije, upravljanja podatkov, človeškega nadzora, natančnosti in spremljanja po tem, ko je sistem na trgu. Dodaja manjše dolžnosti glede preglednosti za sisteme, ki komunicirajo z ljudmi ali ustvarjajo sintetično vsebino, in ločena pravila za splošne modele umetne inteligence. Nadzorni organi ga izvajajo.

Zakaj je zakon o umetni inteligenci še vedno pomemben za civilno odgovornost?

Ker zagotavlja pisni standard, po katerem lahko sodišče presoja dolžnost skrbnosti. Njegova kršitev kaže na odgovornost; njegovo upoštevanje pa zagotavlja vašo obrambo.

Organizacija, ki je prezrla obveznost dokumentiranja, nadzora ali spremljanja, je na prvi pogled padla pod standard, ki ga izpolnjuje skrbni izvajalec. Dokazi o skladnosti delujejo z enako močjo tudi v obratni smeri. Tehnična datoteka, zapisi o obvladovanju tveganj in dnevniki so točno tisto, kar toženec potrebuje, ko prejme zahtevek.

Kateri datumi zakona o umetni inteligenci veljajo zdaj?

Časovni načrt se je leta 2026 spremenil. Številni načrti skladnosti so bili izdelani na podlagi prvotnih datumov, zato jih je vredno natančno navesti.

Uredba je začela veljati 1. avgusta 2024. Prepovedane prakse in dolžnost pismenosti na področju umetne inteligence se uporabljajo od 2. februarja 2025. Pravila o modelih umetne inteligence za splošno uporabo, upravljanju in kaznih se uporabljajo od 2. avgusta 2025. Večina uredbe, vključno z dolžnostmi preglednosti, se je začela uporabljati 2. avgusta 2026.

Paket poenostavitev („digitalni omnibus“ o umetni inteligenci) je bil objavljen v Uradnem listu 24. julija 2026 in je začel veljati 27. julija 2026. Obveznosti za samostojne sisteme z visokim tveganjem, navedene v Prilogi III, odlaga na 2. december 2027. Sistemi z visokim tveganjem, vgrajeni v izdelke, ki jih že zajema zakonodaja EU o izdelkih, sledijo 2. avgusta 2028. Generativni sistemi, ki so že na trgu pred 2. avgustom 2026, morajo do 2. decembra 2026 izpolniti obveznost strojno berljivega označevanja. Od 2. decembra 2026 veljata dve novi prepovedi, in sicer za sisteme, ki ustvarjajo gradivo o spolni zlorabi otrok ali intimne posnetke brez privolitve.

Odlog ni razveljavitev. Prepovedi, dolžnosti preglednosti in pravila za modele splošnega namena veljajo zdaj. Odložene obveznosti visokega tveganja opisujejo ravnanje, ki ga sodišče lahko že obravnava kot veljavni standard oskrbe. Organizacije, ki svoje programe začasno ustavijo do leta 2027, lahko ugotovijo, da jih civilno pravo dohiti prej.

Kdo bo nadzoroval zakon o umetni inteligenci na Nizozemskem?

To ureja ločen nizozemski izvedbeni zakon, ki še ni v veljavi. Ker je zakon o umetni inteligenci uredba, se uporablja neposredno ne glede na vse.

Vlada je 20. aprila 2026 v javno razpravo dala osnutek izvedbenega zakona za uredbo o umetni inteligenci ( Uitvoeringswet AI-verordening ). Osnutek daje osrednjo vlogo nizozemskemu organu za varstvo podatkov ( Autoriteit Persoonsgegevens ) in nizozemskemu organu za digitalno infrastrukturo ( Rijksinspectie Digitale Infrastructuur ). Obstoječi sektorski nadzorniki ohranjajo nadzor na svojih področjih. Še vedno pa manjka nacionalni okvir za izvrševanje in sankcije.

Kako dokažete, da je škodo povzročil sistem umetne inteligence?

To je najtežji del zahtevka za odgovornost zaradi umetne inteligence, veliko bolj kot pravna podlaga. Dokazati morate, da je škodo povzročil ta sistem in ne oseba, ki ga je uporabila, ali kakšen drug vzrok.

Kaj se je zgodilo z direktivo o odgovornosti za umetno inteligenco?

Predlog je bil umaknjen. Evropski odgovor naj bi bil domneva vzročne zveze, vendar o tem predlogu ni bilo nikoli soglasja.

Predlog Komisije za direktivo o odgovornosti za umetno inteligenco, predstavljen septembra 2022, bi uvedel domnevo vzročne zveze in pravico do odredbe o razkritju dokazov o sistemih z visokim tveganjem. Komisija ga je uradno umaknila, umik pa je bil objavljen v Uradnem listu 6. oktobra 2025. Nič ga ni nadomestilo.

Katera nizozemska proceduralna orodja lahko uporabite?

Zahteva za pregled podatkov in strokovni pregled, ki ga odredi sodišče. Skupaj z domnevami iz revidirane direktive o odgovornosti za izdelke so to orodja, ki ostajajo.

Od 1. januarja 2025 je pravica do vpogleda v podatke, ki jih hrani druga stranka, določena v členih 194 do 195a nizozemskega zakonika o civilnem postopku (Rv). Te določbe so nadomestile stari člen 843a Rv. Prag je nižji kot prej: dokazati morate verjeten interes za vpogled v določene podatke. Sodišče lahko tudi zaprosite, naj imenuje izvedenca ali odredi predhodni strokovni pregled ( voorlopig deskundigenbericht ).

V praksi zgodnja in natančna zahteva za dnevnike, različice modelov, poročila o validaciji in zapise o incidentih naredi več za zahtevek kot kateri koli argument o dokaznem bremenu. Na strani obrambe pa je ista točka v nasprotni smeri. Organizacija, ki teh zapisov ne more predložiti, bo ugotovila, da bo sodišče sklepalo na podlagi njihove odsotnosti.

Politika hrambe je torej vprašanje odgovornosti, ne le vprašanje IT. Kjer se uporablja zakon o umetni inteligenci, morajo ponudniki in uvajalci visoko tveganih sistemov hraniti samodejno ustvarjene dnevnike za določeno minimalno obdobje. Kjer se to ne zgodi, so zastaralni roki za osnovni zahtevek boljše vodilo. Trideset dni ni dovolj.

Kako to deluje v sektorjih, kjer je to najpomembnejše?

Povsod veljajo enaka pravila, vendar ima vsak sektor svojo dodatno plast. Tukaj je pet, kjer vidimo največ vprašanj.

Zdravstvo. Sistem diagnostične podpore ne odvzame odgovornosti zdravniku. Razmerje zdravljenja ostane pri izvajalcu oskrbe v skladu s sporazumom o zdravniški oskrbi iz členov 7:446 in naslednjih BW. Standard je standard razumno usposobljenega strokovnjaka. Če je orodje samo po sebi neprimerno, člen 6:77 BW to pripiše izvajalcu oskrbe, razen če bi bilo pripisovanje nerazumno, sodišča pa to izjemo uporabljajo restriktivno. Programska oprema, ki se šteje za medicinski pripomoček, ima poleg Zakona o umetni inteligenci svoje obveznosti v skladu z Uredbo o medicinskih pripomočkih.

Zaposlovanje in kadrovska služba. Sistem, ki izbira ali filtrira kandidate, je v skladu z zakonom o umetni inteligenci zelo tvegan. Prav tako je popolnoma v dosegu zakonodaje o enakem obravnavanju. Posredna diskriminacija prek posredniške spremenljivke je nezakonita, tudi če je nihče ni nameraval. To točko podrobneje obravnavamo v našem članku o odgovornosti za algoritemsko pristranskost . S kandidatom se sooča delodajalec, ne prodajalec. 22. člen GDPR omejuje izključno avtomatizirano zavrnitev, svet delavcev ( ondernemingsraad ) pa ima besedo pri uvajanju sistemov, ki spremljajo ali ocenjujejo zaposlene.

Cestni promet. Nizozemska zakonodaja že ima pravilo objektivne odgovornosti, ki velja ne glede na stopnjo avtomatizacije. V skladu s 185. členom Zakona o cestnem prometu iz leta 1994 ( Wegenverkeerswet 1994 ) je lastnik ali imetnik motornega vozila odgovoren za škodo, povzročeno nezaščitenim udeležencem v prometu, kot so pešci in kolesarji, v primeru trčenja na javni cesti, razen če je prišlo do višje sile. Sodna praksa to obrambo postavlja zelo visoko. Voznik je lahko odgovoren tudi v odškodninskem postopku, proizvajalec pa v skladu z odgovornostjo za proizvod, če je bil sistem okvarjen. Avtomatizacija premakne ravnovesje med tema dvema potema. Ne odstrani prve.

Finančne storitve. Institucija, ki uporablja modele za kreditno točkovanje, spremljanje transakcij ali svetovanje, še naprej zavezana dolžnosti skrbnosti iz Zakona o finančnem nadzoru ( Wet op het financieel toezicht ) in nadzoru regulatorjev. Napake pri upravljanju modela se obravnavajo kot napake pri upravljanju institucije, ne prodajalca.

Vsebina in komunikacije. Generativni sistemi ustvarjajo drugačno vrsto izpostavljenosti: kršitev pravic intelektualne lastnine, obrekljive ali zavajajoče objave in objavo osebnih podatkov. Odgovornost tukaj sledi običajnim pravilom za stranko, ki objavi. Dejstvo, da je besedilo napisal stroj, ni obramba. Naš članek o odgovornosti za vsebino, ustvarjeno z umetno inteligenco, to stališče podrobno opisuje.

Kadar napaka umetne inteligence povzroči telesno poškodbo, na primer v zdravstvu ali na cesti, se zahtevek za to poškodbo šteje za zahtevek za odškodnino zaradi telesne poškodbe. Law & More ne obravnava odškodninskih zahtevkov zaradi telesnih poškodb; ta del napotimo na specializiranega odvetnika za telesne poškodbe. Svetujemo pa glede pogodb, dolžnosti skrbnega ravnanja in skladnosti z zakonom o umetni inteligenci.

Kaj morate preveriti kot organizacija, ki uporablja umetno inteligenco?

Pred incidentom preverite svoje evidence in pogodbe, saj jih pozneje ni mogoče verodostojno ustvariti. V skladu s členom 6:77 BW tveganje za neprimerno orodje v odnosu do vaših strank nosite vi.

  • Preslikajte, kje se umetna inteligenca dejansko uporablja, vključno z orodji, vgrajenimi v programsko opremo, ki jo že licencirate, in vsako uporabo razvrstite v skladu z zakonom o umetni inteligenci.
  • Preberite zgornjo mejo odgovornosti dobavitelja poleg lastne izpostavljenosti strankam.
  • Dajte pregledovalcem informacije, čas in mandat, da odstopajo od rezultata, in zabeležite, kdaj to storijo.
  • Odločite se, kateri dnevniki se hranijo in kako dolgo; uskladite hrambo z zastaralnimi roki, ne s stroški shranjevanja.
  • Pisno vprašajte pri svoji zavarovalnici, ali je zahtevek, ki izhaja iz odločitve, podprte z umetno inteligenco, krita.

Kaj morate preveriti kot dobavitelj umetne inteligence?

Preverite, kaj obljublja vaša pogodba in kaj lahko dokaže vaša dokumentacija. Za izdelke, dane na trg po 9. decembru 2026, Direktiva (EU) 2024/2853 nalaga odgovornost za okvarjeno programsko opremo brez vaše krivde.

  • Ali vaši pogoji jasno navajajo, kaj jamčite glede natančnosti, podatkov za učenje in testiranja pristranskosti?
  • Ali so vaše omejitvene klavzule oblikovane tako, da preživijo preizkus členov 6:233 in 6:248 BW?
  • Ali je vaša klasifikacija v skladu z zakonom o umetni inteligenci dokumentirana, s posodobljeno tehnično dokumentacijo in evidencami o obvladovanju tveganj?
  • Ali preverjate pristranskost in odstopanja po urniku in hranite rezultate, tudi če so nezadovoljivi?
  • Kdo krije stroške posodobitev, potrebnih za ohranjanje skladnosti sistema, in kdo komu poroča o incidentih?
Robot na zatožni klopi v sodni dvorani, medtem ko se odvetniki prepirajo o odgovornosti za umetno inteligenco, kar ponazarja razpravo o pravilih o odgovornosti za izdelke za sisteme umetne inteligence.

Kaj lahko storimo za vas glede odgovornosti za umetno inteligenco?

Naša ekipa za pravo IT svetuje dobaviteljem in uporabnikom sistemov umetne inteligence ter zastopa stranke v sporih glede avtomatiziranih odločitev in nasprotuje jim.

  • Pregledujemo in se pogajamo o pogodbah za umetno inteligenco in programsko opremo, vključno z garancijami, omejitvami odgovornosti in lastništvom dnevnikov.
  • Ocenimo, kje je vaš sistem uvrščen v skladu z zakonom o umetni inteligenci in katere obveznosti veljajo na kateri datum.
  • Vzpostavili smo upravljanje, človeški nadzor in beleženje, ki bo v postopkih obveljalo.
  • Zahtevamo pregled dnevnikov in podatkov modela v skladu s členi 194 do 195a Rv.
  • Ocenjujemo in vlagamo ali branimo odškodninske zahtevke za škodo, ki jo je povzročila napaka umetne inteligence.

Povzetek

  • Ni ločenega zakona o odgovornosti za umetno inteligenco: o tem, kdo plača, odločajo pogodba, dolžnost skrbnosti (člen 6:162 BW), člena 6:76 in 6:77 BW ter odgovornost za izdelek.
  • Med podjetji pogodba razdeli večino tveganja; omejitvene klavzule običajno veljajo, vendar ne v primerih naklepa ali namerne malomarnosti.
  • Direktiva (EU) 2024/2853 programsko opremo izrecno opredeljuje kot izdelek za izdelke, dane na trg po 9. decembru 2026; nizozemski zakon 36906 še vedno čaka na obravnavo.
  • Zakon o umetni inteligenci ne daje pravice do odškodnine, določa pa standard oskrbe; obveznosti iz Priloge III glede visokega tveganja veljajo od 2. decembra 2027.
  • Dokaz je pravo bojišče: dnevniki, zapisi različic in rezultati testov odločajo o večini primerov.

Pogosta vprašanja

Kdo je odgovoren, če samovozeče vozilo povzroči nesrečo?

Nizozemska zakonodaja se začne s 185. členom Zakona o cestnem prometu iz leta 1994. Ta člen nalaga lastniku ali imetniku motornega vozila odgovornost za nezaščitene udeležence v prometu, kot so pešci in kolesarji, razen če je prišlo do višje sile. Voznik je lahko odgovoren tudi v odškodninski odgovornosti, proizvajalec pa v skladu z odgovornostjo za proizvod, če je bil sistem okvarjen.

Ali za medicinsko umetno inteligenco veljajo drugačna pravila kot za komercialno umetno inteligenco?

Da. Programska oprema umetne inteligence, ki se šteje za medicinski pripomoček, mora izpolnjevati tudi uredbo o medicinskih pripomočkih (MDR). V skladu z zakonom o umetni inteligenci obveznosti za takšne vgrajene sisteme z visokim tveganjem veljajo od 2. avgusta 2028. Izvajalec zdravstvene oskrbe ostaja odgovoren do pacienta tudi v skladu s sporazumom o zdravljenju iz člena 7:446 in naslednjih BW.

Kaj pomeni zakon EU o umetni inteligenci za odgovornost?

Zakon o umetni inteligenci žrtvam ne daje pravice do odškodnine; zahtevki še vedno potekajo v okviru nizozemskega civilnega zakonika. Njegove obveznosti glede dokumentiranja, človeškega nadzora in spremljanja dajejo sodišču pisni standard za dolžnost skrbnosti, dolžnosti beleženja pa lahko olajšajo dokazovanje, kaj je šlo narobe.

Kako dokažem, da je programska oprema umetne inteligence okvarjena?

Dokazati morate, da sistem ne ponuja varnosti, ki jo oseba lahko pričakuje, kar običajno zahteva dostop do dokumentacije o podatkih o usposabljanju, različicah in rezultatih testiranja. Direktiva o odgovornosti za umetno inteligenco je bila umaknjena; umik je bil objavljen 6. oktobra 2025. Revidirana direktiva o odgovornosti za izdelke dovoljuje odredbe o razkritju in domneve, v nizozemskih postopkih pa lahko zahtevate pregled podatkov v skladu s členi 194 do 195a Rv.

Tom Meevis
Tom Meevis je odvetnik pri Law & More in Eindhoven in AmsterdamUkvarja se s splošno prakso in je pogajalec ter zastopnik odvetniške pisarne.

Imate vprašanje o IT-zakonu ali zasebnosti?

Pošljite nam nekaj vrstic o svojem vprašanju na info@lawandmore.nlSporočili vam bomo, ali vam lahko pomagamo in kakšen je naslednji korak. Primerov ali dokumentov ne ocenjujemo po e-pošti brez predhodnega dogovora.

Bi želeli, da odvetnik za IT oceni vašo situacijo? V plačanem posvetu v vrednosti 300 EUR z DDV boste prejeli usmerjen odgovor na vaše vprašanje.

Ta članek vsebuje splošne informacije in ni nadomestilo za nasvet glede vaše specifične situacije.

Sorodni članki

Spor glede domenskega imena se na Nizozemskem rešuje v skladu z zakonom o blagovnih znamkah, trgovskim imenom

Organizacija, ki uporablja avtomatiziran sistem, je odgovorna za diskriminatorne rezultate, ki jih ta povzroči,

Kibernetska varnost ni več zgolj tehnična zadeva. Je tudi pravna in upravna

Če vsebina, ustvarjena z umetno inteligenco, vsebuje napake ali krši pravice nekoga, podjetje, ki se je odločilo za uporabo

Z lastniško licenco za programsko opremo dobavitelj obdrži avtorske pravice in izvorno kodo ter

Nizozemska spletna trgovina se mora jasno predstaviti in potrošnikom pred tem zagotoviti določen nabor informacij.