Algoritemsko upravljanje: ali lahko algoritem oceni vašo uspešnost?

Algoritemsko upravljanje, uporaba sistemov umetne inteligence za spremljanje, ocenjevanje in vodenje zaposlenih, je na Nizozemskem dovoljena, vendar le znotraj določenih omejitev. Algoritem lahko podpira oceno uspešnosti; ni pa nujno edina podlaga za odločitev, ki ima pomemben vpliv na vas, kot so odpoved, znižanje delovnega mesta ali zavrnitev bonusa, saj 22. člen GDPR te odločitve pridržuje za človeka, ki jih resnično pregleda. Poleg tega zakon EU o umetni inteligenci sisteme, ki se uporabljajo za spremljanje in ocenjevanje delavcev, uvršča med visoko tvegane in popolnoma prepoveduje uporabo umetne inteligence za sklepanje o čustvih zaposlenih na delovnem mestu.

Kaj pravzaprav je algoritmično upravljanje

Algoritemsko upravljanje je situacija, v kateri programska oprema, namesto nadzornika, opravlja opazovanje, merjenje in pogosto presojanje. Pojavlja se v skladiščih in distribucijskih centrih, v kontaktnih centrih za stranke, pri delu na platformah in vse bolj v običajnih pisarniških delovnih mestih, kjer so orodja za produktivnost vgrajena v sisteme, ki jih ljudje že uporabljajo. Delodajalcu ni treba kupiti izdelka, imenovanega AI manager, da bi se pojavila pravna vprašanja; zadostuje nadzorna plošča, ki ocenjuje zaposlene na podlagi samodejno zbranih podatkov.

Takšen sistem dobro opravlja štetje. Beleži opravljene naloge, čas obdelave, odzivne čase, upoštevanje skripta in ure, zabeležene v aplikaciji. Česar pa ne more, je razumeti, zakaj se je število spremenilo. Zaposlena, katere produktivnost se zmanjša, ker je tri tedne usposabljala novega sodelavca, ker je ta obravnaval eno stranko, ki je nihče drug ni mogel obvladati, ali ker je bilo delo v tem obdobju nenavadno zapleteno, je v podatkih videti enako kot zaposleni, ki je preprosto naredil manj. Ta vrzel med merjenjem in pomenom je vir skoraj vsakega pravnega spora na tem področju.

Bistvo ni v tem, da je merjenje uspešnosti nezakonito. Delodajalci imajo pravico vedeti, kako poteka delo, in razumno spremljanje je normalen del vodenja podjetja. Bistvo je, da nizozemska in evropska zakonodaja določata pogoje za način izvajanja merjenja in predvsem za način uporabe njegovih rezultatov.

Kako ti sistemi ocenjujejo vašo uspešnost

Razumevanje mehanizma je pomembno, ker so vaše pravice vezane na določene faze postopka. Na splošno se zgodijo tri stvari: zberejo se podatki, model jih pretvori v presojo in nekdo ali nekaj na podlagi tega ukrepa.

Kaj sistem zbira

Zbiranje podatkov je običajno nevidno in neprekinjeno. V okolju stika s strankami lahko sistem beleži število obravnavanih stikov, povprečni čas obdelave, prvo rešitev, čas mirovanja med klici in upoštevanje predpisanega scenarija. Lahko gre še dlje in analizira vsebino: obdelavo naravnega jezika, uporabljeno za prepise e-pošte in klicev, zaznavanje ključnih besed in ocenjevanje mnenj strank na strani pogovora. V logistiki bodo to stopnje skeniranja in hitrost komisioniranja; v pisarniškem delu pa aktivnost v orodjih za sodelovanje.

Vsaka od teh podatkovnih točk je vaš osebni podatek in vsaka mora biti utemeljena. V skladu z GDPR delodajalec ne sme zbirati vsega, kar sistem lahko zbere; obdelava mora biti potrebna za določen namen in sorazmerna z njim. Sistem, ki beleži pritiske tipk ali občasno posname posnetke zaslona, ​​da bi ugotovil, kdo trdo dela, je zelo težko zagovarjati kot sorazmeren, in Autoriteit Persoonsgegevens (nizozemski organ za varstvo podatkov) je bil dosledno kritičen do takšnega splošnega spremljanja.

Od pravil do modelov in črne skrinjice

Najenostavnejši sistemi temeljijo na pravilih. Če povprečni čas obdelave preseže določeni prag več kot določeno število krat na teden, je zaposleni označen. Tak sistem je tog in ne upošteva konteksta, vendar ima eno pomembno prednost: pravilo lahko preberete in natančno vidite, zakaj ste bili označeni, kar omogoča razpravo o njem.

Modeli strojnega učenja delujejo drugače. Učijo se na podlagi zgodovinskih podatkov o tem, kdo se je dobro odrezal in kdo ne, in sklepajo na vzorce, ki so povezani s temi rezultati. To je močnejše in precej manj pregledno. Model se lahko osredotoča na nekaj, kar sploh nima nobene utemeljene povezave z uspešnostjo, in niti delodajalec niti včasih dobavitelj ne moreta natančno povedati, zakaj je določen rezultat izpadel takšen, kot se je.

Ta nepreglednost je tisto, kar običajno imenujemo problem črne škatle, in v pravnem okolju je prej usodna kot zgolj neprijetna. Delodajalec, ki ne more pojasniti podlage za oceno, ne more izpolniti dolžnosti, da poda smiselne informacije o vpleteni logiki, ne more ustrezno zagovarjati ocene, če je izpodbijana, in ne more dokazati, da nima diskriminatornega učinka. V praksi se nanjo ne morete zanašati, če je ne morete pojasniti.

Kaj GDPR zahteva od sistema za delovanje umetne inteligence

GDPR je prvi in ​​še vedno najbolj praktičen instrument na tem področju, saj velja za vse delodajalce, ki obdelujejo podatke o zaposlenih, in se izvaja že leta. Štiri njena pravila opravijo večino dela.

Člen 22: nobena pomembna odločitev samo s strojem

Člen 22 GDPR daje vsaki osebi pravico, da ni predmet odločitve, ki temelji izključno na avtomatizirani obdelavi, vključno s profiliranjem, ki ima pravne učinke v zvezi z njo ali jo podobno pomembno vpliva. Odpoved, nepodaljšanje pogodbe, znižanje položaja, zadržanje bonusa in zavrnitev napredovanja – vse to brez težav spada v ta opis.

Težo imata le dve besedi. Pomeni zgolj, da človek, ki zgolj potrdi, kar sistem predlaga, ne izključuje odločitve iz 22. člena; nadzorni organi že leta jasno poudarjajo, da potrjevanje ni človeško posredovanje. Smiselno posredovanje zahteva pregledovalca s pooblastilom za dosego drugačnega sklepa, pristojnost za oceno primera in čas za to. Izraz »bistveno vpliva« se bere v širšem smislu in ne zahteva formalne pravne posledice: sistem točkovanja, ki določa, katere izmene ali katere naloge vam bodo ponujene, vas lahko dovolj bistveno vpliva, da se boste vključili v članek.

Kadar se uporablja 22. člen, mora delodajalec v vsakem primeru zagotoviti zaščitne ukrepe, ki jih predpisuje: pravico do človeškega posredovanja, pravico do izražanja stališča in pravico do izpodbijanja odločitve.

Preglednost, dostop in vključena logika

Zaposleni morajo biti pred tem obveščeni o obstoju sistema in o tem, kaj počne. Kadar se izvaja avtomatizirano odločanje v smislu 22. člena, mora delodajalec zagotoviti tudi smiselne informacije o vključeni logiki ter o pomenu in predvidenih posledicah obdelave. Iste informacije je mogoče zahtevati pozneje z zahtevo za dostop posameznika, ki vam daje tudi pravico do kopije osebnih podatkov, ki se obdelujejo o vas: rezultatov, osnovnih meritev in kategorij, ki vam jih sistem dodeli.

Kar šteje za smiselno, je bilo določeno v smeri vsebine in ne formalnosti. Ne gre za opis tehnologije; gre za razlago, kateri dejavniki so bili uporabljeni in kako so bili tehtani, izraženo z izrazi, ki jih zadevna oseba dejansko lahko razume in na podlagi katerih lahko ukrepa.

Pravna podlaga, soglasje in ocena učinka na varstvo podatkov

Vsak postopek obdelave potrebuje zakonito podlago. V okviru zaposlitve je privolitev redko uporabna, prav zaradi odvisnosti med delodajalcem in zaposlenim: privolitev, ki je ni mogoče zavrniti brez posledic, ni dana prostovoljno. Delodajalci se zato običajno zanašajo na nujnost obdelave za izpolnjevanje pogodbe o zaposlitvi, na pravno obveznost ali na legitimni interes, slednji pa zahteva dokumentirano tehtanje med zasledovanim interesom in zasebnostjo delovne sile.

Ker spremljanje uspešnosti v takšnem obsegu vključuje sistematično in obsežno ocenjevanje ljudi na podlagi avtomatizirane obdelave, ocena učinka na varstvo podatkov ni neobvezna. Zahtevana je pred zagonom sistema in mora opisati obdelavo, utemeljiti njeno nujnost in sorazmernost, opredeliti tveganja za zaposlene ter določiti ukrepe za njihovo odpravo. Delodajalci, ki oceno izpustijo, težave običajno odkrijejo pozneje, v sporu, ko odločitev ni več mogoče tiho popraviti.

Kako daleč lahko delodajalec gre pri nadzoru?

Ocenjevanja uspešnosti ni mogoče ločiti od spremljanja, ki ga hrani, in spremljanje ima svoje meje. Zaposleni se ne odpove zasebnemu življenju pred vrati pisarne: Evropsko sodišče za človekove pravice je v zadevi Barbulescu proti Romuniji razsodilo, da spremljanje komunikacij zaposlenega vključuje pravico do spoštovanja zasebnega življenja in korespondence v skladu s členom 8 Konvencije ter da mora delodajalec zaposlenega vnaprej obvestiti o naravi in ​​obsegu spremljanja, da mora zasledovati legitimen cilj in izbrati najmanj vsiljiva sredstva, s katerimi ga je mogoče doseči. Prikrito spremljanje delovne sile je izjemno in zahteva konkreten sum, omejeno trajanje in dokumentirano oceno, ki je ne bi bilo mogoče doseči z nobenim milejšim ukrepom.

Prevedeno v projekt algoritmičnega upravljanja to pomeni, da mora biti delodajalec sposoben odgovoriti na tri vprašanja o vsakem podatkovnem toku: zakaj so ti podatki potrebni za navedeni namen, zakaj manj vsiljiva meritev tega ne bi dosegla in ali so bili zaposleni o tem vnaprej obveščeni. Neprekinjeno snemanje zaslona, ​​beleženje pritiskov tipk in sledenje lokacije zunaj delovnega časa na ta vprašanja v večini običajnih zaposlitvenih okolij ne odgovorijo.

Podatki o odsotnosti, bolezni in posebnih kategorijah

Ena kategorija si zasluži posebno previdnost. Podatki, ki razkrivajo zdravje, so v skladu s Splošno uredbo o varstvu podatkov posebna kategorija podatkov in se načeloma sploh ne smejo obdelovati, razen v redkih primerih. Nizozemska pravila o bolniški odsotnosti so stroga: delodajalec lahko registrira, da je zaposleni odsoten in kako dolgo, vendar narava bolezni, diagnoza in omejitve pripadajo bedrijfsarts (zdravniku podjetja), ne pa delodajalcu. Sistem za ugotavljanje uspešnosti, ki sklepa o zdravstvenem stanju na podlagi vzorcev odsotnosti, hitrosti tipkanja, odmorov ali tona glasu, obdeluje zdravstvene podatke s sklepanjem, dejstvo, da nihče ni vanj vnesel diagnoze, pa ne vpliva.

Enako opozorilo velja za sisteme, na katerih ocene vpliva zaščitena odsotnost, kot so nosečnost, starševski dopust ali dopust za varstvo otrok. Če model ta obdobja obravnava kot slabšo uspešnost, delodajalec ne le obdeluje občutljive podatke, temveč zakonsko pravico spreminja v slabši položaj.

Zgornja raven izvrševanja

Kršitve temeljnih načel, zakonitosti obdelave in pravic posameznikov, na katere se nanašajo osebni podatki, spadajo v zgornjo plast 83. člena GDPR, kar je najtežja kategorija, ki jo uredba določa. Prav tako pomembno za vsakodnevno prakso je, da se je na oceno, ki je bila podana v nasprotju s temi pravili, v delovnem sporu težko zanašati: sodišče, ki mora odpovedati pogodbo o zaposlitvi zaradi slabe uspešnosti, bo želelo videti, kako je bila slaba uspešnost ugotovljena.

Kaj zakon o umetni inteligenci prinaša delodajalcem in delavcem

Zakon EU o umetni inteligenci je v veljavi in ​​se uporablja postopoma, zato vprašanje ni več, ali bo kmalu na voljo, temveč katere od njegovih obveznosti so že pomembne. Tukaj sta pomembni dve njegovi plasti.

Prvi je seznam prepovedanih praks, ki velja že od najzgodnejše faze zakona. Vključuje pravilo, ki je neposredno usmerjeno na delovno mesto: sistemi umetne inteligence, ki se uporabljajo za sklepanje o čustvih fizične osebe na delovnem mestu in v izobraževalnih ustanovah, so prepovedani, razen če je sistem namenjen vzpostavitvi ali trženju iz zdravstvenih ali varnostnih razlogov. Programska oprema, ki ocenjuje razpoloženje, raven stresa, angažiranost ali iskrenost zaposlenih na podlagi njihovega glasu, obraza ali pisave, zato ni problem skladnosti, ki bi ga bilo treba obravnavati. Ni vključena v to področje, ozka izjema za zdravje in varnost pa ne zajema upravljanja produktivnosti. Pazljivo bodite pozorni na mejo: analiza čustev stranke je drugačno vprašanje kot sklepanje o čustvih zaposlenega.

Druga plast je režim z visokim tveganjem. Priloga III Zakona o umetni inteligenci med drugim označuje kot visoko tvegane sisteme umetne inteligence, namenjene uporabi za sprejemanje odločitev, ki vplivajo na pogoje delovnih razmerij, spodbujanje ali prekinitev takšnih razmerij, dodeljevanje nalog na podlagi individualnega vedenja ali osebnih lastnosti ter spremljanje in ocenjevanje uspešnosti in vedenja delavcev. Orodje za ocenjevanje uspešnosti umetne inteligence se popolnoma ujema s tem opisom. V okviru digitalnega omnibus paketa so bili datumi začetka uporabe obveznosti z visokim tveganjem za sisteme iz Priloge III prestavljeni, tako da imajo delodajalci več časa za pripravo; prepovedi, pravila za splošne modele umetne inteligence in dolžnosti preglednosti iz člena 50 že veljajo.

Ena obveznost si zasluži ločeno omembo, saj jo delodajalci redno spregledajo. Uvajalci, ki so delodajalci, morajo pred uporabo visoko tveganega sistema umetne inteligence na delovnem mestu obvestiti predstavnike delavcev in prizadete delavce v skladu z veljavnimi pravili o obveščanju in posvetovanju. To je dolžnost obveščanja, ki je vzporedna z obveznostmi glede preglednosti iz GDPR in pravicami sveta delavcev v skladu z nizozemsko zakonodajo, vendar jih ne nadomešča. Za podrobnejšo obravnavo zakona in njegovega časovnega načrta glejte naš članek o pravni plati umetne inteligence in zakonu EU o umetni inteligenci.

Kdo je odgovoren: dobavitelj ali delodajalec?

Delodajalci pogosto domnevajo, da ker je bila programska oprema kupljena od specializiranega dobavitelja, dobavitelj nosi pravno tveganje. Noben od teh okvirov ne dodeljuje odgovornosti na tak način.

V skladu z GDPR delodajalec odloča, zakaj in kako se obdelujejo podatki o zaposlenih, zato je upravljavec. Dobavitelj, ki upravlja sistem po navodilih delodajalca, je obdelovalec, odnos pa mora biti določen v sporazumu o obdelavi, vendar je delodajalec tisti, ki je dolžan zagotavljati preglednost, zakonitost in človeški nadzor do svojih zaposlenih, in je odgovoren organu za varstvo podatkov (Autoriteit Persoonsgegevens) ter samim zaposlenim.

Zakon o umetni inteligenci potegne primerljivo mejo med ponudnikom, ki razvije sistem umetne inteligence in ga da na trg, in ponudnikom, ki ga uporablja pod lastnim pooblastilom. Delodajalec, ki uporablja kupljeno orodje, je običajno ponudnik in nosi svoje obveznosti, vključno z uporabo sistema v skladu z navodili, zagotavljanjem ustrezne ravni človeškega nadzora s strani oseb s potrebnimi kompetencami in pooblastili, spremljanjem njegovega delovanja in obveščanjem delavcev. Delodajalec, ki na sistem napiše svoje ime, ga bistveno spremeni ali spremeni njegov predvideni namen, lahko postane ponudnik in prevzame veliko težje obveznosti, ki so povezane s to vlogo.

Praktična posledica za javna naročila je, da je treba pogodbo brati z upoštevanjem teh vlog. Delodajalec potrebuje, da dobavitelj zagotovi informacije, ki omogočajo skladnost, in mora biti skeptičen do vsakega izdelka, ki ne more pojasniti lastnega rezultata, saj bo dolžnost pojasnjevanja padla na delodajalca ne glede na to, kaj piše v dovoljenju.

Delo na platformi: dodatna plast pravil

Za ljudi, ki delajo prek digitalnih platform za delo, je na poti še en instrument. Direktiva (EU) 2024/2831 o izboljšanju delovnih pogojev pri delu na platformah namenja celotno poglavje algoritmičnemu upravljanju. Platforme zavezuje, da delavce obveščajo o avtomatiziranih sistemih za spremljanje in odločanje, ki pomembno vplivajo na njihove delovne pogoje, omejuje obdelavo določenih kategorij podatkov, vključno s podatki o čustvenem in psihološkem stanju ter podatki o zasebnih pogovorih, zahteva človeški nadzor nad učinki teh sistemov in delavcem daje pravico do pojasnila in človeškega pregleda pomembnih odločitev, kot sta omejitev ali začasna ukinitev računa. Omeniti velja, da se več teh zaščitnih ukrepov uporablja za ljudi, ki opravljajo delo na platformah, ne glede na to, ali se kvalificirajo kot zaposleni ali ne.

Države članice morajo direktivo prenesti v nacionalno zakonodajo do 2. decembra 2026. Dokler ne začne veljati nacionalna izvedbena zakonodaja, ostajata operativna pravila GDPR in Zakon o umetni inteligenci, njune zahteve pa že pokrivajo veliko istega področja.

Nizozemska delovna zakonodaja: algoritem ne more prekiniti vaše pogodbe

Evropska pravila o varstvu podatkov in umetni inteligenci urejajo, kako lahko sistem deluje. Nizozemska delovna zakonodaja ureja, kaj lahko delodajalec stori s svojimi rezultati, in je precej strožja, kot predvideva večina projektov algoritmičnega upravljanja.

Delodajalec na Nizozemskem ne more kar tako odpovedati pogodbe o zaposlitvi. Za odpoved je potreben utemeljen razlog, naveden v členu 7:669 nizozemskega civilnega zakonika, in predhodno dovoljenje UWV ali odločba kantonrechterja (podokrožnega sodišča), odvisno od razloga. Slaba delovna uspešnost je eden od teh razlogov in je zahteven. Delodajalec mora dokazati, da delavec ni primeren za to delovno mesto, da je bil delavec o tem pravočasno obveščen in da mu je bila ponujena resnična priložnost za izboljšanje, po potrebi s podporo. Pregled stanja ni postopek izboljšanja in sodišče bo vprašalo, kaj se je razpravljalo, kdaj in kakšna pomoč je bila nudena. Naš vodnik po nizozemskem delovnem pravu podrobneje opisuje okvir odpovedi.

Zakon o diskriminaciji se uporablja za izid, ne za namen. Če sistem postavlja zaposlene v slabši položaj zaradi spola, rase, starosti, vere, invalidnosti ali kronične bolezni, je to nezakonito v skladu z Algemene wet gelijke behandeling (Splošni zakon o enakem obravnavanju) in posebnimi zakoni o enakem obravnavanju glede starosti in invalidnosti, ne glede na to, ali je kdo želel takšen rezultat. Podatki o zgodovinskem usposabljanju so običajni krivec: model, usposobljen na podlagi tega, kdo je bil v preteklosti napredovan, bo reproduciral preference iz preteklosti. Sistemi, ki merijo surovo razpoložljivost ali produktivnost skozi čas, ponavadi kaznujejo tudi zaposlene, ki so vzeli starševski dopust, delali s krajšim delovnim časom ali so bili odsotni zaradi bolezni, in kaznovanje zaposlenega zaradi uveljavljanja zakonske pravice je prav tisto, kar zakon o enakem obravnavanju prepoveduje.

Delavski svet se mora strinjati

V podjetju, kjer obstaja svet delavcev, delodajalec potrebuje več kot le dober namen. Člen 27 Zakona o svetih delavcev (Wet op de ondernemingsraden) zahteva soglasje ondernemingsraada (sveta delavcev) za sprejetje, spremembo ali preklic ureditev, vključno s tistimi o ocenjevanju zaposlenih, obdelavi in ​​varstvu osebnih podatkov zaposlenih ter o objektih, ki so namenjeni ali primerni za opazovanje ali spremljanje prisotnosti, ravnanja ali uspešnosti zaposlenih. Sistem za ocenjevanje uspešnosti z umetno inteligenco vključuje vse tri hkrati.

Soglasje tukaj ni formalnost. Svet delavcev lahko odločitev, sprejeto brez potrebnega soglasja, razglasi za nično, delodajalcu pa se lahko nato prepreči njena uporaba. Za zaposlene, ki menijo, da jim je bil vsiljen sistem, je svet delavcev pogosto najhitrejša in najučinkovitejša pot do sprememb, še preden kdo pomisli na tožbo.

Kaj so sodišča doslej odločila

Sodna praksa se še razvija, vendar dve nizozemski sodbi že določata smer in obe se citirata daleč preko meja Nizozemske.

Sodbi Uber in Ola

4. aprila 2023 je Gerechtshof Amsterdam (Amsterdam Prizivno sodišče) je odločilo v vrsti primerov, ki so jih vozniki vložili proti Uberju in Oli. Vozniki so želeli vedeti, zakaj so bili njihovi računi deaktivirani in kako so jim bili dodeljeni delo in cene. Sodišče je v veliki meri razsodilo v njihovo korist glede informacijskih točk. Vozniki, ki so izgubili dostop do platforme in s tem tudi dohodek, so bili zaradi avtomatiziranega odločanja znatno prizadeti, podjetja pa niso mogla zamolčati s sklicevanjem na poslovne skrivnosti ali tveganje manipulacije, ne da bi ta ugovor utemeljila.

Sodišče je zahtevalo konkretne podatke: ne splošen opis tehnologije, temveč informacije o uporabljenih dejavnikih in njihovi teži, da bi lahko zadevna oseba razumela in izpodbijala rezultat. To je standard, za katerega bi morali delodajalci domnevati, da velja tudi za algoritem uspešnosti. Če je vaš odgovor na vprašanje, zakaj sem dosegel slabo oceno, da jo je določil model, niste izpolnili standarda.

Sodba SyRI

Drugi primer ni bil delovni spor, vendar njegova obrazložitev sega na delovno mesto. Rechtbank Den Haag (okrožno sodišče v Haagu) je v sodbi z dne 5. februarja 2020 (ECLI:NL:RBDHA:2020:865) razsodilo, da zakonodaja, na kateri temelji SyRI, vladni sistem za označevanje tveganja, ki se uporablja za odkrivanje goljufij na področju socialnih prejemkov in davkov, ni izpolnila preizkusa iz 8. člena Evropske konvencije o človekovih pravicah. Sistem ni bil dovolj pregleden in preverljiv: nihče od zunaj ni mogel ugotoviti, kako je bila oseba označena, zaradi česar se je bilo nemogoče braniti pred njim.

Načelo je splošno. Sistema, katerega delovanja ni mogoče pregledati, ni mogoče izpodbijati, odločitev, ki je ni mogoče izpodbijati, pa ni pravična odločitev. Delodajalec, ki želi ocene utemeljiti na modelu, ki ga ne zaposleni ne delodajalec ne moreta pojasniti, gradi na isti podlagi, ki je v tistem primeru odpovedala. Ta vprašanja odgovornosti za avtomatizirano ravnanje segajo dlje od samega delovnega prava, kot kaže naš članek o umetni inteligenci in kazenskem pravu.

Vaše pravice, če vas algoritem ocenjuje

Če se vaše ocenjevanje izvaja s pomočjo sistema umetne inteligence, imate konkretne in izvršljive pravice ter vam ni treba dokazati, da je sistem napačen, preden jih lahko uporabite.

Lahko vprašate, kateri podatki se hranijo o vas, in pridobite njihovo kopijo, vključno z meritvami, ki se uporabljajo za oceno, in rezultati, ki iz njih izhajajo. Zahtevate lahko smiselne informacije o logiki sistema, dejavnikih, ki štejejo, in njihovi ponderaciji. Kadar je bila odločitev s pomembnim učinkom sprejeta avtomatizirano, lahko zahtevate človeško posredovanje, predstavite svoje stališče in izpodbijate odločitev. Lahko zahtevate popravek netočnih podatkov, kar je pomembnejše, kot se sliši: veliko tega, kar ti sistemi beležijo, je preprosto napačno, od napačno zabeleženih odsotnosti do dela, pripisanega napačni osebi.

Kako izpodbijati avtomatizirano ocenjevanje v praksi

Preden se sprašujete o svojem stališču, najprej dokumentirajte svoje mnenje. Zapišite si specifično delo, ki ga ocena spregleda, obdobja, v katerih so bile okoliščine nenavadne, in morebitno odsotnost, dopust ali prerazporeditev, ki bi lahko znižala številke iz razlogov, ki nimajo nobene zveze z vašo uspešnostjo. Sodobni zapiski so veliko bolj vredni kot rekonstrukcija šest mesecev pozneje.

Nato delodajalcu predložite pisno zahtevo, v kateri navedete, da uveljavljate svoje pravice v skladu z GDPR, zahtevate podatke, uporabljene pri vaši oceni, in pojasnilo logike ter zahtevate človeški pregled s strani osebe, ki je pooblaščena za drugačen sklep. Določite razumen rok; GDPR od delodajalca zahteva odgovor v enem mesecu, ki se lahko v zapletenih primerih podaljša. Ohranite dejstva, saj ta korespondenca običajno služi kot dokaz.

Če se delodajalec ne odzove ustrezno, lahko vložite pritožbo pri Autoriteit Persoonsgegevens (Upravni organ za varstvo osebnih podatkov) in spor predložite sodišču. Kadar se ocena uporablja za podporo odpovedi ali spremembi pogojev zaposlitve, je pot do zaposlitve običajno učinkovitejša in ima kratke roke, zato se posvetujte zgodaj. Naš članek o varstvu podatkov v skladu s Splošno uredbo o varstvu podatkov v dobi umetne inteligence in velikih podatkov pojasnjuje osnovni okvir.

Kaj mora delodajalec storiti, preden vklopi sistem

Za delodajalce je skladnost na tem področju večinoma stvar zaporedja. Skoraj vsaka resna težava nastane, ker je bil sistem najprej nabavljen in uveden, pravna vprašanja pa so bila postavljena pozneje.

Začnite z namenom. Zapišite, kaj organizacija dejansko poskuša doseči in na katere odločitve bo sistem vplival, saj iz tega sledi vse ostalo: podatki, ki jih je mogoče utemeljiti, pravna podlaga, ocena tveganja in raven potrebnega človeškega nadzora. Sistem, kupljen za izboljšanje razporejanja in nato tiho uporabljen za izgradnjo datoteke o odpovedih, je klasična pot do nezakonite obdelave.

Pred uvedbo izvedite oceno učinka na varstvo podatkov, ne kot dokument, ki bo pripravljen pozneje za utemeljitev že sprejete odločitve, in zabeležite rezultat. Določite in dokumentirajte pravno podlago, pri čemer upoštevajte, da soglasje zaposlenih le redko velja. Ugotovite, ali sistem spada v kategorijo visokega tveganja v skladu z zakonom o umetni inteligenci, in če spada, opredelite obveznosti, ki so naložene uvajalcu, vključno z dolžnostjo obveščanja predstavnikov delavcev in prizadetih delavcev. Pridobite soglasje sveta delavcev, kadar se uporablja 27. člen Zakona o svetih delavcev, in ga vključite dovolj zgodaj, da lahko s svojim prispevkom nekaj spremeni.

Nato oblikujte nadzor, ki ga zahteva 22. člen, in preverite, ali je resničen. Vprašajte se, kdo pregleduje rezultate, ali jih lahko ta oseba razveljavi, ne da bi morala odstopanje utemeljiti nadrejenemu, ali ima kontekst za presojo in ali ima čas. Če je iskren odgovor, da pregledovalec obdela sto primerov na popoldne, organizacija nima človeškega nadzora; ima podpis.

Končno, preizkusite rezultate in ne namenov. Rezultate sistema preverite glede na zaščitene značilnosti in delovni vzorec ter se posebej osredotočite na zaposlene, ki delajo s krajšim delovnim časom, so bili na dopustu ali so bili bolni. Zaposlenim zagotovite jasno pot do izpodbijanja ocene in zabeležite, kaj se zgodi s temi izzivi. Hranite dokumentacijo, saj breme dokazovanja skladnosti nosi delodajalec, v sporu pa je spis obramba.

Kje te to pusti

Algoritmično upravljanje ni prepovedano in ne bo izginilo. Zakon pa le potegne mejo med merjenjem in presojo. Sistemi lahko štejejo, primerjajo in signalizirajo; ljudje se morajo odločati, pojasnjevati in prevzemati odgovornost. Zaposleni imajo pravico vedeti, da jih tak sistem ocenjuje, razumeti, kaj meri, in imeti pravico, da človek ponovno pregleda vsako odločitev, ki jih bistveno vpliva. Delodajalci, ki sprejemajo to delitev dela, lahko ta orodja uporabljajo z zaupanjem. Tisti, ki pustijo, da odloča nadzorna plošča, bodo ugotovili, da niti organ za varstvo podatkov niti kantonski urad ne sprejemata rezultata kot nadomestilo za ustrezno oceno.

Law & More Svetuje delodajalcem glede uporabe umetne inteligence pri upravljanju uspešnosti, od ocene vpliva in postopka delavskega sveta do zasnove človeškega nadzora, ter svetuje zaposlenim, ki se soočajo z avtomatiziranim ocenjevanjem, za katerega menijo, da je nepošteno. Če se za presojo vašega dela ali dela vaših zaposlenih uporablja algoritem, z veseljem pregledamo delovno mesto z vami.

Pogosta vprašanja o pregledih delovanja umetne inteligence