Politika umetne inteligence v podjetjih: kako pripraviti svojo organizacijo na zakon EU o umetni inteligenci
Umetna inteligenca (UI) se razvija z veliko hitrostjo in je postala del vsakodnevnega poslovanja. Od generativnih orodij UI in klepetalnih robotov do sistemov, ki se uporabljajo za zaposlovanje, analitiko strank in odločanje, se vse več organizacij zanaša na sisteme UI, pogosto brez popolne jasnosti glede pravnih in organizacijskih obveznosti, ki so z njimi povezane.
Z zakonom EU o umetni inteligenci se to temeljito spreminja. Od organizacij se pričakuje, da se bodo informirano odločale o uporabi umetne inteligence in aktivno upravljale s tem povezana tveganja. Ta članek pojasnjuje, kako razviti praktično, izvedljivo in pravno trdno politiko o umetni inteligenci, da bo vaša organizacija pripravljena na zakon EU o umetni inteligenci in bo še naprej spoštovala obstoječa pravila, kot je Splošna uredba o varstvu podatkov (GDPR).
Kaj je politika umetne inteligence in zakaj je potrebna?
Politika umetne inteligence je niz notranjih pravil, ki določajo, kako, zakaj in pod kakšnimi pogoji se lahko umetna inteligenca uporablja znotraj organizacije. Zagotavlja smernice za zaposlene in pomaga vodstvu ohranjati nadzor in nadzor nad razvojem tehnologije.
Umetna inteligenca ni več omejena le na IT oddelke ali velika tehnološka podjetja. Številne funkcije umetne inteligence so vgrajene v obstoječo programsko opremo, kot so sistemi CRM, orodja za upravljanje s človeškimi viri in marketinške platforme. Zaposleni pogosto eksperimentirajo z javnimi orodji umetne inteligence tudi na lastno pobudo. Brez jasnih varovalnih ovir lahko to vodi do kršitev zasebnosti, diskriminacije, pomanjkanja preglednosti ali napačnega odločanja.
Zakon EU o umetni inteligenci in GDPR nalagata organizacijam jasne odgovornosti. Te vključujejo obveznosti v zvezi z upravljanjem tveganj, uporabo podatkov, človeškim nadzorom in preglednostjo. Dobro zasnovana politika umetne inteligence pomaga prenesti te zahteve v vsakdanjo prakso.
Pravni okvir: Zakon EU o umetni inteligenci, GDPR in delovno pravo
Zakon EU o umetni inteligenci sledi pristopu, ki temelji na tveganju. Sistemi umetne inteligence so razvrščeni v različne kategorije, od minimalnega tveganja do nesprejemljivega tveganja. Za visoko tvegane uporabe umetne inteligence, kot so sistemi za zaposlovanje in izbor, kreditno točkovanje ali druge odločitve s pomembnimi učinki na posameznike, veljajo stroge zahteve.
Te zahteve med drugim zajemajo obvladovanje tveganj in dokumentacijo, kakovost in izvor podatkov, preglednost glede delovanja sistema in njegovih omejitev ter učinkovit človeški nadzor z možnostjo posredovanja. Nekatere prakse umetne inteligence so popolnoma prepovedane, vključno s posebnimi oblikami manipulativne umetne inteligence in socialnim točkovanjem.
Poleg tega GDPR ostaja v celoti veljavna. Kadar sistemi umetne inteligence obdelujejo osebne podatke, so še posebej pomembna temeljna načela, kot so zmanjšanje količine podatkov, zakonitost, varnost in omejitve avtomatiziranega odločanja. Veljajo lahko tudi pravila o delovnem pravu in varstvu potrošnikov, na primer pri aplikacijah umetne inteligence, povezanih s človeškimi viri, ali aplikacijah umetne inteligence, usmerjenih v stranke. Politika umetne inteligence povezuje te pravne zahteve z vsakodnevnim poslovnim delovanjem.
Namen in obseg močne politike umetne inteligence
Učinkovita politika umetne inteligence ni teoretični dokument; je praktičen kompas za vse, ki delajo z umetno inteligenco. Pojasniti mora, zakaj organizacija uporablja umetno inteligenco, kaj želi doseči, kakšna tveganja se pojavljajo in kako se od zaposlenih pričakuje, da bodo orodja umetne inteligence uporabljali odgovorno.
Opredelitev področja uporabe je ključnega pomena. Politika mora določati, za katere oddelke velja, kot so kadrovska služba, trženje, storitve za stranke, finance, poslovanje ter raziskave in razvoj. Prav tako mora pojasniti, katere vrste sistemov spadajo v politiko, vključno z kupljeno programsko opremo umetne inteligence, internimi modeli, generativnimi orodji umetne inteligence, klepetalnimi roboti, orodji za točkovanje in sistemi za priporočila. Nenazadnje mora obravnavati, ali in pod kakšnimi pogoji je dovoljeno individualno eksperimentiranje z javnimi orodji umetne inteligence.
Ključne komponente politike umetne inteligence
Politika umetne inteligence bi se morala začeti z jasnimi definicijami, usklajenimi s širokim konceptom umetne inteligence v skladu z zakonom EU o umetni inteligenci, vendar napisanimi v jeziku, ki ga zaposleni razumejo. Zaposleni bi morali biti sposobni prepoznati, kdaj uporabljajo sistem umetne inteligence, ki spada v področje uporabe politike. Praktični primeri po področjih, kot so kadrovska služba, interakcija s strankami in notranji procesi, pomagajo to uresničiti.
Politika bi morala nato razlikovati med dovoljeno uporabo umetne inteligence, omejeno uporabo pod določenimi pogoji in prepovedano uporabo. Prepovedana uporaba vključuje prakse umetne inteligence, ki so v skladu z zakonom EU o umetni inteligenci razvrščene kot nesprejemljivo tveganje. Za primere uporabe z omejenim tveganjem lahko politika naloži pogoje, kot so obveznosti glede preglednosti ali predhodna odobritev. Dovoljena uporaba je lahko povezana z zaščitnimi ukrepi, kot so ocena tveganja, ocena učinka na varstvo podatkov in dodatni tehnični in organizacijski ukrepi.
Upravljanje je še en ključni element. Politika mora jasno opredeliti, kdo je končno odgovoren za skladnost z umetno inteligenco, kdo je pooblaščen za izbiro ali uvedbo novih aplikacij umetne inteligence in kdo nadzira skladnost in obravnavanje incidentov. Pomembna sta tudi izbira in upravljanje dobaviteljev. Organizacije bi morale oceniti, ali lahko ponudniki izpolnijo zahteve Zakona EU o umetni inteligenci, in zagotoviti, da so te obveznosti ustrezno pogodbeno odražene.
Podatki, zasebnost, varnost in preglednost
Ker je umetna inteligenca odvisna od podatkov, bi morala politika opredeliti, kateri podatki se lahko obdelujejo prek sistemov umetne inteligence ali kateri ne. Obravnavati bi morala zmanjšanje podatkov, anonimizacijo ali psevdonimizacijo, kjer je to primerno, obdobja hrambe in ločevanje podatkov o usposabljanju od produkcijskih podatkov. Za sisteme z visokim tveganjem je pogosto potrebna skupna ocena, ki upošteva tako zakon EU o umetni inteligenci kot tudi GDPR.
Sistemi umetne inteligence in podatki, na katere se zanašajo, morajo biti ustrezno zavarovani. Politika mora opisovati, kako so organizirane pravice dostopa, kako se uporaba beleži in spremlja ter kako se obravnavajo incidenti in kršitve podatkov.
Zakon EU o umetni inteligenci zahteva preglednost pri interakciji posameznikov s sistemi umetne inteligence ali pri ustvarjanju vsebine z umetno inteligenco. Politika lahko zato zahteva, da so zaposleni, stranke in drugi deležniki obveščeni vsakič, ko se uporablja umetna inteligenca, vključno s ključnimi značilnostmi in omejitvami.
Človeški nadzor, pristranskost in kakovost odločitev
Za sisteme umetne inteligence s pomembnim vplivom na posameznike je človeški nadzor bistvenega pomena. Politika mora določati, kdaj je človeški nadzor ali človeško odločanje obvezen in kako se ta nadzor izvaja v praksi. Priporočljivo je tudi redno testiranje sistemov umetne inteligence glede pristranskosti, stopenj napak in neželenih posledic, zlasti na področjih, kot so kadrovska služba in uvajanje strank.
Usposabljanje in pismenost v zvezi z umetno inteligenco
Zakon EU o umetni inteligenci od organizacij zahteva, da spodbujajo pismenost na področju umetne inteligence. Politika umetne inteligence bi zato morala vključevati okvir usposabljanja z osnovno ravnijo za vse zaposlene in naprednejšim usposabljanjem za posebne vloge, kot so kadrovska služba, IT, podatkovne ekipe in vodstvo. Redne posodobitve so potrebne za sledenje tehnološkemu in pravnemu razvoju.
Od začetnega popisa do zrele politike umetne inteligence
Izvedljiva politika umetne inteligence se običajno razvija v fazah. Najprej organizacija ugotovi, katere aplikacije umetne inteligence se uporabljajo, vključno s funkcijami umetne inteligence, vgrajenimi v obstoječo programsko opremo in orodja, ki jih uporabljajo zaposleni. Nato se te aplikacije razvrstijo glede na tveganje. Sledi pravna in organizacijska ocena tveganja, nakar se pripravi politika umetne inteligence in uskladi z obstoječimi okviri za zasebnost, informacijsko varnost in človeške vire. Politika se nato izvaja v procesih, pogodbah in sistemih. Nazadnje usposabljanje, komunikacija, spremljanje in redne posodobitve zagotavljajo, da politika ostane učinkovita skozi čas.
zaključek
Zakon EU o umetni inteligenci jasno določa, da ad hoc ali nestrukturirano eksperimentiranje z umetno inteligenco ni več vzdržno. Organizacije, ki zgodaj vlagajo v dobro zasnovano politiko umetne inteligence, zmanjšajo pravno tveganje in gradijo zaupanje z zaposlenimi, strankami in regulatorji.
Bi radi vedeli, ali je vaša organizacija pripravljena na Zakon EU o umetni inteligenci, ali pa potrebujete pomoč pri pripravi ali izvajanju politike umetne inteligence? Kontaktirajte nas. Law & More. Z veseljem vam pomagamo.
FAQ
Ali je politika o umetni inteligenci obvezna v skladu z zakonom EU o umetni inteligenci?
Zakon EU o umetni inteligenci od organizacij ne zahteva izrecno, da imajo dokument z naslovom »politika o umetni inteligenci«. Vendar pa je v praksi politika o umetni inteligenci bistvena za dokazovanje skladnosti z obveznostmi, ki jih nalagata zakon o umetni inteligenci in GDPR, kot so obvladovanje tveganj, človeški nadzor, preglednost in pismenost na področju umetne inteligence.
Za katere organizacije velja zakon EU o umetni inteligenci?
Zakon EU o umetni inteligenci velja za praktično vse organizacije, ki razvijajo, dajejo na trg ali uporabljajo sisteme umetne inteligence v Evropski uniji. To vključuje ne le tehnološka podjetja, temveč tudi delodajalce, ponudnike storitev in organizacije, ki uporabljajo umetno inteligenco v kadrovski službi, trženju, interakciji s strankami, financah ali procesih odločanja.
Ali se zakon EU o umetni inteligenci uporablja, če uporabljamo samo standardno programsko opremo, ki je na voljo na trgu?
Da. Tudi kadar so funkcionalnosti umetne inteligence vgrajene v programsko opremo tretjih oseb, organizacija, ki uporablja sistem, ostaja odgovorna za njegovo uporabo. Zanašanje na prodajalca ne odpravlja uporabnikovih obveznosti v skladu z zakonom EU o umetni inteligenci in GDPR.
Kakšna je razlika med sistemi umetne inteligence z nizkim, omejenim in visokim tveganjem?
Zakon EU o umetni inteligenci razvršča sisteme umetne inteligence glede na stopnjo tveganja, ki ga predstavljajo za temeljne pravice in interese posameznikov. Med visoko tvegane sisteme umetne inteligence spadajo sistemi, ki se uporabljajo za zaposlovanje in izbor, ocenjevanje zaposlenih, ocene kreditne sposobnosti ali dostop do bistvenih storitev. Za te sisteme veljajo bistveno strožje zahteve.
Ali je treba vse aplikacije umetne inteligence oceniti vnaprej?
V praksi da. Organizacije bi morale pred uvedbo popisati in oceniti aplikacije umetne inteligence ter jih razvrstiti glede na tveganje. Za umetno inteligenco z visokim tveganjem je potrebna temeljita ocena, pogosto v kombinaciji z oceno vpliva na varstvo podatkov v skladu s Splošno uredbo o varstvu podatkov.
Kakšna je povezava med politiko umetne inteligence in GDPR?
Zakon EU o umetni inteligenci in Splošna uredba o varstvu podatkov (GDPR) se dopolnjujeta. Medtem ko se zakon o umetni inteligenci osredotoča na upravljanje, obvladovanje tveganj in delovanje sistemov umetne inteligence, GDPR ureja obdelavo osebnih podatkov. Učinkovita politika umetne inteligence združuje oba okvira in zagotavlja dosledno skladnost.
Ali je pri uporabi umetne inteligence vedno potrebna ocena učinka na varstvo podatkov?
Ne vedno, ampak pogosto. Če sistem umetne inteligence obdeluje osebne podatke in je verjetno, da bo povzročil veliko tveganje za posameznike, je ocena učinka na varstvo podatkov obvezna v skladu z GDPR. V primeru umetne inteligence z visokim tveganjem v skladu z zakonom EU o umetni inteligenci se oceni učinka na varstvo podatkov v praksi pogosto ni mogoče izogniti.
Ali lahko sistemi umetne inteligence sprejemajo avtonomne odločitve o zaposlenih ali strankah?
Samo pod strogimi pogoji. GDPR omejuje popolnoma avtomatizirano odločanje, zakon EU o umetni inteligenci pa zahteva smiseln človeški nadzor nad visoko tveganimi sistemi umetne inteligence. V mnogih primerih mora biti človek sposoben posredovati, pregledati ali preglasiti odločitve, ki jih sprejema umetna inteligenca.
Ali lahko politika umetne inteligence omeji uporabo javnih orodij umetne inteligence zaposlenim?
Da. Eden ključnih namenov politike umetne inteligence je opredeliti, ali in pod kakšnimi pogoji lahko zaposleni uporabljajo javna orodja umetne inteligence. To običajno vključuje pravila o vnosu zaupnih informacij, osebnih podatkov ali občutljivih poslovnih informacij.
Kdo je odgovoren za skladnost s politiko umetne inteligence?
Politika umetne inteligence mora jasno določiti odgovornost za skladnost z umetno inteligenco. Končna odgovornost je običajno v rokah višjega vodstva ali upravnega odbora, pri čemer imajo pomembne vloge pravni, skladnostni, IT in kadrovski oddelki. Brez jasnega upravljanja je učinkovit nadzor malo verjeten.
Kakšna so tveganja, če organizacija nima politike umetne inteligence?
Odsotnost politike o umetni inteligenci povečuje tveganje neskladnosti z zakonom EU o umetni inteligenci in splošno uredbo o varstvu podatkov. To lahko povzroči znatne globe, izvršilne ukrepe, škodo ugledu in morebitno civilno odgovornost. Prav tako otežuje regulatorjem dokazovanje odgovornega upravljanja umetne inteligence.
Kako pogosto je treba pregledovati politiko umetne inteligence?
Politike umetne inteligence ne smemo obravnavati kot statičnega dokumenta. Redni pregledi so potrebni, zlasti ob uvedbi novih sistemov umetne inteligence, spremembah zakonodaje ali regulativnih smernic ali ob incidentih. Letni pregled se pogosto šteje za minimum.
Ali je pismenost na področju umetne inteligence obvezna za vse zaposlene?
Zakon EU o umetni inteligenci od organizacij zahteva, da sprejmejo ukrepe za spodbujanje pismenosti na področju umetne inteligence. To ne pomeni, da mora vsak zaposleni postati tehnični strokovnjak, vendar mora razumeti, kaj je umetna inteligenca, kako se uporablja v organizaciji in kakšna so tveganja.
Kdaj je priporočljivo poiskati pravni nasvet?
Pravno svetovanje je še posebej priporočljivo pri uvajanju visoko tveganih sistemov umetne inteligence, kadar obstaja negotovost glede zakonitosti določenih aplikacij ali kadar se pojavijo vprašanja glede izvrševanja, revizij ali odgovornosti. Zgodnji pravni pregled lahko prepreči drage kasnejše korektivne ukrepe.
