Evropska unija je sprejela Zakon o umetni inteligenci, prvi celovit zakon na svetu, namenjen urejanju umetne inteligence. Ta prelomna zakonodaja, ki je začela veljati 1. avgusta 2024, se bo izvajala po fazah, dokler ne bo v celoti veljala 2. avgusta 2027. Za vsako podjetje, ki razvija, uvaža ali uporablja sisteme umetne inteligence v EU, razumevanje teh novih pravil ni več neobvezno – bistveno je za preživetje.

Ta vodnik vas bo seznanil s tem, kaj Zakon o umetni inteligenci pomeni za vaše podjetje. Razčlenili bomo kategorije tveganja, razložili vaše obveznosti kot ponudnika ali uporabnika in vam predstavili praktične korake za zagotovitev skladnosti s predpisi. Predstavljajte si to kot svoj načrt za krmarjenje po novem svetu regulacije umetne inteligence.

Zakaj je to pomembno za vaše podjetje

Skladnost s predpisi ne pomeni le izogibanja visokim globam, ki lahko dosežejo do 35 milijonov evrov ali 7 % vašega svetovnega letnega prometa. Gre za gradnjo zaupanja. Ustrezna priprava na zakon o umetni inteligenci krepi zaupanje vaših strank in deležnikov ter dokazuje, da s tehnologijo ravnate odgovorno. Za izvrševanje so zadolženi nacionalni regulatorji in novi Evropski urad za umetno inteligenco, zato je prehitevanje drugih strateška poteza.

V tem priročniku se boste naučili:

• Kako razvrstiti sisteme umetne inteligence glede na stopnje tveganja, ki jih določa zakon.
• Posebne obveznosti, ki veljajo za vas, ne glede na to, ali ste ponudnik ali uporabnik.
• Izvedljivi koraki za upravljanje skladnosti in tveganj.
• Rešitve za pogoste izzive, s katerimi se lahko srečate med implementacijo.

Razumevanje zakona o umetni inteligenci

Zakon o umetni inteligenci je v svojem bistvu pravni okvir, ustvarjen za uskladitev pravil za umetno inteligenco v vseh državah članicah EU. Nastal je zaradi naraščajoče zaskrbljenosti glede hitrega razvoja umetne inteligence, zlasti z vzponom splošnih modelov umetne inteligence, kot je ChatGPT. Zakonodaja vzpostavlja ključno ravnovesje: njen cilj je spodbujati tehnološke inovacije, hkrati pa varovati temeljne pravice, demokracijo in vladavino. zakon.

Kaj točno je "sistem umetne inteligence"?

Zakonodaja ima širok, ekstrateritorialni doseg. Če je vaše podjetje zunaj EU, vendar ponuja izdelke umetne inteligence na evropskem trgu, ta pravila veljajo za vas. V skladu s 3. členom je „sistem umetne inteligence“ opredeljen kot sistem, ki temelji na stroju in je zasnovan za delovanje z določeno stopnjo avtonomije, pri čemer daje napovedi, priporočila ali odločitve, ki vplivajo na fizično ali virtualno okolje.

Pristop, ki temelji na tveganju: Niso vse umetne inteligence enake

Osrednje načelo zakona o umetni inteligenci je pristop, ki temelji na tveganju. Obveznosti, ki jih mora izpolnjevati vaše podjetje, so v celoti odvisne od stopnje tveganja, ki ga predstavlja vaš sistem umetne inteligence. Ta okvir razvršča umetno inteligenco v štiri kategorije: nesprejemljivo, visoko, omejeno in minimalno tveganje. Višje kot je potencialno tveganje za zdravje, varnost ali temeljne pravice, strožja so pravila. Ta večstopenjski sistem omogoča inovacije v aplikacijah z nizkim tveganjem, hkrati pa strogo regulira umetno inteligenco z visokimi vložki.

Zdaj, ko imamo osnovno načelo, si poglejmo, kako razvrstiti sisteme umetne inteligence znotraj teh kategorij.

Klasifikacija sistemov umetne inteligence in kategorije tveganja

Pravilna klasifikacija sistemov umetne inteligence je ključni prvi korak k skladnosti s predpisi. Ne gre le za samo tehnologijo, temveč tudi za njen predvideni namen in kontekst. Algoritem, ki na primer priporoča filme, nosi veliko manjše tveganje kot tisti, ki pomaga pri odločanju o zaposlovanju.

Prepovedana umetna inteligenca: Rdeče črte

Nekatere prakse umetne inteligence veljajo za nesprejemljivo tveganje in so zato v celoti prepovedane. Njihova uporaba je v bistvu v nasprotju z vrednotami EU, njihova uporaba pa lahko privede do najvišjih kazni v skladu z zakonom.

Primeri prepovedane umetne inteligence vključujejo:

• Socialno točkovanje s strani vlad: Sistemi, ki ocenjujejo državljane na podlagi njihovega socialnega vedenja, kar bi lahko vodilo do nepravične obravnave.
• Subliminalna manipulacija: Umetna inteligenca, ki vpliva na vedenje osebe brez njenega zavedanja na način, ki bi lahko povzročil škodo.
• Izkoriščanje ranljivosti: Sistemi, ki izkoriščajo določene skupine, kot so otroci ali invalidi, za škodljive namene.
• Biometrična identifikacija v realnem času v javnih prostorih s strani organov pregona, z zelo redkimi izjemami za huda kazniva dejanja.

Visoko tvegana umetna inteligenca: ravnajte previdno

Ta kategorija zajema sisteme umetne inteligence, ki bi lahko pomembno vplivali na varnost ljudi ali temeljne pravice. Če vaše podjetje deluje na tem področju, se soočate z obsežnimi zahtevami glede skladnosti.

Primeri visoko tveganih sistemov umetne inteligence vključujejo:

• Izobraževanje in zaposlitev: Umetna inteligenca, ki se uporablja za pregledovanje življenjepisov, ocenjevanje kandidatov za zaposlitev ali sprejemanje odločitev o napredovanju.
• Kritična infrastruktura: Sistemi, ki upravljajo promet, električna omrežja ali oskrbo z vodo.
• Pravni in pravosodni sistemi: Umetna inteligenca, ki se uporablja za ocenjevanje dokazov ali ocenjevanje kreditne sposobnosti osebe.
• Biometrična identifikacija in migracija: Sistemi za prepoznavanje obrazov, mejni nadzor ali obravnavo prošenj za azil.

Za te sisteme morate uvesti robustno upravljanje tveganj, zagotoviti visokokakovostno upravljanje podatkov, vzdrževati podrobno tehnično dokumentacijo in omogočiti človeški nadzor. Preden lahko ti izdelki vstopijo na trg EU, je potrebna ocena skladnosti. Pravila za nove sisteme veljajo od 2. avgusta 2026, za obstoječe sisteme pa od 2. avgusta 2027.

Omejeno in minimalno tveganje: Lažje obveznosti

Velika večina aplikacij umetne inteligence, kot so filtri za neželeno pošto, videoigre, ki jih poganja umetna inteligenca, ali sistemi za upravljanje zalog, spada v kategorije omejenega ali minimalnega tveganja.

za omejeno tveganje sistemov je glavna obveznost preglednost. Če oseba komunicira z umetno inteligenco, mora to vedeti.

• Klepeti: Uporabniki morajo biti obveščeni, da govorijo s strojem.
• Deepfakes: Vsaka vsebina, ustvarjena z umetno inteligenco in ki posnema resnične ljudi ali dogodke, mora biti jasno označena kot umetna.

za minimalno tveganje sistemov ni obveznih pravnih obveznosti. Čeprav EU spodbuja prostovoljne kodekse ravnanja, vaše podjetje ohranja prožnost za inovacije brez večjega bremena skladnosti.

Praktična izvedba: Vaš načrt skladnosti korak za korakom

Razumevanje kategorij tveganja je eno, izvajanje strategije skladnosti pa nekaj drugega. Tukaj je praktičen pristop po korakih, s katerim boste svojo organizacijo pripravili.

1. Popis vseh sistemov umetne inteligence:
Začnite z ustvarjanjem popolnega seznama vseh sistemov umetne inteligence, ki jih vaša organizacija uporablja, razvija ali uvaža. To vključuje vse od kompleksnih modelov globokega učenja do preprostih klepetalnih robotov za pomoč strankam.

2. Določite kategorijo tveganja:
Pri tem upoštevajte Prilogo III k uredbi in razvrstite vsak sistem. Skrbno preučite njegov predvideni namen in morebitni vpliv na posameznike, da ugotovite, ali spada v kategorijo visokega tveganja.

3. Izvedite oceno tveganja:
Za vsak sistem z visokim tveganjem izvedite temeljito analizo morebitne škode. Dokumentirajte svoje ugotovitve, vključno z ukrepi za testiranje pristranskosti, varnostnimi protokoli in človeškim nadzorom.

4. Izvedite zahtevane ukrepe:
Na podlagi kategorije tveganja vzpostavite potrebno tehnično dokumentacijo, sisteme vodenja kakovosti in postopke spremljanja za vsak sistem umetne inteligence.

5. Ocenite obveznosti glede preglednosti:
Pri sistemih, kot so klepetalni roboti ali generatorji globokih ponaredkov, potrdite, da imate vzpostavljene jasne mehanizme za obveščanje uporabnikov, da komunicirajo z umetno inteligenco.

6. Dokumentirajte vse:
Vodite podroben zapis svoje analize klasifikacije in utemeljite, zakaj vsak sistem spada v svojo določeno kategorijo. Ta dokumentacija bo ključnega pomena med revizijami ali regulativnimi pregledi.

Ponudniki v primerjavi z uporabniki: razumevanje vaših obveznosti

Vaše odgovornosti v skladu z Zakonom o umetni inteligenci so odvisne od vaše vloge v vrednostni verigi.

Ponudniki nosijo glavno breme zagotavljanja skladnosti sistema, preden pride na trg. Uporabniki pa so odgovorni za njegovo uporabo v skladu z nameni in vzdrževanje človeškega nadzora.

Pogosti izzivi in ​​kako jih rešiti

Spremljanje nove zakonodaje vedno prinaša izzive. Tukaj je nekaj pogostih ovir in praktičnih rešitev.

Izziv 1: Dvoumnost pri klasifikaciji sistemov umetne inteligence

• rešitev: V dvomih se posvetujte z uradnimi smernicami Evropske komisije. V zapletenih primerih je pametna naložba poiskati nasvet pravnih strokovnjakov, specializiranih za regulacijo umetne inteligence. Za preizkus sistema z njihovimi smernicami lahko raziščete tudi regulativne peskovnike, ki jih ponujajo nacionalni organi.

Izziv 2: Breme dokumentacije

• rešitev: Ne čakajte do konca, da se lotite dokumentacije. Vključite jo v svoj razvojni življenjski cikel že od samega začetka. Za poenostavitev procesa uporabite standardizirane predloge in ustvarite medfunkcijsko ekipo s pravnimi, tehničnimi in poslovnimi strokovnjaki.

Izziv 3: Visoki stroški skladnosti, zlasti za mala in srednje velika podjetja

• rešitev: Če je mogoče, se osredotočite na razvoj aplikacij umetne inteligence z nizkim tveganjem. Izkoristite usklajene standarde, ko bodo na voljo, saj so zasnovani za poenostavitev skladnosti. Razmislite o partnerstvu s ponudniki umetne inteligence, ki so že zgradili infrastrukturo za skladnost.

Izziv 4: Izpolnjevanje zahtev glede preglednosti

• rešitev: Avtomatizirajte svoje ukrepe za preglednost. Uvedite jasne oznake in obvestila, ki se samodejno prikažejo, ko uporabnik komunicira s sistemom umetne inteligence. Uporabite avtomatizirana orodja za dosledno zaznavanje in označevanje vsebine, ki jo ustvari umetna inteligenca.

Vaš naslednji korak

Upoštevanje zakona o umetni inteligenci je pomemben podvig, vendar ga je mogoče doseči s strateškim pristopom. Fazni časovni načrt zagotavlja čas za pripravo, vendar vam začetek zdaj daje konkurenčno prednost.

Za začetek vaše poti:

1. Razvrstite svoje sisteme umetne inteligence in dokumentirajte svojo analizo.
2. Pripravite potrebno dokumentacijo glede na stopnjo tveganja vsakega sistema.
3. Razviti strategijo skladnosti z jasnimi časovnimi okviri in namenskim proračunom.
4. Sestavite ekipo za skladnost voditi prizadevanja v celotni organizaciji.

Z proaktivnim pristopom k Zakonu o umetni inteligenci ne le zagotovite skladnost, temveč tudi zgradite temelje zaupanja in svoje podjetje postavite kot vodilno osebo na področju odgovornega inoviranja.