Na srečanju partnerjev Kompetenčnega centra za design management (KCDM), posvečenem premagovanju ovir za inovativnost in učinkovitejši uporabi designa in umetne inteligence v poslovanju, sta Nejc Setnikar in Eva Gostiša predstavila ključne pravne vidike uporabe umetne inteligence v podjetjih. Predavanje je naslovilo predvsem vprašanja skladnosti z evropskim Aktom o umetni inteligenci, varstva osebnih podatkov ter avtorskih pravic v času generativne umetne inteligence.
V ospredju je bilo vprašanje, kako lahko podjetja umetno inteligenco vključujejo v svoje procese na način, ki spodbuja inovacije, hkrati pa zmanjšuje pravna in poslovna tveganja. Poseben poudarek je bil namenjen praktičnim posledicam uporabe AI orodij v vsakodnevnem poslovanju, od uporabe generativnih modelov do upravljanja podatkov, internih pravil uporabe in odgovornosti organizacij.
Akt o UI: podjetja morajo razumeti svojo vlogo in tveganja
Predstavitev Akta o UI je izpostavila, da evropska ureditev umetne inteligence temelji na pristopu glede na tveganje (risk-based approach). Ključno vprašanje za organizacije zato ni več zgolj, ali uporabljajo umetno inteligenco, temveč predvsem kakšen sistem UI uporabljajo, za kakšen namen in v kateri vlogi nastopajo – kot ponudnik, uporabnik (deployer), distributer ali integrator sistema.
Izpostavljeno je bilo tudi, da Akt o UI ne deluje ločeno od drugih predpisov. Skladnost z Aktom o UI sama po sebi še ne pomeni skladnosti z GDPR ali drugimi pravnimi režimi. Organizacije bodo morale zato vzpostaviti širši okvir skladnosti, ki vključuje pregled nad uporabo sistemov UI, dokumentiranje odločitev, oceno tveganj in notranja pravila uporabe.
Med praktičnimi priporočili za podjetja so bila posebej poudarjena:
- priprava internih pravil za uporabo generativne UI,
- identifikacija sistemov UI, ki jih organizacija uporablja, in razvrstitev glede na tveganja,
- preverjanje pogodbenih razmerij s ponudniki UI,
- usposabljanja in izobraževanje (pismenost UI),
- monitoring in preverjanje (observability) ter sledljivost (traceability).
Varstvo osebnih podatkov ostaja osrednje vprašanje UI
V delu predavanja, posvečenem varstvu osebnih podatkov, je bilo poudarjeno, da GDPR ostaja temeljni pravni okvir tudi v kontekstu umetne inteligence. Akt o UI ga ne nadomešča, temveč se nanj sklicuje.
Posebna pozornost je bila namenjena izzivom, ki jih za varstvo osebnih podatkov predstavljajo veliki jezikovni modeli in generativna UI. Med ključnimi tveganji so bila izpostavljena:
- uporaba velikih količin podatkov pri učenju modelov, ki vsebujejo tudi osebne podatke,
- možnost regurgitacije (razkritja) osebnih podatkov v izhodih modela,
- profiliranje, avtomatizirano odločanje in ustvarjanje inferenčnih profilov,
- vprašanje transparentnosti in vsebina obveščanja posameznikov o obdelavi osebnih podatkov.
Predavanje je opozorilo tudi na vse bolj aktivno prakso evropskih nadzornih organov in sodišč. Posebej pomembno postaja razumevanje življenjskega cikla sistema UI – od zbiranja podatkov do uvedbe modela v produkcijsko okolje – saj lahko vsaka faza pomeni ločeno obdelavo osebnih podatkov z lastnimi pravnimi zahtevami.
Avtorska pravica in generativna umetna inteligenca
V okviru predstavitve avtorskopravnih vidikov umetne inteligence je bilo izpostavljeno, da generativna UI odpira nova vprašanja glede uporabe avtorsko varovanih vsebin, treniranja modelov in pravic na rezultatih, ustvarjenih s pomočjo UI.
Posebna pozornost je bila namenjena vprašanju, kdaj rezultat, ustvarjen s pomočjo umetne inteligence, sploh lahko uživa avtorskopravno varstvo. Ključni kriterij ostaja človekov ustvarjalni prispevek – če rezultat odraža ustvarjalne odločitve človeka, je lahko avtorsko delo varovano tudi, če je bila pri ustvarjanju uporabljena umetna inteligenca.
Predavatelja sta opozorila tudi na pomen pravil glede besedilnega in podatkovnega rudarjenja (text and data mining), ki predstavljajo eno ključnih pravnih podlag za uporabo vsebin pri učenju modelov UI.
UI kot poslovna priložnost – ob ustreznem upravljanju tveganj
Dogodek je pokazal, da umetna inteligenca ni več zgolj tehnološko vprašanje, temveč pomembno področje upravljanja pravnih, organizacijskih in poslovnih tveganj. Hkrati pa lahko prav jasna pravila, dobra interna organizacija in razumevanje regulatornega okvira podjetjem omogočijo varnejšo in učinkovitejšo uporabo UI rešitev v praksi.
V Jadek & Pensa spremljamo razvoj evropske regulative umetne inteligence ter podjetjem svetujemo pri vprašanjih skladnosti, varstva osebnih podatkov, avtorske pravice in upravljanja pravnih tveganj pri uporabi umetne inteligence.
