EDUS-INFO > Kolumna > Članek
 
          - +   *  

Kolumna

9.3.2020

dr. Maja Brkan, LL.M. (NYU)

Digitalizacija v Evropski uniji: pravne in dejanske dileme

Digitalne tehnologije prinašajo veliko pozitivnih družbenih sprememb, hkrati pa tudi tveganja. Kdo je odgovoren za škodo, ki jo povzroči avtonomno vozilo? Kako lahko zagotovimo, da sistemi umetne inteligence, ki se vedno bolj pogosto uporabljajo pri odločanju, med posamezniki ne diskriminirajo? In kakšen vpliv ima lahko uporaba digitalnih tehnologih na demokracijo? Evropa se s teh vprašanj loteva previdno, a hkrati vseeno bolj odločno od drugih svetovnih velesil. Pri pravni regulaciji digitalnih tehnologij je kot pri uporabi soli v jedeh: ne sme je biti premalo, hkrati pa tudi ne preveč. Pretirana regulacija lahko zaduši inovacijo, premalo regulacije pa podjetjem pusti preveč proste roke pri razvoju včasih tudi škodljive tehnologije.

Pozitivne plati digitalizacije

Digitalne tehnologije prinašajo veliko pozitivnih družbenih sprememb in se uporabljajo že skoraj v vseh gospodarskih sektorjih, pa tudi v javnem sektorju. V javnem sektorju se digitalne tehnologije uporabljajo na primer za avtomatsko odmero davkov ali celo za pomoč pri administrativnem odločanju. Policijski organi lahko te tehnologije učinkovito uporabljajo za predvidevanje kriminalitete.

V zdravstvu gre razvoj na primer v smeri uporabe umetne inteligence pri diagnosticiranju; velik napredek je bil narejen na primer na področju radiologije pri diagnosticiranju rakavih obolenj, pa tudi pri izvajanju operacij na daljavo s pomočjo robotov. Na finančnih trgih se analize velikega podatkovja uporabljajo na primer za kratkoročno in dolgoročno napovedovanje inflacije. V kmetijstvu je trenutno trend razvoja k t.i. 'natančnemu kmetovanju', ki pomeni optimizacijo sredstev (npr. pesticidov, hrane za živali) pri uporabi v kmetijstvu, veliko pa je tudi diskusij o tem, lahko digitalne tehnologije pomagajo preprečevati klimatske spremembe.

Zlasti podjetjem, ki delujejo na spletu, analiza velikega podatkovja omogoča bolj strateško poslovanje. Izpostaviti je treba področje marketinga, kjer podjetja zbirajo veliko količino osebnih podatkov o potrošnikih, nato na podlagi teh podatkov ustvarijo profil potrošnikov, ki jim nato na podlagi tega profila pošiljajo usmerjene komercialne oglase. Tovrstno oglaševanje je bolj učinkovito, hkrati pa lahko predstavlja tudi tveganja za potrošnike.


Tveganja digitalizacije

Uporaba digitalnih tehnologij vsekakor prinaša veliko tveganj, zlasti tveganja za kršitev temeljnih pravic evropskih državljanov, ki jih pravni red Evropske unije varuje z Listino EU o temeljnih pravicah. Pomembna tveganja tako obstajajo pri uporabi osebnih podatkov za avtomatsko odločanje. Podjetja, ki so dejavna na spletu, ki pogosto uporabljajo ekonomski model, v katerem se storitve vsaj navidezno ponujajo brezplačno. Pravzaprav so te storitve plačane prek oglasnega prostora, ki ga zapolnijo oglaševalci, ki oglase pripravijo na podlagi osebnih podatkov potrošnikov. S tem potrošniki za 'brezplačne' storitve pravzaprav plačajo s svojimi osebnimi podatki, kar predstavlja tveganje za temeljno pravico do varstva osebnih podatkov (8. člen Listine).  Poleg tega lahko avtomatsko odločanje na primer vpliva tudi na svobodo izražanja (11. člen), prepoved diskriminacije (21. člen), varstvo zasebnosti (7. člen), pa tudi pravico do učinkovitega pravnega sredstva in nepristranskega sodišča (47. člen).

Uporaba digitalnih tehnologij prav tako lahko povzroči materialno škodo: na primer avtonomno vozilo, ki povzroči nesrečo. Pri tem se zastavlja pomembno vprašanje odgovornosti za škodo, ki jo povzroči takšno avtonomno vozilo. Pravni red Evropske unije zaenkrat ne daje odgovora, ali je za škodo odgovoren  lastnik vozila, proizvajalec vozila ali morda celo vozilo samo po sebi, če bi mu bila priznana pravna osebnost.

V zadnjem času so aktualna tudi vprašanja prepovedi diskriminacije zaradi uporabe digitalnih tehnologij. Tovrstna diskriminacija možna na primer, če se za avtomatski sistemi uporabljajo za določitev zavarovalne premije ali za določitev kreditne sposobnosti kreditojemalcev. Na podoben način lahko pride do diskriminacije v javnem sektorju, če na primer organi pregona skušajo napovedati stopnjo kriminalitete na določenem geografskem področju. Pri tem podjetja ali organi načeloma ne diskriminirajo zavestno, temveč lahko do diskriminacije pride zato, ker so bili vhodni podatki, na katerih se je avtomatski sistem učil, pristranski.

Pristop Evropske unije k digitalizaciji

Evropska unija vprašanja digitalizacije že nekaj časa postavlja kot prioriteto in v ta namen je bilo na politični ravni sprejetih že kar precej političnih smernic.

Že leta 2010 je bila sprejeta Evropska digitalna agenda, nato 2015 Strategija za enotni digitalni trg za Evropo in leta 2018 še strateška dokumenta Umetna inteligenca za Evropo ter Etične smernice za zaupanja vredno umetno inteligenco. Kot trenutno najbolj aktualna politična dokumenta, ki sta bila sprejeta 19. februarja 2020, lahko izpostavimo Belo knjigo o umetni inteligenci in Evropsko strategijo za podatke.

Ti politični dokumenti prinašajo kar nekaj predlogov, kako urediti vprašanja novih tehnologij.

V Beli knjigi o umetni inteligenci Evropska komisija napoveduje pravno regulacijo te tehnologije, vendar z veliko mero previdnosti. Še preden bo predlagala novo ureditev na tem področju, želi Evropska unija natančneje preveriti, v kolikšni meri je mogoče uporabiti obstoječo zakonodajo. V tem primeru gre zlasti za obstoječe predpise glede odgovornosti za proizvode z napako, za varstvo potrošnikov in številne direktive o enakosti. Šele če ta zakonodaja ne bo zadoščala, bo Evropska komisija predlagala novo zakonodajo. V Beli knjigi o umetni inteligenci Evropska Komisija poleg tega še posebej poudarja pomen spoštovanja temeljnih pravic, ki so lahko kršene z digitalnimi tehnologijami.

V Evropski podatkovni strategiji se Evropska Komisija zavzema za ustanovitev t.i. »evropskih podatkovnih prostorov«, ki bi omogočali uporabo podatkov znotraj določenih gospodarskih panog. Na splošno Komisija poudarja, da je treba zagotoviti večjo dostopnost do podatkov in lažji pretok podatkov tudi med različnimi gospodarskimi panogami znotraj Evropske unije. Ena od iniciativ te strategije je na primer tudi, da bi se podatki iz javnega sektorja lahko lažje uporabljali v zasebnem sektorju in obratno. Takšna izmenjava podatkov pa mora seveda spoštovati določbe o varstvu osebnih podatkov, hkrati pa je treba v tem primeru zagotoviti večjo interoperabilnost med podatki.

Z imenovanjem nove Evropske komisije bi lahko rekli, da Evropa prehaja v drugo fazo odziva na digitalizacijo, saj želi dolgoročno vprašanja digitalizacije urediti z zavezujočimi pravnimi pravili. Sama menim, da so ta pravila sicer nujna, hkrati pa je potrebna previdnost glede tega, kako urediti pravna vprašanja digitalizacije. Prestroga pravila lahko namreč omejijo ali celo zaustavijo razvoj digitalnih tehnologij, kar bi na globalni ravni pomenilo, da bi lahko Evropa izgubila svojo konkurenčnost na globalnih trgih. Po drugi strani pa ni dovolj ostati le pri političnih ali etičnih smernicah. Etične smernice namreč niso zavezujoča pravna pravila, ki bi jih bilo mogoče neposredno uveljavljati in lahko vzbujajo vtis, da podjetja delujejo skladno z njimi, čeprav v resnici ne.

Tveganja za demokracijo in nezadostni pravni odgovori EU

Uporaba novih tehnologij v političnih kampanjah lahko predstavlja tveganja tudi za demokracijo. Politične stranke – predvsem v Ameriki, pa tudi v Evropi – vse pogosteje uporabljajo analizo osebnih podatkov volivcev tudi v svojih političnih kampanjah. Analiza podatkov poteka podobno kot v primeru komercialnega oglaševanja. Podatki se na primer zbirajo z različnih spletnih portalov in drugih virov, na podlagi česar se ustvari politični profil volivcev, ki jim stranke nato pošiljajo usmerjena politična sporočila. Zaradi tovrstne uporabe osebnih podatkov lahko pride do kršitve Splošne uredbe o varstvu podatkov ali Uredbe o varstvu podatkov v institucijah Unije. Poleg tega so taka usmerjena politična sporočila lahko sporna iz dveh razlogov.

Po eni strani lahko usmerjena politična sporočila privedejo do manipulacije volivcev, kar je odvisno tudi od tega, na podlagi katerih kriterijev je ustvarjen profil volivca. Če gre kot v primeru Cambridge Analytica za psihološke značilnosti volivcev in če usmerjeno sporočilo izrablja te psihološke značilnosti, lahko to privede do manipulacije volivcev. Razlika s tradicionalnimi političnimi kampanjami je v tem, da lahko z obdelavo osebnih podatkov politične stranke volivce bolje spoznajo in s tem tudi domnevajo, katere informacije bodo imele nanje največji vpliv.

Po drugi strani pa obstaja tveganje, da volivci ne dobijo celostne slike o politični kampanji politične stranke, ki jim pošilja usmerjene politične oglase. To velja zlasti za tiste volivce, ki informacije o politični kampanji pridobivajo predvsem na socialnih medijih. Usmerjeni politični oglasi namreč že po svoji naravi volivcem prikažejo samo del političnega sporočila neke stranke. Zato obstaja tveganje za poseg v njihovo svobodo obveščanja.

Ta vprašanja so na ravni Evropske Unije urejena le do neke mere. Na tem področju se lahko sicer uporablja zgoraj omenjena zakonodaja o varstvu osebnih podatkov. Poleg tega pa so bila pred Evropskimi volitvami lani spremenjena pravila o financiranju evropskih političnih strank. V skladu s temi pravili »Evropska politična stranka … ne sme namenoma vplivati oziroma poskusiti vplivati na izid volitev v Evropski parlament z izkoriščanjem kršitve veljavnih pravil o varstvu osebnih podatkov...« (1. odstavek 10a. člena Uredbe št. 1141/2014). Poudarek je torej na spoštovanju zakonodaje o varstvu osebnih podatkov.

Vendar pa so po mojem mnenju na tem področju potrebna natančnejša pravila. Uporaba zakonodaje o varstvu osebnih podatkov za ta vprašanja ni najbolj primerna, saj bistvo problema ni v kršitvi osebnih podatkov, temveč v možnosti manipulacije volivcev. Tudi podatki, ki so bili zbrani povsem legalno in skladno z zakonodajo, so lahko osnova za manipulativne politične oglase. Zato za ta vprašanja tudi ni zadostna uporaba evropske zakonodaje EU o zavajajočem komercialnem oglaševanju oz. o nepoštenih poslovnih praksah.

Evropska komisija se je v svojem priporočilu glede volitev v Evropski parlament zavzela za večjo transparentnost usmerjenega političnega oglaševanja, Evropski parlament pa je celo pozval k prepovedi profiliranja za namene tovrstnega oglaševanja. V vsakem primeru bi bilo treba po mojem mnenju pravno urediti, na podlagi katerih kriterijev je možno usmerjeno politično oglaševanje, pri čemer je problematično zlasti oglaševanje na podlagi psiholoških značilnosti volivcev. Zato je potreben tehten premislek o pravni ureditvi teh vprašanj, nenazadnje tudi zato, da se zagotovi spoštovanje pravice do svobode izražanja političnih strank.

Nerešena vprašanja digitalizacije v Evropski uniji

Pri regulaciji digitalne tehnologije pa seveda obstaja nekaj ključnih vprašanj nerešenih. Za ponazoritev lahko omenimo tri primere.

Eno od nerešenih vprašanj je teritorialna omejitev pravnih pravil na območje Evropske unije. Številna podjetja, ki razvijajo digitalne tehnologije ali uporabljajo te tehnologije, delujejo na globalni ravni (npr. Facebook, Google, Amazon, pa tudi številne banke ali zavarovalnice), pravna pravila, kot na primer pravila o povrnitvi škode ali varstvu osebnih podatkov, pa so omejena na evropski prostor. Res je, da imajo velika podjetja velikokrat v EU svoje podružnice, vendar pa razvoj ključnih tehnologij velikokrat poteka v državah, v katerih evropska pravila ne veljajo, tehnologije pa se kasneje ne glede na to uporabljajo v evropskem prostoru.

Drugo odprto vprašanje so na primer notranje napetosti med obstoječimi pravili. Po eni strani skuša Evropa na primer zagotoviti večjo dostopnost do podatkov, po drugi strani pa skuša vzpostaviti tudi visoko raven varstva osebnih podatkov. Podatki, ki 'krožijo' med podjetji so lahko namreč tudi osebni podatki, glede katerih veljajo veliko strožja pravila kot v primeru ti. 'neosebnih' podatkov. Zato je potrebno razmisliti, kako je mogoče zagotoviti hkrati varstvo osebnih podatkov in njihovo uporabo pri razvoju novih tehnologij.

Tretje vprašanje je, ali je tehnološko sploh možno izvajati določena pravila in smernice EU. V Etičnih smernicah za zaupanja vredno umetno inteligenco se Evropa na primer zavzema za večjo razložljivost sistemov umetne inteligence. Če torej avtomatski sistem, ki uporablja umetno inteligenco, sprejme odločitev, je pomembno pojasniti razloge, zaradi katerih je sistem to odločitev sprejel. Če na primer avtomatski sistem zdravnikom pomaga postaviti diagnozo, moramo razumeti, zakaj je bila ta diagnoza predlagana.

Vendar pa je včasih zelo težko pojasniti, zakaj je nek avtomatski sistem sprejel določeno odločitev. Algoritmi, ki jih ti sistemi uporabljajo, so velikokrat kompleksni in zato tudi netransparentni. Avtomatski sistemi se namreč učijo v procesu analize podatkov in včasih ni mogoče identificirati ključnih faktorjev, ki so najbolj vplivali na določeno odločitev.

Digitalizacija v Sloveniji

V Sloveniji je bilo na področju digitalizacije v zadnjih letih narejenega nekaj pomembnega napredka, vendar pa so dodatni napori še potrebni. Kot pozitiven razvoj lahko vsekakor omenimo ustanovitev UNESCO-vega Mendarodnega raziskovalnega centra za umetno inteligenco, pa tudi številne uspešne raziskovalne projekte na Institutu Jožef Stefan.

Kljub temu pa je na določenih področjih potreben napredek, na primer glede uporabe digitalnih tehnologij v javnem sektorju in uvedbe 5G tehnologije, pri čemer zaostajajo tudi nekatere druge evropske države. Če pogledamo na primer indeks digitalne ekonomije iz leta 2019 (Digital Economy and Society Index), je Slovenija lani v primerjavi z letom 2018 žal zdrsnila s šestnajstega na sedemnajsto mesto. S tem Slovenija zaostaja na primer za nordijskimi državami: Finsko, Švedsko in Dansko, pa tudi za Estonijo, ki je v preteklih letih naredila velik napredek na področju digitalizacije. Zeto to področje za Slovenijo zaenkrat ostaja izziv, upamo pa lahko, da bo v prihodnosti postalo eno od prioritet Slovenije.

dr. Maja Brkan, LL.M. (NYU)
maja.brkan@maastrichtuniversity.nl

Stališča v prispevkih so izključno mnenja avtorjev in ne izražajo mnenja družbe LEXPERA d.o.o., ki za vsebino prispevkov ne odgovarja.

Arhiv

Zadnje kolumne


Avtor

dr. Maja Brkan, LL.M. (NYU)
Izredna profesorica za pravo EU Pravna fakulteta, Univerza v Maastrichtu
maja.brkan@maastrichtuniversity.nl

 

2020