Piše: Suzana Cesarec Nöthig, odvjetnica, partnerica u Odvjetničkom društvu Porobija&Špoljarić
Sve veći utjecaj AI na svakodnevan ljudski život je neupitan. Također, nedvojbeno je da je, kako je to svojevremeno istaknuo Stephen Hawking „učinkovita umjetna inteligencija najveći događaj u ljudskoj povijesti. Ili najgori! To još ne znamo…“
S obzirom da su stvaratelji umjetne inteligencije upravo ljudi te kako bi se umjetna inteligencija koristila sukladno svrsi radi koje je izvorno kao ideja nastala te desetljećima razvijana tj. radi omogućavanja strojevima da obavljaju poslove koji zahtijevaju ljudsku inteligenciju, ali prvenstveno kao pomoć čovjeku (a ne kao njegova zamjena), nužno je potrebno potpuno razumijevanje sustava umjetne inteligencije i načina njenog (dozvoljenog) korištenja. Važan korak pri tome svakako je, uz osiguranje upotrebe sigurnih, transparentnih etičnih i neovisnih sustava AI pod ljudskim nadzorom i adekvatna pravna regulativa, čije bi donošenje s obzirom na nagli razvoj i napredak alata AI-ja svakako trebalo provesti, na globalnoj i na nacionalnoj razini što skorije.
Po posljednjim informacijama 11. svibnja 2023. godine Odbor Europskog parlamenta za unutarnje tržište i civilne slobode prihvatio je tekst Akta o AI, koji sadrži amandmane na raniji prijedlog Europske komisije, a kojima se donose detaljnije razrađene usklađene definicije te se poboljšava okvir za mala i srednja poduzeća kao i sustav procjene rizika. Slijedi usvajanje izvješća na plenarnoj sjednici u lipnju, dok bi EU novi zakon trebala dobiti početkom 2024. godine.
Posljednjih mjeseci mediji na globalnoj, ali i na nacionalnoj razini na veliko izvještavaju o prednostima i potencijalnim opasnostima razvoja umjetne inteligencije. Međutim, proučavanje umjetne inteligencije (AI) puno je starije od začetka aktualnih rasprava. Rad na uspostavi iste predmet je rada brojnih znanstvenika i inženjera te drugih stručnjaka već više od 65 godina.
Marvin Minsky, jedan od začetnika umjetne inteligencije, za kojeg se smatra da je postavio temelje razvoja umjetne inteligencije, definirao je umjetnu inteligenciju kao omogućavanje strojevima da obavljaju poslove koji zahtijevaju ljudsku inteligenciju.
Dakle, inicijalno, bit umjetne inteligencije su istraživačke teorije, metode, tehnologije i aplikacije za simulaciju i širenje ljudske inteligencije, slijedom čega je tijekom godina koncept umjetne inteligencije konstantno unapređivan i poboljšavan. Sve veći utjecaj AI-a na svakodnevan ljudski život stoga je logična posljedica navedenog.
Umjetna inteligencija danas se koristi u svim područjima života te poslovanja tvrtki, uvodi se kao alat tijekom studija[1] i njeno korištenje smatra se ključnom vještinom budućnosti. AI modeli odgovaraju na pitanja korisnika iz svih područja života, pišu poslovne planove, osmišljavaju kreativne sadržaje, stvaraju „umjetnička“ djela poput djela književnosti ili djela slikarstva/fotografije, upravljaju (polu)autonomnim automobilima, sudjeluju u fintechu, medicini/zdravstvu, pomažu studentima i učenicima u stjecanju novih znanja… Posljednjih mjeseci u stručnim krugovima vrlo se intenzivno raspravlja te u medijima piše o tome kamo nas vodi, sada već znatno, uznapredovala i sofisticirana umjetna inteligencija (poput ChatGPT, Bing, DALL-E2, Bard…), koje su dobrobiti iste i kako najbolje iskoristiti prednosti koje nam AI daje.
Umjetna inteligencija poboljšava predviđanje, optimizaciju operacija i raspodjelu resursa te personalizira pružanje usluga. Korištenje AI može pridonijeti ostvarenju izrazito pozitivnih rezultata koji pogoduju društvu i okolišu, a poduzećima i europskom gospodarstvu donijeti ključne konkurentske prednosti.
Ipak, s druge strane, predmet rasprava su i pitanja koliko potencijalno opasan može biti takav nagli rast, prodor na tržište te nekontrolirano korištenje AI, kao i koje negativne reperkusije, poput primjerice „izumiranja“ određenih zanimanja, društvenih manipulacija te gubitka privatnosti bi mogle proizaći iz navedenog „ekspanzivnog“ korištenja AI-a, a osobito iz činjenice trenutnog manjka pravne regulacije korištenja umjetne inteligencije i postavljanja adekvatnih zakonskih okvira.
Dakle, isti elementi i tehnike koji pokreću socioekonomske koristi AI-e mogu prouzročiti nove rizike ili negativne posljedice (materijalnu i nematerijalnu štetu) za pojedince ili društvo.
Kako bi primjena umjetne inteligencije zaživjela u punom smislu, ali uz povjerenje građana Europske unije i poštovanje temeljnih prava građana i poduzeća u sigurno korištenje tim alatom, Europska komisija je uz dosadašnji raniji rad na tom području[2] predložila skup mjera za poticanje izvrsnosti za umjetnu inteligenciju, kao i pravila koja će osigurati povjerenje u takvu tehnologiju. Cilj tih mjera i pravila je da se na području EU upotrebljavaju sigurni, transparentni etični i neovisni sustavi umjetne inteligencije pod ljudskim nadzorom.
[1] po najnovijim informacijama na Sveučilištu u Zagrebu, Ekonomskom fakultetu, smjer Menadžerska informatika, od jeseni će se izvoditi kolegij Sustavi umjetne inteligencije u poslovanju; kolegij Uvod u umjetnu inteligenciju također već postoji i na Fakultetu elektrotehnike i Računarstva u Zagrebu, na Fakultetu elektrotehnike, strojarstva i brodogradnje u Splitu na prvoj godini studija kolegij „Umjetna inteligencija“ je obvezan
[2] 2018. g. osnovana je Stručna skupina na visokoj razini za AI, sa zadatkom savjetovanja Komisije o provedbi strategije Komisije za AI te su 2019. g. donesene Etičke smjernice za pouzdani AI; 19. veljače 2020. g. Europska komisija objavila je Bijelu knjigu o AI-ju – Europski pristup izvrsnosti i izgradnji povjerenja, COM(2020) 65 final, 2020., nakon čega je pokrenuto internetsko javno savjetovanje koje je trajalo do 14. lipnja 2020. g., sa svrhom prikupljanja stajališta i mišljenja o Bijeloj knjizi; Europski parlament isto je tako bio iznimno aktivan u području AI-ja. U listopadu 2020. donio je nekoliko rezolucija povezanih s AI-jem, među ostalim o etičnosti – Rezolucija Europskog parlamenta od 20. listopada 2020. o okviru etičkih aspekata umjetne inteligencije, robotike i s njima povezanih tehnologija, 2020/2012(INL) ., odgovornosti – Rezolucija Europskog parlamenta od 20. listopada 2020. o sustavu građanskopravne odgovornosti za umjetnu inteligenciju, 2020/2014(INL) i pravima intelektualnog vlasništva – Rezolucija Europskog parlamenta od 20. listopada 2020. o pravima intelektualnog vlasništva za razvoj tehnologija umjetne inteligencije, 2020/2015(INI). Zatim je 2021. donio rezolucije o AI-ju u kaznenim stvarima te u obrazovnom, kulturnom i audiovizualnom sektoru
Akt o umjetnoj inteligenciji
Uredba europskog parlamenta i Vijeća o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji), čiji prijedlog je objavljen dana 21. travnja 2021. godine, i čije se donošenje za sada predviđa do kraja 2023., predstavljat će pravni okvir za umjetnu inteligenciju jedinstveno i izravno obvezujuć i primjenjiv u svim državama članicama EU.
Svrha Akta je osiguranje pravilnog funkcioniranja unutarnjeg tržišta uspostavljanjem usklađenih pravila o slobodnom prekograničnom kretanju robe i usluga koje se temelje na AI, ponajprije o razvoju, stavljanju na tržište Unije te uporabi proizvoda i usluga u kojima se koriste AI tehnologije ili koji se nude kao samostalni AI sustavi.
U kontekstu Prijedloga, umjetna inteligencija definirana je kao sustav temeljen na stroju dizajniran za rad s različitim razinama autonomije i koji može, za eksplicitne i implicitne ciljeve, generirati rezultate kao što su predviđanja, preporuke ili odluke koje utječu na fizička ili virtualna okruženja. AI predstavlja skup tehnologija koje se vrlo brzo razvijaju i mogu donijeti niz gospodarskih i društvenih koristi u cijelom spektru industrijskih grana i društvenih aktivnosti. Zahvaljujući boljem predviđanju, optimizaciji operacija i dodjele resursa te personalizaciji digitalnih rješenja koja su dostupna pojedincima i organizacijama, uporaba AI može poduzećima omogućiti ključne konkurentske prednosti i pridonijeti društveno i ekološki korisnim rezultatima, primjerice u zdravstvenoj zaštiti, poljoprivredi, obrazovanju i osposobljavanju, upravljanju infrastrukturom, energetici, prometu i logistici, javnim uslugama, sigurnosti, pravosuđu, učinkovitom korištenju resursa i energije te ublažavanju klimatskih promjena i prilagodbi tim promjenama.
Prijedlogom se nastoji razviti ekosustav povjerenja, u kojem će građani i drugi korisnici prihvatiti rješenja koja se temelje na AI, a poduzeća se potiču da ta rješenja razvijaju. Uspostavom kontroliranog okruženja za eksperimentiranje i testiranje u fazi razvoja i prije stavljanja na tržište, svrha je da se osigura usklađenost AI sustava i s drugim relevantnim zakonodavstvom Unije i država članica, poveća pravna sigurnost za inovatore, poboljša nadzor nadležnih tijela i njihovo razumijevanje mogućnosti, novih rizika i učinaka uporabe AI-ja te ubrza pristup tržištima, među ostalim uklanjanjem zapreka za MSP-ove te Start-up poduzeća. Koliko će to biti uspješno, vrijeme će pokazati.
Dodatno, aktualnim raspravama predlaže se da tvrtke koje proizvode generativne AI alate poput ChatGPT imaju obvezu otkriti jesu li koristile sadržaje zaštićene autorskim pravima u svojim sustavima.
Radi pronalaska ravnoteže između poticanja inovacija i zaštite temeljnih prava, sukladno Prijedlogu Akta, AI alati bit će klasificirani razmjerno razini rizika koju tehnologija umjetne inteligencije može predstavljati za zdravlje i sigurnost ili temeljna prava osobe.
Tako su predviđene četiri razine rizika: (i) minimalna, ii) ograničena, (iii) visoka te (iv) neprihvatljiva, pri čemu se visokorizični alati neće zabranjivati, već će se od tvrtki koje ih posjeduju zahtijevati visoka transparentnost u poslovanju. Primjerice, sustavi umjetne inteligencije s ograničenim i minimalnim rizikom (filteri neželjene pošte ili videoigre), smiju se koristiti uz male zahtjeve osim obveza transparentnosti.
Sustavi za koje se smatra da predstavljaju neprihvatljiv rizik – državno socijalno bodovanje i sustav biometrijske identifikacije u stvarnom vremenu u javnim prostorima – bit će zabranjeni, osim ako se ne radi o određenim ograničenim iznimkama (kazneni progon). Sustavi AI visokog rizika su dopušteni, ali programeri i korisnici moraju se pridržavati propisa koji zahtijevaju rigorozno testiranje, odgovarajuću dokumentaciju o kvaliteti podataka i okvir odgovornosti koji detaljno opisuje ljudski nadzor. Umjetna inteligencija koja se smatra visokim rizikom uključuje autonomna vozila, medicinske uređaje i strojeve kritične infrastrukture.
Odgovornost za umjetnu inteligenciju
U pogledu odgovornosti za umjetnu inteligenciju, prethodno je donesena Rezolucija Europskog parlamenta od 20. listopada 2020. godine o sustavu građanskopravne odgovornosti za umjetnu inteligenciju, 2020/2014(INL).
Složenost, povezanost, osjetljivost, sposobnost promjene nakon ažuriranja, sposobnost samostalnog učenja i potencijalna autonomija sustava umjetne inteligencije, kao i mnoštvo uključenih aktera predstavljaju znatan izazov za učinkovitost postojećih odredbi o okviru odgovornosti na nacionalnoj razini i razini Unije. Kako se ne bi dogodile situacije u kojima bi osobe koje pretrpe štetu od djelovanja AI ostale bez prava na naknadu, Europski Parlament je došao do zaključka da je neophodno uvesti i posebne koordinirane prilagodbe sustava odgovornosti.
Fizičke ili virtualne aktivnosti, uređaji ili procesi koje pokreću sustavi AI mogu tehnički biti izravan ili neizravan uzrok ozljede ili štete, iako su oni gotovo uvijek rezultat nečije izgradnje ili uvođenja sustava ili pak uplitanja u sustave. U ovom trenutku prevladava stav da AI sustavima ne bi bilo potrebno dati pravnu osobnost, već se, u skladu s općeprihvaćenim pojmovima i pravilima odgovornosti, odgovornim osobama trebaju smatrati one osobe koje stvaraju, održavaju ili kontroliraju rizik povezan s konkretnim AI sustavom.
Tijekom gotovo 40 godina primjene, Direktiva o odgovornosti za proizvode br. 85/374/EEZ od 25. srpnja 1985. godine pokazala se učinkovitim sredstvom za dobivanje naknade za štetu prouzročenu neispravnim proizvodom. Međutim, u kontekstu umjetne inteligencije te sadašnjeg i daljnjeg predvidivog razvoja tu bi Direktivu ipak trebalo preispitati i dodatno ju prilagoditi digitalnom svijetu kako bi se savladali i izazovi koje donose digitalne tehnologije u nastajanju. Svrha toga je osiguranje visoke razine stvarne zaštite potrošača, kao i pravne sigurnosti za potrošače i poduzeća. Stoga postoje razmišljanja u smjeru pretvaranja postojeće Direktive u uredbu (dakle, u propis koji se direktno primjenjuje u svim članicama EU) kojom bi se dodatno pojasnila i definicija „proizvoda”, dodala definicija „digitalnih sadržaja“ i „digitalnih usluga“, kao i što bi se, u tom kontekstu razmotrila prilagodba pojmova „šteta”, „neispravnost” i „proizvođač”.
Direktiva o odgovornosti za proizvode trebala bi se i dalje upotrebljavati u pogledu odštetnih zahtjeva na temelju građanskopravne odgovornosti protiv proizvođača neispravnog AI sustava kad se takav sustav smatra proizvodom na temelju te Direktive. Ujedno, kako bi se zajamčilo da AI sustavi uključuju načela integrirane sigurnosti, svako ažuriranje okvira odgovornosti za proizvode trebalo bi se odvijati paralelno s ažuriranjem Direktive 2001/95/EZ Europskog parlamenta i Vijeća od 3. prosinca 2001. o općoj sigurnosti proizvoda.
Sa sadašnjeg aspekta gledano, postojeće pravo država članica u pogledu odgovornosti za štetu koja se temelji na krivnji u većini slučajeva nudi dovoljnu razinu zaštite za osobe koje pretrpe štetu koju je svojim uplitanjem prouzročila treća strana, kao što je npr. haker, ili za osobe čiju je imovinu oštetila takva treća strana, budući da uplitanje obično predstavlja radnju koja se temelji na krivnji. Stoga se dodavanje pravila o odgovornosti radi dopune postojećeg nacionalnog prava u pogledu odgovornosti čini nužnim samo za posebne slučajeve, uključujući one u kojima se trećoj strani ne može ući u trag ili je treća strana ostala bez sredstava. Odgovornost operatera AI sustava, sukladno stavu Europskog parlamenta, opravdana je činjenicom da on kontrolira rizik povezan s AI sustavom te će zbog složenosti i povezanosti takvog sustava upravo on u mnogim slučajevima biti prva vidljiva kontaktna točka za oštećenu osobu.
Prijedlog Direktive Europskog parlamenta i Vijeća o prilagodbi pravila o izvanugovornoj građanskopravnoj odgovornosti s obzirom na umjetnu inteligenciju (Direktiva o odgovornosti za umjetnu inteligenciju)
Prethodno spomenutom Direktivom o odgovornosti za proizvode obuhvaćena je proizvođačeva odgovornost bez krivnje za neispravne proizvode, što dovodi do naknade za određene vrste šteta koje su većinom pretrpjeli pojedinci.
Prijedlogom Direktive o odgovornosti za AI, koja se primjenjuje na izvanugovornu odgovornost, obuhvaćeni su odštetni zahtjevi koji se uglavnom temelje na krivnji bilo koje osobe u cilju naknade za bilo koju vrstu štete i bilo koju vrstu žrtve. Ta bi se dva akta stoga trebala međusobno nadopunjavati te činiti sveobuhvatan učinkovit sustav građanskopravne odgovornosti u ovom području.
Predmet Prijedloga Direktive jest utvrđenje zajedničkih pravila:
1. o otkrivanju dokaza o visokorizičnim AI sustavima kako bi se tužitelju omogućilo da potkrijepi svoj izvanugovorni građanskopravni zahtjev za naknadu štete na temelju krivnje;
2. o teretu dokazivanja u slučaju izvanugovornih građanskopravnih zahtjeva za naknadu štete na temelju krivnje koji se podnose nacionalnim sudovima za naknadu štete prouzročene sustavom AI-e.
Pri tome je “Zahtjev za naknadu štete“ definiran kao „izvanugovorni građanskopravni zahtjev na temelju krivnje za naknadu štete prouzročene izlaznim rezultatom ili nedostatkom rezultata AI sustava, ako je takav rezultat trebao biti proizveden“.
Iz razloga pravne sigurnosti i sprečavanja pravne rascjepkanosti zasebnim nacionalnim regulacijama svakako je potrebno osigurati i uspostaviti učinkovit jedinstveni sustav adekvatne zaštite legitimnih interesa svih uključenih strana na razini EU (umjesto samo na razini nacionalnih regulativa).
Tako bi žrtve štete prouzročene umjetnom inteligencijom, imale jednaku razinu zaštite kao i žrtve štete koja nije povezana s umjetnom inteligencijom.
Istovremeno bi poduzeća čije se poslovanje temelji na umjetnoj inteligenciji, mogla kvalitetnije donositi daljnje poslovne odluke o proizvodnji i pružanju usluga te bi se ujedno, upoznata s potencijalnim rizicima odgovornosti, na takve rizike posljedično mogla učinkovito pripremiti te se od istih adekvatno osigurati (cyber osiguranje).
Svrha je Prijedloga Direktive o odgovornosti za AI poboljšati funkcioniranje unutarnjeg tržišta utvrđivanjem jedinstvenih zahtjeva za određene aspekte izvanugovorne građanskopravne odgovornosti za štetu prouzročenu djelovanjem AI sustava.
Stoga bi se Direktivom, trebala omogućiti učinkovita provedba temeljnih prava i očuvanje prava na djelotvoran pravni lijek u slučajevima kad se ostvare rizici povezani s umjetnom inteligencijom. To će pridonijeti zaštiti temeljnih prava, kao što su pravo na život (članak 2. Povelje), pravo na tjelesni i duhovni integritet (članak 3.) i pravo na vlasništvo (članak 17.). Osim toga, ovisno o sustavu građanskog prava i tradicijama svake države članice, žrtve će moći tražiti naknadu za štetu nanesenu kršenjem drugih ljudskih prava i interesa, kao što su povrede ljudskog dostojanstva (članci 1. i 4. Povelje), nepoštovanje privatnog i obiteljskog života (članak 7.) te povrede prava na jednakost (članak 20.) i nediskriminaciju (članak 21.).
Ne manje važno, treba naglasiti i ono što će biti bitno za sve koji će jednom zaista i pretrpjeti štetu – predloženom Direktivom trebalo bi se uvesti smanjenje tereta dokazivanja, odnosno lakše dokazivanje štete za žrtve i oštećenike rada AI.
Regulacija AI u Hrvatskoj
Po javno dostupnim informacijama, u Republici Hrvatskoj u tijeku je izrada Nacionalnog plana za razvoj umjetne inteligencije te bi Hrvatska svoju AI strategiju trebala dobiti 2024. godine.
U izradi Nacionalnog plana uzet će se u obzir smjernice ključnih strateških dokumenata na EU razini: Strategije za umjetnu inteligenciju, Koordiniranog plana za umjetnu inteligenciju i Bijele knjige o umjetnoj inteligenciji. Osim toga, Nacionalni plan će biti usklađen s Paketom za umjetnu inteligenciju Europske komisije, sastavni dio kojeg je i ranije spomenuta Uredba – Akt o umjetnoj inteligenciji, čije je donošenje u tijeku, kao i navedeni Prijedlog Direktive o odgovornosti za AI. Također, sada u svibnju Hrvatskom saboru je na raspravu podnesen i Prijedlog rezolucije o umjetnoj inteligenciji.
Objavljeno 22. svibnja 2023. Sva prava pridržana PoslovniFM