Vybrané aspekty umelej inteligencie vo svetle právnej úpravy

Článok sa zaoberá vybranými aspektmi umelej inteligencie (AI), v kontexte aktuálnej a pripravovanej právnej regulácie na úrovni Európskej únie a Slovenska. Po obsahovej stránke článku možno pozdvihnúť dôraz, ktorý je kladený na význam právnej úpravy ako nevyhnutného nástroja na minimalizáciu rizík spojených s aplikáciou AI, predovšetkým v oblasti ochrany základných ľudských práv a slobôd.  Ďalej sa dôraz kladie aj na potrebu kontinuálnej aktualizácie legislatívy, v súlade s dynamickým vývojom AI a rovnako na zodpovedný prístup všetkých zainteresovaných subjektov pri implementácii AI do spoločenských procesov.

V posledných rokoch sa čoraz viac pozornosti venuje umelej inteligencii (ďalej len „AI“ z ang. artificial inteligence). AI sa stala nástrojom, resp. neoddeliteľnou súčasťou mnohých oblastí ľudskej činnosti. AI ponúka množstvo príležitostí pre inovácie, rast a zlepšenie kvality života, ale zároveň prináša aj mnohé riziká a výzvy pre ľudské práva, demokraciu a právny poriadok. V súvislosti s využívaním AI prichádzajú i mnohé právne otázky, na ktoré musí byť právna obec schopná v dohľadnej dobe odpovedať. Sme toho názoru, že i pri aplikácií umelej inteligencii by jej základným pilierom mala byť bezpochyby právna regulácia. Vzhľadom na riziká spojené s využívaním AI, je nevyhnutne potrebná právna regulácia najmä na úrovni EÚ (vrátane implementácie dotknutých aktov na úrovni jej členských štátov), čím sa zabezpečí jej bezpečnosť, dôveryhodnosť a etickosť. Európska únia disponuje vlastnou právnou úpravou, ktorou sa má podchytiť jej regulácia ešte pred samotným masovým rozmachom.[1] Právny akt upravujúci reguláciu AI, po obsahovej stránke, prináša spôsoby uchopenia možných konfliktov (myslí sa: stret záujmov jednotlivca, resp. jeho práva a/alebo slobôd, v dôsledku použitia AI, resp. jeho samotný dopad na spoločnosť) s využitím AI v priestore Európskej únií. S prihliadnutím na tzv. šedé miesta, na ktoré ani samotný akt neposkytuje odpovede, je potrebné pri akýchkoľvek myšlienkach a úvahách (de lege ferenda) na zlepšenie tohto aktu, brať ohľad na jeho sledovaný cieľ.

Pojem Umelá inteligencia (AI)

Pri pomenovaní umelej inteligencie autor bral zreteľ na neustále sa vyvíjajúci svet technológií, ktorému právna regulácia nezodpovedá v takej miere ako by si prax vyžadovala, alebo ako by sme naopak legitímne mohli očakávať. Nepochybne využitie AI zastrešuje  nespočetne širokú škálu veličín. Čo sa teda rozumie pod pojmom „umelá inteligencia“? Pojem „umelá inteligencia“ nie je v Európskom spoločenstve doposiaľ definovaný žiadnym právnym predpisom, resp. doposiaľ neexistuje jej legálna definícia, ktorá by taxatívnym a/alebo demonštratívnym spôsobom tento pojem, či slovné spojenie definovala. Európsky parlament hovorovo definuje umelú inteligenciu ako „schopnosť zariadenia prejaviť schopnosti podobné človeku, ako sú uvažovanie, učenie, plánovanie a tvorivosť.“[2] Akt o umelej inteligencií používa definíciu k derivátu umelej inteligencie - „systém umelej inteligencie, pričom sa ním rozumie „softvér vyvinutý s jednou alebo viacerými technikami a prístupmi uvedenými v prílohe I, ktorý môže pre daný súbor cieľov vymedzených človekom vytvárať výstupy, ako je obsah, predpovede, odporúčania alebo rozhodnutia ovplyvňujúce prostredie, s ktorým sú v interakcii.“[3]

Deľba AI

AI možno typovo rozdeliť na softvérovú inteligenciu a na inteligenciu, ktorá je zabudovaná v hmotných zariadeniach. Medzi softvérovú inteligenciu zaraďujeme napr.: virtuálnu asistentku, vyhľadávače, systémy na rozpoznávanie reči a tvárí, úpravu hlasu. Do druhej skupiny (t. j. tzv. inteligencia zabudovaná), zaraďujeme napr. drony, roboty a pod. AI sa v bežnej každodennej rutine môže prejaviť veľmi ľahko, a to v podobe: online nakupovania, online reklamy, vyhľadávania na webe, digitálny osobní asistenti a pod. Z procesnej roviny AI možno definovať ako technológiu, ktorá umožňuje strojom vykonávať úlohy, ktoré inak vyžadujú ľudskú inteligenciu, ako napríklad rozpoznávanie reči, tváre, obrazov, písma, emócií, rozhodovanie, učenie, tvorba, hranie hier a pod.

Pramene upravujúce využívanie AI na úrovni EU 

Právne predpisy, ktoré vymedzujú túto problematiku (s prihliadnutím aj na ďalšie súvislosti) sú nasledovné:

• Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (akt o umelej inteligencii)[4];
• SMERNICA EURÓPSKEHO PARLAMENTU A RADY o prispôsobení pravidiel mimozmluvnej občianskoprávnej zodpovednosti umelej inteligencii (smernica o zodpovednosti za umelú inteligenciu);
• Smernica Európskeho parlamentu a Rady (EÚ) 2024/2853 z 23. októbra 2024 o zodpovednosti za chybné výrobky;
• Nariadenie Európskeho parlamentu a Rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov;
• Smernica Európskeho parlamentu a Rady (EÚ) 2022/2555 zo 14. decembra 2022 o opatreniach na zabezpečenie vysokej spoločnej úrovne kybernetickej bezpečnosti v Únií (smernica NIS 2).

Právna úprava používania AI na Slovensku

Na úvod treba povedať, že Slovensko sa využívaniu AI nevyhlo. Už v roku 2019 vzniklo Slovenské centrum pre výskum umelej inteligencie ako platforma pre excelenciu v umelej inteligencii, ktorá prepája študentov, výskumníkov, podnikateľov, učiteľov, investorov a všetkých ďalších, ktorí sa zaujímajú o umelú inteligenciu.[5] V súčasnosti na Slovensku nebol doposiaľ prijatý žiadny právny predpis, ktorý by upravoval a/alebo poskytoval riešenia na možný stret práva, právom chránených záujmov na jednej strane a na strane druhej samotnej umelej inteligencie. Termíny postupného zavádzania, resp. implementácie aktu o umelej inteligencií do svojho vnútroštátneho právneho poriadku Slovensko dodržiava.

Vláda Slovenskej republiky s prihliadnutím na povahu umelej inteligencie, dňa 04.07.2025 vymenovala štátneho tajomníka ministerstva investícií, regionálneho rozvoja a informatizácie (MIRRI) Radoslava Štefánka za prvého splnomocnenca vlády pre umelú inteligenciu.  

Kategorizácia AI z pohľadu rizikovosti

Akt o umelej inteligencií, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie upravuje riziko spojené s konkrétnym používaním AI. Miera rizikovosti poslúžila k stanoveniu úrovní rizika, pričom následne boli stanovené štyri úrovne rizika:

• Minimálne alebo žiadne riziko,
• Obmedzené riziko,
• Vysoké riziko,
• Neprijateľné riziko.

Klasifikácia úrovne rizika má svoj zmysel pri stanovení rôznych pravidiel, v súvislosti s využitím AI.

 AI prínosy vs. riziká

Je nepochybné, že AI  má vysoký potenciál byť prínosom pre spoločnosť. Niektoré prínosy sú už v súčasnosti citeľné a ich význam bude ďalej narastať. V súčasnosti jej prínosy v multidisciplinárnych oblastiach výskumu a vzdelávania, dopravy, bezpečnosti, životného prostredia, kultúry, umenia, marketingu, a multimédií a nepochybne aj v samotnej oblasti práva.[6] V nadväznosti na prínosy AI, sa často pokladá otázka, ktorá znie: Príde k potencionálnemu nahradeniu človeka pri výkone vybraných povolaní, resp. k zániku pracovných miest pre vybrané profesie? Jednoznačnú odpoveď v súčasnosti nepoznáme, isté je, že v praxi sú dva tábory, pričom jeden tábor verí, že zvíťazí humanocentrický prístup k využívaniu AI a naopak druhý tábor sa prikláňa k zmieňovaným obavám, ktoré sa spájajú s postupným nahradením ľudskej stránky práve AI.

Spoločnosť má v sebe dlhodobo zakorenené, že to, čo môže predstavovať pre spoločnosť prínos, môže naopak priniesť aj určité riziko. Vzhľadom na príležitosti, ktoré AI prináša, môže jej využívanie viesť k strate zamestnania (zániku pracovnej pozície), diskriminácií, zneužitiu získaných informácií/osobných údajov, zásahu do súkromia, ohrozeniu ľudských práv, demokracie a právneho štátu.

Jedným z príkladov zlej praxe, resp.  nesprávneho využitia/zneužitia umelej inteligencie možno spomenúť prípady „deepfake“. Deepfake predstavuje médium, ktoré bolo digitálne upravené tak, aby presvedčivo nahradilo osobu výzorom alebo hlasom iného človeka. Prípadov deepfake je v praxi pomerne dosť a do veľkej miery zasahujú do základných ľudských práv dotknutých osôb, pričom na druhej strane stoja osoby, ktoré takýmto konaním spôsobujú nie malé škody na majetku a hlavne zdraví poškodených. Deepfake sa rozmáha najmä práve kvôli nedostatočnej právnej regulácií, i keď Nariadenie Európskeho parlamentu a Rady (EÚ) 2022/2065 z 19. októbra 2022 o jednotnom trhu s digitálnymi službami a o zmene smernice 2000/31/ES (akt o digitálnych službách) síce zaväzuje veľké digitálne platformy k vytvoreniu pravidiel, monitoringu a možnosti nahlasovať nelegálny obsah, avšak definícia deepfake v ňom absentuje. Pod „deepfake“ nepochybne patrí napr. prípad popovej ikony Taylor Swift, ktorá sa stala obeťou neoprávneného šírenia digitálne upraveného explicitného obsahu (tzn. pornografické vyobrazenia popovej senzácie). 

Aplikácia umelej inteligencie ďalej v súdnictve vykazuje isté riziká, ako napr. nestrannosť v rozhodovaní je pre umelú inteligenciu značne problematická.

Využitie AI v súdnictve