Ak hovoríme o využívaní Legal Tech v praxi právnických kancelárií, je namieste hovoriť o AI.
Európsky parlament (EP) prijal nedávno v júni rokovaciu pozíciu k dlhšie pripravovanému Zákonu o umelej inteligencii. Nové pravidlá majú podporiť zavádzanie dôveryhodnej umelej inteligencie (UI) zameranej na človeka a chrániť zdravie, bezpečnosť, základné práva a demokraciu pred jej škodlivými účinkami.
Za pozíciu EP hlasovalo 499 poslancov, 28 bolo proti a 93 sa zdržalo. Rokovania o konečnej podobe zákona už aktuálne bežia s členskými štátmi EÚ.
Miroslav Chlipala, Managing Partner BCH Advokáti Chlipala pomenoval tri základné aspekty tohto návrhu: „Prvým je snaha špecifikovať, čo vlastne ideme regulovať. Pracuje sa pritom s pojmom „systémy umelej inteligencie“. Cieľom je, aby bolo konkrétne vyčlenenie regulovanej oblasti neutrálne, dlhodobo udržateľné a nie príliš široké.“
Druhým aspektom návrhu zákona je podľa M. Chlipalu pomenovanie problému, ktorý pre občanov z nových technológií vyplýva, a to najmä o riziká v oblasti ľudských práv a bezpečnosti.
Pravidlá odobrené EP sa riadia prístupom založeným na riziku a stanovujú povinnosti pre poskytovateľov a operátorov umelej inteligencie v závislosti od úrovne rizika, ktoré UI môže predstavovať. Systémy s neprijateľnou úrovňou rizika pre bezpečnosť ľudí by mali byť zakázané.
Poslanci ich rozšírili o zákaz používania umelej inteligencie spôsobom, ktorý narúša súkromie a je diskriminačný. Sú to napríklad systémy diaľkovej biometrickej identifikácie v reálnom čase, systémy biometrickej kategorizácie podľa citlivých údajov (pohlavie, rasa, etnický pôvod, občianstvo, náboženstvo, politická orientácia), systémy rozpoznávania emócií v oblasti presadzovania práva a podobne. Upravuje sa aj klasifikácia vysokorizikových aplikácií a to tak, aby zahŕňala aj systémy umelej inteligencie, ktoré významne poškodzujú ľudské zdravie, bezpečnosť, základné práva alebo životné prostredie, ovplyvňujú voličov a výsledky volieb či v odporúčacích systémoch používaných platformami sociálnych médií (nad 45 miliónov používateľov). Generatívne systémy umelej inteligencie ako ChatGPT musia podľa nových pravidiel spĺňať požiadavky na transparentnosť a informovať, že obsah bol vytvorený umelou inteligenciou a pomáhať odlíšiť falošné obrazy (deepfake) od skutočných, a poskytnúť záruky proti vytváraniu nezákonného obsahu.
Posledným aspektom je z podľa M. Chlipalu snaha zaviesť podporné riešenia pre malé a stredné podniky, aby bol stimulovaný vývoj umelej inteligencie na európskom trhu. Do návrhu zákona boli doplnené výnimky pre výskumné činnosti a komponenty umelej inteligencie poskytované na základe licencií s otvoreným zdrojovým kódom.
Návrh zákona sleduje aj cieľ posilniť právo občanov podávať sťažnosti na systémy UI, ako aj právo získať vysvetlenie rozhodnutí založených na vysokorizikových systémoch umelej inteligencie, ktoré majú významný vplyv na ich základné práva.
Predpokladá sa, že zákon o umelej inteligencii bude prijatý do konca roka 2023 a vykonávať sa začne o tri roky neskôr. Má povahu nariadenia, a preto sa nevyžaduje jeho transpozícia do právnych poriadkov členských štátov. „Dôveryhodnosť systémov umelej inteligencie nemôže existovať bez vysokej miery kyberodolnosti,“ prízvukuje Miroslav Chlipala, Managing Partner BCH Advokáti Chlipala.
