Cieľom schváleného nariadenia je chrániť základné práva, demokraciu, právny štát a environmentálnu udržateľnosť pred vysokorizikovou umelou inteligenciou a zároveň podporovať inovácie a zabezpečiť európske líderstvo v tejto oblasti. V nariadení sa stanovujú povinnosti pre prevádzkovanie umelej inteligencie na základe jej potenciálnych rizík a vplyvu.
Zakázané použitie
Podľa nových pravidiel je zakázané používať aplikácie umelej inteligencie, ktoré ohrozujú práva občanov. Týka sa to napríklad systémov biometrickej kategorizácie založených na citlivých charakteristikách. Ďalším príkladom je necielené extrahovanie podôb tváre z internetu alebo videozáznamov z bezpečnostných kamier na tvorbu databáz na rozpoznávanie tvárí.
Okrem uvedených praktík bude zakázané aj rozpoznávanie emócií na pracovisku či v škole, sociálne bodovanie či prediktívne vykonávanie policajných funkcií, ak je založené výlučne na profilovaní osoby alebo posudzovaní jej charakteristík. Nebude sa môcť používať ani umelá inteligencia, ktorá manipuluje ľudské správanie alebo zneužíva zraniteľnosti ľudí.
Výnimky na účely presadzovania práva
Používanie systémov biometrickej identifikácie na presadzovanie práva je v zásade zakázané s výnimkou detailne vymenovaných a úzko vymedzených situácií. Biometrická identifikácia v reálnom čase sa môže používať len vtedy, ak sú splnené prísne záruky, napríklad ak je takéto použitie časovo a geograficky obmedzené a bolo k nemu vopred vydané súdne alebo správne povolenie.
Môže sa to týkať napríklad cieleného pátrania po nezvestných osobách alebo predchádzania teroristickým útokom. Používanie systémov biometrickej identifikácie po udalosti sa považuje za vysokorizikové a vyžaduje si povolenie súdu v súvislosti s trestným činom.
Povinnosti týkajúce sa vysokorizikových systémov
Jasné povinnosti sa stanovia aj pre iné vysokorizikové systémy umelej inteligencie, najmä vzhľadom na ich potenciálne riziko pre zdravie, bezpečnosť, základné práva, životné prostredie, demokraciu a právny štát.
Vysokorizikové systémy umelej inteligencie sa používajú napríklad v kritickej infraštruktúre, vzdelávaní a odbornej príprave, ale aj pri nábore do zamestnania či v kľúčových súkromných a verejných službách, ako sú zdravotníctvo a bankovníctvo. Uplatňujú sa aj v určitých systémoch presadzovania práva, pri riadení migrácie a hraníc, ako aj v súdnictve a v demokratických procesoch, napríklad na ovplyvňovanie volieb.
Pri takýchto systémoch bude povinné posúdiť a znížiť riziká, viesť záznamy o používaní, zabezpečiť ich transparentnosť a presnosť, ako aj ľudský dohľad. Občania budú mať právo podávať sťažnosti na systémy umelej inteligencie, ako aj právo získať vysvetlenie rozhodnutí založených na vysokorizikových systémoch umelej inteligencie, ktoré ovplyvňujú ich základné práva.
Požiadavky na transparentnosť
Univerzálne systémy AI (GPAI) a modely GPAI, na ktorých sú založené, musia spĺňať určité požiadavky na transparentnosť vrátane súladu s autorskými právami v EÚ a zverejňovania podrobných súhrnov obsahu používaného na školenia.
Na výkonnejšie modely GPAI, ktoré by mohli predstavovať systémové riziko, sa budú vzťahovať dodatočné požiadavky ako vykonávanie hodnotení modelov, posudzovanie a zmierňovanie systémových rizík a nahlasovanie udalostí.
Umelé alebo zmanipulované obrázky, audio nahrávky alebo videá („deepfakes“) musia byť jasne označené.
Podpora inovácií a malých podnikov
Členské štáty budú povinné zabezpečiť, aby mohli malé a stredné podniky a startupy ešte pred uvedením svojich produktov na trh vyvíjať a trénovať inovatívnu umelú inteligenciu v experimentálnych regulačných prostrediach a testovať ju v reálnych podmienkach.
Vyhlásenia spravodajcov
Spoluspravodajca Výboru pre vnútorný trh Brando Benifei (S&D, Taliansko) počas plenárnej rozpravy povedal: „Konečne máme prvý záväzný zákon na svete o umelej inteligencii, ktorý má znížiť riziká, vytvárať príležitosti, bojovať proti diskriminácii a priniesť transparentnosť.
Vďaka Parlamentu budú v Európe zakázané neprijateľné praktiky umelej inteligencie a budú chránené práva pracovníkov a občanov. Bude zriadený Úrad pre umelú inteligenciu na podporu spoločností, aby začali dodržiavať pravidlá skôr, ako vstúpia do platnosti. Zabezpečili sme, že ľudské bytosti a európske hodnoty sú v samom centre rozvoja umelej inteligencie.“
Spoluspravodajca Výboru pre občianske slobody Dragos Tudorache (Renew, Rumunsko) uviedol: „EÚ splnila svoje ciele. Pojem umelej inteligencie sme spojili so základnými hodnotami, ktoré tvoria základ našej spoločnosti. Čaká nás však ešte veľa práce, ktorá presahuje samotný zákon.
Umelá inteligencia nás prinúti prehodnotiť spoločenskú zmluvu v srdci našich demokracií, naše vzdelávacie modely, trhy práce a spôsob vedenia vojen. Zákon o umelej inteligencii je východiskovým bodom pre nový model riadenia postavený na technológii.“
Ďalší postup
Nariadenie, ktorého znenie dohodol Parlament v decembri 2023 s členskými štátmi, bolo schválené 523 hlasmi za, pričom 46 bolo proti a 49 sa zdržalo hlasovania. Nariadenie ešte musia naposledy skontrolovať právnici lingvisti. Očakáva sa, že s konečnou platnosťou bude prijaté pred koncom volebného obdobia (prostredníctvom postupu tzv. korigenda). Zákon musí formálne schváliť aj Rada EÚ.
Účinnosť nadobudne 20 dní po zverejnení v úradnom vestníku a naplno sa začne uplatňovať 24 mesiacov po nadobudnutí účinnosti s výnimkou týchto prípadov: zákaz určitých aplikácií, ktorý sa uplatní šesť mesiacov po nadobudnutí účinnosti; kódex správnej praxe (deväť mesiacov po nadobudnutí účinnosti); pravidlá pre systémy umelej inteligencie na všeobecné účely vrátane ich správy (dvanásť mesiacov po nadobudnutí účinnosti) a povinnosti pre vysokorizikové systémy (36 mesiacov po nadobudnutí účinnosti).
Súvislosti
Zákon o umelej inteligencii priamo reaguje na návrhy občanov z Konferencie o budúcnosti Európy (KoBE), konkrétne na návrh 12 (10) o zvyšovaní konkurencieschopnosti EÚ v strategických sektoroch, návrh 33 (5) o bezpečnej a dôveryhodnej spoločnosti vrátane boja proti dezinformáciám a zaistenia, že ľudia budú mať v konečnom dôsledku kontrolu.
Rovnako zohľadňuje návrh 35 o podpore digitálnych inovácií (3) pri zabezpečení ľudského dohľadu a (8) dôveryhodnom a zodpovednom používaní umelej inteligencie, stanovením záruk a zabezpečením transparentnosti.
Ďalším z podnetov je návrh 37 (3) o používaní umelej inteligencie a digitálnych nástrojov na zlepšenie prístupu občanov k informáciám vrátane osôb so zdravotným postihnutím.
Reakcie slovenských poslancov
Robert Hajšel (S&D, SK) uviedol: „Rozvoj technológií a umelej inteligencie nemôžeme zastaviť, musíme však byť vždy o niekoľko krokov vpred a vyhodnocovať aj obrovské riziká a možný až nekontrolovateľný vplyv, ktorý je s tým spojený. Akékoľvek inovácie musia rešpektovať základné práva našich občanov vrátane osobných údajov a nesmú sa stať nástrojom na manipuláciu správania ľudí a tým aj bezpečnostnou hrozbou.“
Monika Beňová (NI, SK) uviedla: „Nová legislatíva je kompromisom medzi ochranou pred potenciálnymi negatívnymi dôsledkami zneužívania umelej inteligencie a možnosťami jej udržateľného rozvoja v Európe do budúcnosti.“
Jozef Mihál (RE, SK) uviedol: „Celoúnijný regulačný rámec pre umelú inteligenciu je prelomový a pripravuje pôdu pre prvé horizontálne nariadenie o umelej inteligencii na svete. Systémy umelej inteligencie musia rešpektovať základné práva a demokratické hodnoty EÚ.“
Eugen Jurzyca (ECR, SK) uviedol: „Nová regulácia má viacero rizík: nemáme spoľahlivo vyčíslené náklady tejto regulácie, nepoznáme jej dlhodobé dopady na produktivitu práce ani na investície. Platí, že už teraz investujeme v EÚ do umelej inteligencie výrazne menej než v USA alebo Číne, táto regulácia to môže ešte zhoršiť.“
Peter Pollák (EPP, SK) uviedol: „Umelá inteligencia nám zľahčuje život, ale taktiež môže byť hrozbou. Už teraz je zrejmé, že prijaté pravidlá nebudú postačujúce, ale sú prvým krokom k jej regulácii.“
Vladimír Bilčík (EPP, SK) uviedol: „Aj na Slovensku už dnes mnohí novinári, tvorcovia či podnikatelia v rôznych odvetviach využívajú služby ako Chat GPT a nevidím cestu v tom, aby sme takéto služby zakázali. Na druhej strane si musíme dávať pozor na to, že dnes už umelá inteligencia dokáže vyrobiť falošné fotografie aj videá, ktoré môžu zásadne ovplyvňovať verejnú mienku.“
Ján Jakubov, Štefan Hudec,
Európsky parlament
