1.Regulácia AI
Umelá inteligencia (AI) sa stáva súčasťou života bežných ľudí, prináša nové výzvy pre podnikateľské prostredie, bude mať výrazné vplyvy aj na trh práce, na oblasť vzdelávania, výskumu, znalostnú ekonomiku, vedenie spoločnosti a spoločenský a ekonomický život ako celok.
Aj z týchto dôvodov bolo potrebné v EU analyzovať vplyvy AI a poukázať na potenciálne riziká, ktoré môže priniesť AI pre zdravie, bezpečnosť a základné práva občanov a na druhej strane bolo potrebné podporiť rozvoj inovatívnej a zodpovednej umelej inteligencie v EÚ, aby aj EU začala v tejto oblasti konkurovať ostatným krajinám, ktoré už v súčasnosti majú vyvinuté systémy AI a ich aplikácie pre rôzne oblasti.
Z uvedených dôvodov navrhla Európska komisia (Komisia) v apríli 2021 Nariadenie EP a Rady, ktorým sa stanovili harmonizované pravidlá v oblasti umelej inteligencie (Akt o umelej inteligencii), ktorý Európsky parlament a Rada schválili v decembri 2023.
Okrem Aktu o umelej inteligencii bol prijatý aktualizovaný koordinovaný plán v oblasti umelej inteligencie. Zároveň sa posilnili aj investície a inovácie vo všetkých krajinách EÚ. Komisia zároveň spustila balík inovačných opatrení v oblasti AI na podporu európskych startupov a MSP pri vývoji dôveryhodnej umelej inteligencie, ktorá rešpektuje hodnoty a pravidlá EÚ.
Akt EÚ o umelej inteligencii je vôbec prvým komplexným právnym rámcom pre umelú inteligenciu na celom svete. Jeho cieľom je zaistiť, aby systémy umelej inteligencie používané v EÚ boli bezpečné, transparentné, etické, nezaujaté a pod ľudskou kontrolou.
Systémy umelej inteligencie sa kategorizujú podľa rizika:
a/Systémy AI s neprijateľným rizikom
V tomto prípade sa zakáže všetko, čo sa bude považovať za jednoznačnú hrozbu pre občanov EÚ od sociálneho hodnotenia vo verejnej správe až po hračky vybavené hlasovou asistenciou, ktorá nabáda k nebezpečnému správaniu detí.
b/Systémy AI s vysokým rizikom
Vysokorizikové systémy umelej inteligencie sa pred uvedením na trh a počas celého životného cyklu musia dôkladne posúdiť, aby nemohlo byť ohrozené zdravie a životy ľudí. Jedná sa napr. o nasledujúce oblasti: kritické infraštruktúry (napr. doprava), vzdelávanie alebo odborná príprava, ktoré by mohli rozhodnúť o prístupe k vzdelávaniu a profesijnej dráhe v niekoho živote (napr. bodovaním skúšok), bezpečnostné prvky výrobkov (napr. aplikácia AI v roboticky asistovanej chirurgii),zamestnanosť, riadenie zamestnancov a prístup k samostatnej zárobkovej činnosti (napr. softvér na triedenie životopisov v rámci náborových postupov), dôležité súkromné a verejné služby (napr. úverové bodovanie, ktoré by občanom zabránilo získať úver), presadzovanie práva, ktoré by mohlo zasiahnuť do základných ľudských práv (napr. hodnotenie spoľahlivosti dôkazov),migrácia, azyl a kontrola hraníc (napr. automatizované posudzovanie žiadostí o víza),výkon spravodlivosti a demokratické procesy (napr. využívanie umelej inteligencie na vyhľadávanie súdnych rozhodnutí).
Pre poskytovateľov vysoko rizikových systémov AI boli stanovené určité pravidlá schvaľovania a registrácie. Tieto systémy musia prejsť postupom posudzovania zhody a splniť požiadavky na AI. Pri niektorých systémoch sa do posudzovania musí zapojiť notifikovaná osoba. Systémy musia byť registrované v databáze EU a musí sa podpísať vyhlásenie o zhode . Tento systém AI by mal niesť označenie CE, až potom sa môže systém uviesť na trh. Ak by došlo k podstatným zmenám v životnom cykle systému umelej inteligencie, musí sa celý cyklus opakovať a znovu prejsť posudzovaním zhody. Keď sa systém AI uvedie na trh, orgány sú zodpovedné za dohľad nad trhom, nasadzujúce subjekty zaisťujú ľudský dohľad a monitorovanie a poskytovatelia uplatňujú zavedený systém monitorovania po uvedení na trh. Poskytovatelia a nasadzujúce subjekty, budú takisto hlásiť závažné incidenty a nesprávne fungovanie.
c/ Systémy AI s obmedzeným rizikom
Patria sem systémy umelej inteligencie, ako sú konverzačné roboty (tzv. chatboty). Na tieto systémy sa vzťahujú minimálne povinnosti týkajúce sa transparentnosti, ktorých cieľom je umožniť osobám komunikujúcim s obsahom, prijímať informované rozhodnutia. Používateľ sa potom môže rozhodnúť pokračovať v používaní aplikácie alebo ju prestať používať.
d/ Systémy AI s minimálnym rizikom
Bezplatné používanie aplikácií, ako sú videohry podporované umelou inteligenciou alebo spamové filtre. Prevažná väčšina systémov AI, ktoré sa v súčasnosti používajú v EÚ, spadá do tejto kategórie. Nové pravidlá sa teda nevzťahujú na tieto systémy, ktoré predstavujú len minimálne alebo žiadne riziko pre práva alebo bezpečnosť občanov.
2.Podpora excelentnosti v oblasti AI
V roku 2018 Komisia a členské štáty EÚ spojili svoje sily prostredníctvom koordinovaného plánu v oblasti umelej inteligencie, ktorý pomohol položiť základy pre národné stratégie .
Uvedený koordinovaný plán v oblasti umelej inteligencie bol aktualizovaný v roku 2021a preniesol stratégiu do praxe a prepojil ju s úzko súvisiacimi prioritami Komisie v oblasti digitálnych technológií a ekológie, ako aj s reakciou Európy na pandémiu koronavírusu.
Cieľom tohto koordinovaného plánu je podporiť excelentnosť v oblasti AI od laboratória až po trh a predstavuje víziu o tom, ako urýchliť investície do umelej inteligencie, konať na základe stratégií v oblasti AI v záujme ich včasného vykonávania a zosúladiť politiky týkajúce sa AI v celej EÚ.
V pláne sa stanovili štyri kľúčové ciele a to: stanoviť základné podmienky pre rozvoj a zavádzanie AI, budovať strategické vedenie v odvetviach so značným vplyvom, urobiť z EÚ správne miesto, v ktorom bude AI prosperovať, zabezpečiť, aby technológie AI fungovali pre ľudí.
V rámci tohto úsilia Komisia plánuje vytvoriť napr. verejno-súkromné partnerstvo v oblasti umelej inteligencie, údajov a robotiky, ďalšie siete centier excelentnosti v oblasti AI na podporu výmeny poznatkov a odborných znalostí, podporiť testovacie a experimentálne zariadenia na skúšanie a testovanie pokročilých technológií, centrá digitálnych inovácií, jednotné kontaktné miesta na poskytovanie prístupu k technickým odborným znalostiam a experimentovaniu, platformu umelej inteligencie na požiadanie ako centrálny európsky súbor nástrojov pre umelú inteligenciu (napr. odborné znalosti, algoritmy, softvérové rámce, vývojové nástroje) potrebnú na použitie v priemysle a verejnom sektore.
EÚ už financuje viaceré projekty v oblasti AI, ktoré ponúkajú riešenia vo všetkých oblastiach spoločnosti, od poľnohospodárstva až po zdravotnú starostlivosť, výrobu alebo dopravu. Tri príklady oblastí, v ktorých je využívanie technológie umelej inteligencie osobitne prínosné, sú zdravie, životné prostredie a boj proti dezinformáciám.
Komisia plánuje investovať ročne 1 miliardu EUR do AI zo svojich programov Digitálna Európa a Horizont Európa. Cieľom je počas tohto desaťročia získať v EÚ viac ako 20 miliárd EUR celkových investícií v oblasti umelej inteligencie ročne. Mechanizmus na podporu obnovy a odolnosti pomôže urýchliť investície a presiahne rámec tohto cieľa.
Z uvedeného vyplýva, že regulácia AI a zároveň podpora AI bude v budúcom desaťročí veľmi dôležitou agendou v rámci EU. Uvedená agenda ponúka šance pre mnohých podnikateľov a startapov zapojiť sa do týchto procesov. Zároveň AI má vplyv na životy občanov. V mojich príspevkoch sa zameriam na hodnotenie jej vplyvov na rôzne sféry ekonomického a spoločenského života. Budem veľmi rada, ak sa zapojíte do diskusie a prinesiete do diskusie Váš názor a pohľad na hodnotenie vplyvov.
Literatúra:
- Návrh nariadenia Európskeho parlamentu a Rady, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (Akt o umelej inteligencii) a menia niektoré legislatívne akty únie. https://eur-lex.europa.eu/legal-content/SK/TXT/?uri=CELEX%3A52021PC0206
- Coordinated Plan on Artificial Intelligence. https://digital-strategy.ec.europa.eu/en/policies/plan-ai
- Excelentnosť a dôvera v umelú inteligenciu. https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age/excellence-and-trust-artificial-intelligence_sk#budovanie-d%C3%B4very-prostredn%C3%ADctvom-v%C3%B4bec-prv%C3%A9ho-pr%C3%A1vneho-r%C3%A1mca-v-oblasti-umelej-inteligencie