umela inteligencia, robot
Ilustračné PHOTO: © European Union.

Komisia navrhuje nové pravidlá a opatrenia v záujme dôvery v umelú inteligenciu

Komisia v stredu predostrela návrh nových pravidiel a opatrení zameraných na to, aby sa Európa stala svetovým centrom dôveryhodnej umelej inteligencie. Kombinácia historicky prvého právneho rámca umelej inteligencie a nového koordinovaného plánu s členskými štátmi bude zárukou bezpečnosti a základných práv ľudí a podnikov a zároveň posilní zavádzanie umelej inteligencie, investície a inováciu v celej EÚ. Túto koncepciu doplnia nové pravidlá týkajúce sa strojových zariadení, na základe ktorých sa prispôsobia bezpečnostné pravidlá. Zámerom je zvýšiť dôveru používateľov v novú, všestrannú generáciu výrobkov.

Margrethe Vestagerová, výkonná podpredsedníčka pre Európu pripravenú na digitálny vek, v tejto súvislosti uviedla: „Pri umelej inteligencii je dôvera nevyhnutným predpokladom, nie vítaným doplnkom. EÚ sa týmito jasnými pravidlami stavia do čela vývoja nových celosvetových noriem v snahe zaručiť dôveryhodnosť umelej inteligencie. Normy nám pomôžu vydláždiť cestu k etickej technológii na celom svete a zabezpečiť konkurencieschopnosť EÚ v tomto procese. Naše pravidlá sú nadčasové a priaznivé pre inováciu, zásah povoľujú len v potrebných prípadoch – teda pri ohrození bezpečnosti a základných práv občanov EÚ.“

Komisár pre vnútorný trh Thierry Breton dodal: „Umelá inteligencia je len prostriedok, nie účel. Existuje už desaťročia, ale vďaka narastajúcej výpočtovej kapacite získala nové schopnosti. Ponúka nám preto obrovský potenciál v najrozmanitejších oblastiach – od zdravia, cez dopravu, energiu, poľnohospodárstvo, cestovný ruch až po kybernetickú bezpečnosť. Zároveň je však spojená s celým radom rizík. Návrhom, ktorý dnes predkladáme, chceme posilniť pozíciu Európy ako svetového centra excelentnosti v oblasti umelej inteligencie od laboratórií až po trh, zabezpečiť, aby umelá inteligencia v Európe dodržiavala naše hodnoty a pravidlá, a zmobilizovať jej potenciál na priemyselné využitie.“

Nové nariadenie o umelej inteligencii zaistí, že Európania budú môcť dôverovať tomu, čo umelá inteligencia ponúka. Primerané a pružné pravidlá sú zamerané na konkrétne riziká spojené so systémami umelej inteligencie a stanovujú najvyššie normy z celosvetového hľadiska. Koordinovaný plán obsahuje náčrt potrebných zmien politiky a investícií na úrovni členských štátov v snahe posilniť vedúcu pozíciu Európy pri vývoji udržateľnej, bezpečnej, inkluzívnej a dôveryhodnej umelej inteligencie sústredenej na človeka.

Európska koncepcia dôveryhodnej umelej inteligencie

Nové pravidlá sa budú uplatňovať priamo vo všetkých členských štátoch. Základom bude nadčasové vymedzenie umelej inteligencie. Sú orientované na koncepciu rizika:

Neprijateľné riziko: systémy umelej inteligencie považované za jednoznačné ohrozenie bezpečnosti, živobytia a práv ľudí sa zakážu. Do tejto kategórie patria systémy alebo aplikácie umelej inteligencie, ktoré manipulujú ľudské správanie s cieľom obísť slobodnú vôľu používateľa (napr. hračky s hlasovým asistentom, ktoré nabádajú neplnoletých k nebezpečnému správaniu), a systémy, ktoré vládam umožňujú „spoločenské bodovanie“.

Vysoké riziko: systémy umelej inteligencie identifikované ako vysokorizikové zahŕňajú technológiu umelej inteligencie používanú:

  • kritických infraštruktúrach (napr. doprava), kde by mohlo dôjsť k ohrozeniu života a zdravia občanov,
  • vo vzdelávaní alebo odbornej príprave, kde sa môže rozhodovať o prístupe jednotlivca k vzdelávaniu a o jeho profesijnej dráhe, a teda o živote ľudí (napr. bodovanie testov),
  • bezpečnostných komponentoch produktov (napr. aplikácie umelej inteligencie v roboticky asistovanej chirurgii),
  • v oblasti zamestnania, riadenia zamestnancov a prístupe k samostatnej zárobkovej činnosti (napr. softvér triediaci životopisy na účely postupov náboru),
  • základných súkromných a verejných službách (napr. bodové hodnotenie kreditného rizika, na základe ktorého sa občanom odopiera možnosť získať úvery),
  • pri presadzovaní práva, kde môže dochádzať k zasahovaniu do základných práv ľudí (napr. posudzovanie spoľahlivosti dôkazov),
  • pri riadení migrácie, udeľovania azylu a kontroly hraníc (napr. overovanie pravosti cestovných dokladov),
  • pri výkone spravodlivosti a demokratických procesoch (napr. uplatňovanie práva na konkrétne danosti).

Na vysokorizikové systémy umelej inteligencie sa budú vzťahovať prísne povinnosti pred tým, ako sa budú môcť uviesť na trh:

  • primerané systémy posudzovania a zmierňovania rizika,
  • vysoká kvalita súborov údajov vstupujúcich do systému s cieľom minimalizovať riziká a diskriminačné výsledky,
  • zaznamenávanie činnosti v snahe zaručiť vysledovateľnosť výsledkov,
  • podrobná dokumentácia so všetkými potrebnými informáciami o systéme a jeho účele, aby zodpovedné orgány mohli posúdiť, či spĺňa požiadavky,
  • jasné a primerané informácie pre používateľa,
  • primeraný ľudský dohľad na minimalizáciu rizika,
  • vysoká úroveň spoľahlivostibezpečnosti a správnosti.

Predovšetkým sa za vysokorizikové považujú všetky systémy biometrickej identifikácie na diaľku. Vzťahujú sa na ne prísne požiadavky. Ich používanie v reálnom čase a verejne prístupných priestranstvách na účely presadzovania práva je zo zásady zakázané. Existuje niekoľko výnimiek, ktoré sú prísne vymedzené a regulované (napríklad, ak sú nevyhnutné potrebné na pátranie po nezvestnom dieťati, na zabránenie konkrétnej a bezprostrednej teroristickej hrozbe alebo na odhalenie, lokalizovanie, identifikáciu alebo stíhanie páchateľa závažné trestného činu alebo podozrivého zo spáchania takého činu). Predpokladom použitia umelej inteligencie v takých prípadoch je povolenie súdu alebo iného nezávislého orgánu a je primeraným spôsobom obmedzené z hľadiska času a zemepisnej polohy i prehľadávaných databáz.

Obmedzené riziko: systémy umelej inteligencie, na ktoré sa viažu konkrétne povinnosti v oblasti transparentnosti: používatelia systémov umelej inteligencie, ako sú chatboty, by si mali byť vedomí, že interagujú so strojom, aby mohli robiť fundované rozhodnutia, či aplikáciu budú naďalej používať, alebo nie.

Minimálne riziko: návrh právneho predpisu povoľuje neobmedzené používanie aplikácií, ako sú videohry na základe umelej inteligencie alebo spamové filtre. Prevažná väčšina systémov umelej inteligencie spadá do tejto kategórie. Na ne sa návrh nariadenia nevzťahuje, pretože predstavujú len minimálne alebo žiadne riziko pre práva či bezpečnosť občanov.

Pokiaľ ide o riadenie, Komisia navrhuje, aby na nové pravidlá dohliadali vnútroštátne príslušné orgány dohľadu nad trhom. Vytvorí sa aj Európska rada pre umelú inteligenciu, ktorej úlohou bude uľahčovať vykonávanie týchto pravidiel a fungovať ako motor vypracúvania noriem umelej inteligencie. Okrem toho sa navrhujú aj dobrovoľné kódexy správania pri nízkorizikovej umelej inteligencii, ako aj experimentálne regulačné prostredie v snahe uľahčiť zodpovednú inováciu.

Viac..  Štátne inštitúcie, VÚC a mestá môžu naďalej využiť eurofondy na zvýšenie kybernetickej bezpečnosti

Európska koncepcia excelentnosti umelej inteligencie

Vedúce postavenie Európy pri udržateľnej, bezpečnej, inkluzívnej a dôveryhodnej umelej inteligencii sústredenej na človeka posilní koordinácia úsilia. Komisia v snahe zachovať si konkurencieschopnosť v svetovom meradle je odhodlaná podporovať inováciu technológií umelej inteligencie a zapojiť všetky odvetia vo všetkých členských štátoch.

Koordinovaný plán v oblasti umelej inteligencie sa prvýkrát uverejnil v roku 2018 s cieľom vymedziť opatrenia a nástroje financovania na vývoj a zavádzanie umelej inteligencie. Umožnil dynamický súbor vnútroštátnych stratégií a financovania z prostriedkov EÚ v prospech verejno-súkromných partnerstiev a sietí výskumu a inovácie. Jeho rozsiahla aktualizácia zahŕňa návrhy konkrétnych spoločných opatrení na spoluprácu v snahe zaručiť, aby všetko úsilie bolo v súlade s európskou stratégiou k umelej inteligencii a Európskou zelenou dohodou, a takisto v snahe zohľadniť nové výzvy v dôsledku pandémie koronavírusu. Víziou plánu je zrýchliť investície do umelej inteligencie v prospech zotavenia sa z aktuálnej krízy. Takisto má pomôcť naštartovať vykonávanie vnútroštátnych stratégií umelej inteligencie, odstrániť odlišnosti a riešiť celosvetové výzvy.

Pri realizácii aktualizovaného koordinovaného plánu sa budú využívať prostriedky z programov Digitálna Európa a Horizont Európa, ďalej z Mechanizmu na podporu obnovy a odolnosti, ktorého cieľom je 20 % výdavkov na digitálnu sféru, ako aj z programov politiky súdržnosti, a to konkrétne na:

  • vytvorenie priaznivých podmienok pre vývoj umelej inteligencie a jej zavádzanie – poslúžiť na to má výmena politických poznatkov, spoločné využívanie údajov a investície do kritických výpočtových kapacít,
  • podpora excelentnosti umelej inteligencie „od laboratórií až po trh“ – prostredníctvom vytvárania verejno-súkromných partnerstiev, budovania a mobilizovania kapacít výskumu, vývoja a inovácie, ako aj sprístupňovania testovacích a skúšobných zariadení i centier digitálnych inovácií MSP a verejným správam,
  • zaručenie fungovania umelej inteligencie pre ľudí i jej potenciálu priniesť dobro pre spoločnosť – na to Európa musí zaujať vedúcu pozíciu pri vývoji a zavádzaní dôveryhodnej umelej inteligencie, podporovať stáže, doktorandské siete a postgraduálne granty v digitálnych oblastiach so zámerom rozvíjať talenty a zručnosti, začleňovať aspekt dôvery do politík týkajúcich sa umelej inteligencie a propagovať európsku víziu udržateľnej a dôveryhodnej umelej inteligencie na celom svete,
  • budovanie strategického vedúceho postavenia v odvetviach a technológiách s veľkým vplyvom, a to aj v oblasti životného prostredia, pričom sa treba zamerať na prínos umelej inteligencie k udržateľnej výrobe, zdravotníctvu (a na to rozšíriť cezhraničnú výmenu informácií) i verejnému sektoru, mobilite, vnútorným záležitostiam, poľnohospodárstvu a robotike.

Európska koncepcia nových strojárenských výrobkov

Strojárenské výrobky zahŕňajú rozsiahlu škálu spotrebiteľných i profesionálnych výrobkov: od robotov cez kosačky na trávu po 3D tlačiarne a od stavebných strojov po priemyselné výrobné linky. Smernica o strojových zariadeniach, ktorú nahrádza nové nariadenie o strojárenských výrobkoch, vymedzila požiadavky na bezpečnosť a ochranu zdravia pri strojových zariadeniach. Nové nariadenie zabezpečí, že nová generácia strojových zariadení zaručí bezpečnosť používateľov a spotrebiteľov a bude podnecovať inováciu. Zatiaľ čo nariadenie o umelej inteligencii sa zameria na bezpečnostné riziká systémov umelej inteligencie, nariadenie o strojárenských výrobkoch zaručí bezpečné zakomponovanie systémov umelej inteligencie do celého strojového parku. Podniky tak budú musieť vykonať len jedno celkové posúdenie zhody.

Okrem toho nové nariadenie o strojárenských výrobkoch bude reagovať na potreby trhu a prinesie väčšiu právnu zrozumiteľnosť existujúcich ustanovení, zmierni administratívnu záťaž a náklady pre spoločnosti, pretože umožní digitálne formáty dokumentácie a prispôsobí poplatky za posúdenie zhody pre MSP. Zároveň zaručí koherentnosť s právnym rámcom EÚ pre výrobky.

Ďalšie kroky

Európsky parlament a členské štáty musia prijať návrhy Komisie k európskej koncepcii umelej inteligencie a strojárenských výrobkov v riadnom legislatívnom postupe. Keď sa tak stane, nariadenia budú priamo uplatniteľné v celej EÚ. Komisia bude zároveň ďalej spolupracovať s členskými štátmi pri vykonávaní opatrení avizovaných v koordinovanom pláne.

Súvislosti

Komisia už roky uľahčuje a posilňuje spoluprácu v oblasti umelej inteligencie v celej EÚ s cieľom zlepšiť jej konkurencieschopnosť a zabezpečiť dôveru založenú na hodnotách EÚ.

Po uverejnení európskej stratégie v oblasti umelej inteligencie v roku 2018 a po rozsiahlych konzultáciách so zainteresovanými stranami expertná skupina na vysokej úrovni pre umelú inteligenciu vypracovala v roku 2019 usmernenia pre dôveryhodnú umelú inteligenciu a v roku 2020 zoznam bodov na posudzovanie dôveryhodnej umelej inteligencie. Súčasne sa v decembri 2018 uverejnil prvý koordinovaný plán v oblasti umelej inteligencie ako spoločný záväzok s členskými štátmi.

Biela kniha Komisie o umelej inteligencii uverejnená v roku 2020 vytýčila jednoznačnú víziu umelej inteligencie v Európe: má byť ekosystémom excelentnosti a dôvery. Z toho sme vychádzali pri koncipovaní návrhu, ktorý sme dnes predstavili. Verejná konzultácia k bielej knihe o umelej inteligencii zaznamenala širokú účasť respondentov z celého sveta. Sprievodný dokument k bielej knihe tvorila „Správa o vplyve umelej inteligencie, internetu vecí a robotiky na bezpečnosť a zodpovednosť“, ktorá dospela k záveru, že aktuálne právne predpisy o bezpečnosti výrobkov obsahujú viaceré medzery, ktoré treba riešiť, a to predovšetkým v smernici o strojových zariadeniach.

O mam

Avatar

Odporúčame pozrieť

elektrina

Ceny energií: Komisia navrhuje riešenia výnimočnej situácie a jej dôsledkov

Komisia prijala oznámenie o cenách energie s cieľom reagovať na mimoriadne zvýšenie celosvetových cien energie, ktoré …