umela inteligencia, robot
Ilustračné PHOTO: © European Union.

Umelá inteligencia: Ako sa popasovať s rizikami, ktoré so sebou prináša?

Umelá inteligencia a automatické rozhodovacie procesy so sebou prinášajú nielen výhody, ale aj isté riziká. Prečítajte si, ako im chce predchádzať Európsky parlament.

Čo je to umelá inteligencia a prečo môže byť nebezpečná?

Učiace sa algoritmy dokážu spracovať obrovské množstvo informácií v krátkom čase, čím niekoľkonásobne prevyšujú schopnosti ľudského mozgu. Aplikácie založené na umelej inteligencii sa preto dnes používajú v čoraz viac oblastiach. Nechýbajú vo finančníctve, zdravotníctve, vzdelávaní alebo právnej oblasti. Spoliehať sa len na nich však so sebou prináša isté riziká, najmä vtedy ak necháme algoritmy uskutočňovať rozhodnutia bez toho, aby na nich dohliadal človek z mäsa a kostí.

Algoritmy sa učia na základe opakovaných vzorcov, ktoré spozorujú v množstve údajov, ktorými ich kŕmime. Problém nastáva vtedy, ak tieto vstupné údaje odzrkadľujú predsudky panujúce v našej spoločnosti.

Keď umelá inteligencia rozhoduje o vás

Umelá inteligencia sa čoraz viac využíva v takzvaných algoritmických rozhodovacích systémoch (algorithmic decision systems – ADS). Dopady týchto rozhodnutí môžu byť niekedy veľmi vážne, napríklad vtedy, ak počítačový program rozhoduje, či máte nárok na pôžičku v banke alebo liečbu, či vás majú prijať do práce, o ktorú sa uchádzate, alebo zavrieť či nezavrieť do väzenia. Ak dáme algoritmom nesprávne údaje, môžu sa naučiť byť „zaujaté“ podobne ako my a kopírovať tak naše predsudky. Existujú napríklad prípady, keď programy na filtrovanie uchádzačov o prácu diskriminovali ženy. Podobne ako to robia aj ľudia.

Viac..  Ceny energií by mali na Slovensku klesať. Koronavírus spomalil svetovú ekonomiku

Ako chrániť spotrebiteľov v dobe umelej inteligencie?

Rozvoj umelej inteligencia a automatického rozhodovania so sebou prináša aj otázku, ako nestratiť dôveru spotrebiteľov. Keď zákazníci prichádzajú do kontaktu s umelou inteligenciou, mali by byť o tom jasne informovaní a mali by byť oboznámení s tým, ako funguje.

Ako to vníma Európsky parlament?

Parlamentný výbor pre ochranu spotrebiteľa prijal koncom januára uznesenie, kde vyzýva komisiu, aby sa pozrela na to, či EÚ potrebuje nové špeciálne pravidlá na ochranu spotrebiteľov v kontexte umelej inteligencie a automatického počítačového rozhodovania.

Komisia by mala teraz objasniť nasledovné:
  • Ako chce predchádzať diskriminácii a rizikám pri používaní umelej inteligencie pri profesionálnych službách
  • Ako chce garantovať transparentnosť týchto procesov.
  • Ako chce zabezpečiť, aby algoritmy dostávali len kvalitné a nestranné informácie.
“Musíme zabezpečiť ochranu a dôveru spotrebiteľov a musíme sa postarať o to, aby boli európske pravidlá o bezpečnosti produktov a zodpovednosti za škody aplikovateľné aj v digitálnej ére,” uviedla Petra de Sutter, predsedníčka výboru EP pre ochranu spotrebiteľa.

Ďalšie kroky

O uznesení sa bude hlasovať tento týždeň počas plenárneho zasadnutia. Po hlasovaní bude dokument postúpený Rade ministrov a Európskej komisii. Tá už oznámila, že v druhej polovici februára zverejní návrh na to, ako by sa mala k umelej inteligencii stavať EÚ.

O dac

Avatar

Odporúčame pozrieť

supermarket

Koronavírus: Obchody zostali v nedeľu zatvorené. Ako dodržali jednotlivé predajne sanitárny deň?

BRATISLAVA / V nedeľu zostali všetky obchody zatvorené. Výnimku tvorili len pohotovostné lekárne a veterinárne ambulancie. …