Etické aspekty umelej inteligencie časť 2.

V minulom diely sme načrtli štyri zásady, ktoré vyústili do etických požiadavok pôsobenia umelej inteligencie v našej spoločnosti. Tie hodnotila skupina AI HLEG, ktorá bola zriadená Európskou komisiou a odrážali sa od Charty základných práv Európskej únie.

Zraniteľné skupiny ľudí

Okrem samotného dodržiavania etických princípov zdôrazňujú zamerať sa na zraniteľné skupiny ľudí ako sú deti, znevýhodnení ľudia či ľudia so zdravotným postihnutím. Rovnako kladú dôraz na sledovanie situácií s charakteristickým znakom ako nesúlad moci či dostupnosť údajov, napr. zamestnanec – zamestnávateľ.

Zdroj: Eddie Mar Delos Angeles, Pixabay

Riziká a opatrenia

Pripomína nutnosť byť pripravený na situácie, do ktorých sa môže spoločnosť dostať kvôli konaniu umelej inteligencie, čo nemožno predvídať. Vopred prijať opatrenia pre danú kategóriu závažnosti rizika, ktoré môže nastať, by malo byť prioritou.

A samotné požiadavky? (pozn. abecedné poradie). Sformulované boli pre spoločnosť ako celok, či už pre vývojárov, koncových užívateľov alebo všeobecnú verejnosť, ktorej sa pôsobenie umelej inteligencie dotýka.

  1. Ľudský faktor a dohľad
  2. Nediskriminácia, rozmanitosť a spravodlivosť
  3. Spoločenský a environmentálny blahobyt
  4. Správa súkromia a údajov
  5. Technická odolnosť a bezpečnosť
  6. Transparentnosť
  7. Zodpovednosť
Ľudský faktor a dohľad

Umelá inteligencia môže rešpektovať, ale aj zamedzovať ľudským právam. V prípade ich porušovania by sa mali prijať opatrenia, ktoré na danú skutočnosť upozornia, napr. formou vonkajšej spätnej väzby. Dohliadanie človeka nad systémom s umelou inteligenciou by malo byť prostredníctvom nástrojov, ktoré umožňujú zásah človeka v rôznych fázach.

  • Mať možnosť zasiahnuť v každom rozhodovacom cykle
  • Mať možnosť zasiahnuť počas návrhu a monitorovania
  • Dohliadať nad celkovou činnosťou systému, vrátane rozhodovanie kedy a ako použiť systém v danej situácii

zdroj: Pete Linforth, Pixabay

Nediskriminácia, rozmanitosť a spravodlivosť

Zabrániť, aby umelá inteligencia svojím konaním zvýšila diskrimináciu či predsudky voči určitej skupine ľudí. Nevyhnutným krokom je ošetrenie vstupných dát, od ktorého závisí celý proces trénovania a následné výsledky. Ako príklad uvedieme spoločnosť Amazon, ktorá v rokoch 2014-2017 prijímala vrámci náborového procesu viac mužov ako žien. Šetrením bolo zistené, že ako vstupné dáta boli použité údaje o mužských uchádzačoch vo väčšom zastúpení. O novších prešľapoch sa môžete dočítať v našom článku.

Tento bod zahŕňa aj prístupnosť produktov rovnako pre všetkých, aby mal každý nehľadiac na vek, pohlavie či schopnosti možnosť využívať ich. Rovnako aj začleniť všetkých, ktorí v procese, kde vstupuje umelá inteligencia, pracujú. Napr. konzultácie v zamestnaní, informovanie pracovníkov a ich angažovanosť v týchto procesoch.

Spoločenský a environmentálny blahobyt

Umelá inteligencia má slúžiť pre dobro spoločnosti. A to nie len pre tú aktuálnu, najlepšie aj pre budúce generácie. Táto požiadavka hovorí, aby sa na dobro pamätalo už od začiatku, a to aj vrámci využívania zdrojov. Či už ide o proces trénovania a na to potrebnú elektrickú energiu či všeobecne využívanie zdrojov šetriac životné prostredie.

Pozitívny vplyv umelej inteligencie sme spomínali napr. aj v článku o avataroch. Rovnako tak môžu aj ublížiť, a preto treba priebežne sledovať ich vplyv na človeka, aby bolo vylúčené ovplyvnenie duševnej aj telesnej pohody ľudí. Do toho sa počíta aj ovplyvňovanie vzťahov a príslušnosti k skupine.

Obzvlášť môže prísť k negatívnemu dopadu v otázkach slobodného demokratického rozhodovania sa a s tým súvisiacich voľbách.

Ďalšie body priblížime v nasledujúcom pokračovaní.

Zdroj:

https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai

https://medium.com/syncedreview/2018-in-review-10-ai-failures-c18faadf5983

Pridaj komentár

Vaša e-mailová adresa nebude zverejnená. Vyžadované polia sú označené *