Pápežská akadémia pre život


Výzva na etiku v oblasti umelej inteligencie

 
Úvod

„Umelá inteligencia“ (artificial intelligence - AI) prináša a bude čoraz viac prinášať veľké zmeny do života ľudí. Ponúka totiž mimoriadne možnosti, pokiaľ ide o posilnenie sociálneho spolužitia aj osobného komfortu, zvyšuje ľudské schopnosti a umožňuje či uľahčuje plnenie mnohých úloh, ktoré môžu byť vykonávané hospodárnejšie a účinnejšie. Tieto dôsledky však nie sú nijako garantované. Zmeny, ktoré aktuálne prebiehajú, nie sú len kvantitatívne. Sú predovšetkým kvalitatívne, pretože ovplyvňujú spôsob, akým sa spomínané úlohy plnia, a spôsob, akým vnímame realitu a samotnú ľudskú prirodzenosť, a to až do tej miery, že môžu ovplyvniť naše mentálne a interpersonálne zvyky. Nové technológie treba skúmať a vytvárať v súlade s kritériami, ktoré zaručia, že skutočne budú slúžiť celej „ľudskej rodine“ (Preambula Všeobecnej deklarácie ľudských práv), rešpektovať vlastnú dôstojnosť každého z jej členov i celé prírodné prostredie a zohľadňovať potreby tých najzraniteľnejších. Cieľom nie je zaistiť len to, aby nikto nebol vylúčený, ale tiež rozšíriť tie oblasti slobody, ktoré by mohli byť výstupmi algoritmických procesov ohrozené.
 
V dôsledku inovatívnej a komplexnej povahy otázok nastolených digitálnou transformáciou je podstatné, aby boli zastúpené a spolupracovali všetky zainteresované osoby a zohľadnené všetky potreby, ktoré ovplyvňuje umelá inteligencia. Táto výzva predstavuje krok vpred s ohľadom na rast spoločného porozumenia, hľadania spoločného jazyka a riešení, ktoré môžu byť spoločne prijaté. Na základe toho môžeme uznať a prijať zodpovednosť, ktorá berie do úvahy celý proces technologickej inovácie ‒ od návrhu, cez distribúciu, až po použitie ‒ a povzbudiť k prijatiu reálneho záväzku v celej škále praktických postupov. Hodnoty a princípy, ktoré sme schopní vštepiť do AI, pomôžu z dlhodobého pohľadu stanoviť rámec, ktorý reguluje digitálnu etiku a ktorý funguje ako jej referenčný bod. Táto etika riadi naše konanie a podporuje používanie technológií na prospech ľudstvu a celému životnému prostrediu.
 
Teraz viac ako inokedy musíme zaistiť taký prístup, v ktorom sa rozvoj AI nesústreďuje len na technológiu, ale berie ohľad na dobro ľudstva a životného prostredia, na náš spoločný domov a jeho ľudských obyvateľov, ktorí sú navzájom nerozlučne prepojení. Inými slovami, ide o prístup, v ktorom sa rozvoj digitálnej inovácie orientuje predovšetkým na ľudské bytosti a prírodu a ide skôr o podporu ľudí, než o ich postupné nahrádzanie technológiami, ktoré sa správajú ako rozumní konatelia, no v žiadnom prípade nie sú „ľudské“. Je čas začať sa pripravovať na väčšmi technológiami poznačenú budúcnosť, v ktorej stroje budú mať dôležitejšiu úlohu v životoch ľudí. Pôjde však aj o budúcnosť, v ktorej je technologický pokrok jasne potvrdí brilantnosť ľudskej rasy, pričom ostáva závislý na jej etickej integrite.
 
ETIKA
 
Všetky ľudské bytosti sa narodili ako slobodné a rovné v dôstojnosti a právach. Sú obdarené rozumom a svedomím a mali by sa správať voči sebe v duchu bratstva (porov. čl. 1 Všeobecnej deklarácie ľudských práv). Tieto základné podmienky slobody a dôstojnosti musia byť tiež chránené a garantované pri výrobe a používaní AI systémov. Treba to urobiť pri zachovaní práv a slobôd jednotlivcov tak, aby neboli diskriminovaní s ohľadom na algoritmy, bez ohľadu na „rasu, farbu, pohlavie, jazyk, náboženstvo, politické alebo iné zmýšľanie, národnostný alebo sociálny pôvod, majetok, rod alebo iné postavenie“ (čl. 2 Všeobecnej deklarácie ľudských práv).
 
AI systémy musia byť vymyslené, navrhnuté a realizované tak, aby slúžili a chránili ľudské bytosti a prostredie, v ktorom žijú. Tento základný postoj musí byť pretlmočený do povinnosti vytvárať také životné podmienky (tak spoločenské ako aj individuálne), ktoré umožnia skupinám aj individuálnym členom snažiť sa o to, aby sa mohli čo najplnšie prejaviť, kde je to možné.
 
Na to, aby bol technologický pokrok v súlade so skutočným pokrokom ľudskej rasy a s rešpektovaním planéty, treba splniť tri podmienky. Musí zahŕňať každú ľudskú bytosť, bez akejkoľvek diskriminácie; musí byť zameraný na dobro ľudskej rasy a každej ľudskej bytosti; napokon musí brať ohľad na komplexnú realitu nášho ekosystému a musí ho charakterizovať spôsob, akým sa stará o našu planétu a jej ochranu (náš „spoločný dom“, na ktorom sa podieľame) v perspektíve dlhodobej udržateľnosti, čo zahŕňa aj použitie umelej inteligencie pri zaistení udržateľných potravinových systémov v budúcnosti. Každá osoba si navyše musí byť vedomá toho, kedy interaguje so strojom.
 
Technológie založené na AI nikdy a nijakým spôsobom nesmú byť použité na vykorisťovanie ľudí, zvlášť tých najzraniteľnejších. Namiesto toho musia byť použité tak, aby pomohli ľuďom rozvíjať ich schopnosti (posilnenie/uschopnenie) a pomohli planéte.
 
 
VÝCHOVA A VZDELÁVANIE
 
Premena sveta prostredníctvom AI inovácie značí, že ide o projekt vytvárania budúcnosti pre mladú generáciu a s mladou generáciou. Tento projekt sa musí odraziť v záväzku prebrať zodpovednosť za výchovu  mladej generácie a v oblasti vzdelávania rozvíjať špecifické učebné plány, ktoré zahŕňajú rôzne disciplíny v humanitných i prírodných vedách, ako aj v technológii. Tento záväzok znamená, že sa bude pracovať na zlepšení kvality výchovy a vzdelávania, ktoré sa dostáva mladým ľuďom. Vzdelanie treba poskytovať metódami, ktoré sú dostupné všetkým, nikoho nediskriminujú a môžu ponúknuť rovnosť príležitostí a zaobchádzania. Všeobecná dostupnosť vzdelania musí byť dosiahnutá prostredníctvom princípov solidarity a férovosti.
 
Prístup k celoživotnému vzdelávaniu musí byť zaistený aj pre starších ľudí, ktorým treba počas digitálneho a technologického prechodného obdobia ponúknuť možnosť prístupu k offline službám.  Technológie sa navyše môžu ukázať ako mimoriadne užitočné, pokiaľ ide o pomoc pri učení ľuďom s postihnutím a ich väčšiu nezávislosť: inkluzívne vzdelávanie preto znamená tiež používanie AI na podporu a integráciu každej osoby, keď jej poskytne pomoci a možnosť na sociálnu participáciu (napr. práca na diaľku pre ľudí s obmedzenou mobilitou, technologická podpora pre osoby s kognitívnymi disfunkciami, atď.).
 
Dopad zmien spôsobených AI v spoločnosti, práci a výchovno-vzdelávacom procese si vyžaduje zmenu školských učebných plánov, aby sa stalo realitou výchovné motto „nikto neostane pozadu“. Vo vzdelávacom sektore sú potrebné reformy, aby sa nastolili vysoké a objektívne štandardy, ktoré budú môcť zlepšiť individuálne výsledky. Tieto štandardy nesmú byť obmedzené len na rozvoj digitálnych schopností, ale mali by sa namiesto toho zamerať na to, aby každý človek mal možnosť naplno prejaviť svoje schopnosti a pracovať pre dobro spoločnosti, i keď na tom nikto osobne nezarobí.
 
Keďže navrhujeme a plánujeme spoločnosť zajtrajška, musí používanie AI dodržiavať také formy konania, ktoré sú orientované na spoločnosť, kreatívne, konektívne, produktívne, zodpovedné a schopné mať pozitívny dopad na osobný i spoločenský život mladých generácií. Spoločenský a etický dopad AI musí byť tiež jadrom edukačných aktivít týkajúcich sa AI.
 
Hlavným cieľom tohto vzdelávania musí byť zvýšenie povedomia o možnostia AI, ale aj o možných kritických témach, ktoré to prináša z perspektívy sociálnej inklúzie a rešpektovania indivídua.
 
 
PRÁVA
 
Rozvoj AI v službe ľudstvu a planéte sa musí odrážať v pravidlách a princípoch, ktoré chránia ľudí – osobitne slabých a znevýhodnených – a tiež prírodné prostredie. Kľúčovým východiskovým bodom je etický záväzok všetkých zainteresovaných. Ak sa má takáto budúcnosť stať realitou, tak je pre podporu, budovanie a riadenie tohto procesu absolútne nevyhnutné zaviesť isté hodnoty, princípy a v niektorých prípadoch aj zákonné regulácie.
 
Rozvoj a zavádzanie AI systémov, ktoré budú na osoh ľudstvu a planéte a zároveň budú pôsobiť ako prostriedky na vytvorenie a udržanie medzinárodného mieru, musí ísť ruka v ruke s rozsiahlymi digitálnymi bezpečnostnými opatreniami.
 
Ak má AI fungovať ako prostriedok pre dobro ľudstva a planéty, musí sa téma ochrany ľudských práv v digitálnej dobe stať jadrom verejnej diskusie. Prišiel čas pýtať sa, či si nové formy automatizácie a algoritmické aktivity nevyžadujú rozvoj hlbšej zodpovednosti. Bude zvlášť dôležité zvážiť niektoré formy „povinnosti podať vysvetlenie“: musíme uvažovať nielen o tom, ako spraviť zrozumiteľnými rozhodovacie kritériá algoritmických agentov založených na AI, ale aj o ich cieľoch a zameraní. Tieto prostriedky musia byť schopné ponúknuť jednotlivcom informácie o logike skrytej za algoritmom, ktorý sa používa pri robení rozhodnutí. To zvýši transparentnosť, vystopovateľnosť a zodpovednosť, aby boli rozhodnutia za pomoci počítača účinnejšie.
 
Treba podnecovať k tomu, aby nové formy regulácie podporovali transparentnosť a súlad s etickými princípmi, čo platí zvlášť pre rozvinuté technológie, ktoré majú vyššie riziko dopadu na ľudské práva, ako je napr. rozpoznávanie tvárí.
 
Na začiatku vývoja každého algoritmu je pre dosiahnutie uvedených cieľov potrebné stanoviť „algor-etickú“ víziu, t.j. naplánovať prístup k AI z hľadiska etiky. Navrhnutie a plánovanie AI systémov, ktorým môžeme dôverovať, zahŕňa hľadanie konsenzu ohľadom etických princípov, ktoré majú byť do týchto technológií zabudované, medzi politickými aktérmi robiacimi rozhodnutia, systémom inštitúcií OSN a inými medzivládnymi organizáciami, vedcami, akademickým svetom a predstaviteľmi nevládnych organizácií. Z tohto dôvodu sponzori tejto výzvy vyjadrujú svoje želanie spolupracovať v tomto zmysle na národnej i medzinárodnej úrovni, aby podporili „algor-etiku“, teda etické použitie AI, definované nasledovnými princípmi:
 
1. Transparentnosť: AI systémy musia byť v princípe vysvetliteľné;
2. Inklúzia: treba brať do úvahy potreby všetkých ľudí, aby tak každý mohol mať z toho prospech a všetkým jednotlivcom boli poskytnuté čo najlepšie možné podmienky na sebarealizáciu a rozvoj.
3. Zodpovednosť: tí, čo navrhujú a zavádzajú používanie AI, musia k tomu pristupovať zodpovedne a transparentne;
4. Nestrannosť: nevytvárať alebo nekonať zaujato/z parciálnych záujmov, a tak zachovávať férovosť a ľudskú dôstojnosť;
5. Spoľahlivosť: AI systémy musia byť schopné pracovať spoľahlivo;
6. Bezpečnosť a súkromie: AI systémy musia pracovať bezpečne a rešpektovať súkromie používateľov.
 
Tieto princípy sú základnými prvkami dobrej inovácie.
 
Rím, 28. február 2020