 Posolstvo Svätého Otca Františka
 na 58. svetový deň spoločenských komunikačných prostriedkov

Umelá inteligencia a múdrosť srdca: za plne ľudskú komunikáciu

 Drahí bratia a sestry!

Vývoj takzvaných systémov umelej inteligencie, o ktorom som uvažoval už vo svojom ostatnom Posolstve na svetový deň pokoja, tiež radikálne mení svet informácií a komunikáciu a prostredníctvom nich aj určité základy života v spoločnosti. Je to zmena, ktorá sa týka všetkých, nielen odborníkov. Zrýchlené šírenie úžasných vynálezov, ktorých fungovanie a potenciál sú pre väčšinu z nás ťažko pochopiteľné, vyvoláva údiv, ktorý osciluje medzi nadšením a dezorientáciou, pričom nás nevyhnutne stavia pred základné otázky: Kto je vlastne človek? V čom je jeho špecifickosť a aká je budúcnosť tohto nášho druhu nazývaného homo sapiens v ére umelých inteligencií? Ako môžeme zostať plne ľudskí a riadiť tieto prebiehajúce kultúrne zmeny, aby slúžili dobrému cieľu?

Začať od srdca

V prvom rade je potrebné vyčistiť pôdu od katastrofických predpovedí a ich paralyzujúcich účinkov. Už pred sto rokmi Romano Guardini v úvahách o technológii a ľudstve vyzýval, aby sme sa v snahe o „zachovanie krásneho sveta odsúdeného na zánik“ nezatvrdzovali voči „novému“. Zároveň však prorocky varoval: „Stále sme v procese stávania sa. Musíme byť každý svojím spôsobom jeho súčasťou (...) pridŕžať sa ho s otvorenosťou, ale zostať citliví na všetko, čo je v ňom deštruktívne a neľudské, so srdcom, ktoré sa nedá skaziť.“ A na záver dodal: „Je pravda, že ide o problémy technickej, vedeckej a politickej povahy, ale tie sa nedajú vyriešiť inak, len vychádzajúc od človeka. Treba vychovať nový typ človeka, ktorý bude obdarený hlbšou duchovnosťou, novou slobodou a novým vnútrom.“¹

V tejto dobe, ktorá je bohatá na technológie, no chudobná na ľudskosť, musí naša úvaha začínať od ľudského srdca.² Len ak sa vystrojíme duchovným pohľadom, ak znovu získame múdrosť srdca, pochopíme a dokážeme interpretovať novinky našej doby a znovu objavíme cestu k plne ľudskej komunikácii. Srdce, biblicky chápané ako sídlo slobody a najdôležitejších životných rozhodnutí, je symbolom integrity, jednoty, no pochádzajú z neho aj náklonnosti, túžby, sny, a predovšetkým je vnútorným miestom stretnutia s Bohom. Múdrosť srdca je teda tou cnosťou, ktorá nám umožňuje spájať celok a časti, rozhodnutia a ich dôsledky, vznešenosť i krehkosť, minulosť aj budúcnosť, ja a my.

Táto múdrosť srdca sa dáva nájsť tým, čo ju hľadajú, a uzrieť tým, čo ju milujú; predbieha tých a dáva sa poznať tým, čo po nej dychtia, a hľadá tých, čo sú jej hodní (porov. Múd 6, 12 – 16). Zostáva s tými, čo si nechajú poradiť (porov. Prís 13, 10), čo majú pozorné a rozlišujúce srdce (porov. 1 Kr 3, 9). Je darom Ducha Svätého, ktorý umožňuje vidieť veci Božími očami, chápať súvislosti, situácie, udalosti a objavovať ich zmysel. Bez tejto múdrosti sa život stáva fádnym, pretože práve múdrosť – ktorej latinský koreň sapere súvisí so slovom sapore (chuť) – dáva životu chuť.

Príležitosť a nebezpečenstvo

Takúto múdrosť nemôžeme očakávať od strojov. Hoci pojem umelá inteligencia v súčasnosti nahradil správnejší termín strojové učenie používaný v odbornej literatúre, samotné používanie slova „inteligencia“ je zavádzajúce. Stroje majú určite neporovnateľne väčšiu schopnosť ukladať údaje a vzájomne ich prepájať ako človek, ale pochopiť ich význam môže len človek. Nejde teda o to, aby stroje konali ako ľudia. Ale ide skôr o to, aby sa ľudstvo prebudilo z hypnotického spánku vyvolaného ilúziou o vlastnej všemohúcnosti, založenej na presvedčení, že sme plne autonómnymi a sebareferenčnými subjektmi, uvoľnenými spod všetkých sociálnych väzieb, zabúdajúc, že sme len stvorenia.

V skutočnosti človek vždy zažíval svoju nesebestačnosť a snažil sa prekonať svoju zraniteľnosť s pomocou akýchkoľvek prostriedkov. Počnúc prvými prehistorickými artefaktmi, ktoré sa používali ako predĺženie rúk, cez médiá používané na šírenie hovoreného slova sme sa dnes dostali k najdokonalejším strojom, ktoré fungujú ako pomôcka pri myslení. Každý z týchto nástrojov však môže byť kontaminovaný pôvodným pokušením stať sa podobným Bohu bez Boha (porov. Gn 3); teda chcieť vlastnými silami dosiahnuť to, čo by sme namiesto toho mali prijať ako dar od Boha a prežívať vo vzťahu s druhými.

V závislosti od toho, ako je srdce človeka orientované, sa v jeho rukách všetko stáva buď príležitosťou alebo nebezpečenstvom. Jeho telo, stvorené ako miesto komunikácie a spoločenstva, sa môže stať prostriedkom agresivity. Podobne aj každé jeho technické rozšírenie môže byť pre človeka nástrojom láskyplnej služby alebo nepriateľskej nadvlády. Systémy umelej inteligencie môžu prispieť k procesu oslobodenia sa od nevedomosti a uľahčiť výmenu informácií medzi rôznymi národmi a generáciami. Môžu napríklad sprístupniť a urobiť pochopiteľným obrovské bohatstvo písomne zaznamenaných vedomostí z minulých storočí alebo umožniť ľuďom komunikovať v pre nich neznámych jazykoch. Zároveň však môžu byť nástrojom „kognitívneho znečistenia“, prekrútenia reality prostredníctvom čiastočne alebo úplne falošných naratívov, prijímaných a šírených akoby boli pravdivé. Stačí si spomenúť na problém dezinformácií, s ktorými sa už roky stretávame vo forme falošných správ (fake news)³, ktoré dnes môžu využívať deep fakes, totiž vytváranie a šírenie obrázkov, ktoré vyzerajú úplne vierohodne, ale sú falošné (aj ja som bol ich objektom), alebo zvukových správ používajúcich hlas nejakej osoby, ktorá hovorí to, čo by nikdy nepovedala. Simulácia, ktorá je základom týchto programov, môže byť v niektorých špecifických oblastiach užitočná, ale stáva sa zvrátenou tam, kde narúša vzťah k iným ľuďom a k realite.

Na základe prvej vlny umelej inteligencie, teda sociálnych médií, sme pochopili, že ide o ambivalentný nástroj, keď sme okúsili nielen jeho možnosti, ale aj riziká a súvisiace patológie. Druhá úroveň generatívnej umelej inteligencie nepochybne predstavuje kvalitatívny skok. Je preto dôležité mať možnosť pochopiť, oceniť a regulovať tieto nástroje, ktoré by v nesprávnych rukách mohli viesť k znepokojujúcim scenárom. Ako každý iný produkt ľudskej inteligencie a zručnosti, ani algoritmy nie sú neutrálne. Z tohto dôvodu je potrebné konať preventívne a navrhnúť isté modely etickej regulácie, aby sa predišlo škodlivým, diskriminačným a sociálne nespravodlivým účinkom používania systémov umelej inteligencie a zabránilo ich zneužívaniu na účely obmedzenia plurality, na polarizáciu verejnej mienky alebo vytváranie foriem skupinového myslenia. Opäť vyzývam medzinárodné spoločenstvo, aby „spolupracovalo na prijatí záväznej medzinárodnej zmluvy upravujúcej vývoj a používanie umelej inteligencie v jej mnohých podobách“⁴. Zároveň však – tak ako v každom ľudskom kontexte – samotná regulácia nestačí.

Rásť v ľudskosti

Sme povolaní rásť spoločne v ľudskosti a ako ľudstvo. Pred nami stojí výzva urobiť kvalitatívny skok, aby sme dokázali žiť v komplexnej, multietnickej, pluralitnej, multináboženskej a multikultúrnej spoločnosti. Je na nás, aby sme si kládli otázky o teoretickom rozvoji a praktickom využívaní týchto nových komunikačných a vedomostných nástrojov. Veľké možnosti konať dobro idú ruka v ruke s rizikom, že sa všetko premení len na abstraktné výpočty, ktoré zredukujú jednotlivých ľudí na dáta, myslenie na mechanické procesy, skúsenosť na izolované prípady, dobro na zisk, a predovšetkým, že sa nakoniec poprie jedinečnosť každého človeka a jeho histórie, čím sa konkrétna skutočnosť rozplynie v sérii štatistických údajov.

Digitálna revolúcia nás môže urobiť slobodnejšími, ale určite nie vtedy, ak nás uväzní v modeloch, ktoré dnes poznáme ako komnaty ozvien. V takých prípadoch riskujeme, že sa namiesto rastu rozmanitosti informácií, stratíme v anonymnom močiari, ktorý slúži záujmom trhu alebo moci. Je neprijateľné, aby využívanie umelej inteligencie viedlo k anonymnému mysleniu, zhromažďovaniu neoverených údajov či ku kolektívnemu zanedbávaniu redakčnej zodpovednosti. Reprezentácia reality vo veľkých dátach (big data), akokoľvek funkčná pre strojové operácie, v skutočnosti znamená podstatnú stratu pravdy o veciach, ktorá bráni medziľudskej komunikácii a ohrozuje samotnú našu ľudskosť. Informácie totiž nemožno oddeliť od živých vzťahov, ktoré zahŕňajú telesnosť a zakotvenosť v reálnom svete; vyžadujú si nielen dať do súvisu dáta, ale aj skúsenosti; vyžadujú si tvár, pohľad, súcit aj zdieľanie.

Myslím na informovanie o vojnách a „paralelnú vojnu“, ktorá sa uskutočňuje pomocou dezinformačných kampaní. A myslím na to, koľko reportérov bolo zranených alebo zomrelo v teréne, aby nám umožnili vidieť to, čo videli na vlastné oči. Pretože len keď sa priamo dotkneme utrpenia detí, žien a mužov, môžeme pochopiť absurditu vojen.

Využívanie umelej inteligencie bude môcť pozitívne prispieť v oblasti komunikácie, ak nezruší úlohu žurnalistiky v teréne, ale ju, naopak, podporí; ak umožní, aby sa do popredia dostala profesionalita komunikácie, a tak bude každý komunikátor niesť zodpovednosť; ak vráti každému človeku úlohu subjektu komunikácie, schopného kriticky rozlišovať.

Otázky pre dnešok i pre budúcnosť

Vynárajú sa preto niektoré otázky: ako chrániť profesionalitu a dôstojnosť pracovníkov v oblasti komunikácie a informácií, ako aj užívateľov na celom svete? Ako zabezpečiť vzájomnú spoluprácu a súčinnosť jednotlivých platforiem? Ako zabezpečiť, aby spoločnosti vyvíjajúce digitálne platformy prevzali zodpovednosť za to, čo šíria a z čoho profitujú, rovnako ako producenti tradičných médií? Ako sprehľadniť kritériá, ktoré stoja za algoritmami indexovania a deindexovania a za vyhľadávačmi, ktoré dokážu glorifikovať alebo vymazať ľudí a názory, príbehy či kultúry? Ako zaručiť transparentnosť informačných procesov? Ako možno zviditeľniť autorstvo textov a vystopovať ich zdroje, aby sa predišlo zásterke anonymity? Ako odhaliť, či obrázok alebo video zobrazuje udalosť alebo ju simuluje? Ako zabrániť tomu, aby sa zdroje redukovali na jediný, algoritmicky vyprodukovaný spôsob myslenia? A ako namiesto toho podporiť prostredie, ktoré by zachovalo pluralitu a reprezentovalo komplexnosť reality? Ako môžeme zabezpečiť udržateľnosť technológií, tohto výkonného, drahého a energeticky mimoriadne náročného nástroja? Ako ho môžeme sprístupniť aj rozvojovým krajinám?

Na základe odpovedí na tieto a ďalšie otázky pochopíme, či umelá inteligencia nakoniec povedie k vytvoreniu nových kást založených na informačnej dominancii, ku vzniku nových foriem vykorisťovania a nerovnosti, alebo naopak, prinesie viac rovnosti, podporí korektnú informovanosť a väčšie povedomie o epochálnej zmene, ktorú prežívame, a tak umožní v členitom a pluralistickom informačnom systéme načúvať rozmanitým potrebám ľudí a národov. Na jednej strane sa tu črtá prízrak novej formy otroctva, na druhej strane zisk väčšej slobody; na jednej strane môže niekoľko ľudí určovať myslenie ostatných, na druhej strane sa všetci budú môcť podieľať na rozvoji myslenia.

Odpovede na tieto otázky nie sú vopred dané, závisia od nás. Je úlohou človeka, aby sa rozhodol, či sa stane potravou pre algoritmy, alebo bude svoje srdce živiť slobodou, bez ktorej nemôžeme rásť v múdrosti. Múdrosť totiž dozrieva tým, že si vážime plynutie času a prijímame svoju zraniteľnosť. Rastie v spojenectve medzi generáciami, medzi tými, ktorí si pamätajú minulosť, a tými, ktorí majú víziu do budúcnosti. Len v tomto spoločenstve môže rásť schopnosť rozlišovať, byť ostražitý a vidieť veci z hľadiska ich naplnenia. Ak nechceme stratiť svoju ľudskosť, hľadajme Múdrosť, ktorá bola pred všetkými (porov. Sir 1, 4) a ktorá vstupuje do čistých duší a robí z nich Božích priateľov a prorokov (porov. Múd 7, 27). Pomôže nám nasmerovať aj systémy umelej inteligencie do služby ľudskej komunikácie.

V Ríme pri sv. Jánovi v Lateráne 24. januára 2024

FRANTIŠEK

¹ GUARDINI, Romano: Listy od jazera Como, Brescia 2022, 95-97.

² V kontinuite s posolstvami z predchádzajúcich svetových dní spoločenských komunikačných prostriedkov, venovaných témam: Komunikovať stretávajúc sa s ľuďmi tam, kde sú a akí sú (2021), Počúvať ušami srdca (2022) a Hovoriť so srdcom (2023).

³ Porov. FRANTIŠEK: „Pravda vás oslobodí“ (Jn 8, 32). Fake news (falošné správy) a žurnalizmus pokoja. Posolstvo na 52. svetový deň spoločenských komunikačných prostriedkov, 2018.

⁴ FRANTIŠEK: Posolstvo na 57. svetový deň pokoja, 1. január 2024, 8.