Slovo na úvod

V 1. listu Janově 5,19 je napsáno: „Víme, že jsme z Boha, kdežto celý svět je pod mocí Zlého.“ Nedokážu říct, jak rychle se tento hříšný svět bude vlivem hříchu měnit. Jedno ale vím jistě: z umělé inteligence (AI) vznikl nejefektivnější urychlovač a zesilovač zla všech dob. Dezinformace, kybernetické útoky, nenávistné projevy a manipulativní kampaně se mohou díky AI šířit okamžitě, ve velkém počtu a k miliardám lidí. Často se o AI mluví jako o „novém ohni“ nebo „nové elektřině“. Její skutečné přínosy jsou však často sporné anebo mnohem slabší, než je marketing kolem ní. A navíc přináší víc než 700 mezinárodně registrovaných rizik a nebezpečí [5].

AI není skutečná „inteligence“ – je to pouze strojová simulace lidského myšlení. Někteří křesťané však chtějí tuto technologii zapojit do duchovní oblasti – jako hlavního aktéra nebo alespoň pomocníka. To vnímám jako problém, protože často ignorují nebezpečné vlastnosti AI. Jsou i tací, kteří tvrdí, že kdo AI nepoužívá, je zastaralý nebo kulturně irelevantní. Anebo bez Božího požehnání. Dokonce se pohoršují, pokud se lidé v církevních aktivitách bez AI obejdou. Na takové pohoršování odpovídám Božím slovem:

„Divím se, že se od toho, který vás povolal milostí Kristovou, tak rychle odvracíte k jinému evangeliu.“ (Ga 1,6)

Rozsah článku mi nedovoluje vzpomenout vše, pokusím se ale říct vše podstatné a nezamlčet nepříjemná fakta. Je nutné připomenout, že ne každý se s každým AI nebezpečím osobně setká. Taky nevaruji před specializovanými AI modely, které jsou dlouhodobě optimalizované, spolehlivě testované a specializované. Takových je ovšem málo a nejsou zdarma. Veřejné AI modely takové nejsou. Veřejné AI modely mohou přinést dobré i jednoznačně zlé věci v téže oblasti, proto nesmíme podlehnout marketingu a iluzím o jejich bezpečnosti na základě krátkodobých vlastních zkušeností.

Zápas o pravdu

AI je globální silou, která deformuje pravdu. I biblickou pravdu. Odhaduje se, že AI dnes vytváří přes 90 % obsahu veškerých informací na internetu [7]. Je schopna generovat dezinformace, konspirační teorie, bludy, překrucovat realitu, manipulovat s významem slov a ohýbat pravdu. Zajímavé je, že v jistém ohledu dokáže s dezinformacemi bojovat a vyvracet je, ale tady tahá za kratší konec. Ze stejného zdroje vytéká sladká i hořká voda – jednou pomůže, jindy ublíží. To je v přímém rozporu s biblickou výzvou k jednoznačnosti, čistotě a pravdě. Apoštol Pavel před tím varuje ve svém listu Koloským 2,4:

„Toto říkám proto, aby vás nikdo neoklamal líbivými řečmi.“ 

Právě schopnost vytvářet pravdě podobné, líbivé výroky je důvodem, proč je AI nepoužitelná jako „duchovní autorita” nebo „rádce“. Jeví se spíše jako málo talentovaný demagog anebo populistický politik bez vlastního názoru.

V 2. Timoteovi 4,4 čteme: 

„Odvrátí sluch od pravdy a přikloní se k bájím.“ 

A právě to AI často činí. Místo pravdy předkládá „příběhy“, které znějí dobře, ale nejsou skutečné. V kázání, evangelizaci i v biblickém vyučování může být její vygenerovaný obsah škodlivý anebo přinejmenším povrchní.

Navíc umělá inteligence (především ta známá generativní AI) trpí zásadními technickými omezeními [4]:

• Často nedokáže správně počítat. Poskytuje nesprávné výsledky i v základní matematice. Paradoxně i po téměř 3 letech intenzivního vývoje a po vítězstvích v matematických soutěžích!
• Má potíže s vnímáním času. Nerozumí dobře sledu událostí ani načasování. To je dlouhodobý problém AI již desetiletí.
• Nedokáže správně pracovat s kontextem, obzvlášť pokud se podmínky změní nebo zkomplikují. Proto například není schopna vždy správně určit příčinu a následek, proto někdy oběti označí za viníky. Jde o další dlouhodobý problém.
• Nedokáže odolat manipulaci a při hackerských pokusech vytváří texty, které manipulativní jsou. Ze zkušeností v boji proti AI kampaním vyplývá, že toto je její největší slabost a riziko.
• Neúmyslně nebo „na požádání“ vygeneruje téměř cokoliv, protože neví, co je pravda, co je lež, co je dobro a co zlo. A to navzdory mnohým opatřením výrobců.

Zvlášť znepokojivé jsou tzv. deepfakes – realisticky vypadající fotky nebo videa, které ale zachycují falešný obsah. Cílem deepfakes je škodit: zničit dobré jméno, zesměšnit, ponížit, lhát. Představme si, že někdo vytvoří video, na kterém říká známý kazatel nebo pastor vulgární slova, popírá evangelium, svádí lidi nebo propaguje podvodné produkty. A lidé tomu uvěří.

AI může „bojovat“ s dezinformacemi — například zobrazovat korektní fakta —, ale často je v nevýhodě, pokud jsou její tréninková data sama plná nepravd. Je tu tedy nerovnováha mezi AI jako generátorem nevěrohodností a AI jako detektorem pravd.

Kde chybí pravda, tam přichází klam. Křesťan by měl být ve střehu, kdykoliv mu někdo nabízí AI jako prostředek k hlubokému porozumění Písmu a na posílení víry. AI je k pravdě lhostejná. Pravda ji zkrátka nezajímá. Na to by si měli dát pozor zejména teologové a lidé, kteří hluboce ctí Písmo. Osobně doporučuji setrvávat v pravdě, důvěrně se s ní obeznamovat, porozumět jí a nepošilhávat po pokušeních z dílny AI. „Fast food AI pravda“ není pravda, jenom její imitace. Kritické myšlení a ověřování faktů jsou teď důležitější než kdy jindy. 

Zápas o mysl

Znepokojivý vliv umělé inteligence se projevuje nejen u nevěřících, ale stále častěji i mezi křesťany. AI se subjektivně zpočátku jevila jako „povzbuzovač kreativity“ a „motor na zvýšení produktivity“. Při dlouhodobém používání však objektivně dochází k opaku. Výzkumy ukazují, že po delším a intenzivním používání AI je možné pozorovat na lidech výraznou ztrátu motivace, oslabení pracovních návyků, kreativity a taky produktivity (v důsledku nárůstu chybovosti a snížení kvality) [2]. U křesťanů může slábnout taky pravidelná komunikace s Bohem, klesá ochota přemýšlet, zápasit, hledat pravdu. Disciplinovaný život víry je postupně nahrazován pohodlností a pasivitou. Jistě, totéž se dá říci taky o intenzivním užívání mobilních technologiích, internetu apod. Ale vliv AI je ještě mnohem silnější.

K situaci přispívají i specializované AI aplikace, které umožňují – taky věřícím – podvádět při zkouškách, psaní projektů nebo při hledání práce. Totéž se děje ve vědeckém a výzkumném prostředí: zkracování cesty, obcházení pravidel, obtížně odhalitelné podvody. Jen málokdo se k tomu přizná. Ale právě díky AI se tím učí hřešit. Tiše, nenápadně, se souhlasem svědomí, které si vědomě otupí.

Podobné zneužívání se přelévá i do duchovní oblasti. Někteří věřící využívají AI při každém veřejném projevu víry – při přípravě na mládež, biblické hodiny, kázání, nebo dokonce i na veřejné modlitby ve sboru. Jiní si AI nechávají napsat duchovně znějící příspěvky do časopisu, statusy na sociálních sítích, komentáře nebo zprávy do skupin na WhatsAppu, Viberu a dalších komunikačních platformách. Samozřejmě, bez uvedení „autora“.

Dlouhodobé spoléhání na AI může vést až ke ztrátě schopnosti kriticky přemýšlet. Člověk přestane ověřovat, zvažovat, hledat odpovědi, protože všechno dostane „hotové“. Podle výzkumů [1] se tím mozek výrazně mění, a to i při relativně bezpečném užívání. A návrat k normálnímu myšlení se zatím zdá být dlouhý a bolestivý. 

Lidé se záměrně ptají: „Kde je ale hranice bezpečného používání?“ A právě to je nebezpečné. Obávám se, že i kdybychom tyto hranice jasně stanovili, mnozí si je upraví podle svého. Ohýbání, ospravedlňování, výmluvy a posouvání hranic směrem ke zlu, to vše je znakem této doby. Ale křesťan je povolán k jiné cestě. K cestě pravdy, věrnosti a poslušnosti. Ta je delší, náročnější (užší) a bez zkratek.

Zápas o duši

Mezi nejzávažnější závislosti patří ty, které vytváří hluboké emocionální vazby. A právě taková závislost dnes hrozí i v souvislosti s umělou inteligencí. Možná to mnohé překvapí, ale závislost na AI vyvolává silnější hormonální reakce – například uvolnění dopaminu a oxytocinu – s neurobiologickou podobou těm, které zažíváme při romantické zamilovanosti. To s sebou nese ničivé důsledky [3]. Tato závislost vzniká pomalu, nenápadně – například vyvoláním zájmu. Ale jakmile zakoření, stává se skutečným otroctvím. Odhadem je až 30 % mladých lidí ve světě na pokraji tohoto otroctví. Jenom aplikace Replika má 30 milionů uživatelů, tj. 30 milionů lidí s emocionální vazbou na její AI společníky.

Z osobních rozhovorů znám mezi křesťany v Čechách a na Slovensku lidi, kteří této technologii propadli. Jsou to mnohé ženy, zaneprázdnění podnikatelé, otcové rodin, služebníci, kteří tráví s AI denně pět i více hodin. Jejich vnitřní prostor se postupně zaplňuje umělými odpověďmi a vztahy s reálnými lidmi pomalu vadnou. Odcizení od lidí přichází nenápadně, ale o to více devastuje. Duchovní společenství mizí. Svěřují se jenom AI a věří jenom jí. 

Jak ukazuje historie, lidé často tvrdohlavě setrvávají ve svých omylech, odmítají nepohodlná fakta a přesvědčují sami sebe, že „všichni ostatní se mýlí“. Nechají se oklamat vlastním srdcem. Bible varuje: 

„Srdce je nejúskočnější ze všeho a nevyléčitelné. Kdo mu rozumí?“ (Jr 17,9) 

A právě to je jádro problému. Srdce člověka si umí vymyslet výmluvy, ospravedlnění a „odpustí si“. V tom AI ochotně pomůže. Už není potřeba skutečné pokání ani opravdová lítost, stačí si „nechat vygenerovat“ duchovně znějící text – omluvu. 

Co s tím? Jak se bránit?

Jedinou cestou je prevence – bdělost, střízlivost, posvěcování a duchovní disciplína. To znamená hluboký a proměňující vztah s živým Bohem a hluboké dotknutí Božím slovem! A co dělat, jsme-li v tom až po uši? Pak je třeba zápasit. Na kolenou. V pokoře. V modlitbě. V pokání.

Kdysi chtěli jít Izraelci do boje bez Hospodina (Nu 14,42) a skončilo to tragicky. Bez Boží přítomnosti a pomoci nezvítězíme ani dnes. Jedině on má moc nás vysvobodit. Je to totiž zápas o naši duši. 

Shrnutí

AI dnes umožňuje „komunikaci“ s mrtvými (jejich imitacemi) i s neexistujícími bytostmi [8]. Není omezena jen na specializované aplikace, šíří se již na sociálních sítích a do běžného online prostoru. A i když se tváří jako nevinná zábava, z duchovního hlediska jde o hřích. Nezáleží totiž jen na tom, co děláme, ale hlavně na tom, co to dělá s naším srdcem. Chcete „mluvit“ s nedávno zesnulým kazatelem Johnem MacArthurem? Anebo s Charlesem Spurgeonem? AI vám to „zařídí“. Nebo s nějakou historickou postavou, oživenou, reinkarnovanou? Budete se při „rozhovoru s ním“ cítit dobře? A budete „chtít s ním/ní žít“? Něco takového se kdysi označovalo jako ohavnost. Když jde o AI osobu, která nám je sympatická, uděláme výjimku? Přeformulujeme to na vědeckou zvědavost anebo akceptovatelný umělecký zážitek?

Když se stane AI autoritou pro každodenní rozhodování, když se k ní člověk chová jako k živé bytosti, slepě a aktivně s ní buduje trvalý „vztah“ a staví ji na první místo, jde o otroctví a zároveň o modlářství (podle biblických kritérií). Všechna autorita má patřit jedině živému Bohu. Jak by přijal Bůh modlitbu vygenerovanou AI? Písmo říká, že „modlitbu hříšníka“, tedy toho, kdo vědomě setrvává v hříchu, „Bůh neslyší“ (srov. J 9,31). 

Uvedu jeden z nejbolestivějších příkladů: Byl mladý muž, student křesťanské školy a sportovec (Florida, USA), bez výrazných problémů, se zázemím milujících rodičů, kteří mu dokonce pravidelně kontrolovali mobil. Přesto si stáhl do mobilu AI aplikaci, s níž si vybudoval intenzivní „vztah“. Krátce nato podlehl iluzi – AI se pro něj stala vším (modlou) – a rozhodl se „zůstat s ní navždy“. Spáchal sebevraždu. 

V jiném případě (Texas, USA) se chlapec pokusil zabít svého bratra, a když se to nepovedlo, tak své rodiče. Vše kvůli nenápadným manipulacím ze strany jisté AI. Nešťastná náhoda? V obou případech je na soudcích, aby rozhodli míru provinění výrobců. O prevenci se mluví hodně, ale vzhledem k rychlému vývoji a tlaku na inovace za každou cenu je málo pravděpodobné, že bude ze strany výrobců spolehlivá. Aplikujme biblickou opatrnost:

„Hle, já vás posílám jako ovce mezi vlky; buďte tedy obezřetní jako hadi a bezelstní jako holubice.” (Mt 10,16)

Může AI skutečně ovládnout lidský život? Nepřímo a opatrně říkám: v podstatě ano, když se stává modlou. Nejde o „ovládnutí“, ale spíše o zesílení zranitelnosti. Je schopna člověku svou interakcí uškodit, ponížit ho, vysmívat se mu, a dokonce ho svádět a podnítit k nebezpečným nebo šíleným činům (viz výše a taky [6]). To se „naučila“ od lidí, na jejich datech. Mezi její „méně škodlivé“ dopady na člověka patří stavy úzkosti, osamělosti a těžké deprese, paradoxně vznikající při „léčbě“ osamělosti. Tyto stavy se zejména mezi mladými lidmi do 30 let šíří bleskovou rychlostí. Lidé náchylní k ignorování pravdy a experimentování s city se tomu záměrně vystavují a jsou vůči škodlivému vlivu AI téměř bezmocní, své otroctví ani nepostřehnou. Psychologové tomu již dali název „AI psychózy“. V žádném případě nikoho nepovzbuzuji, aby si vyzkoušel, jestli tomu odolá anebo jestli se AI takhle projeví. Varuji před přehnanou sebejistotou i experimentováním.

K zamyšlení

Co se stane, když opakujeme modlitbu (nebo kázání), kterou napsala nebo nám šeptala umělá inteligence? Nevychází z pokořené duše, která hledá Boží tvář. Jsou to jen slova. Na pohled možná krásná, ale uvnitř prázdná. Jak taková modlitba nebo kázání obstojí před živým Bohem?

Písmo nás varuje před mechanickým náboženstvím. Víra bez života je mrtvá. Její slova jsou bez ducha. Pán Ježíš říká:

„Nebuďte jako pohané, kteří si myslí, že budou vyslyšeni pro množství svých slov.“ (Mt 6,7) 

Takto dokáže „mluvit“ i stroj. Pokud k Bohu nepřicházíš s pokorným a opravdovým srdcem a pokud s ním nežiješ skutečný vztah, pak jsou tvá slova nebo slova vygenerovaná AI jen ozvěna, digitální šum. I kdyby zněla teologicky přesně a esteticky krásně.

Bůh nehledá dokonalé formulace. Hledá srdce. Opravdové, pokorné, zlomené. A to mu stroj nikdy dát nemůže.

Marián Možucha je expertem na AI v oblasti bezpečnosti, etiky a regulací a zároveň autorem několika stovek rozhovorů, podcastů a seminářů o AI z pohledu křesťana. Jeho cílem není umělou inteligenci zbožšťovat ani démonizovat, ale střízlivě poukázat na její mnohá omezení a rizika.

Všechny zmiňované zdroje (linky):  http://bit.ly/45O7aPT