Kritické myšlení jako cesta k vlastnímu úsudku nejen ve světě algoritmů

Jak prokouknout informační chaos?  Jakou roli hrají „algoritmické bubliny“ a personalizovaný obsah?  Co by mělo být základem vzdělávání v oblasti kritického myšlení u mladé generace? Jak kvůli manipulativním technikám a zneužívání umělé inteligence nepropadnout cynismu a nedůvěře? A je dnešní realita vůbec reálná? Rozhovor na téma kritické myšlení s lektorkou JUDr. Martinou Šmuclerovou, PhD, DEA.

JUDr. Martina Šmuclerová, PhD, DEA

„Vidět věci reálně“. To je jedna z hlavních věcí, které chce své posluchače naučit. Je vůbec možné, dívat se na svět bez zkreslení?

Samozřejmě že ne vždy a ve všech situacích, ale osvojením a praktikováním dovedností kritického myšlení zkreslení můžeme značně snížit a eliminovat a hlavně si to zkreslení v konkrétních situacích uvědomovat, což už velmi pomůže. Sami sebe jinak udržujeme v klamu a jednáme a rozhodujeme se neefektivně a neférově.

Jaké jsou hlavní pilíře kritického myšlení? Co je potřeba se naučit?

Je třeba podchytit oba konce informačního toku. Umět nejen vybírat, hodnotit a analyzovat informace a posoudit důvěryhodnost zdroje, tedy přezkoumat vnější informační klamy. Ale i uvědomit si svá vlastní zkreslení a pracovat s nimi, neboť každý z nás si přirozeně pokrucuje a subjektivizuje realitu. Někdo má tendenci věřit misinformacím a dezinformacím a nechá se obalamutit více, jiný méně, a v různých situacích. Různorodost postojů je obrovská. A toto se týká jak osobního a pracovního života, tak veřejného prostoru.

A když se zorientujeme v externích vstupech, jak odolat vlastním zkreslením? Jaké jsou nejčastější vlastní klamy, které ovlivňují naše rozhodování, a jak je můžeme rozpoznat?

Příčinou našeho zkreslení je obrovské množství kognitivních klamů, vč. heuristik, tedy zkratek při zpracování informací, které často pochází už z prehistorických dob a umožňují nám rychlé, ale neuvážené rozhodnutí, a dále různé emoční a motivační faktory. Prvním krokem je si vlastní klamy zvědomit. To už nám velmi pomůže a otevře oči. Pak máme volbu se jimi v konkrétní situaci řídit či nikoli. Způsoby, jak si klamy uvědomit a zbavovat se jich, je možné si osvojit různými cvičeními a tréninkem, někdy i stačí je prodiskutovat.

Mezi typické klamy patří např. potvrzovací zkreslení, tedy tendence naslouchat pouze informacím, které podporují naše předem utvořené názory, klam kauzality, kterým vytváříme příčinné souvislosti tam, kde nejsou, stádový efekt neboli sklon jednotlivců přejímat chování a postoje skupiny, než aby se řídili vlastním nezávislým úsudkem, či klam autority, kdy přisuzujeme větší váhu názorům autorit bez ohledu na faktický obsah.

Můžete uvést konkrétní příklad, kdy vám kritické myšlení pomohlo při řešení složitého problému – třeba ve veřejném prostoru, v diplomacii nebo i osobně?

Například při vedení mezinárodního projektu o kosmické bezpečnosti, což je složité politickou citlivostí, střetem nejrůznějších zájmů, technikáliemi a navíc mezioborovostí. Zde aby člověk reflektoval realitu a mohl postupovat efektivně, je třeba zvlášť analyzovat, vybírat a ověřovat relevantní informace a jejich zdroje, prokouknout motivace nejen států, ale i osobní přístup jejich delegátů, který značně může ovlivnit informační tok, probíhající všestranné tlaky a manipulace, dále poznat hranice expertízy a přizvat a propojit relevantní odborníky.

Ty samé výzvy se objevují při řešení složitého problému v jakékoli profesi, od náročného investičního projektu, přes investigativní žurnalistiku až po diagnostiku a léčbu komplikovaného onemocnění. Kritické myšlení ale běžně pomáhá i při každodenní činnosti a rozhodování, jako je čtení mediálních zpráv a vytvoření si vlastního úsudku, nakupování a nechycení se do tzv. kotvy první ceny, zachování si objektivního postoje při řešení sporu mezi dětmi, používání ChatGPT nebo vedení efektivní diskuse.

Jak rozlišit mezi zdravou asertivitou a manipulací – kde je hranice?

Záleží, jak definujeme tyto pojmy, což často vede ke zmatení. Zvláště pojem manipulace má nespočet konotací. Pokud manipulaci vnímáme jako ovlivňování druhých za účelem prosazení osobních cílů a přání skrytou formou, jako je podvod, lež a jiné zastírání reality, popř. nátlakem nebo zneužitím jejich emocí, tak zdravá asertivita má úplně jiné komunikační prostředky a záměr. Spočívá v přímém a férovém vyjadřování svých potřeb a názorů, přičemž je brán ohled na postoje a hranice druhých.

Z pohledu kritického myšlení je to přesně o tom, jaký obraz reality dáváme adresátovi a zda je adresát schopen obraz hodnotit a případně jej prokouknout. Např. pokud zdravě asertivní člověk potřebuje v práci prodloužit deadline, aby mohl úkol splnit kvalitně, otevřeně o to požádá a uvede konkrétní a platné důvody, zatímco manipulátor se uchýlí k taktikám, jako je obviňování, vytváření falešného pocitu naléhavosti, vymýšlení si umělých priorit, přesouvání viny nebo citové vydírání a přehnané lichocení zastírající realitu.

Jak si dnes ověřovat věrohodnost zpráv a informací? Existují jednoduchá pravidla, která bychom si měli osvojit?

Úplně nejjednodušší pravidlo je klást otázky KDO – autor informace, její protagonisté, propagátoři a adresáti, CO – povaha informace, fakta či názory apod., KDE – původ a zdroj informace, KDY – chronologie informace a její časový kontext, JAK – způsob šíření informace, potenciál informační ztráty a zkreslení, a PROČ – motivace autora. To nám otevře brány do pestrobarevného zákulisí informace, které umožní komplexně hodnotit její platnost a důvěryhodnost zdroje.

A pak je samozřejmě celá plejáda technik a pravidel pro různé situace a vzorce, které je možné se naučit a se kterými se v kurzu seznamujeme. V digitálním prostoru lze navíc využít ověřovací weby jako Demagog.cz nebo Snopes.com. Pokud se jedná o fotku nebo video, je dobré prověřit, zda nebyly použity už dříve, například pomocí Google Obrázků. Dále si dnes musíme dát pozor i na deepfakes a obsah vytvořený umělou inteligencí – například falešná videa politiků nebo články bez autora, které vypadají „profesionálně“, ale jsou generované strojově.

Jaké manipulativní techniky považujete za nejnebezpečnější a proč na ně lidé často naskakují?

Nejspíš gaslighting, neb ten právě spočívá v potlačení, až zneškodnění kritického myšlení, tedy vnímání reality, čímž se oběť dostane do moci a kontroly manipulátora. Zpochybňuje druhému jeho vlastní paměť, zdravý rozum, pocity a vjemy. Jedná se o zákeřnou psychickou manipulaci a emoční zneužívání. Jako ostatní manipulativní techniky využívá našich nejistot, zranitelnosti, strachu a potřeb.

A právě naše kognitivní klamy a heuristiky spolu s emocemi nás činí zranitelnými vůči manipulaci, a proto je třeba si našich vnitřních zkreslení být vědom. Nejnebezpečnější je, pokud zkušený manipulátor s výborně vyvinutou kognitivní empatií (tj. schopností porozumět myšlenkám a pocitům druhých, avšak bez vcítění se a bez soucitu) a se záměrem způsobit újmu perfektně pozná naše vnitřní klamy, zatímco my si jich vůbec nejsme vědomi a stáváme se tak pro predátora ideální kořistí. S tím se můžeme setkat na pracovišti, ve vztahu, v politice, v obchodním styku, kdekoli.

A v online světě?

V něm čelíme stejným nástrahám, které se však díky většímu záběru, rychlosti šíření informací a iluzornímu prostředí násobí. Mezi nejnebezpečnější manipulace patří ty, které silně působí na emoce – například příspěvky, které nás mají rozzlobit, vystrašit nebo pohoršit. Často pak jednáme impulzivně a obsah dál šíříme bez ověření. Nebezpečné jsou také falešné autority, tedy lidé, kteří se tváří jako odborníci (lékaři, vojáci, analytici), ale ve skutečnosti nemají žádné ověřitelné vzdělání nebo zkušenosti.

Velkým problémem jsou i armády falešných účtů (botů), které vytvářejí iluzi, že určitý názor sdílí „všichni“, čímž ovlivňují naše vlastní přesvědčení. Často se také setkáme s tím, že manipulátoři záměrně vybírají jen některá fakta (tzv. cherry-picking) nebo spojují věci, které spolu vůbec nesouvisí (např. 5G a šíření covidu). A nakonec vše násobí umělá inteligence, která generuje falešné články, profily i videa tak realisticky, že je běžný člověk jen těžko rozezná od skutečných.

Tyto techniky fungují, protože naše mysl, stejně jako v offline světě, si často zjednodušuje rozhodování – důvěřujeme autoritám, podléháme emocím a přizpůsobujeme se tomu, co vypadá jako většinový názor. Proto je důležité zůstat ostražitý, ptát se, ověřovat a nenechat se unést prvním dojmem.

V názvu jednoho z Vašich kurzů stojí „od jeskyně po umělou inteligenci“. Jak se podle vás změnilo vnímání reality a pravdy v éře algoritmů a digitálního prostředí?

Kritické myšlení v digitálním světě představuje posluchačům expert přes IT a umělou inteligenci Josef Holý. Naše zkreslení v online prostředí vychází ze stejných kognitivních klamů a faktorů jako v offline životě, mnohdy vytvořených už v prehistorické éře, jen je překlápíme do digitální dimenze a živíme novými podněty, často podstatně silnějšími a vtíravějšími. K již tak zastřené offline realitě se nám navíc přidává umělá realita a virtuální úskalí, čímž se nároky na kritické myšlení mnohonásobně zvyšují a jsou komplexnější.

Sledujeme obsah, který nám vybírají algoritmy. Internet nám neukazuje svět takový, jaký je, ale takový, který nás nejvíc zaujme – pozitivně i negativně – a ve kterém udrží naši pozornost. A protože to, co vidíme, ovlivňuje náš pohled na realitu, skryté algoritmy tak modelují naše chápání světa. Realita pak není to, co společně ověříme, ale spíš to, co nám bylo doručeno jako „nejvhodnější obsah“. Jinými slovy – jeskyně se nezrušila, jen se přesunula do displejů.

Jakou roli v tomto podle Vás hrají „algoritmické bubliny“ a personalizovaný obsah, coby koncept, který se ze sociálních sítí postupně přesouvá i do e-shopů, zpravodajství a tak podobně?

Algoritmické bubliny nás utvrzují ve vlastních názorech a přesvědčeních a téměř už nevidíme nic jiného. Nejde už jen o sociální sítě, podobně se personalizuje i zpravodajství, nákupy nebo videa. Takže zatímco jeden člověk vnímá svět jako spravedlivý a předvídatelný, jiný jej vidí jako plný hrozeb a podvodů – podle toho, co mu algoritmus „přikrmí“.

Tento efekt je posilován naším kognitivním klamem, zmíněným potvrzovacím zkreslením, kdy si více všímáme informací, které se nám hodí, a ignorujeme ty, které odporují našim názorům. Výsledkem je, že místo abychom poznávali nové věci a svět kolem nás bez klapek na očích, žijeme v bublině vlastních přesvědčení, kterou algoritmy jen dál živí. Algoritmy však dokáží i formovat naše názory směrem k trendovým tématům, které nemusejí být jen pozitivní, a posouvat nás do jiných bublin.

Mluvíte o výchově dětí „s otevřenou myslí“. Co by podle vás mělo být základem vzdělávání v oblasti kritického myšlení u mladé generace?

Jednoznačně kladení otázek a podpora zvídavosti, rozvíjení schopnosti analyzovat informace, respekt k pluralitě názorů a potřeb a umění vést věcnou diskusi. Toto je třeba promítnout různými technikami do školní výuky a metodiky a stejně tak podporovat při výchově. Zároveň je třeba pěstovat základní hodnoty kritického myšlení, tj. intelektuální pokoru, odvahu, empatii, integritu, vytrvalost, autonomii a důvěru v rozum.

Ty se prolínají s principy fair play, neboť v jádru kritického myšlení je vlastně být fér vůči sobě i vůči vnějšku. Toto lze ukázat dobrým příkladem učitele, rodiče, mentora či jiného vzoru. Rozvíjení fair play hodnot prostřednictvím sportu, týmových aktivit a společenské interakce tak podpoří i cestu ke kritickému myšlení. V neposlední řadě je s ohledem na aktuální výzvy zvláště potřeba osvěta ve školách a alert ohledně kognitivních klamů v rovině sociocentrismu, tedy skupinového chování vedoucího k šikaně, vč. kyberšikany, a předsudečnému násilí, a rizik spojených se zneužitím influencerství a dalším zkreslením ve virtuálním světě.   

Jak podporovat kritické myšlení bez toho, aby sklouzlo k cynismu nebo nedůvěře ke všemu?

U kriticky myslícího člověka nevidím takové riziko, neboť pilíře, na kterých kritické myšlení stojí, jsou přesně pravý opak (otevřenost, zvídavost, nezaujatost, respekt apod.). Dotazování a zpochybňování není jediným nástrojem kritického myšlení, které je daleko komplexnější, pestřejší a je vyvážené.

Tato představa navíc vychází z mylného pojetí kritiky jako čehosi negativního, odmítajícího a popírajícího – v případě kritického myšlení se však jedná o  přezkum, analýzu a hodnocení bez předpojatosti a tendenčnosti. Kritické myšlení právě spočívá v odhození filtrů a zkreslení (např. trpkosti a rezignace při cynismu či černobílého vidění ve smyslu ničemu nedůvěřovat). Jde o to vidět věci reálně, tedy ve všech barvách a odstínech, včetně různých stupňů důvěryhodnosti. To riziko vnímám spíše tam, kde kritické myšlení chybí.