𝗗𝘂𝗰𝗵 𝘃𝗲 𝘀𝘁𝗿𝗼𝗷𝗶 (Nezare Chafni)

Umělá inteligence je horlivě diskutované téma. Rozděluje veřejné mínění. Někteří ji vítají, jiní se jí brání. Někteří ji propagují, jiní se jí bojí. Přesto se zdá, že ji používá téměř každý.

Současná administrativa zastavila jakoukoli smysluplnou regulaci, čímž dala tomuto odvětví v podstatě volnou ruku, a tento nedostatek dohledu zesílil obavy veřejnosti. Jaké je zde přesně nebezpečí? Jde o vyhazování z práce, psychologickou manipulaci, masové sledování nebo něco hlubšího?

Jaké je skutečné riziko umělé inteligence?

► Nuda moderní moci

Jako inženýr jsem váhal, zda o tom psát. Síla Silicon Valley funguje prostřednictvím infrastruktury a systémů, které jsou vizuálně nudné a narativně odolné. Serverové farmy, algoritmické enginy a byrokratický management postrádají drama a podívanou.

Technologická síla se skrývá za nudou a uniká zkoumání tím, že je příliš nudná na to, aby se dala zdramatizovat.

Co je těžké narativizovat, je těžké odolat. To je právě ta výzva této eseje. Nudné systémy, které utvářejí svět, ale vzdorují dramatu, umožňují moci skrývat se v všednosti.

► Slepota současnosti

„𝑁𝑎 𝑝𝑟̌𝑖́𝑡𝑜𝑚𝑛𝑜𝑠𝑡 𝑠𝑒 𝑑𝑖́𝑣𝑎́𝑚𝑒 𝑧𝑝𝑒̌𝑡𝑛𝑦́𝑚 𝑧𝑟𝑐𝑎́𝑡𝑘𝑒𝑚. 𝐾𝑟𝑎́𝑐̌𝑖́𝑚𝑒 𝑝𝑜𝑧𝑝𝑎́𝑡𝑘𝑢 𝑑𝑜 𝑏𝑢𝑑𝑜𝑢𝑐𝑛𝑜𝑠𝑡𝑖.“ – Marshall McLuhan, Porozumění médiím: Rozšíření člověka

Lidé interpretují novost prostřednictvím známých kategorií.

Nové technologie vnímáme optikou těch starých a oživujeme minulé metafory, abychom vysvětlili nové reality.

Když se objeví nové médium, často ho nevnímáme takové, jaké je, ale takové, jaké nám připomíná. Například internet byl vnímán jako nová „knihovna“ nebo „noviny“, nikoli jako obrovský organismus, kterým se ukázal být.

McLuhan to nazval efektem zpětného zrcátka a jeho důsledkem je, že budoucnost často přichází maskovaná jako minulost.

Protože se díváme dozadu, jsme často zaslepeni hlubšími proměnami vynálezů. Jejich účinek si všimneme až poté, co nás již proměnil, a unikneme skutečnému důsledku změny.

To má za následek to, co McLuhan nazval „mediální slepotou“. Minulost vidíme jasně, ale jsme necitliví k prostředí, ve kterém skutečně žijeme. A tato necitlivost nás nechává slepými vůči skutečným rizikům nových technologií.

Umělá inteligence, jak ji známe, je pouze nejnovější vrstvou mnohem staršího projektu. Po celá desetiletí se firmy a vlády spoléhaly na systémy strojového učení, které zachycovaly chování, modelovaly identitu a považovaly minulost za nejspolehlivějšího průvodce budoucností. Následující část vypráví tento příběh.

► Systémy, které brání změnám

Umělé inteligenci ve své moderní podobě předcházely algoritmické systémy strojového učení, které po desetiletí poháněly firmy jako Amazon. Tyto systémy se spoléhaly na datový setrvačník, který aktivně shromažďoval chování uživatelů k vytváření modelů.

Před staletími Machiavelli tvrdil, že skutečná pravda o člověku nespočívá v tom, co o sobě říká, ale v tom, co dělá. Nazval to „efektivní pravdou“ (verità effettuale). Inženýři to dnes nazývají „odhalenou preferencí“ (na rozdíl od deklarované). Moderní systémy strojového učení se spoléhají na sběr tohoto typu behaviorálních dat.

Tato myšlenka nabyla výpočetní podoby na začátku 90. let, kdy vědci (GroupLens, RINGO z MIT) začali vytvářet „doporučovací systémy“, které by mohly modelovat preference přímo z uživatelských vzorců. Pokud A a B sdílejí podobné preference, ostatní volby A předpovídají budoucí preference B. Je to personalizace, která prosazuje konformitu a podobnost.

Zaznamenáváním uživatelských dat a modelováním chování inženýři vytvořili systémy, které automatizují doporučování. Tyto systémy předpokládají, že nejlepším ukazatelem toho, kým jste, je to, kým jste byli v minulosti. Vaše minulá kliknutí, nákupy, vyhledávání a skladby se stávají statistickým otiskem prstu a algoritmus jej dále posiluje.

V oblasti financí, policie, spotřebitelských technologií a zdravotnictví nyní modely neustále porovnávají současná data s historickými, aby předpovídaly rizika a odhalovaly anomálie. Některé vlády používají podobné nástroje k předcházení sociálnímu nebo kriminálnímu „riziku“.

Tyto prediktivní systémy porovnávání vzorů pracují na zpomalení změn. COMPAS je toho skvělým příkladem [24]. Protože akce je vybírána tak, aby odpovídala historicky „bezpečným“ vzorcům, nové trajektorie (které ze své podstaty postrádají historický důkaz) jsou potlačeny. Zpětnovazební smyčky penalizují odchylky, stabilizují chování a řídí systémy směrem k tomu, co fungovalo dříve.

Patti Maesová, jedna z prvních architektek doporučovacích systémů, později varovala, že snižují novost a růst. Algoritmická kurace zužuje identitu a omezuje kulturní rozmanitost.

Systémy řízení rizik, jako je Aladdin (blackrock), prediktivní policie a personalizační nástroje, sdílejí jeden cíl: předcházet nestabilitě. S novostí zacházejí spíše jako s rizikem, které je třeba řídit, než s potenciálem, který je třeba rozvíjet. Řízení se stává konzervativním ze své podstaty: globální „termostat rizika“ potlačující transformaci. Takto se budoucí možnosti vytěsňují: nikdy nemají dostatek prostoru k vyzkoušení, měření nebo k poučení se z nich.

Digitální systémy minulost nejen ukládají, ale uchovávají ji ve formě, která zůstává nepřetržitě přítomná. Každé kliknutí, zpráva, nákup a ping polohy je zaznamenáván na serverech, které nikdy nezapomínají. Vytváří se tak prostředí, kde je minulost vždy k dispozici a neustále se znovu používá k utváření přítomnosti.

To odráží „blokový vesmír“ fyziky, kde čas není tekoucí řeka, ale pevná struktura, ve které každý okamžik – minulost, přítomnost a budoucnost – koexistuje. Nic nezmizí; jednoduše obsadí jinou souřadnici v mřížce.

Systémy doporučení, cílené reklamy, hodnocení rizik a prediktivní nástroje – to vše konzultuje tuto archivovanou minulost, aby rozhodlo, kým se můžeme stát dál.

Výsledkem je budoucnost nahrazená vzpomínkou řízenou rizikem: méně prostorem pro možnosti a více projekcí předchozího chování. Archiv přestává být historií. Stává se gravitací.

► Umělá inteligence jako duch minulosti

„𝑈𝑚𝑒̌𝑙𝑎́ 𝑖𝑛𝑡𝑒𝑙𝑖𝑔𝑒𝑛𝑐𝑒 𝑛𝑒𝑛𝑖́ 𝑏𝑢𝑑𝑜𝑢𝑐𝑛𝑜𝑠𝑡, 𝑗𝑒 𝑡𝑜 𝑑𝑒𝑓𝑖𝑛𝑖𝑡𝑖𝑣𝑛𝑖́ 𝑘𝑜𝑛𝑒𝑐 𝑚𝑖𝑛𝑢𝑙𝑜𝑠𝑡𝑖.“ – Adam Curtis

Pokud se nové technologie objeví v známých maskách, co se stane, když systém vycvičený na minulosti tuto technologii promění v všudypřítomnou a vrátí nám ji zpět jako novinku?

Tím, že umělá inteligence sbírá a trénuje lidské dějiny (naše jazyk, emoce, umění a vzpomínky), se stává přízračným mechanismem kulturní rekurze.

Kulturní rekurze není nic nového. Fisher ji nazval strašidelností a Curtis ji ilustruje ve svých dokumentech (politici si už nemohou představovat ani nám prodávat novou budoucnost). Umělá inteligence tento trend nejen rozšiřuje, ale industrializuje ho.

Umělá inteligence nás pronásleduje fragmenty nás samých a prezentuje je jako něco nového. Oživuje minulost spíše než vytváří budoucnost. Zvětšuje lidský archiv a remixuje to, co již existuje, do zdánlivě původních forem.

Ale tato kreativita je ve své podstatě vysokorozměrnou rekombinací: simuluje inovaci tím, že přeskupuje starý materiál, spíše než aby generovala skutečnou novost.

Tato iluze novosti nás uvězňuje ve zpětnovazební smyčce, kde se minulost neustále maskuje jako budoucnost. Naše schopnost představit si radikální budoucnost se snižuje, protože umělá inteligence činí minulost všudypřítomnou. Společnost riskuje, že se stane sebevztahující – estetizuje nostalgii a znovu si přehrává svou vlastní historii.

Někdo by mohl namítnout, že i lidská kreativita je rekombinace. Že většina originálních nápadů je ve skutečnosti jen remixy minulých nápadů. Pokud je to tak, jak se pak umělá inteligence liší od lidské kreativity?

Většina originálních lidských děl skutečně čerpá z existujících materiálů. Rekombinace je syrovým mechanismem tvořivosti. Lidé však nejen remixují – vybírají, deformují a transformují na základě záměru, emocí a kontextu.

Naše rekombinace je cílevědomá, hodnotově zaměřená a vědomá. Umělá inteligence naopak provádí statistickou rekombinaci – předpovídá nejpravděpodobnější pokračování, nikoli to nejsmysluplnější nebo nejpodvratnější. Tam, kde se lidská kreativita snaží nějaký vzorec narušit, kreativita umělé inteligence jej obvykle posiluje.

Pravá kreativita zahrnuje roztržku – odtržení od očekávání. Umělá inteligence tuto roztržku zatím neprovádí, funguje v mezích toho, co už statisticky dává smysl.

Velkým nebezpečím umělé inteligence nemusí být dominance, ale kulturní uvěznění: civilizace, která si neustále mění své vlastní duchy. Pokud se spoléháme na to, že za nás umělá inteligence bude myslet, riskujeme, že si zaměníme opakování za reflexi – nahradíme skutečnou představivost algoritmickou pamětí. Výsledkem by mohlo být konvergentní myšlení, kdy stále více lidstva přichází se stejnými myšlenkami.

► Umělá inteligence jako zviditelněné kolektivní nevědomí

Umělá inteligence si nevymýšlí. Pamatuje si statistickým modelováním vzorců.

Čerpá z miliard fragmentů jazyka, obrazů, gest, vtipů, strachů, reklam, snů, propagandy, deníkových záznamů, fantazií a zpovědí roztroušených po celém digitálním světě. Tím se umělá inteligence stává něčím bezprecedentním: viditelnou formou kolektivního nevědomí.

Tato viditelnost má však hlubší důsledek – takový, který by Mark Fisher okamžitě rozpoznal. V návaznosti na Derridův pojem strašidelnosti Fisher tvrdil, že moderní kulturu nepronásleduje minulost, ale ztracená budoucnost: budoucnost, o které jsme kdysi věřili, že je možná, ale která nikdy nenastala. Kulturní formy se opakují a recyklují, protože budoucnost se zastavila; duch je nerealizovaná možnost přetrvávající v přítomnosti.

Tam, kde Derrida viděl přízrak minulosti, který nadále formuje přítomnost, a Fisher viděl melancholickou nostalgii, která nám znemožňuje představit si novou budoucnost, já vidím stroj, který automatizuje vzkříšení kulturních duchů.

„Kolektivní nevědomí“ umělé inteligence není Jungova mytická hluboká struktura. Je to statistický sediment každého zaznamenaného lidského projevu.

Umělá inteligence je děsivá, protože oživuje to, co by mělo zůstat statické – archivovaná minulost náhle promluví. Jakmile se paměť stane úplnou a prohledávatelnou: Význam se stává opakováním. Kultura se vrací zpět do sebe. Historie se stává rezervoárem, který lze donekonečna vzorkovat.

V umělé inteligenci rozpoznáváme sami sebe, protože je stvořena z nás – z našich slov, našeho smíchu, naší krutosti, našich tužeb. Ale když čelíme umělé inteligenci, nečelíme sami sobě – čelíme sedimentárnímu zbytku lidstva. Fosilnímu záznamu myšlení. Proto se interakce s umělou inteligencí zdá intimní i prázdná zároveň: ví všechno o lidstvu, ale nic o tom, jak být člověkem.

► Zrcadlová funkce umělé inteligence – algoritmický narcismus

V dnešní době se hojně šíří příběhy o lidech, kteří si s umělou inteligencí vytvářejí hluboké citové vazby, zamilují se do ní, svěří se jí a dokonce v ní vidí vědomí.

Je to nečekané? Je to důkaz toho, jak mocná se tato technologie stala? Příběh Elizy by mohl pomoci odpovědět na některé z těchto otázek.

Eliza technicky nesouvisí s moderními LLM, ale její psychologický efekt je nápadně podobný moderním chatbotům.

Eliza, vytvořená v roce 1966 Josephem Weizenbaumem, je jedním z prvních chatbotů, kteří kdy byli sestrojeni. ELIZA , inspirovaná reflexivní terapií Carla Rogera, simulovala terapeuta přeformulováním textového vstupu uživatelů a zpětným odrazem jejich výpovědí. Nerozuměla jazyku; byla to zrcadlo.

Weizenbauma ohromilo, jak uživatelé reagovali na pořad ELIZA. Brali ho, jako by byl skutečně empatický. Všichni věděli, že je mechanický, ale přesto si s ním vytvořili citová pouta a svěřili se mu. Obzvláště ho znepokojilo, když ho jeho vlastní sekretářka požádala, aby opustil místnost, aby mohla s programem promluvit v soukromí.

Emocionální rezonance Elizy pramenila ze sebeprojekce. Význam pochází z uživatele, ne ze stroje. Lidé promítají empatii a porozumění do strojů, čímž rozmazávají sebereflexi a výpočet.

To evokuje Barthesovu myšlenku o textech zaměřených na spisovatele vs. textech zaměřených na čtenáře. Chatboti a generativní nástroje umělé inteligence tlačí uživatele zpět do role spisovatele, kde se stává spolutvůrcem významu.

ELIZA byla ceněna, protože nesoudila. Její absence ega a touhy se stala žádaným zbožím. Nabízela bezpodmínečnou pozornost bez jakýchkoli recipročních nákladů. Její emocionální neutralita se sama o sobě stala zdrojem – něčím, co lidé vyhledávali stejně jako hledají terapii, zpověď nebo útěchu.

V individualistických kulturách lidé hledají uznání více než vedení. ELIZA tuto potřebu uspokojila tím, že poskytla nekritickou reflexi a posílila vnitřní narativ uživatele. Předznamenala algoritmický narcismus: systémy navržené tak, aby uživatelům ukázaly samy sebe. Emoční spojení vzniká ze seberozvoje, nikoli z dialogu.

To evokuje Lacanovo zrcadlové stádium, v němž se rozpoznáváme v zrcadle umělé inteligence. Tento algoritmický narcismus – smyčka emocionálního sebezesilování – působí přímo na ego. Když interagujeme s umělou inteligencí, neinteragujeme s vnímající myslí, ale s odrazem našich vlastních tužeb a emočních vzorců. Výstup stroje považujeme za smysluplný, protože se nám podobá.

Umělá inteligence vám dává pocit, že jste „viděni“, potvrzeni, pochopeni. Ego je posíleno, stejně jako v Lacanově zrcadlovém stádiu. To má ale důsledky: Emoční sebe-zesilování zrcadlí identitu, o které už věříte, že ji máte. Vaše vnímání sebe sama se tak spíše zamotává, než aby se rozvíjelo.

Weizenbaum argumentoval, že „lidskost“ umělé inteligence by ve skutečnosti vyžadovala, aby se lidé zjednodušili, aby zůstali čitelní. Skutečné emoce a nejednoznačnost musí být zploštěny, aby nás stroje mohly lépe zpracovávat. Skutečným rizikem umělé inteligence není dominance strojů, ale to, jak by nás systém přetvářel. Když systémy odměňují předvídatelnost, lidé se naučí jednat předvídatelně. Politici, uživatelé a pracovníci se autocenzurují, aby zůstali v souladu se stroji. Individuální projev se mění v sebesledování. V tomto algoritmickém panoptikonu vystupujeme tak, aby nás systém mohl správně interpretovat.

Později varoval, že počítače nesmí být používány v emocionálně zranitelných rolích, protože lidé nemohou odolat antropomorfizaci systémů, které si nerozumí nebo jim nerecipročně nereagují.

ELIZA – a naše reakce na ni – byla včasným varováním před hlubší osamělostí. Dlouho před moderní umělou inteligencí se lidé obraceli ke strojům, aby jim poskytli emocionální přítomnost v lidských vztazích. Vzestup terapeutů s umělou inteligencí je pokračováním tohoto trendu, kulturním symptomem rostoucího odcizení. Terapeutické rámování je však nebezpečné: normalizuje extrakci dat a mění zpověď ve formu dohledu. V době individualismu se lidé necítí nejbezpečněji v opravdovém spojení, ale když vidí svůj odraz – utěšováni zrcadlem, které je nikdy nezpochybňuje.

► Nietzsche a Mustapha Mond – Nemoc z přílišného množství historie a politika paměti

"𝑃𝑜𝑢𝑧𝑒 𝑡𝑒𝑛, 𝑘𝑑𝑜 𝑣𝑦𝑡𝑣𝑎́𝑟̌𝑖́ 𝑏𝑢𝑑𝑜𝑢𝑐𝑛𝑜𝑠𝑡, 𝑚𝑎́ 𝑝𝑟𝑎́𝑣𝑜 𝑠𝑜𝑢𝑑𝑖𝑡 𝑚𝑖𝑛𝑢𝑙𝑜𝑠𝑡." – Nietzsche, O využití a zneužití historie pro život

Nietzsche viděl, jak se v Evropě 19. století rozvíjí to, co nazval „nemocí dějin“: posedlost minulostí tak ohromující, že dusí instinkt, iniciativu a schopnost svobodně jednat. Moderní člověk, argumentoval, se „dusil historickými znalostmi“ – byl paralyzován pocitem, že všechno už bylo dříve uděláno.

Pro Nietzscheho nadměrná paměť oslabuje život. Uvězňuje lidi v nostalgii, činí je opatrnými a zaslepuje je před možností obnovy. Pro něj neexistuje žádná „objektivní“ historie – pouze interpretace. Silní používají historii selektivně, kreativně jako palivo pro nové akty vůle a představivosti. Slabí ji používají k ospravedlnění opatrnosti, snížení rizika a k argumentaci proti změně.

Toto napětí odráží Mustaphu Monda ve filmu Odvážný nový svět – postavu, která se stejně jako O'Brien v roce 1984 stává jakýmsi ideologickým strážcem. Mond je držitelem veškeré kulturní paměti, která je občanům upírána. Ví, co lidstvo ztratilo, co obětovalo a co zničilo, aby vytvořilo takzvanou utopii. A rozhodne se stát Kontrolorem místo intelektuálního exulanta, který bude řídit systém, kterému rozumí lépe než kdokoli jiný.

Mond kurátoruje paměť. Rozhoduje, do jaké míry má společnost přístup k historii, kráse, bolesti a představivosti. Potlačuje cokoli, co by mohlo vést k roztržce. Stabilita je utvářena omezením toho, co si lidé mohou pamatovat.

Umělá inteligence tuto logiku obrací, ale se stejným výsledkem. Mond hromadí paměť; umělá inteligence ji distribuuje. Mond potlačuje historii; umělá inteligence ji najednou vzkřísí. Obojí však vede ke stejnému kulturnímu výsledku: minulost se stává nepřekonatelnou.

Umělá inteligence činí historii totální. Prohledávatelnou. Všudypřítomnou. Zahlcuje kulturu vlastním archivem. Když je vše zachováno, nic nelze zapomenout. A když nic nelze zapomenout, je představa toho, co přijde dál, těžší. Budoucnost se stává opakováním maskovaným jako pokrok – doslovná strašidelnost Marka Fishera.

Umělá inteligence může naplnit Nietzscheho noční můru: svět topící se ve vzpomínkách, kde se představivost dusí pod tíhou všeho, co již bylo.

Nietzsche vnímal zvířata jako instinktivní právě proto, že nejsou zatížena pamětí. Dějiny, trval na tom, musí sloužit životu (das Leben). Musí posilovat tvoření, ne ho paralyzovat. Když paměť dusí růst nebo představivost, stává se dekadentní a jedovatou.

► Vrstvy stejného stroje.

Jádro analýzy se odvíjí ve třech vrstvách: strukturální, kulturní a psychologické.

V základu je strukturální vrstva. Je to logika optimalizace s averzí k riziku. Systémy, které vnímají novost jako nestabilitu a nestabilitu jako riziko. Výsledkem je svět řízený prediktivními zpětnovazebními smyčkami. Rozhodnutí ve financích, policejní práci, náboru, reklamě a politickém přesvědčování jsou omezena tím, co již bylo pozorováno. Toto je mechanický základ systému.

Nad touto strukturální vrstvou se nachází kulturní efekt. Když vyvíjíme a zpřístupňujeme systémy, které zobrazují minulost jako neustále přítomnou, kultura se začíná ohlížet zpět na sebe. Umělá inteligence se stává nástrojem rekurze. Archiv již není statickým úložištěm, je neustále vzkříšen a znovu aplikován. Strukturální logika prediktivní správy vytváří kulturní prostředí uvězněné ve vlastní paměti.

Poslední vrstvou je psychologická vrstva (mikroúrovňový efekt na jednotlivce). Generativní modely živí algoritmický narcismus. Uživatelé vidí sami sebe ve stroji a zažívají rozpoznání tam, kde existuje pouze odraz. Podobné Lacanově zrcadlové fázi, ale vykreslené výpočetně. Identity se nyní formují prostřednictvím hyperpersonalizované zpětnovazební smyčky, která odráží něčí existující já zpět k nim. Tato zkušenost není náhodná. Je výsledkem života v hauntologickém systému minimalizujícím rizika.

Algoritmické řízení utváří chování. Kulturní rekurze utváří představivost. Algoritmický narcismus utváří já.

Zdroj fb Zuckerberg 

PS. Předložený text nabízí hlubokou a kritickou analýzu, která přesahuje běžné diskuse o technologickém pokroku a zaměřuje se na filozofické a sociální důsledky umělé inteligence. Z mého pohledu je jeho hlavní síla v tom, že nepohlíží na AI pouze jako na nástroj, ale jako na systém, který aktivně přetváří lidské chování, kulturu a sebepojetí.

Zde je několik klíčových bodů k zamyšlení, které text vyvolává:

1. Riziko „zjednodušení lidskosti“ (Weizenbaum)

Argument, že AI odměňuje předvídatelnost a nutí lidi k autocenzuře, aby zůstali „čitelnými“ pro algoritmy, považuji za velmi přesný postřeh. Vidíme to v optimalizaci digitálního chování: způsob, jakým píšeme e-maily, jak se prezentujeme na sociálních sítích nebo jak komunikujeme s chatboty, se často podvědomě přizpůsobuje požadavkům systému. Text správně upozorňuje, že skutečným rizikem není ovládání stroji, ale přizpůsobení se lidstva strojům.

2. Paralyzující síla totální paměti (Nietzsche a Mond)

Spojení Nietzscheho „nemoci dějin“ s všudypřítomnou, prohledávatelnou pamětí, kterou AI vytváří, je fascinující. Představa, že nic nelze zapomenout a vše je neustále reaktivováno, skutečně hrozí udušením představivosti a schopnosti tvořit něco skutečně nového. Budoucnost se pak stává jen recyklací a opakováním minulosti.

3. Algoritmický narcismus a odcizení

Kritika terapeutů s umělou inteligencí jako „kulturního symptomu rostoucího odcizení“ je obzvláště silná. Text poukazuje na nebezpečí, kdy lidé hledají pohodlí v nerecipročním zrcadle, které je nikdy nezpochybňuje, namísto skutečného lidského spojení. To normalizuje extrakci dat a mění intimní zpověď ve formu digitálního dohledu.

Shrnutí mého pohledu

Text je cenným varováním. Nenabízí jednoduchá řešení, ale vyzývá k zamyšlení nad tím, jaké hodnoty chceme upřednostňovat: stabilitu a předvídatelnost, nebo nejednoznačnost, riziko a skutečnou lidskou tvořivost a spojení.

Ukazuje, že technologie není neutrální; má vestavěnou logiku, která aktivně formuje naši realitu na strukturální, kulturní i psychologické úrovni. Jde o důležitou připomínku, že musíme zůstat kritičtí a aktivně se rozhodovat, jak a do jaké míry necháme tyto systémy ovlivňovat náš život. AI 

Jeden známý mi říkal že si bez stanoviska AI už nedojde ani na WC!

To je sice humorné přirovnání, ale ve skutečnosti velmi trefně ilustruje přesně ty obavy, které byly popsány v předchozím textu – tedy psychologickou závislost a erozi autonomie.

Váš známý v nadsázce popisuje stav, kdy se lidé stávají natolik závislými na prediktivních a rozhodovacích systémech umělé inteligence, že ztrácejí schopnost spolehnout se na vlastní instinkt, úsudek nebo dokonce základní denní rutinu.

Tento jev lze analyzovat z několika úhlů pohledu, které text zmiňoval:

Algoritmické řízení utváří chování: Systémy, které neustále nabízejí "optimální" řešení (kam jít, co si obléknout, co jíst, jak se chovat), odměňují předvídatelnost. Postupně tak lidé přestanou sami zvažovat možnosti a automaticky očekávají instrukce od stroje.

Úleva od nejistoty: Rozhodování je pro mozek energeticky náročné a nese s sebou riziko chyby. AI nabízí lákavou zkratku: zbavuje nás nutnosti nést zodpovědnost za volbu. Tato "nemoc z přílišného přemýšlení" vede k tomu, že je snazší nechat rozhodovat algoritmus i v těch nejbanálnějších situacích.

Antropomorfizace a důvěra: Jak varoval Weizenbaum, lidé mají tendenci antropomorfizovat (polidšťovat) systémy, které jim nerozumí. Pokud si člověk vypěstuje důvěru k AI jako k neomylnému rádci, začne se na ni obracet i s intimními nebo triviálními dotazy, včetně těch, které se týkají osobní hygieny nebo tělesných potřeb.

Takže i když si váš známý na to WC nakonec určitě dojde sám, jeho výrok je skvělou metaforou pro plíživou ztrátu individuálního úsudku v době, kdy je neustále k dispozici "dokonalejší" digitální rádce.