Člověk není měřítkem všech věcí, říká N. Katherine Hayles. Dokážeme vnímat svět očima jiných druhů?

N. Katherine Hayles
N. Katherine Hayles

N. Katherine Hayles je sice oficiálně literární teoretičkou, ale od počátku své kariéry se věnuje technologické kultuře, problémům vnímání nebo proměně lidství tváří v tvář novým technologiím. „Naše symbióza s komputačními médii je hlubší a hlubší,“ říká v rozhovoru, ve kterém rozebíráme umělou inteligenci, fitness aplikace nebo důvody, proč se vyplatí dívat se za hranici lidského světa – třeba na to, jak funguje kognitivní aparát rostlin.

Na úvod by mě zajímal váš názor na několik současných technologií. Začněme třeba u AlphaGo, umělé inteligenci schopné hrát deskovou hru go.

Obecně se má za to, že v go mnohem víc než v šachu záleží na intuici. Možných tahů je totiž násobně víc. AlphaGo, který vyvinula společnost DeepMind, se ale v roce 2016 a pak i rok nato podařilo porazit tehdejší světové šampiony. V té době byla AlphaGo nejlepším hráčem go na světě. V DeepMind pak vyvinuli nástupce, program AlphaGo Zero. Předchozí verze se učila z už proběhlých her a do jisté míry tak přejala lidský přístup. Neuronová síť AlphaGo Zero ale dostala jen základní pravidla a go si osvojila pouhým hraním sama proti sobě. V klání s AlphaGo pak AlphaGo Zero vyhrála nula ku stu. Má to zajímavé důsledky pro řešení problémů, se kterými se člověk nikdy nepotkal anebo na jejich řešení nestačí. Ukazuje se, že algoritmy pro hluboké učení a neuronové sítě si s nimi poradit mohou.

N. Katherine Hayles (*1943) je americká literární teoretička, profesorka na americké Duke University. Ve své práci propojuje technologie, přírodní a humanitní vědy. Ve své poslední knize Unthought z roku 2017 rozebírá nevědomé procesy, které ovlivňují jednání nás i jiných živých organismů.

A co říkáte na Tinder nebo aplikace pro sport, které sledují váš tep, výkon, uběhnutou vzdálenost a tak podobně? Ptám se proto, že by určitě šly nějak vztáhnout k vaší práci z 90. let. V ní jste mluvila o lidském a postlidském světě.

Oboje ukazuje, že lidské chování se čím dál víc mísí s komputačními médii. Fitness aplikaci by šlo chápat jako malou digitální protézu, která sleduje vaši aktivitu za vás. A některým lidem to může zlepšit zdraví a kondici. Samozřejmě to má i odvrácenou stranu a tou je komodifikace lidského chování. Firmy nás skrze ně sledují, sbírají data třeba o tom, co jíme, a pak je prodávají tomu, kdo zaplatí nejvíc. Naše symbióza s digitálním světem je komplexní problém s pozitivními i negativními dopady.

Jedna věc je sledování a dohled nad daty, ale někteří radikální kritici zároveň tvrdí, že nové technologie cíleně vytváří nové touhy, aby je pak společnosti mohly naplňovat. Co na propojení afektivního a technologického světa říkáte?

V posledních 10 nebo 15 letech došlo k rozvoji něčeho, čemu někteří říkají afektivní kapitalismus. Vychází z předpokladu, že komputační média fungují v časovém režimu mimo lidské vnímání. Bavíme se o milisekundách nebo mikrosekundách, mnohem menších úsecích, než jaké lidský mozek dokáže zpracovat. Jedním z příkladů je třeba reklama a jiná sdělení, která pracují s časovostí předcházející plnému vědomí. Nevědomé vnímání začíná fungovat nějakých 200 milisekund po smyslovém vjemu, vědomé až po zhruba půl vteřině. Vědomí je vždycky pozadu, což znamená, že tyto mikrotemporální média mohou jít naproti našim smyslům předtím, než máme šanci je vědomě interpretovat. Lidský afekt, emoce a naše reakce mohou být manipulovány pomocí zpráv, jež naše vědomí nezachytí a není schopné racionálně analyzovat, přijmout nebo odmítnout. Máme za to, že pro orientaci ve světě je důležité kritické myšlení, jenže se ukazuje, že na afektivní úrovni můžete k lidem promlouvat mimo racionální vnímání, respektive předtím, než racionalita může vůbec něco dělat. To má dopady na naši představu rozumného lidského subjektu a na podobu demokratické společnosti.

To zní, jako bychom byli v pasivní pozici. Dají se tyto mikrotemporality nějak obejít? Existuje pak vůbec prostor pro kritickou reflexi?

„Vznik superinteligence bude významnější událost než kroky korporací a států,“ říká filozof Bostrom

Nick Bostrom

Umělá inteligence pohání sociální sítě i naše telefony, za pár let prošla prudkým vývojem. Oxfordský filozof Nick Bostrom varuje, že se nám může stát osudnou. „Mohla by vzniknout AI, kterou vůbec nezajímají lidské hodnoty,” říká ředitel britského Institutu pro budoucnost lidstva. Jeho předpovědi zní jako z dystopického románu, vyplatí se mu ale naslouchat. Abychom se za pár let nedivili, jakou budoucnost nám stroje chytřejší než my připraví.

Hodně lidí to samozřejmě trápí, a to hlavně ve spojení s algoritmy, které dokážou velmi efektivně analyzovat vzorce v našich datech. Dokážou poznat, že máme tendenci k X, projevujeme preferenci k Y, ať už je to cokoliv. Proto mohou být podvědomá sdělení tak efektivní. Hodně to tím pádem souvisí s kontrolou nad vlastními daty. Proto se objevují volání pro nahrazení opt-out systému opt-in přístupem to by znamenalo, že byste museli dát jasný souhlas se sběrem a analýzou dat. Dnes je to v Americe naopak, pokud vám to vadí, musíte se cíleně chtít vyvázat. Takže otázky datového dohledu a komodifikace afektu a chování jsou těsně propojené.

Tím se dostáváme k vaší knize How We Think, Jak přemýšlíme, ve které rozebíráte nejen rozdíl mezi myšlením a vnímáním, ale taky mezi lidským a nelidským vnímáním. Současná teorie a filozofie se přitom do jisté míry také snaží na svět dívat nelidskou perspektivou. Jak mohou nelidské způsoby vnímání obohatit náš lidský pohled?

Důležité je si uvědomit, jak velká část lidského chování se děje nevědomě. V mé knize Unthought jsem popsala takzvané nevědomé vnímání. Jsou to neuronové procesy pod hranicí vědomí, které se ale podílejí na dějích pro vědomí nezbytných týkají se reprezentace vjemů, filtrování informací ze smyslových orgánů nebo rozpoznávání vzorů, které by jinak vědomí zahltily. Jakmile zjistíte, že vědomé vnímání tvoří ve skutečnosti jen relativně malou část lidského kognitivního aparátu, tak se vám otevřou paralely mezi lidským podvědomým vnímáním a vnímáním jiných biologických forem života. Všechny biologické organismy, včetně rostlin, mají kognitivní schopnosti. Kognice je spektrum, které začíná u jednoduchých rostlin a končí u sofistikovaných kognitivních systémů zvířat, savců a nakonec lidí.

Snažím se lidské vnímání umístit do mnohem širší kognitivní biosféry, kladu důraz na to, co s ostatními organismy sdílíme. Jakmile oddělíte vnímání a vědomí, můžete taky mluvit o nevědomé kognici komputačních médií. Digitální média totiž podle mě mají schopnost vnímat a s lidmi navazují symbiotický vztah naše vlastní vnímání rozšiřují a zesilují, a to mnoha různými směry.

V rozhovoru pro Sci-Arc jste použila hodně zajímavou paralelu mezi termitím hnízdem a obchodními algoritmy na burzách s cennými papíry. Pamatujete si na ni?

Na termitích koloniích je zajímavá distribuovaná kognice a její schopnosti. Každý individuální termit ve své hlavě nese jen několik málo věcí, ale skrze chemickou komunikaci s ostatními mohou vzniknout velmi komplexní vzorce chování a taky architektonické formy třeba termití hnízdo. V takovém rojovém ekosystému se mohou i bez vědomí objevit formy chování, kterých není žádný z jednotlivých termitů schopný.

V tomto smyslu se pak nabízí srovnání s hejny obchodovacích algoritmů. Takové algoritmy musí fungovat na mikrotemporální úrovni, v řádu mezi 3 a 5 milisekundami. Nemohou tak být příliš komplexní, jsou naprogramované pro pár základních úkonů. Ale když interagují s umělým ekosystémem ostatních obchodovacích algoritmů, může vzniknout velmi složité rojové chování s nepředvídatelnými důsledky. To se může nadále neočekávaně zesilovat a pak může vyústit třeba k bleskovým krachům. V roce 2010 se algoritmy dostaly do zpětnovazebných smyček a spirálovitě táhly ceny ke dnu. Burzu s akciemi museli na pět minut zavřít.

Zní to jako ideální prostředí pro využití teorie chaosu a komplexních systémů.

Tyto teorie byly specificky vyvinuté pro tvorbu simulací, ve kterých máte mnoho aktérů s jednoduchými pravidly, jejichž interakce mohou vést ke složitým věcem. Příkladem je například Conwayova Hra života, vyvinutá pro simulaci umělého života.

Díky, že jste to zmínila, protože Hra života byla moje první asociace. Dává například taky tušit odlišnosti, se kterými se vnímání projevuje na individuální a kolektivní, systémové úrovni. Když se na chvíli vrátíme k lidem, jak se v životě našeho druhu toto vzájemné působení projevuje?

Příkladů je mnoho. Jako bytosti s vysokou úrovní kognice cítíme neustálé, občas produktivní napětí mezi naším biologickým dědictvím, které nás předurčuje k určitým preferencím, a kulturou, z níž přebíráme často protichůdné hodnoty. Například populační genetici tvrdí, že nikdy nemůžete pořádně mluvit o evoluci, dokud nevezmete v úvahu otázku skupinového výběru. Skupinový výběr je definovaný jako proces, ve kterém členy své vlastní skupiny favorizujete oproti těm mimo ni, i když oba patříte ke stejnému druhu. A je snadné domyslet si, jak toto biologické dědictví vede k rasismu nebo v extrémním případě ke genocidě. Silné kulturní hodnoty mohou naše biologické předurčení ovlivnit, ale je to velmi těžké.

Na jednu stranu se bavíme o hranicích mezi lidským a umělým světem, ale zároveň tu máme sítě přístrojů takzvaného internetu věcí, chytrého domova a botů, kteří mezi sebou komunikují. Tato zařízení v sobě přitom mají zakódované kulturní hodnoty. Přijde mi, že vzniká jakýsi hybridní ekosystém, částečně vycházející z lidských hodnot, ale přitom svojí podstatou i způsoby vnímání strojový. Vidíte to stejně?

Ano. Zrovna jsem byla na konferenci v Helsinkách, která se jmenovala Morální stroje. Jejím cílem bylo podívat se na etické hodnoty, které jsou kódovány do algoritmů. Měly by být lidské hodnoty tím základním předpokladem pro algoritmické procesy? Nejsou nějaké předsudky, které by mohly nechtěně v programech skončit? S neuronovými sítěmi máme problém. Dokážou analyzovat data a detekovat v nich vzory, kterých si lidé nejsou vědomí, zapracovat je do vlastního chování a tím předsudky zesílit. Když používáme lidská data k trénování algoritmů, je potřeba se ptát, jaké hodnoty jsou v oněch datech přítomné a jaký budou mít dopad při praktickém použití programu. Dobrým příkladem je algoritmus pro najímání zaměstnanců, který měl posuzovat jejich kvalifikaci. Byl to program, co měl pomoci s obsazením vysokých pozic. Ukázalo se, že většinu žen předem vyřadil, protože v datech, z kterých se učil, byl zakódovaný předsudek, který pak systém využil při své vlastní činnosti.

Chci se ještě vrátit k živému světu. Zmínila jste kognitivní procesy rostlin a dalších organismů. Taková změna perspektivy, uvědomění podobnosti člověka a přírody, může mít docela velké politické dopady, nemyslíte?

Už nějakých 50 let probíhá podobná debata. V 70. letech vyšel slavný článek Should Trees Have Standing. Napsal ho právník a pojednává o tom, jestli by stromy taky neměly mít zastání u soudu. Dnes je to klasický příklad textu, který řeší otázky lidské neohleduplnosti směrem k ostatním druhům. Náš svět se orientuje především na co největší zisk, bez ohledu na zbytek životního prostředí. Ekolog Jason Moore nedávno vydal knihu Capitalism in the Web of Life, ve které tvrdí, že kapitalismus je, co se životního prostředí týče, ten nejdestruktivnější ekonomický systém, se kterým lidstvo kdy přišlo. Má tendenci se neustále rozšiřovat skrze levné jídlo, levnou energii, levnou práci, pomocí vykořisťování energetických zdrojů v jiných zemích nebo zneužívání obyvatel kolonií. Výsledkem je masivní ničení životního prostředí, které můžeme pozorovat poslední 4 století.

Otevřené hlavy jsou série rozhovorů s předními světovými intelektuály a intelektuálkami. Snažíme se představitosobnosti, které dokáží současnou realitu komentovat z nečekaných pozic a jejichž dílo překračuje hranice zavedených kategorií. Usilujeme o představení co nejširšího spektra názorů a myšlenkových proudů, které rezonují v současné společenské debatě v Západní Evropě, USA, Číně i dalších koutech světa a které mohou být zajímavé (i přes jejich kontroverzní či lokálnímu kontextu odcizený charakter) pro českého posluchače.

Myslím, že by se dala načrtnout historická trajektorie, na které by upřednostňování lidského vnímání vycházelo z humanistického osvícení. Zároveň v našich diskuzích o živém světě cítím ozvěny postantropocentrických, postlidských filozofií a uměleckých projektů. Vidíte to podobně?

Antropomorfismu nikdy nemůžeme uniknout, protože jsme lidé a věci vidíme z lidské perspektivy. Přesto se můžeme antropocentrismus snažit zkrotit, hlavně ten, který se skrývá pod sloganem „člověk je mírou všech věcí“. Protože není. Venku leží celá biosféra, která má vlastní měřítka, vlastní způsoby interpretace, vnímání a chování. Snaha se od tohoto slepého antropocentrismu dostat k mnohem vyrovnanějšímu pohledu na naši planetu je zdravá. A to nejen pro nás, ale i pro ostatní živočišné druhy.

Mám spekulaci, kterou bych na vás chtěl otestovat. Není nakonec i planeta Země sama o sobě kognitivní aktér, vnímavá entita? Existují například představy takzvaného hlubokého času geologických procesů, které na jejich zneužívání a proměnu lidmi reagují.

Existují tací, kteří planetě říkají Gaia, mají ji za citlivý systém schopný reagovat na ostatní. Já ale ve svém výzkumu dělám rozdíl mezi kognitivními procesy, ve kterých se objevují volby, interpretace a které spojují všechny životní formy, a materiálními procesy, za kterými jsou fyzické, chemické události. Výbuch sopky je materiální proces, protože v něm není žádná interpretace. Dá se zcela popsat komplexními silami magnetismu, změnami planetární kůry a tak dále. Materiální procesy jsou sice nadány jakousi schopností jednat, ovlivňovat ostatní, a ta je třeba v případě vulkánu obrovská, ale nevnímají, nevybírají si, nejsou flexibilní a adaptabilní. Neinterpretují a nemají schopnost vyvíjet se jako živé organismy.

„Lidé zoufale hledají odpovědi na automatizovanou budoucnost,“ říká temný filozof Nick Land

Nick Land

Vliv filozofa Nicka Landa na současnou intelektuální scénu je nedocenitelný. V jeho práci se potkává H. P. Lovecraft a vize světa ovládaného umělou inteligencí. Jak se dívá na prudký rozvoj umělé inteligence, který sám v 90. letech předpověděl? V rozhovoru Land analyzuje tříštící se dosavadní světový řád a mluví o propojení politiky a fikce.

To samozřejmě neznamená, že bychom je měli zanedbávat nebo zneužívat. Materiální pochody jsou za vším, co existuje, nebyl by bez nich život ani vnímání. Ale kognitivní procesy podle mě obsahují to, co antropolog Terrence Deacon nazval teleologickými mechanismy. Jsou schopné odhadu, záměrného chování, selekce, interpretace.

Vaše kniha How We Became Posthuman (Jak jsme se stali posthumánní) vyšla v roce 1999. Co se od té doby nejvíc změnilo? Stalo se něco, co vás donutilo váš postoj ke kategoriím lidství a postlidství přehodnotit?

Myslím, že za těch 20 let jsme se stali o dost víc posthumánními a celá technologická krajina se dost proměnila. Naše symbióza s komputačními médii je hlubší a hlubší. Tomu se věnuji i ve své dnešní práci. Říkám tomu kyber-bio-evoluce, tedy biologický vývoj, který se prolíná s kybernetickou evolucí. To má hluboké dopady na budoucnost lidstva, které si víc a víc vytváří digitální symbionty.

Proč bychom se měli zajímat o to, jak svět vnímají rostliny a bakterie? Jak nás mění Tinder, fitness aplikace nebo umělá inteligence? Poslechněte si záznam rozhovoru s významnou teoretičkou N. Katherine Hayles.