„Rok 2050 vytváříme už dnes, jen ne moc dobře,“ říká filozof Benjamin Bratton

Benjamin Bratton je jeden z nejskloňovanějších teoretiků dneška. Jeho poslední kniha The Stack inspiruje filozofy, umělce, politology i ekology. Profesor Kalifornské univerzity v ní představuje model pro chápání světa opředeného globálními počítačovými sítěmi – cloudovými platformami, roboty, mobilními aplikacemi nebo chytrými městy. Nahodilou strukturu, která ze vzájemné interakce přírody, společnosti a technologií vzniká, Bratton nazývá stack (přibližný český překlad je stoh, štos nebo balíček).

Stack má šest vrstev, které prochází geologickým podložím, městským prostorem i zdánlivě neviditelnými protokoly pro komunikaci internetu věcí. Když pošleme zprávu na Facebooku, putuje všemi napříč, s nezamýšlenými geopolitickými i ekologickými dopady. Brattonova práce je filozofií pro dobu, ve které se potkávají nadnárodní technologické korporace a státní krize vyvolané chybou v Google mapách. S Benjaminem Brattonem jsme se potkali v rámci jeho workshopu na berlínské Floating University.

Vaše kniha The Stack je stará dva roky. Vývoj které vrstvy vašeho modelu vás překvapil nejvíc?

Když jsem knihu začínal psát, teprve se pořádně začaly rozvíjet blockchainy. A myslím, že blockchain jako technologie otevírá víc otázek, než kolik jich řeší – jak máme identifikovat, indexovat, ukládat a přenášet hodnotu jako funkci v planetární ekonomice? Jakmile se začneme takhle ptát, nutí nás to přemýšlet nad vztahem mezi tradičním národním státem a systémy měn. Produkce a výměna hodnoty je hrozně zajímavý proces. Když se podíváte na to, jak blockchainy fungují, jak malé procento lidí je ve skutečnosti provozuje, tak to otevírá otázky o povaze globálních ekonomických vztahů, které umožňuje planetární výpočetní síť. Jednou z věcí, co blockchain dokáže, je zjistit, identifikovat a kodifikovat nějaký druh hodnoty a udělat ji obecně dohledatelnou skrze adresu v nějakém systému a pro systémy jiné. Klasickým příkladem tradičního protokolu pro adresování je IP adresa, ale blockchainy celou věc posouvají ještě dál.

Potom mi přijde zajímavý rozvoj cloudové vrstvy, nebo vlastně i struktury stacku jako celku. Vzniká něco, čemu říkám hemisférické stacky. Už nemáme jenom jednu globální výpočetní strukturu, ale existuje jich víc najednou. Jsou rozdělené na základě geopolitických vztahů. Máme GAFA Stack – Google, Amazon, Facebook, Apple. Ten sídlí v Severní Americe, ale jeho části najdeme i v Austrálii, na Novém Zélandu, Velké Británii, v Izraeli. Pak je BAT stack – Baidu, Alibaba, Tencent, který patří k Číně a částečně i Hongkongu. Silný vliv má ale i v Indii a Africe. Je v tom vidět geopolitický trend směřující k větší segmentaci, multipolárnímu uspořádání. Je to něco, čemu bychom mohli říkat doba post-post-studené války. Různé stacky odpovídají různým sférám geopolitického vlivu. Vzniká světový řád, jehož oblasti jsou definované tím, jaká data jste uvnitř nich schopni sebrat, ohmatat, využít, modelovat a uplatňovat skrze ně svou moc.

Vaší prací se hodně proplétá upadající vliv tradičního státu. Jak to s tím souvisí?

Jedno z hlavních nedorozumění, které si lidé z mé knihy odnášejí, je, že stát nějak nahrazují sítě. Ale to jsem říct nechtěl. Ve skutečnosti totiž můžeme sledovat činnost dvou propletených sil. Na jedné straně vidíme, jak cloudové platformy přebírají víc a víc funkcí tradičního moderního národního státu – identitu, měnu, kartografii a tak dál. To samo o sobě není ani dobré, ani špatné. Zároveň jde ale pozorovat, jak se státy samy redefinují, reorganizují a samy stávají cloudovými platformami. Nejzřetelněji je to vidět v Číně. Takže to vůbec není o tom, že by státy byly na ústupu. V mnoha případech naopak vidíme upevnění státu, skoro až komickou hypertrofovanou snahu uchovat stát jako myšlenku, která ale už dnes stojí hlavně na schopnosti přijímat a absorbovat data. Myslím, že mnoho geopolitických třenic a dramat příštích desetiletí bude způsobeno tím, jak do sebe tyhle dvě síly, vývojové trajektorie, budou narážet a jak budou kolidovat.

Je tohle důvod, proč potřebujeme planetární perspektivu? Jste jeden z mála teoretiků, kteří nahlíží na planetu globálně a snaží se vytvořit celistvý model světa.

Možná. Hodně zajímavé jsou diskuze o rozdílu mezi globálním a planetárním. Globální uspořádání je jednolité, horizontálně dělené, ploché. Jenže abychom mohli vidět a pochopit všechny vzájemné vztahy, dynamické, pohyblivé, na sobě závislé procesy, ze kterých se skládá náš svět, potřebujeme nějaký nástroj, který má planetární měřítko. Takový systém je schopný všechny děje nejen poznat, ale také modelovat pomocí výpočtů.

Výsledkem je obraz planety jako celku. Samozřejmě že ona planeta planetou vždy byla, ale teprve díky našim nástrojům jsme ji tak mohli vidět. Víte – mikroskop nezpůsobuje, že se objeví mikrobi, ale jakmile jednou mikroby mikroskopem uvidíte, nikdy se na žádný povrch nepodíváte stejnýma očima. Planetární, a především planetárně-výpočetní perspektiva nám umožňuje podobně změnit chápání světa jako celku. Nové technologie nám umožňují dělat nové věci, ale taky odhalují to, co tu celou dobu bylo, ale nemohli jsme to vidět. Třeba skutečný ekologický stav planety.

Jste také ředitel výzkumného programu The New Normal na Strelka institutu v Moskvě. V manifestu programu píšete, že vytváříme nové světy rychleji, než je dokážeme pochopit a sledovat. Jak se to stalo?

Tou frází se snažím přitáhnout pozornost k odhalením, která nám nové technologie přináší. Zároveň to ale není nic, co by se dělo jen nyní. Podívejte se na proměny sociálního chápání času a prostoru, které přišly na konci 19. století s rozšířením železnice a automobilů. Souvisel s tím děj, kterému sociologové říkají anomie, jakési rozčarování, které popisuje i známá fráze z Komunistického manifestu: „All that is solid melts into air“ („všechno stavovské a ustálené valem mizí“, pozn. překl.). Ale nevím, jestli se dnes děje přesně tohle. Ve své práci se každopádně snažím poukázat na chmurné okolnosti ekologické a klimatické situace, v níž se nacházíme. Nedokážeme si ani představit, natož vyvinout systémy vládnutí, které by mohly zvládnout a modelovat ekonomiky ve vztahu ke skutečnému stavu našich ekologických systémů. A nejde o to, že na to nemáme dostatečné technologie, ty by na řešení použít šly, ale chybí nám vůle a představivost je využít. Zůstáváme při zemi, přemýšlíme až moc rezervovaně. Technologický pokrok to sám o sobě nevyřeší. Problém jsme my, ne technologické nástroje.

Přijde mi, že třeba otázka ekologie a odhodlání s klimatickou změnou něco dělat hodně souvisí s politikou. Váš přístup je přitom oproti jiným současným filozofům o poznání míň otevřeně politický – jak to jde dohromady?

Asi záleží na tom, co politikou myslíte. Částečně se snažím poukázat na to, že spoléháme na pojetí politiky, které vzniklo v jiné době a v jiném kontextu. Ne snad, že by takový model a jeho binarita neměly žádnou cenu, ale znovu a znovu se potvrzuje, že není dostatečný.

Myslíte rozdíl mezi levicí a pravicí?

Například ten, ale taky dělící čáru mezi politikou a technologií, ekologií a ekonomií, antikapitalismem a podporou kapitalismu. Takové kategorie nejsou nesmyslné, ale já si nemyslím, že to nutně jsou ty nejzásadnější kritické otázky, kolem kterých by se všechno mělo točit.

Logo|foto:Český rozhlas

Mluvil jste o tom, že potřebujeme využít technologický pokrok k rekonstrukci našeho světa a musíme se dívat do budoucnosti. O programu The New Normal říkáte: „Dnes designujeme pro rok 2050…“

To už děláme. Dávat to do vztahu s budoucností je bezvýznamné, protože rozhodnutí, která děláme právě teď, jsou součástí procesu, který za 30 let bude ovlivňovat podobu světa. Rok 2050 vytváříme už teď. Jen ne moc dobře.

Jak se to snažíte napravit ve Strelka institutu?

My jsme rok 2050 využili jako takovou základní myšlenkovou linku, časovost, na které stojí naše projekty. Snažíme se podívat dál, nepředpokládat, že podmínky, co vidíme před očima, jsou ty, z nichž nutně musíme vycházet a které chceme ovlivňovat.

Náš program se sice zabývá urbanismem, ale je velmi interdisciplinární. Polovina z nás jsou architekti a urbanisté, druhá půlka pak všichni ostatní – umělci, programátoři, novináři, politologové, ekonomové. Studenty rozdělíme do skupin a promícháme. Vycházíme z představy, že město je mnohem komplexnější, než jak na něj nahlíží současný urbanismus. Když se na města podíváme jako na místa, kde se potkávají globální komunikační sítě, různé druhy informačních systémů, způsobů vykonávání moci a procesy ovlivňující celý svět, tradiční urbanismus nám v jejich chápání moc nepomůže. Je řada jiných způsobů, jak ho dělat, které jsou na situaci lépe připraveny. Tyhle chceme podporovat a vytvářet.

Jak do toho zapadá téma aktuálního semestru – „vždycky jsme byli posthumánní“?

Naše téma se týká nových technologií – AI, robotiky, syntetické biologie a tak dále. Ale víc než to, že nám umožňují dělat nové věci, nás zajímá, že odhalují zásadní věci, které s námi byly celou dobu: inteligence je emergentní vlastnost hmoty, biologie je proměnlivá a vychází z nějakých jednoduchých vzorců. Skutečný problém totiž není technologický. Nejde o to, udělat auto, které se řídí samo, nebo robota, který je přesvědčivě lidský. Mnohem těžší bude, jak se těmto technologiím přizpůsobíme, jakým způsobem je začleníme do společnosti a našich životů. Všechny nějak mění naše chápání role lidí ve světě.

„Vznik superinteligence bude významnější událost než kroky korporací a států,“ říká filozof Bostrom

Umělá inteligence pohání sociální sítě i naše telefony, za pár let prošla prudkým vývojem. Oxfordský filozof Nick Bostrom varuje, že se nám může stát osudnou. „Mohla by vzniknout AI, kterou vůbec nezajímají lidské hodnoty,” říká ředitel britského Institutu pro budoucnost lidstva. Jeho předpovědi zní jako z dystopického románu, vyplatí se mu ale naslouchat. Abychom se za pár let nedivili, jakou budoucnost nám stroje chytřejší než my připraví.

Jedním z našich témat je něco, čemu říkáme „obrácené tísnivé údolí“. Tísnivé údolí (anglicky uncanny valley, pozn. překl.) označuje nepříjemný pocit, který zažíváte, když vidíte něco, co skoro připomíná člověka, ale ne dokonale. Dokud se díváte třeba na Simpsonovy, kteří se lidem jen podobají, nebo ultrarealistického robota, vše je v pořádku. Jde až o těch zhruba 92–95 procent humanity. Při nich začínají psi štěkat, děti brečet a lidi začnou být nervózní. Trošku přeháním, ale chápete mě. Díváme se totiž na něco ne úplně lidského, strašidelného, cizího.

Obrácené tísnivé údolí pak je, když nahlédneme zvenčí sami sebe – třeba skrze nějaký stroj, datový profil. Vidíme sebe z odstupu a ty cizí, strašidelné bytosti jsme my sami. Zjišťujeme, že nejsme takoví, jak si myslíme, ale jsme něco divného. Je to demystifikace zážitku ze sebe sama. Myslím, že klasické i obrácené tísnivé údolí označují určitý druh psychologických a politických zážitků, které budou doprovázet a dávat kontext přijímání technologické automatizace. Bude to základní předpoklad společenských debat. Vezměte si automatická auta. Lidé budou ztrátu schopnosti řídit brát jako ohrožení vlastní autonomie, vzdání se kontroly nad vlastním technologickým nástrojem. Řeknu vám příběh.

Do toho.

Před pár lety jsem navštívil laboratoře Google. Zrovna rozjížděli svůj projekt samořiditelných aut. V té době byla auta bez řidiče celkem novinka. Zajímalo mě, jestli zaznamenali nějaké odmítavé reakce. Řekli mi: Dobře, že se ptáte! Jeden ze zaměstnanců vytáhl dokument nadepsaný slovy „Záměr předložit předběžné legislativní opatření“. Podepsaná pod ním byla skupina, která si říká Američtí majitelé zbraní (Gun Owners of America). To je lobbistická organizace. Ve Spojených státech zemře při automobilových haváriích každý rok okolo 30 000 lidí, přičemž za 90 % z nich může chyba řidiče. Když byste se nějak dokázali lidského faktoru zbavit, můžete zachránit až 30 000 životů ročně. A jak se budou samořiditelná auta stávat běžnější a běžnější součástí provozu, může přijít chvíle, kdy prostě už bude šílenství nechat lidi vůbec řídit. Například vyjde zákon, který provoz klasických aut zakáže, protože to bude moc nebezpečné. Za volantem ohrožujete všechny ostatní. V tom dokumentu američtí majitelé zbraní psali, že pokud by takový zákon zakazující lidem řídit auta v Kalifornii prošel, zasadí se o to, aby byly automobily klasifikovány jako munice. Potom by je totiž kryl druhý dodatek americké ústavy o právu držet zbraň.

Co takové pokusy o našem vztahu k technologiím říkají?

Některé technologie umožňují lidem cítit autonomii, nadvládu a kontrolu nad světem. Auta jsou jednou z nejvýraznějších, v Americe jsou to ještě zbraně. Když je lidem vezmete, tak jim v mnoha případech berete část jejich identity a bezpečí. Představa, že sami sebe nějak konstruujeme skrze technologie, není nijak zvláštní nebo problematická. Vždycky jsme nějak propojeni s technologickými systémy. Jenže taková autonomie může být iluze. Proto můžete potkat chlápka, co se řítí po dálnici rychlostí 70 mil za hodinu, sedí v dvoutunové ocelové krabici s nějakou gumou kolem a vehementně vám tvrdí, že stroje mu nikdy nevezmou jeho přirozené lidství. Přitom jeho úsměv může dost dobře být i to poslední, co uvidíte, než vás přejede.

Nejde o inženýrské problémy, ale kulturní a sociální aspekty vývoje technologií. To, jak si představujeme, že vypadá náš život, nemusí skutečné situaci odpovídat. Můžete si o sobě myslet, co chcete, ale když by někdo vzal váš životopis, stav bankovního účtu, vzorce chování a historii prohlížeče, mohli byste se divit. Dost možná byste ve skutečnosti byli „vzor číslo 17“, stejní jako všichni ostatní se stejným číslem. To nás přirozeně uráží, všichni jsme přece unikátní. Pocit lidské výjimečnosti je něco, co si jako druh velmi úpěnlivě bráníme. Když ho něco naruší, reagujeme většinou velmi defenzivně. Říkám tomu kopernikánské trauma. Technologie umožňuje rozvoj vědy a věda pak zjišťuje, že naše představy o světě a naší roli v něm jsou mylné – třeba že Země a my vlastně nejsme středem vesmíru. Darwinova biologie bylo podobné kopernikánské trauma, neurověda a biotechnologie ho víc a víc připomínají taky. Ukazuje se, že nepřemýšlíme tak, jak si myslíme, že přemýšlíme. Naše osobnost, myšlenky jsou fyzické, biochemické procesy, podobné trávení jídla v žaludku. Taková, řekněme, materiální odhalení těžko zpracováváme. Ale ona platí, ať chceme, nebo ne. Abych se ale vrátil k vaší otázce – politický program, výzkum, instituce a taky náš způsob přemýšlení musí s takovými odhaleními počítat. Čím dál víc se ukazuje, že lpět na takových iluzích je víc a víc katastrofické.

Katastrofou myslíte ekologickou změnu, nebo něco jiného?

Víte, jsem velký kritik takzvaného designu zaměřeného na člověka (human centered design, HCD). To je zdánlivě docela logický přístup, který velí systémy navrhovat na dvou etických kritériích. Prvním je, že by měly především jít naproti lidskému pohodlí a dělat lidské životy zábavnější, zajímavější, příjemnější. Pro to jsem všemi deseti. Druhé pravidlo se týká především uživatelských rozhraní a prostředí a říká, že jeho návrh musí vycházet z toho, jak si lidé myslí, že dané systémy fungují. Vezměte si počítač. Na jedné straně máme krabici s polovodiči, na druhé si vymýšlíme všechny ty pohádky o složkách, odpadkových koších, ikonách a pracovních plochách. Děláme to, protože máme pak pocit, že chápeme, jak fungují. Zároveň tím ale dobrovolně podléháme určité iluzi, díky které je jednodušší s počítačem komunikovat a najít společný jazyk.

Obecně vzato tahle dvě kritéria nejsou nesmyslná. Když z nich ale uděláte obecný princip pro design všeho, kdy všechno musí jít naproti požadavkům, touhám a zájmům jednotlivých uživatelů, končí to u skládek plných fitbitů. Perfektním příkladem human centered designu, který používá všechny možné způsoby pro motivování uživatele, je snadno pochopitelný, má jasnou strukturu, je gamifikovaný a zábavný, je výherní automat. A human centered design nakonec vede k tomu, že všechno mění ve výherní automaty.

Český publicista Michal Kašpárek v recenzi napsal, že číst The Stack je mystický zážitek. Částečně tím poukazoval na to, jak hutná kniha to je. Napadá mě: jak vyvažujete svoji teoretickou a popularizační činnost?

Podívejte, je to 500stránková kniha s jednou ilustrací, respektive jde o jeden nákres s 500stránkovým popiskem. Nejsou tam žádné obrázky, žádné teenage upírky. A aby to bylo horší, na rozdíl od spousty jiných knih o technologiích se snažím zůstat relativně ambivalentní v hodnocení dopadu technologického vývoje na společnost. Když chcete v roce 2018 napsat knihu o technologiích, ten nejjednodušší recept je napsat knihu pesimistickou. Popíšete, jak je všechno kvůli výpočetním technologiím špatně, poplácáte čtenáře po zádech za jeho vlastní špatný pocit. The Stack po čtenáři požaduje víc práce, musíte při jeho čtení sami věci promyslet, ponořit se do nich. Někdo musí psát knihy, které se tématu věnují v nezředěné formě, pořádně a hluboce. Koncepty z nich pak mohou prokapat do jiných kontextů. Já ale nakonec vlastně píšu knihy, které bych si rád sám přečetl. A snažím se dělat co nejméně kompromisů, v argumentech i smyslu pro detail, vyhnout se určitému populismu. A jestli je daní za to, že si musí čtenář dát trochu práce, mně to nevadí.

Jaké nejzajímavější využití vašeho modelu stacku jste viděl?

Mojí knihou se inspirovali lidé z mezinárodních vztahů, politologové, grafičtí designéři, architekti, umělci, hudebníci… Protože jsem se snažil o všeobjímající, multidisciplinární myšlení, tak se knihy chytají lidé z oborů, které mezi sebou normálně nemají žádné styčné body.

„Mileniálové mají radši socialismus než kapitalismus,“ říká politoložka Jodi Dean

Jodi Dean ve své knize The Communist Horizon analyzovala vliv socialistických experimentů na naše představy o komunismu a dnes se věnuje vztahu mezi aktivismem a stranickou politikou. Online petice neuznává, ale tvrdí, že i „hashtagy se mohou stát katalyzátorem kolektivní energie“. Svět chce totiž i aktivně měnit. Spolu jsme mluvili o stavu levice, úspěchu britských labouristů nebo o tom, jak komunikační technologie posilují kapitalismus.

Takže jste s tím prokapáváním spokojený?

Podívejte se, bylo by skvělé, kdyby The Stack prodávali na letištích. Kdyby byla nějaká devítidolarová verze v lepené vazbě a všichni by si ji mohli přečíst, bylo by to skvělé. Na druhou stranu – být čtený je super, ale ne, jestli je cenou za to nějaké zředění myšlenek. Ale nevím, jestli bude moje další kniha mít taky 500 stránek. Ještě jsem se nerozhodl, mám napsaných nějakých 30 fragmentů, 100 000 nebo 120 000 slov. Může to skončit jako jedna velká publikace, která se snaží redefinovat to, co je vůbec design, ale možná to nakonec budou tři různé práce. Psal jsem články pro noviny, měl jsem přednášku na konferenci TED o tom, proč nemám rád TED… Nechápejte mě špatně. Nepíšu pro nějaké specifické publikum a nemyslím si, že když to lidé nepochopí, můžou si za to sami. Ale když dělám knihu, musí být v určitém smyslu dokonalá. A když pak mám mluvit pro jinou skupinu, mluvím jiným hlasem.

Jaká věc změní naši planetu, společnost a politiku v příštích 10 letech nejvíc?

Přemýšlím, co změnilo náš svět nejvíc v uplynulém desetiletí. Máme na co ukázat a říct, že mezi lety 2008 a 2018 to bylo tohle? Nejspíš to bude něco, o čem vůbec nepřemýšlíme nebo o čem ani nevíme. Víte co – nějaká změna pravidel pro obchodování se sójovými boby mezi Šen-čenem a Hongkongem. Něco, co pak spustilo dominový efekt a všechno nenápadně ovlivnilo.

Takže takový motýl ve stacku.

V takových systémech jsou to všechno motýli… Odpovím vám trochu jinak. Řeknu vám, co bych rád, aby se stalo a mělo by největší dopad. Pokud bychom zavedli opravdu promyšlený mechanismus pro uhlíkovou daň, tak její korekční efekt na cenové signály v ekonomice by byl ohromný. Nevím, jestli je to spíš legislativní nebo technologické opatření, především je tu ale problém jurisdikce. Nejde o to, že nemáme kapacitu na to, takovou daň spočítat, nastavit, ale kdo by ji ve skutečnosti vynucoval? Každý stát zvlášť? Řešila by se město od města? Jakýkoliv mechanismus pro určování uhlíkové daně by musel brát v úvahu, jak kolem světa obíhá uhlík samotný. Jenže takové měřítko je pro státní moc zároveň příliš malé i příliš velké. Je to institucionální, nikoliv technologický problém.