„Nepodřizujeme se potřebám našich technologií příliš?“ ptá se antropoložka Lucy Suchman

Lucy Suchman
Lucy Suchman

Antropoložka Lucy Suchman se studiu vztahů mezi stroji a lidmi věnuje už od 80. let. Možná proto tak ráda mírní všeobecné nadšení z umělé inteligence. „Musíme odmítnout předpoklad, že technologická řešení jsou automaticky nejlepší,“ říká v rozhovoru a dodává, že místo autonomních aut bychom měli chtít funkční veřejnou dopravu. Nebo se zajímat o to, jak AI mění moderní válku.

Lucy Suchman je antropoložka, profesorka na britské Lancaster University, jedna z významných postav oboru interakce člověk–počítač (HCI, human-computer interaction). Dřív pracovala v renomované laboratoři Xeroxu v Palo Altu. Dnes se věnuje propojování lidí a strojů, použití technologií ve válce nebo autonomním zbraňovým systémům.

Viděl jsem video, ve kterém robot Jibo oznamuje, že přestane fungovat. Umělým hlasem řekne „Možná někdy, až budou roboti mnohem pokročilejší než dnes a všichni je budou mít doma, můžete tomu svému říct, že jsem ho pozdravoval“ a pak začne tancovat. Co takové příhody říkají o tom, jak se dnes technologie prolínají s lidským životem?

Jibo je zajímavý případ. Ukazuje na vzrůstající zájem o tzv. sociální roboty, kteří s námi budou žít v domácnostech. Do téhle oblasti se dnes hodně investuje. Jibo je postavený na dlouhotrvající fantazii o robotech služebnících, díky kterým máme všichni svoje pohůnky, aniž bychom byli aristokraté nebo boháči. Stojí na předpokladu, že všichni chceme, aby nám někdo sloužil. A to bychom měli kriticky reflektovat, mluvit o vztahu historie robotiky a otroctví. Zároveň se docela překvapivě ukázalo, že postavit roboty, kteří budou schopni vést plnohodnotnou běžnou konverzaci, odpovídat pohotově na naše požadavky a rozumět několika jazykům, není vůbec snadné. Konec Jiba ukazuje, že přes všechno nadšení je vývoj domácích robotů mnohem pomalejší, než se čekalo.

Jako bychom dostali zředěnou verzi v podobě digitálních asistentů Google Now nebo Alexy od Amazonu. Nebo je to něco úplně jiného?

Alexa nebo Google Now mohou fungovat nejen díky opravdu masivnímu množství a bleskurychlému zpracování dat, ale potřebují také hustou komunikační síť. Digitální asistenti jsou vlastně jen nadstavbou nad touto infrastrukturou. Ve velkém také využívají plodů prudkého rozvoje v několika velmi specifických oblastech – především syntéze a rozpoznávání hlasu. Protože se nepohybují v prostoru a stojí na jednom místě, vyhnuli se jejich tvůrci některým z nejtěžších problémů robotiky.

Proč je právě pohyb těla tak problematický?

Díky robotům si víc a víc uvědomujeme, že tělo a mysl nejdou oddělit. Sociální dovednosti nebo inteligence jsou s nimi neoddělitelně spjaté. Vezměte si třeba domácí práce. Jde sice o podceňovanou činnost, ale kdokoliv ji dělá, vám dosvědčí, že je extrémně nahodilá. Musíte se při ní pohybovat skrze dost komplexní prostor, který je plný spousty různých věcí. Roli hraje obrovská spousta obyčejných úkonů, orientace, koordinace rukou a očí, schopnost rozpoznat a třídit objekty. Ukazuje se, že právě tyto věci jsou v oblasti umělé inteligence a robotiky jedny z nejtěžších problémů.

Zamyslete se nad tím, jak funguje pračka nebo myčka. Pořád před nimi stojíme my, lidé, jsme rozhraním mezi strojem a zbytkem vašeho domu. Pračku musíme naplnit a pak z ní prádlo zase vyndat. Znovu a znovu se podílíme na vyjednávání mezi přístrojem a světem. Ještě lepším příkladem jsou vysavače. Pokud jste někdy měli robotický vysavač, moc dobře víte, že jsou dost omezené. Nejlépe fungují na hladkém povrchu, kobercích bez třásní, prázdných podlahách. Většina jejich majitelů vynaloží dost práce na to, aby pro ně svůj dům připravila. A musíte je čistit a udržovat. Automatizace domácnosti byla celkem úspěšná, ale stále je hlavně na nás, abychom vytvořili podmínky pro co nejefektivnější provoz strojů.

Otevřené hlavy jsou série rozhovorů s předními světovými intelektuály a intelektuálkami. Snažíme se představitosobnosti, které dokáží současnou realitu komentovat z nečekaných pozic a jejichž dílo překračuje hranice zavedených kategorií. Usilujeme o představení co nejširšího spektra názorů a myšlenkových proudů, které rezonují v současné společenské debatě v Západní Evropě, USA, Číně i dalších koutech světa a které mohou být zajímavé (i přes jejich kontroverzní či lokálnímu kontextu odcizený charakter) pro českého posluchače.

Nesnižuje se role člověka jako rozhraní s rozvojem takzvaného smart home, chytrého domova? V něm si jednotlivé stroje posílají informace mezi sebou.

Jejich výrobci by dozajista chtěli, abychom si to mysleli. Jenže rétorika kolem automatizace opomíjí spoustu neviditelné lidské práce, která byla pro provoz strojů vždycky potřeba. Vize chytré domácnosti jako by úplně vynechávaly jejich nastavování, údržbu a tak dál. Smart home zároveň zapadá do širší snahy budovat infrastruktury, sítě pro sběr, ukládání a analýzu dat. A používáním takových zařízení se na tom podílíme, například měníme naše chování, aby fungovaly co nejlépe. Ale nic není zadarmo. Musíme si začít klást důležité otázky. Kdo na tom vydělává? A netratíme na tom nějak? Nepřicházíme pouze o soukromí, i když to je také velmi znepokojující, ale dost možná se také podřizujeme potřebám našich sesíťovaných zařízení až příliš. Netočí se náš život kolem nich až moc?

Nesouvisí to do velké míry s marketingem? Nálepky jako umělá inteligence, strojové učení, hluboké učení nebo AI se používají prakticky na všechno.

Je velmi důležité si uvědomit, že AI má v dnešní podobě praktické využití jen v některých velmi konkrétních oborech. Hodí se na zpracovávání opravdu velkých množství dat a jejich analýzu. Takzvané strojové učení dnes v zásadě znamená rozpoznávání opakujících se vzorců. Umělá inteligence je sice čím dál víc efektivnější, ale ke své činnosti potřebuje spoustu dat. A jak ukázala Snowdenova odhalení, třeba pro zpravodajské služby to není žádný problém – analýza telekomunikace se velmi rychle rozvíjí. Jak mohou být takové algoritmy k užitku v oblasti humanoidních robotů, je o dost méně jasné. Domácnost je velmi komplexní materiální i sociální prostor, ze kterého je těžké posbírat dostatek dat pro hladký běh AI systémů.

S umělou inteligencí se to dost přehání. Skutečný stav rozvoje algoritmů pro rozpoznávání vzorů zatím nenapovídá, že by se sen o nezastavitelném pokroku vstříc takzvané obecné umělé inteligenci, jež by se vyrovnala lidem, měl stát skutečností.

„Vznik superinteligence bude významnější událost než kroky korporací a států,“ říká filozof Bostrom

Nick Bostrom

Umělá inteligence pohání sociální sítě i naše telefony, za pár let prošla prudkým vývojem. Oxfordský filozof Nick Bostrom varuje, že se nám může stát osudnou. „Mohla by vzniknout AI, kterou vůbec nezajímají lidské hodnoty,” říká ředitel britského Institutu pro budoucnost lidstva. Jeho předpovědi zní jako z dystopického románu, vyplatí se mu ale naslouchat. Abychom se za pár let nedivili, jakou budoucnost nám stroje chytřejší než my připraví.

V minulé sérii Otevřených hlav jsme měli Nicka Bostroma, podle kterého mají i otázky týkající se vzdálené budoucnosti smysl. Říkal, že superinteligence jednou přijde a my musíme být připraveni. Není nějaká třetí cesta, jak na nebezpečí spojená s rozvojem umělé inteligence nahlížet?

Zmínka o dlouhodobém horizontu takových úvah je slyšet často. Je to zajímavé. Neustále se mluví o čím dál rychlejším pokroku, ale když se někdo zmíní o limitech AI, zpravidla dostane odpověď, že je to jen otázka času. Argument budoucností ale dává smysl, jen pokud věříte, že současný vývoj opravdu k nějaké strojové superinteligenci směřuje. Když se ale podíváte do minulosti, na předešlé pokusy vytvořit obecnou inteligenci nebo sestrojit sociální roboty, tak se toho změnilo velmi málo. A najednou vidíte předpovědi o budoucnosti v dost jiném světle. Nejsem skeptická, protože bych si myslela, že superinteligence nás čeká mnohem později. Cítím skepsi, protože mám problém se základními předpoklady, s tím, co vůbec za inteligenci považujeme. Myšlenka, že nás nevyhnutelně čeká věk superinteligentních strojů, je podezřelá. Ještě mi nikdo neukázal pořádné důkazy.

Na svém blogu Robot Future jste v listopadu 2018 napsala: „Aby vás projekt Maven znepokojoval, nemusíte věřit v singularitu. Stačí jen pochybovat o legalitě a etice systémů pro identifikaci válečných cílů, které Spojené státy aktuálně používají.“ V čem je automatizace armádních procesů nejvíc problematická?

Spojené státy mají velmi rozsáhlou síť zpravodajských bezpilotních letounů, která ale produkuje víc dat, než je v současnosti možné využít a zjistit z nich něco zajímavého. Maven je projekt amerického ministerstva obrany, pokus, jak tenhle problém vyřešit technologicky. V rámci projektu se vyvíjí technologie pro automatizovanou analýzu záznamů, které drony pořizují. Nedávno se provalilo, že ministerstvo podepsalo s Googlem smlouvu o dodávce AI technologií. Skupina zaměstnanců Googlu se proti tomu postavila, veřejně protestovala a dopadlo to tak, že Google smlouvu už neobnoví.

Mě ale nejvíc znepokojuje, jak taková analýza ve své podstatě funguje, protože vždy stojí na nějaké profilaci. Ať už ji dělá člověk, nebo stroj, hraje v ní roli celkem primitivní stereotypizace a zobecňování. Velkým problémem dronového programu jsou zásahy provedené jen na základě určitých znaků, které cíl vykazoval. Objevily se totiž případy, kdy nebyla identifikace nebezpečného cíle zcela jednoznačná. K útoku stačilo jen to, že cíl vykazoval nějaké výrazné znaky, které poukazovaly na to, že by mohl být nebezpečný. Je méně a méně jisté, že americký dronový program operuje opravdu pouze v mezích daných zákony. Ve skutečnosti se z dronů stali nájemní vrazi. Identita jejich cílů často není stoprocentně potvrzená ani není jisté, jestli představují skutečné nebezpečí.

Když vidíte takto problematický projekt, tak poslední, co chcete, je automatizovat a zefektivňovat jeho provoz. Když místo lidí začnou data vyhodnocovat stroje, bude ještě těžší jejich předsudky změnit. Když takový systém necháme v rukou umělé inteligence, v zásadě do něj zavádíme hodnotové předpoklady, které jsou samy o sobě velmi problematické. AI se podle nich pak bude řídit, když bude rozhodovat o tom, kdo vlastně na zemi je a co dělá. Musíme dávat velký pozor na předpoklady, z nichž rozhodování umělé inteligence při profilaci osob vychází, co ji k rozhodování vede. Je to názorná ukázka toho, jak se strojové učení, hledání vzorů ve velkých objemech dat odráží ve skutečném světě.

Na co všechno budeme používat drony? Promýšlí to i studenti pražské ČVUT

Problém v rozvoji autonomních dronních asistentů ale stále ještě představují zákony. Ty totiž zakazují autonomní řízení bezpilotních prostředků a dron musí zatím vždy ovládat člověk

To, že kolem nás drony budou létat stále častěji a v jejich vývoji a byznysu s nimi budou zase létat velké peníze, chápou také na vysokých školách. České vysoké učení technické v Praze proto nedávno otevřelo novou laboratoř dronů, kde se mohou učit budoucí technologičtí vizionáři.

Možná kdybychom nepoužívali spojení jako umělá inteligence nebo neuronové sítě, ale pouze systémy pro rozpoznávání vzorů, byla by reflexe jednodušší. Nemyslíte?

Sama se o demytizaci umělé inteligence snažím. Často se tvrdí, že AI systémy jsou díky antropomorfnímu slovníku pro lidi jednodušší na pochopení. Já si ale myslím opak. Jak jste řekl – spíš to věci víc zakrývá. Co kdybychom začali používat techničtější jazyk, mluvili o nich jako o iterativních, zpětnovazebných nástrojích pro rozpoznávání vzorců? Teprve pak by lidé skutečně lépe pochopili, jak fungují. Jen by to znělo mnohem méně fantasticky. Fantazie o robotech stvořených podle obrazu člověka, se schopnostmi převyšujícími ty lidské ovlivňují celý obor. Jenže mezi takovými sny a skutečným stavem technického vývoje byl vždycky velký rozpor. Přitom jsme dosáhli mnohých a opravdu úžasných úspěchů. Ale ty si zaslouží být oslavovány samy o sobě a nemusíme si přitom pomáhat příměry k lidské inteligenci.

Skutečným problémem je, jak se takové technologie používají. Kdo o nich rozhoduje, kdo se na jejich praktickém provozu podílí? V jakých oborech lidské činnosti je jejich nasazení vhodné a kdy naopak vůbec?

Mám ještě jednu citaci z vašeho blogu. „Masivní rozšíření samořiditelných aut zdaleka není nevyhnutelné. Rychlost jejich vývoje je potřeba nutně zbrzdit, abychom mohli přemýšlet, jak navrhnout skutečně bezpečné a udržitelné způsoby dopravy.“ Měli bychom tedy místo snění o budoucnosti věnovat víc pozornosti problémům, které má naše technologická infrastruktura dnes?

Rozhodně. Ohromuje mě, jak moc se autonomní auta stala součástí diskuzí a představ o budoucnosti našich měst. Zdá se, jako by nám zbývalo se na jejich příchod jen co nejlépe připravit. Přitom vůbec není nevyhnutelný. Mám hodně otázek. Kdo samořiditelná vozidla opravdu chce? Řešení jakého problému představují? Víme, že auta jsou hrozně nebezpečná technologie, škodí životnímu prostředí, představují nebezpečí pro řidiče, pasažéry i chodce. S tím bez diskuze musíme rozhodně něco dělat. Jenže co? Autonomní auta jako by zabrala celý prostor pro přemýšlení nad alternativami k současné kultuře, pro niž je auto středobodem všeho. Jestli mají autonomní vozidla opravdu fungovat a být bezpečná, budeme muset zásadně proměnit městský prostor, přizpůsobit jim ho – podobně, jako se v domácnosti přizpůsobujeme pračce. Měli bychom zpoza stínu samořiditelné budoucnosti vystoupit a ptát se, jestli je tohle opravdu ten jediný způsob. Co kdybychom místo toho rozvíjeli jiné druhy veřejné dopravy? Takové diskuze skoro nevedeme nebo nejsou slyšet. Chtěla bych vidět mnohem širší spektrum možných řešení místo jediného předpokladu o nezvratitelném příchodu věku autonomních, samořiditelných aut.

Jak moc se od roku 1987 proměnil váš koncept situované akce? Tehdy ještě neexistovaly sociální sítě, virální internet, nové kontexty, ve kterých přijímáme informace.

Tímto pojmem jsem se snažila popsat podstatu, charakter lidských aktivit a společenského chování. Vždycky když něco děláme nebo s někým, respektive něčím interagujeme, děje se to ve specifických sociálních, materiálních, historických, kulturních, politických a ekonomických podmínkách. Zároveň ale skrze naši činnost tyto podmínky udržujeme v chodu a transformujeme. Situovaná akce představuje perspektivu, která nám umožňuje vidět, že se naše činnost vždy odehrává v určitém kontextu – máme tělo, máme nějakou materiální podobu. Bez ohledu na to, jak moc virtuální se věci stanou, nikdy nás takového ukotvení nezbaví. Virtuální interakce nejsou v sociálních, materiálních a dalších ohledech o nic méně situované než ty předchozí. Abychom dokázali pochopit, jak se věci mění, musíme si to uvědomit. I virtuální svět ovládáme díky našim tělům, bytostně tělesným činnostem a interakcím. Ty se sice proměňují, jsou různými způsoby mediované a remediované, ale vždy jsou situované. Tato situovanost se samozřejmě mění společně s proměnou naší životní infrastruktury. Musíme ale odmítnout představy, podle kterých postupně naši situovanost přesahujeme. Naše situovanost se sice mění, ale nikdy nebude o nic méně důležitá.

Zároveň se víc a víc promíchává s technologiemi, jako by se víc a víc podobala situovanosti kyborga – ať už to je randění přes Tinder, chytání pokémonů při procházce městem, nebo když se necháváme navigovat městem přes Google Now a přitom sledujeme svoje děti přes chytrou webkameru přímo z mobilu. Souhlasíte?

Ano. Rozhodně nechci podceňovat změny, kterými naše těla a sociální vztahy kvůli komunikačním technologiím prochází. Měli bychom si ale všímat, že nové technologie vytváří nové závislostní, hierarchické vztahy, a ptát se, kdo na tom vydělává. Vezměte si například tzv. chytrá města, smart cities. Víme, že obchodní modely Googlu a Facebooku jsou postavené na monetizaci dat, která jim účastí na jejich platformách přenecháváme. Při našem každodenním pohybu městem se budeme častěji a častěji stávat součástí takových platforem a poskytovat jim tak naše data. A mě zajímá, kdo a jak na tom bude vydělávat. Musíme mít oči otevřené, abychom viděli, čemu se odevzdáváme, jak se naše situovanost mění a jaké to má dopady. Jaké jsou výhody a jakou cenu za to platíme.

„Lidé zoufale hledají odpovědi na automatizovanou budoucnost,“ říká temný filozof Nick Land

Nick Land

Vliv filozofa Nicka Landa na současnou intelektuální scénu je nedocenitelný. V jeho práci se potkává H. P. Lovecraft a vize světa ovládaného umělou inteligencí. Jak se dívá na prudký rozvoj umělé inteligence, který sám v 90. letech předpověděl? V rozhovoru Land analyzuje tříštící se dosavadní světový řád a mluví o propojení politiky a fikce.

Věnujete se oboru HCI, interakci člověk–stroj. Český filozof Lukáš Likavčan mi řekl, že většina vizuální kultury je už dnes strojová. Nejvíc obrazů v současnosti prý vzniká od strojů pro stroje, třeba v podobě navigačních systémů v automatizovaných továrnách, které jsou lidským zrakem nečitelné. Nebudeme brzy potřebovat interakci stroj–stroj?

Sebereferenčních, zpětnovazebných komputačních sítí, jakýchsi uzavřených světů, přibývá. Z diskuzí o strojovém učení je zřejmé, že jsme méně a méně schopní pochopit, co se v hlubokých vrstvách při rozpoznávání vzorů děje – jaké výpočetní operace síť s daty dělá, jaké korelace v nich hledá. A činí tak nezávisle na tom, co by přišlo důležité nám. Pořád ale platí, že počáteční vstup nebo konečný výstup posuzujeme nakonec my. Já si myslím, že máme jako jejich tvůrci za tyto technologie zodpovědnost. Nemůžeme prostě jednou říct: tak, a teď si to bude žít svým životem. Jsme součásti téhle formy života, vždycky budeme, a musíme si to uvědomit. Jestliže se strojová produkce stane víc a víc nesrozumitelnou, musíme se zamyslet, jaké to má dopady.

V diskuzích o technologiích se často objevují dvě pozice – technologický determinismus, podle kterého technologie určují vývoj společnosti, a sociální determinismus, jenž tvrdí, že to technologie jsou ve vleku společenských pochodů. Jak vidíte vztah mezi technologickým a společenským světem vy?

Ve vaší otázce je falešná dichotomie. Společenské je vždy materiální i technologické a technologické je vždy společenské. Technologie nejsou vně společnosti, jsou součástí proměn našich společenských vztahů, a naše společenské vztahy jsou nerozlučně spjaté s technickými a materiálními artefakty. Díky nim se ve velmi základním, bytostném smyslu stáváme tím, kým jsme. Ale nic není nevyhnutelné. Technologie neovládají své uživatele a jejich budoucnost, ale uživatelé taky neexistují nějak mimo technické infrastruktury a vztahy v nich. My sami jsme uvnitř toho všeho, jsme součástí celku a musíme přemýšlet, jaké vztahy mezi společenským a technologickým světem vytváříme. Technologie sice mají velký dopad, ale také se musíme na jejich usměrňování aktivně podílet. A odmítnout předpoklad, že technologická řešení jsou jednoznačně tou jedinou správnou cestou. Pro někoho jsou sice nejvýnosnější, ale z hlediska veřejného zájmu nejsou nutně nejlepší.

Proč jsou proroctví o přicházejícím věku inteligentních strojů přehnaná? A jak nám nadšení okolo umělé inteligence brání řešit skutečné a palčivé problémy? Poslechněte si rozhovor s renomovanou antropoložkou Lucy Suchman z Lancaster University.