Využívání strojů uvědomujících si samy sebe se blíží otroctví, říká filozofka Susan Schneider

Susan Schneider
Susan Schneider

S americkou filosofkou a vědkyní Susan Schneider jsme se potkaly na konferenci Future Minds: Metaphysics and Ethics pořádané AV ČR. Jejími nejčastějšími tématy jsou umělá inteligence, astrobiologie, panpsychismus a základní otázky lidské mysli a vědomí. Diskusi jsem tedy chtěla vést tímto směrem, ale protože je Schneider také technooptimistka a nadšenkyně do science fiction, nakonec jsme se dostaly i k její lásce ke Star Treku.

Susan Schneider pracuje jako výzkumnice knihovny amerického Kongresu a od příštího roku se bude podílet i na astrobiologickém výzkumu v NASA. Působí mimo jiné na University of Connecticut a spolu s Edwinem Turnerem, profesorem astrofyziky na Princetonu, vyvinula různé druhy Turingova testu pro umělé inteligence.

Vaše nová kniha Artificial You, AI and the Future of Your Mind se zabývá otázkou propojení člověka s umělou inteligencí. Jak k takovému propojení dojde? Jakými způsoby si představujete, že to bude, nebo už je možné?

Já jsem futuristka a snažím se zamýšlet nad tím, kam se může svět vyvíjet. Ve své knize vyjadřuji obavy z myšlenek, které už dnes razí technologové jako Elon Musk nebo Ray Kurzweil, o tom, že lidé by se měli snažit plně propojit s umělou inteligencí a mohli by si například vyměnit kousky vlastního mozku za nějaký technický upgrade ve formě mikročipů a podobně. Existuje dokonce představa, že lidé by se s AI měli propojit v takovém rozsahu, že by existovali výhradně v prostředí internetového cloudu. Může se to zdát dost svůdné – představa, že bychom sami sebe nahráli na internet a tak přečkali dokonce zánik svého biologického mozku. Přitažlivá je tahle představa také proto, že mnozí z nás chtějí být samozřejmě chytřejšími a výkonnějšími a podobné prodloužení lidských schopností by mohlo být propojením s AI dosažitelné. Mikročip v mozku by například mohl zajistit zlepšení vašich matematických dovedností nebo pomoci vám pamatovat si neskutečnou šířku znalostí. Ale také léčit Alzheimera, posttraumatickou stresovou poruchu nebo jiné nemoci.

Ve své knize se také zamýšlím nad otázkou, zda by stroje, které vytvoříme nebo se kterými se budeme propojovat, mohly být také vědomými bytostmi. Zda by mohly obsahovat sebezpyt. Zda se budou cítit být sami sebou. Hledám také způsoby, jimiž bychom to mohli zjistit, a navrhuji testy, které to pomohou potvrdit.

Mluvíte o tom, že umělá inteligence by sama sebe musela pociťovat zevnitř. Existují také nějaké snahy vytvořit umělou inteligenci propojenou s živou hmotou? Vytvořit roboty, kteří by sami mohli mít tělo a pociťovat se v něm? Vnímavé, cítící roboty?

To je velmi dobrá otázka. Myslím, že vůbec nevíme, jak došlo k tomu, že jsme vědomí. Můžeme si myslet, že určité části mozku jsou klíčem k sebeuvědomění, ale nerozumíme filosofické hádance, která se za tím skrývá. Nerozumíme ani tomu, zda může vědomí existovat ve formě spojení různých mikročipů. Proto je podle mě důležité vytvářet podobné testy.

Nerozumíme ani tomu, zda vědomí je něco specificky přítomného v lidských buňkách, kterými by mohlo být předáno do mikročipů. Filosofové vytvořili mnohé myšlenkové experimenty. Ve své knize spekuluji o tom, že nemusí existovat ani důvod, aby společnosti vytvářely vědomou umělou inteligenci. Mohlo by být dostatečné vytvořit stroje, které jsou vysoce inteligentní a řeší různé úkoly, a vědomí ani nemusí být vedlejším produktem jejich existence.

Ve své knize zmiňujete tři možné scénáře budoucího vývoje AI. Jedním z nich je právě úvaha o tom, že velké technologické firmy po možnosti vytvořit vědomou umělou inteligenci ani nesáhnou. Můžete vysvětlit proč?

U lidí představuje vědomí pouze jednu z mnoha operací, které v mozku jako celku probíhají. Jsme velmi vědomí a pozorní, pokud se něco učíme úplně poprvé. Pokud poprvé v životě řídíte auto, dáváte dobrý pozor na to, co se okolo vás děje. Ale pokud už řídíte delší dobu, vnímáte situaci touto zostřenou pozorností pouze v případě, že dochází k něčemu nebezpečnému. Děje se tak proto, že informace v mozku se postupně stávají rutinními a časem již není potřeba, aby byly některé úkony prováděny s naší plnou pozorností, a vykonáváme je spíš z oblasti nevědomí. Moje otázka tedy je: Proč by vůbec bylo potřeba, aby umělá inteligence byla vědomá? Představte si vysoce sofistikovanou AI, která by uvnitř sebe obsahovala celý internet. Byla by už sama o sobě expertem na všechno a mohla vědomí jako celek úplně vyrušit. Proto se ptám sama sebe, jestli inteligentní struktury budou vůbec potřebovat vědomí. To je pro mě jedna z nejdůležitějších otázek.

Artificial You – Susan Schneider

Ale jsou tu i další okolnosti. Jednou z nich je jednoduchá obava z toho, že pokud stvoříte vědomou umělou inteligenci, bude opravdu použitelná pro daný úkol, kvůli kterému jste ji vytvořili? Hlavně kvůli etickým otázkám. Je etické, aby pro vás pracoval stroj, který je si vědom sám sebe? To se totiž nápadně blíží otroctví a nyní vznikají mnohé skupiny hájící práva umělých inteligencí. Veřejné mínění bude považovat za neetické, abychom nechali vědomé stroje za nás uklízet, bojovat v lidských válkách a podobně. Proto navrhuji, aby vývojáři pracovali opravdu opatrnými kroky k tomu, aby zjistili, jestli jim pod rukama vzniká vědomá inteligence, protože jejich další verze být vědomými zase nemusí.

Hodně se věnujete i tématu panpsychismu. Tento myšlenkový proud hlásá, že i ty nejmenší vrstvy reality mají zkušenosti. Jak může vývoj AI vnitřně obohatit lidské vědomí a inteligenci?

Podílela jsem se na vzniku dokumentárního filmu Supersapiens, který před dvěma lety natočili němečtí tvůrci. Pojednává o použití umělé inteligence pro obohacení vědomí lidí. V Silicon Valley se konají schůzky ohledně využití umělé inteligence pro meditaci a soustředění. Technologie v tomto ohledu zatím není velmi pokročilá a ještě neexistují mikročipy, které byste si implantovali do mozku a získali tak meditativní schopnosti zenového mistra. Nicméně je podle mě důležité, že se tyto rozhovory a debaty odehrávají, protože pro budoucnost může být hodně přínosné přemýšlet nad produktivním využití AI.

Při práci s roboty je hlavní empatie. Čechům chybí vášeň debatovat, říká expert na umělou inteligenci

Dokáže umělá inteligence sama umělecky tvořit?

Česko čeká zkouška. Buď na vývoj technologií zareaguje, nebo ho nástup robotů porazí. Systémově zatím nemá moc nakročeno, i u nás ale vyrostli lidé, kteří na poli umělé inteligence patří mezi světové špičky. Jedním z nich je Michal Pěchouček z ČVUT, který prodal úspěšný start-up jedné z největších firem světa – Cisco. „V budoucnu bude hrát větší roli empatie. I vůči strojům a algoritmům. Budeme muset umět rozumět tomu, jak program uvažuje,“ myslí si Pěchouček.

Kdybyste vy sama mohla tvarovat budoucnost umělé inteligence, jakou vizi byste světu nabídla, aby výzkum AI mohl co nejvíc lidstvu prospět?

Myslím si, že nejdůležitější je veřejný dialog a snaha tuto diskusi nechat blízko povědomí lidí. Neměli bychom se totiž domnívat, že všechno musí za každou cenu dopadnout dystopicky. Ve vaší zemi by pro veřejnost bylo opravdu přínosné, kdyby byla informovaná o tom, jaké konkrétní technologie se vyvíjí, čeho může umělá inteligence dosáhnout. Lidé se často domnívají, že už za pár let budou vytvořeny strojové mysli. A měli by si uvědomit, že lidská mysl je vědomá, ale i když budou potkávat humanoidní roboty, ti být vědomí vůbec nemusí. Takže je důležité zkrátka debatovat o různých myšlenkách, o klasických filosofických problémech, o povaze vědomí a mysli. Na praktické úrovni jsou klíčové také zákony a regulace. Vytváření zákonů, které by omezovaly negativní užití AI, celé společnosti pomáhá se posunout dál.

Se Susan Schneider jsme se dostaly i k diskusi o tom, jak se na budoucnost umělé inteligence dívají elity ze Silicon Valley, na čem pracuje v NASA a jestli by se mimozemské civilizace mohly proměnit v syntetické umělé inteligence. Poslechněte si nezkrácený záznam rozhovoru.