Bude umělá inteligence sexistická?

Ať žije Hitler

Firma Microsoft před několika měsíci vytvořila chatovacího robota, kterého nazvala Tay. Předlohou byla typická dívka z generace mileniálů. Robot se učil z reakcí na Twitteru. Čím víc mu lidé psali, tím pestřeji dokázal reagovat. Zpočátku vše fungovalo ideálně: „Ahoooj, lidi jsou fakt hustý bytosti,“ psala Tay. Stačil jí ale pouhý den, aby se její tón rychle změnil.

„Zoë Quinnová je pitomá dě**a,“ šokovala Tay vyjádřením o v Americe populární herní vývojářce. A nezůstalo u toho. Tay za chvíli oslavovala Hitlera a o prezidentu Obamovi mluvila jako o opici. Robot se zkrátka rychle mechanicky učil z twitterové komunikace, jenže nedokázal rozlišit kontext a nepoznal dobré od špatného. Microsoft ho nakonec musel urychleně vypnout. „Neseme plnou odpovědnost za to, že jsme podobnou možnost chování neodhalili včas,“ omlouval se viceprezident firmy Peter Lee.

Časopis Foreign Policy upozorňuje na to, že snaha co nejrychleji vyrobit umělou inteligenci může vést i v budoucnosti k podobným nedomyšleným přehmatům. Jednou z velkých otázek je, jak bude umělá inteligence vnímat gender.

Netransparentní algoritmy

Jisté je, že umělá inteligence bude brzy mnohem vyspělejší než zmíněná Tay. Jenže sexismus, rasismus a nejrůznější předsudky se dají čerpat i sofistikovanějšími cestami, než jsou internetoví trollové. Na jeden takový příklad upozornili nedávno brazilští vědci z Universidade Federal de Minas Gerais svým experimentem.

Článek byl součástí výběru z médií Radia Wave, rubriky, která běží každou středu v 16:20.

Zadávali do vyhledávačů Google a Bing sousloví „krásné ženy“ a „ošklivé ženy“ a následně analyzovali výsledky. Ukázalo se, že pro sousloví „krásné ženy“ našly vyhledavače především fotografie mladých bílých žen a pro „ošklivé ženy“ spíše černošky nebo Asiatky staršího věku. Algoritmy vyhledávače tak svým způsobem odrážely předsudky reálného světa. Představte si, že by se takto učil robot.

Umělá inteligence - robot - roboti-hudebníci|foto: Public domain

Existují již firmy, které dokáží analyzovat komunikaci lidí na sociálních sítích z lingvistického, psychologického nebo demografického pohledu. Společnost InferLink zkoumala, jak se muži a ženy sebeprezentují na sociálních sítích. Zjistila například, že muži jsou více deklarativní, ženy zase popisné. Ženy jsou také výrazně zdvořilejší než muži. Na základě podobných informací pak mohou vznikat algoritmy, které de facto budou udržovat genderovou nerovnost i nadále. Už dnes například existují netransparentní algoritmy, které nabízí lépe placenou práci spíše mužům než ženám.

Heather Roffová se věnuje umělé inteligenci a globálním bezpečnostním hrozbám. Působí také na univerzitě v Oxfordu, kde začala pracovat na otázce morálního vývoje umělé inteligence. Zajímá ji, jakým způsobem a v jakých podobách se projevuje gender v technologiích. Roffová upozorňuje, že podobné algoritmy mohou mít v budoucnu vliv i na takové věci, jako na jaké přijímací pohovory půjdete, do jaké školy budou chodit vaše děti, jestli dostanete hypotéku apod. Zásadním problémem je, že o nich mnohdy uživatel ani neví, nemůže je ovlivnit ani proti nim protestovat.

Umělá inteligence|foto: Creative Commons Attribution-NonCommercial-NoDerivs 2.0 Generic

„Mohou ovlivňovat řadu našich rozhodnutí, od toho, čemu se budu věnovat, jestli mám žít sama, jestli se vdám, jestli budu mít děti, stejně jako ovlivňují to, jakou si koupím kabelku. Může to být prostě velmi nebezpečné,“ varuje Roffová.

Robotí bohyně

Vývojáři mají tendenci vytvářet umělou inteligenci tak, aby se podobala lidem. Váleční roboti připomínají muže a dostávají hrdinská mužská jména jako Achilles nebo Thor, roboti v úřednických profesích zase vypadají spíše jako ženy.

Loni v dubnu představili čínští technici robotku Jia-jia, která zosobňuje představy mužů o dokonalé ženě. Má tmavé vlasy, bílou pleť i růžolící rty a tváře. Když ji vývojář osloví, odpoví mu „ano můj pane, co pro vás mohu udělat?“, když k ní někdo přistoupí s fotoaparátem, vyzve ho, aby jí nefotil moc zblízka, aby nevypadala tlustá.

Jia-jia si rychle vysloužila označení „robotí bohyně“ nebo „erotický robot“. Samotný tvůrce, profesor Čchen Siao-pching, byl takovým vnímáním překvapen a protestoval, že to nebyl záměr a že to odporuje čínské kultuře. Sám nedokázal dohlédnout, co může jeho výtvor evokovat.

Co s tím?

Podle Foreign Policy je třeba začít o umělé inteligenci vážně uvažovat i z hlediska toho, jak ji učit normám. Problém je bezpochyby i v tom, že práce na umělé inteligenci je doménou mužů. Žen jako Heather Roffová je v této oblasti minimum, a i když se v ní prosadí, jsou odsouzeny do rolí spíše řadových pracovníků.

K prvním zlepšením už ale dochází. Například Stanfordova univerzita zahájila v roce 2015 program, který má podpořit ženské studentky v technických oborech.