Jak vytvořit lepší svět? „Ve vývoji umělé inteligence potřebujeme více žen,“ říká socioložka Gina Neff

Umělá inteligence (či zkráceně AI, z anglického označení artificial intelligence – pozn. autorky) podle Giny Neff sama o sobě gender nemá, protože je to neutrální technologie. „Často ji ale vkládáme do nějakého těla a my lidé máme potřebu těmto tělům přisuzovat nějaký gender. To, co bych ráda zdůraznila, je, že se musíme kriticky dívat na to, jak jsou technologie vyráběny a používány, a přemýšlet o tom, jaké společenské dopady to má. A abychom to zjistili, musíme se u umělé inteligence zabývat i genderem,“ shrnuje Neff svůj přístup ke kritickému zkoumání AI technologií.

Problémy genderové nevyváženosti vysvětluje prostřednictvím analýzy, která popsala, že domácí asistentky jako Siri, Alexa apod. mají většinou ženská jména a hlasy, kdežto umělá inteligence ve vojenství nebo systémech zacílených na výkon je často definována jako mužská. „Tohle nemá nic společného s technologií jako takovou, ale navazuje to na hodnoty a vlastnosti naší dnešní společnosti,“ říká Neff a dodává, že je důležité přemýšlet nad tím, jak promítáme naši vlastní předpojatost do infrastruktury, která je základem budoucí společnosti.

Jedním z velkých problémů v průmyslu umělé inteligence je, že v něm pracuje výrazně více mužů než žen. „Zrovna když zažíváme velký nárůst příležitostí a počtu pracovních pozic v technologických oborech, ženám je dáváno najevo, že nejsou potřebné,“ komentuje Neff situaci na trhu práce i na univerzitách, kde klesá počet studentek IT. „Když nezapojíme do AI více lidí, kteří by se zabývali složitými otázkami ohledně hodnot, které chceme následovat, a zkoumali, k čemu nám data mají sloužit, propásneme možnost vybudovat férovější svět. Myslím, že když se na technologie začneme dívat jako na něco, čím budujeme společnost, a něco, co odpovídá struktuře společnosti, kterou chceme, najednou můžeme pro práci v technologiích nadchnout spousty lidí, kteří se například nepovažují za technické typy, geeky nebo nerdy,“ dodává.

Čtěte také

Kam až zajde umělá inteligence? Hranicí neuronových sítí jsme my sami

Jak dnes tedy vypadají zažité struktury v systémech umělé inteligence? „Z externích prověrek a analýz komerčně dostupných AI systémů na rozpoznávání obličejů víme, že rozpoznávají lépe muže než ženy a lépe rozpoznávají lidi se světlým odstínem pleti než lidi s tmavším odstínem pleti. To znamená, že budujeme nástroje, které jsou založeny na struktuře, která nepočítá s diverzitou světa. To bude mít nedozírné následky v tom, jak jsou lidé viděni ve vládních systémech, v systémech chytrých budov či chytrých měst. Pokud si nedáme pozor, přebereme i tato znevýhodnění, která někteří lidé zažívají, a vytvoříme z nich součást našeho každodenního života.“

V souvislosti s nedokonalým rozpoznáváním obličejů zmiňuje Neff jako negativum například to, že by kvůli takovým chybám autonomní vozidla nemusela správně rozpoznávat chodce a ženy jsou v tomto ohledu ohroženou skupinou. Umělá inteligence se šíří do všech sektorů každodenního života a někteří lidé by tak například nemuseli mít rovné příležitosti při vyřizování půjček, hledání práce nebo ve zdravotnickém systému. „Co se týká bezpečnosti nebo zdravotních problémů, dnes vytvářené systémy mohou jednou rozhodovat v otázkách života a smrti,“ konstatuje Neff. Podle odbornice na sociologii a umělou inteligenci existuje naděje, že je možnost, jak krizovým situacím předcházet, pokud se zamyslíme nad tím, jakou technologii a infrastrukturu společnosti chceme mít v budoucnu. „Čím více pozornosti a veřejné debaty na to zaměříme, tím silnější může naše společnost a demokracie být,“ dodává Gina Neff.