Jak vytvořit lepší svět? „Ve vývoji umělé inteligence potřebujeme více žen,“ říká socioložka Gina Neff

03279496_1.jpeg

Umělé inteligence už dnes řídí řadu systémů, od online nakupování až po randění. Při vývoji AI technologií v nich ale zrcadlíme společenské nerovnosti, což může mít katastrofální následky. Proto je potřeba přemýšlet nad umělou inteligencí i z pohledu genderu a řešit postavení žen, kterých AI průmysl potřebuje přitáhnout více. Při její návštěvě Prahy jsem o tom diskutovala se socioložkou Ginou Neff, která se na Oxford Internet Institute zabývá právě umělou inteligencí.

Umělá inteligence (či zkráceně AI, z anglického označení artificial intelligence – pozn. autorky) podle Giny Neff sama o sobě gender nemá, protože je to neutrální technologie. „Často ji ale vkládáme do nějakého těla a my lidé máme potřebu těmto tělům přisuzovat nějaký gender. To, co bych ráda zdůraznila, je, že se musíme kriticky dívat na to, jak jsou technologie vyráběny a používány, a přemýšlet o tom, jaké společenské dopady to má. A abychom to zjistili, musíme se u umělé inteligence zabývat i genderem,“ shrnuje Neff svůj přístup ke kritickému zkoumání AI technologií.

Gina Neff je odbornicí na komunikaci a nové technologie a zabývá se jejich vlivem na společnost. Doktorát ze sociologie vystudovala na Kolumbijské univerzitě a v současnosti působí na Oxford Internet Institute a na katedře sociologie Oxfordské univerzity. Ve svém výzkumu a knize Self-Tracking rozebírá, jak umělá inteligence pracuje se shromažďováním osobních údajů. Do Prahy přijela na ČVUT přednášet na pozvání projektu Národní kontaktní centrum – gender a věda Sociologického ústavu Akademie věd ČR.

Problémy genderové nevyváženosti vysvětluje prostřednictvím analýzy, která popsala, že domácí asistentky jako Siri, Alexa apod. mají většinou ženská jména a hlasy, kdežto umělá inteligence ve vojenství nebo systémech zacílených na výkon je často definována jako mužská. „Tohle nemá nic společného s technologií jako takovou, ale navazuje to na hodnoty a vlastnosti naší dnešní společnosti,“ říká Neff a dodává, že je důležité přemýšlet nad tím, jak promítáme naši vlastní předpojatost do infrastruktury, která je základem budoucí společnosti.

Jedním z velkých problémů v průmyslu umělé inteligence je, že v něm pracuje výrazně více mužů než žen. „Zrovna když zažíváme velký nárůst příležitostí a počtu pracovních pozic v technologických oborech, ženám je dáváno najevo, že nejsou potřebné,“ komentuje Neff situaci na trhu práce i na univerzitách, kde klesá počet studentek IT. „Když nezapojíme do AI více lidí, kteří by se zabývali složitými otázkami ohledně hodnot, které chceme následovat, a zkoumali, k čemu nám data mají sloužit, propásneme možnost vybudovat férovější svět. Myslím, že když se na technologie začneme dívat jako na něco, čím budujeme společnost, a něco, co odpovídá struktuře společnosti, kterou chceme, najednou můžeme pro práci v technologiích nadchnout spousty lidí, kteří se například nepovažují za technické typy, geeky nebo nerdy,“ dodává.

Jak dnes tedy vypadají zažité struktury v systémech umělé inteligence? „Z externích prověrek a analýz komerčně dostupných AI systémů na rozpoznávání obličejů víme, že rozpoznávají lépe muže než ženy a lépe rozpoznávají lidi se světlým odstínem pleti než lidi s tmavším odstínem pleti. To znamená, že budujeme nástroje, které jsou založeny na struktuře, která nepočítá s diverzitou světa. To bude mít nedozírné následky v tom, jak jsou lidé viděni ve vládních systémech, v systémech chytrých budov či chytrých měst. Pokud si nedáme pozor, přebereme i tato znevýhodnění, která někteří lidé zažívají, a vytvoříme z nich součást našeho každodenního života.“

V souvislosti s nedokonalým rozpoznáváním obličejů zmiňuje Neff jako negativum například to, že by kvůli takovým chybám autonomní vozidla nemusela správně rozpoznávat chodce a ženy jsou v tomto ohledu ohroženou skupinou. Umělá inteligence se šíří do všech sektorů každodenního života a někteří lidé by tak například nemuseli mít rovné příležitosti při vyřizování půjček, hledání práce nebo ve zdravotnickém systému. „Co se týká bezpečnosti nebo zdravotních problémů, dnes vytvářené systémy mohou jednou rozhodovat v otázkách života a smrti,“ konstatuje Neff. Podle odbornice na sociologii a umělou inteligenci existuje naděje, že je možnost, jak krizovým situacím předcházet, pokud se zamyslíme nad tím, jakou technologii a infrastrukturu společnosti chceme mít v budoucnu. „Čím více pozornosti a veřejné debaty na to zaměříme, tím silnější může naše společnost a demokracie být,“ dodává Gina Neff.

Proč se máme zabývat genderem a sociálními tématy i při vývoji umělých inteligencí? V čem by jinak mohly být nejen pro ženy nebezpečné? A můžeme díky AI vytvořit férovější svět? Poslechněte si celý rozhovor se socioložkou Ginou Neff o vztahu genderu a nových technologií.

Spustit audio

Související