„Věštecký“ software zjednodušuje policejní práci, má však svoje úskalí

9. únor 2016
03565872.jpeg

„Pane Marksi, z pověření okresu Kolumbie, oddělení PreCrimu, vás zatýkám za budoucí vraždu Sarah Marksové a Donalda Doobina, která měla být spáchána dnes, 22. dubna v 8 hodin 4 minuty,“ říká John Anderton, postava hraná Tomem Cruisem ve snímku Minority Report, nedokonalé adaptaci stejnojmenné povídky od Philipa K. Dicka. V posledních letech začínají prediktivní metody používat některé americké policejní sbory. Ve skutečnosti však používají takzvaná velká data a software namísto zázračných potomků uživatelů drog, jak tomu bylo v Minority Report.

Už v 90. letech se o něco podobného pokoušel náměstek newyorského policejního komisaře Jack Maple, a to bez počítačů. S vědomím, že newyorské metro trpí vysokou mírou krádeží, si sám vytvořil systém map, na které si zanesl zaznamenané krádeže. Bez použití sofistikovaných technologií, stačil mu papír a voskovky. U těch ale nezůstalo a z Mapleových map byl postupně vyvinut systém CompStat.

V posledních letech se roztrhl pytel se sofistikovanějšími následovníky CompStatu. Dnešní software je schopný brát v potaz daleko víc dat než samotné zaznamenané zločiny. „Člověk prostě nezvládne zpracovat takové množství dat s desítkami a stovkami proměnných, které mohou ovlivnit zločin, jako například počasí, sociální média, blízkost školy nebo stanice metra, zvuková čidla zaznamenávající výstřely, telefonáty na tísňové volání,“ říká Darrin Lipscomb, spoluzakladatel dvou společností, které vyvinuly software předjímající úroveň zločinnosti pro několik amerických měst.

Mnohé systémy berou v potaz i faktory, které by vás asi v souvislosti s úrovní kriminality hned nenapadly. Časy domácích zápasů místních sportovních klubů jsou možná logickým datovým bodem. Na první pohled menší smysl dávají třeba fáze měsíce nebo data ze sociálních sítí, se kterými operuje systém HunchLab. S pomocí těchto neintuitivních faktů se však těmto systémům daří objevovat nečekané spojitosti. Například Chicago sužuje víc zločinu, když fouká vítr, a že vaše auto ukradnou, je pravděpodobnější, když stojí v blízkosti školy. „Policejní práci dělám 16 let a nemyslím si, že by mě některé tyto lokace napadly,“ řekl serveru The Verge seržant Colby Dolly.

Se systémy, které se snaží předpovídat zločin, se pochopitelně pojí velká úskalí. S velkým odporem se například setkaly systémy, které se nezaměřují na určení pravděpodobných míst, kde dojde ke zločinu, ale na určení pravděpodobných pachatelů. Není těžké si představit, jaké orwellovské (respektive dickovské) implikace takovýto přístup přináší.

I prediktivní software zaměřený na lokace namísto konkrétních jednotlivců je kritizován za to, že může nechtěně utvrzovat policejní předsudky. Ty v posledních letech vyústily v mnoho incidentů, v nichž neozbrojený Afroameričan přišel o život, a následné protesty, například ve Fergusonu, který spadá pod jurisdikci právě jednotky seržanta Dollyho.

Čtěte také

Kritika v širším kontextu směřuje hlavně na takzvanou teorii rozbitého okna, kterou v roce 1982 vypracovali sociologové James Wilson a George Kelling. Přesně s tímto paradigmatem operoval Jack Maple v 90. letech v New Yorku. Zatímco zastánci této teorie poukazují na fakt, že se v New Yorku v té době podařilo razantně snížit kriminalitu, odpůrci tvrdí, že to bylo převážně vlivem jiných faktorů a ve stejné době proběhl obdobný pokles ve stovkách naprosto odlišných měst se zcela jinými policejními přístupy.

„Jakmile se vydáte cestou přehnané policejní pozornosti vůči menšinovým oblastem, což je přístup spojený s teorií rozbitého okna, váš postoj ke zdejšímu obyvatelstvu, které máte chránit – to jest většinou chudé a ne bílé, začne být agresivnější. Kontrolu si zachováváte tím, že neustále zvyšujete úroveň agresivity. Takže i policisté s nejlepšími záměry a výcvikem začnou být konfrontováni se stále frustrovanější, nepřátelskou a odmítavou veřejností a začnou reagovat zvýšením agresivity své odezvy,“ řekl publicistovi Dougu Henwoodovi sociolog Alex Vitale, který se zabývá policejními strategiemi.

03565873.jpeg

Historicko-společenský kontext ignorující výstupy softwaru samozřejmě mohou napravit samotní policisté v terénu. Obavy z toho, že policisté naopak posíleni iluzí jistoty z výstupů počítačů použijí data jako záminku pro větší agresivitu na vytipovaném místě, rozhodně nejsou vzhledem k událostem posledních let neopodstatněné.