Science fiction is realiteit geworden in ons moderne strafrechtstelsel. ‘Pre-Crime,’ is een term die voor het eerst werd genoemd in het korte?science fiction verhaal uit 1956 The Minority Report?van Philip K. Dick, waarin hij een toekomst voorzag waarin een gespecialiseerde ‘Pre-Crime’ politie-eenheid in staat is om criminelen te arresteren voordat ze hun overtredingen begaan. Inmiddels is dit gedachtegoed verworden tot een Predictive Policing technologie die?bij de politie in zowel de VS als Europa gebruikt wordt om mensen te identificeren, die waarschijnlijk slachtoffers of daders van een misdaad zijn. In de media zijn veel artikelen te vinden die deze prognosesoftware en de algoritmen erachter als onjuist en willekeurig beschouwen, omdat ze worden gebruikt om informatie te verzamelen, in de gaten te houden en aan te wijzen als “verdacht”. Maar voorspellende software is zo?maar zo goed als de gegevens die erin gaan. Met weinig bewijs over de betrouwbaarheid van de brongegevens of de correctheid van de dataverwerkingstechnieken, zijn missers bijna een gegeven volgens deze documentaire. In het onderzoek dat Matthias Heeder en Monika Hielscher?in deze documentaire doen stellen zij deze?vraag centraal: “Hoeveel vrijheid en menselijk bewustzijn zijn we bereid op te geven aan de beperkte logica van technologie?”
In Pre-Crime reizen de makers van de docu naar Chicago, Londen, Parijs, Berlijn en M?nchen om de gevolgen van deze moderne voorspellende hulpmiddelen te onderzoeken in het hedendaagse gebruik ervan waarmee ze laten zien hoe?”high risk” overtreders worden gemonitord en “verdacht” worden op basis van?weinig bewijs en onbetrouwbare brongegevens.
Zo onderzochten ze de Chicago’s Strategic Subject List (ofwel Heat List) die gebruik maakt van een algoritme van?professor Miles Wernick van het Illinois Institute of Technology, die erop gericht is te voorspellen wie het meest waarschijnlijk zal overgaan op?gewelddadig geweld of iemand iets zal aandoen. Het algoritme maakt?scores per persoon op basis van arrestaties, betrokkenheid bij schietpartijen, lidmaatschap van bendes en andere variabelen.
“Er is een wereldwijde beweging van jonge wetenschappers die algoritmische aansprakelijkheid vereisen, wat betekent dat je de zwarte doos moet openen en transparant maken.” vertelt Matthias Heeder uit Hamburg, Duitsland “Hetzelfde geldt voor de politie – zij moeten verantwoordelijk worden gesteld voor wat ze doen. Dat is de basis boodschap van deze film.”
Maar ze wilden geen film over polarisatiealgoritmen ontwikkelen. In plaats daarvan had het duo een documentaire in gedachten over algoritmes met betrekking tot Big Data analyse en het internet als geheel. “Dit is een zeer complex probleem, en we waren echt bezorgd over hoe het verhaal het beste verteld kon worden, en niet alleen over de politie moest gaan, maar ook over de maatschappij,” zegt Heeder. “Wat we hebben geleerd is dat het een voortdurend veranderende omgeving is – de politieke noodzaak verandert, waardoor beslissers besluiten deze software al dan niet te gebruiken”.
Het PredPol-programma maakt gebruik van drie gegevens om zijn misdaadvoorspellingen te maken. Ze gebruiken “misdaadtype uit het verleden, plaats van het misdrijf en tijdstip van het misdrijf”. Hoewel de software zich richt op criminele hotspots, in plaats van specifieke personen, is de praktijk volgens de documentaire gevaarlijk. “Het idee van de politie is dat als ze weten waar de hotspot is, ze weten dat er een zekere kans bestaat dat er een misdaad gaat plaatsvinden en dat gebied met agenten overspoelen,” legt hij uit. “De politie merkt dat het een verschil maakt in de manier waarop politieagenten naar onschuldige mensen kijken.”
“Welkom in Minority Report”, aldus de documentaire die die in de maand mei 2017 in premi?re is gegaan.
Bronnen: Mubi, Precrime, HotDocs, RealScreen, Vice
