Tagarchief: anticipatie

Algoritme als agent

Geef een reactie

Kan de computer misdaad voorspellen? Binnenkort gebruikt de Nederlandse Politie een algoritme om te bepalen waar de kans op een inbraak of overval het grootst is. De politietop is enthousiast, maar experts zetten vraagtekens bij de effectiviteit.

Onderstaand artikel is eerder gepubliceerd in De Ingenieur, tekst van Marc Seijlhouwer.?

Een schimmig zijstraatje in Amsterdam. Hier is het risico op een inbraak het grootst in de hele stad, zo weet de politie. Daarom houden agenten de straat deze avond extra in de gaten. Statistisch gezien is de kans immers aanzienlijk dat hier straks een roof,
inbraak of autokraak gaat plaatsvinden.

De agenten weten dat niet vanwege hun jarenlange ervaring met criminelen en de stad. Nee, een computer heeft hen verteld hoe het allemaal zit. Een algoritme, om precies te zijn, met de naam CAS. Dit Criminaliteits Anticipatie Systeem voorspelt voor elk gebied van 125 bij 125 m hoe groot de kans is dat er iets gebeurt in de komende twee weken. Dit alles op basis van tientallen informatiebronnen: het aantal inbraken of overvallen, de samenstelling van de bevolking aan de hand van CBS-cijfers, de adressen van veelplegers in een buurt en de geografische eigenschappen van een wijk, zoals de afstand tot een snelwegoprit die als makkelijke vluchtroute kan dienen.

Al die gegevensstromen zijn in drie jaar tijd tweewekelijks verzameld en in een zelflerend algoritme gestopt. Het programma ontwaarde patronen in deze informatie en kon op die manier een overzichtelijke kaart maken: risicovakjes zijn rood, andere oranje of geel. Een commandant ziet in ??n oogopslag waar de politie het meest nodig is en kan daar zijn surveillancerooster op baseren.
In theorie werkt CAS voorbeeldig. De voorspellingen zijn nauwkeurig en de agenten kunnen op de kaarten makkelijk zien waar ze heen moeten. Maar de praktijk blijkt weerbarstig. Toch springt de politie, in zijn zoektocht naar hulpmiddelen om effici?nter te werken, er fanatiek op. Is dat verantwoord? En wat zijn de gevolgen voor de maatschappij?

Tachtig datastromen
In mei maakte de Nationale Politie bekend CAS te gaan gebruiken bij 168 politieteams. Daarmee is Nederland het eerste land dat landelijk predictive policing (voorspellend politiewerk) toepast. De boodschap kwam na pilot-programma?s in Amsterdam en vier andere gemeentes (Enschede, Groningen-Noord, Hoefkade en Hoorn). Volgens de politie verliepen deze pilots dus succesvol genoeg om het systeem in te voeren. CAS lijkt inderdaad een handig gereedschap voor de drukke roostermakers die met een beperkte hoeveelheid agenten toch zoveel mogelijk misdaad willen voorkomen. Voordat CAS bestond, gebeurde dat goeddeels op basis van ervaring, rapportages van politieanalisten en het gevoel van de agenten. Subjectieve maatstaven dus. CAS, of breder: voorspellend politiewerk, geeft een schijnbaar objectiever advies. Het is immers gebaseerd op harde cijfers.

Predictive policing begon in 2009 in Los Angeles, toen antropoloog dr. Jeffrey Brantingham als eerste een manier bedacht om data te gebruiken om criminaliteit terug te dringen. Hij ontwierp een simpel algoritme waarin drie datastromen ? het soort misdrijf, de misdrijflocatie en het misdrijfmoment ? samenkwamen en een heat map van de Californische superstad opleverden. Die kaart leek al snel een goede voorspelling te geven en de misdaadcijfers daalden mede dankzij het gebruik van PredPol. Predictive policing was een hit. Bij de Nederlandse Politie ontwierp vervolgens dataminer drs. Dick Willems CAS. Dat was qua opzet een stuk ambitieuzer: niet drie, maar tachtig datastromen gingen in eenzelfde soort algoritme. ?Het is begrijpelijk dat de politieagenten hier snel op springen?, stelt ir. Arnout de Vries, sociaal onderzoeker bij onderzoeksorganisatie TNO. Hij kijkt al een aantal jaar naar de mogelijkheden en risico?s van predictive policing. ?Het geeft houvast bij een onzekere kant van het?werk. En het kan volgens onderzoeken in theorie enorm helpen.? Volgens CAS-ontwerper Willems, die een artikel over ?zijn? algoritme schreef in het Tijdschrift voor de Politie, kan 40 % van de inbraken en 60 % van de straatroven worden voorspeld. Dat betekent dat dergelijke misdrijven plaatsvonden in of nabij de voorspelde hokjes op de CAS-kaarten. Als al die misdrijven daarmee ook voorkomen kunnen worden, is dat natuurlijk enorme winst voor de veiligheid in de buurt.

pred1

Voorbeeld van een heat map. Vierkantjes van 125 bij 125 m krijgen een kleur, afhankelijk van de kans dat er een inbraak of roof plaatsvindt. Vervolgens kan de politie bijvoorbeeld meer surveilleren of een extra lantaarnpaal laten plaatsen om het risico te verkleinen.

Meer is niet beter
Toch is predictive policing niet alleen maar rozengeur en maneschijn. De eerste onderzoeken naar het gebruik van CAS, gedaan nadat de pilot ten einde kwam, laten zien dat het effect beperkt is. Dat wil zeggen: de pakkans bij inbraken en roof is vergroot, maar het is moeilijk om te bepalen of dat door CAS komt of doordat er meer agenten zijn ingezet om dergelijke misdrijven aan te pakken. Dat laatste gebeurde de afgelopen jaren namelijk ook, vanwege een wens uit de politiek.

Een onderzoek van de Politieacademie liet verder zien dat de interpretatie van de CAS-kaart problemen oplevert. ?De interpretatie van de kaart ging regelmatig mis, doordat de mensen die dat moeten doen te weinig kennis hebben?, vertelt dr.ir. Marielle den Hengst-Bruggeling, voormalig lector bij de Politieacademie, auteur van het rapport over CAS en universitair docent aan de TU Delft. Het onderzoek laat zien hoe ingewikkeld data-interpretatie kan zijn. ?Als agenten daar niet voor hebben geleerd, kan het effect van een algoritme kleiner zijn. We ontdekten dat de voorspellingen van CAS goed en betrouwbaar waren. Maar het omzetten van een voorspelling in een actie bleek lastig.? Daarnaast waren de reacties op de kaarten vanuit de politieleiding niet altijd adequaat. ?De meest voorkomende reactie was ?meer agenten inzetten op een plek?. Maar dat is lang niet altijd de beste optie. Als er een lantaarnpaal stuk is, werkt een monteur sturen beter om de locatie veiliger te maken.? Het academieonderzoek was voornamelijk kwalitatief; Den Hengst-Bruggeling en collega?s spraken met agenten en leidinggevenden en met de makers van CAS. Zo ontdekten ze wat er goed ging en wat niet. ?Maar harde cijfers hebben we niet, want het is lastig te onderzoeken.?

[slideshare id=73217737&doc=predictivepolicing-lessenvoordetoekomst-170316163022&type=d]

Bij PredPol lijken de resultaten wel hoopgevend. Bedenker Brantingham deed een onderzoek naar zijn eigen systeem, waarbij hij wijken die m?t PredPol waren geanalyseerd vergeleek met soortgelijke wijken (qua misdaadcijfers) zonder PredPol. En daaruit bleek dat PredPol werkt: het is twee keer zo goed in het voorspellen van misdrijflocaties als ervaren misdaadanalisten en het vermindert de hoeveelheid criminaliteit met 7 procent.

[slideshare id=53787686&doc=randomizedcontrolledfieldtrialsofpredictivepolicing-151011071940-lva1-app6892&type=d]

Dat zijn opmerkelijke cijfers, die echter ook meteen controversieel werden. Brantinghams onderzoeksmethodologie rammelde; de criteria?voor misdaaddaling waren bijvoorbeeld nogal los en het was niet altijd duidelijk of een daling aan de voorspellingen van PredPol lag of aan andere zaken.

Een onafhankelijk onderzoek naar PredPol of andere in de praktijk gebruikte voorspellingssystemen is er niet. Het dichtst in de buurt komt een Amerikaans onderzoek van de denktank The?RAND Corporation. Die paste een zelfontworpen model toe op het stadje Shreveport in Louisiana en vond niet significant minder misdaad dan in controlewijken. RAND ontkrachtte ook claims van de stad Chicago. Die stad gebruikte een ?voorspellingslijst? van mensen die vermoedelijk binnenkort een misdaad zouden begaan. Volgens Chicago had die lijst effect, RAND ontdekte dat dit effect niet significant was.

[slideshare id=39335396&doc=randrr531-140921011149-phpapp02&type=d]

Of het systeem in Nederland werkt, is nog moeilijker te zeggen; gedegen statistisch onderzoek naar het effect begint nu langzaam te komen, maar is nog lang niet voltooid. De Vries van TNO: ?We werken voor de evaluatie van CAS aan een kwantitatieve analyse die ons wat meer houvast geeft. Het onderzoek in Nederland is tot nu toe voornamelijk kwalitatief.?

Overigens bleek ook uit die kwalitatieve analyse van de Politieacademie geen significant verschil tussen criminaliteit zonder CAS en met. Bij het Nederlandse onderzoek vergeleek men de cijfers van een jaar voordat CAS begon met het jaar met CAS. ?Vergelijken blijft lastig, maar onze bevindingen geven wel een indicatie dat het ergens mis gaat met de voorspellingen?, zegt Den Hengst-Bruggeling. ?We weten dat de voorspelling zelf goed is, dus moet het probleem in de opvolging zitten.?

En ook als we over de bezwaren tegen het positieve onderzoek van Brantingham heen stappen, is dat moeilijk als bewijs voor de effectiviteit van CAS te zien. PredPol is ingezet in de Verenigde Staten, waar de cultuur en manier van werken van de politie totaal anders zijn. Bovendien verschillen de algoritmes behoorlijk. Vooral de veel grotere hoeveelheid datastromen in CAS valt op. ?Misschien zou je denken dat meer data altijd een betere voorspelling oplevert. Maar dat hoeft niet?, zegt de Vries. ?Zoveel data kan de voorspelling ook minder duidelijk maken, of kan ervoor zorgen dat er te veel aandacht wordt gegeven aan de verkeerde data. Meer is niet altijd beter.?

Big Brother Award
De Wetenschappelijke Raad voor Regeringsbeleid kwam vorig jaar met een rapport dat waarschuwde voor de gevolgen van big data in overheidsbeleid. Predictive policing valt daar ook onder en moet volgens de raad dus uiterst voorzichtig worden uitgerold.

[slideshare id=61479991&doc=bigdataineenvrijeenveiligesamenleving-160428204125&type=d]

Internetprivacyorganisatie Bits of Freedom is ook kritisch over het gedrag van de politie; in 2015 gaf die de politie de Big Brother Award voor grootschalige privacyschending via een hun dataverzameling en -gebruik. Voorlopig is de data van de politie echter niet te gebruiken om individueel gedrag te detecteren. Dat lijkt men ook niet van plan, maar de mogelijkheid bestaat wel als systemen zoals CAS eenmaal gemeengoed zijn.

Zo objectief mogelijk
PredPol liet tijdens het gebruik ook al een risico zien van dit soort data-analyse. In achterbuurten werden vaker misdaden gepleegd, dus focuste het algoritme zich volledig op die buurten. Daardoor ging er meer politie heen, werd er meer misdaad ontdekt, enzovoort. Aangezien in de achterbuurten relatief veel Afro-Amerikanen woonden, zorgde het algoritme in feite voor een raciale ?bias? bij de politiemacht, ook al was etniciteit geen onderdeel van het model. De politie ging immers vaker naar die wijken en arresteerde daardoor vaker Afro-Amerikanen.
Dat probleem zou hier mogelijk nog groter kunnen zijn dan in de VS. Daar werkt het algoritme puur op criminaliteitscijfers, terwijl CAS onder andere CBS-gegevens over inwoners gebruikt, wat de kans op onbedoelde raciale profilering nog groter maakt.

Maar hoe voorkom je dat dan? De Vries: ?Het is lastig, want dit soort vooroordelen zijn niet geprogrammeerd; ze ontstaan uit de statistische regels van het programma. Dat maakt ze niet waar; de tunnelvisie is een soort glitch in de statistiek. Dat kun je voorkomen door ruis in de data te gooien. Normaal vertroebelt dat de analyse, maar met een beetje ruis kun je het algoritme uit zijn tunnelvisie halen en op een ander pad zetten. Zo maak je vooroordelen minder waarschijnlijk.?
Ook moet je kritisch kijken naar de criteria waarmee je een wijk bestempeld als ?risicovol?, zegt De Vries. ?Zit daar iets in dat te maken heeft met vooroordelen? Dat moet je als ontwerper weten voordat je je algoritme gaat gebruiken.?

Daarnaast proberen de ontwerpers van de algoritmes een zo objectief mogelijke maatstaf te nemen. Dat is doorgaans de aangifte die een slachtoffer doet. Die is niet gebaseerd op de aanwezigheid van politie in de wijk en geeft zodoende een eerlijker beeld van de hoeveelheid misdrijven dan een steeds terugkerende agent. Mede door die maatstaf is predictive policing op dit moment alleen te gebruiken voor zogenoemde high impact crimes: misdrijven die mensen raken in hun levenssfeer en veiligheidsgevoel. Van dat soort misdrijven doet men namelijk bijna altijd aangifte, dus geven ze een vrij volledig beeld van de hoeveelheid misdaad in een wijk.

Inbreekbereik
Terwijl de politie zich gereedmaakt om CAS in het hele land te gebruiken, zijn er ook al onderzoekers en politieonderdelen die naar de volgende stap kijken. CAS is namelijk beperkt: het zegt alleen waar iets gaat gebeuren, niet wat je ertegen moet ondernemen. Dat is echter wel mogelijk, denkt TNO. Daar werkt data-onderzoeker dr. Selmar Smit samen met de Vries en andere onderzoekers aan iets wat ze prescriptive policing noemen. Doel van dit onderzoek: een algoritme dat aan de hand van data voorschrijft wat een agent het beste kan doen. ?We willen de agenten helpen om een keuze te maken, zonder dat ze de vrijheid verliezen om zelf een interventie te kiezen?, vertelt De Vries. Dus voorspelt het systeem van een aantal ingrepen hoe effectief ze kunnen zijn. Als er een donker straatje is waar veel overvallen plaatsvinden, is een straatlamp of een beveiligingscamera misschien wel de beste oplossing. Zijn er veel inbraken? Dan kan een andere patrouilleroute een wereld van verschil maken. ?Ons systeem berekent het effect van elke interventie en geeft die informatie aan agenten. Zij kiezen vervolgens wat de beste optie is, aan de hand van het systeem en hun ervaring op straat.?

Het klinkt als een simpel systeem, maar dat is het niet. ?Om zo?n voorspellend algoritme te maken, moet je niet alleen veel data hebben, je moet ook het effect van een interventie meenemen in je berekening?, vertelt Smit. ?Als je dat niet doet, voorspel je alleen de situatie in vergelijking met het scenario waarin de politie niets doet. Maar dat is onrealistisch; de politie zal hoe dan ook altijd proberen in te grijpen. Daarom zijn de huidige algoritmes ook niet altijd toepasbaar.? Zo?n recursief algoritme, waarin je de uitkomst van de berekeningen terugvoert aan het algoritme, is niet makkelijk te maken. ?Met alleen criminaliteitscijfers of bevolkingsdata ben je er nog niet. Dus moet er kennis over mensen, in dit geval over het gedrag van criminelen, in het algoritme worden verwerkt.?

Al vier jaar werken Smit en collega?s aan hun prescriptive policing, en het gaat stapje voor stapje vooruit. ?De belangrijkste vooruitgang zit eigenlijk op het menselijke vlak. We spreken veel met experts, ervaren rechercheurs en agenten die ons vertellen hoe criminelen werken. Die kennis, vaak kwalitatief van aard, probeer ik in het algoritme te stoppen.? Als voorbeeld noemt Smit inbreekgedrag: ?Een crimineel zal niet bij zijn buren inbreken, maar?zal ook niet tientallen kilometers rijden op zoek naar een goede kraak. Zijn ?kraakgebied? is dus relatief goed te voorspellen. De politie weet dat, en wij proberen een maximaal bereik vanaf het huis van een inbreker te bepalen voor in het algoritme.?

Op die manier produceert het prescriptive algoritme niet alleen heat maps, maar ook een lijstje met mogelijke acties voor agenten. Bij elke actie staan ??n tot vijf ?ballen? om de voorspelde effectiviteit aan te geven. ?Daarbij komt dan een korte motivatie vanuit het algoritme.
Die motivatie komt vooral van vergelijkingen met andere wijken waar we al iets over weten. Dan staat er bijvoorbeeld: ?Een camera ophangen in een donkere straat werkte erg goed in deze
vergelijkbare wijk in Almere.? Op die manier weet de agent waar de voorspelling vandaan komt.

[slideshare id=61354641&doc=104tnorpredictivepolicingweb-160426065651&type=d]

Hongerig algoritme
Die vergelijkingen zijn voorlopig de kern van het prescriptive-algoritme. Echt de gevolgen van ingrepen simuleren gaat nog te ver, vindt Smit. ?De toekomst simuleren is een vaag onderzoeksgebied. We kunnen op korte termijn misschien wel iets voorspellen, maar het is onmogelijk om langetermijngevolgen te overzien met zo?n simulatie. Met wijkvergelijkingen weet je dat vaak wel, omdat de ?toekomst? van de ene wijk het verleden van een andere, soortgelijke buurt is.?
Wat TNO doet, is volgens De Vries en Smit op dit moment uniek in de wereld. ?Amerika, en Los Angeles in het bijzonder, volgt ons werk met veel interesse?, zegt De Vries.

Het risico van een bevooroordeeld algoritme geldt hier nog steeds. ?Het zou kunnen dat er eerder dan bij predictive policing al vooringenomenheid voor bepaalde wijken of bepaalde wijksoorten ontstaat doordat eerdere reacties van wijkagenten al is meegenomen.? Voorlopig is dat echter lastig na te gaan, want er is nog niet genoeg data om het hongerige algoritme mee te voeden. Om te weten welke interventies effectief zijn in bepaalde situaties, moet een computerprogramma immers weten of het werkte op een andere plek.
Daarom probeert Smit nu agenten te overtuigen om hun data te delen. Met hun telefoon en een gps-logger, bijvoorbeeld, of met een app waarop een agent kort aangeeft wat hij deed en waarom. ?Dat is meer moeite voor de agent, en het kan een vrij grote privacyinbreuk zijn. Hij of zij kan zich beperkt voelen in zijn of haar vrijheid, omdat elke beweging nu wordt gevolgd en opgeslagen. Ik probeer ze ervan te overtuigen dat ze als dataproducent met een gps op zak ook meer vrijheid kunnen krijgen op de lange termijn. Denk bijvoorbeeld aan ?een praatje maken?. Nu is dat voor de leidinggevenden vaak geen actie die als werk ?telt?. Als ons algoritme straks aantoont dat praten juist helpt om lokale criminaliteit te verminderen, krijgt de agent mogelijk meer vrijheid in zijn manier van werken.?

Komende vijf jaar is prescriptive policing nog geen realiteit. Maar met de landelijke invoering lijkt het voorspellend politiewerk van CAS moeilijk tegen te houden. Hoewel ze zelf aan de mogelijke opvolger van CAS werken, kijken ook Smit en De Vries niet alleen positief tegen de techniek aan. ?Het risico van bias is alleen te verminderen als de algoritmes transparant blijven. Daar zal bij elke verdere ontwikkeling op gelet moeten worden?, stelt Smit.

Op dit moment zijn de algoritmes in principe nog helder genoeg; predictive policing gebruikt statistische methodes die patronen uit data ontwaren. Zo ?leert? het programma met analyses die terug te volgen zijn tot de bron. Dat is doorzichtiger dan deep learning, waarbij een computer via verschillende ?lagen? een beslissing neemt. Deze methode zorgt nu al voor onnavolgbare uitkomsten bij verschillende zelflerende programma?s van Google en andere softwarebedrijven. Begrijpelijk dat de overheid en politie daar vandaan blijven.

Ondertussen denken de wetenschappers van TNO dat het essentieel is om de voorspellende techniek te ontwikkelen. ?Je houdt dit niet tegen. En ik geloof dat het beter is dat wij het doen, namens de overheid, dan dat een marktpartij een voorspellend ? maar niet transparant ? algoritme bouwt om daar winst mee te maken?, aldus Smit.

Hackrisico
Een vraag die CAS ook oproept, is: moet je bij iets wat misschien niet werkt wel al die gegevens van burgers willen gebruiken? Den Hengst-Bruggeling nuanceert het gevaar van privacy-inbreuk: ?De gegevens die CAS gebruikt, zijn nu in principe ook al beschikbaar voor de politie. Het algoritme maakt er overzichtelijke kaarten van, maar het werkt niet op het niveau van individuen.? Ze vindt de landelijk uitrol dan ook niet vreemd. ?Ik denk dat het een goed moment is. De politie gebruikt veel methodes die niet per se wetenschappelijk bewezen zijn. Dat is logisch, want het is altijd erg moeilijk om aan te tonen dat de criminaliteit daalt door een bepaald beleid. Hopelijk gaat de politie meer inzetten op het duiden van de data. Dat is belangrijk om van CAS een systeem te maken dat ook echt invloed heeft op de hoeveelheid criminaliteit.?

?Je kunt het systeem op een ethische manier invoeren zolang het algoritme maar transparant blijft en er bij elke verdere stap een discussie ontstaat?, zegt De Vries van TNO. Hij geeft wel meteen toe dat er nog de nodige beren op de weg zijn. ?De privacywetgeving en -handhaving zijn op dit moment slecht geregeld, zeker voor zaken als big data. Daar moet meer beleid voor komen. Daarnaast is er een belangrijke rol weggelegd voor het Openbaar Ministerie, rechters en de advocaten van verdachten. Die moeten kritische vragen stellen bij rechtszaken die als gevolg van predictive of prescriptive policing voorkomen: ?Hoe is mijn cli?nt gepakt? Is dat voor de wet te verantwoorden? Alleen als de juridische partijen zich mengen in de discussie krijg je een volledig debat.?
?Wat problematisch is?, voegt De Vries nog toe, ?is het ontbreken van een onafhankelijke landelijke of Europese ICT-autoriteit die initiatieven als CAS toetst aan de wet of aan ethische richtlijnen. Voor veel andere taken van de overheid bestaan zulke commissies wel, maar niet voor dergelijke algoritmes. Dat is eigenlijk vreemd; het zorgt er nu voor dat de controle op het gebruik van dit soort technieken van andere plekken moet komen.?

Los van al deze ethisch-maatschappelijke bezwaren kan het algoritme ook een veiligheidsrisico worden. ?Als criminelen een systeem kunnen hacken of namaken, hebben ze in feite een kaart die altijd de perfecte inbraakplek weergeeft. De dieven kunnen dan immers de politie omzeilen door naar de locatie te gaan waar het algoritme de kans op een inbraak het laagst schat.?
Aangezien de opzet van CAS relatief eenvoudig is, is het kraken van het systeem een realistische optie. Nu CAS prominenter wordt, wordt het ook verleidelijker om tijd en moeite in het hacken te stoppen. Bovendien zijn in Londen de misdaadcijfers openbaar, en er bestaat ook een open source predictive-algoritme. Daarmee kunnen mensen dus makkelijk een ?omgekeerde? misdaadkaart
maken.

Nu CAS landelijk is uitgerold, is voorspellend politiewerk in Nederland realiteit geworden. Of steden zoals Amsterdam daar uiteindelijk ook veiliger van worden, is alleen de vraag. In dit geval is de belofte van een techniek al genoeg geweest om hem door te laten breken. Ondertussen werkt men aan de volgende stap, waarvoor TNO nu data verzamelt bij de politie zelf. Daarmee be?nvloeden nieuwe technieken zoals zelflerende algoritmes en big data nu, naast het zakenleven en de wetenschap, ook het werk van de politie op straat. Dat werk zal er alleen niet per se makkelijker op worden. Er is gespecialiseerde kennis nodig die lang niet iedere agent of informatiewerker nu heeft. Hopelijk geldt dat hoe langer de agenten met het systeem werken, des te beter ze het weten te gebruiken. En wie weet wordt predictive policing daardoor straks effectiever dan het onderzoek tot nu toe laat zien.

Agenten sturen is niet altijd de beste oplossing om misdaad te voorkomen. Ook zorgen voor adequate verlichting kan een goede zet zijn. Op het Hoekenrodeplein bij Station Bijlmer Arena
is er dankzij zogenoemd adaptief licht altijd de juiste sfeer voor optimale veiligheid en gezelligheid. Zo heeft de politie minder werk.

Bronnen: De Ingenieur

Criminelen zijn zo voorspelbaar als 125 bij 125 meter

Geef een reactie

Met behulp van software criminelen op heterdaad betrappen, of voorkomen dat ze toeslaan: het lijkt science fiction, maar het gebeurde allang in Amsterdam.?Een landelijk virtueel raster met vakken van 125 bij 125 meter. Per vlak worden meldingen van bijvoorbeeld inbraken en roofovervallen bijgehouden. Dat is, in het kort, de gedachte achter CAS, het Criminaliteits Anticipatie Systeem.????

Predictive Policing is het voorspellen van misdaadrisico?s met behulp van software, op grond van grote hoeveelheden data die aan elkaar worden gekoppeld. Sinds meer dan een jaar gebruikt de politie het Predictive Policing systeem CAS. Nu wordt het landelijk uitgerold.

Wat zijn de voordelen van dit systeem en wat kunnen we er in de toekomst van verwachten? Kritische kanttekeningen zijn er ook te maken, Marc Schuilenburg vind het zelfs onzin. Onderstaand interview met Arnout de Vries, onderzoeker bij TNO, duidt de zin van de onzin in predictive policing:

Waar gebruikt de Nederlandse politie Predictive Policing voor?

?Om ?eenvoudige?, maar veel voorkomende misdaden als inbraak en zakkenrollen te voorkomen.?

“Een crimineel breekt het liefst in op bekend terrein, in een bekend huistype. En dat doet hij vaak op dezelfde manier, bijvoorbeeld met een breekijzer”, legt Arnout de Vries uit. Hij is onderzoeker bij kenniscentrum TNO en vanaf het begin betrokken bij deze ontwikkeling.

Door data over eerdere inbraken te combineren, kun je de volgende inbraak voorspellen, zegt De Vries. Op basis van 250 soorten data, bijvoorbeeld de sociale samenstelling van de buurt, het aantal caf?s en zelfs ook het weer wordt zo de kans op nog een incident berekend.

“Als je weet dat er in een straat steeds wordt ingebroken via openstaande ramen op zonnige dagen, dan kun je daar als politie rekening mee houden.”

Toch is De Vries verrast dat het systeem nu al landelijk ingezet gaat worden. “Het is gek dat ze het nu al uitrollen, want het is nog niet bewezen dat het systeem ook echt een verschil maakt op straat. We weten dat de voorspellingen aardig kloppen, maar niet of er ook meer boeven door worden gevangen, of dat de veiligheid hierdoor verbetert.”

Wat betekent CAS voor het werk van een politieagent?

?De agenten gaan nog steeds op pad, maar gerichter. Het systeem geeft aan waar en wanneer het risico op een misdaad groot is, maar schrijft niet voor wat de agenten moeten doen. Ga je er bijvoorbeeld naartoe, of hang je camera?s op? De leidinggevende bepaalt altijd al waar de agenten naartoe gaan. Die beslissing is nu deels gebaseerd op de risicobepaling van CAS.?

Werkt het systeem goed?

?De ervaringen in Amsterdam zijn positief, maar wetenschappelijk onderbouwde resultaten zijn er nog niet. We weten dus niet met welk percentage de misdaad is gedaald door dit systeem.?

Welke data gebruikt de politie bij Predictive Policing?

“Ze gebruiken de misdaadgegevens van de politie zelf, in combinatie met andere data. Denk aan de evenementenkalender of de weersvoorspellingen. Is het druk in de binnenstad? Doen mensen hun ramen open? Ook de woonplaats van veelplegers wordt erin meegenomen, want binnen een straal van twee kilometer rondom hun woning is de kans groot dat er iets gebeurt. CAS gebruikt nu al meer dan honderd soorten data.?

Hoe meer data ze gebruiken, des te beter de voorspelling?

?Dat is maar de vraag. Je zou bijvoorbeeld sociale media kunnen gebruiken om de meest actuele gegevens in je rekenmodel te stoppen. Bij TNO denken we echter dat het gebruik van nog meer gegevens op een zeker moment alleen zorgt voor optimalisatie in de marge. De opbrengst wordt steeds kleiner. Er bestaat bovendien een risico dat de politie zelf het zicht verliest op het model: hoe meer data je gebruikt, des te complexer worden de berekeningen. Willen we een situatie, waarin de politie zelf geen idee meer heeft waarom het systeem een locatie als risicovol aanwijst??CAS richt zich vooral op inbraken en zakkenrollen.

Het huidige systeem benut ook de adressen van veelplegers. Dat doet het op een schaal van 500 tot 1000 meter. Daar kun je ethisch gezien nog wel het nodige van vinden, zegt De Vries. “Zeker als die mensen hun straf al hebben uitgezeten.”

Komt er een uitbreiding naar andere criminaliteit?

?Zo?n uitbreiding kan zeker, maar is complex en vereist dat je fors inzet op data science. Het is de vraag of de politie hiervoor het geld en de expertise heeft.?

Ook is er volgens De Vries niet genoeg duidelijk over het ‘waterbed-effect’. Dus of criminaliteit zich door de extra controles in de rode vakjes niet simpelweg naar andere gebieden verplaatsen. ?”Mij valt op dat sommige burgemeesters daar erg simpel in zijn. Die denken: zolang de inbraak niet in mijn stad is, is dat veiligheidsprobleem opgelost.”

Werkt Predictive Policing altijd beter dan de intu?tie van een agent?

?De software bevat het collectieve geheugen van de politie, dat is meer dan het individu kan onthouden. Maar er kleven ook risico?s aan het gebruik van wiskundige modellen. Zo kan er een tunnelvisie ontstaan, doordat de software zich baseert op data uit het verleden. Als het systeem agenten een wijk in stuurt, zullen deze in veel gevallen wel wat vinden. Als het systeem vervolgens redeneert dat het risico in die wijk groter is dan elders, stuurt het de agenten er nogmaals heen. Zo kan onterecht het idee ontstaan dat die wijk crimineler is dan andere wijken. Die versterkende redeneringsloop kun je onder andere doorbreken door agenten af en toe willekeurig een wijk in te sturen.”

?De software bevat het collectieve geheugen van de politie, dat is meer dan het individu kan onthouden?

Critici van Predictive Policing zijn bang dat onterecht mensen op worden gepakt. Is die angst terecht?

?Een veel gebruikt voorbeeld is dat iemand ten onrechte wordt aangehouden, omdat hij ?s nachts toevallig met een schroevendraaier rondloopt over straat. Ook ?racial profiling? kan het systeem insluipen: mechanismen, waardoor mensen met een etnische achtergrond vaker worden aangehouden. Stel bijvoorbeeld dat de eerder genoemde wijk toevallig erg multicultureel is. Je moet je bewust zijn van de data het systeem ingaan en welke juist ontbreken. Eigenlijk zou een onafhankelijke ethische ICT-commissie het systeem moeten toetsen.?

Prescriptive Policing zou de volgende stap kunnen zijn. Wat houdt dat in?

?Predictive Policing zegt alleen op welk moment je waar moet zijn. Prescriptive Policing voorspelt welke maatregel het meest effectief is gebleken in die context. Het politiesysteem bevat een schat aan gegevens die nu onbenut blijft. Met smartphones kun je bijvoorbeeld meten waar agenten geweest zijn en wat ze gedaan hebben. Welk effect heeft dat gehad??

Is de politie hier klaar voor?

?De Nederlandse politieleiding stuurt nu juist erg aan op professionele vrijheid van de agenten. Als die vrijheid wordt ingeperkt door software, zal dat lastig te accepteren zijn. Bovendien is er een enorme allergie voor cijfers: een kopje koffie drinken in een buurthuis is niet in cijfers uit te drukken, toch kan het enorm nuttig zijn. Het is heel belangrijk dat agenten en leidinggevenden de toegevoegde waarde van het systeem zelf gaan ervaren. Die mindset is nog belangrijker dan de dataset.?

Is het nog een optie om deze technologie?n links te laten liggen?

?Gezien de effici?ntie van de bedrijfsvoering ligt het voor de hand om toch op predictive en prescriptive policing in te zetten. De politie weet momenteel niet wat allerlei interventies opleveren. Zowel de politiek als de samenleving verwacht dat resultaten aantoonbaar gehaald zijn. En de politie moet steeds meer doen met minder. Deze technologie stelt je daartoe in staat. Wat ook sterk meespeelt, is dat het bedrijfsleven deze systemen wel heel snel accepteert. De beveiliging van steeds meer openbare ruimten, zoals voetbalstadions, bedrijventerreinen en pompstations, raakt geprivatiseerd. Dat kan ertoe leiden dat de politie straks wordt verdrongen door technieken die veel effectiever werken.?

Tien mythen over predictive policing

  1. Crimineel gedrag is niet te voorspellen?
    Criminelen zijn vaak net zulke gewoontedieren als andere mensen. Na een succesvolle woninginbraak zijn ze bijvoorbeeld geneigd het in een vergelijkbare woning in dezelfde omgeving nog eens te proberen. Dergelijke patronen maken woninginbraak redelijk voorspelbaar.
  2. Robots zullen agenten vervangen
    Predictive policing maakt gebruik van algoritmes om agenten te helpen misdaden te voorkomen. De agenten worden niet vervangen door machines, hoewel hun rol kan veranderen.
  3. Met predictive policing maken boeven geen kans meer
    Het algoritme van Predictive Policing wijst plaatsen aan op de kaart: hier is de kans op een misdaad hoog. Welke actie de politie vervolgens het best kan ondernemen, is vaak minder duidelijk. Nieuwe analyses van veel cases (big data) kunnen inzicht geven in de effectiviteit van verschillende maatregelen, want boeven blijven creatief.
  4. Voor een goede voorspelling zijn data nodig van iedereen
    De politie analyseert al jarenlang processen verbaal om inzicht te krijgen in misdaadnetwerken. Predictive Policing doet dit ook, maar koppelt meer gegevens in tijd en plaats. Het is niet nodig gebleken om van alle burgers data te verzamelen om te voorspellen op welke plaatsen het risico op een misdaad groot is.
  5. Predictive Policing is een gedachtenpolitie die je oppakt voordat je iets doet
    Met Predictive Policing wil de politie misdrijven voorkomen door op tijd actie te ondernemen. Dat wil niet zeggen dat onschuldige burgers worden opgepakt voordat ze iets hebben gedaan. Wel is het belangrijk dat Predictive Policing zich baseert op data die onbevooroordeeld en controleerbaar zijn.
  6. Predictive Policing helpt misdaad de maatschappij uit
    Predictive Policing biedt geen oplossing voor alle soorten misdaad. Risico?s, veiligheid en politiewerk zijn niet volledig uit te drukken in cijfers, waardoor computermodellen soms tekortschieten. De menselijke benadering van de agent blijft belangrijk en misdaad zal altijd blijven bestaan.
  7. Gezond verstand van de wijkagent is altijd beter dan een stukje software
    ?Gezond verstand? bevat vaak meer vooroordelen dan software gebaseerd op objectieve statistische modellen. Het is wel belangrijk dat de modellen zelf niet onbedoeld bevooroordeeld zijn. Predictive Policing werkt ter aanvulling van gezond agentenverstand.
  8. Predictive Policing is oude wijn in nieuwe zakken
    Vroeger gebruikte de politie prikborden met een regiokaart om de criminele ?hotspots? aan te geven, uitgaande van misdaadcijfers uit het verleden. Predictive Policing doet hetzelfde, maar op digitale kaarten die de toekomst tonen. Er worden ook veel meer gegevens aan elkaar gekoppeld. Het is dus eerder nieuwe wijn in oude zakken.
  9. Predictive Policing is plug & play
    Predictive Policing lijkt zo simpel: je haalt de criminaliteitsgegevens door een computer en?er rolt een kaart met rode vakjes uit. Organisatorisch vereist de toepassing echter een cultuurverandering. De agenten moeten hun denk- en werkwijze aanpassen.
  10. Agenten laten zich niet sturen door een algoritme
    Wanneer agenten zelf ervaren dat Predictive Policing een meerwaarde heeft, zullen ze de technologie eerder accepteren.

Bronnen: TNO Time, NOSop3, BNR, De Correspondent

De data detective: veel data van veel dingen

Geef een reactie

Misdaden voorspellen

?Big data? zijn grote dataverzamelingen. Door die slim te analyseren kunnen onderzoekers er wetmatigheden in ontdekken en op grond daarvan voorspellingen doen. Wereldwijd kijkt de politie met grote belangstelling naar de mogelijkheden van ?big data?, aldus het nieuwe boek van Smilda en De Vries. Door bijvoorbeeld misdaadgegevens te analyseren kun je misschien voorzien wie, waar je wanneer extra goed in de gaten zou moeten houden, omdat statistische berekeningen uitwijzen dat de kans op een misdrijf of overtreding onder soortgelijke omstandigheden in het verleden relatief groot is gebleken.

In Los Angeles gebruikt de politie bijvoorbeeld speciale software om misdaden te zien aankomen: PredPol. ?Deze software analyseert oude misdaadstatistieken en plot die op een kaart,? schrijven de auteurs. Heel handig, want ?zo kan de politie per gebiedje zien wat er daar allemaal is gebeurd en wat er vermoedelijk gaat gebeuren, waarbij zelfs de weersvoorspellingen worden meegewogen.? In een blinde proef bleek dat PredPol tot betere resultaten leidde dan wanneer agenten gebruik maakten van traditionele ?hotspotkaarten?: papieren stadsplattegronden waarop gekleurde naalden zijn geprikt om de locatie van eerdere misdrijven en overtredingen aan te geven. ?Niet alleen vonden er meer arrestaties plaats, maar er was vooral sprake van dalende misdaadcijfers. In het gebied dat door PredPol in Los Angeles wordt bestreken, daalde de misdaad met dertien procent. In Santa Cruz ging het aantal inbraken zelfs met 27 procent omlaag.? Dat is opmerkelijk, zeker omdat de politie in dat laatste gebied aardig onderbemand is: ?Hier zijn voor 60.000 inwoners ? en 150.000 in het hoogseizoen ? slechts 94 politiemensen beschikbaar, en geld voor meer personeel is er niet.? Het voorspellen van misdaden, ook wel ?predictive policing? genoemd zal volgens Smilda en De Vries daarom groot worden, ?want het scheelt mankracht en het is effectiever. Software als PredPol maakt het eenvoudiger om effici?nt te surveilleren. Niet meer blauw op straat, maar gerichter blauw op straat.?

Data verzamelen

Het gebruik van dit soort technieken zal niet tot Amerika beperkt zal blijven. In Nederland experimenteert de politie inmiddels ook met het gebruik van big data. ?De politie van Amsterdam werkt samen met onderzoekers van het Centrum Wiskunde & Informatica en de Vrije Universiteit Amsterdam aan een soortgelijk systeem om te voorspellen welke incidenten waar plaats gaan vinden en hoe laat. En ook TNO is samen met de Amsterdamse politie bezig om het ontwikkelde Criminaliteits Anticipatie Systeem (CAS) te optimaliseren.?

Om big data te kunnen analyseren, moet je ze natuurlijk wel hebben. ?In New York werkt de politie samen met Microsoft aan een zeer geavanceerde analysetool, het Domain Awareness System. Die analyseert straks de beelden van de meer dan drieduizend politiecamera?s in de stad.? Het doel van deze dataverzameling is niet zozeer om toekomstige misdaden te voorspellen, maar meer om die te kunnen oplossen: ?Gecombineerd met alle databases die de politie tot haar beschikking heeft wordt het bijvoorbeeld precies mogelijk na te gaan waar een verdachte auto in de weken voor een misdrijf is gesignaleerd.?

Aangegeven door Facebook

Volgens Smilda en De Vries kan het gebruik van dit soort voorspellingssoftware verrassende gevolgen hebben. Zeker omdat de politie niet de enige partij is die deze software gebruikt. Allerlei online dienstverleners gebruiken dit soort applicaties namelijk al. Ze houden hun gebruikers angstvallig in de gaten omdat ze liever niet het risico lopen om beschuldigd te worden van het verlenen van medewerking aan criminele praktijken. ?De meeste mensen weten het niet, maar bedrijven als Facebook werken al met big data en algoritmen om hun klanten te screenen. Schrijf je bijvoorbeeld altijd berichtjes aan meisjes van dertien jaar, en gebruik je ook het trefwoord ?seks? een beetje te vaak, dan kan Facebook jou als verdachte aanmerken en de politie waarschuwen.? Is dat zo erg? ?Dat een pedofiel wordt opgepakt zullen we allemaal niet zo erg vinden, maar wat als Facebook straks voorspellingen gaat doen over mogelijk drugsgebruik, of wie er straks allemaal naar alle waarschijnlijkheid mee zullen doen met nieuwe rellen in Londen?? Het punt is bovendien, aldus Smilda en De Vries, dat Facebook geen gerechtelijk bevel nodig heeft om priv?gegevens in te zien, in tegenstelling tot de politie. ?Straks worden we door Facebook bij de politie aangegeven voordat we ook maar iets hebben gedaan. Of een priv?detective koopt je data. Of je wordt op grond van de Nederlandse versie van PredPol staande gehouden terwijl je geheel onschuldig met een gereedschapskist door een buurt loopt waar statistisch op dat moment veel wordt ingebroken. Dan heb je als burger ineens veel uit te leggen.? Als we uitgaan van een dergelijk zwart scenario dan wordt het volgens Smilda en de Vries in de toekomst voor burgers opeens heel belangrijk om te weten hoe je kunt voorkomen dat je als ?verdacht? wordt aangemerkt. ?Heeft elke burger straks een app die hem adviseert om maar een blokje om te gaan, op basis van crimemaps met duizenden misdrijven, waarvan de analyses vrijelijk beschikbaar zijn??

Google Glass

Niet alleen big data maar ook technologie?n als Google Glass en verwante producten gaan een grote invloed hebben op ons leven, voorspellen Smilda en De Vries. ?Een Googlebril maakt foto?s en video?s van alles wat je doet, op elk moment.? Dat klinkt leuk, maar ?als iedereen dat gedachteloos doet, dan staat het web straks vol met beelden van mensen die daar helemaal nooit om hebben gevraagd.? Zeker niet omdat we in veel gevallen niet eens zullen weten dat we gefilmd zijn. ?Met Google Glass wordt je ? anders kunnen we het niet zeggen ? stiekem opgenomen. Iedereen wordt dus een wandelende surveillancecamera en alles wat we doen kan zomaar openbaar worden gemaakt, zonder dat we er erg in hebben.? Dat heeft overigens ook voordelen, aldus de auteurs. Zo zullen ooggetuigenverslagen objectiever worden. ?Er is nogal een verschil tussen het opgewonden verhaal van een getuige van een roofoverval en iemand die de video van zijn Google Glass aan de politie stuurt, met een haarscherpe registratie van de roof waarbij de overvallers je niet hebben zien filmen.? Ook zullen dankzij Google Glass onschuldigen in de toekomst misschien minder vaak achter de tralies verdwijnen: ?Omgekeerd zullen mensen Google Glass ook kunnen gebruiken om te bewijzen dat ze ergens waren.?

En wat als de politie zelf massaal Google Glass-achtige producten gaat dragen? ?Stel, je draagt als agent een Google Glass en je ziet iemand lopen waarvan je vermoedt dat hij een crimineel is. Dan roep je snel even alle recente gegevens over deze persoon op en projecteert die in je rechterooghoek.? Agenten krijgen zo niet alleen realtime toegang tot informatie die tot de aanhouding van criminelen kan leiden, ook het verzamelen van bewijs wordt eenvoudiger. Daarnaast kunnen diensten dit soort technologie gebruiken om op afstand een oogje in het zeil te houden: ?Het is een kwestie van tijd voordat andere eenheden mee kunnen kijken met wat een agent ziet op zijn of haar ?personal device?. Ze kunnen vervolgens real-time advies geven.?

Internet of things

Behalve Googlebrillen zullen agenten en burgers volgens Smilda en de Vries in de nabije toekomst ook andere draagbare technologie benutten: ?Draagbare minicomputers breken echt door. Ze zijn als een tweede huid en straks niet meer weg te denken uit het straatbeeld: Applehorloges, Nike+-schoenen en intelligente kleding. Burgers, agenten en criminelen zullen gebruikmaken van deze nieuwe mogelijkheden.? Ook vliegende minicomputers zullen in de toekomst volgens Smilda en De Vries vaker ingezet? worden: ?Minidrones met camera kunnen voor ons bijvoorbeeld kijken wat er om de hoek gebeurt.?

Onze wereld zal meer en meer vergeven worden van kleine apparaatjes met allerlei sensoren die van alles opslaan en online delen. Omdat ze zo handig zijn zullen consumenten ze met graagte gebruiken. Ze zullen daarbij hun best doen om hun privacy te beschermen, maar dat zal steeds ingewikkelder blijken: . Ze zullen niet alles willen delen. ?Veel informatie uit het Internet der Dingen zal echt niet door iedereen publiekelijk worden gedeeld. Niemand heeft er iets mee te maken hoeveel drank je in de koelkast hebt staan. Maar het is wel waarschijnlijk dat mensen deze informatie zullen delen in groepen waar zoiets er wel toe doet: een vriendengroep, de lokale sportclub of het gezin. Aangezien social media-diensten, zoals Facebook, deze meer persoonlijke informatie-uitwisseling ondersteunen, kunnen zij er ook over beschikken. Nu gebruiken ze deze vooral voor commerci?le toepassingen, zoals het relevanter maken van de aangeboden advertenties. Maar wie zegt dat andere toepassingen ? zoals veiligheid ? in de nabije toekomst niet ook mogelijk worden?? Als dat gebeurt zullen politiediensten in de toekomst toegang hebben tot een onwaarschijnlijk hoeveelheid informatie. Ze zullen in de toekomst aan Google of Facebook bijvoorbeeld kunnen vragen: ?Wie was er om acht uur vanochtend in de buurt van een bepaald plaats delict en heeft op dat moment foto?s gemaakt??

Big Brother?

Allerlei technologische ontwikkelingen zullen in de toekomst niet alleen leiden tot verbeterde opsporing, maar ook tot allerlei privacyproblemen. Om dat duidelijk te maken citeren de auteurs de Amerikaanse ict-expert Raj Goel: ?Niet Big Brother, maar een samenleving vol Little Sisters moeten we vrezen. We leven niet in een maatschappij waarin ??n oog iedereen in de gaten houdt, maar waarin miljarden ogen elkaar in toenemende mate bespioneren. Dat is een controlesysteem dat zelfs George Orwell niet had kunnen bedenken.?

Bron:??Jolein de Rooij