Onderzoek van Martijn Wessels laat zien hoe politiemensen met artificial intelligence samenwerken binnen de politieorganisatie. Hij heeft daarbij als casus het werken met het predictive policing systeem CAS onderzocht. Hieronder de samenvatting van het onderzoek en de resultaten en het volledige rapport.?
Politieorganisaties over de hele wereld maken steeds meer gebruik van algoritmes die hen helpen om tijdruimtelijke voorspellingen te maken van waar en wanneer criminaliteit de grootste kans heeft om plaats te vinden in de toekomst. Rondom dit zogenaamde predictive policing heerst veel controverse en scepsis. Allereerst wordt eraan getwijfeld in hoeverre deze vorm van politievoering inderdaad leidt tot een verbetering van de effectiviteit en effici?ntie van de politie, aangezien empirisch bewijs schaars is en het lastig is om het effect van predictive policing methoden te isoleren. Daarnaast worden er ook ethische bezwaren aan het gebruik van algoritmen genoemd. Er wordt gesteld dat dergelijke algoritmen niet transparant zijn en het gebruik ervan wellicht kan leiden tot de profilering en stigmatisatie van bevolkingsgroepen. Wat er echter ontbreekt in dit wetenschappelijke debat is hoe politieprofessionals momenteel omgaan met dergelijke algoritmen. Dit is van groot belang voor de evaluatie van deze vorm van politievoering omdat menselijk handelen uiteindelijk bepaalt in hoeverre de (eventuele) onbedoelde consequenties van predictive policing tot uiting kunnen komen.
Om het debat rondom predictive policing te voorzien van context is de Nederlandse politieorganisatie bestudeerd om inzichtelijk te maken hoe een dergelijk algoritme (het Criminaliteitsanticipatiesysteem; CAS) wordt gebruikt. Binnen de Nederlandse Politie hebben de zogenaamde intelligence specialisten de taak om de agenten op straat te adviseren in hun handelen. Hiervoor kunnen zij gebruik maken van een aantal informatiesystemen, waaronder CAS. Vandaar dat de werkwijze van deze functiegroep binnen een veiligheidsregio in Nederland is bestudeerd. In dit onderzoek is gekeken naar de organisatiestructuren die het gebruik van CAS be?nvloeden, maar ook naar de consequenties die het gebruik van CAS heeft voor de politieorganisatie. Voor deze studie is bewust gekozen om onderzoek te verrichten binnen een regio die al een langere tijd gebruik maakt van CAS.
De hoofdvraag die centraal staat in het onderzoek luidt:
Hoe en in hoeverre gebruiken de intelligence specialisten van de Nationale Politie het Criminaliteitsanticipatiesysteem en interacteren daarbij met bestaande organisatiestructuren?
Orlikowski?s (2000) theorie van technologies-in-practice is gebruikt om te bestuderen hoe technologie wordt gebruikt binnen een organisationele context. Deze practice lens gaat ervan uit dat de manier waarop technologie wordt gebruikt wordt be?nvloed door bestaande organisatiestructuren, maar dat tegelijkertijd diezelfde organisatiestructuren worden be?nvloed door het technologiegebruik. Het model van Orlikowski (2000) is aangepast voor dit onderzoek zodat dit geschikter is voor het bestuderen van het gebruik van algoritmes. Algoritmes verschillen namelijk van traditionele informatiesystemen omdat het gebruik van algoritmes ook vraagt om de evaluatie van de output van het systeem: de verwachtingen van CAS dienen te worden vertrouwd alvorens de intelligence specialisten dit systeem ook echt betrekken in hun werk. Deze notie is daarom toegevoegd aan het analytische model van Orlikowski (2000), wat heeft geresulteerd in een aangepaste analytische lens: de algorithm in practice lens.
Middels een combinatie van semigestructureerde interviews en de analyse van beleidsdocumenten is onderzocht hoe de intelligencespecialisten gebruik maken van CAS en hoe dit gebruik wordt be?nvloed door organisatiestructuren. De eerste structuur die wordt herkend is de trend van de Nederlandse politie richting informatie-gestuurde politievoering. De politie heeft namelijk voor ogen om het gebruik van informatie en data een steeds belangrijkere rol te geven en probeert ook haar organisatieprocessen hieraan aan te passen. Dit heeft ogenschijnlijk geleid tot een verdere standaardisatie van het werk van de intelligence specialisten en een centrale rol van deze functiegroep in het politieproces, waarin de intelligencespecialisten uitgebreid contact hebben met verschillende partijen binnen de politie, waaronder de agenten op straat. Dit is dan ook de tweede
organisatiestructuur die invloed heeft op het gebruik van CAS: de behoeften van de agenten op straat. De intelligence specialisten lijken zeer gericht te zijn op de wensen en (informatie)behoeften van de agenten op straat, waardoor er een continue wisselwerking bestaat tussen beide partijen.
De normen van de intelligence specialisten lijken daarbij sterk te worden be?nvloed door de trend richting het informatie-gestuurde werken ?n door de behoeften van de straatagenten. De normen van de intelligence specialisten worden voornamelijk omschreven als het verschaffen van kwalitatief hoogwaardig advies (in termen van bruikbaarheid voor de agenten op straat). Dit resulteert in het feit dat de percepties en interpretaties van de intelligence specialisten ten aanzien van CAS doorslaggevend zijn: als CAS niet als toegevoegde waarde voor hun advies wordt gezien zal het ook niet worden gebruikt. Deze attitude jegens CAS lijkt door een derde organisationele structuur te worden be?nvloed: de opinie van de directe sociale omgeving van de intelligence specialisten. Omdat een aantal van de ge?nterviewde intelligence specialisten met CAS kennismaakte via een collega, is de mening van die collega over CAS van groot belang. Indien degene die CAS moet uitleggen aan een nieuwe collega negatief is over het gebruik van CAS, is de kans waarschijnlijk groter dat de nieuwe intelligence specialist zijn/haar percepties en interpretaties van het systeem over zal nemen.
Uiteindelijk zijn er drie categorie?n herkend hoe CAS wordt gebruikt:
1) De ondersteunende collega: CAS wordt gebruikt als een ondersteunend middel voor het opstellen van een advies. Hierbij worden meerdere voordelen van CAS genoemd. CAS zou de intelligence specialisten helpen omdat het tunnelvisie kan voorkomen, het anders ?denkt? aangezien het meerde databronnen combineert, het snel is in het verwerken van grote hoeveelheden data en dat intelligence specialisten advies kunnen geven als ze zelf niet over voldoende informatie beschikken. Desalniettemin achten ze hun eigen kennis en expertise als het allerbelangrijkst en verschaffen daarbij ook advies op de actuele trends en gebeurtenissen die zij op dat moment observeren.
2) De ongeschikte of onnodige collega: CAS voegt geen waarde toe aan het advies van de intelligence specialisten omdat het ofwel niet accuraat is in zijn voorspellingen, of omdat de output geen toegevoegde waarde zou zijn voor de operationele laag van de politie. Vandaar dat de intelligence specialisten in deze categorie advies ontwikkelen dat vooral is gebaseerd op eigen kennis en ervaringen.
3) De sturende collega: CAS wordt gebruikt als een middel om direct de operationele laag mee te sturen. De intelligence specialist communiceert de uitkomst van CAS nadrukkelijk omdat dit wordt gezien als een legitiem middel om beslissingen op de baseren.
Deze drie manieren van het gebruik van CAS hebben verschillende consequenties voor de trend richting de informatie-gestuurde politievoering. De adviezen die worden gegeven door de intelligence specialisten in de eerste categorie ontstaan uit een combinatie van eigen ervaringen, kennis, observaties en statistische informatie uit CAS. Dit lijkt de notie van informatie-gestuurde politievoering te versterken omdat het gebruik van expliciete informatie een prominente rol heeft. De intelligence specialist horende bij de derde groep benadrukt het gebruik van data en informatie ogenschijnlijk nog meer aangezien de eigen ervaringen en kennis minder belangrijk lijken te zijn. De intelligence specialisten die CAS niet gebruiken in hun werk baseren hun advies op de eigen assumpties en kennis, waardoor de informatie-gestuurde politietrend afhankelijk blijft van de (impliciete) assumpties van de intelligence specialist.
Dit onderzoek heeft meerdere theoretische contributies. Allereerst laat het zien hoe een algoritme wordt gebruikt binnen een politieorganisatie. Dit kan het debat rondom predictive policing verder helpen. Dit onderzoek laat zien dat er (momenteel) nog steeds voldoende menselijke invloed lijkt te zijn bij de vorming van beslissingen. Daarnaast benadrukt deze studie dat er verder wetenschappelijk onderzoek moet komen naar het gebruik van dergelijke algoritmen. Ook lijken de aanpassingen die zijn gedaan aan het originele model van Orlikowski (2000) geschikt om het gebruik van algoritmen te begrijpen en wordt het aangemoedigd om deze ook toe te passen bij vergelijkbaar onderzoek in de toekomst.
Verder heeft dit onderzoek ook praktische implicaties. Middels dit onderzoek is inzichtelijk gemaakt hoe CAS wordt gebruikt door intelligence specialisten en welke organisationele processen en mechanismen dit gebruik be?nvloeden. De Nederlandse Politie kan deze inzichten gebruiken om het huidige CAS gebruik te evalueren en om te bepalen wat zou moeten worden aangepast in de politieorganisatie om het gebruik van CAS waar nodig te veranderen. Daarnaast lijkt de grootste groep van respondenten CAS te zien als een ondersteunend systeem. Zij beschouwen de uitkomsten van CAS niet als een absolute waarheid maar zien het voornamelijk als een middel dat ze kunnen gebruiken om de kwaliteit van hun adviezen te vergroten. Vandaar dat er kan worden gesteld dat d?t misschien ook de toegevoegde waarde van CAS is in het politieproces. De politie kan overwegen of en in hoeverre ze CAS een centraal element willen maken voor de politieregio?s die in de toekomst dit systeem gaan gebruiken, of dat het een ondergeschikt systeem moet worden. Tot slot lijkt het erop dat de transparantie en ?uitlegbaarheid? van het systeem moet/kan worden verbeterd om de intelligence specialisten beter te kunnen helpen bij hun werk. Een dergelijke verbetering zal ook een bijdrage leveren aan de beoordeling van de vertrouwelijkheid en accuraatheid van het systeem.
[slideshare id=106562797&doc=masterthesismartijnwessels12072018-180719080416&type=d]
?
