Sciencefiction wordt werkelijkheid, met ook de nadelige gevolgen. Sommige scenario’s uit series als Black Mirror zijn realiteit. Criminelen en het commerciële bedrijfsleven lopen voorop en een data-gretige overheid maken maar wat graag gebruik van digitale technologie. En niet te vergeten: kunstmatige intelligentie geeft super-powers aan kwaadwillenden. Hoe ziet de toekomst eruit? Moeten we ons zorgen maken of valt het wel mee?

Op 28 mei vertelden Frank Smilda en organisator Jarno Duursma over de gevolgen en gevaren van nieuwe technologie. Bekijk hieronder hun verhaal terug:

Jarno Duursma is technologie trendwatcher en auteur van het boek: De digitale butler – Kansen en bedreigingen van kunstmatige intelligentie. Hij heeft 12 redenen waarom we bezorgd moeten zijn over de kwalitatieve groeispurt van kunstmatige intelligentie waaronder privacy, face&voice recognition, loss of skills, de macht van techbedrijven en biased algorithms.

Dark web, Ransomware-as-a-service en cybercriminaliteit. Het topje van de ijsberg van digital crime. De georganiseerde misdaad heeft de voordelen van de digitale wereld ontdekt. Frank Smilda is “Head of the intelligence organisation” bij de politie en gespecialiseerd in de inzet van digitale machtsmiddelen van criminelen en overheid. Criminelen zijn zeer inventief op het gebied van digitale technologie en wat zet de politie daar tegenover? Hoe ver is het bijvoorbeeld met “predictive policing”?


Op Noordz een artikel over de bijeenkomst:

‘De werkelijkheid is soms bizarder dan Homeland.’ Het is een uitspraak van Dick Schoof, de Nationaal Coördinator Terrorismebestrijding en Veiligheid (NCTV). En die uitspraak kwam tijdens de 69e editie van de Social Media Club 050 veelvuldig terug. En met recht. De avond had als thema ‘The dark side of digital’. Die donkere kant werd door sprekers Jarno Duursma en Frank Smilda volop belicht. Want sciencefiction wordt werkelijkheid, met ook de nadelige gevolgen.

Duursma liet zijn eigenlijke rol als gastheer even voor wat die was en had de regie van de avond in de handen gelegd van Lykle de Vries. Op die manier kon de technologie trendwatcher en eigenaar van Studio Overmorgen zelf het podium gebruiken om de gevaren van kunstmatige intelligentie uit de doeken te doen. Frank Smilda is ‘Head of the intelligence organisation’ bij de politie en gespecialiseerd in de inzet van digitale machtsmiddelen van criminelen en overheid. Hij sprak over hoe criminelen digitale technologieën inzetten en wat de politie daar onder meer tegenover zet.

Kunstmatige intelligentie

Duursma trapte af met de serie Black Mirror. Wanneer je geïnteresseerd ben in de toekomst en technologieën, dan is het advies van de spreker om die serie absoluut te volgen. “En sommige zaken lijken dan zo ver weg, maar vergis je niet: de groei binnen de technologie is exponentieel. Er is een enorme groeispurt in wat slimme systemen kunnen.”

Zo komt Duursma bij het onderwerp kunstmatige intelligentie. Dat klinkt voor velen positief in de oren, want hoe slimmer de wereld wordt, hoe beter? Dat is zeker niet het geval. Hij somt twaalf redenen op waarom mensen zich zorgen moeten maken over deze enorme groei van kunstmatige intelligentie.

Vooringenomen algoritmes

Het begint allemaal met een gebrek aan transparantie. Duursma: “Het bekende black-box probleem. We weten vaak niet exact wat er in de systemen allemaal gebeurt. En we leggen veel in de handen van de systemen, maar daar gaat geregeld wat fout.” Ter onderbouwing van zijn woorden laat hij voorbeelden zien waar een mens wordt gekwalificeerd als een gorilla en een husky als een wolf.

(tekst gaat verder onder de afbeelding)

Jarno Duursma SMC050 Kunstmatige intelligentie

Ook noemt hij vooringenomen algoritmes, een gevaar dat hij uitlegt met een voorbeeld uit de Verenigde Staten. “Een opgepakte blanke Amerikaan met meerdere overtredingen werd door een systeem als een lager risico ingeschaald dan een donkere afro Amerikaan die slechts eenmalig was aangehouden zonder daarbij geweld te gebruiken”, vertelt Duursma. “De cijfers? Eerstgenoemde kreeg een 3 als risicofactor, de ander een 10. Dat lijkt op een vooroordeel, want de donkere Amerikaan kreeg een veel negatievere beoordeling dan de blanke.”

Verbazing

Maar er is nog veel meer. Een digitale assistent die zo getraind is dat het afspraken voor je kan maken. Dat klinkt leuk, maar die stem is vrij gemakkelijk te klonen. “Dan kun je van je baas horen om even 1000 euro over te maken naar een bepaald bedrijf. Maar is die stem wel echt jouw baas?” Inmiddels zijn we ook al zo ver dat we een foto van het internet kunnen halen en die in bewegend beeld kunnen integreren. Duursma: “Dus als je iemand op een scherm ziet praten, is dat wel echt die persoon? Dat is onderdeel van ‘Faceswap video blackmailing’. Je kunt straks je eigen oren en ogen niet meer geloven.”

“Dan kun je van je baas horen om even 1000 euro over te maken naar een bepaald bedrijf. Maar is die stem wel echt jouw baas?”

Bij elke nieuwe reden die Duursma opsomt, valt er verbazing uit de zaal te horen. Een grote zorg van de trendwatcher is dat “technologie vaak een doel heeft dat altijd blijft, ook als wij dat doel inmiddels al niet meer tof vinden.” Hij noemt Facebook als voorbeeld. “De nieuwsfeed van Facebook had als doel dat mensen zo lang mogelijk bleven kijken. Maar een filter zat er niet in, waardoor onder andere ‘fake news’ kon ontstaan.”

Opschaling

Wanneer Frank Smilda het podium overneemt, maakt de avond een wending naar het criminele circuit. “Er is een daling in het aantal inbraken en andere bekende criminaliteit, maar cybercrime neemt juist enorm toe.” Duidelijke taal. Smilda neemt de zaal mee in diverse voorbeelden, ook enkele die specifiek uit Noord-Nederland komen.

“Tegenwoordig wordt een bankoverval niet meer op de ouderwetse manier met bivakmutsen gepleegd. Dat gaat nu gewoon via grote hacks. Er is een enorme opschaling binnen de criminaliteit. Jaren terug was er de ‘Great Train Robbery’, dat was toen een grote opschaling. In een trein kon je natuurlijk veel geld vervoeren. Die opschaling zie je nu digitaal.”

Hack met enorme impact

Het donkere web is voor de politie geen onbekende wereld, zo laat Smilda zien. Er wordt volop aandacht aan gegeven en veel aan gewerkt. “Maar voorkomen is zo ontzettend moeilijk”, geeft hij aan. “Eigenlijk niet te doen. Momenteel gaat het voor ons al heel snel en ver. Maar als je dan het verhaal van Jarno Duursma net hoort over mogelijkheden, of eigenlijk de gevaren, van kunstmatige intelligentie…”

(tekst gaat verder onder de afbeelding)

Frank Smilda SMC050 cybercrime hacks

De hack die onder meer de Rotterdamse haven platlegde wordt naar voren gehaald. Weinigen hadden zo’n grote impact van een hack verwacht. ‘Als iemand een jaar geleden had gezegd dat een hack zo veel invloed zou kunnen hebben, had ik dat niet geloofd. Wat er in juni gebeurde ging mijn fantasie te boven en gaf stof tot nadenken’, zo liet de Rotterdamse havenmeester weten na de grootschalige hack. Het geeft de exponentiële groei aan van tech-mogelijkheden.

Predictive policing

Naast de vele grootschalige hacks is ook de illegale handel een voorbeeld dat Smilda gebruikt. Prostitutie, wapenhandel, drugs. Er zit een enorme wereld achter. “Voor de handel wordt ook innovatie gebruikt. Het gaat de hele wereld over. We zijn de VOC van verdovende middelen.”

De politie maakt zelf ook gebruik van nieuwe technologieën. Onder de noemer ‘predictive policing’ worden voorspellingen gedaan waar inbraken plaats gaan vinden. Dat heeft al mooie resultaten opgeleverd. “Met voorspelling van misdaad hebben we in een Groningse pilot een derde van de inbraken in de stad goed weten te voorspellen. Dankzij de technologie kunnen we nu voorspellingen doen en daar onder andere onze mankracht op inzetten en aanpassen.”

De politie maakt zelf ook gebruik van nieuwe technologieën. Onder de noemer ‘predictive policing’ worden voorspellingen gedaan waar inbraken plaats gaan vinden.

Daarmee wordt de avond besloten met een positief gevolg van de groei van technologie en digitaal. Maar dat de technologische ontwikkelingen voornamelijk goed zijn voor de wereld, daar kan de hele zaal nu vraagtekens bij zetten. Zeker als ‘door verkeerde handen wordt gebruikt’.

SMC050 is een initiatief om professionals, bedrijven en experts op het gebied van nieuwe media, technologische trends en digitale innovatie in de regio bij elkaar te brengen. Een maal in de zes weken is er in Martiniplaza een avond met twee of drie lezingen. Videoregistraties van die avonden zijn terug te vinden op Youtube.

Bronnen: SMC050, Noordz

Gerelateerde berichten:

Tagged with →  

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Verplichte velden zijn gemarkeerd met *