Tagarchief: bots

Volgers op social media als valse valuta

Geef een reactie

Programmamaker Nicolaas Veul duikt in de financi?le wereld achter Instagram. Op dit sociale platform is een compleet nieuw verdienmodel ontstaan: likes en followers zijn keiharde valuta geworden. Maar welke schaduweconomie ontstaat hierdoor? Wat is echt en wat is nep? Hoe voer je de strijd tegen het algoritme? Wie zijn de winnaars en wie de verliezers? En wat merk jij daarvan als je door je feed scrollt? Met #followme produceert de VPRO de eerste documentaire over Instagram op Instagram.

#followme is een crossmediaal onderzoek naar de economie die sinds de oprichting van Instagram is ontstaan: soms creatief en vernieuwend maar soms ook heel schimmig. Je volgt het?maakproces op?het?account?@followme.doc. Daar probeert Nicolaas Veul alle tips en trucs om aan populariteit te winnen, toont hij?interviews en reflecteert hij op zijn bevindingen.?Deze VPRO documentaire is ook te zien op?IGTV.

In #followme vraagt Nicolaas Veul zich?af?wie de winnaars en wie de verliezers zijn in deze nieuwe industrie. Hoe voer je de strijd tegen het algoritme? Hij praat met verschillende influencers en met het Amsterdamse?Agency for Digital Influencer Marketing: IMA.?Als geen ander weten zij hoe de Instagram industrie in elkaar steekt. Daarnaast reist hij naar Rusland waar aan huis gebonden jonge moeders?comments?schrijven op bestelling, Vervolgens gaat hij naar Amerika waar?social media software?ontwikkelaar Dovetale een instrument ontwikkelde om nepvolgers en bots te herkennen. Travel influencer Sara Melotti doet in Milaan verslag van haar -naar eigen zeggen- gewelddadige relatie met het medium.?En een groothandelaar?in nepvolgers doet anoniem een boekje open over fraude op Instagram. Er lijken geen regels te gelden?in deze nieuwe economie: welkom in het Wilde Westen?dat?Instagram heet.

Achter de mooie plaatjes op Instagram schuilt een schimmige economie waarin niets meer echt is, merkte Nicolaas Veul. ?Ik heb bekende Nederlanders en bedrijfjes gevonden die de boel echt keihard besodemieteren.?

Hoe lijk je met weinig geld toch zo rijk als een Russische oligarch? Huur het interieur van een priv?jet! Nicolaas Veul ging naar Moskou waar een Russische influencer hem alles vertelde over de neppe rijkdom op Instagram. Je kan voor je Instafoto’s naast nagemaakte priv?jets ook volledige appartementen huren, doosjes van de nieuwste iPhone en lege champagneflessen van een duur merk.

Instagram is momenteel het invloedrijkste sociale medium. Wie denkt dat het gewoon een leuke plaatjes-app is om doorheen te scrollen op een verveel?moment, ziet veel over het hoofd. Instagram heeft ruim een miljard gebruikers en die besteden gemiddeld maar liefst een halfuur per dag aan de app. De alomtegenwoordigheid van Instagram is de reden waarom winkels en restaurants tegenwoordig allemaal felgekleurde muren hebben (want leuke achtergrond voor foto?s), waarom grote logo?s in de mode zijn (zo is het merk goed zichtbaar op de foto), waarom meisjes allemaal lang los haar of een knot op hun hoofd hebben (naar achteren gekamd haar ziet er raar uit op een selfie) en waarom?fitboys?en –girls?zich uren in het zweet werken voor stevige billen en een keihard sixpack.

Mensen baseren de keuze voor hun outfits, maaltijden en vakantiebestemmingen op wat ze op Instagram hebben gezien. Daarom is groot worden op het platform voor veel mensen en bedrijven ontzettend belangrijk. Onlineberoemdheden met veel volgers, de zogenaamde?influencers, maken de dienst uit. Zij worden door bedrijven betaald om hun merken te promoten in de foto?s uit hun dagelijks leven. Het zijn wandelende reclameborden, maar vanwege de roem en het geld is?influencer?onder jonge mensen een van de benijdenswaardigste beroepen. Ook bn?ers hebben de sociale media ontdekt als marketing?kanaal: Katja Schuurman maakt op Instagram reclame voor chocolade en Arie Boomsma voor luiers.

Programmamaker?Nicolaas Veul?is zelf ook fervent gebruiker van de app. ?Ik houd ervan en ik haat het,? zegt hij. Hij was nieuwsgierig naar de economische mechanismen die erachter schuilgaan, en daarom maakte hij de documentaire?#followme. ?Sinds Facebook de app heeft overgenomen en zelf minder populair wordt, is Instagram steeds commerci?ler geworden. Professionele instagrammers verdienen er geld mee en gewone mensen ontlenen er status aan. Een geheim algoritme bepaalt welk bericht de gebruikers als eerste te zien krijgen. Het aantal volgers, likes en reacties is daar van invloed op, daarom is er een levendige handel in volgers en likes.?

Bots

Instagramvolgers zijn gewoon online te koop. Voor een paar euro heb je er zo honderden volgers bij en ook likes op je berichten kun je grootschalig inkopen. Veul reisde naar Amerika en Rusland om onderzoek te doen naar de mensen en mechanismen hierachter. ?Die handel is niet illegaal, maar wel heel schimmig. Minstens tien procent van de volgers op Instagram is nep. Dat zijn voornamelijk bots, door de computer aangemaakte accounts met willekeurige namen en foto?s. De meesten komen uit Rusland en India, daar staan de servers te draaien.?

Instagrammers kunnen zich door hun wachtwoord te geven aansluiten bij netwerken waar onbekenden elkaar automatisch volgen en likes geven. Of ze geven een handige tiener een opdracht. Veul: ?We hebben een jongen van vijftien gesproken die op Marktplaats accounts met volgers verkoopt. Vroeger brandde je cd?tjes, nu verkoop je Instagramaccounts.?
Maar omdat inmiddels wel bekend is dat volgers te koop zijn, zijn ze ook niet zo
essentieel meer. ?Het draait nu vooral om?engagement,? zegt Veul. ?Dat betekent hoeveel likes en reacties je krijgt kort nadat je een foto hebt geplaatst.?
Grote groepen mensen zitten met zijn allen in een soort whatsappgroep, maar dan op communicatie-app Telegram. Ze spreken samen af dat ze allemaal likes en reacties bij elkaar plaatsen. ?Dan schiet je omhoog in het algoritme. Dit doen bekende influencers echt. Zo zijn ze beter zichtbaar en kunnen ze betere deals sluiten met de merken die ze sponsoren. Ik heb het zelf geprobeerd en het werkt inderdaad heel goed.?

Fraude

Nu Veul zich erin verdiept, ziet hij pas goed hoe de kluit belazerd wordt. ?Er wordt op grote schaal gefraudeerd. Als je groter wilt worden op Instagram, moet je wel meedoen aan deze praktijken, anders val je niet meer op. Influencers worden heel erg vertrouwd door hun volgers en dat is voor merken bijzonder interessant. Hoe meer volgers, hoe meer een gesponsord bericht waard is. Maar van sommige mensen is twintig procent van hun volgers nep. Ik heb bekende Nederlanders en bedrijfjes gevonden die de boel echt keihard besodemieteren.?
Zanger Dotan viel dit voorjaar genadeloos door de mand toen bleek dat hij zelf allerlei nepfans had verzonnen. ?Bij hem ging het wel erg ver, maar ik weet dat mensen voorzichtiger zijn geworden na dat schandaal,? zegt Veul.

Het probleem zit echter dieper dan een paar adverteerders die worden genept en artiesten die zich populairder voordoen dan ze zijn, vindt de programmamaker. ?Mensen kijken op Instagram om beslissingen te nemen en hun mening te vormen. Voor sommige jongeren is Instagram echt hun leven, ze groeien op in die wereld en ontlenen hun identiteit eraan. Maar je weet niet wat echt en wat nep is. Ik vind dat zorgwekkend. Gebruikers zien niet de werkelijkheid, want alles kan gekocht zijn. Ook idee?n die verspreid worden,?fake news?dus. Politici kunnen net zo goed het systeem hacken en zich populairder voordoen dan ze zijn.?

Echt nieuw zijn dat soort praktijken niet, geeft Veul toe. ?Artiesten kochten vroeger ook hun eigen singles. Maar nu kunnen we allemaal een artiest zijn die zijn eigen singles koopt. Dat levert een totaalinflatie op. Het is volstrekt onduidelijk wat nu werkelijk waarde heeft en wat niet. Ik denk dat dit ook iets doet met onze normen en waarden. Dat iedereen commercieel is, heeft ook invloed op de maatschappij. Het is nu bijvoorbeeld heel erg cool om met merken geassocieerd te worden.?

Liegen

Onder andere een influencermarketingbedrijf, een?fashion influencer, een groothandelaar in volgers en likes en een hacker die bots opspoort, komen in de documentaire aan bod. Maar bij Instagram zelf kreeg Veul niemand te spreken. ?Ze werken niet mee, reageren niet eens op interviewverzoeken. Natuurlijk zijn ze van deze praktijken op de hoogte, maar zij hebben er vooral baat bij dat hun platform groeit en dat mensen er zo veel mogelijk tijd op doorbrengen. Ze doen er niets aan en dat is totaal onethisch. Aan de andere kant kun je het medium Instagram niet de schuld geven. Wij, de gebruikers, vinden blijkbaar dat we moeten liegen, uit ijdelheid en voor het geld.?
Opvallend genoeg wordt?#followme?een dag voor de uitzending op televisie al uitgezonden op IGTV, het videokanaal van Instagram. Ondanks de kritische toon denkt Veul niet dat daar problemen door zullen ontstaan. ?Er werken daar niet zo veel mensen, het meeste gaat automatisch. Ik denk niet dat ze het eraf zullen halen, hoogstens komen we helemaal achteraan te staan.?

Veul wil de Instagramgebruikers met?#followme?een spiegel voorhouden. ?Sociale media en de grote techgiganten houden ons al veel meer in hun greep dan we zouden willen. Als je alle manieren waarop we op Instagram gefopt worden afzonderlijk bekijkt, zijn ze misschien niet zo erg. Maar als je ze allemaal met elkaar verbindt, dan zie je opeens wat voor wereld dit is en denk je:?holy shit, zijn we al zo ver??

Bronnen: VPRO

Internettrollen vervuilen het web met gevaarlijk gedrag

Geef een reactie

Op het internet duiken steeds meer spookaccounts op, die nepnieuws verspreiden. Deze internettrollen zijn ook verantwoordelijk voor online haatmisdrijven en kunnen de rechtsorde bedreigen. Hoe kunnen online veiligheid en leefbaarheid gewaarborgd worden in de 21ste eeuw?

– Een artikel van Arnout de Vries geplaatst in Secondant

Sociale media zijn breed beschikbaar en worden door jong en oud en onschuldige maar soms ook kwaadwillende personen gebruikt. We kennen sociale media vooral als een geweldig middel om met elkaar verbonden te raken via chat en door (vakantie)foto?s te delen. Toch kan je niet alleen je hart luchten met andere gebruikers, maar ook mensen isoleren, van anderen vervreemden en vernederen. Dit varieert van kleine pesterijen tot regelrechte oorlogsvoering. Want kinderen?gamen online, maar in dezelfde spelletjes zitten vaak ook neonazi?s, zoals in het online oorlogsspel Clash of Clans. Soms zitten zij in eenzelfde chatsessie met jonge, zeer be?nvloedbare kinderen. Toezicht op de online normoverschrijdingen is beperkt, of afwezig.

Het zogeheten trollen als vorm van normoverschrijdend gedrag online neemt toe. Trollen kan beginnen met pesten, maar verergeren tot intimideren en stalken. Het kan slachtoffers zelfs tot zelfmoord drijven. Als dit online gedrag de veiligheid en leefbaarheid schaadt, komt het als verschijnsel in beeld bij de overheid.

Veiligheidsconferentie

In mei dit jaar werd in Londen een internationale veiligheidsconferentie gehouden over ?trolling?. Onderzoekers en specialisten uit bedrijfsleven en overheden vanuit meer dan 15 Europese landen kwamen bijeen om de kansen voor een vernieuwde aanpak te bespreken. Ook de bedreigingen van deze ontwikkelingen kwamen aan bod. Al deze partijen uit de veiligheidssector hebben als doel om het internet veiliger en leefbaarder te maken.*

De techniek heeft zich in de afgelopen jaren zodanig ontwikkeld dat internet een vanzelfsprekendheid is voor veel mensen. Echter, ook anonimiteit door encryptietechnieken en het gebruik van kunstmatige intelligentie worden steeds normaler. De internetgedragscodes veranderen sinds het ontstaan ervan mee, maar: Wat is acceptabel en wat niet? Wat staan we met moderne technologie toe en wat niet? Nieuwe ontwikkelingen bieden nieuwe kansen, maar vormen ook nieuwe bedreigingen. Op het wereldwijde web zijn de meningen verdeeld over hoe ver vrijheid van meningsuiting mag gaan en elk socialemediaplatform hanteert hierbij zijn eigen huisregels. Socialemediaplatforms dulden bijvoorbeeld alleen echte mensen en toch duiken steeds meer valse en machinegestuurde accounts op om te trollen.

Dilemma?s in moeizame aanpak trollen

De conferentie focuste op preventie en interventies in handhaving en vervolging met aandacht voor sociale en technologische innovaties.?Best practices?werden gedeeld, zoals die van John Donovan, werkzaam bij?The Online Hate Crime Hub?van de Metropolitan Police. Sinds 2017 pakken de speciaal getrainde politieagenten online misstanden aan. De Hub onderzoekt meldingen van online haatmisdrijven, waaronder racisme en discriminatie gericht op beperking, religie, of geaardheid en acteren hierop, voor zover mogelijk. Donovan benoemde diverse juridische obstakels bij het trollen, zoals onduidelijke wettelijke kaders die de vervolging van trollen bemoeilijken. Ondersteuning van het slachtoffer staat dan wel centraal bij de Hub, maar als slachtoffers niet willen meewerken aan verdere actie blijven trollen vaak anoniem en ongestraft. Daarmee gaat dan weer geen afschrikkende werking uit tegen herhaling.

Normloosheid van gamingplatforms

Gamingplatforms werden expliciet uitgelicht, omdat het normoverschrijdende gedrag hierin n?g prominenter lijkt. Cybercriminoloog Thomas-Gabriel R?diger vergeleek online games met een fysieke speeltuin: rond de spelende kinderen zien we borden met simpele gedragsregels en ouders die vanaf een bankje wat toezicht houden. Online houdt niemand zo toezicht. Via online??speeltuinen??zoals Minecraft, Roblox en MovieStarPlanet worden steeds meer kinderen het slachtoffer van?grooming, terwijl ouders denken dat ze een onschuldig spelletje spelen.

Online zijn gedragsregels op zijn minst anders te noemen, maar eigenlijk vaak afwezig. Wat vinden we van deze normloosheid? R?diger liet zien hoeveel online groepen met nazinamen in de game Clash of Clans te vinden zijn, hoe die gesprekken verlopen en ook met welk gebrek aan online normen het spel soms gespeeld wordt. Naast dit spel zijn er vele games waarin gecommuniceerd wordt, via tekst, maar ook via spraak, zoals bijvoorbeeld het populaire schietspel Fortnite: 100 spelers strijden tot de laatste overblijft. Een spel waarin de norm lijkt dat online alles geoorloofd is om maar die laatste te zijn.

Sterkte-zwakteanalyse

De conferentie resulteerde op grond van de vele voorbeelden in een sterkte-zwakteanalyse, waarbij kansen en bedreigingen werden benoemd voor een effectievere aanpak voor veiligheidspartijen die trollen willen aanpakken: *

Figuur 1> SWOT-analyse van aanpak trollen door veiligheidsdiensten

Trollen bedreigen de rechtsorde

Trollen vindt niet alleen plaats op individueel niveau. Uit?onderzoek?van?NRC?bleek dat Russische internettrollen op Twitter probeerden anti-islamsentimenten in Nederland aan te wakkeren. Dit gebeurde vanuit een??trollenfabriek? in Sint-Petersburg, het beruchte Internet Research Agency (IRA). Dat beheerde zeker 3841 trol-accounts. Sommige tweets zijn door de nepaccounts verstuurd op de dag van de aanslagen in Brussel, 22 maart 2016, andere ten tijde van de Nederlandse verkiezingen.

Volgens Facebook is 2 tot 3 procent van hun accounts vals, maar experts schatten dat het eerder 10 procent is. Ook Twitter heeft last van miljoenen spookaccounts. Bij de grote zomerschoonmaak verwijderde Twitter?70 miljoen nepaccounts. Facebook blokkeerde zelfs?1.3 miljard accounts.

Internettechnologie

Twitter-directeur Jack Dorsey beklaagde zich er onlangs over hoe fictieve accounts zijn berichtendienst misbruiken. Hij wil weer een gezond debat met echte mensen, maar heeft geen idee hoe de klok terug te draaien. Internettechnologie ontwikkelt zich intussen verder. Volgens sommige trendwatchers is 2018 het jaar van de??social bot??(online robotaccounts die communiceren). Veel omarmen dat in hun klantgerichte dienstverlening. Nu al kan een computer kunstmatig aangemaakte portretfoto?s genereren en voorzien van namen. Accounts aangedreven door kunstmatige intelligentie worden dan een?chatbot. Je kunt nu al een bot maken die praat als president Trump en nieuwe ?Trump-uitspraken? doet op basis van oude uitspraken.

Onder kinderen zijn social bots enorm populair. Opeens kunnen ze chatten met Minions, die precies praten zoals in de film. Minion-bots bieden ook producten aan: ?Heb je al aan papa en mama verteld dat een nieuwe Minion-film uitkomt?? Chinese kinderen vertrouwen hun diepste geheimen toe aan dit soort?bots, terwijl kinderen vaak erg be?nvloedbaar zijn. Papa en mama weten ondertussen niet welke informatie hun kinderen delen en welke informatie gedeeld wordt.

Nederlandse trollen hadden in 2012 al een aantal keren flinke impact. Een jongen twitterde bijvoorbeeld tijdens Project X dat een meisje was overleden. Hij deed dit voor de lol en noemde zich ?hoax creator?, maar dat wisten hulpdiensten, media en maatschappij niet, met alle gevolgen van dien. De jongen werd niet vervolgd, omdat wat hij deed dan wel niet ethisch, maar ook niet ?zomaar? strafbaar was.

Offline en online maatschappij

We stevenen af op een kantelpunt waarin het onderscheid tussen echt of nep steeds lastiger wordt. De jeugd praat graag online met Justin Bieber, ook al weten ze ergens wel dat hij niet echt is. Vele partijen spelen, goed en kwaad, in op deze ontwikkelingen. Alleen met bewustzijn en verantwoordelijkheid, ook onder technologieaanbieders en overheden, kunnen online leefbaarheid en veiligheid in de 21ste eeuw geborgd worden. Samenwerking, juist internationaal, moet hierom volwassener worden. Passende wet- en regelgeving moet die samenwerking ondersteunen.

Door gebrekkige kennis van sociale media en gamen wordt de kloof tussen de offline en online maatschappij alleen maar verder vergroot, zolang hier niks mee gedaan wordt. Die kloof kan kleiner worden door relaties te versterken tussen specifieke groepen en veiligheidsinstanties. Wat staan we toe en waar ligt de grens? Er bestaan al genoeg voorbeelden van bedreigingen die de leefbaarheid verminderen en die de grens al ver gepasseerd zijn. Gelukkig bestaan ook genoeg kansen. Als we deze samen aangrijpen hoeft het niet van kwaad tot nog erger te gaan. <<

Europees project

Het onderzoeksproject MEDI@4SEC brengt de kansen en bedreigingen in kaart die nieuwe communicatietechnologie?n teweegbrengen voor de veiligheid en veiligheidsinstanties. Dit artikel is het derde van een serie artikelen over specifieke thema’s binnen dit onderwerp als: Do It Yourself (DIY) Policing; Rellen en massabijeenkomsten; Dagelijks politiewerk; Dark Web; Trolling en; Innovatieve marktoplossingen. Lees ook het inleidende artikel in Secondant over de kansen van nieuwe communicatietechnieken voor justitie en politie.

Meer informatie over MEDI@4SEC is te vinden op de projectwebsite. Hier zijn ook de volledige onderzoeksrapporten te downloaden zodra deze openbaar zijn.

Bron: Secondant

Nederlandse politie schiet burgers te hulp met chatbot Wout

Geef een reactie

De Nederlandse politie ontwikkelt een digitale robot die meldingen aanneemt en de meldkamer alarmeert. De chatmachine zorgt voor betere bereikbaarheid en tijdswinst.

We bespraken al eerder chatbots die in politie- en justitiecontext gebruikt worden, zoals de 911 chatbot uit de VS, DoNotPay voor rechtshulpverzoeken, Sweetie at wordt toegepast bij online grooming, of hoe social bots door statelijke actoren en criminele netwerken worden ingezet. Ook de Nederlandse politie experimenteert nu met mogelijkheden om Artifici?le Intelligentie (AI) in te zetten in de interactie met burgers, bijvoorbeeld voor het opnemen van aangiftes. Chatbots, dwz interactie met technologie op basis van natuurlijke taal (tekst of spraak), wordt steeds toegankelijker en potentieel zeer belangrijk (William Hill, J., Ford, W. R., & Farreras, I. G. (2015). Alle grote techbedrijven investeren fors in chatbots als platformen voor interactie en dienstverlening.

Communicatie met AI is steeds normaler geworden, niet in de laatste plaats omdat mensen in zijn algemeenheid op een andere manier communiceren (Dale, 2016). Miljoenen Nederlanders gebruiken bijvoorbeeld Whatsapp om met elkaar te communiceren waardoor de acceptatie van korte, getypte, interacties is toegenomen.

De robot, die wordt ontwikkeld door het programma dienstverlening in Oost Nederland, volgt op de start met een?webcareteam?in mei dit jaar bij diezelfde eenheid. ?In eerste instantie is het de bedoeling dat de meest voorkomende meldingen, zoals over geluidsoverlast, via de chatbot kunnen worden doorgegeven?, legt programmamanager Bert Visser van de politie uit aan?De Gelderlander. ?Op die manier zijn we voor burgers veel beter bereikbaar. Niet alleen omdat er aan de telefoon soms wachttijden zijn, maar ook omdat er een extra kanaal is waarop contact kan worden gelegd.?

Image result for 911 chatbot

Gespreksbomen
Een chatgesprek beginnen kan in eerste instantie alleen via Facebook Messenger, waarna Wout de informatie over de problematiek en de locatie opslaat en doorstuurt naar een meldkamer. Vanuit daar worden de dichtstbijzijnde agenten op straat naar de meldlocatie gestuurd. Op termijn moet het mogelijk zijn om via allerlei verschillende media, zoals ook WhatsApp, contact te leggen met de politiebot.

In de eerste week van augustus zijn de eerste testsessies met echte meldingen gehouden. ?We hebben mensen die de politie belden of via social media contact legden, gevraagd of ze hun melding via de robot wilden doorgeven. Het ging in de meeste gevallen om geluidsoverlast of burenoverlast. De ervaringen waren heel positief?, aldus Visser. Achter de chatbot zitten veel verschillende ?gespreksbomen?: combinaties van vragen, mogelijke antwoorden en vervolgvragen die samen het gesprek vormen. Deze gespreksbomen worden door de politie ontwikkeld en moeten alle informatie opleveren om een juiste inschatting te maken over de prioriteit van de melding te kunnen maken.

Privacy belangrijk

De politie omschrijft het verwerken van alle privacygevoelige gegevens als een van de belangrijkste zaken waar aan gewerkt moet worden.??Voor we kunnen beginnen moet helemaal duidelijk zijn waar de gegevens opgeslagen worden, voor hoe lang, en wie er allemaal toegang toe heeft. Maar opvallend genoeg kregen we er van melders tijdens de testsessies helemaal geen vragen over.?

Op termijn moet de chatrobot alle binnenkomende meldingen kunnen verwerken.??In de testfase waren er bijvoorbeeld al mensen die aangaven een woninginbraak wel via de chat te willen registreren. Maar we weten natuurlijk ook dat er incidenten zijn waarbij altijd menselijk contact zal worden gezocht?, aldus Visser. ?Is er bijvoorbeeld sprake van een overval of een verkrachting, dan ga je dat niet aan een robot vertellen.?

Kunstmatige intelligentie

De techniek achter politierobot Wout lijkt op het eerste oog eenvoudig. Maar om de techniek helemaal gebruiksklaar te maken moet er veel ontwikkeld worden.

Wie wil dat politieagenten direct een einde komen maken aan bijvoorbeeld geluidsoverlast of drugsoverlast kan binnenkort op Facebook een gesprek beginnen met chatrobot Wout. De ?politiebot? stelt de eerste vraag – ?waarmee kan ik je helpen?? – en daarna begint de conversatie.

Vooralsnog stelt Wout alleen gesloten vragen. ?Maar op termijn is het de bedoeling dat burgers ook open vragen kunnen stellen?, verduidelijkt Visser. ?Daar moet kunstmatige intelligentie bij gaan helpen, want de robot moet zelflerend worden. Daar zit echter nog een heel ontwikkelproces achter.?

De melder heeft in de proefopstelling de keuze uit verschillende opties: ?overlast?, ?diefstal?, ?gevonden/verloren? of ?anders?. Na een klik op de juiste categorie loodst de robot de melder door een aantal korte vragen, waarmee de benodigde informatie wordt ingewonnen: de oorzaak van het probleem, de locatie, en andere praktische zaken. Vervolgens wordt de meldkamer gealarmeerd om agenten naar de melder te laten gaan, of wordt de melder doorverwezen naar een instantie die het probleem kan oplossen.

Nadat het gesprek op Facebook is afgerond krijgt de melder een link naar een beveiligde website waarop staat wat er met de melding gebeurt. ?Dat biedt de melder ook een voordeel. Je hebt niet alleen altijd zicht op de status van je melding, maar kunt ook extra informatie of foto?s toevoegen. En dat helpt ons ook weer, want onze agenten komen beter voorbereid ter plaatse.?

Wat mag wel en niet?

Toch biedt het schakelen tussen verschillende media – in dit geval Facebook en een internetsite van de politie – ook problemen. ?We moeten voor ieder medium onderzoeken en vastleggen wat er met de informatie gebeurt. We zijn natuurlijk zelf gebonden aan de Wet politiegegevens, maar zijn nu ook afhankelijk van wat Facebook met de gesprekken doet. Dat moeten we goed uitzoeken voor we de techniek in de praktijk gaan gebruiken.?

Een uitdaging voor interactie met AI is om de conversatie nog meer natuurlijk te laten verlopen: in plaats van een dialoog als een reeks ?actie-reacties? te beschouwen, zou ook de? context van de dialoog een rol moeten spelen. Door de context in beschouwing te nemen kunnen uitingen van gebruikers beter op hun betekenis worden beoordeeld en zal de acceptatie en kwaliteit van de interactie toenemen.

In zijn algemeenheid blijkt uit onderzoek dat mensen zich niet ongemakkelijk of onzeker voelen in de interactie met een chatbot (William Hill, J., Ford, W. R., & Farreras, I. G. (2015). Ook kunnen ze minder sociaal zijn?in interactie met robots (bijvoorbeeld ongepast of grof taakgebruik) dan met mensen (Mou & Xu, 2017; Shechtman and Horowitz, 2003). De reden dat mensen wat kortere zinnen en minder woorden in interactie met een chatbot gebruiken, is waarschijnlijk omdat zij hun taalgebruik aanpassen aan die van de chatbot, net als bij kinderen of bij mensen die de taal slecht spreken (Hill et al., 2015). Dit zou betekenen dat als de chatbot zich wat natuurlijker zou gedragen de kwaliteit en wellicht acceptatie van de algehele communicatie toe zou nemen.

Ondanks dat er nog veel moet gebeuren om Wout gebruiksklaar te maken, is die inspanning volgens Visser de moeite meer dan waard. ?Informatie is voor de politie het grootste goed. Zonder informatie is opsporen en oplossen voor ons onmogelijk. Daarom moeten we er alles aan doen om informatie zo gemakkelijk mogelijk tot ons te krijgen. En dat betekent dat we daarvoor ook kanalen moeten gaan gebruiken die in de huidige maatschappij populair zijn.?

De politie hoopt robot Wout in het derde kwartaal van 2019 in gebruik te kunnen nemen. De komende tijd zullen verschillende ontwikkelingen en onderzoeken plaatsvinden op dit gebied, waarover we op deze website verslag proberen te blijven doen wanneer mogelijk.

Update januari 2019: Resultaten Proef

85% van de burgers die contact hebben gehad met politie-chatbot Wout, is bereid om opnieuw meldingen te doen via de bot. Driekwart van de respondenten beveelt Wout aan, blijkt uit een evaluatie van de politie Oost-Nederland.

De politie in Hengelo hield eind 2018 een week lang een pilot met de eigen chatbot Wout om meldingen van vuurwerkoverlast te verwerken. De evaluatie leert dat het experiment positief is verlopen. Dankzij de bot nemen burgers vaker contact op met de politie: er is een stijging van 200 meldingen ten opzichte van het jaar ervoor. Respondenten becijferen het contact met Wout gemiddeld met een 7.

Burgerwensen
De survey toont aan dat burgers de snelheid en laagdrempeligheid van het contact prettig vinden. ?Ook al is Wout niet persoonlijk, het is prettig dat je ergens direct terecht kunt?, klinkt het. Tot dusver willen respondenten Wout voornamelijk gebruiken om algemene vragen te stellen (58%). Echter zegt 36 procent van de ondervraagde burgers de bot te willen gebruiken om aangifte te doen.

Bronnen: Tubantia, Customer First.

Hoe social bots sociale media be?nvloeden

1 reactie

Tay

Zogenoemde ‘social bots’, geautomatiseerde nepprofielen, proberen steeds vaker online mensen en debatten te manipuleren.

Chatbots zijn ouder dan we denken. Origineel noemden we ze ?ChatterBots?, een term die door Michael Mauldin, maker van de eerste?Verbot, werd bedacht in 1994. ?Maar het idee is al veel ouder. In de jaren ?50 bedacht Alan Turing, vooral bekend geworden vanwege zijn aandeel in de Tweede Wereldoorlog, de Turing Test. Daarmee moesten we kunnen aantonen dat een computer intelligent is. Dat doen we door een computerprogramma een mens na te laten doen in een real-time geschreven gesprek met een menselijke ?rechter?. Kan deze ?rechter? de computer niet van mens onderscheiden, dan is de computer intelligent.?Tot nu toe heeft echter geen enkele chatbot deze test behaald.

Verkiezingen in de VS

Begin deze maand merkte een republikeinse blogger op dat 465 accounts op Twitter spam verstuurden ten gunste van Donald Trump. De tweets, voorzien van hashtags en links, riepen op om Ted Cruz aan te geven bij een toezichthoudend agentschap. Maar sommige accounts gaven locaties als Brazili?, Itali? en India aan. Bovendien hadden ze zelden eerder over Trump getweet, volgden ze een verwaarloosbaar aantal andere gebruikers en werden ze zelf niet of nauwelijks gevolgd. De blogger berekende dat in dertig dagen, deze 465 accounts 411.000 tweets over Trump genereerden.

@DeepDrumf is een aardig voorbeeld van een relatief eenvoudig deep learning algoritme dat realistische uitspraken van Donald Trump genereert op Twitter.

drumpf

Politiek debat
‘Bots worden steeds vaker ingezet in het politieke debat’, zegt communicatiewetenschapper Samuel Woolley, die aan de Universiteit van Washington een onderzoek leidt naar het fenomeen. ‘Voorheen werden ze vooral gebruikt om een politicus of campagne populairder te laten lijken, maar tegenwoordig proberen ze steeds geavanceerder publieke opinie te manipuleren.’

Wie stuurt de bots aan?

Of de bots die het op Cruz gemunt hadden afkomstig waren van Trumps campagne is volgens Woolley moeilijk te zeggen. ‘We weten dat bots een actieve rol in de verkiezingen hebben, maar het is moeilijk te zeggen wie de bots aanstuurt.’

Het onderzoeksteam van Woolley heeft nu al moeite om vast te stellen of een account een bot is, mede doordat bots vaak snel uit de lucht worden gehaald en dat de eigenaar zijn bot op non-actief kan zetten om vervolgens zelf vanuit het account te posten.

Vanuit een aantal hoeken is bekend dat social bots worden ingezet. Allereerst waren er commerciele partijen die met bots aanbiedingen via social media als Twitter online wilden posten. Slimmere bots reageerden op Twitter op specifiek gebruikte keywords of mengden zich in trending topics. Al snel werden bots echter ook door regeringen ingezet. Zo is van Rusland bekend dat social bots worden ingezet om het debat te beinvloeden. Maar ook terroristische organisaties als Islamic State gebruiken bots om hun boodschap te propageren.

Groeiend aantal bots

Volgens onderzoekers van de universiteit van Arizona zijn minstens 7% van alle Twitter accounts social bots. Twitter zelf houdt het bij 5%, maar er zijn onderzoeken die aangeven dat met hun bot detectie tot minstens 9%. Opvallend is dat 50% (!) van alle accounts na 2014 inmiddels suspended zijn. En als het gaat om de hoeveelheid content die bots produceren zegt hetzelfde onderzoek van Arizona dat 24% van alle tweets niet van mensen, maar machines komen. Ook onder Facebook accounts zijn naar schatting 5-11% van alle accounts social bots. Er zijn social bot farms gedetecteerd die wel 750.000 accounts aansturen!

Social bots

facebook bots

Op populaire messaging platformen als KIK, dat vooral onder jongeren zeer populair is (ook in Nederland), wordt steeds meer gebruik gemaakt van social bots. Het is een nieuwe manier ook voor bedrijven om aan marketing te doen (conversational brands) en er zijn al 350 miljoen berichten met social bots zijn uitgewisseld. Ook platformen?als Slack maken er al op grote schaal gebruik van.

Maar juist de grote reuzen van deze aarde zijn er nu groots op aan het inzetten. 2016 wordt het jaar van de social bots genoemd waarin een aantal belangrijke lanceringen gepland staan, zoals de bots van Facebook. Facebook?s varianten blijken nu nog erg?traag, maar?onderstaande video laat zien wat Facebook met chatbots voor ogen heeft:

Remi Zoeten, data scientist bij Bol.com, stelt dat de groei van bots vanuit commerci?le bedrijven?aan meerdere aspecten ligt. ?Er is niet een enkele grote doorbraak geweest in de wereld van chatbots. Maar mogelijk is er een ?tipping point? bereikt welke het verschil maakt tussen wel of niet durven inzetten.? Dat tipping point heeft volgens Zoeten te maken met een aantal verbeteringen die we in de afgelopen jaren hebben gemaakt. ?We hebben bedacht hoe kunstmatige neurale netwerken kunnen worden gebruikt om met tekst om te gaan.?Neurale netwerken zijn ge?nspireerd op het neurale netwerk dat in ons brein zit. Er zijn dus betere computer-representaties gevonden voor mensentaal. Daarnaast zijn Wikipedia en andere (publieke) tekstbronnen?constant aan het groeien, hier kunnen chatbots van leren.?

Maar ook het aanbod van natuurlijke taalprocessoren als een service en kunstmatige intelligentie als een service dragen hieraan bij, stelt Jerry Wang, ontwikkelaar van chatbots in Silicon Valley. ??Veel verkopers bieden nu natural language processing (natuurlijke taalverwerking) aan als een service. In samenwerking met veel providers die de extra hulpmiddelen aanbieden kan vrijwel iedereen een coole chatbot maken die dingen voor je kan doen, in plaats van alleen maar ?hi? sturen zoals de Cleverbot deed.?

Dat grote bedrijven als Facebook nu op chatbots inspringen heeft volgens Wang en Zoeten ook een logische reden. ?Ik denk dat ze dit doen om dat de meest?intu?tieve interface naast een muis, toetsenbord of touchscreen een gesprek is. Met iemand praten om bepaalde informatie te vinden of een doel te bereiken is iets dat alle mensen doen?, stelt Wang. Zoeten ziet echter ook een commerci?le reden voor de opkomst van chatbots. ?Chatbots hebben veel commerci?le waarde, omdat ze de potentie hebben om veel werk te automatiseren, of zelfs om werk beter te doen dan professionals.
Denk aan chatbots die jou helpen om een goed cadeau te vinden, die zorgen voor een hogere omzet in online retail. Of een chatbot die de klantenservice doet bij online aankopen. Die is misschien wel veel sneller en effectiever dan een menselijke klantenservice.?

june-3-crisis-bot

?Chatbots kunnen leren van bijvoorbeeld Wikipedia of van vijfhonderd dikke boeken over anatomie en medicijnen?, vertelt Zoeten. ?Daar staat vaak het antwoord op een vraag letterlijk in. Maar als het antwoord op een vraag niet letterlijk in een tekst staat, dan kan het moeilijk zijn om het antwoord te bedenken of om het antwoord bij elkaar te verzamelen. Een chatbot kan misschien wel goed communiceren over het weer, of met interessante feitjes komen over een onderwerp, maar vermogen om te redeneren is er nog niet. Bijvoorbeeld: ?Jantje wil graag zijn 7 knikkers verdelen over zijn drie broertjes. Kan hij alle 7 knikkers eerlijk verdelen???Dit soort vragen zijn nog erg lastig. Je zou een programma kunnen maken dat z??r specifiek voor dit soort vragen geschreven is, maar als dan de vraag komt ?De cappuccino van 3.95 wordt afgerekend met een tientje, hoeveel wisselgeld wordt er gegeven??, kun je opnieuw beginnen.?Het moeilijke is om een algemene oplossing te geven voor ?vragen? en om te beslissen of de computer ?berhaupt het juiste antwoord wel heeft.?

Bovendien missen we nog wat features binnen chatbots waar we dankzij smartphones aan gewend zijn geraakt, vertelt Wang. ?Het gaat vooral om het opvragen van je locatie en het doen van betalingen. De Uber-app kan bijvoorbeeld erg goed uitzoeken waar je bent en op basis daarvan een auto naar je toesturen, maar een chatbot die je alleen via SMS spreekt kan dat niet. Tegelijkertijd kan een website als Amazon erg goed bestellingen en betalingen afhandelen, maar een chatbot heeft die mogelijkheid niet.?

Ook Google is achter de schermen druk bezig met hun nieuwste innovatie op het gebied van AI technologie.?En ook Microsoft zet er groots op in. Toch gaat het niet zonder slag of stoot. Onlangs lanceerde Microsoft haar chatbot Tay die leerde van het gedrag van de mensen waarmee de bot in gesprek raakte. De testers wisten dit en gingen zich extreem gedragen met de bot, waardoor de bot al snel rechts-extermistische uitingen deed en binnen korte tijd bekend werd als de nazi bot.

little bingMicrosoft lanceerde in 2015 het kleine zusje van Cortana, de chatbot XiaoIce aka Little Bing, waar miljoenen mensen in China hun diepste geheimen aan toevertrouwen. Volgens Yongdong Wang, de Microsoft medewerker die Xiaolce ontwikkelde, is de chatbot rond middernacht het meest populair. Gemiddeld worden er zo?n 23 berichten heen en weer gestuurd tussen chatbot en mens.

“Our vision is we want her to be a friend, not just a professional assistant. A good friend where a user can develop an emotional connection and the trust and the confidence. And someone that the user feels free to talk to.”

?Bots as besties – get ready for a shift from having a bff to a bbf: bot best friend?

Er zijn diverse toepassingen voor social bots en ook veel nieuwe start-ups die bot technologie aanbieden. Magic, Sensay?en Cloe?zijn enkele voorbeelden.

cutting edge bots

Bot en troll farms

Semi-automatisch gebruik van bots lijkt een beproefde methode door de zogenaamde ’troll farms’ in Rusland. Eerder werd bekend dat het Kremlin ook mensen inhuurt om commentaar te leveren op media die zich kritisch uitlaten over Russisch beleid.

Zo werd de Guardian in 2014 gek van de spam die zeer waarschijnlijk afkomstig was van de troll farms. De moderators, mensen die toekijken op de commentaren onder artikelen, verwijderden honderden reacties onder Oekra?ne-gerelateerde artikelen. Ook in landen als China is dit een beproefde methode, en de Verenigde Staten gebruiken vermoedelijk ook al langere tijd social bots.

Het verstoren van het MH17-debat

Voormalig Vrij Nederland-verslaggever Tim de Gier dacht ook te maken te hebben met Kremlin-gestuurd commentaar wanneer het weekblad over MH17-ramp schreef. ‘Er stonden half-afgemaakte zinnen en allerlei opmerkingen die totaal niet logisch waren. Ik durf niet te zeggen of het commentaar geautomatiseerd of menselijk was.’

Probeerden social bots het Nederlandse MH17-debat echt te verstoren? ‘Zeer waarschijnlijk’, zegt Woolley. Zeker is dat de Russen publieke opinie over Oekra?ne probeerden te be?nvloeden, getuige een handleiding van een troll farm in handen van de Volkskrant. In die handleiding wordt de troll farm-medewerkers uitgelegd hoe ze op Twitter, Facebook en andere online media moeten overtuigen dat Oekra?ense politici het land ‘naar de rand van de afgrond’ hebben gebracht.

In de handleiding, gedateerd 7 maart 2015, staan zoekwoorden, casussen en verwijzingen naar media die de Russische trolls kunnen gebruiken in hun reacties. Een van de argumenten die gesuggereerd wordt om de publieke opinie over Oekra?ne te be?nvloeden is door te hameren op het nijpende gebrek aan gas in het land en achterstallige betalingen aan Gazprom, de Russische energiegigant. Een ander argument: Oekra?ense extremisme vormt een bedreiging voor de joodse minderheid. Of: de financi?le steun van het IMF zal vooral naar het leger gaan in plaats van de bevolking.

Tegenwoordig proberen bots steeds geavanceerder de opinies te manipuleren.

Eerlijke en objectieve informatie

Woolley benadrukt dat bots vooral een probleem zijn in landen met een door de overheid gecontroleerd mediabestel, omdat die burgers voor eerlijke en objectieve informatie op sociale media aangewezen zijn.

current_500pxwide_int

Hoe zo’n debat gemanipuleerd kan worden vertelde een hacker onlangs in een interview met Bloomberg Businessweek. De Colombiaan Andr?s Sep?lveda spaarde kosten noch moeite om presidentsverkiezingen te be?nvloeden in negen Latijns-Amerikaanse landen. Hij deed dat vooral door de oppositie digitaal te bespioneren, maar maakte in 2012 ook een Mexicaanse protestbeweging dankzij bots onschadelijk.

#YoSoy 132

De hacker gebruikte een leger van dertigduizend bots om de protestbeweging #YoSoy 132, ook wel de Mexicaanse Lente genoemd, in de kiem te smoren. #YoSoy 132 stelde de warme banden aan de kaak die de partij van presidentskandidaat Enrique Pe?a Nieto tijdens de campagne onderhield met de Mexicaanse media. De beweging benadrukte dat ze geen andere kandidaat steunden.

Sep?lveda’s bots zaaiden verwarring in de onlinediscussie, door #YoSoy 132 nadrukkelijk in verband te brengen met de linkse kandidaat Andr?s Manuel L?pez Obrador. Uit een door hem gehackt campagnememo wist Sep?lveda precies wat de zwakke punten van L?pez Obradors waren, en liet hij de bots die benadrukken. Net als de Occupybeweging en de Arabische Lente had #YoSoy 132 geen centrale leider die de berichten tegen kon spreken. Ongehinderd veroorzaakten de bots een kakofonie op sociale media, waardoor de boodschap van de protesten afzwakte en de beweging uiteindelijk onschadelijk werd gemaakt.

‘Ik werkte voor de donkere kant van de politiek, de kant die niet gezien wordt’, zegt Sep?lveda, die momenteel een straf in Bogot? uitzit vanwege hacken en spionage. Hij zegt zijn verhaal te doen omdat mensen niet bevatten hoeveel invloed hackers kunnen uitoefenen op moderne verkiezingen. Hij is ‘honderd procent zeker’ dat er ook met de Amerikaanse presidentsverkiezingen geknoeid wordt.

Hoe groot het effect van de bots in de Amerikaanse verkiezingen is, valt niet te zeggen. Alleen al omdat het onmogelijk is om in te schatten hoe veel bots er actief zijn. ‘Duizenden, tienduizenden, misschien wel honderdduizenden? Ik weet het niet’, zegt Woolley. Naast zijn onderzoeksteam zijn er nog een handvol mensen die zich met bot-propaganda bezig houden.

Wat zijn bots?

Een chatbot is een geautomatiseerde robot die zo menselijk mogelijk probeert over te komen, bijvoorbeeld op Twitter of Whatsapp. Bots zijn er in allerlei soorten en maten en worden op uiteenlopende manieren gebruikt. Zo zijn er bots die grappen genereren en geen specifiek doel hebben, maar chatbots zijn ook geliefd bij klantenservices van bedrijven. Chatbots kunnen antwoord geven op simpele vragen als ‘wat is de levertijd van het product?’ doordat ze steekwoorden herkennen.

Een chatbot antwoordt door de steekwoorden en zinsopbouw die hij herkent te vergelijken met een database vol voorgeprogrammeerde en aangeleerde woorden en zinnen. De bot hanteert een overeenkomst-percentage zodat hij ook bij taal- en grammaticafouten antwoord kan geven.

Bots worden steeds beter geprogrammeerd. Ze zijn in staat om gesprekken te analyseren en daarvan te leren, waardoor ze steeds menselijker overkomen en langer interacties kunnen volhouden.

Geperfectioneerd zijn ze nog niet – en dat levert nog wel eens problemen op. Zo maakte een bot van de Nederlandse Jeffry van der Goot vorig jaar onbedoeld doodsbedreigingen op Twitter. Tay, een bot die Microsoft ontwikkelde, moest de persoonlijkheid van een 19-jarig meisje nabootsen, maar internetgrappenmakers (trolls) kregen voor elkaar dat Tay racistische opmerkingen ging maken. De social bot paste zich namelijk aan de gesprekspartners aan. In korte tijd werd Tay een geradicaliseerde bot met uitspraken zoals hieronder.

Taytweets

Maar als een bot kan leren en radicaliseren door interactie met anderen, wat zal een social bot dan andersom kunnen doen als de technologie voortschrijdt?

Zero user interface

Maar als we Microsoft en Facebook mogen geloven ligt in de toekomst een grote rol voor bots weggelegd. Met de stevige investeringen die daarbij komen kijken? komt de bot-techniek in een stroomversnelling en zullen bots die door proberen te gaan als menselijke profielen, steeds moeilijker zijn te ontmaskeren.

Lees het rapport van Sander Duivestein en Menno van Doorn over commerci?le trends in social bots:

[slideshare id=63439926&doc=theboteffectfriendingyourbrandmachineintelligencenl-160625124014&type=d]

Bronnen: De Volkskrant, Engadget, The Verge, Global Voices Online,?ReportersOnline

Internettrollen en botfarms

Geef een reactie

trollen2

Van pesterijen tot regelrechte oorlogvoering op internet: zogeheten trollen nemen bijkans het internet over. Journaliste Jessikka Aro schreef erover en werd zelf slachtoffer. Onderstaand artikel van kristel van Teeffelen stond onlangs in Trouw:

Jessikka Aro

Het is lente vorig jaar als de Finse journalist Jessikka Aro een bizar bericht ontvangt. Een sms van haar ‘vader’ die schrijft dat hij niet is overleden, maar ‘haar observeert’. Aro’s vader leeft al twintig jaar niet meer.

De journalist van het Finse tv-station Yle Kioski noemt het bericht later het dieptepunt van de onlinepesterijen die volgen op haar journalistieke onderzoek naar Russische internettrollen. Dat zijn mensen waarvan wordt verondersteld dat ze worden aangestuurd vanuit het Kremlin om pro-Russische berichten op internet te verspreiden. Het blijft niet bij het sms’je, de 35-jarige Aro krijgt te maken met dreigtelefoontjes en allerlei roddels die over haar verschijnen op sociale media: ze zou voor de Amerikanen werken en drugs dealen. In een filmpje op YouTube wordt ze neergezet als een dom blondje. De pesterijen maken haar leven tot een hel, zei ze onlangs tegen The New York Times.

Wat Aro overkwam, is kenmerkend voor wat internettrollen kunnen veroorzaken. Al bestaat er eigenlijk geen definitie van die term, laat staan dat er cijfers zijn over aantallen (zie hieronder). Zelf denkt de journalist dat ze werd bestookt vanuit de hoek waarop ze haar onderzoek richtte: de pro-Russische trollen. Mensen die doelbewust en herhaaldelijk het maatschappelijke debat proberen te be?nvloeden op sociale media en andere websites, in het voordeel van de Russische regering. Hoewel sommigen dat uit individuele overtuiging doen, is van Rusland bekend dat ook de overheid trollen aanstuurt.

Van die zogenoemde trollenfabriek is niet veel bekend, afgezien van de verhalen die de afgelopen jaren verschenen in verschillende media. Zo vertelde Ljoedmila Savtsjoek, een voormalige trol die haar werkgever vorig jaar voor de rechter sleepte, dat zij dagelijks tientallen reacties op sites en sociale media moest plaatsen waarin ze het opnam voor Poetin en diens beleid. Een andere trol beschreef in de Britse krant The Guardian dat ze over hele gewone dingen moesten schrijven, zoals het bakken van taarten en muziek. Daar moesten ze dan af en toe een politiek bericht tussendoor gooien over hoe fascistisch de regering in Kiev is, bijvoorbeeld.

Verhulde propaganda

De boodschap subtiel verpakken, is onderdeel van de tactiek. Berichten die vanuit de overheid komen, kunnen eenvoudiger aan de kant worden geschoven als overduidelijke propaganda, zegt Jan Melissen, als onderzoeker verbonden aan het instituut voor internationale betrekkingen Clingendael. Dat is moeilijker als het bericht van een gewone burger lijkt te komen, die de politieke boodschap afwisselt met gezellige huis-tuin-en-keuken-berichten. De be?nvloeding gaat dan sluipenderwijs.

Hoe gevaarlijk is die inzet van dergelijke politieke trollen? Dat overheden zieltjes proberen te winnen, ook over de landsgrenzen heen, is niets nieuws, zegt Melissen. Het is door internet alleen een stuk makkelijker geworden. Regimes zijn erachter gekomen dat sociale media een bijzonder krachtige tool voor propaganda zijn. Een ontwikkeling die we volgens hem ‘buitengewoon serieus moeten nemen’.

Daar lijkt ook de Europese Unie sinds vorig jaar van doordrongen. De continue informatiestroom van de Russische trollen wordt gezien als potentieel zo ontwrichtend voor de Europese samenleving, dat er een team is opgericht dat weerwoord moet gaan bieden, de zogenoemde ‘East StratCom Task Force‘. Dat team houdt niet alleen bij wat er allemaal voor onwaarheden vanuit Rusland worden verspreid, ze antwoorden daar ook op door de andere kant van het verhaal te vertellen, door de Europese politiek uit te leggen. Daarnaast worden onafhankelijke media in Rusland vanuit de Task Force ondersteund. Ook Nederland doet daaraan mee. Eind 2015 maakte minister Bert Koenders van buitenlandse zaken bekend dat Nederland daarvoor 1,3 miljoen euro uittrekt.

Maar doen de EU en Nederland met het stimuleren van het pro-Europese tegengeluid niet hetzelfde als Rusland? De ondersteuning van onafhankelijke Russische media is niet bedoeld als tegenpropaganda, stelde Koenders bij de aankondiging vorig jaar. Want dat gaat volgens hem in tegen ‘onze democratische beginselen’. Het geld dat Nederland beschikbaar stelt, is volgens hem ook niet gericht tegen Rusland, maar is ‘voor onafhankelijke media’.

Nepaccounts

Het ondersteunen van het tegengeluid is goed, zegt Arnout de Vries van het Nederlandse onderzoeksinstituut TNO. Al vraagt hij zich af of het voldoende is. Helemaal nu het voor trollen steeds makkelijker wordt om hun impact te vergroten. De Vries doet momenteel onderzoek naar het fenomeen van zogenoemde ‘botfarms‘. Dat zijn grote hoeveelheden accounts op sociale media waar geen gebruiker achter zit, maar een computer. De accounts doen vaak niets anders dan berichten retweeten, maar door de verbeterende technologie schrijven sommige computers inmiddels ook al volledige zinnen. De botfarms zorgen er bijvoorbeeld voor dat ??n persoon, ondersteund door de computer, een grote hoeveelheid accounts kan beheren.

“Uit onderzoek van de Universiteit van Arizona blijkt dat ten minste tien procent van de accounts op Twitter fake is, verantwoordelijk voor bijna een kwart van de berichten op het platform”, zegt De Vries. “Voor trollen zijn die nepaccounts bijzonder effectief. Kijk je naar de activiteiten van terreurgroep IS op sociale media, dan gaat het getal van 100.000 accounts rond. Dat lijkt heel wat. In werkelijkheid zitten er veel fake-accounts bij, waarmee ze hun boodschap kracht bijzetten.”?50% accounts na 2014 inmiddels suspended,?24% van alle tweets komen van bots en bij Facebook zijn de schattingen dat ook tussen de 5 en 11% van alle accounts bots zijn.

Steeds minder trollen kunnen daardoor een steeds grotere impact hebben, waarschuwt De Vries. Dan hebben de Russen straks geen leger meer nodig, maar is ??n bataljon genoeg.

Wat moet het antwoord van de EU daarop zijn? Zelf dan maar trollende botfarms inzetten? De Vries lacht: “Dat is een beetje te controversieel. Ik denk alleen wel dat je als overheid burgers in groten getale nodig hebt om tegengeluiden te laten horen. Maar overheden lijken een beetje beschaamd dat aan hun burgers te vragen. Het is toch alsof je je burgers het strijdveld op het web instuurt.”

En daar kan het er erg persoonlijk aan toe gaan, laat de kwestie met Jessikka Aro zien. Doodsbedreigingen, online speuren naar informatie en daarmee iemand chanteren; het zijn strategie?n die de doorgewinterde trol inzet om tegenstanders uit te schakelen en zijn invloed te doen gelden.

Toch is er volgens Jan Melissen van Clingendael wel een verschuiving gaande. De meeste overheden zetten dan wel geen trollenlegers op, maar ondersteunen burgers of organisaties wel steeds vaker indirect in het verspreiden van hen goedgezinde berichten op internet. “Dat doen ze bijvoorbeeld door organisaties met geld te ondersteunen, of burgers te trainen. Ik ken voorbeelden uit Zuid-Korea en uit Isra?l. Daar traint het ministerie van buitenlandse zaken jonge Isra?li?rs die het online opnemen voor hun land.”

Hoewel het volgens Melissen in een democratie lastig ligt om als overheid te veel te willen sturen op wat burgers online uiten, komt de wens voort uit het idee dat die burgers broodnodig zijn. Vooral als je te maken hebt met tegenstanders die op grote schaal onwaarheden verspreiden.

trollen

Trollen in alle soorten en maten

Lang niet alle trollen hebben een politiek motief. Soms zijn het internetters die uit verveling online op zoek gaan naar ruzie, of naar een lolletje. Een trollentruc is bijvoorbeeld om op internetfora onschuldig ogende linkjes achter te laten die in werkelijkheid leiden naar een site met alles behalve onschuldige plaatjes.

Door sommige mensen wordt trollen zelfs gezien als een ware kunst. E?n van hen is de Amerikaanse econoom Noah Smith, die in 2014 een vlammend betoog schreef over waarom hij trots is om een internettrol te zijn. Hij ziet het als een manier om mensen op hun vooroordelen te wijzen, en om de alledaagse sleur te doorbreken.

Maar trollen is lang niet meer zo onschuldig als in de begintijd van internet, erkent ook Smith. Neem het fenomeen dat bekend is onder de naam ‘doxen’, oftewel iemand uit de anonimiteit halen. De Britse schrijver Jamie Bartlett haalt een voorbeeld aan in zijn boek ‘Dark net‘, waarvoor hij in de krochten van internet dook. Een meisje had naaktfoto’s van zichzelf geplaatst op een anoniem forum, waarna een aantal aanwezigen een zoektocht naar haar identiteit begon. Binnen de kortste keren was haar naam, adres en telefoonnummer achterhaald via een studentenlijst van haar universiteit. En waren de naaktfoto’s naar al haar facebookvrienden verstuurd. Volgens Bartlett wordt dat op internet een ‘life ruin’ genoemd: bedoeld om blijvend leed te veroorzaken. En dat alleen maar omdat het kan.

In zekere zin gebruikten ook de trollen die achter Jessikka Aro aangingen die tactiek. Bij Aro lijkt er alleen een politiek motief achter te zitten, de pesterijen begonnen direct nadat ze haar eerste artikel publiceerde over het Russische trollenleger. Maar niet alleen die groep stuurde de roddels rond. Het viel Aro op dat er allerlei mensen aan meededen, waarvan de connectie met Rusland niet altijd duidelijk was. Dat is kenmerkend voor trollen, zegt Arnout de Vries van TNO. “Vaak zie je een sneeuwbaleffect: iemand haalt een grap uit, dat lokt reacties uit en de volgende gaat daaroverheen.”

twitter trolls

Ook in Nederland hadden trollen al een aantal keer flink impact. Bijvoorbeeld tijdens de rellen in Haren in 2012 (Project X). Een jongen uit Rotterdam twitterde die avond dat een meisje was overleden. Het was een grap. “Hij slingerde voor de lol leugens de wereld in en wist dat bijzonder goed te timen”, zegt De Vries. “Met alle ellende tot gevolg. De media vallen hulpdiensten onnodig lastig om bevestiging te krijgen en veel ouders bellen 112.” De jongen uit Rotterdam werd opgespoord, maar niet vervolgd omdat wat hij deed niet zomaar strafbaar was. Dat is een probleem bij de aanpak van trollen, stelt De Vries. Ze zijn erg moeilijk aan te pakken, terwijl ze bij grote gebeurtenissen klaarzitten om toe te slaan.

mediamix

Bronnen: Trouw