Tagarchief: social bots

Volgers op social media als valse valuta

Programmamaker Nicolaas Veul duikt in de financi?le wereld achter Instagram. Op dit sociale platform is een compleet nieuw verdienmodel ontstaan: likes en followers zijn keiharde valuta geworden. Maar welke schaduweconomie ontstaat hierdoor? Wat is echt en wat is nep? Hoe voer je de strijd tegen het algoritme? Wie zijn de winnaars en wie de verliezers? En wat merk jij daarvan als je door je feed scrollt? Met #followme produceert de VPRO de eerste documentaire over Instagram op Instagram.

#followme is een crossmediaal onderzoek naar de economie die sinds de oprichting van Instagram is ontstaan: soms creatief en vernieuwend maar soms ook heel schimmig. Je volgt het?maakproces op?het?account?@followme.doc. Daar probeert Nicolaas Veul alle tips en trucs om aan populariteit te winnen, toont hij?interviews en reflecteert hij op zijn bevindingen.?Deze VPRO documentaire is ook te zien op?IGTV.

In #followme vraagt Nicolaas Veul zich?af?wie de winnaars en wie de verliezers zijn in deze nieuwe industrie. Hoe voer je de strijd tegen het algoritme? Hij praat met verschillende influencers en met het Amsterdamse?Agency for Digital Influencer Marketing: IMA.?Als geen ander weten zij hoe de Instagram industrie in elkaar steekt. Daarnaast reist hij naar Rusland waar aan huis gebonden jonge moeders?comments?schrijven op bestelling, Vervolgens gaat hij naar Amerika waar?social media software?ontwikkelaar Dovetale een instrument ontwikkelde om nepvolgers en bots te herkennen. Travel influencer Sara Melotti doet in Milaan verslag van haar -naar eigen zeggen- gewelddadige relatie met het medium.?En een groothandelaar?in nepvolgers doet anoniem een boekje open over fraude op Instagram. Er lijken geen regels te gelden?in deze nieuwe economie: welkom in het Wilde Westen?dat?Instagram heet.


Achter de mooie plaatjes op Instagram schuilt een schimmige economie waarin niets meer echt is, merkte Nicolaas Veul. ?Ik heb bekende Nederlanders en bedrijfjes gevonden die de boel echt keihard besodemieteren.?

Hoe lijk je met weinig geld toch zo rijk als een Russische oligarch? Huur het interieur van een priv?jet! Nicolaas Veul ging naar Moskou waar een Russische influencer hem alles vertelde over de neppe rijkdom op Instagram. Je kan voor je Instafoto’s naast nagemaakte priv?jets ook volledige appartementen huren, doosjes van de nieuwste iPhone en lege champagneflessen van een duur merk.

Instagram is momenteel het invloedrijkste sociale medium. Wie denkt dat het gewoon een leuke plaatjes-app is om doorheen te scrollen op een verveel?moment, ziet veel over het hoofd. Instagram heeft ruim een miljard gebruikers en die besteden gemiddeld maar liefst een halfuur per dag aan de app. De alomtegenwoordigheid van Instagram is de reden waarom winkels en restaurants tegenwoordig allemaal felgekleurde muren hebben (want leuke achtergrond voor foto?s), waarom grote logo?s in de mode zijn (zo is het merk goed zichtbaar op de foto), waarom meisjes allemaal lang los haar of een knot op hun hoofd hebben (naar achteren gekamd haar ziet er raar uit op een selfie) en waarom?fitboys?en –girls?zich uren in het zweet werken voor stevige billen en een keihard sixpack.

Mensen baseren de keuze voor hun outfits, maaltijden en vakantiebestemmingen op wat ze op Instagram hebben gezien. Daarom is groot worden op het platform voor veel mensen en bedrijven ontzettend belangrijk. Onlineberoemdheden met veel volgers, de zogenaamde?influencers, maken de dienst uit. Zij worden door bedrijven betaald om hun merken te promoten in de foto?s uit hun dagelijks leven. Het zijn wandelende reclameborden, maar vanwege de roem en het geld is?influencer?onder jonge mensen een van de benijdenswaardigste beroepen. Ook bn?ers hebben de sociale media ontdekt als marketing?kanaal: Katja Schuurman maakt op Instagram reclame voor chocolade en Arie Boomsma voor luiers.

Programmamaker?Nicolaas Veul?is zelf ook fervent gebruiker van de app. ?Ik houd ervan en ik haat het,? zegt hij. Hij was nieuwsgierig naar de economische mechanismen die erachter schuilgaan, en daarom maakte hij de documentaire?#followme. ?Sinds Facebook de app heeft overgenomen en zelf minder populair wordt, is Instagram steeds commerci?ler geworden. Professionele instagrammers verdienen er geld mee en gewone mensen ontlenen er status aan. Een geheim algoritme bepaalt welk bericht de gebruikers als eerste te zien krijgen. Het aantal volgers, likes en reacties is daar van invloed op, daarom is er een levendige handel in volgers en likes.?

Bots

Instagramvolgers zijn gewoon online te koop. Voor een paar euro heb je er zo honderden volgers bij en ook likes op je berichten kun je grootschalig inkopen. Veul reisde naar Amerika en Rusland om onderzoek te doen naar de mensen en mechanismen hierachter. ?Die handel is niet illegaal, maar wel heel schimmig. Minstens tien procent van de volgers op Instagram is nep. Dat zijn voornamelijk bots, door de computer aangemaakte accounts met willekeurige namen en foto?s. De meesten komen uit Rusland en India, daar staan de servers te draaien.?

Instagrammers kunnen zich door hun wachtwoord te geven aansluiten bij netwerken waar onbekenden elkaar automatisch volgen en likes geven. Of ze geven een handige tiener een opdracht. Veul: ?We hebben een jongen van vijftien gesproken die op Marktplaats accounts met volgers verkoopt. Vroeger brandde je cd?tjes, nu verkoop je Instagramaccounts.?
Maar omdat inmiddels wel bekend is dat volgers te koop zijn, zijn ze ook niet zo
essentieel meer. ?Het draait nu vooral om?engagement,? zegt Veul. ?Dat betekent hoeveel likes en reacties je krijgt kort nadat je een foto hebt geplaatst.?
Grote groepen mensen zitten met zijn allen in een soort whatsappgroep, maar dan op communicatie-app Telegram. Ze spreken samen af dat ze allemaal likes en reacties bij elkaar plaatsen. ?Dan schiet je omhoog in het algoritme. Dit doen bekende influencers echt. Zo zijn ze beter zichtbaar en kunnen ze betere deals sluiten met de merken die ze sponsoren. Ik heb het zelf geprobeerd en het werkt inderdaad heel goed.?

Fraude

Nu Veul zich erin verdiept, ziet hij pas goed hoe de kluit belazerd wordt. ?Er wordt op grote schaal gefraudeerd. Als je groter wilt worden op Instagram, moet je wel meedoen aan deze praktijken, anders val je niet meer op. Influencers worden heel erg vertrouwd door hun volgers en dat is voor merken bijzonder interessant. Hoe meer volgers, hoe meer een gesponsord bericht waard is. Maar van sommige mensen is twintig procent van hun volgers nep. Ik heb bekende Nederlanders en bedrijfjes gevonden die de boel echt keihard besodemieteren.?
Zanger Dotan viel dit voorjaar genadeloos door de mand toen bleek dat hij zelf allerlei nepfans had verzonnen. ?Bij hem ging het wel erg ver, maar ik weet dat mensen voorzichtiger zijn geworden na dat schandaal,? zegt Veul.

Het probleem zit echter dieper dan een paar adverteerders die worden genept en artiesten die zich populairder voordoen dan ze zijn, vindt de programmamaker. ?Mensen kijken op Instagram om beslissingen te nemen en hun mening te vormen. Voor sommige jongeren is Instagram echt hun leven, ze groeien op in die wereld en ontlenen hun identiteit eraan. Maar je weet niet wat echt en wat nep is. Ik vind dat zorgwekkend. Gebruikers zien niet de werkelijkheid, want alles kan gekocht zijn. Ook idee?n die verspreid worden,?fake news?dus. Politici kunnen net zo goed het systeem hacken en zich populairder voordoen dan ze zijn.?

Echt nieuw zijn dat soort praktijken niet, geeft Veul toe. ?Artiesten kochten vroeger ook hun eigen singles. Maar nu kunnen we allemaal een artiest zijn die zijn eigen singles koopt. Dat levert een totaalinflatie op. Het is volstrekt onduidelijk wat nu werkelijk waarde heeft en wat niet. Ik denk dat dit ook iets doet met onze normen en waarden. Dat iedereen commercieel is, heeft ook invloed op de maatschappij. Het is nu bijvoorbeeld heel erg cool om met merken geassocieerd te worden.?

Liegen

Onder andere een influencermarketingbedrijf, een?fashion influencer, een groothandelaar in volgers en likes en een hacker die bots opspoort, komen in de documentaire aan bod. Maar bij Instagram zelf kreeg Veul niemand te spreken. ?Ze werken niet mee, reageren niet eens op interviewverzoeken. Natuurlijk zijn ze van deze praktijken op de hoogte, maar zij hebben er vooral baat bij dat hun platform groeit en dat mensen er zo veel mogelijk tijd op doorbrengen. Ze doen er niets aan en dat is totaal onethisch. Aan de andere kant kun je het medium Instagram niet de schuld geven. Wij, de gebruikers, vinden blijkbaar dat we moeten liegen, uit ijdelheid en voor het geld.?
Opvallend genoeg wordt?#followme?een dag voor de uitzending op televisie al uitgezonden op IGTV, het videokanaal van Instagram. Ondanks de kritische toon denkt Veul niet dat daar problemen door zullen ontstaan. ?Er werken daar niet zo veel mensen, het meeste gaat automatisch. Ik denk niet dat ze het eraf zullen halen, hoogstens komen we helemaal achteraan te staan.?

Veul wil de Instagramgebruikers met?#followme?een spiegel voorhouden. ?Sociale media en de grote techgiganten houden ons al veel meer in hun greep dan we zouden willen. Als je alle manieren waarop we op Instagram gefopt worden afzonderlijk bekijkt, zijn ze misschien niet zo erg. Maar als je ze allemaal met elkaar verbindt, dan zie je opeens wat voor wereld dit is en denk je:?holy shit, zijn we al zo ver??

Bronnen: VPRO

Internettrollen vervuilen het web met gevaarlijk gedrag

Op het internet duiken steeds meer spookaccounts op, die nepnieuws verspreiden. Deze internettrollen zijn ook verantwoordelijk voor online haatmisdrijven en kunnen de rechtsorde bedreigen. Hoe kunnen online veiligheid en leefbaarheid gewaarborgd worden in de 21ste eeuw?

– Een artikel van Arnout de Vries geplaatst in Secondant

Sociale media zijn breed beschikbaar en worden door jong en oud en onschuldige maar soms ook kwaadwillende personen gebruikt. We kennen sociale media vooral als een geweldig middel om met elkaar verbonden te raken via chat en door (vakantie)foto?s te delen. Toch kan je niet alleen je hart luchten met andere gebruikers, maar ook mensen isoleren, van anderen vervreemden en vernederen. Dit varieert van kleine pesterijen tot regelrechte oorlogsvoering. Want kinderen?gamen online, maar in dezelfde spelletjes zitten vaak ook neonazi?s, zoals in het online oorlogsspel Clash of Clans. Soms zitten zij in eenzelfde chatsessie met jonge, zeer be?nvloedbare kinderen. Toezicht op de online normoverschrijdingen is beperkt, of afwezig.

Het zogeheten trollen als vorm van normoverschrijdend gedrag online neemt toe. Trollen kan beginnen met pesten, maar verergeren tot intimideren en stalken. Het kan slachtoffers zelfs tot zelfmoord drijven. Als dit online gedrag de veiligheid en leefbaarheid schaadt, komt het als verschijnsel in beeld bij de overheid.

Veiligheidsconferentie

In mei dit jaar werd in Londen een internationale veiligheidsconferentie gehouden over ?trolling?. Onderzoekers en specialisten uit bedrijfsleven en overheden vanuit meer dan 15 Europese landen kwamen bijeen om de kansen voor een vernieuwde aanpak te bespreken. Ook de bedreigingen van deze ontwikkelingen kwamen aan bod. Al deze partijen uit de veiligheidssector hebben als doel om het internet veiliger en leefbaarder te maken.*

De techniek heeft zich in de afgelopen jaren zodanig ontwikkeld dat internet een vanzelfsprekendheid is voor veel mensen. Echter, ook anonimiteit door encryptietechnieken en het gebruik van kunstmatige intelligentie worden steeds normaler. De internetgedragscodes veranderen sinds het ontstaan ervan mee, maar: Wat is acceptabel en wat niet? Wat staan we met moderne technologie toe en wat niet? Nieuwe ontwikkelingen bieden nieuwe kansen, maar vormen ook nieuwe bedreigingen. Op het wereldwijde web zijn de meningen verdeeld over hoe ver vrijheid van meningsuiting mag gaan en elk socialemediaplatform hanteert hierbij zijn eigen huisregels. Socialemediaplatforms dulden bijvoorbeeld alleen echte mensen en toch duiken steeds meer valse en machinegestuurde accounts op om te trollen.

Dilemma?s in moeizame aanpak trollen

De conferentie focuste op preventie en interventies in handhaving en vervolging met aandacht voor sociale en technologische innovaties.?Best practices?werden gedeeld, zoals die van John Donovan, werkzaam bij?The Online Hate Crime Hub?van de Metropolitan Police. Sinds 2017 pakken de speciaal getrainde politieagenten online misstanden aan. De Hub onderzoekt meldingen van online haatmisdrijven, waaronder racisme en discriminatie gericht op beperking, religie, of geaardheid en acteren hierop, voor zover mogelijk. Donovan benoemde diverse juridische obstakels bij het trollen, zoals onduidelijke wettelijke kaders die de vervolging van trollen bemoeilijken. Ondersteuning van het slachtoffer staat dan wel centraal bij de Hub, maar als slachtoffers niet willen meewerken aan verdere actie blijven trollen vaak anoniem en ongestraft. Daarmee gaat dan weer geen afschrikkende werking uit tegen herhaling.

Normloosheid van gamingplatforms

Gamingplatforms werden expliciet uitgelicht, omdat het normoverschrijdende gedrag hierin n?g prominenter lijkt. Cybercriminoloog Thomas-Gabriel R?diger vergeleek online games met een fysieke speeltuin: rond de spelende kinderen zien we borden met simpele gedragsregels en ouders die vanaf een bankje wat toezicht houden. Online houdt niemand zo toezicht. Via online??speeltuinen??zoals Minecraft, Roblox en MovieStarPlanet worden steeds meer kinderen het slachtoffer van?grooming, terwijl ouders denken dat ze een onschuldig spelletje spelen.

Online zijn gedragsregels op zijn minst anders te noemen, maar eigenlijk vaak afwezig. Wat vinden we van deze normloosheid? R?diger liet zien hoeveel online groepen met nazinamen in de game Clash of Clans te vinden zijn, hoe die gesprekken verlopen en ook met welk gebrek aan online normen het spel soms gespeeld wordt. Naast dit spel zijn er vele games waarin gecommuniceerd wordt, via tekst, maar ook via spraak, zoals bijvoorbeeld het populaire schietspel Fortnite: 100 spelers strijden tot de laatste overblijft. Een spel waarin de norm lijkt dat online alles geoorloofd is om maar die laatste te zijn.

Sterkte-zwakteanalyse

De conferentie resulteerde op grond van de vele voorbeelden in een sterkte-zwakteanalyse, waarbij kansen en bedreigingen werden benoemd voor een effectievere aanpak voor veiligheidspartijen die trollen willen aanpakken: *

Figuur 1> SWOT-analyse van aanpak trollen door veiligheidsdiensten

Trollen bedreigen de rechtsorde

Trollen vindt niet alleen plaats op individueel niveau. Uit?onderzoek?van?NRC?bleek dat Russische internettrollen op Twitter probeerden anti-islamsentimenten in Nederland aan te wakkeren. Dit gebeurde vanuit een??trollenfabriek? in Sint-Petersburg, het beruchte Internet Research Agency (IRA). Dat beheerde zeker 3841 trol-accounts. Sommige tweets zijn door de nepaccounts verstuurd op de dag van de aanslagen in Brussel, 22 maart 2016, andere ten tijde van de Nederlandse verkiezingen.

Volgens Facebook is 2 tot 3 procent van hun accounts vals, maar experts schatten dat het eerder 10 procent is. Ook Twitter heeft last van miljoenen spookaccounts. Bij de grote zomerschoonmaak verwijderde Twitter?70 miljoen nepaccounts. Facebook blokkeerde zelfs?1.3 miljard accounts.

Internettechnologie

Twitter-directeur Jack Dorsey beklaagde zich er onlangs over hoe fictieve accounts zijn berichtendienst misbruiken. Hij wil weer een gezond debat met echte mensen, maar heeft geen idee hoe de klok terug te draaien. Internettechnologie ontwikkelt zich intussen verder. Volgens sommige trendwatchers is 2018 het jaar van de??social bot??(online robotaccounts die communiceren). Veel omarmen dat in hun klantgerichte dienstverlening. Nu al kan een computer kunstmatig aangemaakte portretfoto?s genereren en voorzien van namen. Accounts aangedreven door kunstmatige intelligentie worden dan een?chatbot. Je kunt nu al een bot maken die praat als president Trump en nieuwe ?Trump-uitspraken? doet op basis van oude uitspraken.

Onder kinderen zijn social bots enorm populair. Opeens kunnen ze chatten met Minions, die precies praten zoals in de film. Minion-bots bieden ook producten aan: ?Heb je al aan papa en mama verteld dat een nieuwe Minion-film uitkomt?? Chinese kinderen vertrouwen hun diepste geheimen toe aan dit soort?bots, terwijl kinderen vaak erg be?nvloedbaar zijn. Papa en mama weten ondertussen niet welke informatie hun kinderen delen en welke informatie gedeeld wordt.

Nederlandse trollen hadden in 2012 al een aantal keren flinke impact. Een jongen twitterde bijvoorbeeld tijdens Project X dat een meisje was overleden. Hij deed dit voor de lol en noemde zich ?hoax creator?, maar dat wisten hulpdiensten, media en maatschappij niet, met alle gevolgen van dien. De jongen werd niet vervolgd, omdat wat hij deed dan wel niet ethisch, maar ook niet ?zomaar? strafbaar was.

Offline en online maatschappij

We stevenen af op een kantelpunt waarin het onderscheid tussen echt of nep steeds lastiger wordt. De jeugd praat graag online met Justin Bieber, ook al weten ze ergens wel dat hij niet echt is. Vele partijen spelen, goed en kwaad, in op deze ontwikkelingen. Alleen met bewustzijn en verantwoordelijkheid, ook onder technologieaanbieders en overheden, kunnen online leefbaarheid en veiligheid in de 21ste eeuw geborgd worden. Samenwerking, juist internationaal, moet hierom volwassener worden. Passende wet- en regelgeving moet die samenwerking ondersteunen.

Door gebrekkige kennis van sociale media en gamen wordt de kloof tussen de offline en online maatschappij alleen maar verder vergroot, zolang hier niks mee gedaan wordt. Die kloof kan kleiner worden door relaties te versterken tussen specifieke groepen en veiligheidsinstanties. Wat staan we toe en waar ligt de grens? Er bestaan al genoeg voorbeelden van bedreigingen die de leefbaarheid verminderen en die de grens al ver gepasseerd zijn. Gelukkig bestaan ook genoeg kansen. Als we deze samen aangrijpen hoeft het niet van kwaad tot nog erger te gaan. <<

Europees project

Het onderzoeksproject MEDI@4SEC brengt de kansen en bedreigingen in kaart die nieuwe communicatietechnologie?n teweegbrengen voor de veiligheid en veiligheidsinstanties. Dit artikel is het derde van een serie artikelen over specifieke thema’s binnen dit onderwerp als: Do It Yourself (DIY) Policing; Rellen en massabijeenkomsten; Dagelijks politiewerk; Dark Web; Trolling en; Innovatieve marktoplossingen. Lees ook het inleidende artikel in Secondant over de kansen van nieuwe communicatietechnieken voor justitie en politie.

Meer informatie over MEDI@4SEC is te vinden op de projectwebsite. Hier zijn ook de volledige onderzoeksrapporten te downloaden zodra deze openbaar zijn.

Bron: Secondant

Computergestuurde politiek

Wie stuurt de politieke trollen? Een tijd geleden stond onderstaand artikel in dagblad Trouw van Jenda Terpstra die Arnout de Vries interviewde.

Trollen Trouw

Trollen zijn nieuw in de Nederlandse politiek. Onderzoeker Arnout de Vries van TNO verwacht dat ze in de nabije toekomst het publieke debat kunnen be?nvloeden.

Trollen beheersten afgelopen weekend het nieuws, nadat NRC Handelsblad had geschreven dat politieke partij Denk gebruik maakt van nepprofielen. Achter minimaal twintig facebook- en twitteraccounts zouden geen echte mensen zitten, maar politici en medewerkers van Denk, die tegenstanders aanvielen en probeerden de publieke opinie te be?nvloeden.

Arnout de Vries van TNO doet onderzoek naar internettrollen en is gespecialiseerd in sociale media en veiligheid. Hij ziet het politieke klimaat in Nederland veranderen en verwacht dat campagnes scherper zullen worden.

“Politici zien de kracht van sociale media. Via Facebook kunnen ze een specifieke boodschap heel gericht op een groep vatbare burgers afvuren. Trollen kunnen helpen om het debat verder te be?nvloeden. Dat gebeurt misschien nu nog niet of nauwelijks. Maar met het internationale speelveld op het internet komt binnenkort wellicht de vraag: als je tegenstanders het doen, en jij je aan je ethische regels houdt, hoeveel invloed heb je dan nog?”

‘Wat dit weekeinde met Denk gebeurde, kan een voorbode zijn van wat komen gaat’

Trollen, accounts die online nepberichten verspreiden of verwarring zaaien, zijn zo oud als het internet. Achter de sprookjesnaam gaat een diffuus en politiek invloedrijk fenomeen schuil. “Een trol kan iemand zijn die via laster het leven van een individu of groep zuur maakt. Hij kan ook worden aangestuurd door een bedrijf of politieke partij met een hoger doel: een boodschap of leugens verspreiden of het politieke debat be?nvloeden”, zegt De Vries.

“In het geval van Denk ging het om enkele spookaccounts. Internationaal worden sociale bots ingezet, computers die op veel grotere schaal berichten de wereld inslingeren.”

Trollen zijn in de praktijk niet eenvoudig op te sporen. Dat de methoden van Denk wel werden onthuld, is volgens de onderzoeker redelijk uniek in het politieke domein. “Trollen zijn ook moeilijk te stoppen, want meestal kom je niet achter de ware identiteit.”

De Vries denkt niet dat veel Nederlandse politieke partijen op dit moment trollen inzetten. “Nederland heeft veel controlemechanismen, zoals het wob-verzoek. Daarmee kunnen we kijken waar het campagnegeld heen gaat. Trollen direct financieren om een campagne te helpen, is dus niet aantrekkelijk. We zijn een klein land dat Nederlands spreekt, waardoor online campagnes goed te analyseren zijn. Als we een Engelstalig land waren, was het anders geweest door het internationale speelveld.”

Wel ziet De Vries dat het fenomeen internationaal in de lift zit. Dat kan volgens hem verder overslaan naar Nederland. “Wat dit weekeinde met Denk gebeurde, kan een voorbode zijn van wat komen gaat.” Zo is er volgens De Vries het sterke vermoeden dat Rusland het debat in Nederland over Oekra?ne probeerde te be?nvloeden met internettrollen. Bovendien heb je in Rusland en China volgens de onderzoeker hele trollfarms: callcenterachtige zalen vol mensen die op internet het nationale en internationale debat proberen te be?nvloeden.

Rond de Amerikaanse verkiezingen zijn sterke vermoedens dat Donald Trump online de publieke opinie op geraffineerde wijze heeft be?nvloed. De Vries: “Accounts die niets te maken hadden met Trump, gingen massaal dingen delen en het over hem hebben. Zo rijst het vermoeden dat dit is geregisseerd en dat sociale bots berichten hebben gedeeld.”

Peter Sonneveld voorlichter GroenLinks “We hebben geen speciaal beleid tegen trollen, maar soms zien we wel een fake account op Facebook of Twitter voorbij komen voor Jesse (Klaver, red.). Daar staat dan bijvoorbeeld: “Ik ben Jesse en ik ben voor de bouw van moskees.” Die accounts rapporteren we, zodat ze worden verwijderd.

Op onze eigen Facebookpagina hebben we een richtlijn om het netjes te houden. We willen geen geruzie, gescheld of uit de hand gelopen discussies.
Op livestreams tijdens meetups met Jesse zie je wel eens dat mensen die Jesse of Groenlinks niks vinden heel vaak achter elkaar negatief reageren. Maar dat zijn nog steeds mensen, geen trollen.
Wat natuurlijk onethisch was aan het Denk-verhaal, is dat het om nepaccounts ging. Wij zijn eerlijk over wie van het webcare team van Groenlinks reageert. Het is belangrijk dat je weet met wie je te maken hebt.”

Bron: Trouw, 14 feb 2017

Vervolg leestips:?Trolling?met social media, normoverschrijdend gedrag online herkennen, verklaren en tegengaan

Bommen, granaten en terroristen die katten aaien

bommen

Woorden en beelden zijn soms net zo krachtig als bommenwerpers. De strijd van overheden tegen de IS is daarom deels een communicatiewedloop. De technologische ontwikkelingen gaan snel. Hoe zorgen we ervoor dat we niet achterop raken?

Een mollige peuter richt trots een machinegeweer op ons, een kleuter onthoofdt haar knuffel en een tienjarig kind liquideert een militair: de beelden uit de Islamitische Staat missen hun doel nooit. Verspreid via social media zijn ze vaak minstens zo krachtig als vuurwapens. Ze nestelen zich in de hoofden van vriend en vijand om daar hun manipulerende, motiverende, of juist ontmoedigende werk te doen.

is cats

Een belangrijk verschil tussen de terroristen van Al Qaeda en van IS is dat de laatsten ?digital natives? zijn en de kracht van social media beter begrijpen. Of ze nu angst zaaien met afgehakte hoofden, of empathie oogsten met sympathieke strijders die katten aaien: de ?storytellers? van de IS doen niet onder voor de marketingstrategen van een multinational. Een goede ?internetstrijder? oogst bij IS dan ook evenveel waardering als een ervaren sluipschutter.

?de ?storytellers? van de IS doen niet onder voor de marketingstrategen van een multinational?

Social bots

Social media als Facebook en Twitter zijn voor terroristen belangrijke platformen om jongeren die vatbaar zijn voor radicale idee?n te manipuleren met eenzijdige informatie. Steeds vaker gebeurt dit met accounts die niet door mensen, maar door machines worden bestierd. Het betreft ?social bots?: computerprogramma?s, ontworpen om te communiceren met mensen.

Ze maken grootschalige manipulatie via social media veel gemakkelijker. De sociale platformen zouden een grotere rol kunnen spelen om radicalisering tegen te gaan, maar doen dit slechts mondjesmaat. Wel heeft de Europese Commissie onlangs met Microsoft, Facebook, YouTube en Twitter afgesproken dat haatzaaiende inhoud binnen 24 uur verwijderd wordt, mits burgers er melding van maken.

Ook gesloten platformen spelen een steeds grotere rol in de informatiewedloop tussen de IS en westerse overheden. Versleutelde apps als Signal of WhatsApp maken het mogelijk te communiceren buiten het zicht van informatiediensten. Games die onder jongeren populair zijn, zoals Grand Theft Auto (een spel waarin je agenten kunt aanrijden), bieden de IS de mogelijkheid om in besloten kring precies de juiste doelgroep aan te spreken. En het Dark Web, een versleuteld deel van internet, wordt onder meer gebruikt om ongezien aan uitreisdocumenten te komen en anoniem geld te storten aan het kalifaat.

Van wetenschap tot wapen

Veel goedbedoelde nieuwe-mediatechnologie?n veranderen in wapentuig, zodra misdadigers ze in handen krijgen. Dit zijn drie actuele voorbeelden.

Social Bots

Alan Turing ontwikkelde in 1950 de Turing test, die test of een machine te onderscheiden is van een mens. Sindsdien hebben wetenschappers grote stappen gezet in de ontwikkeling van computerprogramma?s die overtuigend communiceren met mensen. Social bots, gebruikt door zowel commerci?le bedrijven als misdadigers, komen hier uit voort. Bedrijven als Microsoft, Google en Amazon investeren miljarden in zelflerende varianten die steeds intelligenter worden.

Dark Web

Drugs, wapenhandel, kinderporno en identiteitsvervalsing: het dark web biedt alles wat het daglicht schuwt. Het is toegankelijk met speciale, door iedereen te downloaden software en gebruikers kunnen er anoniem doen wat ze goeddunkt. Het dark web is onderdeel van het ?deep web?, ooit begonnen als een internetvariant waar de Amerikaanse marine kon overleggen zonder pottenkijkers. Inmiddels maken ook terroristische organisaties als IS er dankbaar gebruik van.

Virtual reality

Technieken om de werkelijkheid te simuleren met behulp van software en eventueel een soort bril werden aanvankelijk vooral gebruikt voor het trainen van piloten, artsen en militairen. Vanaf de jaren negentig ging de gamingindustrie ermee aan de haal. De Oculus Rift is het meest actuele middel waarmee gebruikers zich in een andere context kunnen wanen. Experts vrezen dat terroristen dit soort apparatuur zullen inzetten voor het trainen van strijders. IS gebruikt oorlogsgames en gamification in hun uitingen nu al om strijders te recruteren.

Rol van de overheid

De overheid is zich bewust van de grote rol die deze technologie?n spelen in radicaliseringsprocessen. Gezien de snelle technologische ontwikkelingen op het gebied van versleuteling en kunstmatige intelligentie zal deze rol steeds groter worden.

Inlichtingendiensten, politie en politici missen echter zowel de expertise als wettelijke ruimte om in te grijpen. Goed bedoelde, Hollywoodachtige filmpjes met een alternatief verhaal vallen in het niets bij de enorme stroom ?reality TV? van IS. Twitterende politici missen de autoriteit om online serieuze invloed te hebben. Voor elke site die uit de lucht wordt gehaald, verschijnen tien nieuwe. En de inzet van afluistertechnologie?n en censuur door de overheid stuit op maatschappelijke en juridische weerstand.

TNO volgt deze ontwikkelingen nauwgezet en zoekt met overheden en private partijen naar best practices en maatregelen. Hoewel eenvoudige oplossingen niet voor het grijpen zijn, denkt TNO dat burgers een veel grotere rol kunnen spelen bij het produceren van tegengeluiden. En ouders, politie en scholen zouden zich actiever moeten bemoeien met het internetgedrag van jongeren om radicalisering op tijd te onderkennen.

De technologische ontwikkelingen gaan snel. Om niet achterop te raken, moet de overheid investeren in kennis en expertise op het gebied van nieuwe media, versleuteling en kunstmatige intelligentie. Alleen als overheid, industrie en kenniscentra als TNO op dit gebied samenwerken, kan Nederland terroristen in deze communicatiewedloop de pas afsnijden.

Dit artikel is gebaseerd op een gesprek met Arnout de Vries van TNO.

Bronnen: TNO Time

Internettrollen en botfarms

trollen2

Van pesterijen tot regelrechte oorlogvoering op internet: zogeheten trollen nemen bijkans het internet over. Journaliste Jessikka Aro schreef erover en werd zelf slachtoffer. Onderstaand artikel van kristel van Teeffelen stond onlangs in Trouw:

Jessikka Aro

Het is lente vorig jaar als de Finse journalist Jessikka Aro een bizar bericht ontvangt. Een sms van haar ‘vader’ die schrijft dat hij niet is overleden, maar ‘haar observeert’. Aro’s vader leeft al twintig jaar niet meer.

De journalist van het Finse tv-station Yle Kioski noemt het bericht later het dieptepunt van de onlinepesterijen die volgen op haar journalistieke onderzoek naar Russische internettrollen. Dat zijn mensen waarvan wordt verondersteld dat ze worden aangestuurd vanuit het Kremlin om pro-Russische berichten op internet te verspreiden. Het blijft niet bij het sms’je, de 35-jarige Aro krijgt te maken met dreigtelefoontjes en allerlei roddels die over haar verschijnen op sociale media: ze zou voor de Amerikanen werken en drugs dealen. In een filmpje op YouTube wordt ze neergezet als een dom blondje. De pesterijen maken haar leven tot een hel, zei ze onlangs tegen The New York Times.

Wat Aro overkwam, is kenmerkend voor wat internettrollen kunnen veroorzaken. Al bestaat er eigenlijk geen definitie van die term, laat staan dat er cijfers zijn over aantallen (zie hieronder). Zelf denkt de journalist dat ze werd bestookt vanuit de hoek waarop ze haar onderzoek richtte: de pro-Russische trollen. Mensen die doelbewust en herhaaldelijk het maatschappelijke debat proberen te be?nvloeden op sociale media en andere websites, in het voordeel van de Russische regering. Hoewel sommigen dat uit individuele overtuiging doen, is van Rusland bekend dat ook de overheid trollen aanstuurt.

Van die zogenoemde trollenfabriek is niet veel bekend, afgezien van de verhalen die de afgelopen jaren verschenen in verschillende media. Zo vertelde Ljoedmila Savtsjoek, een voormalige trol die haar werkgever vorig jaar voor de rechter sleepte, dat zij dagelijks tientallen reacties op sites en sociale media moest plaatsen waarin ze het opnam voor Poetin en diens beleid. Een andere trol beschreef in de Britse krant The Guardian dat ze over hele gewone dingen moesten schrijven, zoals het bakken van taarten en muziek. Daar moesten ze dan af en toe een politiek bericht tussendoor gooien over hoe fascistisch de regering in Kiev is, bijvoorbeeld.

Verhulde propaganda

De boodschap subtiel verpakken, is onderdeel van de tactiek. Berichten die vanuit de overheid komen, kunnen eenvoudiger aan de kant worden geschoven als overduidelijke propaganda, zegt Jan Melissen, als onderzoeker verbonden aan het instituut voor internationale betrekkingen Clingendael. Dat is moeilijker als het bericht van een gewone burger lijkt te komen, die de politieke boodschap afwisselt met gezellige huis-tuin-en-keuken-berichten. De be?nvloeding gaat dan sluipenderwijs.

Hoe gevaarlijk is die inzet van dergelijke politieke trollen? Dat overheden zieltjes proberen te winnen, ook over de landsgrenzen heen, is niets nieuws, zegt Melissen. Het is door internet alleen een stuk makkelijker geworden. Regimes zijn erachter gekomen dat sociale media een bijzonder krachtige tool voor propaganda zijn. Een ontwikkeling die we volgens hem ‘buitengewoon serieus moeten nemen’.

Daar lijkt ook de Europese Unie sinds vorig jaar van doordrongen. De continue informatiestroom van de Russische trollen wordt gezien als potentieel zo ontwrichtend voor de Europese samenleving, dat er een team is opgericht dat weerwoord moet gaan bieden, de zogenoemde ‘East StratCom Task Force‘. Dat team houdt niet alleen bij wat er allemaal voor onwaarheden vanuit Rusland worden verspreid, ze antwoorden daar ook op door de andere kant van het verhaal te vertellen, door de Europese politiek uit te leggen. Daarnaast worden onafhankelijke media in Rusland vanuit de Task Force ondersteund. Ook Nederland doet daaraan mee. Eind 2015 maakte minister Bert Koenders van buitenlandse zaken bekend dat Nederland daarvoor 1,3 miljoen euro uittrekt.

Maar doen de EU en Nederland met het stimuleren van het pro-Europese tegengeluid niet hetzelfde als Rusland? De ondersteuning van onafhankelijke Russische media is niet bedoeld als tegenpropaganda, stelde Koenders bij de aankondiging vorig jaar. Want dat gaat volgens hem in tegen ‘onze democratische beginselen’. Het geld dat Nederland beschikbaar stelt, is volgens hem ook niet gericht tegen Rusland, maar is ‘voor onafhankelijke media’.

Nepaccounts

Het ondersteunen van het tegengeluid is goed, zegt Arnout de Vries van het Nederlandse onderzoeksinstituut TNO. Al vraagt hij zich af of het voldoende is. Helemaal nu het voor trollen steeds makkelijker wordt om hun impact te vergroten. De Vries doet momenteel onderzoek naar het fenomeen van zogenoemde ‘botfarms‘. Dat zijn grote hoeveelheden accounts op sociale media waar geen gebruiker achter zit, maar een computer. De accounts doen vaak niets anders dan berichten retweeten, maar door de verbeterende technologie schrijven sommige computers inmiddels ook al volledige zinnen. De botfarms zorgen er bijvoorbeeld voor dat ??n persoon, ondersteund door de computer, een grote hoeveelheid accounts kan beheren.

“Uit onderzoek van de Universiteit van Arizona blijkt dat ten minste tien procent van de accounts op Twitter fake is, verantwoordelijk voor bijna een kwart van de berichten op het platform”, zegt De Vries. “Voor trollen zijn die nepaccounts bijzonder effectief. Kijk je naar de activiteiten van terreurgroep IS op sociale media, dan gaat het getal van 100.000 accounts rond. Dat lijkt heel wat. In werkelijkheid zitten er veel fake-accounts bij, waarmee ze hun boodschap kracht bijzetten.”?50% accounts na 2014 inmiddels suspended,?24% van alle tweets komen van bots en bij Facebook zijn de schattingen dat ook tussen de 5 en 11% van alle accounts bots zijn.

Steeds minder trollen kunnen daardoor een steeds grotere impact hebben, waarschuwt De Vries. Dan hebben de Russen straks geen leger meer nodig, maar is ??n bataljon genoeg.

Wat moet het antwoord van de EU daarop zijn? Zelf dan maar trollende botfarms inzetten? De Vries lacht: “Dat is een beetje te controversieel. Ik denk alleen wel dat je als overheid burgers in groten getale nodig hebt om tegengeluiden te laten horen. Maar overheden lijken een beetje beschaamd dat aan hun burgers te vragen. Het is toch alsof je je burgers het strijdveld op het web instuurt.”

En daar kan het er erg persoonlijk aan toe gaan, laat de kwestie met Jessikka Aro zien. Doodsbedreigingen, online speuren naar informatie en daarmee iemand chanteren; het zijn strategie?n die de doorgewinterde trol inzet om tegenstanders uit te schakelen en zijn invloed te doen gelden.

Toch is er volgens Jan Melissen van Clingendael wel een verschuiving gaande. De meeste overheden zetten dan wel geen trollenlegers op, maar ondersteunen burgers of organisaties wel steeds vaker indirect in het verspreiden van hen goedgezinde berichten op internet. “Dat doen ze bijvoorbeeld door organisaties met geld te ondersteunen, of burgers te trainen. Ik ken voorbeelden uit Zuid-Korea en uit Isra?l. Daar traint het ministerie van buitenlandse zaken jonge Isra?li?rs die het online opnemen voor hun land.”

Hoewel het volgens Melissen in een democratie lastig ligt om als overheid te veel te willen sturen op wat burgers online uiten, komt de wens voort uit het idee dat die burgers broodnodig zijn. Vooral als je te maken hebt met tegenstanders die op grote schaal onwaarheden verspreiden.

trollen

Trollen in alle soorten en maten

Lang niet alle trollen hebben een politiek motief. Soms zijn het internetters die uit verveling online op zoek gaan naar ruzie, of naar een lolletje. Een trollentruc is bijvoorbeeld om op internetfora onschuldig ogende linkjes achter te laten die in werkelijkheid leiden naar een site met alles behalve onschuldige plaatjes.

Door sommige mensen wordt trollen zelfs gezien als een ware kunst. E?n van hen is de Amerikaanse econoom Noah Smith, die in 2014 een vlammend betoog schreef over waarom hij trots is om een internettrol te zijn. Hij ziet het als een manier om mensen op hun vooroordelen te wijzen, en om de alledaagse sleur te doorbreken.

Maar trollen is lang niet meer zo onschuldig als in de begintijd van internet, erkent ook Smith. Neem het fenomeen dat bekend is onder de naam ‘doxen’, oftewel iemand uit de anonimiteit halen. De Britse schrijver Jamie Bartlett haalt een voorbeeld aan in zijn boek ‘Dark net‘, waarvoor hij in de krochten van internet dook. Een meisje had naaktfoto’s van zichzelf geplaatst op een anoniem forum, waarna een aantal aanwezigen een zoektocht naar haar identiteit begon. Binnen de kortste keren was haar naam, adres en telefoonnummer achterhaald via een studentenlijst van haar universiteit. En waren de naaktfoto’s naar al haar facebookvrienden verstuurd. Volgens Bartlett wordt dat op internet een ‘life ruin’ genoemd: bedoeld om blijvend leed te veroorzaken. En dat alleen maar omdat het kan.

In zekere zin gebruikten ook de trollen die achter Jessikka Aro aangingen die tactiek. Bij Aro lijkt er alleen een politiek motief achter te zitten, de pesterijen begonnen direct nadat ze haar eerste artikel publiceerde over het Russische trollenleger. Maar niet alleen die groep stuurde de roddels rond. Het viel Aro op dat er allerlei mensen aan meededen, waarvan de connectie met Rusland niet altijd duidelijk was. Dat is kenmerkend voor trollen, zegt Arnout de Vries van TNO. “Vaak zie je een sneeuwbaleffect: iemand haalt een grap uit, dat lokt reacties uit en de volgende gaat daaroverheen.”

twitter trolls

Ook in Nederland hadden trollen al een aantal keer flink impact. Bijvoorbeeld tijdens de rellen in Haren in 2012 (Project X). Een jongen uit Rotterdam twitterde die avond dat een meisje was overleden. Het was een grap. “Hij slingerde voor de lol leugens de wereld in en wist dat bijzonder goed te timen”, zegt De Vries. “Met alle ellende tot gevolg. De media vallen hulpdiensten onnodig lastig om bevestiging te krijgen en veel ouders bellen 112.” De jongen uit Rotterdam werd opgespoord, maar niet vervolgd omdat wat hij deed niet zomaar strafbaar was. Dat is een probleem bij de aanpak van trollen, stelt De Vries. Ze zijn erg moeilijk aan te pakken, terwijl ze bij grote gebeurtenissen klaarzitten om toe te slaan.

mediamix

Bronnen: Trouw