In verkiezingstijd proberen kwaadwillenden via volledig geautomatiseerde social-media-robots en trollenlegers mensen ertoe te bewegen om een bepaalde kandidaat te kiezen. Hoe groot is dit probleem? En wat kunnen we ertegen doen?
Geschreven door Marc Seijlhouwer, MSc en verschenen in De Ingenieur
Robots verspreiden volautomatisch allerlei boze, agressieve of misleidende berichten op sociale media
#Kominverzet?Deze zogenoemde hashtag wordt veelvuldig gebruikt op sociale media, onder anderen door Geert Wilders. Het is ook de hashtag die, elke keer als hij wordt gebruikt in een tweet, een robot doet ontwaken. Deze Twitterbot, actief sinds februari 2017, ?retweet? elk bericht dat de hashtag bevat. Zonder enige menselijke interventie verspreidt hij de vaak hatelijke boodschappen van anderen over het internet. Daardoor zien meer mensen deze boodschappen ?n wordt de hashtag vaker gebruikt ? als hij tot extra retweets leidt, is hij immers de moeite waard. Dat zijn de regels van sociale media; hoe meer het wordt gedeeld, hoe beter.
De robot is op de redactie van De Ingenieur gebouwd. Het was heel makkelijk; robotisering van tweets is inmiddels al zo wijdverspreid dat verschillende websites een kant-en-klare service leveren. Daarvoor moet je wel je gegevens aan die sites geven, en controle over je Twitteraccount. Maar als het verder toch een nepaccount is, maakt dat weinig uit. Iemand met wat meer programmeerkennis zet met een paar regels code geavanceerdere bots in elkaar, die bijvoorbeeld geautomatiseerd nieuws verspreiden, reageren op bepaalde soorten tweets of zelfs taal gebruiken zoals mensen dat op Twitter doen. Dankzij technieken als deep learning gaat het soms nog verder, totdat een robot op een gegeven moment niet meer van een echte gebruiker is te onderscheiden.
Die bots kunnen een slechte invloed hebben op mensen. Ze kunnen manipuleren, verwarren en in de maling nemen. Nu is hun invloed nog klein, maar de kans is groot dat ze in de toekomst een steeds grotere rol spelen.
Twitterbots zijn overal op Twitter en bestaan in mindere mate ook op andere sociale media. Facebook probeert ze tegen te houden en slaagt daar beter in dan Twitter, maar het bedrijf heeft er alsnog last van. Twitter is transparant over het feit d?t er bots bestaan. Het sociale medium vindt het namelijk niet erg als gebruikers in meer of mindere mate automatisch tweets plaatsen. Het genereren van content is immers belangrijk voor het succes van de dienst.
Hoeveel nepaccounts (bots, inactieve gebruikers en andere accounts waar geen mens achter zit) er zijn op sociale media, is moeilijk te zeggen.?Schattingen uit onderzoeken en cijfers van bedrijven zelf komen uit op zo?n 7 ? 8 %?, vertelt dr. Mirko Tobias Sch?fer, docent-onderzoeker aan de Universiteit Utrecht en projectleider van de Utrecht Data School, waar wordt gekeken naar de relatie tussen data, overheid en social media. ?Het verifi?ren van die cijfers is echter onmogelijk.? Er is in elk geval een aanzienlijk aantal nepaccounts, waarvan een deel valt onder wat men ?kwaadaardige bots? kan noemen. Dat sociale-media-bedrijven daar niet meer tegen doen, is misschien begrijpelijk. Een groot bedrijf haalt niet zomaar bijna 10 % van zijn gebruikers weg. Zeker niet als die actief zijn of zelfs, in het geval van Facebook, regelmatig op advertenties klikken en zo de inkomsten verhogen.
“Online de boel verzieken is vaak nog mensenwerk”
Pro-Trump-bots
Dat betekent niet dat er niks gebeurt. Twitter kreeg regelmatig kritiek over de grote hoeveelheid geautomatiseerde accounts. Daarom stelt het bedrijf inmiddels een heleboel voorwaarden aan een bot. Hij mag bijvoorbeeld geen trending topics kopi?ren. En iemand die een bot wil bouwen, moet zijn account verifi?ren met een telefoonnummer. Facebook is in principe nog strenger, wat daar moet een ?echt? persoon met naam, voornaam, woonadres en telefoonnummer achter het account zitten. Het probleem is alleen dat er tegenwoordig websites bestaan die uit het niets een neppersoon cre?ren. Die kun je zelfs op nationaliteit uitkiezen; een slimme willekeurige generator maakt zo de fraaiste fictieve mensen aan. Klinkt Lysanne Terlingen uit Ede, 27 jaar oud en woonachtig op de Tollenburg 99 niet als een echt bestaande Nederlandse vrouw? Op die manier valt er dus van alles te omzeilen. En dat gebeurt ook massaal, gezien de schattingen van het aantal fake accounts.
Zo?n percentage nepaccounts hoeft niet erg te zijn. Er komen pas problemen als de neppers het verpesten voor de echte mensen. Dat is nu overwegend niet het geval, zegt Sch?fer. ?Veel bots zijn nuttig of grappig, en vaak is het door hun naam of biografie overduidelijk dat het geen menselijke gebruikers zijn. Die machines zijn onschuldig.?
Het probleem komt van de minder frisse bots. Ze houden geheim dat het robots zijn en dienen een specifiek manipulatief doel. Hiervan zijn de politieke bots een voorbeeld. Vlak na de campagne van Donald Trump in 2016 deden geruchten de ronde dat hij mede had gewonnen dankzij de aanwezigheid van pro-Trump-bots op Twitter. Die tweetten dag en nacht leugens de wereld in over Hillary Clinton, prezen Trump en gebruikten populaire hashtags om de aanwezigheid van Trump-aanhangers overal voelbaar te maken. Hoeveel het er precies waren, weet niemand. Was hun invloed echt zo groot? Sch?fer: ?De invloed van bots is moeilijk te meten. Maar ik weet vrijwel zeker dat het niet de bots waren die de doorslag gaven.?
Trollenleger
Dat Trump hoogstwaarschijnlijk niet won dankzij ?zijn? bots, betekent echter niet dat ze niet zijn gebruikt. ?Maar waarschijnlijk zijn ze niet door zijn campagneteam in gang gezet?, denkt Sch?fer. ?Je kunt als kandidaat vaak niet bepalen welke groeperingen zich bij je aansluiten en wat ze gaan doen. Er zijn botnets te huur, en een aanhanger van Trump zou zo?n netwerk kunnen inzetten tijdens de campagne. Vaak zorgt de aanhang van een politieke partij voor meer manipulatie dan de partij zelf.? Hoewel social-media-invloed bij deze verkiezingen mogelijk nog geen doorslaggevend effect had, kan dat in de toekomst anders zijn, waarschuwt ir. Arnout de Vries, social-media-onderzoeker bij TNO. ?Bedrijven, maar ook politieke partijen, kunnen tegenwoordig steeds specifiekere datapakketten kopen. Daarin staat allerlei informatie over groepen mensen. Bedrijven kunnen via Facebook heel gericht zo?n groep benaderen. Als een politieke partij dat zou doen, en zich bijvoorbeeld op be?nvloedbare mensen zou richten, kunnen ze denk ik veel teweeg brengen.?
Dat gebeurt nu nog niet; hoewel alle partijen op de een of andere manier de vergaande advertentiemogelijkheden van Facebook benutten, maken ze geen gebruik van wat De Vries het ?onethische? deel van gericht adverteren noemt. ?Profileren van potenti?le kiezers en ze be?nvloeden lijkt me onethisch, net als je in het debat mengen via sociale bots of trollen. Maar voorlopig kopen Nederlandse partijen nog niet massaal gegevens in bij databrokers.?
Dat is wel anders in de VS. Daar is de afgelopen paar verkiezingen gebleken hoe nuttig het kan zijn om je verschillende kiezersgroepen te kennen. Dat lukte daar mede zo goed doordat de privacywetgeving er anders is dan in Nederland. Hier moeten politieke partijen openheid van zaken geven, ook over het gebruik van datasets. Bovendien mogen bedrijven hier minder opslaan over individuen. ?In de VS zijn er per persoon ontzettend veel datapunten, naar schatting gemiddeld 1500?, weet De Vries. ?Daarmee kun je bijvoorbeeld ?uitrekenen? wat iemands pressiepunten zijn. Als je het zou willen, kan je daarmee iemand chanteren zodat hij jouw kant kiest.? De marketingwereld heeft volgens De Vries inmiddels een grote hoeveelheid informatie over het be?nvloeden van mensen. ?Door die kennis te combineren met steeds slimmere zelflerende algoritmes is er technisch nu al van alles mogelijk. De politiek loopt alleen achter in de toepassing ervan. Maar er zijn partijen die het idee van online invloed oppakken.? Voorlopig zijn de algoritmen echter nog net niet slim genoeg om over te komen als internetgebruikers van vlees en bloed. Daarom is online de boel verzieken vaak nog mensenwerk, waarbij zogenoemde trollen heel fel tegenstanders aanpakken en nieuws verspreiden dat een bepaald standpunt ondersteunt. ?Politieke partij DENK gebruikte een klein aantal trollen en er zijn sterke vermoedens dat Russische trollenlegers invloed uitoefenen in de VS, Nederland en Frankrijk.?
Brutale gebruikers
Zoals De Vries het beschrijft, ziet de toekomst er niet bijster rooskleurig uit. Maar er is wat aan te doen. ?Blijf onethisch gedrag van partijen onthullen en informeer mensen over de mogelijkheden van onbewuste be?nvloeding. Dat is het beste wat overheid, media en maatschappij kunnen doen. Het oprollen van dit soort legers is juridisch en praktisch vrijwel onmogelijk, dus dat is geen oplossing.?
Wel vindt De Vries dat partijen zich, zeker in campagnetijd, wat ethischer mogen opstellen. Want ze richten zich, via Facebook, allemaal al met specifieke advertenties op kleine, specifieke groepen die voldoen aan bepaalde voorwaarden. Die tactiek, narrowcasting, is potentieel zorgelijk. ?De partijen verschuilen zich achter het algoritme van Facebook, maar ze hebben ook een eigen verantwoordelijkheid. Het is echter lastig om de partijen tot ethisch adverteren te dwingen, omdat online de brutale en onethische gebruikers vaak het best worden gehoord.? Sch?fer is het daarmee eens: ?In het Duits noemen we dit de Schweigespirale; het fenomeen ? onderzocht door de Duitse politicoloog Elisabeth Neille-Neumann ? dat een minderheid schreeuwers meer voor elkaar krijgt en de meerderheid zwijgt omdat de ze denken de minderheid te zijn. Aangezien sociale media volledig om emoties draaien, is het logisch dat boosheid van verongelijkte mensen sneller scoort. Bots en trollen spelen daar perfect op in.?
De vraag blijft of de invloed van de robots en algoritmes op de verkiezingen groot is. De sociale wetenschappers geven meteen toe dat die nauwelijks valt te meten; zelfs als er een verband is, hoeft dat niet causaal te zijn. Het feit dat er veel bots tweeten over een bepaalde gebeurtenis, waarna die gebeurtenis veel aandacht krijgt, hoeft niet te betekenen dat de aandacht kwam door de bottweets. De Vries denkt dat opleiding en voorlichting kunnen helpen om de negatieve invloed van deze technologie?n te verminderen. Sch?fer is het hiermee eens, maar stelt ook voor om verder te gaan: ?Als ik een politieke partij was, zou ik het gebruik van bots omarmen. Maar dan niet stiekem; ik zou bijvoorbeeld een factcheckbot bouwen om populistisch ?nepnieuws? automatisch te ontkrachten. En dan duidelijk maken dat deze nuttige robot van mijn partij afkomstig is. Maar de partijen gebruiken sociale media nu vooral om onderbuikgevoelens van de achterban aan te spreken. Dat is geen effectief social-media gebruik.?
Leuke bots
Lang niet alle bots hebben als doel om chaos, wanorde en misinformatie te verspreiden. Vaak zijn ze nuttig, grappig of fascinerend. Een kleine selectie.
@klmfares: Wil je op reis? Tweet je begin- en eindpunt, en de Twitterbot vertelt automatisch de kosten van de vlucht, inclusief link naar een boekingspagina. Een voorbeeld van automatische, snelle klantenservice.
@thinkpiecebot: ziet u ook wel eens n?t iets te vergezochte artikelen over de actualiteit, trends onder jongeren en andere onzin? Deze bot maakt die belachelijk door een aantal bekende krantenkopconstructies in te vullen met min of meer willekeurig gekozen woorden.
@we_didnt_start: een alternatieve manier om het nieuws binnen te krijgen. Dit stukje programmatuur plukt de meestgezochte termen op een dag van Google en probeert er een zin van te maken op de wijs van Billy Joels hit ?We Didn?t Start The Fire?.
@congressedits: deze bot is niet grappig, maar vervult wel een interessante functie: hij monitort Wikipedia en tweet elke keer als iemand van het Amerikaanse Congres een aanpassing doorvoert. Zo is te zien of senatoren misschien onwelgevallige informatie wegpoetsen of op een andere manier de waarheid proberen te manipuleren.
Darknet Shopper: geen Twitterbot, wel fascinerend. Dit programma koopt willekeurige dingen van het Dark Web, de schaduwkant van het internet waar alles kan. De bot mag 100 dollar per week uitgeven en koopt alles wat hij kan vinden. Zo liet hij al een keer drugs bij de makers thuis bezorgen, waarna de politie langskwam om ze in beslag te nemen.
https://twitter.com/rickdus/status/835810423228227584
[slideshare id=73257805&doc=botlegers-170317155114]
Bronnen: De Ingenieur, april 2017
