Tagarchief: Mirko Tobias Sch?fer

Botlegers: Opmars van de Twitterbots

Geef een reactie

In verkiezingstijd proberen kwaadwillenden via volledig geautomatiseerde social-media-robots en trollenlegers mensen ertoe te bewegen om een bepaalde kandidaat te kiezen. Hoe groot is dit probleem? En wat kunnen we ertegen doen?

Geschreven door Marc Seijlhouwer, MSc en verschenen in De Ingenieur

Robots verspreiden volautomatisch allerlei boze, agressieve of misleidende berichten op sociale media

#Kominverzet?Deze zogenoemde hashtag wordt veelvuldig gebruikt op sociale media, onder anderen door Geert Wilders. Het is ook de hashtag die, elke keer als hij wordt gebruikt in een tweet, een robot doet ontwaken. Deze Twitterbot, actief sinds februari 2017, ?retweet? elk bericht dat de hashtag bevat. Zonder enige menselijke interventie verspreidt hij de vaak hatelijke boodschappen van anderen over het internet. Daardoor zien meer mensen deze boodschappen ?n wordt de hashtag vaker gebruikt ? als hij tot extra retweets leidt, is hij immers de moeite waard. Dat zijn de regels van sociale media; hoe meer het wordt gedeeld, hoe beter.

De robot is op de redactie van De Ingenieur gebouwd. Het was heel makkelijk; robotisering van tweets is inmiddels al zo wijdverspreid dat verschillende websites een kant-en-klare service leveren. Daarvoor moet je wel je gegevens aan die sites geven, en controle over je Twitteraccount. Maar als het verder toch een nepaccount is, maakt dat weinig uit. Iemand met wat meer programmeerkennis zet met een paar regels code geavanceerdere bots in elkaar, die bijvoorbeeld geautomatiseerd nieuws verspreiden, reageren op bepaalde soorten tweets of zelfs taal gebruiken zoals mensen dat op Twitter doen. Dankzij technieken als deep learning gaat het soms nog verder, totdat een robot op een gegeven moment niet meer van een echte gebruiker is te onderscheiden.
Die bots kunnen een slechte invloed hebben op mensen. Ze kunnen manipuleren, verwarren en in de maling nemen. Nu is hun invloed nog klein, maar de kans is groot dat ze in de toekomst een steeds grotere rol spelen.

Twitterbots zijn overal op Twitter en bestaan in mindere mate ook op andere sociale media. Facebook probeert ze tegen te houden en slaagt daar beter in dan Twitter, maar het bedrijf heeft er alsnog last van. Twitter is transparant over het feit d?t er bots bestaan. Het sociale medium vindt het namelijk niet erg als gebruikers in meer of mindere mate automatisch tweets plaatsen. Het genereren van content is immers belangrijk voor het succes van de dienst.

Hoeveel nepaccounts (bots, inactieve gebruikers en andere accounts waar geen mens achter zit) er zijn op sociale media, is moeilijk te zeggen.?Schattingen uit onderzoeken en cijfers van bedrijven zelf komen uit op zo?n 7 ? 8 %?, vertelt dr. Mirko Tobias Sch?fer, docent-onderzoeker aan de Universiteit Utrecht en projectleider van de Utrecht Data School, waar wordt gekeken naar de relatie tussen data, overheid en social media. ?Het verifi?ren van die cijfers is echter onmogelijk.? Er is in elk geval een aanzienlijk aantal nepaccounts, waarvan een deel valt onder wat men ?kwaadaardige bots? kan noemen. Dat sociale-media-bedrijven daar niet meer tegen doen, is misschien begrijpelijk. Een groot bedrijf haalt niet zomaar bijna 10 % van zijn gebruikers weg. Zeker niet als die actief zijn of zelfs, in het geval van Facebook, regelmatig op advertenties klikken en zo de inkomsten verhogen.

“Online de boel verzieken is vaak nog mensenwerk”

Pro-Trump-bots
Dat betekent niet dat er niks gebeurt. Twitter kreeg regelmatig kritiek over de grote hoeveelheid geautomatiseerde accounts. Daarom stelt het bedrijf inmiddels een heleboel voorwaarden aan een bot. Hij mag bijvoorbeeld geen trending topics kopi?ren. En iemand die een bot wil bouwen, moet zijn account verifi?ren met een telefoonnummer. Facebook is in principe nog strenger, wat daar moet een ?echt? persoon met naam, voornaam, woonadres en telefoonnummer achter het account zitten. Het probleem is alleen dat er tegenwoordig websites bestaan die uit het niets een neppersoon cre?ren. Die kun je zelfs op nationaliteit uitkiezen; een slimme willekeurige generator maakt zo de fraaiste fictieve mensen aan. Klinkt Lysanne Terlingen uit Ede, 27 jaar oud en woonachtig op de Tollenburg 99 niet als een echt bestaande Nederlandse vrouw? Op die manier valt er dus van alles te omzeilen. En dat gebeurt ook massaal, gezien de schattingen van het aantal fake accounts.

Zo?n percentage nepaccounts hoeft niet erg te zijn. Er komen pas problemen als de neppers het verpesten voor de echte mensen. Dat is nu overwegend niet het geval, zegt Sch?fer. ?Veel bots zijn nuttig of grappig, en vaak is het door hun naam of biografie overduidelijk dat het geen menselijke gebruikers zijn. Die machines zijn onschuldig.?
Het probleem komt van de minder frisse bots. Ze houden geheim dat het robots zijn en dienen een specifiek manipulatief doel. Hiervan zijn de politieke bots een voorbeeld. Vlak na de campagne van Donald Trump in 2016 deden geruchten de ronde dat hij mede had gewonnen dankzij de aanwezigheid van pro-Trump-bots op Twitter. Die tweetten dag en nacht leugens de wereld in over Hillary Clinton, prezen Trump en gebruikten populaire hashtags om de aanwezigheid van Trump-aanhangers overal voelbaar te maken. Hoeveel het er precies waren, weet niemand. Was hun invloed echt zo groot? Sch?fer: ?De invloed van bots is moeilijk te meten. Maar ik weet vrijwel zeker dat het niet de bots waren die de doorslag gaven.?

Trollenleger
Dat Trump hoogstwaarschijnlijk niet won dankzij ?zijn? bots, betekent echter niet dat ze niet zijn gebruikt. ?Maar waarschijnlijk zijn ze niet door zijn campagneteam in gang gezet?, denkt Sch?fer. ?Je kunt als kandidaat vaak niet bepalen welke groeperingen zich bij je aansluiten en wat ze gaan doen. Er zijn botnets te huur, en een aanhanger van Trump zou zo?n netwerk kunnen inzetten tijdens de campagne. Vaak zorgt de aanhang van een politieke partij voor meer manipulatie dan de partij zelf.? Hoewel social-media-invloed bij deze verkiezingen mogelijk nog geen doorslaggevend effect had, kan dat in de toekomst anders zijn, waarschuwt ir. Arnout de Vries, social-media-onderzoeker bij TNO. ?Bedrijven, maar ook politieke partijen, kunnen tegenwoordig steeds specifiekere datapakketten kopen. Daarin staat allerlei informatie over groepen mensen. Bedrijven kunnen via Facebook heel gericht zo?n groep benaderen. Als een politieke partij dat zou doen, en zich bijvoorbeeld op be?nvloedbare mensen zou richten, kunnen ze denk ik veel teweeg brengen.?

Dat gebeurt nu nog niet; hoewel alle partijen op de een of andere manier de vergaande advertentiemogelijkheden van Facebook benutten, maken ze geen gebruik van wat De Vries het ?onethische? deel van gericht adverteren noemt. ?Profileren van potenti?le kiezers en ze be?nvloeden lijkt me onethisch, net als je in het debat mengen via sociale bots of trollen. Maar voorlopig kopen Nederlandse partijen nog niet massaal gegevens in bij databrokers.?

Dat is wel anders in de VS. Daar is de afgelopen paar verkiezingen gebleken hoe nuttig het kan zijn om je verschillende kiezersgroepen te kennen. Dat lukte daar mede zo goed doordat de privacywetgeving er anders is dan in Nederland. Hier moeten politieke partijen openheid van zaken geven, ook over het gebruik van datasets. Bovendien mogen bedrijven hier minder opslaan over individuen. ?In de VS zijn er per persoon ontzettend veel datapunten, naar schatting gemiddeld 1500?, weet De Vries. ?Daarmee kun je bijvoorbeeld ?uitrekenen? wat iemands pressiepunten zijn. Als je het zou willen, kan je daarmee iemand chanteren zodat hij jouw kant kiest.? De marketingwereld heeft volgens De Vries inmiddels een grote hoeveelheid informatie over het be?nvloeden van mensen. ?Door die kennis te combineren met steeds slimmere zelflerende algoritmes is er technisch nu al van alles mogelijk. De politiek loopt alleen achter in de toepassing ervan. Maar er zijn partijen die het idee van online invloed oppakken.? Voorlopig zijn de algoritmen echter nog net niet slim genoeg om over te komen als internetgebruikers van vlees en bloed. Daarom is online de boel verzieken vaak nog mensenwerk, waarbij zogenoemde trollen heel fel tegenstanders aanpakken en nieuws verspreiden dat een bepaald standpunt ondersteunt. ?Politieke partij DENK gebruikte een klein aantal trollen en er zijn sterke vermoedens dat Russische trollenlegers invloed uitoefenen in de VS, Nederland en Frankrijk.?

Brutale gebruikers
Zoals De Vries het beschrijft, ziet de toekomst er niet bijster rooskleurig uit. Maar er is wat aan te doen. ?Blijf onethisch gedrag van partijen onthullen en informeer mensen over de mogelijkheden van onbewuste be?nvloeding. Dat is het beste wat overheid, media en maatschappij kunnen doen. Het oprollen van dit soort legers is juridisch en praktisch vrijwel onmogelijk, dus dat is geen oplossing.?

Wel vindt De Vries dat partijen zich, zeker in campagnetijd, wat ethischer mogen opstellen. Want ze richten zich, via Facebook, allemaal al met specifieke advertenties op kleine, specifieke groepen die voldoen aan bepaalde voorwaarden. Die tactiek, narrowcasting, is potentieel zorgelijk. ?De partijen verschuilen zich achter het algoritme van Facebook, maar ze hebben ook een eigen verantwoordelijkheid. Het is echter lastig om de partijen tot ethisch adverteren te dwingen, omdat online de brutale en onethische gebruikers vaak het best worden gehoord.? Sch?fer is het daarmee eens: ?In het Duits noemen we dit de Schweigespirale; het fenomeen ? onderzocht door de Duitse politicoloog Elisabeth Neille-Neumann ? dat een minderheid schreeuwers meer voor elkaar krijgt en de meerderheid zwijgt omdat de ze denken de minderheid te zijn. Aangezien sociale media volledig om emoties draaien, is het logisch dat boosheid van verongelijkte mensen sneller scoort. Bots en trollen spelen daar perfect op in.?

De vraag blijft of de invloed van de robots en algoritmes op de verkiezingen groot is. De sociale wetenschappers geven meteen toe dat die nauwelijks valt te meten; zelfs als er een verband is, hoeft dat niet causaal te zijn. Het feit dat er veel bots tweeten over een bepaalde gebeurtenis, waarna die gebeurtenis veel aandacht krijgt, hoeft niet te betekenen dat de aandacht kwam door de bottweets. De Vries denkt dat opleiding en voorlichting kunnen helpen om de negatieve invloed van deze technologie?n te verminderen. Sch?fer is het hiermee eens, maar stelt ook voor om verder te gaan: ?Als ik een politieke partij was, zou ik het gebruik van bots omarmen. Maar dan niet stiekem; ik zou bijvoorbeeld een factcheckbot bouwen om populistisch ?nepnieuws? automatisch te ontkrachten. En dan duidelijk maken dat deze nuttige robot van mijn partij afkomstig is. Maar de partijen gebruiken sociale media nu vooral om onderbuikgevoelens van de achterban aan te spreken. Dat is geen effectief social-media gebruik.?

Leuke bots

Lang niet alle bots hebben als doel om chaos, wanorde en misinformatie te verspreiden. Vaak zijn ze nuttig, grappig of fascinerend. Een kleine selectie.

@klmfares: Wil je op reis? Tweet je begin- en eindpunt, en de Twitterbot vertelt automatisch de kosten van de vlucht, inclusief link naar een boekingspagina. Een voorbeeld van automatische, snelle klantenservice.

@thinkpiecebot: ziet u ook wel eens n?t iets te vergezochte artikelen over de actualiteit, trends onder jongeren en andere onzin? Deze bot maakt die belachelijk door een aantal bekende krantenkopconstructies in te vullen met min of meer willekeurig gekozen woorden.

@we_didnt_start: een alternatieve manier om het nieuws binnen te krijgen. Dit stukje programmatuur plukt de meestgezochte termen op een dag van Google en probeert er een zin van te maken op de wijs van Billy Joels hit ?We Didn?t Start The Fire?.

@congressedits: deze bot is niet grappig, maar vervult wel een interessante functie: hij monitort Wikipedia en tweet elke keer als iemand van het Amerikaanse Congres een aanpassing doorvoert. Zo is te zien of senatoren misschien onwelgevallige informatie wegpoetsen of op een andere manier de waarheid proberen te manipuleren.

Darknet Shopper: geen Twitterbot, wel fascinerend. Dit programma koopt willekeurige dingen van het Dark Web, de schaduwkant van het internet waar alles kan. De bot mag 100 dollar per week uitgeven en koopt alles wat hij kan vinden. Zo liet hij al een keer drugs bij de makers thuis bezorgen, waarna de politie langskwam om ze in beslag te nemen.

https://twitter.com/rickdus/status/835810423228227584

[slideshare id=73257805&doc=botlegers-170317155114]
Bronnen: De Ingenieur, april 2017

Social Media censuur als antwoord op terrorisme?

Geef een reactie

In het meest recente magazine nationale veiligheid en crisisbeheersing schrijft Mirko Tobias Sch?fer over ‘het onzinnige sociale mediabeleid in de integrale aanpak van Jijadisme’. Mirko is universitair docent op de universiteit van Utrecht, Instituut Media en Cultuurwetenschap en medeoprichter en directeur van de Utrecht Data School. Hij doet onderzoek naar de impact van sociale media op burgerparticipatie, politiek en democratie. In 2011 is zijn boek ?Bastard Culture! How User Participation Transforms Cultural Production? verschenen bij Amsterdam University Press. Hieronder?zijn stuk en de reactie van de NCTV daarop:

censored

Sinds de zogenaamde Arabische Lente staan sociale media bekend?als instrumenten voor politiek activisme en massamobilisatie.?Na de rellen in Haren omtrent Project X hadden sociale media in de ogen van politie en openbaar bestuur hun onschuld verloren.?Tweets die vergelijkbare evenementen in Hoorn, Amsterdam of?Arnhem aankondigden, leidden toen tot wanhopige en overhaaste?reacties van de kant van de politie en overheid. De reacties waren?op zijn zachtst gezegd g?nant (Hoorn). In het ergste geval waren?ze een inbreuk op de burgerrechten (Arnhem). De aanwezigheid van terroristische groepen op sociale media leidt nu tot vragen?over de noodzakelijkheid van een verscherpt beleid en de expliciete?oproep tot censuur.

In het Actieprogramma Integrale Aanpak Jihadisme wordt voorgesteld?om propaganda op sociale media te bestrijden. De auteurs?vestigen hoop op een ?notice and take down? procedure waarbij ze zich baseren op het wetsvoorstel computercriminaliteit III. Het is?hierbij de bedoeling dat een team van de Nationale Politie haatzaaiende?(jihadistische) content verwijdert. Het actieprogramma verwijst naar een ?vrijwillige gedragscode? die internetbedrijven?moet stimuleren om ?radicaliserende, haatzaaiende, jihadistische?content? te verwijderen. Het gebruik van het woord ?vrijwillig? in verband met de gedragscode is dubieus, wat blijkt uit het vervolg?van de tekst: “bedrijven die aan deze gedragscode tekortkomen,?zullen worden gedwongen om twijfelachtige content te verwijderen door de toepassing van verschillende bestaande of nog te cre?ren?wetten”.

De voorgestelde aanpak is op verschillende punten zorgwekkend.?Hij laat zien dat er een schrikbarend gebrek heerst aan kennis bij?politici en bestuurders wat betreft internettechnologie en het?gebruik daarvan.

Het is het niet verwonderlijk dat iedereen gebruik maakt van de?goedkope communicatiekanalen van sociale media. Ook terroristische?groeperingen zijn geen uitzondering op de regel. Vrijwel alle?partijen die een rol spelen in het conflict in het Midden-Oosten zijn?te vinden op sociale media. Ook andere media worden ten behoeve?van propaganda ingezet: het Amerikaanse leger maakt bijvoorbeeld gebruik van de online-game America?s Army om op een speelse manier soldaten te werven. Hezbollah tracht de moraal van haar jonge achterban te bevorderen door de computer game Special Force, en de Islamitische Staat haalde onlangs het nieuws met een gemodificeerde versie van Grand Theft Auto die zij voor propagandadoeleinden gebruiken.

gta ISIS

Tevens verspreiden niet alleen jihadisten hun haatzaaiende berichten via internet; ook de racistische Stormfront, de Ku Klux Klan, diverse linksradicale groeperingen, nationalisten en chauvinisten van elke etnische minderheid en nationaliteit verspreiden hun radicale opvattingen via dezelfde kanalen. Op websites zoals 4chan is een oneindige stroom aan vernederende, haatzaaiende en politiek meer dan incorrecte uitingen te vinden. Moet deze content niet ook allemaal gecensureerd worden? Een les die te leren valt uit het proces tegen politicus Geert Wilders is dat het niet makkelijk is om te bepalen wat haatzaaiende content is. Maar als het actieplan omgezet wordt, zal deze definitie in toekomst zonder tussenkomst van een rechter in handen van de politie zijn.

Het actieplan suggereert dat jihadistische content doelgericht verwijderd kan worden. Er wordt echter met de internationale dimensies van deze klus ? de verschillende regelgevingen van de landen waar de content uiteindelijk ligt opgeslagen ? geen rekening gehouden.

Hoewel de auteurs benadrukken dat het actieplan ondersteuning?moet bieden voor een actieve maatschappij waarin diverse?stemmen gehoor krijgen, wordt er geen enkele moeite gedaan om?elke burger het recht op vrije meningsuiting te garanderen. Er wordt?met geen enkel woord benoemd, wie de procedure van censuur ? en?dit is waar het verwijderen van content op neerkomt ? zou moeten?controleren. Tevens wordt niet duidelijk welke criteria voor het?censureren gehanteerd zullen worden of hoe de censuur gedocumenteerd?zal worden. Is het de bedoeling dat een politieagent zelfstandig de opdracht geeft om content te verwijderen zoals dat?nu in Turkije het geval is?

De affaire omtrent de samenwerking van de AIVD met buitenlandse?diensten heeft duidelijk laten zien dat onze gekozen volksvertegenwoordigers,?die de controle over dergelijke procedures zouden moeten uitoefenen, hooguit een symbolische functie hebben. Ze?bleken zelfs uitermate slecht over de gang van zaken ge?nformeerd.?Is het in dit licht verstandig om het verwijderen van willekeurige content onder het mom van terrorismebestrijding ongecontroleerd?over te dragen aan de executieve? Zonder enige juridische of?parlementaire controle? Het zal een kwestie van tijd zijn voordat copyright-houders, politici of bedrijven druk uitoefenen om?ongewenste content zonder tussenkomst van een rechter te laten?verwijderen.

Met een censuur van het internet plaatsen we ons land in hetzelfde?schuitje met landen zoals Turkije, Wit-Rusland, Rusland, China,?Egypte en talloze andere landen. Deze landen staan terecht elk jaar opnieuw op de lijst van de onderdrukkers van het internet en de vrije meningsuiting. Censuur blijkt echter vooral de civiele maatschappij te onderdrukken, in plaats van dat deze maatregel terroristen effici?nt in het nastreven van hun doelen belemmert.

Het actieplan suggereert dat door het verwijderen van haatzaaiende content de radicalisering van internetgebruikers tegengehouden zou kunnen worden. Deze suggestie geeft blijk van een incorrect begrip van media-effecten. Radicalisering is nooit het effect van het?lezen van twijfelachtige content hetzij op online media of in de printmedia. De Britse cultuurtheoreticus Stuart Hall ontkrachte dit idee al in de jaren ?70 van de vorige eeuw op basis van zijn beroemde encoding-decoding-model. Politieke opvattingen formeren zich als gevolg van de individuele situatie en de sociale context van een individu.

Ook om andere redenen is een extreme en nauwelijks gecontroleerde?censuur van sociale media een volledig ineffectief middel. Aan de?ene kant worden alle activiteiten in de context van sociale media al?nauwkeurig gecontroleerd door de platformaanbieder zelf. Verder?zijn deze activiteiten openbaar toegankelijk voor analyse door social?media monitoring, welke niet alleen door marketingbedrijven maar?ook door politie en AIVD toegepast wordt. Een censuur zal voor deze?diensten echter betekenen dat waardevolle informatie verloren gaat.

Aan de andere kant betekent de censuur van bepaalde online media?niet dat de communicatiestromen zullen afbreken. Terroristische?groeperingen zullen andere, wellicht minder goed te monitoren platformen vinden om hun opvattingen te verspreiden. Internet?Relay Chat of het TOR-netwerk zijn slechts twee voorbeelden van?media die moeilijker te traceren communicatievormen voor?gebruikers aanbieden. Er kan voorondersteld worden dat veel?bestuurders niet eens weten hoe deze software te vinden, te?installeren en te gebruiken is. Volgens onderzoek van het Oxford?Internet Institute gebruiken in Nederland dagelijks tussen de?100.000 en 200.000 mensen het TOR-netwerk. Sociale media?en het door Google te doorzoeken web stellen maar een kleine?percentage van het internet voor.

Tor_Hexagons

Wat echter wel een oplossing kan bieden, is de inzet van goed?ge?nformeerde en meertalige rechercheurs met kennis van?interculturele aspecten. Tegenwoordig doorzoekt al een aantal?rechercheurs openbaar toegankelijke bronnen online om strafbare?handelingen op te sporen. De afdelingen binnen de politie die zich?met deze waardevolle taak bezighouden, verdienen de steun van de?politiek en de waakzame toezicht van de rechterlijke macht. De?censuur van sociale media is slechts symboolpolitiek en bovendien?gevaarlijker voor de democratische samenleving dan de haatzaaiende?content die op sociale media te vinden is.

De reactie van het NCTV, programmadirectie Contraterrorisme, ten aanzien van de bestrijding van jihadistische content online:

Internationaal ? en in Nederland ? spelen het internet en?sociale media een belangrijke rol bij jihadistische radicalisering.?De jihadistische content biedt een platform om de?gewelddadige jihadistische ideologie te verspreiden en?draagt bij aan verdere radicalisering en het binnen halen van?nieuwe aanwas. Zoals geconcludeerd door de AIVD in zijn?rapport Transformatie van het jihadisme in Nederland hebben?sociale media de jihadistische beweging in Nederland?gestimuleerd. Waar voorheen propaganda verticaal?verspreid werd via vrij ontoegankelijke webfora (van?enkelen naar velen), gebeurt dit nu op horizontale wijze (van?velen naar velen). Dit heeft de professionalisering van?vervaardigers en verspreiders doen toenemen, waardoor de?propaganda een groter bereik en meer impact heeft.?Hierdoor is de jihadistische boodschap toegankelijker en?makkelijker te verspreiden. Het internet en sociale media?spelen daarmee een belangrijke rol bij jihadistische?radicalisering. Er zijn websites en sociale mediakanalen die?Nederlandstalige jihadistische propaganda verspreiden, de?strijd verheerlijken en oproepen tot jihadgang. Het is?onacceptabel dat terroristische organisaties propaganda?vrijelijk verspreiden via onder andere Nederlandse?websites en social media. Ook tegen uitingsdelicten online?dient opgetreden te worden.

Onderdeel van het actieprogramma Integrale Aanpak?Jihadisme is de bestrijding van online jihadistische propaganda?met als doel het reduceren van de impact, hoeveelheid?en toegankelijkheid van jihadistische propaganda.?Hiervoor wordt ingezet op samenwerking met sociale media?bedrijven en Internet Service Providers, hosting partijen etc.?die de door hun aangeboden internetdiensten misbruikt zien?worden voor jihadistische doeleinden. De NCTV is in gesprek?met sociale media bedrijven, internet service providers en?hosting partijen over de wijze waarop zij, binnen hun?bestaande (juridische) mogelijkheden, kunnen bijdragen aan?het bestrijden van de online jihadistische content. De NCTV?ervaart deze gesprekken als zeer constructief. Sociale media?bedrijven kennen en erkennen het probleem en ook internet?service providers en hosting partijen denken mee over het?verbeteren van bestaande (juridische) procedures.