Tay

Zogenoemde ‘social bots’, geautomatiseerde nepprofielen, proberen steeds vaker online mensen en debatten te manipuleren.

Chatbots zijn ouder dan we denken. Origineel noemden we ze “ChatterBots”, een term die door Michael Mauldin, maker van de eerste Verbot, werd bedacht in 1994.  Maar het idee is al veel ouder. In de jaren ’50 bedacht Alan Turing, vooral bekend geworden vanwege zijn aandeel in de Tweede Wereldoorlog, de Turing Test. Daarmee moesten we kunnen aantonen dat een computer intelligent is. Dat doen we door een computerprogramma een mens na te laten doen in een real-time geschreven gesprek met een menselijke ‘rechter’. Kan deze ‘rechter’ de computer niet van mens onderscheiden, dan is de computer intelligent. Tot nu toe heeft echter geen enkele chatbot deze test behaald.

Verkiezingen in de VS

Begin deze maand merkte een republikeinse blogger op dat 465 accounts op Twitter spam verstuurden ten gunste van Donald Trump. De tweets, voorzien van hashtags en links, riepen op om Ted Cruz aan te geven bij een toezichthoudend agentschap. Maar sommige accounts gaven locaties als Brazilië, Italië en India aan. Bovendien hadden ze zelden eerder over Trump getweet, volgden ze een verwaarloosbaar aantal andere gebruikers en werden ze zelf niet of nauwelijks gevolgd. De blogger berekende dat in dertig dagen, deze 465 accounts 411.000 tweets over Trump genereerden.

@DeepDrumf is een aardig voorbeeld van een relatief eenvoudig deep learning algoritme dat realistische uitspraken van Donald Trump genereert op Twitter.

drumpf

Politiek debat
‘Bots worden steeds vaker ingezet in het politieke debat’, zegt communicatiewetenschapper Samuel Woolley, die aan de Universiteit van Washington een onderzoek leidt naar het fenomeen. ‘Voorheen werden ze vooral gebruikt om een politicus of campagne populairder te laten lijken, maar tegenwoordig proberen ze steeds geavanceerder publieke opinie te manipuleren.’

Wie stuurt de bots aan?

Of de bots die het op Cruz gemunt hadden afkomstig waren van Trumps campagne is volgens Woolley moeilijk te zeggen. ‘We weten dat bots een actieve rol in de verkiezingen hebben, maar het is moeilijk te zeggen wie de bots aanstuurt.’

Het onderzoeksteam van Woolley heeft nu al moeite om vast te stellen of een account een bot is, mede doordat bots vaak snel uit de lucht worden gehaald en dat de eigenaar zijn bot op non-actief kan zetten om vervolgens zelf vanuit het account te posten.

Vanuit een aantal hoeken is bekend dat social bots worden ingezet. Allereerst waren er commerciele partijen die met bots aanbiedingen via social media als Twitter online wilden posten. Slimmere bots reageerden op Twitter op specifiek gebruikte keywords of mengden zich in trending topics. Al snel werden bots echter ook door regeringen ingezet. Zo is van Rusland bekend dat social bots worden ingezet om het debat te beinvloeden. Maar ook terroristische organisaties als Islamic State gebruiken bots om hun boodschap te propageren.

Groeiend aantal bots

Volgens onderzoekers van de universiteit van Arizona zijn minstens 7% van alle Twitter accounts social bots. Twitter zelf houdt het bij 5%, maar er zijn onderzoeken die aangeven dat met hun bot detectie tot minstens 9%. Opvallend is dat 50% (!) van alle accounts na 2014 inmiddels suspended zijn. En als het gaat om de hoeveelheid content die bots produceren zegt hetzelfde onderzoek van Arizona dat 24% van alle tweets niet van mensen, maar machines komen. Ook onder Facebook accounts zijn naar schatting 5-11% van alle accounts social bots. Er zijn social bot farms gedetecteerd die wel 750.000 accounts aansturen!

Social bots

facebook bots

Op populaire messaging platformen als KIK, dat vooral onder jongeren zeer populair is (ook in Nederland), wordt steeds meer gebruik gemaakt van social bots. Het is een nieuwe manier ook voor bedrijven om aan marketing te doen (conversational brands) en er zijn al 350 miljoen berichten met social bots zijn uitgewisseld. Ook platformen als Slack maken er al op grote schaal gebruik van.

Maar juist de grote reuzen van deze aarde zijn er nu groots op aan het inzetten. 2016 wordt het jaar van de social bots genoemd waarin een aantal belangrijke lanceringen gepland staan, zoals de bots van Facebook. Facebook’s varianten blijken nu nog erg traag, maar onderstaande video laat zien wat Facebook met chatbots voor ogen heeft:

Remi Zoeten, data scientist bij Bol.com, stelt dat de groei van bots vanuit commerciële bedrijven aan meerdere aspecten ligt. “Er is niet een enkele grote doorbraak geweest in de wereld van chatbots. Maar mogelijk is er een ‘tipping point’ bereikt welke het verschil maakt tussen wel of niet durven inzetten.” Dat tipping point heeft volgens Zoeten te maken met een aantal verbeteringen die we in de afgelopen jaren hebben gemaakt. “We hebben bedacht hoe kunstmatige neurale netwerken kunnen worden gebruikt om met tekst om te gaan. Neurale netwerken zijn geïnspireerd op het neurale netwerk dat in ons brein zit. Er zijn dus betere computer-representaties gevonden voor mensentaal. Daarnaast zijn Wikipedia en andere (publieke) tekstbronnen constant aan het groeien, hier kunnen chatbots van leren.”

Maar ook het aanbod van natuurlijke taalprocessoren als een service en kunstmatige intelligentie als een service dragen hieraan bij, stelt Jerry Wang, ontwikkelaar van chatbots in Silicon Valley.  “Veel verkopers bieden nu natural language processing (natuurlijke taalverwerking) aan als een service. In samenwerking met veel providers die de extra hulpmiddelen aanbieden kan vrijwel iedereen een coole chatbot maken die dingen voor je kan doen, in plaats van alleen maar “hi” sturen zoals de Cleverbot deed.”

Dat grote bedrijven als Facebook nu op chatbots inspringen heeft volgens Wang en Zoeten ook een logische reden. “Ik denk dat ze dit doen om dat de meest intuïtieve interface naast een muis, toetsenbord of touchscreen een gesprek is. Met iemand praten om bepaalde informatie te vinden of een doel te bereiken is iets dat alle mensen doen”, stelt Wang. Zoeten ziet echter ook een commerciële reden voor de opkomst van chatbots. “Chatbots hebben veel commerciële waarde, omdat ze de potentie hebben om veel werk te automatiseren, of zelfs om werk beter te doen dan professionals.
Denk aan chatbots die jou helpen om een goed cadeau te vinden, die zorgen voor een hogere omzet in online retail. Of een chatbot die de klantenservice doet bij online aankopen. Die is misschien wel veel sneller en effectiever dan een menselijke klantenservice.”

june-3-crisis-bot

“Chatbots kunnen leren van bijvoorbeeld Wikipedia of van vijfhonderd dikke boeken over anatomie en medicijnen”, vertelt Zoeten. “Daar staat vaak het antwoord op een vraag letterlijk in. Maar als het antwoord op een vraag niet letterlijk in een tekst staat, dan kan het moeilijk zijn om het antwoord te bedenken of om het antwoord bij elkaar te verzamelen. Een chatbot kan misschien wel goed communiceren over het weer, of met interessante feitjes komen over een onderwerp, maar vermogen om te redeneren is er nog niet. Bijvoorbeeld: ‘Jantje wil graag zijn 7 knikkers verdelen over zijn drie broertjes. Kan hij alle 7 knikkers eerlijk verdelen?’ Dit soort vragen zijn nog erg lastig. Je zou een programma kunnen maken dat zéér specifiek voor dit soort vragen geschreven is, maar als dan de vraag komt ‘De cappuccino van 3.95 wordt afgerekend met een tientje, hoeveel wisselgeld wordt er gegeven?’, kun je opnieuw beginnen. Het moeilijke is om een algemene oplossing te geven voor ‘vragen’ en om te beslissen of de computer überhaupt het juiste antwoord wel heeft.”

Bovendien missen we nog wat features binnen chatbots waar we dankzij smartphones aan gewend zijn geraakt, vertelt Wang. “Het gaat vooral om het opvragen van je locatie en het doen van betalingen. De Uber-app kan bijvoorbeeld erg goed uitzoeken waar je bent en op basis daarvan een auto naar je toesturen, maar een chatbot die je alleen via SMS spreekt kan dat niet. Tegelijkertijd kan een website als Amazon erg goed bestellingen en betalingen afhandelen, maar een chatbot heeft die mogelijkheid niet.”

Ook Google is achter de schermen druk bezig met hun nieuwste innovatie op het gebied van AI technologie. En ook Microsoft zet er groots op in. Toch gaat het niet zonder slag of stoot. Onlangs lanceerde Microsoft haar chatbot Tay die leerde van het gedrag van de mensen waarmee de bot in gesprek raakte. De testers wisten dit en gingen zich extreem gedragen met de bot, waardoor de bot al snel rechts-extermistische uitingen deed en binnen korte tijd bekend werd als de nazi bot.

little bingMicrosoft lanceerde in 2015 het kleine zusje van Cortana, de chatbot XiaoIce aka Little Bing, waar miljoenen mensen in China hun diepste geheimen aan toevertrouwen. Volgens Yongdong Wang, de Microsoft medewerker die Xiaolce ontwikkelde, is de chatbot rond middernacht het meest populair. Gemiddeld worden er zo’n 23 berichten heen en weer gestuurd tussen chatbot en mens.

Our vision is we want her to be a friend, not just a professional assistant. A good friend where a user can develop an emotional connection and the trust and the confidence. And someone that the user feels free to talk to.”

‘Bots as besties – get ready for a shift from having a bff to a bbf: bot best friend’

Er zijn diverse toepassingen voor social bots en ook veel nieuwe start-ups die bot technologie aanbieden. Magic, Sensay en Cloe zijn enkele voorbeelden.

cutting edge bots

Bot en troll farms

Semi-automatisch gebruik van bots lijkt een beproefde methode door de zogenaamde ‘troll farms’ in Rusland. Eerder werd bekend dat het Kremlin ook mensen inhuurt om commentaar te leveren op media die zich kritisch uitlaten over Russisch beleid.

Zo werd de Guardian in 2014 gek van de spam die zeer waarschijnlijk afkomstig was van de troll farms. De moderators, mensen die toekijken op de commentaren onder artikelen, verwijderden honderden reacties onder Oekraïne-gerelateerde artikelen. Ook in landen als China is dit een beproefde methode, en de Verenigde Staten gebruiken vermoedelijk ook al langere tijd social bots.

Het verstoren van het MH17-debat

Voormalig Vrij Nederland-verslaggever Tim de Gier dacht ook te maken te hebben met Kremlin-gestuurd commentaar wanneer het weekblad over MH17-ramp schreef. ‘Er stonden half-afgemaakte zinnen en allerlei opmerkingen die totaal niet logisch waren. Ik durf niet te zeggen of het commentaar geautomatiseerd of menselijk was.’

Probeerden social bots het Nederlandse MH17-debat echt te verstoren? ‘Zeer waarschijnlijk’, zegt Woolley. Zeker is dat de Russen publieke opinie over Oekraïne probeerden te beïnvloeden, getuige een handleiding van een troll farm in handen van de Volkskrant. In die handleiding wordt de troll farm-medewerkers uitgelegd hoe ze op Twitter, Facebook en andere online media moeten overtuigen dat Oekraïense politici het land ‘naar de rand van de afgrond’ hebben gebracht.

In de handleiding, gedateerd 7 maart 2015, staan zoekwoorden, casussen en verwijzingen naar media die de Russische trolls kunnen gebruiken in hun reacties. Een van de argumenten die gesuggereerd wordt om de publieke opinie over Oekraïne te beïnvloeden is door te hameren op het nijpende gebrek aan gas in het land en achterstallige betalingen aan Gazprom, de Russische energiegigant. Een ander argument: Oekraïense extremisme vormt een bedreiging voor de joodse minderheid. Of: de financiële steun van het IMF zal vooral naar het leger gaan in plaats van de bevolking.

Tegenwoordig proberen bots steeds geavanceerder de opinies te manipuleren.

Eerlijke en objectieve informatie

Woolley benadrukt dat bots vooral een probleem zijn in landen met een door de overheid gecontroleerd mediabestel, omdat die burgers voor eerlijke en objectieve informatie op sociale media aangewezen zijn.

current_500pxwide_int

Hoe zo’n debat gemanipuleerd kan worden vertelde een hacker onlangs in een interview met Bloomberg Businessweek. De Colombiaan Andrés Sepúlveda spaarde kosten noch moeite om presidentsverkiezingen te beïnvloeden in negen Latijns-Amerikaanse landen. Hij deed dat vooral door de oppositie digitaal te bespioneren, maar maakte in 2012 ook een Mexicaanse protestbeweging dankzij bots onschadelijk.

#YoSoy 132

De hacker gebruikte een leger van dertigduizend bots om de protestbeweging #YoSoy 132, ook wel de Mexicaanse Lente genoemd, in de kiem te smoren. #YoSoy 132 stelde de warme banden aan de kaak die de partij van presidentskandidaat Enrique Peña Nieto tijdens de campagne onderhield met de Mexicaanse media. De beweging benadrukte dat ze geen andere kandidaat steunden.

Sepúlveda’s bots zaaiden verwarring in de onlinediscussie, door #YoSoy 132 nadrukkelijk in verband te brengen met de linkse kandidaat Andrés Manuel López Obrador. Uit een door hem gehackt campagnememo wist Sepúlveda precies wat de zwakke punten van López Obradors waren, en liet hij de bots die benadrukken. Net als de Occupybeweging en de Arabische Lente had #YoSoy 132 geen centrale leider die de berichten tegen kon spreken. Ongehinderd veroorzaakten de bots een kakofonie op sociale media, waardoor de boodschap van de protesten afzwakte en de beweging uiteindelijk onschadelijk werd gemaakt.

‘Ik werkte voor de donkere kant van de politiek, de kant die niet gezien wordt’, zegt Sepúlveda, die momenteel een straf in Bogotá uitzit vanwege hacken en spionage. Hij zegt zijn verhaal te doen omdat mensen niet bevatten hoeveel invloed hackers kunnen uitoefenen op moderne verkiezingen. Hij is ‘honderd procent zeker’ dat er ook met de Amerikaanse presidentsverkiezingen geknoeid wordt.

Hoe groot het effect van de bots in de Amerikaanse verkiezingen is, valt niet te zeggen. Alleen al omdat het onmogelijk is om in te schatten hoe veel bots er actief zijn. ‘Duizenden, tienduizenden, misschien wel honderdduizenden? Ik weet het niet’, zegt Woolley. Naast zijn onderzoeksteam zijn er nog een handvol mensen die zich met bot-propaganda bezig houden.

Wat zijn bots?

Een chatbot is een geautomatiseerde robot die zo menselijk mogelijk probeert over te komen, bijvoorbeeld op Twitter of Whatsapp. Bots zijn er in allerlei soorten en maten en worden op uiteenlopende manieren gebruikt. Zo zijn er bots die grappen genereren en geen specifiek doel hebben, maar chatbots zijn ook geliefd bij klantenservices van bedrijven. Chatbots kunnen antwoord geven op simpele vragen als ‘wat is de levertijd van het product?’ doordat ze steekwoorden herkennen.

Een chatbot antwoordt door de steekwoorden en zinsopbouw die hij herkent te vergelijken met een database vol voorgeprogrammeerde en aangeleerde woorden en zinnen. De bot hanteert een overeenkomst-percentage zodat hij ook bij taal- en grammaticafouten antwoord kan geven.

Bots worden steeds beter geprogrammeerd. Ze zijn in staat om gesprekken te analyseren en daarvan te leren, waardoor ze steeds menselijker overkomen en langer interacties kunnen volhouden.

Geperfectioneerd zijn ze nog niet – en dat levert nog wel eens problemen op. Zo maakte een bot van de Nederlandse Jeffry van der Goot vorig jaar onbedoeld doodsbedreigingen op Twitter. Tay, een bot die Microsoft ontwikkelde, moest de persoonlijkheid van een 19-jarig meisje nabootsen, maar internetgrappenmakers (trolls) kregen voor elkaar dat Tay racistische opmerkingen ging maken. De social bot paste zich namelijk aan de gesprekspartners aan. In korte tijd werd Tay een geradicaliseerde bot met uitspraken zoals hieronder.

Taytweets

Maar als een bot kan leren en radicaliseren door interactie met anderen, wat zal een social bot dan andersom kunnen doen als de technologie voortschrijdt?

Zero user interface

Maar als we Microsoft en Facebook mogen geloven ligt in de toekomst een grote rol voor bots weggelegd. Met de stevige investeringen die daarbij komen kijken  komt de bot-techniek in een stroomversnelling en zullen bots die door proberen te gaan als menselijke profielen, steeds moeilijker zijn te ontmaskeren.

Lees het rapport van Sander Duivestein en Menno van Doorn over commerciële trends in social bots:


Bronnen: De Volkskrant, Engadget, The Verge, Global Voices OnlineReportersOnline

Gerelateerde berichten:

Tagged with →  

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Verplichte velden zijn gemarkeerd met *