De video is onderdeel van een sinister drieluik. In de eerste upload om 14.09 uur (lokale tijd) vertelt Stephens dat hij van plan is een moord te plegen. Twee minuten later komt de video met de schietpartij online en om 14.22 uur start Stephens een live-uitzending waarin hij de moord bekent. De eerste melding komt kort om 14.27 uur binnen bij Facebook, kort na afloop van de live video.

Uiteindelijk haalt Facebook de video pas na een uur of twee offline, wat Facebook op harde kritiek is komen te staan. Het bedrijf was er maandag snel bij om beterschap te beloven: de beoordeling moet sneller en beter. Facebook is naar eigen zeggen erg afhankelijk van meldingen van zijn gebruikers bij het offline halen van materiaal. De pogingen om kunstmatige intelligentie hiervoor in te zetten zijn nog primitief.

Posting bad: Crimes on social media create new type of witnesses: https://t.co/lOrZ0ZfsBq pic.twitter.com/iNSVQkAi69

? Arnout de Vries (@ADeVries23) May 5, 2017

Spiegel?

De vraag is in hoeverre Facebook verantwoordelijk kan worden gehouden voor wat er op zijn netwerk gebeurt. Zelf heeft het bedrijf jarenlang volgehouden dat het slechts een spiegel is van de werkelijkheid, inclusief zijn donkere kanten, waarvoor het neutraal gereedschap biedt. “Persoonlijk, emotioneel, rauw en instinctief”, zo moest Facebook Live worden,?zei?Mark Zuckerberg vorig jaar vlak na de lancering van zijn nieuwe videoplatform. “Mensen willen op deze manier met elkaar communiceren. Het is live, het kan op geen enkele manier gecureerd worden. En om deze reden bevrijdt het mensen, opdat ze zichzelf kunnen zijn.” Pas de laatste maanden is het bedrijf gaan schuiven, bijvoorbeeld bij het aanpakken van nepnieuws. Opperbaas Zuckerberg gaf vorig jaar, bij de introductie van Facebook Live, nog geen blijk van zorgen over de negatieve kanten. ‘Omdat het live is, kan het onmogelijk worden opgeschoond. En juist vanwege dit livekarakter dwingt het mensen zichzelf te zijn.’

“Het is een afschuwelijke misdaad, een waar geen plek voor is op Facebook en die indruist tegen ons beleid en alles waar we voor staan,”?zegt Justin Osofsky, vice president global operations bij Facebook, in een?blogpost. “We weten dat we het beter moeten doen”. In zijn?manifest?schrijft Zuckerberg dat kunstmatige intelligentie de oplossing moet bieden.

Het neurale netwerk moet in de nabije toekomst zo slim zijn dat het geheel zelfstandig zelfmoorden en pesterijen in (live)video’s vroegtijdig signaleert en daar waar mogelijk voorkomt. Facebook is nu te afhankelijk van de goodwill van zijn gebruikers. Zij moeten aangeven of bepaalde content wel of niet door de beugel kan. Met miljarden gebruikers die allemaal de mogelijkheid hebben om een gebeurtenis live te streamen is dit een onbegonnen taak. Er is altijd wel iets dat door het netwerk van ogen heen glipt.

Het bedrijf beloofde (voor de zoveelste keer) strengere controles en n?g meer software om wraak- dan wel kinderporno sneller op te sporen en te verwijderen. Maar keer op keer blijkt dat mens en machine falen, hoe choquerend sommige beelden en boodschappen ook zijn. Er glipt nog steeds van alles door de mazen van het net, van kinderporno via executies en onthoofdingen in Raqqa tot live gestreamde gang bangs. Volgens de moderatoren van Facebook schonden die beelden de gedragscode van Facebook niet, terwijl ze overduidelijk in strijd zijn met de wet.

Volgens Zuckerberg is live video het perfecte medium om ‘ruw en instinctief’ materiaal te plaatsen. De eerdere incidenten met live uitgezonden verkrachtingen en een neergeschoten verdachte zetten deze woorden in een wat ander daglicht. Horen dit soort beelden er nou eenmaal bij of moet Facebook zijn verantwoordelijkheid nemen?

Jeroen van den Hoven – hoogleraar ethiek & techniek aan de TU Delft

‘Facebook slechts een spiegel? Onzin. Facebook geeft iedereen een supermegafoon om alles ongefilterd de wereld in te slingeren. Daarmee grijpt Facebook echt in de wereld in, in de manier hoe we met elkaar omgaan. Bovendien: ook iemand die een spiegel ophangt, heeft zijn verantwoordelijkheid. Het gaat hier om de kwaliteit van de samenleving en de democratie. Als Zuckerberg al zijn mooie woorden in zijn manifesten serieus neemt, maakt hij hier werk van. En als dat betekent dat ze moeten stoppen met Facebook Live, dan zij dat zo.’

Jan van Dijk – mediahoogleraar Universiteit Twente

‘Helemaal stoppen met live video gaat me veel te ver. Ik zie Facebook Live als een stuk gereedschap dat voor goede zaken, maar ook voor slechte kan worden ingezet. Facebook is de laatste tijd wat aan het bijdraaien, onder druk van de politieke opinie, maar ik heb niet de indruk dat dat van harte gaat. Voor een bedrijf dat totale transparantie propageert is hun eigen geslotenheid nogal wrang. We zijn overgeleverd aan de regeltjes en algoritmes van Facebook, zonder dat we weten wat de regels precies zijn. D?t is het grote probleem.’

Coen Simon – Filosoof en schrijver

‘Technologie, en zeker die van de sociale media, is van invloed op de inhoud van onze publieke mening. Techniek is niet neutraal: techniek roept bepaald gedrag op. Bij deze moord is het publiek een onderdeel van de daad. Zonder het publiek bestaat deze actie niet. Maar mijn bezwaren zijn breder. Ik heb er moeite mee dat een grote commerci?le organisatie als Facebook zo’n belangrijke publieke functie heeft. Het is de taak van de overheid de publieke ruimte veilig te houden. De overheid moet dus ook social media faciliteren, net zoals met de publieke omroep gebeurt. Een overheids-Facebook dus. Ja, ik ken de staat van dienst van de overheid op it-gebied, dus dit klinkt als een horrorscenario. Maar het is de enige oplossing.’

Esther Keymolen – techniekfilosoof aan de Universiteit Leiden

‘Facebook is m??r dan een neutraal doorgeefluik en moet dus ook zijn verantwoordelijkheid nemen. 100 Procent veiligheid kan met livevideo niet geboden worden, maar Facebook kan absoluut meer doen dan nu het geval is. Het grootste probleem met Facebook is dat het niet transparant is over zijn regels. We moeten ze maar op hun blauwe ogen geloven als ze zeggen dat ze er alles aan doen. Met het aanpakken van nepnieuws zei Facebook lange tijd ook dat dit niet kon worden aangepakt. Dat was niet vol te houden. De eerste stap? Laat buitenstaanders maar eens meekijken, om zo inzicht in de procedures te krijgen.’

De lijst van misstanden die via Facebook Live worden uitgezonden neemt inmiddels schrikbarende vormen aan:

13 juni 2016: De 25-jarige radicale moslim Larossi Abballa steekt in een voorstad van Parijs een politieagent en zijn vrouw dood. In het huis van het echtpaar, waar ook zich ook een driejarig kind bevindt, maakt hij een dreigvideo die hij live via Facebook uitzendt.

6 juli 2016: Philando Castile wordt aan de kant gezet vanwege een kapot achterlicht en wordt neergeschoten door de politie op het moment dat hij zijn rijbewijs wil pakken. Zijn vriendin zendt de hele gebeurtenis live uit op Facebook.

26 juli 2016:?Shanavia Miller slaat haar 16-jarige dochter Nia 4 minuten lang voor het oog van de camera. Nia zou sexy foto’s van zichzelf en haar vriendje op Facebook hebben geplaatst, waar haar moeder duidelijk niet achter staat. Aan het eind van de video doet Miller haar haar goed en zegt ze: ?”Jullie moeten me helpen om deze video viral te laten gaan, alsjeblieft deel hem. Want ik ben nog niet klaar. Nu kan iedereen op social media zien wat voor een sukkel je bent. Je hebt mij voor schut gezet, terwijl ik er alles aan doe om een goede ouder te zijn!”

10 oktober 2016:?Erdogan Ceren, een 22-jarige Turk, schiet zichzelf door het hoofd tijdens een livestream nadat zijn vriendin de relatie met hem verbroken heeft. Voordat hij de trekker overhaalt zegt hij: “Niemand geloofde toen ik zei dat ik zelfmoord zou plegen. Dus kijk dit.”

30 december 2016:?Na pesterijen op school en seksueel misbruik door een familielid, deelt Katelyn Nicole Davis haar zelfmoord in de tuin van haar ouderlijk huis met haar volgers. Op de video is te horen hoe familieleden haar naam roepen terwijl ze haar zoeken.

3 januari 2017:?In een half uur durende Facebook Live uitzending is te zien hoe vier jongeren een verstandelijk beperkte man vastbinden, martelen en uitschelden.

19 januari 2017:?Shayla Rudolph toont tijdens een live-uitzending op Facebook hoe ze haar 2-jarige zoontje tot stilte maant door hem met behulp van plakband aan de armen en het hoofd aan de muur te kleven.

21 januari 2017:?In een besloten Facebookgroep kijken circa 200 mensen live naar de groepsverkrachting van een Zweedse vrouw door drie mannen. De beelden worden al snel buiten de beslotenheid van de groep gedeeld. Een van de kijkers alarmeert uiteindelijk de politie die de daders snel weet op te pakken.

22 januari 2017:?Het 14-jarige meisje Nakia Venant zendt via Facebook uit hoe zij zichzelf van het leven berooft in de badkamer van het huis van haar pleegouders. Een kijker sloeg alarm, maar hulpdiensten komen te laat om haar te redden.

23 januari 2017:?Acteur Frederick Jay Bowdy schiet zichzelf door het hoofd terwijl hij via Facebook Live aan het uitzenden is. Een familielid in een andere staat waarschuwt de politie, maar deze is te laat om de zelfmoord te voorkomen.

20 maart 2017:?De groepsverkrachting van een 15-jarig meisje door 5 tot 6 mannen wordt uitgezonden via Facebook Live. Naar de uitzending kijken zo?n 40 mensen.

3 april 2017:?De 23-jarige Arjun Bharadwaj springt van de 19e verdieping van een hotel in Mumbai zijn dood tegemoet. Vlak daarvoor legde hij via Facebook Live uit?hoe?je zelfmoord moet plegen.

Hartverscheurend