Jezus, smeris en superheld ineen

Dankzij de uitbraak van het Cambridge Analytica-schandaal heeft de documentaire The Cleaners sinds zijn première, begin dit jaar op het Sundance Film Festival en op IFFR, alleen maar aan urgentie gewonnen. De Duitse regisseur Hans Block, die samen met collega Moritz Riesewieck de film maakte, vertelt via Skype over het belang van deze fascinerende Engelstalige film over de opschoners aan de schaduwkant van het internet.

Wanneer hoorden jullie voor het eerst van het bestaan van contentmoderatoren en hoe hebben jullie ze gevonden?
Block: ‘Toen najaar 2013 in Amerika een kindermisbruikvideo online kwam die in korte tijd vele duizenden clicks kreeg en maar niet offline werd gehaald, vroegen we ons af of er niemand is die het internet op een of andere manier filtert. Zo kwamen we op het spoor van een verborgen industrie waarin duizenden mensen uit ontwikkelingslanden werken. Op de Filippijnen ontdekten we schimmige onderaannemers die privépolitie inschakelen om te voorkomen dat hun medewerkers met de buitenwacht praten. De grote Silicon Valley-bedrijven willen dat werk geheim houden vanwege de beroerde arbeidsomstandigheden en de arbitraire manier waarop jonge Filippino’s hun zo fraai geformuleerde ‘gemeenschapsnormen’ ten uitvoer leggen. Wie voor Facebook werkt, moet zeggen: “Ik werk voor het Honingdasproject.” Ze maakten foto’s van leden van ons onderzoeksteam die vervolgens het hele bedrijf werden rondgestuurd met de waarschuwing: “Wie met deze mensen spreekt, wordt op staande voet ontslagen.” De eerste interviews vonden plaats in rijdende, geblindeerde auto’s, zonder camera: zo bang waren die medewerkers om met ons gezien te worden.’

Noemden jullie de contentmoderatoren vanaf het begin ‘de schoon-makers’?
‘Ze zien zichzelf als internetpolitie; als een soort officieren van justitie die over recht en onrecht beslissen. Maar deels ook als superhelden, met een taak zo zwaar dat gewone mensen haar amper volhouden. En deels als Jezus. Negentig procent van de Filippino’s is katholiek, wat in de contentmoderatie een grote rol speelt. Een te diep decolleté vinden ze al obsceen. Zuiverheid is belangrijk in de christelijke mythologie: men probeert de wereld op te schonen, waardoor in dit geval ook veel problemen onzichtbaar worden gemaakt. Wie beelden van bombardementen in Syrië censureert omdat ze te schokkend zouden zijn, bewerkstelligt dat er – bij gebrek aan bewijs – niemand voor ter verantwoording kan worden geroepen.

Aanvankelijk waren we verrast moderatoren te treffen die erg trots zijn op hun werk. Pas na maanden ontdekten we welke onzichtbare schade dit werk aanricht. Dat iemand de stad niet meer in durft uit angst voor de terreuraanslagen die ze dag in, dag uit op haar beeldscherm ziet. En een andere moderator vertelde ons dat haar libido totaal om zeep is geholpen, omdat ze de hele dag naar pornografie moet kijken. Er zijn veel werknemers die aan contentmoderatie te gronde gaan en zelfmoord plegen.’

Hoe heeft jullie film sinds zijn première aan urgentie gewonnnen?
‘De verkiezing van Trump, de Brexit en het Cambridge Analytica-schandaal laten ons zien dat sociale media een heel concrete, beangstigende invloed hebben op onze democratie. Ze veranderen hoe wij ons tot elkaar verhouden, beïnvloeden maatschappelijke verhoudingen. Het is geen toeval dat sociale media doorspekt zijn met haat en geweld: dat ligt in hun architectuur besloten. Hoe meer extremen je op het platform produceert, hoe meer likes en shares het oplevert. Die worden in advertenties omgezet door de bijbehorende bedrijven, gericht op een zo groot mogelijke winst. Het mag ons daarom niet verwonderen dat in Duitsland en Nederland hatespeech en populisme toenemen: het businessmodel van sociale media versterkt dat.’

Zitten jullie na het maken van deze film zelf nog op Facebook?
‘Ja. Sociale media zijn deel van onze communicatie-infrastructuur, zoals ooit de brief of de telefoon. Het is cultuurpessimisme om bij elk probleem met nieuwe technologie te zeggen: we gaan terug naar het bos, we schrijven weer brieven met een potlood. We moeten de geboortefouten van deze media herstellen, zodat we ze beter kunnen gebruiken.’

Wat acht u realistischer; dat nationale overheden de macht van de tech big five (Amazon, Apple, Facebook, Google, Microsoft) indammen, of dat die grote vijf de macht van nationale overheden overvleugelen?
‘De druk van regeringen, ook autoritaire, op Facebook neemt enorm toe. Maar als elke staat met eigen regels komt, leidt dat tot de versplintering van het internet. Dan valt de reden van zijn ontstaan – een wereldwijd netwerk scheppen dat mensen over grenzen heen met elkaar verbindt – weg. Anderzijds is het absurd dat een paar Amerikanen in Silicon Valley op volledig intransparante wijze beslissen over wat wij in de digitale wereld te zien krijgen. Er worden daar publieke beslissingen genomen door private bedrijven die hun verantwoordelijkheid afschuiven op jonge Filippino’s, die moeten oordelen over wat in onze samenleving wel of niet legaal is: een doorschuifsysteem ad absurdum. Daarom moeten we ze krachtiger ter verantwoording roepen. Ik hoop dat er een soort digitale Verenigde Naties komt, waarin alle landen waar deze tools gebruikt worden, samen rond de tafel gaan zitten om er universele regels over op te stellen.’