Magazine | ‘Het is moeilijk om te zien hoe je bedonderd wordt door algoritmes’
De komende weken besteedt Folia in een speciaal papieren magazine aandacht aan het thema ‘democratie’. We zien steeds vaker alleen nog wat het algoritme ons toont, zegt filosoof, UvA-docent en voormalig Denker des Vaderlands Daan Roovers. Ze onderzocht wat dit betekent voor het publieke debat.
Voor uw proefschrift dook u in de onzichtbare processen achter ons nieuws. Waarom wilde u juist dat deel van het publieke debat onderzoeken?
‘Als we het over het publieke debat hebben, gaat het vaak over de input – de stemmen die meedoen – of juist de output, zoals een talkshow of krantenartikel. Maar de belangrijkste stap is eigenlijk de bemiddeling daartussen. Met een lelijk woord noemen we dat de throughput. Het klassieke voorbeeld is dat van een nieuwsredactie: bij de NOS, RTL Nieuws of zelfs bij Folia wordt er de hele dag door informatie gefilterd en geselecteerd. Voor het publiek is dat vooral een heel onduidelijk en ondoorzichtig proces: een soort black box, eigenlijk. Maar tegelijkertijd is dat wel waar het publieke debat gevormd wordt. Dat is in feite de machinekamer van het debat.’
En die machinekamer is de afgelopen tijd flink verbouwd.
‘Klopt. Vroeger vertrouwden we erop dat die machinekamer bevolkt werd door professionals: journalisten die bepaalde codes hanteren, waardoor we het proces aan hen kunnen toevertrouwen. Maar in de huidige gedigitaliseerde publieke sfeer is de rol van de journalistiek simpelweg enorm teruggedrongen. Dat betekent dat het proces van filteren en selecteren nu grotendeels uitgevoerd wordt door algoritmes van grote techbedrijven. We hebben nog steeds te maken met die black box, maar nu vaak zonder dat er nog mensen aan te pas komen.’
Maakt het uit of dat ondoorzichtige proces in een redactieruimte of in een algoritme plaatsvindt?
‘Nou, als je vroeger een groot gebouw zag staan aan de Wibautstraat met het logo van de Volkskrant erop, dan wist je tenminste dat daar een paar honderd mensen werkten die samen besloten wat jij te lezen kreeg. Met die digitale machinerie is dat nog meer aan het zicht onttrokken. Dat is al misleidend. Maar belangrijker nog: wat er op een nieuwsredactie gebeurt, is in principe navolgbaar. Je kunt reconstrueren hoe het journalistieke proces is gelopen: wie welke beslissing heeft genomen en op basis waarvan. Dat geldt niet voor de manier waarop algoritmes nieuws selecteren.’
Terwijl men dacht dat het internet juist voor meer transparantie zou zorgen.
‘Toen het internet opkwam, was dat inderdaad de gedachte. Dat had ook zeker zo kunnen uitpakken, maar de manier waarop het internet nu is ingericht is juist heel erg ondoorzichtig. Google zal bijvoorbeeld nooit laten zien hoe die aan zijn zoekresultaten komt. Of zelfs waarop precies gezocht wordt. Dat heeft veel te maken met commercialisering. Daarmee is een enorme machtsconcentratie mogelijk gemaakt, waardoor die black boxes ook gesloten blijven.’
Wat zijn de gevolgen daarvan?
‘Het maakt vooral dat je vaak geen idee hebt waarom je bepaalde dingen wel of niet te zien krijgt. Ik vind het verhaal van cartoonist Jip van der Toorn veelzeggend. Zij plaatst geweldige kritische cartoons op Instagram. Maar zij merkte dat als zij een cartoon plaatste over Gaza of een Palestijnse vlag liet zien, dat haar bereik onmiddellijk kelderde. Dan kreeg ze nog maar 20.000 weergaven per bericht, in plaats van 150.000. Zij concludeerde dat dat alleen maar door shadowbanning kon komen: de keuze van een platform om jouw content al dan niet te laten zien. Als oplossing daarvoor heeft ze nu een mapje met bikinifoto’s klaarstaan. Als ze die plaatst, wordt ze meteen weer opgepikt door het algoritme. Dat is een heel goed voorbeeld van een throughput-proces dat je zelf niet in de gaten hebt: je weet niet waarom je iets ziet. En andersom: als maker weet je niet waarom jouw bericht veel of juist weinig mensen bereikt.’
En zo’n algoritme weegt de inhoud waarschijnlijk ook anders af dan een menselijke redacteur zou doen.
‘Precies. Die algoritmes maken niet per se gebruik van wat ik ‘epistemische selectie’ noem – selectie op basis van kennis of waarheidsvinding. Totaal niet. Je hebt bijvoorbeeld ook zoiets als ragebait: algoritmes die er specifiek op uit zijn om je boos te maken, omdat woede en verontwaardiging nu eenmaal voor veel interactie zorgen. Dat is voor zo’n platform commercieel interessant, maar het is niet per se de bedoeling om kennis aan je over te dragen.’
Gebruikt u nog sociale media?
‘Steeds minder. Ik heb mijn Twitter-account een paar weken geleden opgezegd. Ik gebruik nu eigenlijk alleen nog Bluesky, Mastodon en LinkedIn. En heel af en toe gebruik ik nog Instagram.’
En hoe kijkt u – met al deze achterliggende kennis – dan naar uw eigen tijdlijn?
‘Zoals ieder ander, denk ik. Gewoon, met het idee van: “Ah, die doet dit, en die heeft dat.” Het is heel moeilijk om de hele tijd over je eigen schouder mee te kijken en te zien hoe je bedonderd wordt.’
Zelfs na zeven jaar promotieonderzoek?
‘Ik vrees het.’
Dat klinkt behoorlijk machteloos. Kunnen we hier wel iets tegen doen?
‘Het is niet de technologie die dit dwingt, maar de enorme concentratie van macht en geld bij platforms. Met betere regelgeving is er al heel veel winst te boeken. En verder is het vooral belangrijk om kritisch om te gaan met de informatie die we online zien. Eigenlijk moeten we die goede oude journalistieke procedures – meerdere bronnen, hoor en wederhoor – in onszelf incorporeren. Omdat er geen professionele redacteur meer tussen jou en de informatie zit, moet je dat werk nu vooral zelf doen.’
Vanaf 28 april ligt er weer een nieuwe Folia in paars-lila distributiebakken overal op de UvA. Dit gratis papieren magazine is vanaf dan op alle campussen gratis mee te nemen.
