Datagedreven werken speelt al ruime tijd een belangrijke rol in de bedrijfsvoering en zal in de toekomst steeds relevanter worden. Hoewel beslissingen nemen op basis van data niet nieuw is, evolueert de volwassenheid op dit gebied voortdurend. Er zijn veel redenen waarom datagedreven werken een positieve ontwikkeling is, maar het is essentieel dat organisaties zich bewust zijn van de vooroordelen die gepaard gaan met het interpreteren van data.

Bewustwording

Als professional streef je naar objectiviteit, maar het is onvermijdelijk dat de interpretatie van data wordt beïnvloed door persoonlijke achtergrond, ervaringen en overtuigingen. Daarom is het belangrijk om je bewust te zijn van deze invloeden en kritisch te blijven bij het interpreteren van data, zodat je tot zo nauwkeurig mogelijke conclusies kunt komen.

Binnen iedere sector wordt het resultaat van datagestuurd werk nog te vaak ten onrechte beschouwd als “De waarheid”. We weten bijvoorbeeld dat AI-systemen, zoals ChatGPT, structureel biases in zich hebben geprogrammeerd (1).  Binnen de publieke sector hebben we het bekende voorbeeld van de toeslagenaffaire, waar de werkelijke situatie ondergeschikt werd gemaakt aan de waarheid van het systeem. De uitkomst werd als de waarheid bestempeld zonder bewust te zijn van het feit dat deze data-construct een waarheid weergeeft, met alle nadelige gevolgen van dien.  Dit gebrek aan bewustzijn en het ontbreken van een herleidbaar besluitvormingsproces kan leiden tot ernstige ethische implicaties. Het is van belang dat organisaties en overheden zich bewust zijn van de achterliggende processen en aannames die ten grondslag liggen aan de gegenereerde conclusies.

Aanpak

Om waardevolle inzichten te verkrijgen uit rauwe data, is het belangrijk dat deze goed wordt gevormd en gestructureerd. Vanaf het moment dat de data wordt verzameld tot aan de uiteindelijke visualisatie, ondergaat het verschillende vertaalslagen die elk hun eigen invloed hebben op de data. Dit kan bijvoorbeeld gebeuren door het toepassen van algoritmes en analyses, maar ook door de keuze van de visualisatietool en het weergeven van de resultaten. Er zijn drie verschillende vooroordelen die invloed hebben op de kwaliteit en betrouwbaarheid van data (2):

• Systemische biases: Dit zijn vooroordelen en ongelijkheden ingebouwd in sociale of institutionele systemen, wat kan leiden tot ongelijke kansen en discriminatie.
• Menselijke biases: Dit zijn denkpatronen die invloed hebben op beslissingen, zoals het zoeken naar informatie die onze bestaande overtuigingen bevestigt.
• Statistische biases: Dit zijn fouten die kunnen optreden bij het verzamelen, analyseren en presenteren van gegevens, waardoor conclusies onnauwkeurig kunnen zijn.

Voorbeelden vooroordelen

Voor zowel de organisatie die net begint met datagedreven werken als een meer datavolwassen organisatie is het van belang om bewust te zijn van de aanwezigheid van biases. Hieronder een selectie van vijf biases om rekening mee te houden tijdens het werken met data:

• Bevestigingsbias is de neiging om informatie te zoeken en te interpreteren op een manier die onze bestaande overtuigingen bevestigt.

Bijvoorbeeld: Beleidsmakers kunnen ervan overtuigd zijn dat er veel criminaliteit plaatsvindt in een bepaalde wijk en alleen zoeken naar gegevens die deze overtuiging bevestigen, terwijl ze mogelijk relevante gegevens negeren die deze overtuiging tegenspreken.

• Framing is het bewust beïnvloeden van de perceptie en interpretatie van informatie door het kiezen van specifieke woorden, beelden en context.

Bijvoorbeeld: ‘90% van de inwoners zorgen dat de wijk niet wordt vervuild’ versus ‘10% van de inwoners zorgen voor overlast en vandalisme in de wijk’.

• Selectie bias, dit treedt op wanneer de gegevens die je gebruikt niet representatief zijn voor de bredere populatie.

Bijvoorbeeld: Je verzamelt gegevens van inwoners uit één wijk terwijl je op zoek bent naar de vertegenwoordiging van de gehele gemeente.

• Alles-of-nietsprincipe verwijst naar een situatie waarin iets slechts als volledig negatief wordt beschouwd zonder ruimte voor nuances of grijze gebieden.

Bijvoorbeeld: Het uitdelen van subsidies voor culturele evenementen, waarbij alleen projecten die aan alle criteria voldoen in aanmerking komen voor financiering.

• Beschikbaarheidsbias, dit is de neiging om beslissingen te nemen op basis van informatie die het meest recent of gemakkelijk beschikbaar is, in plaats van op basis van een volledige analyse van alle relevante gegevens.

Bijvoorbeeld: Beleidsmakers baseren het gemeentebeleid op mediagenieke gebeurtenissen, zoals een incident in een park, terwijl andere langdurige en minder zichtbare problemen, zoals huisvestingskwesties, mogelijk minder aandacht krijgen.

Tot slot

Bij het werken met data is het belangrijk om rekening te houden met deze biases. Zoals eerder vermeld, wordt data altijd beïnvloed, ongeacht de nauwkeurigheid waarmee professionals deze beïnvloedingen proberen te vermijden. Het doel is daarom niet om perfectie en volledigheid na te streven, maar om ruimte te bieden voor interpretatie van de data en het vermijden van harde conclusies.

Data geeft een weerspiegeling van een waarheid, maar niet de waarheid.

Meer weten?

Voor meer informatie kunt u contact opnemen met Eline van Lieshout 06 14 31 62 03, e.v.lieshout@telengy.nl.

Bronnen

1. https://www.binnenlandsbestuur.nl/digitaal/sas/hoe-ai-menselijke-bias-reflecteert-en-versterkt?tid=TIDP2155518X298DF39EF5C34752B2111675F018D5D8YI5&utm_campaign=BB_NB_Digitaal&utm_medium=email&utm_source=binnenlandsbestuur
2. https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.1270.pdf