Daniëlle van Hal | adviseur
“We doen steeds meer met data, cijfers dus. En dat kan ook want door alle technologie die zich inmiddels in onze maatschappij bevindt, kunnen we nagenoeg alles meten. Het grote voorbeeld binnen ons vakgebied: Informatiegedreven werken. Uit ieder proces kunnen we informatie halen, deze informatie geeft inzicht en vormt de basis waarop besluiten genomen kunnen worden. Het proces hoeft hier alleen maar op ingericht te worden. En dat klinkt objectief, geen onderbuikgevoelens en ongefundeerde aannames meer, want de cijfers vertellen het verhaal. Een verdere rationalisatie van besluitvorming. Daarnaast geven cijfers en informatie een gevoel van controle, het maakt een situatie of probleem overzichtelijk. (Er zijn 20 vergunningen die niet binnen de afgesproken 4 weken zijn uitgegeven).”
Super, dat geeft informatie waarop actie ondernomen kan worden. En dat is goed, toch? Zeker maar er zijn twee (ethische) valkuilen waar organisaties niet blind in moeten stappen. En ik denk dat het aan ons, adviseurs informatie- en verandermanagement, is om organisaties bewust te maken van deze valkuilen.
De valkuilen zitten in de vanzelfsprekendheid dat cijfers, en dus alles wat daarbij komt kijken (algoritmes, modellen, informatiegedreven werken, AI) objectief zijn en dus vrij van biases (vooroordelen). Waar de mens zich onbewust altijd ergens zal laten leiden door bepaalde aannames, doet een computer dat niet. Die doet enkel wat het verteld is te doen.
En daar zit het probleem, mensen vertellen een computer wat het moet doen. Ze programmeren de modellen en algoritmes. Maken de dashboards en bepalen wat er in een rapportage moet komen te staan. Zo reflecteren de cijfers de waardeoordelen en prioriteiten van de bouwers. Cijfers en modellen, ondanks hun reputatie van onpartijdigheid, reflecteren doelen en ideologie. Valkuil 1 is dat zowel programmeurs als afnemers ervan uitgaan dat modellen objectief zijn. Maar modellen en cijfers elimineren een bias niet, ze camoufleren die alleen.
De tweede valkuil komt om de hoek kijken wanneer de uitkomsten de basis gaan vormen voor besluitvorming. Cijfers geven duiding en leggen een feitelijke bodem onder beweringen, ze zijn het ‘harde’ bewijs. Zo vormen ze steeds vaker de rationalisatie achter een te nemen besluit nu we nagenoeg alles meetbaar kunnen maken. Een duidelijk voorbeeld hiervan hebben we de afgelopen twee jaar kunnen zien bij het RIVM en de regering die zich in de aanpak van de pandemie lieten leiden door modellen.
Dat is op zich geen probleem, want modellen en data geven zeker duiding en overzicht. Het wordt pas een probleem wanneer ze als absolute objectieve waarheid worden beschouwd en de enige basis gaan vormen waarop een besluit wordt genomen. Cathy O’Neil beschrijft hoe het blind volgen van modellen tot desastreuze gevolgen kan leiden. Ze laat zien hoe een ogenschijnlijk objectief model bij de politie van Pennsylvania leidt tot het racistisch optreden van agenten in gekleurde wijken. En hoe een zorgverzekeraar probeert op basis van cijfers en korting haar verzekerden aan te zetten tot gezonder leven, maar daarbij vooral de armste groep in een neerwaartse spiraal van hoge premies en ongezonder leven duwt. Haar Ted Talk is dan ook een absolute aanrader, mocht je geen tijd hebben om haar boek te lezen[1]. Valkuil 2 is dat organisaties de verkregen informatie met bias als objectief en absolute waarheid meenemen in hun besluitvorming met grote gevolgen voor de kwetsbare groepen binnen onze maatschappij.
Nu klinkt het alsof algoritmes, data en informatiegedreven alleen doem en verderf zaaien. Dat hoeft absoluut niet zo te zijn! Ze hebben minstens zo vaak bewezen van grote dienst te zijn. De gemeente Rotterdam werkt bijvoorbeeld met een model waarbij gevaarlijke kruispunten in kaart gebracht kunnen worden voordat er ongelukken gebeuren[1]. In de geneeskunde wordt er met algoritmes gewerkt die kankercellen met een succes van 99% herkennen, beter dan de allerbeste dokter[2].
Cijfers en modellen (en dus ook informatiegedreven werken) zijn top, we moeten ons alleen bewust zijn van de valkuilen. Daar ligt voor ons adviseurs een belangrijke rol! Het model komt je wellicht je neus uit, maar het 9-vlaksmodel laat zien hoe wij in het informatiedomein ons op het snijvlak van business en IT bevinden. Zo hebben we meer aansluiting met de business en maatschappij dan de meeste IT’ers. Hierdoor hebben we een duidelijker beeld voor ogen wanneer het gaat over de vertaalslag van systeem naar concrete gevolgen voor de maatschappij. Aan de andere kant hebben we net wat meer kaas van de IT-kant gegeten dan de gemiddelde medewerker uit de business, waardoor we uit kunnen leggen waar de limiet ligt van wat een systeem kan. Als verbinders van de twee kunnen we het bewustzijn binnen de organisatie vergroten en zorgen dat men om de valkuilen loopt in plaats van er middenin te stappen. De informatietoekomst is positief, we moeten ons er alleen bewust van blijven.
[1] Gemeente Rotterdam – Rotterdams Verkeersveiligheid model (veilige wegen)
[2] Cathy O’Neil – Weapons of math destuction (2017), (Ted Talk)
[3] Hannah Fry – Hello World, Being Human in the Age of Algorithms (2018)
Wil jouw organisatie meer informatiegedreven gaan werken? Dan kun je wel wat specialistische hulp gebruiken. Wij zijn BECIS | DIOR, hét adviesbureau en opleidingsinstituut op het gebied van informatiemanagement. Onze adviseurs staan klaar om jou te helpen met het implementeren van informatiegedreven werken. Zo zorgen we er samen voor dat jouw organisatie straks echt op een goede manier aan de slag kan met informatiegedreven werken.
Ga voor meer informatie naar onze website of neem contact op met Fiona van Leeuwen via 06-57790697.