Het kabinet kondigde in november 2020 aan te gaan bekijken welke maatregelen er nodig zijn om consumenten te beschermen tegen de negatieve effecten van algoritmen. Maar, de overheid maakt zelf ruim gebruik van algoritmen. Dat bleek uit een vertrouwelijke inventarisatie onder 54 overheidsinstanties die de NOS heeft verkregen op basis van de Wet Openbaarheid Bestuur in mei 2020. De algoritmen worden ingezet om bijvoorbeeld fraude op te sporen of om de kans op schoolverlaten in te schatten.

Algoritmen lijken steeds meer macht te krijgen. Zij worden steeds vaker gebruikt voor het nemen van beslissingen op het niveau van managers. Onderneming Uber  bemiddelt bijvoorbeeld via een app tussen reizigers en aanbieders van personenvervoer en stuurt zijn medewerkers dus aan door middel van een algoritme. Dat betekent dat algoritmen als managers fungeren. Deze trend is ook zichtbaar binnen de overheid. Denk bijvoorbeeld aan predictive policing waarbij politieagenten naar een plek worden gestuurd waarvan een algoritme de mogelijkheid van een daar plaatsvindende misdaad heeft voorspeld

Een ander voorbeeld is het beoordelen van het functioneren van leraren, wat Cathy O’Neill in haar boek over de invloed van algoritmen op de maatschappij Weapons of Math destruction uiteenzet. Zij beschrijft hoe in Washington DC leraren werden beoordeeld op basis van de afwijking tussen toetsscores en de voorspelling van een algoritme. De leraren die het laagst scoorden werden ontslagen. Een praktijk die nu inmiddels niet meer plaats vindt.  Dit brengt ons tot de vraag waar de ontwikkeling van algoritmen naar toe gaat. In hoeverre gaan algoritmen beslissingen nemen in plaats van ambtenaren? Kunnen managers binnen het publieke domein, net zoals bij Uber, vervangen worden door algoritmen?

In mijn artikel The impact of using algorithms for managerial decisions on public employees in het tijdschrift Government Information Quarterly van januari 2021 ga ik in op de resultaten van een door mij verricht onderzoek. Ik laat aan de hand van experimenten zien wat de invloed is van het betrekken van algoritmen bij de besluitvorming van managers op de procedurele rechtvaardigheid van ambtenaren. Met procedurele rechtvaardigheid wordt bedoeld: de perceptie op  rechtvaardigheid van de procedure waarmee de beslissing is genomen. Worden de juiste procedures gebruikt en worden ze juist toegepast?

Drie typen besluitvorming

In de experimenten is het effect van drie typen besluitvorming onderzocht. Het eerste type betreft de besluitvorming van een manager. Hierbij heeft een manager de keuze om algoritmen te gebruiken, maar dit is niet noodzakelijk. Dat wordt ‘street-level bureaucracy’ genoemd. Het tweede type is een hybride vorm waarbij een algoritme een manager informeert. Deze combinatie wordt ‘screen-level bureaucracy’ genoemd. Het derde type betreft volledig geautomatiseerde besluitvorming. Daaraan komt geen manager meer te pas. Dit wordt  ‘system-level bureaucracy’ genoemd.

Procedurele rechtvaardigheid

Het gaat erom uit te vinden of deze drie typen besluitvorming effect hebben op procedurele rechtvaardigheid. Iets kan bijvoorbeeld als procedureel rechtvaardig gezien worden als er duidelijke regels zijn of als iemand bezwaar kan maken. Procedurele rechtvaardigheid is niet hetzelfde als een rechtvaardige uitkomst. Bij gevangenisstraf kan de veroordeelde de straf bijvoorbeeld onrechtvaardig vinden en de gevolgde procedure van de strafbepaling rechtvaardig.

Algoritmen en complexiteit

De invloed van algoritmen blijkt afhankelijk van complexiteit. De definitie van complexiteit kent in het onderzoek twee facetten. Een vraagstuk is complex als het ten eerste veel variabelen omvat die moeilijk meetbaar zijn en in relatie tot elkaar staan. Ten tweede is een vraagstuk complex als het normatief is. Dat betekent bijvoorbeeld dat het aannemen van een werknemer complexer is dan het bepalen van een reiskostenvergoeding, en dat het berekenen van pensioenen minder complex is dan de beoordeling van functioneren in een baan.

Als een vraagstuk niet erg complex is, geven ambtenaren aan dat zij liever hebben dat een algoritme hierover een beslissing neemt dan een manager. Met andere woorden, zij zien het gebruik van een algoritme als procedureel rechtvaardiger wanneer praktijken niet complex zijn. In zulke gevallen vinden ambtenaren het belangrijk dat dezelfde regels door iedereen gevolgd worden; een algoritme kan hierbij meer garanties bieden.

Beroep op professionele vaardigheden

Als een vraagstuk complex is ligt het anders. Ambtenaren geven in zulke gevallen aan dat zij volledig geautomatiseerde besluitvorming onrechtvaardiger vinden dan besluitvorming van een manager. Volgens ambtenaren komt dat omdat algoritmen niet in staat zijn belangrijke menselijke factoren in beschouwing te nemen. Dit betreft bijvoorbeeld creativiteit, empathie en het passen binnen een team. Bij zulke zaken vertrouwen zij de besluitvorming van een manager meer. Ambtenaren vinden specifiek het ‘gevoel’ en de vaardigheden van de manager belangrijk. Hierbij wordt dus een beroep gedaan op de professionele vaardigheden van de manager.

Een combinatie van algoritmen en managers wordt bij taken met lage complexiteit gezien als minder wenselijk dan volledig geautomatiseerde besluitvorming door een algoritme. In het geval van erg complexe taken wordt een combinatie alleen als positief beoordeeld als het alternatief is dat alleen de manager de beslissing neemt. In zulke gevallen kan een algoritme dienen als check-and-balance. De vraag is of dit ook het geval is als andere checks and balances al aanwezig zijn, zoals bijvoorbeeld bij 360 graden feedback.

Het zal dus nog even duren voordat algoritmen de taken van managers vervangen. Desalniettemin kunnen algoritmen worden ingezet voor niet-complexe taken zoals het toekennen van een reisvergoeding. Hierbij is de potentie van algoritmen het nemen van rechtvaardige beslissingen, terwijl de manager ontlast wordt.

Nagtegaal, R. (2020). The impact of using algorithms for managerial decisions on public employees’ procedural justice. Government Information Quarterly, 101536 (January 2021). www.sciencedirect.com/science/article/pii/S0740624X20303154?dgcid=author

Overheid gebruikt op grote schaal voorspellende algoritmes, ‘risico op discriminatie’, NOS, 29 mei 2020: https://nos.nl

Rosanna Nagtegaal is promovendus aan de Universiteit Utrecht, Departement Bestuurs- en Organisatiewetenschap. Voor haar onderzoek bestudeert zij behavioral public administration (BPA) voor analyse van (veranderend) gedrag van ambtenaren, met name in een digitale omgeving.

Afbeelding bovenaan is van Gerd Altmann: wiskundige formule