Ons gedrag aanpassen aan surveillance en voortaan je kind verbieden de handstand te doen in de openbare ruimte

Maxim Februari gaf de ROB-lezing van 2020 de titel mee: Hoe de inzet van data-technologie het karakter en de werking van het recht verandert. De Raad voor het Openbaar Bestuur (ROB) is bezig met de voorbereiding van een advies, voorlopig genoemd Verantwoord sturen met data, waarmee de Raad wil bijdragen aan de (politieke) discussie over de legitimiteit van gedragssturing met data.
Maxim Februari is filosoof, jurist, schrijver en columnist. Hij begon zijn lezing met een voorbeeld, het SyRI-systeem, een wettelijk instrument dat de overheid gebruikte om persoonsgegevens van burgers aan elkaar te koppelen. Tegen SyRI (Systeem Risico Indicatie), was een rechtszaak aangespannen dat door eisers, onder wie Maxim Februari, in februari 2020 werd gewonnen.

Februari:
“SyRI was een fraude opsporingssysteem dat gebruik maakte van alle, maar dan ook echt alle, gegevens die over ons als burgers zijn verzameld. En volgens de Raad van State waren dat er zoveel dat er nauwelijks een persoonsgegeven te bedenken is dat er niet onder valt. Voor zover bekend was dit zelfs wereldwijd de eerste rechtszaak waarin bezwaar werd gemaakt tegen datasturing met een beroep op de mensenrechten. En we wonnen dus. De rechter verklaarde SyRI in strijd met het Europees Verdrag voor de rechten van de mens. Goed dat was in februari. Maar ja, de staat geeft niet op want er ligt meteen al een voorstel van de regering voor een nieuwe wet, de Wet gegevensverwerking samenwerkingsverbanden. En die gaat nog verder dan de vorige. En dan kun je als coalitie van burgers en burgerrechten-organisaties, mensenrechtenadvocaten wel dapper opnieuw gaan procederen, maar iets aan die gang van zaken klopt niet.
Datasturing is niet minder dan een revolutie en de rechtsbescherming van de burger daarin moet niet afhangen van een handjevol verontruste burgers en organisaties, en van de vraag of ze überhaupt geld bij elkaar kunnen sprokkelen voor een rechtszaak.
De staat moet zelf geïnteresseerd zijn in bescherming van de burgers. Niet een systeem of een app in gebruik nemen en dan maar zien of iemand puf heeft om daar protest tegen aan te tekenen. Maar goed, sinds februari…
en vervolgens sinds maart, sinds het gedoe met de corona-apps lijkt er wel wat beweging in de zaak te komen. En hier en daar hoor je zowaar tegenwoordig een roep om een juridisch kader”.

Een Disneyland zonder kinderen

Een ander voorbeeld is het nieuwe, op Schiphol in gebruik genomen veiligheidssysteem waarmee je verdachte bewegingen kan opsporen. Volgens een hoogleraar hoeft men zich daar niet ongerust over te maken want zo’n systeem kan alleen maar afwijking in gedrag herkennen. Februari:
“Ziet het systeem bijvoorbeeld iets raars dan moet er nog steeds een mens aan te pas komen om te beslissen of er echt een gevaar is. Of, zei hij, dat bijvoorbeeld een kind de handstand doet. Toen ik dit las kreeg ik een duidelijk visioen van het chilling effect, het aanpassen van je gedrag aan surveillance. Want je kunt je voorstellen dat mensen in het vervolg hun kinderen op Schiphol verbieden nog de handstand te doen omdat ze er last mee krijgen, en oponthoud. Waarna de handstand voorgoed uit ons straatbeeld zal verdwijnen.

Een Disneyland zonder kinderen, sommige bestuurders noemen dat een veilige samenleving. Maar het verzamelen van data verandert niet alleen ons gedrag, menselijk gedrag, het verandert ook het onderzoek naar menselijk gedrag, de gedragswetenschap en de productie van kennis en dat is een punt dat ik zelf wezenloos en mateloos interessant vind”.

Rechtstatelijkheid

Volgens Februari heeft de overheid een achterstand opgelopen op de technologie. Bestuurders blijken absoluut niet op de hoogte van de juridische impact van het verzamelen van data: “Het gaat niet om privacy. Het onderwerp waar bestuurders en ambtenaren ‘s nachts van wakker zouden moeten liggen is rechtsstatelijkheid van deze nieuwe, geautomatiseerde staat. De geautomatiseerde staat is een staat die wordt bestuurd met behulp van data, code en software. Goed dit is het heden, je hebt bestuurders die spreken nog met een vies gezicht over privacy, en de regering interesseert zich niet diepgaand voor het onderwerp van de rechtsstatelijkheid. Maar in beschouwelijke kringen wordt gelukkig volop nagedacht over de rechtsbescherming van de burger. Er is een beter juridisch raamwerk nodig zeggen de deskundigen. En voor een juridisch raamwerk heb je een ethisch raamwerk nodig, want je wilt dat die datasturing wordt bepaald door publieke waarden, en niet door de mogelijkheden van de IT”.

De hype en de horror

Februari zegt dat er twee manieren zijn om naar de toekomst te kijken: de hype en de horror.
“De hype is de toekomstvisie van de techno-optimisten die denken dat je alle sociaal-politieke problemen kunt oplossen door simpelweg software los te laten op dataverzamelingen. Alles komt vanzelf goed, als je de straten maar volhangt met programma’s voor gezichtsherkenning. De bestuurlijke wereld helt naar deze kant over. Ik kom de visie althans veel tegen tijdens mijn bezoeken aan de wereld van het openbaar bestuur. En wee degenen die komen met aarzelingen over rechtvaardigheid. Die zijn, zoals het verwijt tot mijn verbazing of misschien zelfs verbijstering dit jaar nog steeds luidt: bang voor de stoomtrein.

Het andere extreem is de horror. Het is het beeld van de Dickensiaanse dystopie. Dat is een term die ik tegenkwam in The Guardian in een artikel over algoritmes die de armen straffen. Armen die het zwaarst getroffen worden door het gebruik van algoritmen. De Amerikaanse politicologe Virginia Eubanks noemt het the digital poorhouse, het algoritmische armenhuis. In deze visie leiden datasturing en geautomatiseerde besluitvorming tot armoede, ongelijkheid, discriminatie en algeheel verlies aan rechten. En ons Nederlands debacle met de belastingtoeslagen past natuurlijk naadloos in dit Dickensiaanse beeld van het armenhuis.
Hype en horror, afzonderlijk zijn die twee misschien allebei geen volledige afbeelding van de werkelijkheid, maar er zijn redenen om aan te nemen dat ze allebei tegelijkertijd kloppen. Het glas is tegelijkertijd halfvol en halfleeg. Door de inzet van datatechnologie kunnen we tegelijkertijd snelle oplossingen verwachten voor echte informatieproblemen en een verergering van de mensenrechtensituatie. Of misschien zelfs het verdwijnen van het mensenrecht.
We kunnen én welvaart én armoede verwachten. En efficiënter bestuur, én teloorgang van het recht. En de vraag of je meer aandacht moet besteden aan de hype of aan de horror, is natuurlijk maar net de vraag wat je belangrijk vindt in het leven. Mij lijkt het dat de staat, tot nu toe in de ban van de hype, wel wat meer aandacht zou mogen besteden aan de horror. Dus dat is mijn vriendelijke advies aan de staat, zolang die nog bestaat”.

In de lezing kwam nog meer aan de orde, zoals het verdwijnen van de staat en de opkomst  van de geprivatiseerde maatschappij waarin nationale en lokale politici en bestuurders de constitutionele rechten van burgers overboord kieperen uit pure technosolutionistische naïviteit.

De uitdaging, aldus voorzitter Han Polman van ROB tot slot, zal zijn of wij ons bewustzijn moeten vergroten of vragen moeten stellen. Of zijn we eraan toe een aantal nieuwe normen te stellen met elkaar?

Op Maxim Februari’s lezing volgde een co-referaat van Martiene Branderhorst, lid van de Raad voor Openbaar Bestuur.

Eind 2020 verschijnt de lezing van Maxim Februari in boekvorm. Een exemplaar kan worden aangevraagd via e-mail met vermelding van naam en adres aan: info@raadopenbaarbestuur.nl

Klik op de afbeelding hieronder voor terugkijken op video van de ROB-lezing van Maxim Februari, gehouden op 1 oktober 2020 in Den Haag.

Iris Oversier heeft alles wat gezegd en bediscussieerd was tijdens de lezing en het co-referaat samengevat in een tekening. Zie afbeelding helemaal bovenaan (detail).