‘Making surveillance public’. Over AI en algoritmen en het effect op criminaliteit en maatschappij

In februari 2024 verschijnt het door Marc Schuilenburg geschreven boek Making Surveillance Public – Why you should be more woke about AI and algorithms. Het boek gaat over de enorme omvang die digitale surveillance aanneemt op manieren die vaak niet zichtbaar zijn, laat staan worden gecontroleerd. We dienen in gesprek te gaan met elkaar over surveillance, kunstmatige intelligentie en algoritmen.

Schuilenburg is hoogleraar Digitale surveillance aan de Erasmus Universiteit Rotterdam. Een eerder door hem geschreven boek is het in 2019 gepubliceerde Hysteria – een cultuurdiagnose, dat gaat over de gemoedstoestand van de moderne mens. Het is een kritische analyse van de ontwikkelingen in de samenleving die het mogelijk maken dat hysterie blijft functioneren. Schuilenburg wordt naar aanleiding van dit boek “een van de meest creatieve, ja zelfs vooruitziende critici van misdaad, media en politiek van dit moment”genoemd . Het boek is verschenen in Engelse vertaling: Hysteria – Crime, media, and politics (2021). Psycholoog Paul Verhaeghe vond het boek “een eyeopener voor wie even wil ontsnappen aan de drukte van alledag”.

Macht’, ’kennis’ en ‘ervaringen’

Welke vragen werpen kunstmatige intelligentie – AI – en algoritmen op voor de preventie en opsporing van criminaliteit? Marc Schuilenburg neemt afstand van het idee over AI waarin de veronderstelde technische en economische voordelen de boventoon voeren en sociologische aspecten als ‘macht’, ’kennis’ en ‘ervaringen’ onderbelicht blijven. Hij zwengelt de discussie aan over surveillance als machtsuitoefening en effent een pad voor onderzoek naar digitalisering en algoritmisering van surveillance en het effect daarvan op de criminologie. Hoe moeten we denken over het soort oplossingen dat nodig is in een radicaal veranderende controleomgeving?

Marc Schuilenburg is benoemd tot hoogleraar Digitale surveillance aan de Erasmus Universiteit per september 2021. Op 23 juni 2023 sprak hij zijn oratie uit: Making Surveillance Public: Waarom we in gesprek moeten over big data en algoritmes als het over veiligheid gaat. Een samenvatting daarvan is te lezen op de website van het Tijdschrift voor de Politie (TvdP). Schuilenburg stelt daarin dat surveillancetechnieken een prima hulpmiddel zijn bij de bestrijding van criminaliteit, maar alleen als de ervaring van praktijkprofessionals meer wordt betrokken bij de ontwikkeling ervan. De menselijke factor is onmisbaar, ook bij opsporing van criminaliteit.

Passages uit de oratie

Schuilenburg: “Wat hebben de Amazon videodeurbel Ring en de elektrische auto’s van Tesla met elkaar gemeen? Op het eerste gezicht niet zoveel, behalve dat het hierbij gaat om consumentengoederen waaraan een flinke prijskaart hangt. Enkele jaren geleden bracht Amazon de slimme deurbel Ring op de markt. De deurbel werkt via Wifi en wanneer iemand op de bel drukt, komt deze persoon in beeld op de smartphone waarna de bewoner kan besluiten om iemand wel of niet binnen te laten. In de elektrische auto’s van Tesla is een vergelijkbaar bewakingssysteem geïnstalleerd, de zogeheten Sentry Mode-functie. Met deze functie maken de ingebouwde camera’s van de Tesla niet alleen opnamen van het rijgedrag van de bestuurder, maar wordt ook alles buiten de auto in de gaten gehouden – van personen die de Tesla willen beschadigen of die een inbraakpoging doen. Hoe verschillend de Ring deurbel en de Sentry-bewakingsmodus in de Tesla ook lijken, ze komen overeen in dat het manieren zijn van digitale surveillance, waarbij grote hoeveelheden data met algoritmes worden ontsloten met als doel de samenleving veiliger te maken”.

Nieuwe infrastructuur

“Intussen zijn bewakingscamera’s uitgerust met automatische gezichtsherkenningstechnologie, waarbij de beelden van de camera worden vergeleken met afbeeldingen in enorme databases, van veroordeelden tot foto’s van voetbalhooligans.

Digitalisering is zo belangrijk geworden dat ze alle kenmerken heeft van een nieuwe infrastructuur. En, we merken niet op dat we worden gesurveilleerd omdat het dagelijkse praktijk is. Van luxe surveillanceproducten zoals de Fitbit en de Apple Watch, die boordevol sensoren zitten zoals een elektrische hartslagsensor en temperatuursensor waarmee je je gezondheid kunt monitoren, tot techproducten op de werkvloer, in de klas, de auto en in de woning. We merken niet op dat we worden gesurveilleerd omdat het dagelijkse praktijk is en surveillance onderdeel is geworden van routinehandelingen – net zoals we ons aankleden voordat we naar het werk gaan of een dag 24 uur telt. In dat opzicht doet surveillance denken aan de parabel van de Amerikaanse schrijver David Foster Wallace. Het verhaal gaat over twee jonge vissen die aan het zwemmen zijn en een oudere vis tegenkomen die de andere kant opzwemt. ‘Morning, boys. How’s the water?’ vraagt de oude vis. De twee jonge vissen zwemmen verder en als de oude vis uit zicht is, zeggen ze tegen elkaar: ‘ What the hell is water?’

De Amazon deurbel Ring en de Sentry Modebewakingsmodus in de auto’s van Tesla bewijzen dat er partijen boven, onder en naast de politie zich bezighouden met het veilig maken van de samenleving en dat doen met hun eigen bigdata-tools”.

Menselijke factor en waarden

“Techpartijen zoals Amazon en Google faciliteren steeds vaker en indringender de veiligheidszorg. Ze voeren politieachtige taken uit en werken daarbij met grote datasets en algoritmes, waarbij ze aan veel minder regels zijn gebonden dan de nationale staat en publieke partijen. Zo worden in Nederland volledig slimme steden opgetuigd door techbedrijven om criminaliteit te bestrijden.

Het gevaar hiervan is dat wijkbewoners minder op elkaar gaan letten met het gevolg dat de sociale cohesie in de wijk verdampt en daarmee de onderlinge controle. Terwijl juist sociale controlemechanismen belangrijk zijn in de strijd tegen criminaliteit en overlast – de menselijke factor met andere woorden.

Vanuit een publiek perspectief is het van belang dat de opsporing van criminaliteit zoveel mogelijk kan profiteren van de digitale tools. Maar dit betekent ook dat deze technieken beheersbaar en controleerbaar moeten worden gehouden binnen een kader van waarden waar onze democratische samenleving belang aan hecht. De ontwikkelingen op technologisch gebied gaan echter zo snel en worden door zo’n onstuimigheid gedreven, dat het zeer lastig is om met het huidige juridische instrumentarium er vat op te krijgen”.

Praktijkprofessionals

“Ik pleit ervoor om nieuwe technologie zo te ontwikkelen dat in de ontwerp- en ontwikkelfase al rekening wordt gehouden met datgene dat we als samenleving belangrijk vinden – waarbij ik denk aan zowel verankerende publieke waarden – privacy en non-discriminatie – als aan procesmatige waarden, transparantie en accountability bijvoorbeeld.
Ik denk in dit verband niet alleen aan de kennis van ethici en juristen. Wanneer mens en techniek principieel met elkaar zijn verweven, dan moet ook worden gekeken naar de manier waarop praktijkprofessionals zich in de praktijk tot surveillance verhouden en naar de ervaringen op grond waarvan ze invulling geven aan hun relatie met surveillance”.

Het gaat Schuilenburg voornamelijk om ervaringskennis – kennis die nog niet is gecodeerd in wetenschappelijke boeken, in procedures of in wiskundige formules: “Deze kennis is lastig te digitaliseren – ze is niet te vangen in bits en bytes – omdat ze is verbonden met persoonlijke ervaringen en zeer context-specifiek is. Daarmee staat ze tegenover de technische kennis van ICT-experts.
Voor veel praktische beroepen, denk aan politiewerk, is ervaringskennis (kennis die ontstaat door reflectie op eigen ervaringen) – van fundamenteel belang”.

Lezing Marc Schuilenburg in Oxford

Marc Schuilenburg geeft een lezing – tevens online –  in het All Souls College  in Oxford, Engeland over het thema van zijn boek: Making Surveillance Public: Why you should be more woke about AI and algorithms. De lezing vindt plaats op 15 februari 2024 en is georganiseerd door het Centre for Criminology, The Faculty of Law, University of Oxford. Zie voor meer info op: www.law.ox.ac.uk/content/event/making-surveillance-public-why-you-should-be-more-woke-about-ai-and-algorithms

International symposium in Rotterdam:
AI-experiences and Public safety

Op 8 en 9 april 2024 vindt er aan de Erasmus Universiteit Rotterdam een internationaal en transdisciplinair symposium plaats over surveillance-ervaringen. Lezingen worden gegeven door o.a. professor Peter Fussey, Universiteit van Essex/directeur CRISP, en professor Antoinette Rouvroy, Universiteit van Namen.

Het symposium biedt een platform voor onderzoekers, praktijkmensen, kunstenaars en deskundigen uit verschillende vakgebieden om inzichten, bevindingen en perspectieven te delen met betrekking tot het snijvlak van AI, surveillance, openbare veiligheid en menselijke ervaringen. Doel is te onderzoeken hoe AI-surveillance wordt ervaren door personen die bepalen, oordelen en emoties hebben met betrekking tot bekeken worden of toeschouwer zijn.
Zie voor  meer info over het symposium op EUR: www.eur.nl/en/news/call-abstracts-ai-experiences-and-public-safety

Referenties
Making Surveillance Public, door Marc Schuilenburg, is een uitgave van Eleven (= onderdeel van Koninklijke Boom uitgevers): www.elevenpub.com/en/100-15110_Making-Surveillance-Public

Oratie Marc Schuilenburg: ‘Making Surveillance Public’: www.eur.nl/evenementen/oratie-drmr-mb-marc-schuilenburg-2023-06-23

Oratie Marc Schuilenburg: ‘Making Surveillance Public’, door Jan van Balkom, Tijdschrift voor de Politie, 8 juli 2003: https://www.websitevoordepolitie.nl/oratie-marc-schuilenburg-making-surveillance-public/
Korte weergave oratie in PDF: Making Surveillance Public: https://beroepseer.nl
Marc Schuilenburg maakt deel uit van de redactie van Tijdschrift voor de Politie.

U P D A T E

‘Surveillance is een vast onderdeel van ons leven geworden, en dat zal alleen maar toenemen’, interview met Mark Schuilenburg, door Tom Grosfeld, Vrij Nederland, 20 februari 2024: www.vn.nl/surveillance-vast-onderdeel-van-ons-leven/

“We moeten algoracisme strafbaar stellen”, interview met hoogleraar Digital Surveillance Mark Schuilenburg, door Tom Grosfeld, Vrij Nederland, no 2, 2004