Eerste ‘Rapportage Algoritmerisico’s Nederland’. Waarschuwt o.m. voor inzet meest recente AI-innovaties
Innovaties zoals intelligente chatbots en gebrekkig inzicht in bestaande algoritmes zijn op dit moment de belangrijkste algoritmerisico’s. Dit blijkt uit de eerste Rapportage Algoritmerisico’s Nederland van de nieuwe directie Coördinatie Algoritmes van de Autoriteit Persoonsgegevens (AP).
Voor meer grip op algoritmes en artificiële intelligentie (AI), moeten overheid en bedrijfsleven nog grote stappen maken. Twee uitdagingen komen op dit moment samen. Ten eerste de snelheid waarmee AI-innovaties de samenleving binnendringen, zoals slimme chatbots. Deze innovaties bieden nieuwe kansen, maar ook nieuwe risico’s.
Ten tweede staat Nederland voor de opgave om inzicht te krijgen in het gebruik van hoogrisico-algoritmes: algoritmes die grote impact hebben op het leven van mensen. In afwachting op Europese wetgeving, zijn nu al concrete acties van de overheid en het bedrijfsleven wenselijk.
Actie vereist
AP-voorzitter Aleid Wolfsen: “Algoritmes en AI kunnen geweldig nuttig zijn, maar brengen ook risico’s met zich mee. Bijvoorbeeld het risico op discriminatie, oneerlijke uitkomsten, misleiding en gebrek aan transparantie en uitlegbaarheid. Om de kansen te benutten, moeten de risico’s goed beheerst worden. Het bewustzijn hierover neemt toe, maar veel overheden en bedrijven zijn nog zoekende naar de juiste manier om dit te doen. Daarom is duidelijke regelgeving nu cruciaal. We roepen het demissionaire kabinet op om hierin voortgang te blijven maken. Organisaties kunnen zelf al een stap zetten door meer personeel en scholing in te zetten in de bewaking van algoritmes”.
Focus op hoogrisico-systemen
Om grip te krijgen op algoritmes en AI is overkoepelend zicht op het gebruik door de overheid en door (publieke en private) maatschappelijke organisaties cruciaal. De AP is daarom positief over het algoritmeregister voor overheidsorganisaties. Maar baken het af, en prioriteer hierbij de algoritmes met een hoog risico om het behapbaar te houden.
De AP adviseert om alvast aan te sluiten bij de (verwachte) classificatie van hoogrisico-systemen onder aankomende Europese wetgeving die nu in onderhandeling is. De AP roept het kabinet op om overheidsorganisaties één jaar te geven om het algoritmeregister verplicht te vullen met alle hoogrisico-algoritmes.
Behalve voordelen ook nadelen in beeld brengen
Verder waarschuwt de AP voor de inzet van de meest recente AI-innovaties. Nieuwe AI-toepassingen staan volop in de aandacht en het is verleidelijk om hiermee te experimenteren. Bijvoorbeeld bij de beoordeling van sollicitanten, bij het opsporen van fraude, bij het beoordelen van klanten als die iets willen kopen of een lening willen aangaan, of bij het beoordelen van patiënten.
Maar dat kan alleen op een veilige manier als de risico’s adequaat worden beheerst. Zolang dat niet het geval is, doen organisaties er verstandig aan terughoudend te zijn. Breng voorafgaand aan de inzet, naast de voordelen, ook goed de risico’s in kaart.
Rapportage is primeur
De Rapportage Algoritmerisico’s Nederland is een eerste totaaloverzicht van ontwikkelingen, risico’s en uitdagingen, bijeengebracht vanuit het overkoepelende risicoperspectief. De AP gaat vanaf nu elk half jaar een Rapportage Algoritmerisico’s Nederland publiceren, om daarmee een beeld te geven van recente ontwikkelingen, actuele risico’s en bijbehorende uitdagingen.
Algoritmetoezicht
De AP is sinds begin 2023 de coördinerende autoriteit voor risicosignalering, advisering en samenwerking in het toezicht op algoritmes. Nederland loopt hiermee internationaal voorop. De komende jaren wordt wereldwijd verder gewerkt aan standaardisering en coördinatie van regelgeving en toezicht op algoritmes en AI, bijvoorbeeld op het niveau van de G7, OESO, Unesco, Raad van Europa en de Europese Unie. Periodieke rapportages over algoritmerisico’s zijn een belangrijk instrument voor deze toezichtaanpak.
Downloaden Rapportage Algoritmerisico’s Nederland, Autoriteit Persoonsgegevens, juli 2023: www.autoriteitpersoonsgegevens.nl/documenten/rapportage-algoritmerisicos-nederland
Primeur: eerste ‘Rapportage Algoritmerisico’s Nederland’, Autoriteit Persoonsgegevens, 17 juli 2023: www.autoriteitpersoonsgegevens.nl/actueel/primeur-eerste-rapportage-algoritmerisicos-nederland
Coördinatie toezicht algoritmes & AI: www.autoriteitpersoonsgegevens.nl/themas/algoritmes-ai/coordinatie-toezicht-algoritmes-ai
U P D A T E
AI op de werkvloer: DTC en politie delen tips, Digital Trust Center, Ministerie van Economische Zaken, 5 december 2023: www.digitaltrustcenter.nl/nieuws/ai-op-de-werkvloer-dtc-en-politie-delen-tips
Algoritmetoezicht Autoriteit Persoonsgegevens is wassen neus, door W.J. Jongejan, Zorg ICT Zorgen, 28 juli 2023: https://zorgictzorgen.nl/algoritmetoezicht-autoriteit-persoonsgegevens-is-wassen-neus/
“Het ziet er dus naar uit dat de AP ten aanzien van de algoritmes vooralsnog voor lange tijd een tandeloze toezichthouder zal zijn als er niets verandert aan de voorwaarden waarbinnen zij moet opereren.
In de tussentijd maakt het gegeven dat er op papier nu een “echte“ toezichthouder voor algoritmes bestaat dat bedrijven, instituties of overheden er mee kunnen schermen dat de AP geen bezwaar hebben heeft gemaakt tegen bepaalde algoritmes. Daarmee legitimeert men het gebruik van die algoritmes en verwordt de AP tot een “officiële” legitimatie-machine.
Het is betreurenswaardig dat de overheid een toezichthouder creëert die de facto vleugellam is. Evenzo is het betreurenswaardig dat de AP akkoord is gegaan met een substantiële functie-uitbreiding zonder passend budget.
Zo verwordt toezicht tot een wassen neus”.
Geef een reactie