AI-verordening treedt officieel in werking. Eerste uitgebreide wet over kunstmatige intelligentie ter wereld

Per augustus 2024 treedt de AI-verordening in werking, de eerste uitgebreide wet over kunstmatige intelligentie^*) ter wereld. In de AI-verordening staan de regels voor het verantwoord ontwikkelen en gebruiken van AI door bedrijven, overheden en andere organisaties.
De verordening gaat gefaseerd in en is op 2 augustus 2027 geheel van kracht. Een aantal AI-systemen is vanaf 2 februari 2025 al verboden. Weer andere AI-systemen zijn verplicht vanaf 2 augustus 2026 aan extra vereisten te voldoen.

Grondrechten beschermd

De AI-verordening is er om ervoor te zorgen dat iedereen in Europa erop kan vertrouwen dat AI-systemen veilig werken en dat grondrechten beschermd zijn. Ook al zijn er veel systemen met weinig risico’s en zijn er allerlei voordelen aan AI, er is ook een hele andere kant.
Bestaande wetten zoals de Algemene verordening gegevensbescherming (AVG) en de Wet politiegegevens (Wpg) bieden al bescherming. Bijvoorbeeld als AI-systemen worden gebruikt om persoonsgegevens te verwerken. Maar dat is onvoldoende om alle risico’s aan te pakken die bij AI komen kijken. Onverantwoord gebruik van AI kan bijvoorbeeld leiden tot discriminatie, beperkingen van onze vrijheden en misleiding en uitbuiting van mensen. De AI-verordening helpt ervoor te zorgen dat ontwikkelaars van AI-systemen risico’s aanpakken en dat er toezicht op is.

Wat regelt de AI-verordening?

De AI-verordening deelt AI-systemen in aan de hand van risicogroepen. Hoe hoger het risico voor burgers en de samenleving als geheel, hoe strenger de regels. Belangrijke punten die de wet bijvoorbeeld regelt zijn dat:

♦  toepassingen die een onaanvaardbaar risico met zich meebrengen worden verboden;
♦  toepassingen die een hoog risico vormen aan strengere regels worden gebonden. Voorbeelden zijn AI-systemen die bedoeld zijn voor werving- en selectie of voor rechtshandhaving.
♦  er toezichthouders worden aangewezen die het naleven van de verordening kunnen handhaven, organisaties kunnen verplichten een product uit de handel te nemen en boetes kunnen opleggen.

Voor wie gelden de regels in de AI-verordening?

De AI-verordening is zowel gericht op organisaties die AI aanbieden als op organisaties die AI gebruiken. Van overheid en zorginstelling tot het mkb.
In de AI-verordening staan ook extra regels voor overheden en uitvoerders van publieke taken. Zij behoren bij systemen met een hoog risico altijd een zogenoemde grondrechteneffectbeoordeling te doen. Deze organisaties dienen hun gebruik vanaf 2 augustus 2026 te registreren in de Europese database voor AI-systemen.

Aanbieders van AI-modellen voor algemene doeleinden

Voor aanbieders van ‘AI-modellen voor algemene doeleinden’ gaan er ook regels gelden. Deze modellen staan ook wel bekend als ‘general purpose AI’. Het gaat dan om de modellen die de basis vormen voor andere toepassingen, bijvoorbeeld de taalmodellen die bestaan voor AI-chatbots.
De ontwikkelaars van deze modellen zijn onder meer verplicht om technische documentatie over hun product op te stellen, het systeem ‘uitlegbaar’ te maken en ze moeten beleid hebben om auteursrechten te beschermen. Handhaving zal voor het grootste deel op Europees niveau plaatsvinden, door het Europese AI Office.

Noot
^*) AI = Artificial Intelligence = Kunstmatige intelligentie of KI

Referenties

AI-verordening gaat in: werk aan de winkel voor ontwikkelaars en gebruikers, Autoriteit Persoonsgegevens, 31 juli 2024: www.autoriteitpersoonsgegevens.nl/actueel/ai-verordening-gaat-in-werk-aan-de-winkel-voor-ontwikkelaars-en-gebruikers

AI-verordening: www.autoriteitpersoonsgegevens.nl/themas/algoritmes-ai/ai-verordening

Risicogroepen AI-verordening: www.autoriteitpersoonsgegevens.nl/themas/algoritmes-ai/ai-verordening/risicogroepen-ai-verordening

Hieronder Schema inwerkingtreding AI-verordening: augustus 2024 – augustus 2030

Afbeelding helemaal bovenaan is van Freepik