Het Duitse Constitutionele Hof (Bundesverfassungsgericht – BVG) heeft in een belangrijke uitspraak het gebruik van Palantir data-analysesoftware door de politie in Hessen en Hamburg ongrondwettig verklaard. De uitspraak op 16 februari 2023 vormt de afsluiting van een zaak die vorig jaar door het Gesellschaft für Freiheitsrechte (GFF) – de Duitse vereniging voor burgerrechten – is aangespannen en waarvan de hoorzittingen in december 2022 zijn begonnen. De aanklagers voerden aan dat de software kan worden gebruikt voor voorspellend politiewerk, waardoor het risico op fouten en discriminatie door de politie toeneemt.

‘Hessendata’

De Duitse deelstaat Hessen gebruikt de software sinds 2017, maar in Hamburg is deze nog niet in gebruik. De technologie wordt geleverd door Palantir, een Amerikaans data-analysebedrijf dat al vroeg steun kreeg van inlichtingendiensten, waaronder de CIA, FBI en NSA.
De zaak werd aangespannen namens elf eisers en berustte op het argument dat het softwareprogramma – met de naam ‘Hessendata’^*) – voorspellend politiewerk vergemakkelijkt door gegevens te gebruiken om profielen van verdachten samen te stellen voordat een misdaad is gepleegd. De rechtsgrondslag van de wetten die deze systemen toestaan werd in twijfel getrokken door het GFF, dat zei dat Hessen en Hamburg niet duidelijk hadden gemaakt welke bronnen de politie kon gebruiken voor het verkrijgen van gegevens of hoeveel en op welke gronden datamining door wetshandhavers mocht worden toegepast.

Volgens de rechtbank zijn de aan de politie in Hessen verleende bevoegdheden via het Hessendata-platform duizenden keren per jaar gebruikt.

Vertegenwoordigers van de staat evenwel hebben aangevoerd dat de software essentieel is voor het voorkomen van criminaliteit en gewoon gegevens verzamelt en verwerkt die elders zijn verzameld. Palantir, waarvan het Gotham AI-systeem Hessendata^*) is afgeleid, heeft gezegd dat het alleen de software voor gegevensanalyse levert en niet de gegevens zelf.
“Palantir brengt de software naar de gegevens, niet de gegevens naar de software”, aldus Jan Hiesserich, vice-bestuursvoorzitter Strategy and Communications van Palantir tegen de Duitse krant Handelsblatt. “Het zijn onze klanten die bepalen welke gegevens relevant zijn voor het onderzoek in overeenstemming met de relevante wettelijke bepalingen”.

De systemen worden ongrondwettelijk geacht

Maar op 16 februari 2023 heeft het BVG in Karlsruhe wetten verworpen die de politie een wettelijke basis verschaften voor de verwerking van opgeslagen persoonsgegevens door middel van geautomatiseerde gegevensanalyse, in het geval van Hessen, of geautomatiseerde gegevensinterpretatie, in Hamburg.

De systemen worden ongrondwettelijk geacht omdat zij het recht op informatieve zelfbeschikking hebben geschonden. “Gezien de bijzonder ruime formulering van de bevoegdheden, zowel wat de gegevens als wat de methoden betreft, blijven de redenen voor inmenging ver achter bij de grondwettelijk vereiste drempel van een identificeerbaar gevaar”, aldus het Hof in een verklaring.

Palantir is in 2003 opgericht door onder anderen Peter Thiel, de PayPal- en Facebook-investeerder. Het is een dataminingbedrijf dat zich specialiseert in overheidssurveillance. De naam Palantir is ontleend aan het door J.R.R. Tolkien geschreven  epos The Lord of the Rings. De palantíri (enkelvoud palantír), ook bekend als de Zeven stenen of de Zeven zieners, zijn bolvormige stenen voorwerpen die werden gebruikt voor communicatie en het verzamelen van inlichtingen.

Noot
^*) Hessendata: https://atlas.algorithmwatch.org/datenbank/hessendata/

German Constitutional Court strikes down predictive algorithms for policing, door Molly Killeen, EURACTIV, 16 februari 2023: www.euractiv.com/section/artificial-intelligence/news/german-constitutional-court-strikes-down-predictive-algorithms-for-policing/
EURACTIV is een onafhankelijk pan-Europees medianetwerk gespecialiseerd in EU-zaken, opgericht in 1999. EURACTIV stimuleert en bevordert beleidsdebatten tussen belanghebbenden – overheid, bedrijfsleven en maatschappelijk middenveld. EURACTIV verslaat beleidsprocessen voorafgaand aan besluiten en vat de kwesties samen zonder partij te kiezen.

Regelungen in Hessen und Hamburg zur automatisierten Datenanalyse für die vorbeugende Bekämpfung von Straftaten sind verfassungswidrig, Persbericht Nr. 18/2023 – 16 februari 2023: www.bundesverfassungsgericht.de/SharedDocs/Pressemitteilungen/DE/2023/bvg23-018.html

EU fundamental rights agency warns against biased algorithms, door Luca Bertuzzi, EURACTIV, 8 december 2022: www.euractiv.com/section/artificial-intelligence/news/eu-fundamental-rights-agency-warns-against-biased-algorithms/

Afbeelding bovenaan is van Gerd Altmann