Privacy & Toezicht - De Stand

De overheid zet steeds vaker algoritmes in voor cruciale beslissingen, van fraudebestrijding tot sociale voorzieningen. Hoewel dit efficiëntie belooft, leidden mislukkingen tot grote schade voor burgers. Dit roept een fundamentele vraag op: wie controleert de onzichtbare systemen die over ons oordelen en is het toezicht wel sterk genoeg om onze grondrechten te beschermen?

Barsten in het digitale fundament

Het debat over de risico's van algoritmes is in Nederland geen abstracte discussie. Twee geruchtmakende zaken, de Toeslagenaffaire en de rechtszaak tegen het Systeem Risico Indicatie (SyRI), hebben pijnlijk duidelijk gemaakt hoe geautomatiseerde systemen diepgaande mensenrechtenschendingen kunnen veroorzaken. Dit zijn geen hypothetische gevaren, maar gedocumenteerde mislukkingen van de staat die de context vormen voor elke discussie over privacy en toezicht.

De Toeslagenaffaire staat in het collectief geheugen gegrift als een van de grootste schandalen in de recente geschiedenis. Een datagedreven aanpak van fraudebestrijding door de Belastingdienst speelde een verwoestende rol. De parlementaire ondervragingscommissie concludeerde in haar rapport Ongekend Onrecht dat de grondrechten van burgers waren geschonden. Het systeem was ontworpen om kleine fouten als fraude te behandelen, wat leidde tot een genadeloze 'alles-of-niets'-benadering zonder ruimte voor menselijke maat.

 De technologische spil in de affaire was de Fraude Signalering Voorziening (FSV), een applicatie die later door de Autoriteit Persoonsgegevens (AP) onrechtmatig werd verklaard. De FSV functioneerde als een illegale zwarte lijst waarin persoonsgegevens zonder wettelijke grondslag werden verwerkt. Zelfs na de onthullingen bleken de problemen hardnekkig; de Algemene Rekenkamer signaleerde later nog steeds ernstige privacyproblemen bij algoritmes die niet voldeden aan de Algemene verordening gegevensbescherming (AVG). Het schandaal werd verergerd door een systemisch falen in de informatiehuishouding, waardoor cruciale dossiers versnipperd of vernietigd werden.

De affaire was echter meer dan een technologisch falen; het was een symptoom van institutionele blindheid. Het algoritme fungeerde als een versneller voor een politieke en ambtelijke cultuur die "blind voor mens en recht" was. De technologie versterkte een bestaand institutioneel gebrek en gaf een schijn van objectiviteit aan beslissingen die fundamenteel onrechtvaardig waren.

De rechter corrigeert de staat

Een andere cruciale episode is de rechtszaak tegen het Systeem Risico Indicatie (SyRI). Dit systeem koppelde persoonsgegevens van verschillende instanties om de kans op fraude met uitkeringen in specifieke wijken te voorspellen. Een coalitie van maatschappelijke organisaties spande een rechtszaak aan tegen de staat, met het argument dat SyRI een instrument voor massasurveillance was. In een baanbrekende uitspraak oordeelde de rechtbank Den Haag in 2020 dat de wetgeving die SyRI mogelijk maakte, in strijd was met het Europees Verdrag voor de Rechten van de Mens (EVRM), dat het recht op een privéleven beschermt. Het systeem werd als onvoldoende transparant en verifieerbaar beschouwd. De geheimhouding rondom het risicomodel maakte het voor burgers onmogelijk om te begrijpen waarom zij als risico werden aangemerkt.

De uitspraak stelt een belangrijk juridisch precedent: ondoorzichtigheid in algoritmisch bestuur kan een schending van mensenrechten zijn. Een systeem kan niet "noodzakelijk in een democratische samenleving" zijn als de werking ervan niet controleerbaar is. De rechter legt hiermee de lat hoog voor toekomstige overheidsalgoritmes. Het is niet voldoende dat een systeem effectief is; het moet ook aantoonbaar eerlijk, transparant en controleerbaar zijn.

Een toezichthouder met te weinig middelen

In het hart van de bescherming van persoonsgegevens staat de Autoriteit Persoonsgegevens (AP), de onafhankelijke toezichthouder die waakt over de naleving van de AVG. De effectiviteit van deze digitale waakhond is echter een punt van zorg, gekenmerkt door een groeiend takenpakket en chronisch ontoereikende middelen. De AP worstelt met aanhoudende tekorten in budget en personeel, waardoor er "zo goed als geen ruimte" is om op eigen initiatief proactieve onderzoeken te starten.

Deze onderfinanciering is een consistente politieke keuze die een 'toezichtstekort' heeft gecreëerd. Terwijl de overheid de inzet van algoritmes stimuleert, laat ze de belangrijkste toezichthouder onderbemand. Dit creëert een structurele onbalans die toekomstige schandalen waarschijnlijk maakt, zeker nu de AP in haar eigen Rapportage AI- & Algoritmerisico’s Nederland concludeert dat de risico's van AI toenemen en de beheersing achterblijft.

De overheid mist cruciale kennis

De effectiviteit van toezicht hangt ook af van de capaciteit van de overheid zelf om algoritmes verantwoord te beheren. De Wetenschappelijke Raad voor het Regeringsbeleid (WRR) concludeert dat de overheid kampt met een kritiek tekort aan ICT-expertise en te afhankelijk is van externe inhuur. De diagnose is er een van "slimme mensen in domme systemen", wat impliceert dat de organisatiestructuur zelf een effectief gebruik van kennis in de weg staat.

Hoe dit gebrek aan expertise zich vertaalt naar de praktijk, blijkt uit onderzoek van de Algemene Rekenkamer. In het rapport Algoritmes getoetst voldeed een meerderheid van de negen onderzochte overheidsalgoritmes niet aan de basisvereisten. Een cruciaal probleem is het gebrek aan verantwoording wanneer algoritmes worden ingekocht. Dit creëert een vicieuze cirkel: de overheid besteedt uit omdat ze de kennis niet heeft, maar daardoor kan ze het uitbestedingsproces niet effectief sturen.

Europa trekt de teugels aan

Terwijl Nederland worstelt met zijn tekortkomingen, ontvouwt zich op Europees niveau een nieuw wettelijk kader. De AI Act, die in 2024 is gepubliceerd, introduceert een risicogebaseerde aanpak voor de regulering van kunstmatige intelligentie. AI-systemen worden gecategoriseerd op basis van risico, met bijbehorende verplichtingen. Praktijken met een onaanvaardbaar risico, zoals 'social scoring' door overheden, worden verboden.

Systemen met een hoog risico, zoals die voor rechtshandhaving, migratie en toegang tot sociale voorzieningen, worden onderworpen aan strenge eisen voordat ze mogen worden ingezet. Dit omvat risicobeoordelingen, het gebruik van hoogwaardige data, menselijk toezicht en een hoog niveau van nauwkeurigheid. Voor systemen met een beperkt risico, zoals chatbots, gelden transparantieverplichtingen. Voor de meeste AI-toepassingen, zoals spamfilters, komen er geen nieuwe regels.

Een nieuwe standaard voor bestuur

Nederland staat op een kritiek punt. Er gaapt een kloof tussen de ambitie van een digitale koploper en de realiteit van het bestuurlijk vermogen. Grote schandalen zijn symptomen van systemische zwaktes in expertise en toezicht. De strenge Europese regelgeving, aangevoerd door de AI Act, dwingt een hogere standaard van verantwoording af. Dit moment biedt een scherpe keuze: een fundamentele hervorming van de aanpak, of het risico lopen een nieuw tijdperk van "ongekend onrecht" binnen te slapen. Welke rol moeten burgers spelen om te zorgen dat waarden als rechtvaardigheid en menselijke waardigheid niet uit de code worden geschreven?