De EU AI Act: wat betekent dit concreet voor uw gemeente?

De Europese AI-verordening, beter bekend als de AI Act, is in 2024 aangenomen en treedt gefaseerd in werking. Voor gemeenten is de belangrijkste deadline 2 augustus 2026: vanaf dat moment moeten AI-systemen met een hoog risico voldoen aan strenge eisen rond transparantie, menselijk toezicht en datakwaliteit. En gemeenten gebruiken meer hoogrisico-systemen dan ze misschien denken.

Volgens de classificatie van de AI Act vallen systemen die worden ingezet voor het beoordelen van uitkeringen, het toewijzen van woningen of het signaleren van fraude in de categorie "hoog risico". Dat betekent dat gemeenten voor deze systemen een conformiteitsbeoordeling moeten uitvoeren, een gedetailleerde risicoanalyse moeten vastleggen, en menselijk toezicht moeten garanderen. De VNG heeft hiervoor het Governancekader AI en algoritmes ontwikkeld, dat gemeenten helpt om aan deze eisen te voldoen.

In de praktijk begint goede voorbereiding met een inventarisatie. Welke AI-systemen gebruikt uw gemeente al, bewust of onbewust? Denk niet alleen aan de grote systemen, maar ook aan de Copilot-licentie die medewerkers gebruiken of de chatbot op de website. De gemeente Beuningen heeft als een van de eersten een formeel AI- en Algoritmebeleid opgesteld voor de periode 2025-2028, inclusief vrijwillige registratie van algoritmes in het landelijke Algoritmeregister.

Naast de juridische vereisten vraagt de AI Act ook om een culturele verschuiving. Ambtenaren moeten begrijpen wat AI doet en wat niet, en moeten in staat zijn om de output van AI-systemen kritisch te beoordelen. Dat vraagt om training en bewustwording op alle niveaus, van de balie tot de bestuurstafel. De verordening schrijft expliciet voor dat organisaties zorgen voor voldoende AI-geletterdheid bij medewerkers die met deze systemen werken.

De kosten van niet-naleving zijn niet gering: boetes kunnen oplopen tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet. Maar belangrijker dan de boetes is het vertrouwen van inwoners. Gemeenten die transparant zijn over hun gebruik van AI en die aantoonbaar zorgvuldig omgaan met data, bouwen aan een relatie met inwoners die verder reikt dan wat de wet voorschrijft.