calendar tag arrow download print
Doorgaan naar inhoud

Handreiking aan de Eerste Kamer voor meer grip op AI bij de overheid

Artikel
29 september 2022

Foto: David Rozing / ANP

Image
Algoritmische overheidsbesluitvorming

Algoritmes spelen een groeiende rol bij besluiten van de overheid. Wat kan de Eerste Kamer doen om wetgeving hierover beter te toetsen? Het Rathenau Instituut heeft de opties hiervoor op een rij gezet.

In het kort

  • Het Rathenau Instituut ondersteunt een verdiepingstraject van de Eerste Kamer over algoritmische besluitvorming bij de overheid.
  • De vraag van de Eerste Kamer is hoe zij meer grip kan krijgen op wetgeving waarin AI een rol speelt bij besluiten van de overheid.
  • Het Rathenau Instituut heeft de opties voor de Eerste Kamer, die diverse deskundigen hebben aangedragen, op een rij gezet.

Toetsen van wetgeving

Algoritmes en AI spelen steeds vaker een rol bij besluiten die de overheid neemt. Dat is niet zonder controverse gebleven, bijvoorbeeld vanwege de toeslagenaffaire en de discriminerende effecten, inbreuk op privacy van burgers of impact op andere grond- en mensenrechten van systemen zoals CAS en SyRI.

In 2020 startte een werkgroep van de Eerste Kamer een verdiepingstraject over artificiële intelligentie (AI) en overheidsbesluitvorming. De vraag van de werkgroep AI was, wat de Eerste Kamer kan doen om wetgeving over algoritmische besluitvorming van de overheid beter te toetsen op rechtmatigheid, uitvoerbaarheid en handhaafbaarheid.

Handreiking aan de Eerste Kamer

De opties die de Eerste Kamer heeft om meer grip te krijgen op AI bij de overheid, en die met een aantal deskundigen in oktober 2021 zijn besproken, heeft het Rathenau Instituut opgetekend in Algoritmische overheidsbesluitvorming. Handreiking aan de Eerste Kamer. De Eerste Kamer kan bijvoorbeeld een verbod instellen om bepaalde AI-besluiten te nemen zonder menselijke tussenkomst. Daarnaast is het een optie om wettelijk vast te leggen aan welke eisen algoritmes moeten voldoen, zodat de beslissingen van een AI-systeem voldoende uitlegbaar zijn.

De Tweede Kamer kent sinds 2021 een vaste commissie voor Digitale Zaken. Deskundigen geven de Eerste Kamer ter overweging mee om in navolging van de Tweede Kamer een vaste commissie Digitale Zaken op te zetten. Zo kan de Eerste Kamer de toetsing van wetgeving over AI bij de overheid versterken.

Grip op AI bij de overheid

Het Rathenau Instituut heeft het verdiepingstraject van de werkgroep AI in de Eerste Kamer de afgelopen jaren ondersteund. Eerder schreven we de notitie Grip op algoritmische besluitvorming bij de overheid. De rol van de Eerste Kamer. De notitie bevat een overzicht van de zorgen over algoritmische besluitvorming en relevante beleidsinitiatieven, en benoemde onderwerpen om verder over door te praten met deskundigen.

In oktober 2021 vonden een aantal deskundigenbijeenkomsten in de Eerste Kamer plaats die specifiek gingen over manieren waarop de Eerste Kamer haar grip op AI bij de overheid kan versterken.

In totaal bespreekt het Rathenau Instituut in de Handreiking 10 maatregelen die door de deskundigen zijn voorgesteld.

Algoritmische overheidsbesluitvoming. Handreiking aan de Eerste Kamer