Grip op algoritmische besluitvorming bij de overheid. De rol van de Eerste Kamer
Foto: ANP
De inzet van artificiële intelligentie (AI) binnen de overheid heeft gevolgen voor de rechtstaat. Met name uitvoeringsorganisaties experimenteren met AI om hun taken beter of efficiënter uit te voeren, maar dit gaat gepaard met risico’s voor mensenrechtenbescherming en een gebrek aan democratische controle. Het is daarom zaak dat de wetgevende macht reflecteert op haar rol om verantwoorde praktijken te realiseren. Het Rathenau Instituut heeft op verzoek en met inbreng van de Eerste Kamer de uitdagingen op een rij gezet en verhelderd wat de Eerste Kamer zelf kan doen om meer grip te krijgen op algoritmische besluitvorming bij de overheid.
In het kort
- Het vergt inspanning om AI-toepassingen voor besluitvorming binnen de overheid op een verantwoorde manier te ontwikkelen en te implementeren.
- Het Rathenau Instituut ondersteunt de Eerste Kamer bij haar verkenning van de mogelijkheden om meer grip te krijgen op algoritmische besluitvorming door de overheid.
- Een nieuwe notitie van het Rathenau Instituut vat de zorgen over de maatschappelijke impact van AI-besluitvorming bij de overheid samen en helpt Eerste Kamerleden op weg bij de politieke oordeelsvorming hierover.
Zorgen over AI bij de overheid
In de samenleving en de politiek is er groeiende aandacht voor zowel de mogelijkheden van als de zorgen over de inzet van artificiële intelligentie (AI) binnen de overheid. Met behulp van AI is het mogelijk om verbanden en inzichten naar boven te halen die voor de mens moeilijk vindbaar zijn. In het kader van Justitie en Veiligheid biedt dit kansen op het gebied van bijvoorbeeld opsporing en intelligence.
Het vergt inspanning om dergelijke AI-toepassingen op een verantwoorde manier te ontwikkelen en te implementeren. Onderzoek laat zien dat er rechtstatelijke kwesties ontstaan, doordat AI-systemen soms op een weinig transparante, of zelfs onnavolgbare, wijze opereren. Ook laten ze vaak weinig ruimte over voor maatwerk. Daarnaast bestaan er bij de inzet van AI-systemen voor besluitvorming risico’s op schending van mensen- en grondrechten.
De rol van de Eerste Kamer
De commissie Justitie en Veiligheid van de Eerste Kamer heeft de werkgroep AI ingesteld, om te verkennen welke handelingsopties de Eerste Kamer heeft om bij te dragen aan verantwoorde ontwikkeling en implementatie van AI-besluitvorming door de overheid. Ter voorbereiding van een aantal verdiepingssessies en een Kamerbrede deskundigenbijeenkomst over deze complexe en commissie-overstijgende opgave, heeft het Rathenau Instituut een notitie geschreven. De notitie bestaat uit een samenvatting van een aantal zorgen in de samenleving, de wetenschap en de overheid over algoritmische overheidsbesluitvorming en laat zien hoe het kabinet deze zorgen geadresseerd heeft in de periode 2018-2020. De notitie besluit met een opsomming van uitdagingen voor de Eerste Kamer met daarbij vier discussiepunten voor de Kamerleden.
Het Rathenau Instituut schreef deze notitie op verzoek en met inbreng van de Eerste Kamer. Het Rathenau Instituut heeft al 35 jaar de taak bij te dragen aan het maatschappelijke debat en de politieke oordeelsvorming over de impact van wetenschappelijke en technologische ontwikkelingen op de samenleving. Dat doet het Rathenau Instituut door onderzoek te doen en dialoog te organiseren.
Gerelateerde content:
