calendar tag arrow download print
Doorgaan naar inhoud

Aandacht voor mensenrechten is nodig bij inzet algoritmes

Artikel
17 mei 2022
algoritme Kunstmatige intelligentie

Foto: Daniel Rozing/ANP

Image
Bezoekers trekken een nummer voor de balie in Rotterdam

Iedere uitvoeringsorganisatie die zogenoemde profilerende algoritmes inzet, moet voldoende maatregelen nemen om mensenrechten te beschermen. Dat concludeert het Rathenau Instituut in het rapport Algoritmes afwegen. Bij het beschermen van mensenrechten kunnen uitvoeringsorganisaties gebruik maken van burgerpanels, ethische commissies en een normenkader.

In het kort:

  • Veel organisaties zijn bezig met het ontwikkelen van een nieuw soort algoritmes.
  • Bij profilerende algoritmes lopen organisaties het risico dat ze burgers behandelen op basis van vooroordelen.
  • Burgers moeten beter kunnen nagaan waarom algoritmes hen wel of niet selecteren.

Uitvoeringsorganisaties maken al jaren gebruik van algoritmes, instructies die computers kunnen uitvoeren. Veel organisaties zijn op dit moment bezig met het ontwikkelen van een nieuw soort algoritmes of denken daarover na. Deze zogenoemde profilerende algoritmes proberen het gedrag van mensen te voorspellen door hen in te delen in groepen. Op die manier willen organisaties bijvoorbeeld te weten komen welke werklozen ze het snelst aan een baan kunnen helpen of welke uitkeringsontvangers ze het meest kansrijk kunnen controleren op fraude. Maar profileren kent ook nadelen. Bij het inzetten ervan lopen organisaties het risico dat ze mensen behandelen op basis van vooroordelen (bias) of zelfs discrimineren.

Ethische vraagstukken

Het rapport Algoritmes afwegen maakte het Rathenau Instituut op verzoek van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties. Op basis van een verkenning bij drie grote uitvoeringsorganisaties laat het zien op welke manieren uitvoeringsorganisaties die profilering willen gebruiken, de bescherming van mensenrechten kunnen versterken. Zo kunnen ze in een normenkader precies vastleggen wie ervoor verantwoordelijk is dat bepaalde rechten niet worden geschonden. Door het aanstellen van ethische commissies en adviseurs kunnen ze onder hun medewerkers de kennis van, en het gevoel voor, ethische vraagstukken vergroten. Belangrijk is ook dat organisaties burgers goed informeren over de algoritmes die ze gebruiken. Door het instellen van burgerpanels kunnen ze nagaan of die informatie nuttig en begrijpelijk is en of ze alle risico’s hebben meegewogen.

Betere uitlegbaarheid

Maatregelen voor het beschermen van mensenrechten bij het inzetten van profilerende algoritmes, zijn niet alleen een verantwoordelijkheid voor de uitvoeringsorganisaties. Het is zaak dat ook de wetgever stappen zet, bijvoorbeeld door de eisen aan de uitlegbaarheid van profilerende systemen te verhelderen. Op die manier is beter na te gaan waarom een algoritme bepaalde burgers selecteert.

‘Dit rapport laat zien dat het belangrijk is dat organisaties die algoritmes gebruiken van begin af aan aandacht hebben voor het beschermen van mensenrechten’, zegt directeur Henk de Jong van het Rathenau Instituut. ‘Het is ook een oproep aan de politiek om de inzet van profilering zorgvuldig en met aandacht voor publieke waarden af te wegen, en het debat daarover te voeren.’

Lees de gehele publicatie:

Gerelateerde publicaties: