Algoritmes afwegen

Uitvoeringsorganisaties gebruiken al tientallen jaren algoritmes om diensten te verlenen. Inmiddels beginnen organisaties ook gebruik te maken van algoritmische profilering. Door het gedrag van burgers met zogenoemde ‘lerende algoritmes’ te voorspellen, zouden uitvoeringsorganisaties de regels beter kunnen handhaven en de burger meer maatwerk kunnen bieden. Tegelijkertijd nemen hiermee de mensenrechtelijke uitdagingen toe: het is bij profilering lastiger om discriminatie op te sporen en de keuzes van systemen uit te leggen. De Toeslagenaffaire illustreerde deze problemen al. Dit onderzoek gaat niet op deze, maar andere casussen in. Duidelijk is dat uitvoeringsorganisaties, maar ook politici en beleidsmakers, profilerende algoritmes adequaat dienen af te wegen. In dit bericht geeft het Rathenau Instituut hiervoor zeven aanbevelingen.