Hoe zorgen we ervoor dat digitalisering bijdraagt aan wat we belangrijk vinden?

Dit is een artikel uit ons Jaarverslag 2021.

Stand van digitaal Nederland
De digitale samenleving verkeert in turbulent vaarwater. Dat was de conclusie van De stand van digitaal Nederland dat we in september publiceerden. Dit rapport maakten we met het oog op de formatie van het nieuwe kabinet en het aantreden van de vaste Tweede Kamercommissie Digitale Zaken. In dit rapport presenteerden we de inzichten uit verschillende studies waaraan we de afgelopen jaren werkten. Voor acht maatschappelijke domeinen gaven we een overzicht van de problemen die er spelen, vragen die onbeantwoord blijven in het maatschappelijk debat en vragen waarop politici de komende jaren antwoord zullen moeten geven. Daarbij keken we onder andere naar de zorg, het onderwijs en het openbaar bestuur. Ook formuleerden we drie speerpunten voor een nieuwe digitalisering- strategie. Zo zou het kabinet kunnen zorgen voor duidelijke kaders voor digitale innovatie en moeten innovaties bijdragen aan een betere samenleving en meer zeggenschap van professionals en burgers.
 

AI en ethiek
In het kader van de internationale aanbeveling die UNESCO eind november vaststelde over de ethiek van AI, maakten we de blogserie De wereld en AI. Hierin publiceerden we interviews met internationale experts: welke aspecten vinden zij belangrijk voor deze discussie? En hoe komt zo’n aanbeveling tot stand? Het Rathenau Instituut was aangewezen als nationaal waarnemer bij de totstandkoming van de internationale aanbeveling. Vanuit die rol kreeg het instituut de gelegenheid om mee te kijken en inhoudelijk commentaar te geven. De aanbeveling moet eraan bijdragen dat AI zich zo ontwikkelt dat de technologie de mensenrechten bevordert en bijdraagt aan het bereiken van de duurzame ontwikkelingsdoelen van de Verenigde Naties.

Politieke grip op AI
We ondersteunden de Eerste Kamer om meer grip te krijgen op de uitdagingen die ontstaan door de inzet van AI door de overheid. Daarvoor schreven we Grip op algoritmische besluitvorming bij de overheid, een notitie over de mogelijke rol die senatoren hierin kunnen spelen. Ook organiseerden we vier deskundigenbijeenkomsten. Dit was op verzoek van, en in samenwerking met, de vaste commissie voor Justitie en Veiligheid. Het doel van de bijeenkomsten was kennisvergroting zodat de Kamerleden hun medewetgevende en controlerende taken op dit terrein beter kunnen uitvoeren. Hierbij ging het onder meer over het versterken van de wet- en regelgeving over AI. Dit kan bijvoorbeeld door het verplichten van een zogenoemd algorithm impact assessment of een verbod op algoritmische overheids- besluiten zonder menselijke tussenkomst.

Voor de behandeling in de Tweede Kamer van de AI-verordening van de Europese Commissie, formuleerden we zeven aandachtspunten. We wezen erop dat aanscherping van de plannen nodig is om het risico te beperken dat het gebruik van AI mensenrechten schaadt. Met name het recht op privacy en non- discriminatie lopen daarbij gevaar.

Digitale markten en diensten
De plannen die de Europese Commissie eind 2020 presenteerde om de platformeconomie te reguleren, kunnen beter. Dat lieten we de Tweede Kamer weten die in 2021 meerdere keren vergaderde over de voorgestelde nieuwe regels voor de digitale markten en diensten (Digital Markets Act en Digital Services Act).
Zo zouden de verplichtingen van platformbedrijven om hun risico’s in kaart te brengen, strenger kunnen. In ons rapport Online ontspoord lieten we zien dat er online minstens 22 vormen voorkomen van schadelijk gedrag. Ook zouden platformgebruikers meer zeggenschap moeten krijgen over wat er gebeurt met hun data.

Digitalisering Vlaanderen
Net als Nederland is ook Vlaanderen ontwaakt uit de digitale droom waarin het leek dat technologische vooruitgang automatisch zou leiden tot maatschappelijke vooruitgang. Dat constateerde themacoördinator Rinie van Est die een jaar lang thinker-in-residence was bij de Koninklijke Vlaamse Academie van België voor Wetenschappen en Kunsten (KVAB). In zijn afsluitende essay wees hij erop dat het nu gaat om de vraag hoe overheid, bedrijven en burgers samen de digitalisering in goede banen kunnen leiden.

Digitale kookshow
Een andere manier om tegen digitalisering aan te kijken, presenteerde artist in residence Nicky Liebregts. Zij maakte drie afleveringen van een digitale kookshow. Daarin sprak ze met gasten over het versmelten van fysieke en online identiteiten, de toegankelijkheid van het internet voor slechtzienden en de invloed van big-techbedrijven op onze identiteit en ons wereldbeeld.