Privacy en cyberveiligheid in een digitale samenleving
Dit artikel gaat over digitale samenleving, één van de vier thema's uit het werkprogramma 2019-2020. De andere thema's zijn maakbare levens, kennisgedreven democratie en vitale kennisecosystemen.
De afgelopen jaren is duidelijk geworden dat het niet meer gaat om gadgets, maar om een maatschappelijke transitie die nieuwe vragen opwerpt over veiligheid, online discriminatie en uitsluiting, over beïnvloeding en autonomie en over de macht en verantwoordelijkheid van bedrijven die deze technologie ontwikkelen.
Het verschil tussen online en offline vervaagt. Zonder te weten wat het precies betekent, leven we daardoor steeds meer in een digitale samenleving. Digitale technologieën veranderen de manier waarop docenten lesgeven, hoe dokters en patiënten met elkaar praten, waar politici over debatteren en hoe mensen nieuws delen. Achter de schermen werken algoritmen en kunstmatige intelligentie op manieren die we vaak niet eens herkennen. Onze samenleving wordt op deze manier compleet anders ingericht.
Rol van het Rathenau Instituut binnen het thema digitalisering
Hoe zorgen we dat de samenleving in staat is zelf richting te geven, zelf oplossingen kan formuleren, vragen durft te stellen en waar nodig eisen stelt aan overheid en bedrijven? Hoe kan digitalisering leiden tot een inclusieve samenleving? En hoe worden deze ontwikkelingen een kans voor maatschappelijke uitdagingen, zoals klimaatverandering en voedsel-veiligheid, zorg en het openbaar bestuur. Deze vragen staan centraal in het programma ‘Digitale samenleving’.
Dialoog over de effecten van nieuwe technologiën
Het Rathenau Instituut ontwikkelde de afgelopen decennia denkkaders om het gesprek te voeren over opkomende technologie in relatie tot wat we in Europa belangrijk vinden: onze waarden en mensenrechten die we wereldwijd verankerd hebben, ook al krijgen die lokaal een verschillende invulling. We onderzochten de effecten - zichtbaar en minder zichtbaar - die de hele samenleving aangaan. Zoals ongelijke machtsverhoudingen, controle over technologie, veiligheid en rechtvaardigheid.
Lees ook:
- Beschaafde Bits: Zeventien experts over fatsoenlijk digitaliseren
- Eerlijk delen: Waarborgen van publieke belangen in de deeleconomie en de kluseconomie
- Mensenrechten in het robottijdperk: Uitdagingen door het gebruik van robots, kunstmatige intelligentie, virtual & augmented reality
De komende twee jaar gaan we graag in gesprek met groepen in de samenleving om te horen wat zij nodig hebben om keuzes te maken. Uiteraard informeren we de politici, verhelderen we deze ontwikkelingen en maken we duidelijk welke keuzes dit van hen vraagt. Naast het nationale niveau, gaat het dan ook om lokale politiek. Samen met collega- instituten informeren we ook het Europese parlement en andere internationale fora.
Het verschil tussen online en offline vervaagt. Zonder te weten wat het precies betekent, leven we daardoor steeds meer in een digitale samenleving.
Onderzoek naar een digitale toekomst
De Nederlandse overheid heeft zich uitgesproken voor een digitale toekomst waarin iedereen kan meedoen. Wat betekent dit voor de bestaande spelregels? Voor internationale afspraken en voor de samenwerking tussen lokale overheden onderling en hun afstemming met de nationale overheid? Welke verantwoordelijkheid nemen bedrijven? Hoe geven we gedeelde verantwoordelijkheid, wanneer er sprake is van publiek-publieke en publiek- private samenwerkingen? Wat betekenen de mogelijkheden van nieuwe technologie voor onze eigen verantwoordelijkheid? Hoe worden we technologisch vaardige burgers? En wie helpt ons daarbij als het niet lukt? Binnen het thema ‘Digitale samenleving’ doen we op drie onderwerpen nieuw onderzoek:
Intelligente machines in de praktijk
De inzet van intelligente machines, van fysieke robots tot digitale systemen en social media, verandert tal van sectoren en sociale praktijken radicaal. De grote ontwikkeling wordt verwacht in kunstmatige intelligentie (AI) die zelflerend is en op basis van grote hoeveelheden data tot beslissingen komt. Naast grote verwachtingen leidt dit tot nog meer vragen rondom privacy, autonomie, veiligheid, de mogelijke controle over algoritmen en ongelijke machtsverhoudingen. De grote uitdaging is om met behulp van intelligente machines, verantwoorde sociale praktijken te ontwikkelen.
Het Rathenau Instituut onderzoekt in de komende jaren op welke wijze diverse praktijken, zoals zorg, onderwijs, energievoorziening, politie en rechtspraak, kunnen veranderen door nieuwe digitale technologieën. We willen politieke bestuurders, professionals en burgers handelingsperspectieven bieden om nieuwe ontwikkelingen vanuit publieke waarden vorm te geven.
Wat betekenen de mogelijkheden van nieuwe technologie voor onze eigen verantwoordelijkheid?
Ondergedompeld in digitale technologie
Een computer zien we nu nog vooral als een beeldscherm en toetsenbord, waarmee we met vingers en ogen toegang tot de digitale wereld krijgen. Nieuwe technologieën veranderen onze interactie met de computer en de (digitale) wereld. Mensen loggen al in op hun smartphone via hun vingerafdruk of door gezichtsherkenning. Spraakherkenning maakt het mogelijk om met de computer te praten. In de Verenigde Staten is de ‘voice based virtual assistant’ Alexa, ingebouwd in de slimme praatpaal van Amazon, al ingeburgerd. In Nederland is de Google Assistent aan een stevige opmars bezig.
We zien tevens de opmars van zogenaamde immersieve technologieën, technieken waarin we ondergedompeld raken. De afgelopen jaren zagen we al de 3D-film. De verwachting is dat de komende jaren augmented reality (via hearables en smart glasses) en virtual reality steeds belangrijker worden, zowel op de werk als in het dagelijkse leven. En in laboratoria ontwikkelen de mogelijkheden van brein-computerinteracties zich snel.
Het Rathenau Instituut wil de maatschappelijke betekenis van deze nieuwe opkomende technologieën onder de loep nemen. Daarbij kijken we naar de situatie thuis, maar ook naar de invloed op de publieke ruimte. Gaat Amazon via Alexa bepalen wat voor soort wortels we bij welke winkel bestellen? Willen we reclameborden die ons op straat persoonlijk aanspreken en tips geven over die mooie jas die in de winkel om de hoek in de reclame is?
Digitale veiligheid, mensenrechten en internationale verhoudingen
Hang op! Klik weg! Bel uw bank! Het internet biedt ook gemak en mogelijkheden aan criminelen, die nu vanuit huis in uw huis kunnen inbreken. Vanuit waar ook ter wereld. Cybersecurity is een van de issues die de mondiale verhoudingen bepalen. En cybersecurity wordt inmiddels door velen gezien als de motor van economische groei. De grote Amerikaanse en Chinese techbedrijven hebben zich al geherdefinieerd tot AI-bedrijven, bedrijven die heel veel data bezitten én in staat zijn om op basis van die data beslissingen van hoge kwaliteit te nemen.
AI wordt ook steeds meer gezien als de sleutel voor toekomstige militaire macht. Het strategisch inzicht dat er een wereldwijde AI-wedloop gaande is, kan leiden tot zogenaamd AI-nationalisme, een nieuwe geopolitieke situatie waarin landen proberen nationale kampioenen op het gebied van AI op te zetten en overnames door buitenlandse bedrijven te blokkeren.
Ook wetenschappelijk ontstaat er een wedloop om kennis en talent. De vrees is dat een dergelijke AI-wedloop tussen landen een adequate mondiale governance van AI in de weg zal staan. We volgen de ontwikkelingen op internationaal niveau, waar onder andere de Verenigde Naties, de Raad van Europa en de Europese Unie versneld aan de slag zijn gegaan met het ontwikkelen van kaders, regelgeving, afspraken voor privacy, cyberveiligheid, consumentenrechten en standaarden voor een veilig Internet of Things. Bedrijven publiceren ethische codes en zoeken naar manieren om hun zorgplicht in te vullen. We willen begrijpen hoe democratische besluitvorming in dit krachtenveld plaats kan vinden, en digitalisering ingezet kan worden voor gezamenlijke doelen.