Transcript - Online persoonscontrole: hoe ver willen we gaan? - Verrekijkers (10)

In deze aflevering: 

Simone: Dr. Simone Harmsen - onderzoeker bij het Rathenau Instituut en host van deze aflevering. 

Wouter:  Wouter Nieuwenhuizen is onderzoeker bij het Rathenau Instituut. Wouter doet onderzoek naar de maatschappelijke verantwoordelijkheid en regulering van technologiebedrijven. Hij is geïnteresseerd in de rol die online platformen spelen in onze democratie en onderzoekt immersieve technologieën. 

Jaap-Henk: Jaap-Henk Hoepman - Universitair hoofddocent - Digital Security en Interdisciplinary Hub for Digitalization and Society bij de Radboud Universiteit. Jaap-Henk onderzoekt onder andere privacy by design: het ontwikkelen van systemen die vanaf het begin gebouwd worden rondom gegevensbescherming. Ook kijkt Hoepman naar methodes om de privacy van een online identiteit beter te beschermen. 
 
Robbert: Robbert Hoving -  Directeur-bestuurder bij Offlimits.   
 
Lotje: Lotje Beek - beleidsadviseur bij Bits of Freedom.  

Timo: Timo Nieuwenhuis - onderzoeker bij het Rathenau Instituut. 
 

[tune] 

Simone: Online wanen we ons nu nog vrijwel anoniem. Een pop-up die om je leeftijd vraagt, is zo weggeklikt. Op Instagram en andere platforms kun je je voordoen als wie je maar wilt. Maar er zijn steeds meer zorgen over de veiligheid van het vrije internet. Verschillende landen buigen zich momenteel over de vraag hoe zij met name kinderen online beter kunnen beschermen, bijvoorbeeld door leeftijdsverificatie. Welke nieuwe vragen leveren zulke maatregelen op? Hoe gaan we om met de spanning tussen online veiligheid, vrijheid en privacy? 

Welkom bij Verrekijkers, een podcast van het Rathenau Instituut waarin we inzoomen op de maatschappelijke kanten van wetenschap en technologie. Iedere aflevering zoomen we in op een schurende kwestie waarover je nog te weinig hoort. Ik ben Simone. Naast mij zit mijn collega Wouter Nieuwenhuizen. Welkom Wouter. 
 

[einde tune] 

Wouter: Dankjewel. 

Simone: Wat goed dat je erbij bent. Jij houdt je bij het Rathenau Instituut bezig met de impact van ontwikkelingen in het digitale domein. En daar is behoorlijk wat te doen om online leeftijdsverificatie de laatste tijd, heb ik begrepen. 

Wouter: Klopt, ja. 

Simone: Neem ons even mee, wat gebeurt daar? 

Wouter: Nou, je ziet dat het afgelopen, zeker decennium, eigenlijk gewoon de zorgen over sociale media steeds meer groeien. Dus dat er steeds meer mensen zijn, ook in de Nederlandse politiek, die zich zorgen maken over het effect van sociale media en dan vooral op jongeren en kinderen. En je ziet in de partijprogramma's dat er toch echt heel veel partijen zijn die voorstander zijn van een vorm van het beperken van die toegang tot sociale media, omdat ze denken dat daarmee de veiligheid van kinderen en jongeren vergroot zou kunnen worden. Dat is denk ik in een nutshell wat in Nederland nu de discussie is. 

Simone: Ja, en ook op EU-niveau is er geloof ik van alles aan de hand. En daar gaat het vooral om het beschermen van kinderen voor 18-pluswebsites. 

Wouter: De Europese Unie is bezig met een voorstel. Die hebben eigenlijk een soort pilot uitgewerkt om makers van apps te helpen leeftijd te verifiëren. Dus dat maakt het mogelijk voor de makers van apps om te checken of iemand bijvoorbeeld 18-plus is, maar het kan ook 13-plus zijn, 15-plus. Dus het is niet per definitie alleen bedoeld voor 18-pluscontent. En daar zit ook een groot deel van de zorgen, van mensen die zich eigenlijk verzetten tegen het idee van leeftijdsverificatie. Omdat je nu begint met 18-plusinhoud beperken, maar je dat ook heel makkelijk – technisch gezien in ieder geval – heel makkelijk zou kunnen inzetten voor het beperken van toegang tot sociale media of andere online informatie voor allerlei andere leeftijdsgroepen. 

Simone: Ja, dus er zijn behoorlijk wat redenen om bijvoorbeeld jongeren online te beschermen, maar ook dat we daar goed over na moeten denken hoe we dat doen en welke bijeffecten er allemaal zijn. Daar gaan we vandaag verder in duiken. En dat doen we natuurlijk weer met een gast. Vandaag zit hier in de studio Jaap-Henk Hoepman. Hij is universitair hoofddocent Digital Security bij de Radboud Universiteit. En Jaap-Henk onderzoekt hoe we digitale systemen meer privacyproof kunnen ontwikkelen. Welkom, Jaap-Henk. 

Jaap-Henk: Dankjewel. 

Simone: Voordat we die discussie over de wenselijkheid van deze ontwikkeling in gaan duiken, wil ik eerst nog even terug naar de technologie die nu gemaakt wordt. Want naast plannen voor een app voor leeftijdsverificatie, wordt er door de EU ook gewerkt aan een soort digitaal paspoort. Wat moet ik me voorstellen bij zo'n digitaal paspoort? En hoe is dat anders dan zo'n app voor leeftijdsverificatie? 

Jaap-Henk: Ja, en dat Europese online paspoort waar je het over hebt, dat gaat al verder dan die hele specifieke vorm van leeftijdsverificatie, waar de Europese Commissie ook specifieke plannen voor heeft ontwikkeld. En dat Europese digitale paspoort is eigenlijk een soort variant op wat wij in Nederland als DigiD kennen. Dus een manier om je online te kunnen identificeren. En het idee daarbij is dat je meer kunt doen dan alleen maar zeggen: “Ik ben Jaap-Henk Hoepman en dit is mijn BSN-nummer.” Maar dat je eigenlijk ook allerlei andere gegevens – en we noemen dat dan attributen als een soort technische term – over jezelf kunt aantonen. Waaronder je leeftijd, of dat je ouder bent dan 18, of dat je Nederlander bent, of dat je een bepaalde opleiding hebt, et cetera. Het idee van de Commissie is dat ze eigenlijk een soort platform willen laten ontwikkelen waar je dus allerlei verschillende eigenschappen over jezelf kunt aantonen. En dat is ook niet alleen beperkt tot gegevens die van de overheid afkomen, maar dat kan ook van commerciële partijen komen. En het is daarbij ook het idee dat het systeem niet alleen gebruikt wordt om over jezelf iets aan te tonen bij een overheidsinstelling, maar ook bij een commerciële partij of bijvoorbeeld bij een groot platform als Facebook of Instagram. 

Simone: Dus dat is ook meteen een groot verschil met dat DigiD, dat gebruiken we nu alleen voor verificatie bij de overheid. 

Jaap-Henk: Klopt, ja. 

Simone: Om te laten zien dat jij de persoon bent die jij zegt dat je bent. 

Jaap-Henk: Ja, dat is een heel groot verschil. En de functionaliteit wordt heel erg uitgebreid. Dus het gaat over veel meer soorten gegevens dan alleen maar: “Ik ben de persoon die ik zeg dat ik ben.” 

Simone: Ja. En heb je daar een voorbeeld van? Van bijvoorbeeld een bedrijf dat iets van mij zou willen weten, zeker zou willen weten dat ik… 

Jaap-Henk: Nou ja, kijk, er zijn allerlei voorbeelden. Als jij een bankrekening opent, bijvoorbeeld, moet je iets aantonen over jezelf. In de voorstellen van de Europese Commissie staat zelfs dat de grote online platforms verplicht zijn om zo'n Europese identity wallet - want daar hebben we het dan over - te accepteren. Dus ja, dat geeft al aan dat er allerlei mogelijkheden zijn en dat kan veel verder gaan. Er zijn allerlei van die use cases van dat je online een hypotheek zou kunnen aanvragen met behulp van zo'n identity wallet. Dus dan gaat het om dat je inkomensverklaringen van je werkgever binnen kunt halen, dat je je saldo op je bankrekening, informatie over eventueel andere lopende schulden, allemaal kunt binnenhalen en automatisch kunt laten verifiëren, en dat je dan je hypotheek krijgt, bijvoorbeeld. Dat is toekomstmuziek, maar dat is wel het idee waar men heen wil. 

Simone: Dus ik moet me dit eigenlijk voorstellen als een soort mapje ergens, waar een heleboel gegevens van mij staan. En afhankelijk van welke partij ik te maken heb, kan ik een gedeelte van die gegevens via dat mapje laten zien. 

Jaap-Henk: Ja, mapje, dat zou kunnen. Conceptueel lijkt het heel erg op - en daarom heet het ook een wallet - het lijkt een beetje op je gewone portemonnee, waar je allerlei pasjes in hebt zitten; je bankpasje, je bibliotheekpasje, noem maar op. En al die pasjes kun je ook digitaal krijgen en die kun je in je digitale wallet op je smartphone zetten. Dus dat is het model. Er zijn ook wel andere mogelijkheden om dat te doen, maar dat is heel erg het idee om het op die manier te doen. 

Simone: Ja, dus het is niet zo dat er één centraal Europees platform is, er zijn allerlei aanbieders en ik kan zelf kiezen bij wie ik als het ware dat paspoort, die wallet, die portemonnee aanvraag. 

Jaap-Henk: Klopt. Ja, het moet wel voldoen aan een standaard, want anders werkt het natuurlijk niet. Dus een wallet die ik in Nederland krijg met een kaartje van de Albert Heijn, bij wijze van spreken, zou ik in theorie ook in Polen moeten kunnen gebruiken. 

Simone: Ja, en wat is nou het verschil met… Tot nu toe heb ik mijn eigen wallet op zak, letterlijk. En als ik ergens bijvoorbeeld alcohol wil kopen of ik moet ergens - laten we leeftijd nemen als voorbeeld - mijn leeftijd bewijzen, laat ik gewoon mijn ID-kaart zien en klaar. Wat maakt zo'n online wallet nou echt wezenlijk anders? Is het wezenlijk anders? 

Jaap-Henk: Nou ja, dat is een hele goede vraag. Kijk, conceptueel is het eigenlijk bijna hetzelfde, want je hebt een identiteitskaart in je gewone portemonnee zitten. Die heb je ooit een keer bij je gemeentehuis opgehaald. En die kun je laten zien. Datzelfde idee is ook met die identity wallet. Je krijgt een digitale identiteitskaart, die komt in je wallet, en die laat je zien waar het nodig is. En het idee is dan ook dat de uitgever van dat kaartje niet kan zien waar je het gebruikt, net als dat met een identiteitskaart zo is. Alleen: als je dat in technische zin echt goed wil regelen, om te zorgen dat al die sporen die je in de werkelijke wereld gewoon bijna per definitie niet achterlaat, je die niet ook in het digitale domein achterlaat, moet je wel moeite doen. Want als je bij een kassa staat en je laat je identiteitskaart zien, dan kijkt de persoon achter de kassa even en kijkt naar de geboortedatum en zegt: “Oké, deze persoon is ouder dan 18,” klaar. Jij loopt de winkel uit, en die persoon is totaal vergeten wat je naam was of wat dan ook. Maar in het digitale domein is dat dus anders. Je hebt een digitaal document, dat moet je dan oversturen. Ja, en dat kun je bewaren. Sterker nog, je moet moeite doen om het weg te gooien. 

En wat vervelend is, is dat we vanuit de techniek heel goed weten hoe we dat zouden moeten doen, dus dat kunnen we ook gewoon. We hebben bijvoorbeeld in Nederland een collega van mij, Bart Jacobs, die Jivi heeft ontwikkeld. Dat is een voorbeeld van een platform waarmee je dat kunt doen op een volledig privacyvriendelijke manier. Alleen: de manier waarop de Europese wallet werkt, is anders in de techniek, waardoor dat niet geldt. Dus daarbij geldt dat als je niet oppast, je wel gevolgd kunt worden. Dat dus gezien kan worden dat je tien keer bij dezelfde winkel bent. Of dat jij eerst bij die winkel en toen bij die winkel of toen bij die online winkel was. 

Simone: Ja, dus dat roept meteen allerlei vragen op en dan gaan we zo ook verder induiken; van wat zijn nou haken en ogen? Nu is er onder andere discussie over hoe we jongeren online beschermen. Moeten we daar bijvoorbeeld leeftijdsverificatie voor instellen? Die EU-wallet is gaande. Zien jullie nou een trend dat er steeds meer discussie is over eigenlijk: ja, kunnen we online bepaalde persoonsgegevens toch gaan controleren om wat meer grip te krijgen op die online wereld? Is dit breder aan de hand? 

Wouter: Ik denk zeker dat het breder aan de hand is. Je ziet dat platformen zelf hier natuurlijk ook mee worstelen. Dus platformen moeten zich houden aan allerlei wetten en regelgeving over het beschermen van minderjarigen. De Europese Unie heeft een aantal jaar geleden de Digital Services Act in het leven geroepen. Daar staat ook in dat platforms extra moeten opletten als minderjarigen hun platform gebruiken, en dat ze moeten zorgen dat hun platform veilig is voor minderjarigen. En daardoor zie je dat platforms zelf ook worstelen met die vraag: “Hoe weet ik nou wanneer iemand minderjarig is?” En dat verschilt nu heel erg hoe daarmee omgegaan wordt. Sommige platforms proberen die vraag heel erg te omzeilen. In de algemene voorwaarden van heel veel platformen staat bijvoorbeeld: “We gaan ervan uit dat je boven de 13 bent.” 

Simone: Die maken dat je eigen verantwoordelijkheid. 

Wouter: Ja, en als je dat niet bent, dan weten we: dan hoor je hier helemaal niet. Dus nou ja, dat is wel een makkelijke manier om die verantwoordelijkheid een beetje af te schuiven. Maar je ziet ook dat sommige platformen zelf gaan knutselen en bijvoorbeeld je ID-kaart laten uploaden of een soort van bewegende selfie laten maken om te verifiëren hoe oud je bent. Dus er zijn nu allemaal verschillende manieren waarop platformen daarmee omgaan. 

Simone: Ja, dus er gebeurt van alles. En er zijn natuurlijk ook best wel goede redenen om te zoeken naar manieren om die online wereld een beetje, om daar meer grip op te krijgen, denk ik. Bijvoorbeeld om - nou ja, het voorbeeld dat we nu steeds wel noemen - om kinderen beter te beschermen. En dat betoogt ook Offlimits, een expertisecentrum dat ondersteuning biedt aan mensen die te maken hebben gekregen met online misbruik. En we spraken de directeur Robbert Hoving over de visie van Offlimits op het online controleren van leeftijd. 

[tune] 

Timo: Jullie zijn voor online verificatie. Kan je kort toelichten wat jullie daarmee bedoelen? 

Robbert: Wij van Offlimits zijn voor het gebruik van online leeftijdsvertificatie. Niet als de oplossing voor alles, maar wel als onderdeel van de aanpak van vervelende dingen die wij zien gebeuren in de hulplijn. Dus wij vinden dat je online leeftijdsverificatie in zou moeten zetten op die plekken die gewoon inherent onveilig zijn voor kinderen. Op het internet heb je het snijvlak voor kinderen van nieuwsgierigheid en gevaar, dat kan daar samen optreden. Maar wij vinden dus bijvoorbeeld op plekken waar kinderen in contact kunnen komen met mensen met hele kwaadwillende bedoelingen: leeftijdsverificatie. Want je wil ook niet in de offline wereld dat een vreemde in de zandbak gaat spelen met een klein kind dat je niet kent. 

Timo: Heb je dan een voorbeeld van een probleem dat we kunnen oplossen met online verificatie? Een concreet voorbeeld? 

Robbert: Ja, kijk, de twee dingen die wij zien: het zogenaamde online kinderlokken: grooming. Op plekken, bijvoorbeeld op social media, waar je 13 moet zijn, maar waar iedereen zich jonger kan voordoen dan wie hij of zij is en waar iedereen zich ouder kan voordoen dan wie hij of zij is. En zo komen ze met elkaar in contact. Online game omgevingen, daar is veel over in het nieuws: Minecraft, Roblox. Maar ook zeker, en dat zien we bij Stop it Now, onze preventielijn voor mensen die dit beeldmateriaal kijken. Uit onderzoek blijkt dat een groot deel van die mensen dat beeldmateriaal gaat kijken met escalatie gedrag, omdat ze op te jonge leeftijd heftige content hebben gezien. Dan gaan zij op zoek naar hetzelfde type heftige beeldmateriaal om dezelfde verzadiging te krijgen. Dus het is een soort pornoverslaving die ze ontwikkelen, omdat ze gewoon veel te jong online zijn gegaan. En we weten allemaal hoe doodeenvoudig het is om op een pornosite te komen: ben je 18 jaar en je bent binnen. Maar dat zijn dus van die voorbeelden. Ja, ik vind dat bijvoorbeeld ook – en dat is wat minder ons metier – maar bijvoorbeeld ook voor het kopen van producten: alcohol, tabak, vapes, gokken. 

[tune] 

Simone: Ja, Wouter, Jaap-Henk, we horen net al allerlei redenen de revue passeren waarom je misschien op bepaalde plekken bijvoorbeeld leeftijd zou willen kunnen verifiëren. Zijn er nou nog andere redenen die jullie in discussies over die online verificatie de revue zien passeren, waarom we misschien toch iets van gegevens zouden willen kunnen verifiëren online? 

Jaap-Henk: Volgens mij zijn de voorbeelden die net in het interview werden genoemd wel de belangrijkste, als het gaat om leeftijdsverificatie. Kijk, breder kijkend hebben we natuurlijk andere voorbeelden gezien. We hebben vijf jaar geleden -zo lang is het alweer - de corona-epidemie gehad. En toen had je ook zoiets als een coronapas, die mogelijk maakte om iets te weten te komen of je gevaccineerd was of niet. Nou, dat was op dat moment een gegeven dat we in Europa belangrijk vonden om te verifiëren. En om op basis daarvan te beslissen of jij toegang kreeg tot bepaalde plekken of niet. Of dat je op reis mocht, mocht vliegen, bijvoorbeeld. Dus er zijn meerdere voorbeelden, ook verder dan alleen leeftijdsverificatie. Ik vind wel dat het voor bepaalde dingen logischer is dan voor andere. Dus bijvoorbeeld: het voorbeeld werd genoemd van het kopen van leeftijdsgebonden materiaal. Kijk, het is wettelijk geregeld dat je geen alcohol mag kopen of geen sigaretten mag kopen onder 18. Dan is het heel raar dat je dat online wel kunt doen. Dus dan is het heel logisch dat daar gezegd wordt: dat moet ook rechtgetrokken worden. Dat is ook anders niet helemaal eerlijk ten opzichte van de fysieke winkels die dat wel moeten handhaven en online winkels die dat niet hoeven te doen.  

Als het gaat om sociale media, vind ik het toch wel een beetje anders, want dan kom je toch een beetje in een vergelijkbare discussie als om de Kijkwijzer. Je kunt zeggen: ja, dat is niet geschikt voor kinderen onder de 13, of de 16 of de 18. Alleen er zit daar wel verschil in tussen kinderen. En je kunt daar ook wel een gesprek over hebben met ouders die op een gegeven moment zeggen: “Voor mijn kind vind ik dat misschien oké.” En voor een ander kind is het misschien niet oké. En daar wordt het wel een beetje ingewikkeld. Omdat daar ook allerlei culturele verschillen in zitten. Dus dan heb je de leeftijd van 13; dat is een hele boeiende leeftijdsgrens, want het is een leeftijdsgrens die we hier niet kennen. Die komt uit Amerika bijvoorbeeld. Dus dat is wel grappig. Dus de vraag is: waar leg je die grens dan? Ja, moet dat dan één grens voor over de hele wereld zijn? Want dat is eigenlijk ook een beetje vreemd. En je mist dus een beetje de discretionaire bevoegdheid die je eigenlijk nog wel hebt nu om inderdaad gewoon te zeggen: ja, weet je, ik klik dat vinkje, ik ben ouder dan 13 en ik kom op Facebook, want ik heb overlegd met mijn ouders en dat mag. 

Simone: Verificatie betekent eigenlijk vaak de facto een verbod. 

Jaap-Henk: Precies, ja. En dat strikte, dat hele binaire strikte, daar moet je wel heel goed over nadenken. Dat moet eigenlijk wel op basis van een wettelijke regelgeving zijn, niet zo van: dat moet gelden in die context, en anders wordt het toch wel een beetje ingewikkeld. 

Simone: Wouter, hoor jij veel in discussies over die online verificatie ook nog andere redenen? 

Wouter: Om het wel te doen, bedoel je? 

Simone: Ja, waarom we misschien toch af en toe een beetje van die volkomen vrijheid misschien wel af willen. 

Wouter: Nou, ik denk dat we de meeste redenen wel genoemd hebben. Kijk, een deel van het probleem zit ’m er natuurlijk in dat we ook hebben laten gebeuren dat heel veel van die bedrijven die achter die platforms zitten, die heel veel macht hebben vergaard en hun plek zo hebben ingericht, zo hebben ontworpen, dat het inderdaad kan leiden tot allerlei nadelen. Er is veel discussie over of sociale media nu verslavend zijn. We weten in ieder geval dat het voor mensen echt een gevoel van controleverlies oproept, of dat mensen zich daar niet autonoom voelen. En de vraag is: ja, ga je dat oplossen door mensen daar af te gooien? Het voorbeeld van die speeltuin werd net in een andere context genoemd. Maar als een speeltuin onveilig is voor kinderen of een schommel is stuk en er vallen de hele tijd mensen af, dan kun je daar een hek omheen zetten en zeggen: “Deze speeltuin nooit meer in komen,” of je gaat met die kinderen kijken hoe we die speeltuin veiliger kunnen ontwerpen en inrichten.  
 
En ja, een ander risico dat we ook al echt zien, is dat je die platformen eigenlijk nog machtiger maakt, doordat je ze ook de tools in handen geeft om te verifiëren. Je ziet nu ook de discussie bijvoorbeeld over: zouden we dat verifiëren van leeftijd op App Store-niveau moeten doen? Dus dat betekent dat je als Apple of als Google – want dat zijn de enige twee bedrijven eigenlijk ter wereld die onze telefoons in handen hebben – dat je hun de macht geeft om jouw leeftijd te verifiëren, waardoor jij vervolgens op alle apps die je installeert, meteen in dat binaire speelveld komt waar we het net over hadden, van: je mag het wel of niet openen. 

Simone: En misschien dat je bepaalde apps ook helemaal niet meer kan downloaden. 

Wouter: Precies, en dat is dan ook niet te omzeilen, want we hebben überhaupt maar twee marktpartijen die onze telefoons, besturingssystemen daarvan, maken. Dus ja, dan ben je snel klaar. 

Simone: Ja, wij spraken ook een andere organisatie, Bits of Freedom. We gaan nu luisteren naar een kort interview met Lotje Beek. Zij werkt bij Bits of Freedom, een organisatie die opkomt voor internetvrijheid en privacy. En we vroegen aan Lotje welke risico's zij ziet wanneer we online gegevens zoals leeftijd gaan verifiëren. 

[tune] 

Timo: Heb je een voorbeeld van een probleem dat we creëren via online verificatie? 

Lotje: Nou, ik denk dat verificatie sowieso privacyrisico's met zich meebrengt. En hoe meer persoonsgegevens, zoals geboortedata of identiteitsbewijzen, et cetera, er ergens geüpload moeten worden of laten zien moeten worden, hoe groter de risico's voor privacy. Daar kan je denken aan hacken, maar überhaupt het feit dat je ergens je geboortedatum moet laten verifiëren, is al een privacyrisico, ook al zonder dat je gehackt wordt. Het idee van privacy is natuurlijk niet per se alleen vanwege de risico's als het in verkeerde handen komt, maar überhaupt dat je je ding moet doen zonder de hele tijd je persoonsgegevens overal rond te strooien. 

Timo: Is online verificatie, zoals leeftijdsverificatie, een effectief middel om minderjarigen online te beschermen? 

Lotje: Ja, ik denk dus niet per se. Ik denk dat er effectievere middelen zijn. Dus als je kijkt: wat zijn nou precies de problemen waar we minderjarigen voor willen behoeden, dan heb je het over de schadelijke kanten van sociale media, enge mensen die niet het beste voor hebben met die kinderen, et cetera. En als je zo'n leeftijdsgrens instelt met die verificatie, dan heb je eigenlijk één groep leeftijden die daar niet in kan. Dus laten we zeggen van 0 tot 15 jaar oud mag niet op die gevaarlijke plekken zijn. Maar alle kinderen boven de 15 mogen daar wel zijn. Dus dan gooi je ze eigenlijk in het diepe met al die schadelijke “engigheid”. En als ik iets weet van pubers, is dat ze het moeilijk vinden om naar regels te luisteren - en gelijk hebben zem - om een beetje die randjes op te zoeken. Dus er zijn altijd mensen die er natuurlijk omheen bewegen, die de telefoon van een zus lenen, et cetera, en zij zitten dan nog steeds op die hele gevaarlijke plek.  
 
En eigenlijk zijn die plekken gevaarlijk voor kinderen, maar vaak ook voor volwassenen, dus een van de dingen die we schadelijk vinden aan sociale media, is dat het vaak een heel verslavende werking heeft en dat jonge mensen ontzettend hoge schermtijden hebben, maar volwassenen hebben dat ook. Dus waarom kijken we naar een soort symptoombestrijding, waarbij we één hele kleine groep weghalen van die gevaarlijke plek en de rest daar vogelvrij verklaren, als we ook kunnen kijken naar echt de wortel van het probleem? Bijvoorbeeld dat die algoritmes zo verslavend zijn ontworpen of dat er zo veel schadelijke content boven komt drijven. 

Simone: Bits of Freedom zijn best wel kritisch op die online leeftijdsverificatie en die schetsen ook al andere oplossingsrichtingen. Zijn er nou ook nog allerlei andere risico's waar het misschien ook nog helemaal niet genoeg over gaat, wat jullie betreft, rondom online verificatie, waar we het over zouden moeten hebben als samenleving? Ik kijk jou even aan, Wouter. 

Wouter: Ik denk dat een belangrijk risico is dat als je eenmaal een systeem hebt voor leeftijdsverificatie, dat je het voor alle mogelijke type toegang en content in kunt zetten. Dus als je begint met iets waar we het allemaal misschien vrij snel over eens zijn, zoals: alcohol onder de 18 is verboden, dus laten we leeftijd verifiëren, kun je dat ook voor andere dingen in gaan zetten. En wat we zien in recent onderzoek dat we bij het Rathenau Instituut hebben gedaan - Inclusief online - is dat bijvoorbeeld LHBTIQ+-content op social media al heel vaak het risico heeft om gecensureerd te worden, verwijderd te worden. Op het moment dat je leeftijdsverificatie gaat invoeren, loop je twee risico's eigenlijk. Het ene risico is dat platformen zelf gaan “overmodereren”, dus dat ze gaan zeggen: deze content, daarvan zijn wij bang dat het misschien onder deze regel valt, dus niet geschikt voor minderjarigen, dus we schermen het af. Tweede risico is dat je overheden gaat krijgen, de staat, die gaat zeggen: “Nou oké, we begonnen met alcohol, maar nu vinden we bijvoorbeeld LHBTIQ+ content gevaarlijk.” En in Hongarije zie je bijvoorbeeld Orbán, die heeft gezegd: onder de 18 mogen kinderen, jongeren, geen boeken kopen of lezen waar LHBTIQ+ karakters in zitten. Dan zie je dus in boekhandels dat ze die ook moeten afschermen. Dat is al een heel problematische maatregel natuurlijk. 

Simone: Dit zou je ook online kunnen gaan doen? 

Wouter: Dat zou je online kunnen gaan doen, maar ook fysiek is het natuurlijk deels te omzeilen; je kunt stiekem dat boek toch pakken. Je kunt allerlei dingen verzinnen die je kan doen. Je kan er ondergronds misschien toch aankomen. Terwijl als je het online doet - en dat is het gesprek dat we eerder ook hadden - dan wordt het een hele harde maatregel, dan wordt het moeilijk om te omzeilen. En in de VS zie je ook dat daar wordt gefantaseerd over: als we leeftijdsverificatie hebben, kunnen we eindelijk alle typen content onder de 18 gewoon afschermen. Dus dat is echt een potentieel risico, denk ik. Ook de macht die je daarmee de staat geeft om dat soort dingen te doen. 

Simone: Ja, Jaap-Henk, ik zie jou ook af en toe instemmend knikken. 

Jaap-Henk: Ja, nee, klopt. Inderdaad terecht wat je zegt. Zo'n Europese identity wallet creëert een platform om allerlei gegevens over jou te kunnen controleren. En dat betekent ook dat het heel erg makkelijk wordt om het ook af te dwingen. Niet alleen voor overheden, maar bijvoorbeeld ook voor allerlei commerciële partijen. En dat is inderdaad, dat gaat op twee verschillende manieren mis. Dus één aspect is wat ik dan overidentificatie noem. Dus dat betekent dat daar waar je tot nu toe niet gevraagd werd om enig officieel bewijs van wat dan ook, je dat dan nu plotseling wel moet doen. De coronapas is daar bijvoorbeeld een voorbeeld van. Je moet nu plotseling aantonen dat je gevaccineerd bent. Dat kon eerst niet, en dat kon toen wel. Coronapas is overigens een van de redenen waarom de Europese Identity Wallet in zo'n stroomversnelling is gekomen. De Europese Commissie had gezien dat het kon en zag ook een noodzaak, in extreme gevallen, om zo'n soort platform te hebben. Dus dat is een aspect.  

Een ander aspect is ook wat wij dan “overauthenticatie”noemen. Het feit dat op een gegeven moment, als je zo'n wallet hebt waar heel veel gegevens over jou instaan, dan kan een dienstverlener ook die gegevens opvragen. Dus die kan dan ook meer gaan vragen dan eigenlijk strikt gesproken noodzakelijk is voor de dienst die aangeboden wordt. Dus een winkel kan dan zeggen: ik moet controleren dat je ouder bent dan 18, maar ik wil ook graag weten of jij in Groningen woont, bijvoorbeeld. Nou, dat kan hij dan gewoon vragen. En nog veel meer van dat soort dingen. Dus dat betekent dat op die manier je privacy inderdaad wel wordt geschonden. 

Simone: We kunnen daar ook regels voor maken, toch? We zeggen van: nou, dan leggen we vast hoe dat gebruikt moet worden. 

Jaap-Henk: Ja, die regels worden niet echt goed afgedwongen. Die regels hebben we nu ook al. En dat gebeurt nu ook. Je moet op allerlei plekken alle informatie invullen, terwijl het helemaal niet mag. Dan heb je nu nog het voordeel van allerlei van die online formulieren, bijvoorbeeld: dan kan ik gewoon een willekeurig telefoonnummer invoeren of een willekeurige leeftijd invoeren. Maar ja, als mijn telefoonnummer ook gevalideerd in mijn wallet zit, dan kan dat formulier zeggen: nou ja, bewijs maar eens even dat je telefoonnummer 0612345678 is, wat ik meestal gebruik als telefoonnummer. Ik hoop dat het nummer niet echt bestaat, maar dat is een ander verhaal. 

Simone: Iemand krijgt heel veel telefoontjes. 

Jaap-Henk: Dus daar zit een risico. Een derde risico waar ook weinig over gepraat wordt, is de vraag wie beslist welke attribuuttypen er überhaupt uitgegeven worden en wat de waarde daarvan is. 

Simone: Attribuuttypen... 

Jaap-Henk: Een attribuuttype? Een attribuuttype is bijvoorbeeld nationaliteit of telefoonnummer. Dus dat is een klasse van… En die kan bepaalde waarden hebben. Dus een nationaliteit kan Nederlander zijn, telefoonnummer 0612345678. Maar bijvoorbeeld iets als gender. Nou, oké. De eerste vraag is: moet je willen dat er überhaupt een gendertype is? Nou, misschien wel. Maar dan is de vraag: welke waardes kan die hebben? Man, vrouw? Man, vrouw, X? Man, vrouw, whatever? 

Simone: Doordat we gedwongen worden iets vast te leggen, moeten we dus ook… 

Jaap-Henk: Je moet een afspraak maken, want anders is het niet bruikbaar. Dus als het ene land zegt: we gaan alleen man en vrouw doen, en een ander land zegt: we gaan er allerlei andere dingen bij inzetten, dat gaat niet werken. Dus je krijgt dan een afspraak over wat erin staat en wat er niet in staat. Nou, dat sluit per definitie groepen uit. En de vraag is dan: wie kan die attributen überhaupt krijgen? Dus als jij denkt aan ongedocumenteerden bijvoorbeeld, voor die mensen is het heel erg moeilijk om wat voor identiteitsgegevens überhaupt gevalideerd te krijgen. Dat betekent dat ze, omdat die controle veel strikter wordt - omdat het dat platform is - steeds minder makkelijk ergens iets ook online kunnen doen. Je vroeg eerder al: “Zie je een tendens ontstaan?”, en dat is wel een beetje dat we toch stiekem steeds meer naar een soort controlesamenleving gaan, vanuit het idee - dat is ook hier de motivatie - om meer veiligheid te bieden. En ik noem dat wel eens een beetje verstikkende veiligheid. Ja, misschien hebben we dan wel een hele veilige samenleving, maar we kunnen helemaal niks meer. Dat is een beetje een overdreven beeld. 

Simone: Daar zie jij het een beetje uit de bocht vliegen. 

Jaap-Henk: Ik vind dat in ieder geval iets waar we heel erg goed over moeten nadenken: “Waar zit de zandbak? Waar zit die speelruimte nog, waar je lekker vies kan worden? En waar het eigenlijk ook een beetje stiekem onveilig mag zijn.” 

Simone: Waar zoeken we die balans? Wouter, ik moest ook denken aan: stel dat we nou zo'n app hebben, stel dat het werkt als een DigiD op mijn telefoon en ik ben op een plek, ook ergens ter wereld, misschien niet alleen in Nederland, waarin ik mijn telefoon deel met anderen. De meeste Nederlanders kunnen zich het waarschijnlijk niet voorstellen, maar er zijn ook wereldwijd mensen die het met een hele familie met één telefoon moeten doen. 

Wouter: We denken nu vanuit hoe dit in Nederland zou kunnen werken of hoe het in de EU zou kunnen werken. We weten ook uit heel veel onderzoek in landen als India of Indonesië dat heel veel mensen een telefoon delen. Dus je hebt ook nog, ja, dit soort vragen spelen veel breder. Het gaat natuurlijk ook over kinderen en jongeren die misschien niet hun eigen telefoon hebben, maar die van hun ouders gebruiken. Dus je zit ook al: het is ontworpen vanuit het idee; je hebt maar één, je hebt altijd een persoonlijk device, en dat geldt natuurlijk ook niet per definitie voor iedereen. 

Simone: Het wordt ontworpen vanuit de aanname dat we ook zo'n telefoon en zo'n app gebruiken op een bepaalde manier. 

Wouter: Ja, en dat we ook ingelogd zijn met een bepaald account. Dus ook als je dat probeert te omzeilen, dan wordt het ook wel weer moeilijker. 

Jaap-Henk: Ook in Nederland is het niet ongebruikelijk dat vriendinnen of vrienden onderling telefoons delen of op z’n minst daar gezamenlijk dingen mee doen. Dus dan is het hele idee dat die identiteit, die online identiteit, heel strikt gekoppeld is aan de werkelijke persoon die dan op dat moment met die dienst interacteert, er helemaal niet. Dus dat is ook nog een ding. En ook daaraan gekoppeld de vraag: Heeft iedereen wel een smartphone? En wie sluit je dan uit? 

Wouter: En moet je mensen daartoe verplichten? Dat zie je nu al met banken-apps en zo bijvoorbeeld. Mensen die zich proberen te onttrekken aan het hebben van een smartphone, lopen tegen allerlei moeilijkheden aan, niet alleen met DigiD, maar ook met internetbankieren, et cetera. Dat vergroot je ook. 

Simone: Ik heb het op werk al af en toe: als ik mijn telefoon niet kan vinden, dan kom je op bepaalde apps niet in.  

We gingen de straat op en we vroegen mensen: “Wat zou jij ervan vinden als je een digitaal paspoort moet laten zien voordat je online 18plus dingen kunt doen, zoals bijvoorbeeld alcohol kopen of porno kijken?” 

[tune] 

Straatinterview: Ik heb het niet zo op een digitaal paspoort, dat is meer mijn probleem. 

Timo: Ja, wat vind je daarvan dan? 

Straatinterview: Ik zie een soort privacy concern erachter. Ja, ik weet niet, het speelt best wel in op mensen hun privacy. Ik denk niet dat je dat graag aan jezelf gelinkt hebt op een bepaalde manier. 

Straatinterview 2: Ik heb totaal helemaal geen enkele connectie met de digitale wereld. Dus ik heb zelf helemaal geen digitale apparatuur. Ik weet er ook niets van en wil ik ook niet. 

Straatinterview 3: Wat vinden wij van een digitaal paspoort? Ja, god, ik vind dat zo moeilijk, want ik zie overal de voor- en de nadelen van. 

Timo: Welke voor- en nadelen? 

Straatinterview 3: Voordeel is natuurlijk dat kinderen dan daardoor ook echt alleen wellicht moeilijker aan alcohol kunnen komen. Het nadeel vind ik dat er weer zo'n controle is op de mens, waardoor het uitdagender wordt om het juist te gaan doen. 

Straatinterview 4: Ik heb daar ook niets op tegen, maar wat altijd wederom daar weer problematisch aan is, is dat op het moment dat je gaat digitaliseren, betekent dat dat er dus ergens die informatie wel weer wordt opgeslagen. En wat wordt daar dan mee gedaan? Wie heeft daar toegang toe en wie heeft daar controle op? Op het moment dat wij dus zoveel persoonlijke informatie aan bepaalde partijen toe-eigenen, of de ruimte daartoe geven… Ik vraag me af of we als samenleving voldoende geëquipeerd zijn om dat morele aspect goed in te richten. Ik denk dat we daar nog niet klaar voor zijn, voor eigenlijk al deze digitale infrastructuren. Ik zou dat graag willen zien in een toekomst waarin wij wat wijzere mensen zijn. 

[einde straatinterviews] 

Simone: Ja, we zien wel dat dit leeft. Zodra we mensen dit vragen, komt er toch wat aarzeling, terecht. 

Wouter: Nou, de publieke discussie erover is in ieder geval terecht. En ik denk ook dat het echt wel een debat vraagt als samenleving. Je ziet nu dus bij politieke partijen dat heel veel partijen in hun verkiezingsprogramma een bepaalde vorm van leeftijdsverificatie opnemen. Ik denk dat daar nog wel goede discussie voor nodig is, zowel in de politiek als - naar wat je hier hoort - gewoon in de maatschappij, in brede zin. 

Jaap-Henk: Ja, met de kanttekening dat het helaas zo is dat de mensen die er verstand van hebben in de politiek heel erg ondervertegenwoordigd zijn. Het is ontzettend belangrijk om hier een goede discussie over te hebben. Het is ook ontzettend belangrijk om hier als politiek goed naar te kijken. Want het digitale domein is eigenlijk alles, ligt onder alles wat we doen. En we hebben die discussie niet, omdat binnen de politiek niemand er verstand van heeft. En dat vind ik eigenlijk wel heel erg zorgelijk eigenlijk. 

Simone: Want hoe moeten we hier nu mee verder? We staan op een punt waarop we zien die redenen om iets misschien te willen doen aan die online veiligheid. Er zijn ook allerlei zorgen. Wat zouden jullie nou zeggen, zo komen we verder, deze richting moeten we uit. 

Wouter: Nou, ik denk meerdere dingen. Je kunt allereerst beginnen met het strenger handhaven van bestaande wet- en regelgeving die we al hebben. Dus er zijn al allerlei dingen die niet mogen, op sociale media voor jongeren, maar ook voor mensen boven de 18. Ga dat nou strenger handhaven. Zorg dat je ingrijpt op die algoritmes waar Lotje van Bits of Freedom het over heeft, zorg dat je mensen meer controle en autonomie geeft over die online ruimtes. Maar ga ook samen met kinderen en jongeren - en dat wordt vaak wel vergeten - kijken naar: “Waar lopen jullie nou tegenaan? Wat vind je fijn aan wat je online meemaakt? Wat vind je niet fijn?” En hoe zouden we daarvan kunnen leren om die ruimtes te herontwerpen? Misschien wel om andere online plekken te ontwerpen, speciaal voor kinderen, voor jongeren. Dus: hoe kunnen we met hen gaan praten eigenlijk in plaats van over hen praten? En dat ook gebruiken om vanuit Europa die platformen zoals Snapchat, zoals TikTok, zoals Roblox, aan te spreken op: dit is wat kinderen en jongeren teruggeven over hoe ze zich voelen op jullie platformen. Doe er wat aan in het ontwerp. Ga echt andere keuzes maken. 

Simone: Het klinkt heel logisch, en ook inderdaad praten met kinderen over wat zij daar tegenkomen. Maar als we echt willen zorgen dat we kinderen daar, jongeren daarvoor bepaalde dingen beschermen, ontkom je er dan niet aan dat je toch op een of andere manier ook zult moeten weten online wanneer er een minderjarige is? Want er zullen ook, net als in de echte wereld, waarschijnlijk altijd dingen blijven die gewoon niet zo geschikt zijn voor jongeren. 

Wouter: Dat klopt natuurlijk, maar dan kun je die platforms zelf de verantwoordelijkheid geven om daarop in te grijpen zonder dat je dit soort strenge vormen van leeftijdsverificatie hoeft in te zetten. De persoon van Offlimits sprak over extreme content, het zien van hele heftige dingen. Dat is niet geschikt voor een kind van 10, maar ook niet voor iemand van 16, ook niet voor iemand van 40. Dus de contentmoderatie op platformen is een ander iets waar we al jaren het over hebben. Dit is ondermaats. Heel veel platformen hebben niet eens, of amper, Nederlandstalige moderatoren in dienst. Doe daar wat aan, dan zorg je dat überhaupt mensen niet in aanraking komen met extreme of anderszins illegale content. Ja, en dan hoef je ook niet te checken: ben jij dertien of niet? Je wil gewoon überhaupt niet dat mensen dat zien. 

Simone: Jaap-Henk? 

Jaap-Henk: Wat Wouter zegt, helemaal eens. En inderdaad, je moet veel meer kijken naar hoe de platforms, hoe de systemen, de diensten zijn ingericht. En die zijn natuurlijk inderdaad extreem verslavend gemaakt, werken met algoritmes die extreme content prefereren, omdat dat meer engagement oplevert. Daar moet je ook vooral naar kijken. En je mag ook best kijken naar specifieke gevallen waarvan je zegt: daar vind ik leeftijdsverificatie belangrijk. Daar moet je echt een goede politieke beslissing over nemen. Is dat inderdaad echt daar redelijk? We hebben het nu heel specifiek over leeftijdsverificatie, maar uiteindelijk waar het heen gaat is een systeem waar je allerlei dingen over mensen kunt opvragen en zorgen dat je dat kunt controleren. Dus dat betekent dat je een tool voor controle introduceert, die in principe technisch gezien totaal onbegrensd is. 

Simone: Kun je zoiets begrenzen? 

Jaap-Henk: Dat is moeilijk. Een van de begrenzingen die je, bijvoorbeeld - ik noemde eerder al het voorbeeld van over authenticatie, het risico dat dienstverleners meer vragen dan ze mogen vragen - kunt inbouwen, is dat je technisch het zo maakt dat een dienstverlener alleen maar kan opvragen wat hij echt nodig heeft. Dat betekent dat die dienstverlener naar een autoriteit zou moeten gaan en zeggen: nou, ik wil deze diensten aanbieden, ik wil alcohol bijvoorbeeld verkopen online, en dan moet ik weten dat iemand ouder is dan 18. En dan zegt de autoriteit: ja, je hebt helemaal gelijk, hier heb je een toegangscertificaat waarmee je dat specifieke gegeven kunt opvragen bij al je klanten. Maar je krijgt geen toegangscertificaat om te vragen wat de woonplaats is. Dus dan kan die wallet dat controleren. En die kan dan zeggen: oké, ja, maar je vraagt te veel. Ik geef het je gewoon niet. Je krijgt het niet. Nu is het zo, en dat is helaas een van de dingen waarvan wij dan vinden dat het in de Europese wallet niet goed geregeld is: die check zit er niet in. Dus dan krijg je als gebruiker wel te zien van: ja, de dienstverlener vraagt “je bent ouder dan 18”, en hij vraagt: “Ben je ouder dan 18 en waar woon je?” En dan moet jij als klant zeggen: ja hallo, dat wil ik niet. Maar we weten allemaal hoe dat werkt. Cookieverklaringen, cookiebots, we klikken allemaal “ja”. Nou ja, de meeste dan. Dus dat werkt niet. 

Dus dat is één voorbeeld van wat je technisch kunt beperken. Maar daar houdt het wel een beetje mee op. Want je maakt uiteindelijk wel een platform waar je in theorie van alles op kunt zetten. Daar moet je wel heel goed over nadenken. Gezien de discussie die we hebben gehad rondom de invoering van zoiets als een coronapas: kijk, nu is het allemaal niet zo spannend. Maar als zoiets weer gebeurt, dan wordt het wel spannend. Maar dan hebben we plotseling zo'n platform. Wat ga je dan doen? 

Wouter: En is er nog ruimte in Europa om de wet te veranderen? 

Jaap-Henk: Nee, die wet is aangenomen. Het komt er, die wallet, met alle mitsen en maren. Ja, helaas. Ondanks het feit dat daarin ook staat: privacy is heel erg belangrijk. En ze hebben best wel hun best gedaan om te zorgen dat die privacy goed gegarandeerd is. Dus het is in theorie zo dat je kunt aantonen dat je ouder bent dan 18, zonder dat je überhaupt iets anders over je nationaliteit of zo aantoont. Alleen, als je heel goed kijkt naar techniek, net niet helemaal goed. En dat is misschien nog wel een apart iets wat opvalt in deze discussie. Europa heeft over het algemeen vooral aan tech regulering gedaan. Dus wetten om technologie te reguleren, niet van anderen. En wat ze nu doen, is eigen technologie ontwikkelen, volgens hun eigen specificaties. En dan hebben ze geprobeerd om dat in wet- en regelgeving zo precies mogelijk te beschrijven, maar dat kan niet. Als jij een specificatie van een systeem moet maken, dan is dat uiteindelijk een technisch document. En dan gaat daar dus ook spelen dat de meeste mensen daar niet technisch zijn. Maar het wordt ook een beetje van de parlementariërs weggehouden. Er is een zogenaamde architecture reference framework. Daarin staat exact beschreven hoe die wallet moet werken. Maar het is nooit onderdeel van het beslissingsproces geweest. Sterker nog, het was geheim. Dus die parlementariërs konden daar niks mee. Terwijl, als je wilt kijken naar hoe het systeem echt werkt. en wij als techneuten weten dat, moet je die specificatie lezen. En dat maakt zo ontzettend veel verschil. Dat creëert een soort democratisch tekort. En ik ben er nog niet helemaal uit over hoe je dat moet oplossen. Voor een deel dus door te zorgen dat er meer mensen met een technische achtergrond, met verstand van digitale zaken, ook in het politieke domein betrokken zijn. Als je kijkt naar de ambtenarij in Europa, zitten er echt hele goede mensen. Daar gaat het niet om. Maar het is uiteindelijk een politiek proces. Je kunt niet een technisch ding voldoende beschrijven en beperken met alleen wet- en regelgeving. Dat werkt gewoon niet. 

Simone: Het probleem dat misschien wel breder gaat spelen, nu we steeds meer digitaliseren. 

Jaap-Henk: De digitale euro komt eraan. Dat is exact hetzelfde verhaal. 

Simone: Ja. Nou, daar moet nog aardig wat discussie aan gewijd worden, denk ik. Dan wil ik graag naar een afsluiting, door middel van onze rubriek Scherpstellen.  

[tune] 

Ik wil graag afsluiten met een stelling voor jullie beiden. Iedere aflevering leggen we onze gasten een scherpe stelling voor. En de stelling voor vandaag luidt: “We zullen als samenleving moeten kiezen tussen veiligheid of privacy en vrijheid online. We kunnen niet alles hebben.” Wouter, zal ik bij jou beginnen? 

Wouter: Ja, niet eens, denk ik. Ik bedoel, samenvattend, de discussie die we net hadden: als je veiligheid ook ziet als een verantwoordelijkheid van de makers, de ontwerpers, van de ruimtes waar we ons zorgen over maken, dan kunnen ze veel meer doen dan ze nu doen, bijvoorbeeld op het gebied van contentmoderatie, zonder in te leveren op privacy van gebruikers. 

Jaap-Henk: Oneens. Dat is om twee redenen. Ten eerste creëert het een valse tegenpool tussen veiligheid aan de ene kant en privacy aan de andere kant. Het is ook een beetje een enigszins flauw, maar goed, het hangt een beetje af van waar je vandaan komt. Privacy is ook een vorm van persoonlijke veiligheid. En nu is dat voor de meeste mensen redelijk abstract. Maar als je dat nu gaat vragen aan ongedocumenteerden in Amerika, dan wordt het heel erg concreet. Dus: oneens. 

Simone: Ja, geen waarden die überhaupt tegenover elkaar staan. 

Jaap-Henk: Hoeft niet en kan ook niet. 

Simone: Dank jullie wel dat jullie er waren. 

Jaap-Henk: Graag gedaan, leuk. 

[tune] 

Simone: Bedankt voor het luisteren. Abonneer je op Verrekijkers, zodat je de nieuwste aflevering niet mist. Wil je nog meer weten over de digitalisering van onze samenleving, ga dan naar www.rathenau.nl. Daar vind je veel informatie, waaronder onze rapporten Inclusief online en De prijs van gratis internet. Reageren op Verrekijkers kan ook, via een berichtje aan podcast@rathenau.nl. 

***