Fragmentatie van het publieke debat is een gevaar voor de democratie

Over Claes de Vreese

• De Vreese is hoogleraar Politieke Communicatie en faculteitshoogleraar Artificial Intelligence, Data & Democracy aan de Amsterdam School of Communication Research aan de faculteit Maatschappij en Gedragswetenschappen aan de Universiteit van Amsterdam (UvA).
   
• In interdisciplinair onderzoek werpt De Vreese nieuw licht op de impact van AI en de rol van de media in  westerse democratieën.  
   
• Hij is medeoprichter van het interdisciplinaire onderzoeksinitiatief Information, Communication and the Data Society (ICDS).

U stelt dat door de opkomst van digitale technologie, zoals AI, onze democratische processen op een kantelpunt staan. Wat bedoelt u daarmee?
‘Kijk, in een aantal gevallen leidt de inzet van ‘simpele’ AI gewoon tot betere dienstverlening door overheden, ook als we daarover niet heel expliciet het debat aangaan. Bovendien is in de meeste gevallen nu nog sprake van AI-toepassingen waarbij het gaat om een combinatie van menselijk handelen en zelflerende of enigszins geautomatiseerde systemen, hybride intelligente systemen dus. Maar, en dat wil ik benadrukken, de ontwikkelingen van meer complexe en zelflerende algoritmes gaan heel hard. We bevinden ons echt in een overgangsfase. Een kantelperiode waarin we de nodige stappen kunnen en ook zouden móeten zetten.’

Wat moet er gebeuren in deze overgangsfase?
‘We moeten het hebben over welke waarden we willen waarborgen binnen AI-toepassingen. En over hoe dat kan. Als we zulke vragen niet proactief stellen, riskeren we dat we volledig afhankelijk worden van systemen die in het buitenland - vaak in de VS – zijn ontworpen.  Nederland of Europa heeft dan zelf nog nauwelijks een rol in het verdere beheer daarvan.’

Wat is volgens u het meest urgent om het over te hebben?
‘Veel discussies gaan over het explainability aspect van AI; de mogelijkheid om uit te leggen hoe een algoritme werkt en keuzes maakt. Maar in het geval van zelflerende AI is het eigenlijk nauwelijks mogelijk om individuele besluiten helemaal uit te leggen. Vaak is het alleen mogelijk om iets te zeggen over algemene principes.

‘Mijn punt is vooral dat als het gaat over de overheid en  de democratie, we zeer waakzaam moeten zijn. We moeten dan niet zomaar AI-systemen introduceren die misschien helemaal niet stroken met democratische principes en de rechtstaat. Wat voor rechten heb je bij AI-toepassingen als burger? Hoe kun je besluiten aanvechten? Wat betekent de introductie van AI voor procedures? Heeft iedereen het recht en de mogelijkheid om dezelfde informatie in een verkiezingscampagne te krijgen? Al die vragen liggen op tafel.’

Wat merken we van de impact van AI in beleid?
'Op alle beleidsterreinen speelt AI een rol. In het oog springen natuurlijk de voorbeelden van zaken die niet goed gingen, zoals bij de toeslagenaffaire. Maar het kan ook gaan over voorspellende gezondheidsanalyses op basis van geautomatiseerde systemen. Of over het beoordelen van leerachterstanden.

‘Alles wat de overheid met AI doet, raakt uiteindelijk aan de kwaliteit van de democratie. Wij zijn in ons contact met de overheid tot nu toe gewend dat we te maken hebben met een systeem waarin mensen de centrale plek innemen. Terwijl we nu steeds vaker te maken hebben met situaties of systemen waarbij een deel van de besluiten niet is gemaakt door mensen, maar is gebaseerd op basis van AI, profiling en geautomatiseerde systemen.’

Welke rol speelt AI in een democratisch proces zoals verkiezingen?
‘Je ziet de impact van AI duidelijk terug in de manier waarop politieke partijen campagnes voeren voor de Tweede Kamerverkiezingen. Zeker dit jaar hebben we te maken met een unieke situatie. Vanwege corona spelen campagnes zich noodgedwongen vrijwel compleet online af. Enerzijds maken politieke partijen gewoon gebruik van bestaande data en digitale technologieën om te communiceren met hun achterban, maar deels is het ook geautomatiseerd. Zo zorgt microtargeting ervoor dat sommige groepen burgers een bepaalde boodschap te zien krijgen en anderen niet. Het gevolg is dat het publieke debat rondom de verkiezingen gefragmenteerd raakt.’

Wat betekent dit?
‘Het idee van een democratisch proces is dat iedereen toegang heeft tot dezelfde informatie en op basis daarvan een mening vormt. Met de introductie van microtargeting, in combinatie met zelflerende systemen, versnippert het gedeelde publieke debat. Dusdanig zelfs dat er in bepaalde mate geen controle meer is op informatie die wordt overgebracht in aanloop naar de verkiezingen. Daarin schuilt gevaar. Zeker wanneer we ons realiseren dat de media - de klassieke intermediair tussen de politiek en de Nederlandse kiezers -  ook deels werken met geautomatiseerde systemen. Doordat bepaalde artikelen of video’s worden gepusht, terwijl andere juist niet worden getoond. Dat geldt in nog sterkere mate voor de socialemediaplatformen.’

Iets anders. Nepnieuws wordt vaak genoemd als het gaat over hoe AI de democratie beïnvloedt. Uit een recent onderzoek van Rathenau Instituut en de Radboud Universiteit kwam naar voren dat Nederlanders denken dat misleidende informatie in ons land een minder groot probleem is dan in de rest van de wereld. Hoe kijkt u hiernaar?
‘Het onderzoek tot nu toe toont inderdaad niet aan dat we hier te maken hebben met extreme filterbubbels. Maar we moeten ons natuurlijk realiseren dat de technologie om er gebruik van te maken in Nederland ook doodleuk aanwezig is. Dus die behoedzaamheid en alertheid moet er zeker wel zijn. Ik zou het nog scherper willen stellen. Nu hebben we nog de kans om flink wat werk te verrichten rondom het verbeteren van allerlei digitale competenties, waaronder ook het begrijpen van AI  in brede zin: wat doet en kan een AI-systeem? En om een breed debat te voeren over wat wij als Nederland of als westerse democratie belangrijk vinden om in te bouwen in AI-toepassingen.’

Pakken we het te lichtzinnig op?
‘De World Health Organization (WHO) spreekt wel van een zogenaamde Infodemic. En die beeldspraak is misschien niet zo verkeerd. Er is echt sprake van een information quality war. Het feit dat we nog niet een heel grote veldslag hebben gehad in Nederland, betekent niet dat we ons kunnen onttrekken aan die global war die zich afspeelt op dit gebied. We zien het aankomen, laten we ons hier goed op voorbereiden’.

Grijnzend: ‘Wat beter dan op het verspreiden van vaccinaties.’

In recente discussies wordt vaak de vraag gesteld hoe we moeten omgaan met internetregulering. Wat vindt u hierin belangrijk?
'2021 wordt een heel interessant jaar op dit vlak. De tijd van vrijheid-blijheid rondom regulering van bigtechbedrijven is onherroepelijk voorbij. En dat geldt ook voor het struisvogelgedrag van de techbedrijven die zeggen dat zij enkel een infrastructuur bieden en verder niet verantwoordelijk zijn.

Tegelijkertijd geldt wel: be careful what you wish for. Want overheidsregulering, überhaupt inmenging, daar moet je goed over nadenken. In landen als Nederland of de Scandinavische landen kunnen we ons voorstellen dat er een basisvertrouwen is in toezichthouders of een overheid die kaders en spelregels opstelt die enigszins stroken met de wensen van een groot deel van de bevolking. Maar je hoeft niet ver te zoeken om uit te komen bij landen, ook binnen Europa, waar je direct een ander gevoel hebt bij dat vertrouwen. Regulering vanuit overheden is dus iets om heel goed over na te denken.’

En wat is de maatschappelijke verantwoordelijkheid van techbedrijven zelf?
‘De techbedrijven zijn structureel van hun verantwoordelijkheid weggelopen in de afgelopen jaren. Al sinds de Amerikaanse verkiezingen in 2016, en meer recent het Brexit-referendum, weten we dat er sprake is van het op grote schaal online verspreiden van desinformatie, nepaccounts en trollen. Dat hele ecosysteem en de vervuiling daarvan is eigenlijk al minstens vijf jaar zichtbaar. Toch blijkt bij de Amerikaanse verkiezingen in 2020 dat het beleid van de techbedrijven om hier iets tegen te ondernemen nog steeds volstrekt onderontwikkeld is. Na elke gebeurtenis volgt een policy update van één van de platforms, maar het is ad hoc en reactief. Zonder onderliggend beleid of een visie.

‘Ook vind ik het zorgwekkend dat alle aanpassingen die platforms doen, worden gebaseerd op de Amerikaanse situatie. Die is helemaal niet representatief voor de rest van de wereld. Amerika heeft een uitzonderlijk kiesstelsel en ook het Amerikaanse mediasysteem is nauwelijks vergelijkbaar met andere westerse democratieën. Wij moeten ons hier, en in Europa, nadrukkelijk afvragen of we blij moeten zijn dat de spelregels van tech en democratie ad hoc worden bepaald, en afgestemd op een afwijkende situatie.’

Te veel focus op Amerika dus?
‘Ter vergelijking: er ging vanuit YouTube, Google en Facebook veel aandacht uit naar de Amerikaanse verkiezingen, en daarover is veel gesproken. Over hun rol bij verkiezingen in Brazilië en India wordt echter nauwelijks gesproken. Terwijl we weten dat daar van alles speelt. Dat zijn gigantische democratieën. En het wereldwijde gebruik van deze platformen is buiten de VS zoveel groter dan binnen de VS. Dat wringt.’

In welke richting zoekt u oplossingen?
‘We moeten in Europees verband, of breder nog, rond de tafel om met elkaar te bespreken wat nou de goede spelregels zijn. Maar ook welke consequenties eraan vastzitten als die spelregels worden overtreden. En dan bedoel ik dat we veel fundamentelere discussies moeten voeren over het gebruik en de inzet van AI. Zoals is gebeurd in de afgelopen tien maanden rondom Covid-19. Daarbij werd gesproken over keuzes rondom dood en prioritering bij ziekhuisopnamen. We bevinden ons in een technologische overgangsfase, een kantelperiode waarin technologie nog sterker haar intrede doet in ons leven en onze systemen. Deze tijd moeten we aangrijpen om het debat over ethische onderwerpen veel scherper te voeren, voordat we te snel overgaan tot stappen zetten om de economische groeikansen van AI te verzilveren.’

 Hoe krijg je de morele discussies het beste op de agenda?
‘Ons hele systeem aan publieke diensten heeft hierin een verantwoordelijkheid. En de geluiden zijn ook steeds duidelijker aanwezig. Deze blogserie is daar een interessant voorbeeld van. Maar het is en blijft een uitdaging om het publiek en politiek hoog op de agenda te krijgen. Idealiter spelen media hierin ook een grotere rol.’