‘Mixed Reality’ (3): data, manipulatie, macht

Julia Janssen, Nicky’s derde gast in de kookshow, is kunstenaar en ontwerper. In haar werk bevraagt ze de impact van digitalisering op onze samenleving. Janssen doet onder andere experimenten, waarin ze onderzoekt wat er zich  ‘onder de oppervlakte’ van het internet afspeelt. Nicky en haar gast bereiden een maaltijd op basis van hun persoonlijke data. In deze aflevering spelen die data de hoofdrol in het gesprek tussen de koks. Daarbij komen tal van vragen langs die ook centraal staan in het onderzoek van het Rathenau Instituut. Vragen over privacy, controle en zeggenschap over data, over on- en offline identiteit, over manipulatie, en over de datamacht van grote technologiebedrijven.

Aan het begin van de uitzending licht Janssen toe welke voedselproducten symbool staan voor haar persoonlijke data. Daarbij wordt meteen duidelijk dat haar gegevens niet veilig zijn – zelfs in de relatieve afzondering van de opnamestudio. Dat blijkt bijvoorbeeld uit het optreden van Pepper, de audio-assistent in de vorm van een pepermolen. Peppers interventies maken duidelijk dat persoonlijke data, per definitie ‘gevoelige’ data zijn. En dat je het internet, en allerlei verschillende spelers die zich daarop begeven, er dus maar beter niet mee kunt vertrouwen. Want voor je het weet, gaat iemand ermee aan de haal – misschien wel letterlijk. 

De kookshow bevat tal van speelse visuele effecten. Die maken goed invoelbaar wat digitale en immersieve technologieën kunnen betekenen voor de privacy van gebruikers. Grafische elementen, zoals lijnen, hokjes en tekst, suggereren bijvoorbeeld dat alles wat Nicky en haar gast aanraken, geregistreerd wordt, en opgeslagen als persoonlijke voorkeuren. Een ander voorbeeld is de zogenaamde firewall. In elke aflevering van de show maken de hoofdrolspelers gebruik van een koksschort die fungeert als een soort projectiescherm. Eerst zien we er het spreekwoordelijke vuur afgebeeld dat hackers en andere kwaadwillende spelers met interesse voor data, buiten de deur moet houden. Maar later krijgen we ook Janssens online guilty pleasures te zien. Zo suggereert de kookshow dat gebruikers van het internet weliswaar wel alert kunnen zijn op ongewenste indringers, maar intussen van alles prijsgeven aan online platformen en diensten, waar ze geen kwaad in zien.

Bedrijven verzamelen data voor het aanmaken van digitale profielen van mensen van vlees en bloed. Profielen bieden onvermijdelijk een zeer selectieve representatie van de personen die erachter schuilgaan. En bij het aanmaken kunnen ook verkeerde koppelingen ontstaan. Bijvoorbeeld omdat computers fouten maken. Maar er kunnen ook verschillen optreden tussen wat iemand denkt dat een systeem uit een verzameling data kan afleiden, en het profiel dat de dataverwerking daadwerkelijk oplevert. De meeste mensen weten inmiddels wel dat hun gegevens op deze manier gebruikt worden – maar dat maakt het proces niet minder ondoorgrondelijk. Janssen thematiseert dit gebrek aan transparantie in haar installatie Why :i:like Green, waar ze in de aflevering over vertelt.

De verkenning van Janssens profiel roept de vraag op wie data, maar ook het beeld dat daaruit voortkomt, produceert: wij als gebruikers, of de bedrijven die met onze data aan de haal gaan? Janssen denkt dat het een beetje van beide is, maar vindt wel dat bedrijven er veruit het meeste grip op hebben. Ten eerste, omdat de mensen nauwelijks controle of zeggenschap hebben over wat er met die data gebeurt die over hen verzameld worden. Vaak weten ze niet eens bij welke partijen hun gegevens allemaal terechtkomen. En ten tweede, omdat de bedrijven die de data gebruiken, daarmee ook iemands online identiteit mede vormgeven.

Met dit soort vragen knoopt de kookshow aan bij diverse eisen die het Rathenau Instituut formuleerde in zijn Manifest. Bij ontwerpeis #7, bijvoorbeeld: ‘We willen bescherming tegen manipulatie en beïnvloeding’. Een actueel voorbeeld van online manipulatie is de verspreiding van desinformatie over corona, of het om de tuin leiden van mensen voor politieke doeleinden met behulp van deepfakes. Maar feit is dat gebruikers van het internet eigenlijk voortdurend het voorwerp zijn van allerlei praktijken van nudging, ofwel: subtiele verleiding. Bijvoorbeeld om een bepaald bericht te lezen of op een advertentie te klikken.

De reden daarvoor is dat online profielen in de eerste plaats bedoeld zijn om er geld mee te verdienen. Adverteerders zijn verwikkeld in een voortdurend spel van het bieden op virtuele identiteiten van mensen die bij elke stap die ze online zetten, een ‘spoor van data’ achterlaten. Voor gebruikers van online diensten, merken Nicky en haar gast op, betekent dit dat ze zowel klant zijn, als het product dat wordt doorverkocht. En het zijn met name grote technologiebedrijven – alias ‘Big Tech’ – die hiervan profiteren. Want hun dataverzameling groeit exponentieel.

Een andere ontwerpeis waar het gesprek op zinspeelt is #6, ‘We willen kunnen weten dat iets nep is’. Voor Janssen schuilt in die vraag een ijdele hoop. Want wat is nep, en wat is echt? Het beeld dat iemand heeft van de wereld om zich heen, is immers deels gevormd door wat die online te zien krijgt. En dat beeld is hoe dan ook gefilterd, op basis van het reeds genoemde ‘dataspoor’.

Bovendien wordt het steeds lastiger om moedwillige vervalsingen als zodanig te herkennen. Janssen wijt dit aan het feit dat mensen nog lang niet zo ‘ingeburgerd’ zijn in de digitale wereld, als in de fysieke – en daardoor nog niet goed weten wanneer iemand ze online bedondert. De rapporten van het Rathenau Instituut over AR en spraaktechnologie laten zien dat dit in hybride werelden, waar het fysieke en het virtuele steeds meer naadloos in elkaar overlopen, zo mogelijk nog lastiger is. Dat maakt het ideaal achter ontwerpeis #6 tot een bijzonder lastige uitdaging. Die vergt immers medewerking van partijen die nu financieel profiteren van het vervagen van grenzen tussen nep en echt.

Met deze derde aflevering van de kookshow is het videodrieluik ‘Mixed Reality’ voltooid. De video’s tonen hoe het gesprek over urgente vragen over de digitale wereld op verschillende manieren gevoerd kan worden. Als sociaal designer vertaalde Nicky Liebregts onderzoek van het Rathenau Instituut met dit project op kunstzinnige wijze. Ze werpt daarmee zelf nieuwe vragen op. Die zijn een waardevolle toevoeging voor verder onderzoek en debat over de manier waarop we ons tot de versmelting tussen de online en offline wereld verhouden. Hoe willen we hiermee omgaan? Het gesprek hierover zullen we blijven voeren. 

De vragen die tijdens het koken aan de orde komen, zijn geïnspireerd op onderzoek van het Rathenau Instituut. De resultaten daarvan staan onder andere in de volgende publicaties:

Eerdere afleveringen van 'Mixed Reality'