calendar tag arrow download print
Doorgaan naar inhoud

Verantwoord virtueel

Rapport
19 november 2019
Bescherm consumenten in virtual reality

Foto: Hollandse Hoogte

Image
VR- brillen uitgesneden
Virtual reality (VR) staat op het punt van doorbreken bij het brede publiek. Om consumenten te beschermen tegen gezondheids- en andere effecten van VR, zoals misbruik van data, stellen wij vier maatregelen voor.

Downloads

Downloads

Samenvatting

Wat is Virtual reality?

Virtual reality (VR) is een driedimensionale, computer-gegenereerde omgeving waarin gebruikers zich kunnen onderdompelen. Met behulp van VR-brillen en bijbehorende accessoires kunnen gebruikers vrijelijk door deze computer-gegenereerde omgeving bewegen en interactie aangaan met elkaar en objecten. Technologiegiganten zoals Facebook, Sony, Google, HTC en Microsoft investeerden de afgelopen jaren miljarden in deze technologie. Hierdoor heeft VR veel technische barrières overwonnen en liggen de apparaten die nu op de markt komen qua prijs, kwaliteit en gebruiksvriendelijkheid binnen handbereik van een miljoenenpubliek.

VR een immersieve technologie die VR-gebruikers volledig onderdompelt in een computer-gegenereerde omgeving. Daarnaast is VR een intieme technologie, die via sensoren in VR-brillen tal van persoonlijke biometrische data verzamelt.

Functionaliteiten VR

VR maakt nieuwe digitale ervaringen en vormen van communicatie mogelijk en is eerder vooral professioneel getest om een innovatieve bijdrage te leveren voor transport, communicatie, onderwijs, zorg, veiligheid en productontwikkeling. Vanuit de VR-sector is veel aandacht voor de mogelijkheden van deze nieuwe technologie, maar er is minder aandacht voor gerelateerde risico’s en ethische vraagstukken over consumententoepassingen van VR. Dat is de focus van deze verkenning.

Ethische en maatschappelijke vraagstukken 

We presenteren een overzicht met de belangrijkste ethische en maatschappelijke vraagstukken die spelen rond VR in het consumentendomein. Uit deze verkenning blijkt dat het immersieve en intieme karakter van VR leidt tot een veelvoud aan ethische en sociale kwesties, zoals op het gebied van privacy, autonomie, fysieke en mentale integriteit, geïnformeerde toestemming en toegang tot technologie.

Risico's

We onderscheiden vier groepen risico’s op het gebied van VR: lichamelijke en mentale risico’s, sociale risico’s, machtsmisbruik en juridische risico’s.

  1. Met betrekking tot lichamelijke en mentale risico’s zijn er serieuze vragen over verslaving en langetermijngevolgen van VR-gebruik. Sommige gebruikers ondervinden een sterke emotionele betrokkenheid en zelfs excessieve gehechtheid aan virtuele personae, virtuele entiteiten en de VR-wereld. Vervreemding is het risico dat men het contact met de realiteit verliest waarbij een gevoel van verwarring en controleverlies ontstaat, doordat men slecht onderscheid kan maken tussen reguliere of vertrouwde ervaringen en ervaringen in virtual reality.
     
  2. VR leidt mogelijk ook tot sociale risico’s. Net als het internet en sociale media, kan de opkomst van VR onze interactie met elkaar veranderen. In extreme gevallen kan dat leiden tot vervreemding van de sociale omgeving. Vanwege het immersieve karakter van VR zijn er risico’s verbonden aan extreme content, zoals seksuele en/of agressieve beelden die kunnen leiden tot grensoverschrijdend gedrag in de fysieke wereld. De vraag of je moord en ander – in de fysieke wereld – onrechtmatig gedrag moet toestaan in VR, dient serieus genomen te worden vanwege het immersieve karakter van VR. Als belangrijk teken aan de wand zijn er steeds meer meldingen over aanranding, laster, stalken en andere vormen van intimiderend en agressief gedrag in de virtuele wereld (bijvoorbeeld in games).
     
  3. Bij machtsmisbruik gaat het om de mogelijkheid van ontwikkelaars en gebruikers om virtuele werelden, objecten en avatars te manipuleren – zonder dat de gebruiker het merkt en zonder toestemming – om zo het gedrag van gebruikers te beïnvloeden. De (persoonlijke) data van gebruikers kan worden gemanipuleerd of afhandig worden gemaakt voor winstoogmerk of (politieke) beïnvloeding, wat de autonomie, de vrijheid van sociale controle, keuzevrijheid en zelfbeschikking kan aantasten. Dit speelt in het bijzonder omdat er in VR allerlei typen intieme biometrische data van gebruikers kunnen worden verzameld, die VR-bedrijven tal van inzichten kunnen geven in iemands persoonlijkheid, gedrag en voorkeuren. Hiermee hangt samen dat virtuele ruimtes allerlei mogelijkheden bieden voor gerichte reclames, die op een direct en onbewust niveau kunnen inspelen op iemands verlangens, voorkeuren en keuzes.

    We signaleren in de ontwikkeling van VR tevens dat de huidige en unieke concentratie van macht van techgiganten zich uitbreidt. Zowel de hardware, de software, de content, als de infrastructuur van de virtuele wereld wordt ontwikkeld door een klein aantal grote techbedrijven, wat leidt tot een ongewenste machtsconcentratie. Zo is er een gebrek aan niet-geprivatiseerde VR-ruimtes, waar mensen contact kunnen hebben zonder in de gaten te worden gehouden.
     
  4. VR bevindt zich in een grijs gebied waarin een aantal juridische en rechtsfilosofische vraagstukken samenkomt en waaraan een aantal juridische risico’s kleeft. Wat betekent privacy in de virtuele wereld? Kan schade aan virtuele entiteiten gelijk worden gesteld aan schade aan echte entiteiten – en zo ja, in welke mate? Het is nodig om over deze vragen meer duidelijkheid te scheppen, om gebruikers en hun virtuele bezittingen te beschermen.

    Vier risicoclusters bij VR-gebruik door consumenten
Physical and mental risks
Bron: Rathenau Instituut

Regulering van VR

Gelet op de mogelijkheid dat VR de komende jaren massaal zijn intrede zal doen op de consumentenmarkt, in combinatie met de vele maatschappelijke en ethische vraagstukken die VR oproept, signaleren we dat er momenteel sprake is van een groeiende kloof tussen enerzijds het gebrek aan politieke aandacht en anderzijds de noodzaak van de tijdige ontwikkeling van kaders om deze technologie in te bedden.

Biomedische technologie?

De meest fundamentele vraag hierbij is in hoeverre VR als een biomedische technologie moet worden gezien en gereguleerd. De versmelting van de computer, de camera, biometrische sensoren, de VR-bril en het lichaam leiden tot steeds meer mogelijkheden om individuen real-time en ongemerkt te beïnvloeden. Deze intieme technologische ontwikkeling daagt politiek en bestuur uit tijdig kaders te ontwikkelen om de inbedding van VR in goede banen te leiden. Daarbij kan de politiek voortbouwen op ervaringen met de bescherming van privacy en ethische vraagstukken die specifiek gelden voor biomedische technologie, naast de vereisten die gesteld worden aan consumententechnologie.

FAQ

Wat is virtual reality?

Virtual reality (VR) is een driedimensionale, computer-gegenereerde omgeving waarin gebruikers zich kunnen onderdompelen. Met behulp van VR-brillen en bijbehorende accessoires kunnen gebruikers vrijelijk door deze computergegenereerde omgeving bewegen en interactie aangaan met elkaar en objecten. VR onderscheidt zich op twee belangrijke manieren van bestaande mediatechnologie.

Ten eerste is VR een immersieve technologie die gebruikers volledig onderdompelt in een computer-gegenereerde omgeving. Hierbij is real-time belichaamde fysieke interactie met de omgeving mogelijk. VR-sets sluiten hiervoor de zintuigen van gebruikers af van de buitenwereld.

Ten tweede is VR een intieme technologie, die via sensoren in VR-brillen tal van biometrische data verzamelt, zoals lichaamsbewegingen en gezichtsuitdrukkingen. De verzameling van deze biometrische data creëert een uniek profiel van consumenten. Dit wordt ook wel de kinemetrische vingerafdruk genoemd.

Waarom heeft het Rathenau Instituut onderzoek gedaan naar virtual reality?

De afgelopen jaren hebben technologiegiganten miljarden geïnvesteerd in virtual reality. Hierdoor heeft de technologie veel technische barrières overwonnen en liggen de apparaten die nu op de markt komen qua prijs, kwaliteit en gebruiksvriendelijkheid binnen handbereik van een miljoenenpubliek.

Wetenschappers, technologiejournalisten, maar ook de sector zelf, zijn bezorgd over het gebruik van VR door consumenten. We zien een groeiend aantal wetenschappelijke publicaties waarin belangrijke maatschappelijke en ethische vraagstukken worden aangekaart. Daarom heeft het Rathenau Instituut een verkenning naar de vraagstukken uitgevoerd die samenhangen met virtual reality voor consumenten.

Hoe heeft het Rathenau Instituut dit onderzoek uitgevoerd?

We hebben een systematische literatuurstudie verricht. We onderzochten zowel wetenschappelijke als zogenoemde ‘grijze’ literatuur, zoals nieuwsberichten en journalistieke artikelen. De literatuur hebben wij gestructureerd en geanalyseerd.

Waarom roept het Rathenau Instituut op tot bescherming van consumenten in virtual reality?

Uit ons onderzoek blijkt dat het immersieve en intieme karakter van VR leidt tot een veelvoud aan ethische en sociale vraagstukken, zoals op het gebied van privacy, autonomie, fysieke en mentale integriteit, geïnformeerde toestemming en toegang tot technologie. Het goed informeren en beschermen van de consument over mogelijke schadelijke gevolgen van VR is daarom essentieel. Mensen geven in VR hun meest intieme data af en worden kwetsbaar ten opzichte van marktpartijen, maar ook ten opzichte van andere mensen. Het is nodig om consumenten voor te lichten over de persoonlijke en intieme data die zij genereren in VR en de manier waarop dit een inbreuk kan vormen op hun privacy en autonomie.

Welke maatregelen stelt het Rathenau Instituut voor om de consument te beschermen?

Politieke en maatschappelijke aandacht zijn nodig om consumenten te beschermen. Er moet debat op gang komen over rechten in de virtuele wereld. Mag je het gezicht of lijf van iemand anders gebruiken voor jouw avatar? Mag je iemand in VR betasten of doden? Verhelderd moet worden wat bestaande regulering, zoals privacywetgeving en consumentenrecht, betekent voor VR. Voorlichting over en restricties ten aanzien van het gebruik van biometrische data zijn wenselijk, evenals nader onderzoek naar de langetermijneffecten van VR.

 

Aanbevelingen

Maatregelen

Om de maatschappelijke en persoonlijke risico’s van VR in te kunnen dammen, stellen we de volgende vier maatregelen voor:

  1. Breng (inter)nationaal debat op gang over ethiek van VR
  2. Stel kaders op voor de maatschappelijke inbedding van VR
  3. Informeer en bescherm VR-consumenten goed
  4. Verricht onderzoek naar de (langetermijn)effecten van VR

1. Breng internationaal debat op gang over ethiek van VR

Naast het informeren van consumenten is een maatschappelijke en politieke discussie over machtsmisbruik en de lichamelijke, mentale, en sociale risico’s van VR gewenst. De afgelopen twee jaar zijn er wereldwijd in de wetenschap, het bedrijfsleven en de maatschappij en bij overheid veel initiatieven geweest om vanuit ethisch perspectief te kijken naar digitale technologieën, zoals sociale media, robotisering en AI, en deze te reguleren. De debatten over deze nieuwe technologieën zijn niet alleen vruchtbaar voor het publieke bewustzijn van risico’s, maar leiden ook tot de ontwikkeling van normatieve kaders. Deze kaders worden toegepast en doorontwikkeld door de wetenschappen, industrie, maatschappelijke organisaties en overheidsinstanties. Voor de specifieke issues rond VR moet de komende jaren wereldwijd veel meer publieke en politieke aandacht zijn.

2. Stel kaders op voor de maatschappelijke inbedding van VR

Voor de consumententoepassing van VR zijn diverse bestaande reguleringskaders van toepassing, zoals privacywetgeving en consumentenrecht. Het is van belang om te verhelderen wat dergelijke bestaande reguleringskaders betekenen voor VR en in hoeverre VR om specifieke aanpassingen vraagt. Denk aan het reguleren van het delen van specifieke biometrische data die via VR beschikbaar komen. Vanuit het mededingingsrecht dient de overheid scherp toe te zien op creatie en misbruik van marktmacht door grote techbedrijven en bescherming van consumenten. De toenemende mogelijkheden voor bedrijven om datastromen te koppelen, gebruikers uitgebreid te profileren en hun gedrag te beïnvloeden, maakt het noodzakelijk en urgent dat bedrijven verantwoordelijkheid nemen voor veilig databeheer en privacy en tevens de gezondheid en het welzijn van gebruikers. De meest fundamentele vraag is in hoeverre VR naast regulering via het consumentenrecht ook als een biomedische technologie gereguleerd moet worden.

3. Informeer en bescherm VR-consumenten goed

Onderzoek wijst op een lange lijst van VR-gerelateerde risico’s (zie figuur 1). Het goed informeren en beschermen van de consument over mogelijke schadelijke gevolgen van VR is daarom essentieel. Dit kan, zoals in de medische sector gebruikelijk is, bijvoorbeeld via een bijsluiter, professionele begeleiding of een informatiecampagne. Mensen geven in VR hun meest intieme data af en worden kwetsbaar ten opzichte van marktpartijen, maar ook ten opzichte van andere mensen. Het is nodig om consumenten voor te lichten over de persoonlijke en intieme data die zij genereren in VR en de manier waarop dit een inbreuk kan vormen op hun privacy en autonomie. VR-platforms zijn geen publieke ruimte en ook geen privéruimte, maar zijn markten waarin wordt betaald of geruild met geld en data. Zowel vraag als aanbod wordt bemiddeld door een platform dat niet neutraal is, maar door een private spelverdeler die bepaalt wat wel en niet mogelijk is. Hier is sprake van een zogenaamde informatie-asymmetrie, waarin consumenten – zelfs als deze toestemming geven – niet precies weten wat er met hun persoonlijke gegevens gebeurt. Omdat bepaalde gegevens zo persoonlijk en intiem zijn dat ze het individu kwetsbaar maken voor misbruik, hetzij door overheden, hackers, commerciële partijen of andere gebruikers, zijn wettelijke restricties nodig voor het verzamelen, combineren en delen van gegevens in VR.

4. Verricht onderzoek naar de (langetermijn)effecten VR

Omdat consumenten-VR een jonge toepassing betreft, is er onvoldoende kennis over de risico’s en is er vrijwel geen zicht op de langetermijneffecten. VR-onderzoekers wijzen op de vele empirische onderzoeksvraagstukken rondom VR die spoedig opgepakt zouden moeten worden, zoals welke effecten onderdompeling in VR heeft voor gebruikers, of welke VR-ervaringen verstorende en negatieve effecten hebben op gebruikers. Net als bij nieuwe medicijnen die cognitieve bijeffecten hebben, is het belangrijk om longitudinaal onderzoek uit te voeren, om in kaart te kunnen brengen wat de (langetemijn)effecten zijn op verschillende groepen mensen.

Gebrek aan wetenschappelijk bewijs over eventuele bijwerkingen en schadelijke gevolgen van VR remt de toepassing van VR in de zorg op dit moment. Daarentegen worden VR-applicaties wel steeds meer zonder medisch voorschrift op de markt gebracht als zelftherapie, zodat bedrijven het dure en tijdrovende onderzoeksproces dat gepaard gaat met het op de markt brengen van medische producten kunnen vermijden. Deze verkenning stelt dat VR door haar immersieve en intieme karakter intrinsiek biomedische effecten heeft, ook als die niet beoogd zijn (bijwerkingen), en dat de toepassing ervan allerlei fysieke en mentale risico’s met zich mee kan brengen, zoals verslaving en vervreemding van lichaam en omgeving. Het is belangrijk dat de wetenschappelijke gemeenschap meer onderzoek doet naar de effecten van VR en dat beter in kaart wordt gebracht wat de (langetermijn)risico’s zijn.