calendar tag arrow download print
Image
Nep echt - Het Binnenhof met de Chinese muur
Rapport
21 oktober 2020

Nep Echt

Verrijk de wereld met augmented reality
Augmented reality
Foto: Rathenau Instituut
Met augmented reality (AR) zijn we een nieuwe omgeving aan het opbouwen. We maken virtuele versies van onze straten, onze meubels en ons uiterlijk en voegen die als virtuele ‘lagen’ toe aan de werkelijkheid. Kunnen we in deze fysiek-virtuele wereld echt onderscheiden van nep? Welke impact heeft AR op de inrichting van onze publieke ruimtes? En hoe zorgen we dat immersieve technologie onze wereld verrijkt en niet verarmt?

Bij AR staat veel op het spel: onze beleving van de werkelijkheid, maar ook de inrichting van de fysieke leefomgeving. Het is de hoogste tijd voor een politiek en een breed publiek debat over dit soort vraagstukken. Om dit debat op te starten, formuleert Nep echt elf ontwerpregels voor maatschappelijk verantwoorde AR.

Downloads

Downloads

Sluiten

Samenvatting

Onze zintuigen stellen ons in staat om de werkelijkheid te horen, te zien, te voelen en te ruiken. Augmented reality (AR) legt een digitale laag over die werkelijkheid heen. Zo ontstaat er een ‘hybride’ wereld, die tegelijkertijd fysiek en virtueel is. Men kan deze hybride werelden beleven via smartphones, headsets of slimme brillen. De aansturing werkt niet met een toetsenbord of muis, maar via touch screens, spraak en gezichts- en lichaamsbewegingen. Gamers kunnen zo op straat op virtuele monsters jagen, kunstenaars kunnen in de stad virtuele kunstwerken plaatsen, en soldaten kunnen in een gevechtssituatie direct tactische informatie krijgen.

In de afgelopen jaren is de AR-industrie uitgegroeid tot big business. Ontwikkelingen in de sector hebben geleid tot innovaties in diverse sectoren, zoals de veiligheid, de zorg, de architectuur, de marketing en in onderwijs en training. AR helpt gebruikers middels digitale simulaties werkprocessen anders in te richten of op afstand samen te werken. Daarnaast zijn er ook succesvolle consumentenapplicaties: games zoals Pokémon GO, of sociale-media-applicaties zoals Snapchat en TikTok (die werken met AR-lenzen of -filters). Alleen al in Nederland hebben deze apps samen miljoenen gebruikers. Grote Amerikaanse en Chinese technologiebedrijven zoals Google, Microsoft, Huawei en Bytedance hebben vele duizenden AR/VR-werknemers in dienst en vragen per jaar duizenden patenten aan voor dit soort technologieën. De meeste grote internetbedrijven zijn bezig met de ontwikkeling van AR-sets. Techbedrijven zien AR dan ook als een belangrijk onderdeel van hun toekomstige bedrijfsmodel.

AR kan gezien worden als een nieuwe fase in de informatiesamenleving, waarin het virtuele domein doorsijpelt in het fysieke domein. De technologie modificeert onze waarneming van de fysieke werkelijkheid. AR verandert hoe we onze omgeving zien, horen en voelen – en bijgevolg ook wat we erover kunnen denken en hoe we erin kunnen handelen. Gebruikers van AR beleven de online wereld niet langer als een afzonderlijk domein, toegankelijk via een (desktop- of mobiele) computer. Ze kijken met een AR-bril als het ware ‘door het net’ naar de wereld. Daarbij beleven ze ook de digitale elementen van die wereld driedimensionaal en immersief. Vaak sturen ze die op een intuïtieve manier aan, bijvoorbeeld middels spraak, een knipoog of een handbeweging. Dat zorgt ervoor dat het fysieke en het virtuele in de ervaring van de gebruiker in elkaar op kunnen gaan.

Juist door de directe koppeling van AR met de fysieke wereld, roept de technologie ook maatschappelijke vragen op. Ten eerste is voor het produceren van een AR-omgeving veel persoonlijke data nodig. Dat roept privacykwesties op, bijvoorbeeld rond de bescherming van persoonsgegevens, data-eigenaarschap en dataveiligheid. Ten tweede roept AR vragen op over perceptie- en gedragsbeïnvloeding. Producenten van AR-toepassingen krijgen namelijk de mogelijkheid om via apparaten en applicaties te controleren en te sturen wat gebruikers zien, horen en voelen. Ten derde brengt de technologie kwesties rond ruimtelijke ordening met zich mee. Is het bijvoorbeeld een goed idee om jongeren naar virtuele monsters te laten zoeken nabij drukke wegen, treinsporen, of op gewijde locaties? Mag ik een virtuele kopie van de Chinese muur plaatsen op het Binnenhof?

In het rapport Nep echt stellen we daarom de vraag:

Hoe kan AR op een maatschappelijk verantwoorde wijze worden ontwikkeld en toegepast?

Om te komen tot een antwoord, bekijken we hoe de technologie werkt, welke maatschappelijke en ethische vraagstukken de technologie oproept en welke rol met name de overheid kan spelen bij een maatschappelijk verantwoorde inbedding van AR in de samenleving. Daartoe hanteren we verschillende onderzoeksmethoden. Via interviews met ontwerpers, gebruikers en andere betrokkenen schetsen we de stand van zaken rond AR in Nederland. We kijken daarbij zowel naar professionele praktijken (bijvoorbeeld in de neurochirurgie, de bouw en de logistiek), als naar entertainmenttoepassingen. Ons overzicht van maatschappelijke vraagstukken is gebaseerd op een analyse van relevante wetenschappelijke literatuur. En omdat de materie van deze studie toekomstgericht is, geven we ook een plek aan de artistieke verbeelding.

Hoe werkt AR?
AR kunnen we begrijpen als een nieuw type omgeving, die wezenlijk anders is dan zowel de fysieke als de virtuele omgeving. Het specifieke van AR is, dat de fysieke en virtuele omgeving in elkaar overvloeien. Zo ontstaat een hybride fysiek-virtuele omgeving. Gebruikers kunnen die omgeving ervaren middels een scala aan AR-systemen. Die systemen maken twee dingen mogelijk. Ten eerste creëren ze een hybride omgeving door virtuele elementen aan te maken en die te koppelen aan specifieke fysieke plaatsen, objecten of mensen. Een gezichtsfilter op Snapchat, bijvoorbeeld, maakt een masker aan van een dier, dat direct gekoppeld wordt aan een real-time, digitaal beeld van iemands gezicht. Ten tweede functioneren AR-systemen als een interface tussen de gebruiker en die hybride omgeving. Dat betekent dat ze de hybride omgeving middels schermpjes, audio-apparatuur of haptische apparatuur waarneembaar maken voor de gebruiker en ervoor zorgen dat die daarin handelingen kan verrichten.

Daaraan komt een breed scala aan digitale technologieën te pas: biosensoren, camera’s, krachtige processoren, kunstmatige intelligentie, digitale platforms en robotica. Ze worden ingezet om data over de gebruiker en diens omgeving te verzamelen, te analyseren en toe te passen. De gebruiker wordt dus continu door een AR-systeem gemonitord. De data die dit oplevert, wordt gekoppeld aan voorgeprogrammeerde informatie of informatie die het systeem aantreft in andere databases, profielen of op het internet. De virtuele elementen van de hybride omgeving worden continu aangepast aan de veranderende omstandigheden van de gebruiker, zodat die de AR-wereld als ‘natuurlijk’ kan ervaren.

Op dit moment vindt nauwelijks publieke discussie plaats over de hybride wereld: hoe die eruit zou moeten zien en wie er betrokken moet worden bij het ontwerp ervan. De ontwikkeling van AR-technologie ligt nu voornamelijk in handen van (vooral grote) commerciële technologiebedrijven. Zij ontwerpen de hybride wereld vanuit hun eigen, private belangen. Bij AR staat echter veel op het spel: onze beleving van de werkelijkheid, maar ook de inrichting van de fysieke leefomgeving – ook voor hen die geen gebruik van AR maken. Vanuit het algemene belang bekeken, is het onverantwoord om dergelijke beslissingen geheel over te laten aan de markt. Het is de hoogste tijd voor een politiek en breed publiek debat over de maatschappelijke inbedding van AR.

Om dit debat aan te zwengelen, formuleert Nep echt elf ontwerpregels voor maatschappelijk verantwoorde AR. Die ontwerpregels hangen samen met de maatschappelijke en ethische kwesties die nu en in de nabije toekomst spelen bij de toepassing van AR. Aan de hand van diverse praktijken waarin AR wordt toegepast en (wetenschappelijke) literatuur, maken we onderscheid tussen drie typen kwesties: data-, beïnvloedings- en ruimtelijke-ordeningskwesties. Per type kwestie benoemen we hieronder enkele specifieke maatschappelijke en ethische vraagstukken. Aansluitend daarop volgen enkele ontwerpregels en acties voor de overheid.

Scenario AR - Deepfake - Roos Groothuizen
Illustratie: Roos Groothuizen
Sluiten

Ontwerpregels

De eerste ontwerpregel ontstijgt de diverse kwesties en benadrukt het belang van samenwerking tussen alle belanghebbenden: bedrijven, burgers, kennisinstellingen én maatschappelijke partijen. De overheid dient een voortrekkersrol te spelen in de zoektocht naar een leefbare hybride wereld.

Ontwerpregel 1. Bouw samen aan de hybride omgeving van de toekomst


Datakwesties, ontwerpregels en gewenste acties
AR-systemen maken gebruik van persoonlijke data. Dat betekent dat ze informatie ophalen over de locatie van de AR-gebruiker, maar ook diens lichaamsbewegingen, gebaren, gezichtskenmerken en gedrag meten. Daarnaast registreren AR-systemen allerlei omgevingsdata. Die betreffen niet alleen de plaats en kenmerken van objecten, maar ook van andere AR-gebruikers en zelfs van niet-gebruikers. Daarbij gaat het vaak om intieme informatie, aan de hand waarvan mensen uniek identificeer zijn. Het gebruik van AR-apparaten, bijvoorbeeld slimme brillen met camera’s, kan in publieke of private ruimten dus de anonimiteit van mensen bedreigen. Bovendien kunnen applicaties de verzamelde data met derde partijen delen, zonder dat de gebruiker dit door heeft.

Behalve privacykwesties, spelen er bij AR ook vragen rondom eigenaarschap. AR-applicaties kunnen leiden tot eigendomsovertredingen of vernielingen aan privaat of publiek bezit, omdat ze personen ertoe verleiden om locaties te bezoeken waar ze anders niet zouden komen. Bovendien maakt AR het mogelijk om fysiek eigendom digitaal te modificeren. Daarbij rijst de vraag of virtuele ‘bekladding’ toelaatbaar is, bijvoorbeeld als het andermans huis of de openbare ruimte betreft. Een andere vraag is, of de gebruiker het exclusieve recht heeft op zijn eigen waarneming of bewegingsprofiel. Data over gezichts- en oogbewegingen kunnen inzichten opleveren over waarnemingen van gebruikers. Voor AR-bedrijven zijn deze data nuttig bij het creëren van hybride werelden, maar ook lucratief, omdat de data verhandeld kunnen worden. Gebruikers kunnen aan de hand van deze data namelijk geprofileerd en beïnvloed worden, bijvoorbeeld voor commerciële doeleinden.

Het ontstaan van datakwesties rond AR vraagt om aanscherping van definities en om expliciete juridische afspraken. Hoe moet eigendom in een hybride omgeving begrepen en gereguleerd worden? Mogen bedrijven omgaan met biometrische en andere ‘intieme’ data van gebruikers, en zo ja: hoe?

Uit deze kwesties volgen de volgende drie ontwerpregels en gewenste acties:

Ontwerpregel 2. Waarborg de privacy van AR-gebruikers
 

Ontwerpregel 3. Waarborg de anonimiteit en privacy van niet-gebruikers
 

Gewenste actie: Totdat op EU-niveau regels zijn vastgesteld, dient de Nederlandse overheid een moratorium in te stellen op het gebruik van AR-toepassingen in de publieke ruimte waarmee burgers door middel van biometrie geïdentificeerd kunnen worden.
 

Ontwerpregel 4. Verhelder in de hybride wereld zowel fysieke als virtuele eigendomskwesties
 

Gewenste actie: Het Ministerie van Justitie en Veiligheid dient de juridische kaders te verhelderen aangaande eigendom van virtuele objecten, met name in relatie tot het eigendom van mensen, inclusief hun lichaam.
 

Beïnvloedingskwesties, ontwerpregels en gewenste acties
Een AR-apparaat is een soort digitale prothese, die onze perceptie van de werkelijkheid digitaal modificeert en zodoende stuurt wat we zien, horen en voelen, maar ook (kunnen) denken en doen. AR kan daarmee van invloed zijn op het fysieke en mentale welzijn van zijn gebruikers. De technologie ontwikkelt zich snel en biedt steeds krachtigere immersieve ervaringen, waardoor het onderscheid tussen virtueel en fysiek, of tussen nep en echt, voor hen steeds moeilijker te maken is. Partijen die AR-systemen, platforms of content ontwikkelen, kunnen daarmee op steeds verregaandere wijze bepalen wat gebruikers ervaren. Dat kan nuttig zijn, bijvoorbeeld in het kader van therapieën of leerervaringen, maar het kan ook leiden tot een zwakke informatiepositie voor burgers, of tot misleiding.

AR kan op allerlei manieren de cognitieve mogelijkheden van mensen vergroten. Op de werkvloer kan de technologie ingezet worden om werknemers snel nieuwe vaardigheden bij te brengen. Het tegenovergestelde is echter ook mogelijk. Als AR-technologie precies bepaalt wanneer een werknemer welke handeling moet verrichten, kan menselijk werk ook gedegradeerd worden tot robotarbeid. In het entertainmentdomein kunnen apps zoals Snapchat vertier brengen, maar ze stimuleren gebruikers ook tot het creëren van een ideaal digitaal beeld van zichzelf. Er bestaan daarom zorgen dat veelvuldig gebruik van AR niet alleen gevaar voor verslaving oplevert, maar ook tot een vertekend zelfbeeld of zelfs tot vormen van body dysmorphic disorder (BDD) leidt.

Gezien deze beïnvloedingskwesties is behoefte aan meer wetenschappelijke reflectie op, en publieke discussie over, de maatschappelijke betekenis van AR als een technologie die tussen ons en de werkelijkheid in staat.

Uit deze kwesties volgen de volgende vier ontwerpregels en gewenste acties:

Ontwerpregel 5. Bescherm de mentale en fysieke gezondheid van AR-gebruikers
 

Gewenste actie: Het Ministerie van Volksgezondheid, Welzijn en Sport dient onderzoek en publiek debat over de gezondheidseffecten van AR te stimuleren. Het Ministerie van Onderwijs, Cultuur en Wetenschap dient ervoor te zorgen, dat omgaan met AR onderdeel wordt van het beleid op het gebied van mediawijsheid.
 

Ontwerpregel 6. Versterk menselijke capaciteiten op een waardige en eerlijke wijze
 

Ontwerpregel 7. Bescherm de cognitieve autonomie van mensen
 

Gewenste actie: De overheid dient onderzoek en debat te stimuleren over sociale normen en waarden (sociale etiquette) in de hybride wereld.
 

Ontwerpregel 8. Zorg voor eerlijke machtsverhoudingen in de hybride wereld
 

Gewenste actie: Het Ministerie van Economische Zaken dient te verhelderen hoe de overheid op het terrein van AR eerlijke verhoudingen tussen bedrijven onderling en tussen bedrijven en AR-gebruikers gaat waarborgen.
 

Ruimtelijke-ordeningskwesties, ontwerpregels en gewenste acties
Omdat AR de digitale wereld direct koppelt aan de fysieke omgeving, ontstaan ook nieuwe vraagstukken omtrent ruimtelijke ordening. AR biedt mogelijkheden om de fysieke omgeving digitaal opnieuw in te richten. Dat heeft niet alleen gevolgen in de hybride omgeving zoals de gebruiker die ervaart, maar ook in de fysieke ruimte en voor anderen die zich daar bevinden. Bij de introductie van Pokémon GO ontstond bijvoorbeeld een situatie waarbij duizenden spelers van het spel verleid werden naar het Haagse Kijkduin te trekken. Dat leidde tot allerlei vormen van overlast voor bewoners en tot schade aan de natuur.

De digitale wereld met haar cookies en trackers dringt nu door in ruimtes en leefwerelden die voorheen geheel analoog waren. Zo ‘koloniseert’ het digitale domein als het ware de fysieke wereld, hetgeen kan leiden tot commercialisering – ook van openbare ruimtes zoals natuurparken, stranden of pleinen. Dat kan afbreuk doen aan het gemeenschappelijke karakter van die plekken.

Omdat AR verregaande consequenties heeft voor het gebruik van de fysieke ruimte, is het belangrijk dat de overheid gaat verkennen hoe de hybride wereld op maatschappelijk verantwoorde wijze ingericht kan worden en wat voor regels daarvoor nodig zijn.

Uit deze kwesties volgen de volgende drie ontwerpregels en gewenste acties:

Ontwerpregel 9. Geef burgers controle over hun fysiek-virtuele identiteit
 

Gewenste actie: Het Ministerie van Justitie en Veiligheid dient te verhelderen wat het recht op lichamelijke integriteit betekent in het kader van AR.
 

Ontwerpregel 10. Zorg voor publieke ruimtes in de hybride wereld
 

Gewenste actie: De overheid dient te onderzoeken hoe op de lange termijn het publieke karakter van de hybride openbare ruimte gewaarborgd kan worden.
 

Ontwerpregel 11. Richt de hybride leefomgeving maatschappelijk verantwoord in
 

Gewenste actie: De overheid dient te verkennen hoe de hybride omgeving op een maatschappelijk verantwoorde wijze ingericht kan worden.