calendar tag arrow download print
Doorgaan naar inhoud

Mensenrechten in het robottijdperk

Rapport
11 oktober 2017
Uitdagingen door het gebruik van robots, kunstmatige intelligentie, virtual & augmented reality
Robots Mensenrechten
Image
In dit rapport pleit het Rathenau Instituut voor een nieuw Europees verdrag met twee nieuwe mensenrechten. Ten eerste: het recht om niet gemeten, geanalyseerd of beïnvloed te worden. Ten tweede: het recht op betekenisvol menselijk contact.

Downloads

Downloads

Samenvatting

Human rights in the robot age

Het gebruik van robots, kunstmatige intelligentie en virtual en augmented reality kan mensenrechten versterken, maar ook ondermijnen. Dit rapport onderzoekt deze uitdagingen, en maakt duidelijk dat om mensenrechten te beschermen onze juridische en ethische systemen vernieuwd moeten worden. Het Rathenau Instituut roept de Raad van Europa op een verdrag voor te bereiden dat mensenrechten en menselijke waardigheid in het robottijdperk beschermt. Daarmee sluit dit rapport aan bij de aanbevelingen uit de eerdere publicatie ‘Opwaarderen – Borgen van publieke waarden in de digitale samenleving’ van het Rathenau Instituut.

Nieuwe technologie, nieuwe sociale en ethische uitdagingen

Slimme wearables verzamelen informatie over hartslag, emoties en slaap­ gedrag. Het zijn handige hulpjes bij het streven naar een gezonde levensstijl, maar het is onduidelijk wat er met de gevoelige gegevens gebeurt. Op het internet vinden continu psychologische testen plaats die emoties of relaties tussen mensen beïnvloeden, zonder dat bestaande wetenschappelijke ethische richtlijnen voor psychologisch onderzoek worden gehanteerd. Binnen de Raad van Europa groeit het besef dat nieuwe technologieën zoals big data, robotica en kunstmatige intelligentie de samenleving voor allerlei ethische en sociale uitdagingen stellen – en dat de huidige ethische en juridische systemen daar lang niet altijd op voorbereid zijn. Dit rapport, geschreven op verzoek van het Parlementaire Assemblee van de Raad van Europa (PACE), biedt zicht op deze uitdagingen en presenteert aanbevelingen om de menselijke waardigheid in de digitale samenleving te waarborgen. 

Ingrijpen in de mens

Het rapport richt zich op vier convergerende technologieën die elkaar in steeds grotere mate beïnvloeden: nanotechnologie, biotechnologie, informatietechno­logie en cognitieve technologie. Deze convergentie heeft geleid tot twee mega­ trends: (1) we kunnen biologische organismes gemakkelijk technologisch manipuleren en (2) technologische innovaties krijgen eigenschappen die we voorheen alleen associeerden met levende wezens. Een voorbeeld van het eerste is het genetisch manipuleren van muggen, een voorbeeld van het tweede is zelflerende software. Als gevolg van deze twee megatrends grijpen nieuwe technologieën steeds intiemer in op het dagelijks leven van mensen. Het rapport richt zich met name op de tweede trend.

De regulering van biomedische technologie leidde in 1997 tot het Verdrag inzake de rechten van de mens en de biogeneeskunde (het verdrag van Oviedo). Dit verdrag beschermt de menselijke waardigheid en mensenrechten ten opzichte van technologie in ons lichaam. Inmiddels is er een reeks aan digitale technologieën ontwikkeld die zich buiten het lichaam bevindt, maar evengoed lichamelijke, mentale en sociale prestaties van mensen beïnvloeden. Het rapport geeft aan dat deze technologieën mensenrechten onder druk kunnen zetten.

Het rapport bespreekt zes technologieën: zelfrijdende auto’s, zorgrobots, e­coaches, kunstmatige intelligentie in de rechtspraak, augmented reality en kunstmatige intelligentie als middel voor sociale profilering. Deze technolo­ gieën worden besproken in de context van zeven bestaande mensenrechten: het recht op privacy, op menselijke waardigheid, op eigendom, op toereikend aansprakelijkheidsrecht, op vrijheid van meningsuiting, op bescherming tegen discriminatie en op toegang tot rechtspraak en een eerlijk proces. Ook stelt het rapport twee nieuwe rechten voor: het recht niet gemeten, geanalyseerd of gecoacht te worden en het recht op betekenisvol menselijk contact. Hieronder worden deze rechten kort besproken.

Recht op eerbiediging van privéleven

Het recht op eerbiediging van privéleven wordt op verschillende manieren bedreigd door de nieuwe technologie. Allereerst wordt er op het internet op ongekende schaal data over mensen verzameld, bewaard, geanalyseerd en gebruikt. Surfen op Facebook kan bijvoorbeeld gevoelige informatie prijsgeven, zoals iemands seksuele voorkeur. Daarnaast verzamelen robots met toegang tot internet of andere netwerken ook data – denk aan auto’s die de gereden route bijhouden of zorgrobots die de emoties van ouderen registreren. Het is van groot belang voor onze privacy hoe er met al deze data wordt omgespron­ gen – in hoeverre hebben mensen controle over hun eigen data, en in hoeverre beïnvloedt massasurveillance hun gedrag? Data kunnen ons helpen diensten efficiënter te organiseren en de wereld beter te begrijpen, maar dat moet hand in hand gaan met een verantwoord databeleid.

Naast de verzameling van data dringen nieuwe technologieën ook steeds meer onze persoonlijke levenssfeer binnen. Het internet wordt omschreven als het grootste psychologische experiment ooit: websites houden continu bij hoe bepaalde elementen op de site het surfgedrag van bezoekers beïnvloeden. De sites verleiden mensen steeds effectiever om bijvoorbeeld diensten af te nemen of te gokken. In het internet der dingen vinden zulke experimenten ook plaats: e­coaches verleiden ons om meer te sporten of meer rust te nemen, en zorg­ robots dringen aan om op tijd medicijnen te nemen. Dat kan behulpzaam zijn, maar ook leiden tot ongewenste beïnvloeding. Bij al deze ontwikkelingen is het daarom zaak te zorgen dat mensen proactief hun eigen keuzes kunnen blijven maken – anders doet technologie afbreuk aan hun autonomie zoals gewaar­ borgd door het recht op eerbiediging van de persoonlijke levenssfeer.

Recht op familie- en gezinsleven en respect voor menselijke waardigheid

Het recht op eerbiediging van privé­, familie­ en gezinsleven, waaronder het recht om relaties aan te gaan en te onderhouden, staat ook onder druk. Nieuwe technologieën kunnen gebruikers zo fascineren dat hun sociale vermogens achteruit gaan: bijvoorbeeld doordat zorgrobots menselijk contact vervangen of doordat gebruikers volledig opgaan in virtual reality games. Het is van belang dat deze technologieën menselijk contact juist aanmoedigen, bijvoorbeeld door videoconferenties mogelijk te maken of doordat zorgrobots mensen attenderen op het contact met familieleden. De omgang met zorgrobots is ook van belang voor het bevorderen van een menswaardige ouderenzorg. Een goed voorbeeld is My Spoon, een techniek die het voeden van ouderen respectvoller en prettiger maakt.

Recht op eigendom

Het recht op eigendom wordt ook beïnvloed door nieuwe technologie. Als je eigenaar van een huis bent, heb je dan ook zeggenschap over de manier waarop dat huis gebruikt wordt in de virtuele wereld? Heeft een huiseigenaar het recht om Pokémon Go te verbieden zijn huis als gym aan te wijzen? En hoe begrijpen we eigendom in situaties waar de digitale informatie in bijvoorbeeld auto’s beheerd wordt door anderen? De manier waarop we deze vragen beant­woorden moet heldere grenzen stellen aan eigendomsrechten, en de wijze waarop anderen die moeten respecteren. Hierbij speelt ook de omgang met persoonlijke data een grote rol.

Helder aansprakelijkheidsrecht

Er is ook meer helderheid nodig over aansprakelijkheid. Het rapport bespreekt in deze context de zelfrijdende auto. Zulke auto’s zijn in meer en mindere mate zelfstandig – in bijna alle gevallen wordt de chauffeur geassisteerd maar rijdt de auto niet volledig automatisch. Per niveau van zelfstandigheid dient duidelijk te zijn wie de verantwoordelijkheid draagt voor ongelukken: moet de chauffeur aangesproken worden, of de producent, of ligt het aan de technologische weg­ voorzieningen? Aansprakelijkheidsconflicten moeten ook in de toekomst eerlijk opgelost kunnen worden.

Vrijheid van meningsuiting

De vrijheid van meningsuiting, waaronder de vrijheid om inlichtingen of denk­ beelden te ontvangen of te verstrekken, kan ook onder druk komen te staan. Internetsites kunnen bijvoorbeeld filteren welke informatie de gebruiker te zien krijgt, waardoor hij steeds meer leeft en denkt in een ééndimensionale bubbel. Tegelijkertijd komt nepnieuws steeds vaker voor, waardoor de gebruiker het gevaar loopt misleid te worden. Het is belangrijk dat de media die onze informatiestromen beheren, waaronder bedrijven als Facebook en Google, de vrijheid van meningsuiting zoveel mogelijk bewaken en faciliteren, en dat er duidelijkheid komt over de rol die zij innemen in een open democratie.

Bescherming tegen discriminatie

De technieken die onze informatiestromen beheren kunnen ook discriminerend werken, al dan niet onbedoeld. Wetenschappers leggen uit dat als onze samen­ leving oneerlijk is, deze oneerlijkheid terugkomt in de manier waarop algoritmes in software data analyseren. Mensen hebben op basis van bestaande wet­ geving een beperkt recht om in specifieke omstandigheden te eisen dat er inzicht wordt geboden in de algoritmes die hen analyseren. Maar de vraag blijft of dit recht praktisch hanteerbaar is voor inzage in discriminerende activi­ teiten door algoritmes of oneigenlijke manipulatie. Het is daarom zaak de accountability voor algoritmes te verbeteren.

Toegang tot het recht en het recht op een eerlijk proces

Kunstmatige intelligentie wordt ook steeds meer gebruikt in rechtszaken en rechtshandhaving, bijvoorbeeld ter ondersteuning van de rechter om relatief makkelijke zaken snel te beslissen. Ook kan kunstmatige intelligentie recht­ zoekenden ondersteunen bij het maken van een inschatting van hun winkansen, ten behoeve van een effectievere toegang tot de rechtspraak. Over het gebruik van kunstmatige intelligentie in de rechtszaal signaleert het rapport dat dit niet ten koste mag gaan van een transparante rechtsgang. Dan komt het recht op een eerlijk proces in het geding.

Nieuwe mensenrechten

Ten slotte suggereert het rapport twee potentieel nieuwe rechten, die samen­ hangen met het recht op eerbiediging van privé en familieleven. Mensen zouden het recht moeten hebben om niet gesurveilleerd of heimelijk beïnvloed te worden, en te kunnen ontsnappen aan de continue analyse die uitgevoerd wordt als onderdeel van het internet der dingen. In de onlife wereld, de fysieke wereld waarin internet overal aanwezig is, zouden mensen de mogelijkheid moeten hebben om anoniem te zijn. Ook bepleit het rapport een recht op betekenisvol menselijk contact. Of het de zorg voor ouderen betreft of het opvoeden van kinderen, robots moeten menselijke relaties niet vervangen maar verbeteren.

Conclusie

Deze ontwikkelingen vormen samen een wake­up call om beleid te maken dat het mensenrechtenraamwerk beschermt en verder ontwikkelt. Het Rathenau Instituut pleit bij de Raad van Europa dan ook voor een internationaal verdrag dat de mensenrechtenbescherming klaarmaakt voor het robottijdperk. Nationale parlementen hoeven daar niet te wachten en kunnen nu al nieuwe wetgeving ethisch toetsen op de uitholling van mensenrechten. Dit rapport geeft hier handvatten voor.

 

Bij voorkeur citeren als:
Van Est, R. & J.B.A. Gerritsen, with the assistance of L. Kool, Human rights in the robot age: Challenges arising from the use of robotics, artificial intelligence, and virtual and augmented reality – Expert report written for the Committee on Culture, Science, Education and Media of the Parliamentary Assembly of the Council of Europe (PACE), The Hague: Rathenau Instituut 2017

Conclusie

Digitale technologieën hebben een steeds grotere invloed op het dagelijks leven van mensen. Robots en kunstmatige intelligentie krijgen de eigenschappen van levende wezens. Sociale media, augmented reality en het internet-of-things beïnvloeden het sociale handelen. En big data beïnvloedt gedrag, gevoel en denken. Melanie Peters, directeur van het Rathenau Instituut: “Nieuwe technologieën brengen de mensheid vooruit maar stellen onze samenleving tegelijkertijd voor nieuwe sociale uitdagingen. Onze huidige ethische en juridische systemen zijn daar nog onvoldoende op voorbereid.”

Het rapport pleit daarom voor aanscherping en verheldering van bestaande mensenrechten en voor twee nieuwe mensenrechten.

  1. Ten eerste zouden mensen het recht moeten krijgen om niet gemeten, geanalyseerd of beïnvloed te worden. Om online profilering, tracking en beïnvloeding te kunnen weigeren.
     
  2. Ten tweede zouden mensen het recht moeten krijgen op betekenisvol menselijk contact. Het recht te kiezen voor menselijk contact boven robotcontact. In de zorg worden pilots met zorgrobots uitgevoerd. Dat kan de kwaliteit van leven bevorderen, maar stelt ook nieuwe vragen over de kwaliteit van zorg en menselijke relaties.