calendar tag arrow download print
artikel
17 april 2018

Wat is de mens? Over (biomedische) technologie en ‘mensverbetering’

technologisch burgerschap
​​​​​​​Nieuwe technologieën – van kunstmatige intelligentie tot synthetische biologie – gaan de wereld, de menselijke conditie en ons mens-zijn ongekend veranderen. De discussie hierover beperkt zich veelal tot individuele waarden. Het is echter ook cruciaal om te praten over de collectieve menselijke waarden die we willen waarborgen in onze intiemtechnologische samenleving. Er ligt namelijk een belangrijke politieke vraag op tafel: hoe kunnen we mensverbetertechnologieën op een maatschappelijk verantwoorde manier ontwikkelen en in gaan zetten?

Dit essay verscheen eerder in de bundel 'Over medische ethiek gesproken - bespiegelingen op leven, levenseinde en zorg', van de Hans van Mierlo-stichting. Geschreven door Ira van Keulen en Rinie van Est.

Intieme verbetertechnologie vereist technologisch burgerschap

De afgelopen decennia is de mens steeds meer object van studie en technisch ingrijpen geworden. We zijn zelf een ingenieursproject. Een belangrijke motor hierachter is het samengaan van nanotechnologie, biotechnologie, informatietechnologie en cognitieve technologie. Deze zogenaamde NBICconvergentie zorgt voor een nieuwe golf aan toepassingen, die grotendeels bestaat uit intieme technologieën die ons lichaam en gedrag op allerlei manier kunnen monitoren, analyseren en beïnvloeden. In essentie houdt NBICconvergentie een steeds sterkere interactie tussen de natuurwetenschappen (nano en info) en de levenswetenschappen (bio en cogno) in. Die interactie leidt tot twee megatrends: “biologie wordt steeds meer technologie” en “technologie wordt steeds meer biologie.”[1]

Op het terrein van de natuurwetenschappen heeft er een revolutie plaatsgevonden op het gebied van materialen. Konden we in de jaren zeventig materialen onderzoeken en vervaardigen op microschaal, inmiddels kan dat op nanoschaal. Een DNA-streng is bijvoorbeeld bijna twee nanometer (oftewel twee-miljoenste millimeter) dik. Deze nanotechnologie heeft de grondslag gelegd voor de computerrevolutie. Die computers maken het vervolgens mogelijk om betere materialen en machines te maken. Nanotechnologie en informatietechnologie zwepen dus elkáár op. Digitalisering maakt het mogelijk om grote hoeveelheden informatie over de materiële, biologische en sociale wereld te vergaren, te analyseren en die kennis weer toe te passen. Denk aan de zelfsturende auto die gebruik maakt van digitale kaarten en met elke afgelegde meter extra informatie toevoegt aan die digitale kaart. Zo ontstaat er een cybernetische loop tussen de fysieke en de digitale wereld.[2]

Bovengenoemde ontwikkelingen in de natuurwetenschappen stimuleren de levenswetenschappen, zoals de genetica, geneeskunde en neurowetenschappen. Moderne apparatuur, van DNA-chips tot MRI-scans, biedt talloze mogelijkheden om lichaam en brein te onderzoeken én erop in te grijpen. Dit leidt er toe dat “biologie steeds meer technologie wordt”. Dat houdt in dat levende organismen, zoals het menselijk lichaam, steeds meer als meetbaar, analyseerbaar en maakbaar gezien worden. Kiembaantechnologie past bijvoorbeeld typisch in deze trend. In de zomer van 2017 slaagde een Amerikaans onderzoeksteam er voor het eerst in om met CRISPR-Cas9 technologie een erfelijke afwijking in het DNA van een (levensvatbare) menselijke embryo te repareren.[3]

Inzichten uit de levenswetenschappen inspireren op hun beurt weer de apparatenbouwers: denk aan DNA-computers en zelfherstellende materialen. Simulatie van de werking van het brein in hard- en software is bijvoorbeeld een belangrijk doel van het omvangrijke Europese onderzoeksproject The Human Genome Project waar de Europese Commissie een miljard euro gedurende tien jaar in investeert. Dit leidt er toe dat “technologie steeds meer biologie” wordt. Ingenieurs pogen in technologie steeds vaker typische kwaliteiten van levende wezens in te bouwen, zoals zelfreparatie, voortplanting en intelligentie. Voorbeelden van deze tweede trend zijn kunstmatige intelligentie en sociale robots.

De trends “biologie wordt technologie” en “technologie wordt biologie” toegepast op de mens zorgen er voor dat mens en technologie steeds meer met elkaar versmelten. Het Rathenau Instituut spreekt daarom van een intiem-technologische revolutie.

De trends “biologie wordt technologie” en “technologie wordt biologie” toegepast op de mens zorgen er voor dat mens en technologie steeds meer met elkaar versmelten.

Kijk ook naar technologie buiten ons lichaam

De trend “biologie wordt technologie” zwengelt het debat over ‘mensverbetering’ aan. Het gaat daarbij met name over invasieve medische technologieën die in het menselijk lichaam werkzaam zijn.[4] Denk aan psychofarmaca, zoals methylfenidaat, die gebruikt worden om krachtige gedragsimpulsen te onderdrukken en de opslagcapaciteit van het werkgeheugen te verbeteren of modafinil die kan helpen om mensen waakzamer en bedachtzamer te maken. Maar ook neurotechnologieën als diepe hersenstimulatie en andere breinimplantaten, biotechnologieën als synthetisch bloedvervangers, kunstmatige retina’s, gentherapie en kiembaanmodificatie worden vaak aangehaald in discussies over mensverbetering.

Wat betekent het om mens te zijn in de 21ste eeuw? Die vraag hangt ook samen met de trend “technologie wordt biologie”, met name technologie die buiten het lichaam werkzaam is en impact heeft op lichamelijke, geestelijke en sociale prestaties van mensen. Een voorbeeld is het exoskelet de Tactical Assault Light Operator Suit (TALOS), ontwikkelt door het Amerikaanse leger, dat soldaten sterker maakt en minder kwetsbaar voor kogels. Daarnaast is er persuasieve technologie: informatietechnologie ontworpen om het gedrag van mensen te beïnvloeden. Denk daarbij aan smartphone apps die mensen bijvoorbeeld advies geven over wat (niet) te eten, hun rijgedrag, en hoe om te gaan met sociale relaties of geld.[5] Of een armband die zweet en hartslag kan meten en gaat trillen als de drager agressieve emotie vertoont. Door middel van een online role playing game heeft de drager geleerd dat agressief gedrag niet loont. Als gevolg verwacht men dat hij of zij in de echte wereld dergelijk gedrag ook zal vermijden.[6] Ook via EEG neurofeedback kunnen mensen inzicht krijgen in hun hersenactiviteit en leren die activiteit te beïnvloeden en zo hun gedrag te veranderen.

Bovengenoemde technologieën die werkzaam zijn buiten ons lichaam roepen vragen op over autonomie en geïnformeerde toestemming: zijn mensen in slimme omgevingen werkelijk in staat om autonome beslissingen te nemen? Wanneer is er sprake van technologisch paternalisme? Verzwakt persuasieve technologie een zwakke wil nog verder? Is het moreel aanvaardbaar om het gedrag van mensen onbewust of onwetend te verbeteren? Net als bij invasieve technologieën spelen ook bij niet-invasieve technologieën vragen rondom privacy en lichamelijke en geestelijke integriteit. Bij veel persuasieve technologieën moet je om jezelf te kunnen verbeteren veel data van jezelf weggeven. Blijft de gebruiker wel baas over zijn eigen gegevens? Hebben we het recht om anoniem te blijven, om ons niet te laten meten, te analyseren en te laten coachen?[7] En hoe doe je dat in een wereld vol sensoren? Met name de opkomst van gezichts- en emotieherkenning maakt deze vraag prangend.[8] Mensen kunnen bovengenoemde invasieve en niet-invasieve technologieën doelbewust inzetten, bijvoorbeeld om mooier of sterker te worden. Maar technologie kan ook onbedoelde effecten sorteren. Doordat we technologie steeds intensiever gebruiken, veranderen onze vaardigheden. We krijgen er nieuwe bij (reskilling of upskilling genoemd) zoals allerlei digitale vaardigheden. En sommige competenties beheersen we minder (deskilling). Er is bijvoorbeeld veel onderzoek dat uit lijkt te wijzen dat onze sociale vaardigheden zoals empathie door ICT gebruik afbrokkelen.[9] Intieme technologieën bieden dus mogelijkheden voor mensverbetering, maar kunnen ook tot essentiële veranderingen in menselijke vaardigheden en de wijze waarop we met elkaar omgaan leiden. Dergelijke veranderingen in onze menselijke conditie overstijgen het niveau van het individu. Ze raken aan collectieve kwesties en waarden en vragen om maatschappelijke discussie en waar nodig politiek handelen.

“Wat betekent het om mens te zijn in de 21ste eeuw?”

Aandacht voor collectieve waarden

De discussie over mensverbetering beperkt zich echter veelal tot persoonlijke doelen. Klassieke vragen die gesteld worden zijn bijvoorbeeld: is mensverbetering een individueel recht? Mogen mensen zelf beslissen of ze zich technologisch willen verbeteren? In The techno-human condition betogen Braden Allenby en Daniel Sarewitz dat zo’n insteek onvoldoende is.[10] Zij geven aan dat het debat over de impact van mensverbetering op de volgende drie niveaus van complexiteit gevoerd dient te worden: niveau 1) de directe impact van een enkele technologie; niveau 2) de manier waarop een technologie een sociotechnische systeem en bijbehorende sociale en culturele patronen beïnvloedt, en niveau 3) de impact van technologie op mondiaal niveau. Laten we de auto als voorbeeld nemen. De auto brengt je in principe sneller van A naar B dan een fiets (niveau 1 redenering). Maar als veel mensen met de auto gaan dan kan in de stad de fiets weleens sneller zijn (niveau 2 redenering). Op wereldniveau heeft de opkomst van de auto bijgedragen tot allerlei grote ontwikkelingen, zoals de olieeconomie, Fordisme [model gericht op massaproductie] en klimaatverandering. Allenby en Sarewitz stellen dat het huidige debat over mensverbetering vaak blijft hangen op het instrumentele niveau. Het gaat daarbij met name om de vraag of mensen het recht hebben om op basis van een vrije keuze technologie in te zetten om hun lichamen en hersenen te verbeteren. In tegenstelling tot wat transhumanisten vaak veronderstellen, laten ze zien dat – net zoals de auto niet onder alle omstandigheden sneller hoeft te zijn dan de fiets – de toepassing van mensverbetertechnologie op individueel niveau niet simpelweg leidt tot een betere individuele kwaliteit van leven, laat staan tot een betere samenleving. De inzet van mensverbetertechnologie zal vaak gedreven worden door economische of militaire motieven (niveau 2 redenering). Zo’n scenario zet een streep door de rekening van de individuele vrije keuze, want in dat geval is “De posthumane mens is niet eens een self-made man, maar een door anderen ontworpen mens.”43

De massale inzet van mensverbetertechnologie zal ook op mondiaal niveau – hoewel lastig te voorspellen – effecten hebben. In Homo Deus schetst Harari twee (parallelle) lange termijn scenario’s[11]: de opkomst van de door technologie fysiek en mentaal verbeterde ‘supermens’ (Homo Deus) en een scheiding tussen supermensen en gewone mensen (niveau 3 redenering). Volgens Harari kan dit er uiteindelijk toe leiden dat de principiële gelijkheid tussen mensen die de basis vormt van de Universele Verklaring van de Rechten van de Mens verlaten zal worden. Naast dit “biologie wordt technologie”-scenario, zet Harari nog een “technologie wordt biologie”- scenario. Hij voorziet de opkomst van het dataïsme, waarbinnen de mens volledig onderdeel is geworden van een Internet-of-All-Things, en zich continu laat leiden door adviezen die de computer geeft op basis van kunstmatige intelligentie. In dit scenario heeft de mens al zijn privacy, autonomie, individualiteit, en daarmee de democratie, opgegeven.

In het huidige debat overheerst de pragmatische insteek die we kennen vanuit het medisch-ethisch regime.

Hoewel dergelijke scenario’s speculatief zijn, tonen ze wat er in de kern op het spel staat en dat het belangrijk is om (veel) verder te kijken dan alleen het individuele instrumentele niveau. Dat dat vaak niet gebeurd, laat de Nederlandse discussie rondom kiembaantechnologie zien. Collectieve belangen spelen daarin geen rol van betekenis. En dat terwijl de met CRISPR aangebrachte wijzigingen in het DNA van het embryo onomkeerbaar zijn en aan volgende generaties worden doorgegeven. In het huidige debat overheerst de pragmatische insteek die we kennen vanuit het medisch-ethisch regime.[12] Zo is er veel aandacht voor de internationale positie van Nederland. Nederland wil als kennisland niet achterblijven. Ten tweede wordt er vooral gekeken naar de gezondheidswinst voor het betreffende individu die kiembaanmodificatie mogelijk oplevert. Daarbij staat een traditionele risk-benefit analyse centraal. Ten derde legt het vergroten van de reproductieve autonomie veel gewicht in de schaal. Hierbij gaat het om de kansen die kiembaanmodificatie biedt voor wensouders met een erfelijke aandoening om een genetisch gezond eigen kind te krijgen.

Maar modificatie van de kiembaan roept ook vragen op die niet passen binnen het kader van medisch-ethische principes geënt op veiligheid, geïnformeerde toestemming en reproductieve autonomie. In termen van collectieve waarden en internationale mensenrechten zou er in het debat ook plaats moeten zijn voor de mensrechtelijke notie dat het menselijk genoom als gemeenschappelijk erfgoed, en dus als collectief bezit, beschouwd wordt.[13]

Technologisch burgerschap

Nieuwe NBIC-technologieën gaan de wereld, de menselijke conditie en ons mens-zijn ongekend veranderen. Hierboven hebben we betoogd dat we met betrekking tot mensverbetering zowel moeten kijken naar invasieve medische technologieën (de trend “biologie wordt technologie”) als naar technologie die buiten het lichaam werkzaam is en tevens impact heeft op lichamelijke, geestelijke en sociale prestaties van mensen (de trend “technologie wordt biologie”). Toekomstdenkers van Harari tot en met Aldous Huxley en Raymond Kurzweil laten zien wat er deze eeuw mogelijk op het spel staat: radicale verbetering van menselijke capaciteiten en keuzes, scheiding tussen ‘natuurlijke’ en ‘verbeterde’ mensen, opheffing van het individu en daarmee tevens de democratie. De politieke vraag ligt dus op tafel hoe we mensverbetertechnologieën op een maatschappelijk verantwoorde manier kunnen ontwikkelen en in gaan zetten.  Om richting te geven aan die transformatie is een democratische zoektocht nodig naar gedeelde morele principes die de versmelting tussen mens en technologie in goede banen kan leiden. Omdat zo’n zoektocht mensenwerk is, is een eerste vereiste daarvoor een goed ontwikkeld ‘technologisch burgerschap’ bij alle Nederlanders.[14] Technologisch burgerschap is de verzameling van plichten en rechten die het mogelijk maakt dat burgers kunnen profiteren van de zegeningen van technologie en hen beschermt tegen de risico’s daarvan. Dat betekent dat mensen bijvoorbeeld begrijpen hoe statistische uitslagen, (genetische) profilering en zelflerende algoritmes werken en hoe hen dat beïnvloedt, en dat ze in staat zijn zich te verweren tegen ongewenste invloeden, en alternatieven - soms ook niet-technologische – kunnen kiezen. Daarnaast is het van belang dat burgers de mogelijkheid hebben om deel te nemen aan de besluitvorming rondom technologie in al haar ontwikkelingsfasen, van onderzoek tot toepassing. Technologisch burgerschap emancipeert de gewone burger aldus ten opzichte van de expert en maker van technologie.

“Technologisch burgerschap emancipeert de gewone burger...ten opzichte van de expert en maker van technologie.”

De rol van instituties

Onderwijs speelt een centrale rol in het stimuleren van technologisch burgerschap. En dat begint op het lager en middelbaar onderwijs. Hier ligt een duidelijke rol voor de overheid. Inmiddels heeft de Tweede Kamer in april 2017 een curriculumherziening die was voorbereid door het Platform Onderwijs 2032 goedgekeurd. Twee nieuwe vakgebieden zijn toegevoegd aan het curriculum: digitale geletterdheid en burgerschap. In 2018 gaan ontwikkelteams op scholen aan de slag om die vakgebieden in te vullen. Het zou goed zijn als de twee ontwikkelteams nauw met elkaar gaan samenwerken en er rekening van geven dat burgerschap in een technologische cultuur slechts betekenis heeft als we geïnformeerd met elkaar in discussie kunnen gaan over de betekenis van technologie op ons privéleven en onze maatschappij.

Maar educatie is niet genoeg. Om hun burgerschap waar te maken, hebben burgers instituties nodig. Zonder geschikte politiek-bestuurlijke instituties is technologisch burgerschap een lege huls. Rechten en plichten moeten namelijk democratisch opgeëist, vastgelegd en geïmplementeerd kunnen worden.[15] Individuen kunnen dus pas echt technologisch burgers worden als ze zich beschermd weten door een optimaal ingericht governance-systeem. De volgende vier onderdelen zijn hierin cruciaal: 1) rechten en toezicht op naleving, 2) maatschappelijk debat, 3) politieke visie en 4) maatschappelijk verantwoord ondernemen.

Ten eerste moeten burgers een beroep kunnen doen op fundamentele mensenrechten, die passen bij de tijd waarin we leven. Op verzoek van het Parlementaire Assemblee van de Raad van Europa, de hoeder van de mensenrechten in Europa, onderzocht het Rathenau Instituut op welke wijze robotisering, kunstmatige intelligentie en virtualisering onze huidige mensenrechten uitdagen.[16] Het Rathenau Instituut pleit onder andere voor twee nieuwe mensenrechten. Ten eerste het recht om niet gemeten, geanalyseerd of gecoacht te worden. Mensen zouden het recht moeten hebben om niet gesurveilleerd of heimelijk beïnvloed te worden, en te kunnen ontsnappen aan de continue algoritmische analyse.

Een tweede recht is het recht op betekenisvol menselijk contact binnen de zorg. Robots zouden menselijke relaties niet moeten vervangen maar verbeteren. Of het nu de zorg voor ouderen of het opvoeden van kinderen betreft.[17] Reeds bestaande rechten en plichten dienen in de praktijk van alle dag waargemaakt te worden zodat de technologische burger zich daadwerkelijk beschermd weet.

Wij vragen ons af of de huidige toetsingsinstanties wel in staat zijn om hun taak uit te voeren, en of hun mandaat nog wel adequaat is. Zo heeft het College voor de Rechten van de Mens nog weinig aandacht voor de vraag hoe digitalisering mensenrechten onder druk kan zetten. De Autoriteit Persoonsgegevens heeft weinig armslag om ook naar andere collectieve waarden dan privacy te kijken.

Ten tweede is er maatschappelijk debat nodig over de impact van nieuwe technologieën. Terwijl op het gebied van milieuproblemen het maatschappelijk middenveld sterk georganiseerd is, kent Nederland nog weinig gevestigde maatschappelijke organisaties die een kritische discussie over de nieuwe intiem-technologische revolutie aan gaan, behalve op het gebied van privacy. Terwijl het juist nu belangrijk is om het soort vragen te stellen als: welke collectieve menselijke waarden willen we waarborgen in onze intiemtechnologische samenleving? Als we geen vroegtijdig debat voeren dan laten we de ontwikkeling van technologie aan de ingenieurs, de markt en individuele keuzes over. Pessers waarschuwt voor het collectieve effect van individuele zelfbeschikking dat de samenleving sluipenderwijs voor een fait accompli stelt zonder dat er een democratisch debat heeft plaatsgevonden.[18]  Bijvoorbeeld in het geval van prenatale diagnostiek verandert de abortus van een aantal kindjes met Downsyndroom de maatschappij niet. Maar als dat massaal gebeurt, roept dit de collectieve vraag op of we eigenlijk wel een samenleving willen zonder mensen met het syndroom van Down.

Welke collectieve menselijke waarden willen we waarborgen in onze intiem-technologische samenleving?

Van de politiek en de overheid wordt gevraagd het voortouw te nemen in het debat en de politiek-bestuurlijke omgang met de intiem-technologische revolutie. Op dit moment is er echter geen brede beleidsvisie over de impact van technologie op ons mens-zijn en wordt het huidige politieke debat vooral gedreven door incidenten.[19]  Voor zo’n maatschappelijke visie is verdere kennisontwikkeling nodig. In de omgang met onze natuurlijke omgeving staat inmiddels het begrip ecologische duurzaamheid centraal. Kwalitatieve en kwantitatieve invulling geven aan dat begrip vraagt om de ontwikkeling van nieuwe kennis en duurt jaren. We denken dat in het debat over de relatie tussen technologie en de mens het begrip ‘menselijke duurzaamheid’ een centrale rol kan gaan spelen. Bij menselijke duurzaamheid gaat het om het behoud van menselijke eigenheid: welke aspecten van de mens en ons mens-zijn zien we als maakbaar en welke aspecten willen we graag behouden? Denk bijvoorbeeld aan de wens om empathische vermogens op een hoog peil te houden of te kiezen voor kinderen die uit een mens worden geboren in plaats van een kunstmatige baarmoeder. Invulling geven aan begrippen zoals menselijke waardigheid en duurzaamheid vragen om veel onderzoek en diep denkwerk.

Tenslotte moeten burgers erop kunnen vertrouwen dat het bedrijfsleven het belang van de gebruiker voorop heeft staan bij de ontwikkeling van haar technologische producten. De toenemende versmelting van mens en technologie dwingt ons bewust te zijn van de waarden en normen die we tijdens het ontwerpen en programmeren van een technologie inbrengen. Op het gebied van privacy pleiten academici er al enige jaren voor dat organisaties tijdens de ontwikkeling van informatiesystemen aandacht besteden aan privacy-verhogende maatregelen en dataminimalisatie. Inmiddels is dit privacy by design een kernprincipe achter de nieuwe Europese privacy verordening. Privacy-bevorderende technologie is een voorbeeld van een breder concept van waardenbewust ontwerpen (value sensitive design) dat probeert om naast privacy een breed scala aan relevante collectieve waarden, inclusief basale mensenrechten, mee te nemen in het ontwerpen van technologie.

Referenties

[1] Van Est, R., m.m.v. V. Rerimassie, I. van Keulen & G. Dorren (2014) Intieme technologie: De slag om ons lichaam en gedrag. Den Haag: Rathenau Instituut.
[2] Kool, L., J. Timmer, L. Royakkers & R. van Est (2017) Opwaarderen: Borgen van publieke waarden in de digitale samenleving. Den Haag: Rathenau Instituut.
[3] Ledford. H. (2017) CRISPR fixes disease gene in viable human  embryos. Nature News.
[4] Van Est, R. & M. Schuijff (2013) Staying human in the 21st century: Thinking beyond human enhancement technologies inside the body. In: T. de Boer & R. Fischer (eds.) Human enhancement: Scientific, ethical and theological aspects from a European perspective. Strasbourg: Church and Society Commission of the Conference of European Churches. Pag. 81-96.
[5] Kool, L., J. Timmer & R. van Est (red.)(2014) Eerlijk advies: De opkomst van de e-coach. Den Haag: Rathenau Instituut.
[6] De Ruyter, B. (2011). Persuasive technology. In: J.B. de Jong, I. van Keulen & J. Quast (red.) Van Vergeetpil tot robotpak. Human enhancement voor een veilige en rechtvaardige samenleving? Den Haag: Rathenau Instituut: 77-80.
[7] Van Est, R. & J. Gerritsen, with the assistance of L. Kool (2017) Human rights in the robot age: Challenges due to the use of robotics, artificial intelligence, virtual and augmented reality. Expert report written for the Council of Europe, Parliamentary Assembly, Committee on Culture, Science, Education and Media. The Hague: Rathenau Instituut.
[8] Janssen A., Kool, L. & Timmer, J. (2015) Dicht op de huid - Gezichts- en emotieherkenning in Nederland. Den Haag: Rathenau Instituut.
[9] Konrath, S.H., E.H. O'Brien, and C. Hsing (2011) Changes in dispositional empathy in American college students over time: A meta-analysis. Personality and Social Psychology Review 15 (2): 180198. Zie ook: Turkle, S. (2011) Alone Together: Why we expect more from technology and less from each other. New York: Basic Books.
[10] Allenby, B.A. & D. Sarewitz (2011) The techno-human condition. Boston: MIT press. 43 Pessers, D. (2017) De aanbidding van het DNA: de mens als wetenschappelijk te analyseren en modificeren object. Groene Amsterdammer, 7 september, pag. 38-43.
[11] Harari, Y.N. (2017) Homo Deus: A brief history of tomorrow. London: Vintage.
[12] Vos, I. & L. van Bodegem (2017) Kinderen van de toekomst: Kanttekeningen bij het Nederlandse kiembaandebat. Den Haag: Rathenau Instituut.
[13] Van Est, R., J. Timmer, L. Kool, N. Nijsingh, V. Rerimassie & D. Stemerding (2017) Regels voor het digitale mensenpark: ‘Telen’ en ‘temmen’ van mensen via kiembaanmodificatie en persuasieve technologie. Den Haag: Rathenau Instituut.
[14] Van Est, R. (2016) Technologisch burgerschap als dé democratische uitdaging van de eenentwintigste eeuw. Christen Democratische Verkenningen 3: 108-115.
[15] Marshall, T.H. (1992) Citizenship and social class. London: Pluto Press.
[16] Van Est, R. & J. Gerritsen (2017).
[17] In april 2017 riep het Parlement van de Raad van Europa via een unaniem aangenomen resolutie de Raad van Europa op om beter te kijken naar hoe mensenrechten onder druk komen te staan door de intiem-technologische revolutie en zijn ze gevraagd om richtlijnen te ontwikkelen voor de twee genoemde nieuwe mensenrechten.
[18] Pessers, D. (2017) De aanbidding van het DNA: de mens als wetenschappelijk te analyseren en modificeren object. Groene Amsterdammer, 7 september, pag. 38-43.
[19] Vijselaar, F. (2017) Nieuw kabinet moet voortouw nemen bij brede aanpak van digitalisering: Samenbrengen van afzonderlijke digitale agenda’s niet genoeg. Financieel Dagblad 14 juli.