Transcript - Worden we straks digitaal onsterfelijk? Verrekijkers (3)

In deze aflevering:

Simone: Simone Harmsen, onderzoeker bij het Rathenau Instituut en host van deze aflevering

Timo: Timo Nieuwenhuis, onderzoeker bij het Rathenau Instituut en co-host van deze aflevering.

Esther:  Esther Hammelburg, mediawetenschapper.

Simone: Wat als je nog één keer kon praten met een overleden dierbare? Digitale technologie opent nieuwe mogelijkheden in de wereld van rouw, afscheid en de dood. Vandaag onderzoeken we in Verrekijkers wat het doet als we onze dierbaren kunnen laten voortbestaan in de digitale wereld. Welke invloed heeft dat op hoe we omgaan met rouw en de eindigheid van ons eigen leven? 

[Tune]

Welkom bij Verrekijkers, een podcast van het Rathenau Instituut waarin we inzoomen op de maatschappelijke kanten van wetenschap en technologie. Iedere aflevering nemen we een onderwerp mee waarover je veel te weinig hoort. 

[Einde tune]

Welkom, ik ben Simone en naast mij zit Timo. Wij zijn onderzoekers bij het Rathenau Instituut. Timo, jij doet onderzoek naar digitale technologie en jij gaat ook met burgers in gesprek over de rol van technologie in sociale relaties. Voor vandaag heb je een heel bijzonder onderwerp meegenomen: je wilt het hebben over hoe nieuwe digitale technologie onze relatie met rouw en de dood kan gaan veranderen. 

Timo: Ja, ik ben heel blij dat wij dit kwetsbare en persoonlijke onderwerp bespreken vandaag. Digitale technologie speelt een steeds grotere rol in sociale relaties en ook in hoe wij omgaan met dood en afscheid. Inmiddels zijn er ook specifieke rouwverwerkingstechnologieën in ontwikkeling, waarbij simulaties worden gemaakt van overleden dierbaren. 

Simone: En waar moeten luisteraars aan denken als jij het hebt over een digitale simulatie van een overleden persoon?

Timo: Ja, dat is een hele mond vol. Er zijn bedrijven die op aanvraag van nabestaanden een digitale simulatie maken van overleden dierbaren. Die maken ze dan op basis van data, zoals chatgesprekken of video's. Vervolgens kunnen dan de nabestaanden via hun telefoon of laptop chatten met zo’n simulatie van een overleden vriend of familielid. Of ze kunnen hen zelf zien en met ze praten in een virtual reality-omgeving. 

Simone: Ja en je kunt natuurlijk ook zonder deze digitale technologie herinneringen oproepen. Hier op tafel bijvoorbeeld ligt de verrekijker van mijn overleden opa. Die is er helaas inmiddels al 20 jaar niet meer. Maar dit geeft mij toch een tastbare herinnering. En zo hebben we ook al heel lang foto's en video's, brieven. Wat is er nou zo anders aan deze nieuwe rouwverwerkingstechnologie?

Timo: Nou, deze rouwverwerkingstechnologie is echt een ander type medium en heeft daarmee ook een andere communicatiemogelijkheid. Een bekende uitspraak binnen de mediawetenschappen is van wetenschapper -hoe heet hij ook alweer? - Marshall McLuhan,. :'the medium is the message'. Oftewel, elk medium, de boodschap van het medium zelf, of de vorm, zeg maar, hoe het wordt gemaakt, heeft meer invloed dan wat het eigenlijk aan jou vertelt. Dus, als je bijvoorbeeld gebruikmaakt van Instagram om een verhaal te vertellen, in plaats van een tv-uitzending of in plaats van een brief, stuurt dat type medium heel erg hoe jij die boodschap ontvangt en hoe je die waarneemt en ervaart. En omdat rouwverwerkingstechnologie dus anders is dan bijvoorbeeld radio, tv of een boek, geeft het ook andere mogelijkheden.

Wat heel erg kenmerkend is  aan rouwverwerkingstechnologie is dat het eigenlijk best wel lijkt op een AI-chatbot. Wat daar kenmerkend aan is, is meestal gebruiken wij media om te communiceren met een ander mens. Maar in dit geval van een soort chatbot gebruik je het om te communiceren met de chatbot zelf en niet met de ander. Dus dat geeft een hele andere relatie tot de technologie, maar ook omdat je dus eigenlijk helemaal niet met iemand anders communiceert. Het is geen poort naar een ander persoon, maar het is de eindbestemming waarmee je communiceert.

Simone: Met zo'n digitale simulatie van een overleden dierbare kun je dus ook communiceren. En dat is een mogelijkheid die we helemaal niet hebben met foto of video. Ik kan me voorstellen dat dat ook grote gevolgen kan hebben. 

Timo: Dat heeft het denk ik ook, want digitale rouwverwerkingstechnologie introduceert eigenlijk een soort van digitale onsterfelijkheid. En daarmee bedoel ik het idee dat we blijven voortbestaan in de digitale wereld na ons overlijden. En de vraag is dan wat dat doet met hoe we omgaan met rouw en dood. Want als jij oneindig kan blijven praten met een chatbot van een overleden dierbare, kan je die persoon dan nog wel loslaten? Zijn we nog wel in staat om zelf herinneringen op te roepen aan die persoon, als die er ook in een simulatie bij ons is? Denk je nog wel terug aan die ene hele fijne vakantie of dat fijne gesprek dat je had met die persoon?

Simone: Ja, nou, dat zijn inderdaad genoeg spannende vragen om het over te hebben. En dat gaan wij vandaag dan ook doen met mediawetenschapper Esther Hammelburg.

Welkom Esther. Goed dat je er bent. Jij bent al enige tijd gegrepen door deze nieuwe technologie. Wat sprak jou als mediawetenschapper nou zo aan, aan deze nieuwe ontwikkeling?

Esther: Ja, ik houd me als mediawetenschapper bezig met wat ik de hybridisering van onze leefwereld noem. Een leefwereld is de wereld zoals die voor ons is, zoals wij hem beleven. En wat ik bedoel met hybridisering is dat mediatechnologieën en fysieke omgevingen steeds meer vermengen in onze beleving van de wereld en hoe wij de wereld zien, begrijpen, beleven, er doorheen lopen. Deze technologieën zijn daar een mooi voorbeeld van, want het kunnen communiceren met overleden personen is een totaal andere beleving dan dat er voorheen mogelijk was. Dus op zo'n manier heeft zo'n mediatechnologie heel veel impact op hoe wij ons dagelijks leven kunnen beleven.

Simone: Ja, en je zegt het eigenlijk al, we kunnen hier ook communiceren met deze nieuwe technologieën, met zo'n simulatie. Is dat dan ook wat het echt nieuw maakt, deze technologie?

Esther: Ja, het is vooral wel de interactie die daadwerkelijk anders is. Ik denk dat iedereen van ons weleens heeft gepraat tegen een foto van een dierbare, een video heeft teruggekeken om weer even iemands bewegingen te zien. Misschien zelfs wel een voicemail afgeluisterd of een voicebericht. Misschien zelfs wel een app-berichtje naar iemand gestuurd of op een Facebook-profiel iets geplaatst. Dat zijn allemaal berichten. Wij praten dan tegen de doden. Ja, nu praten de doden terug. Niet echt, zoals Timo terecht zegt. Maar ja, die mediatechnologieën maken het mogelijk dat we de overledene een soort reanimeren. Weer een soort van tot leven maken voor ons, in onze beleving. En dat het dus interactief wordt. Al kun je je vragen stellen over met wie je communiceert, maar de beleving kan wel zo zijn dat je interactie hebt.

Simone: Ja, er zijn soms volgens mij chatbots, dus dan wordt er echt in een chat gepraat. Soms is er sprake van een hele virtual reality-omgeving, waarin mensen ook die andere persoon kunnen zien. Daarmee kan je dus ook eigenlijk nieuwe herinneringen maken met die persoon.

Esther: Ja, dat maakt het inderdaad ook anders, dat je voorheen media misschien veel gebruikte om herinneringen terug te halen, die je daadwerkelijk met iemand hebt beleefd toen diegene nog in het leven was. Misschien ook wel om nieuwtjes te vertellen. Ik bedoel, er zullen geheid mensen zijn die inderdaad in een berichtje of tegen een foto misschien wel willen vertellen dat ze een groot nieuwtje hebben in hun leven. Weet ik veel: nieuwe baan, een zwangerschap, een leuke persoon ontmoet.

Maar dit is wel daadwerkelijk anders, omdat je een soort reactie terugkrijgt, op z'n minst van die technologie, die weer een nieuw gesprek creëert en dus ook een nieuwe herinnering creëert. Dus ik ben ook wel heel benieuwd hoe dat invloed heeft op hoe we mensen onthouden of herinneren.

Simone: Ja. Timo?

Timo: Nou, ik kan me voorstellen, wat je net vertelt, dat je nieuwe herinneringen maakt. Dat het interactief is, maar ook meer performatief. Want anders dan bij een foto, kan je namelijk via een digitale simulatie gemakkelijker een ander beeld construeren van een overleden persoon. In de documentaire Eternal You, zien we ook bijvoorbeeld hoe een vrouw een digitale simulatie wil laten maken van haar overleden vader. Zodat ze aan haar kinderen een beeld kan meegeven hoe hun opa was.

Maar dan kan ze bijvoorbeeld wel beïnvloeden welke jeugdverhalen die digitale simulatie van haar vader vertelt aan haar kinderen. En ze kan bijvoorbeeld het zo inrichten dat hij altijd heel rustig blijft en nooit uit zijn slof schiet, terwijl hij dat misschien in het echt wel deed.

Esther: Ja, ik denk ook dat dat potentieel ongemak kan veroorzaken. Ik bedoel, als ik denk aan mijn relaties met dierbaren om mij heen, daar zijn gelukkig een heleboel mooie herinneringen en leuke momenten maar er zijn ook situaties waarin je ruzie krijgt of mensen zeggen dingen waar je niet op zit te wachten. De vraag is een beetje wat we nu zien van die kunstmatige intelligentie, van die chatbots. Als je ook kijkt naar bijvoorbeeld hoe ChatGPT werkt en dat soort systemen, die geven wenselijke antwoorden, vaak plausibele antwoorden. En de vraag is of een relatie bestaat uit antwoorden waar je tevreden wordt gesteld, of een essentieel onderdeel van relaties met andere mensen is, dat je ook soms teleurgesteld wordt of iets te horen krijgt waar je niet op zit te wachten of uitgedaagd wordt. Ik ben benieuwd. Ik denk: die technologieën ontwikkelen zich snel. Dus wellicht zijn al die dingen ook te programmeren.

Maar ja, de veelzijdigheid van een mens en de verschillende facetten van een mens en de rollen die een mens in een leven in verschillende relaties heeft. Dat is een heel complex iets. 

Simone: Ja, dus de vraag is dan denk ik ook als dit steeds verder ontwikkelt, we gaan het steeds meer gebruiken, wat kan dat dan gaan doen met de manier waarop we misschien wel rouwen als we dit doen met onze overleden dierbaren?  Dat brengt ons bij onze vaste rubriek en die heet Scherpstellen.

Esther, iedere aflevering leggen we onze gast een scherpe stelling voor en vandaag luidt die als volgt; Door het gebruik van rouwverwerkingstechnologie verliezen mensen de vaardigheden om zelf het overlijden van een dierbare te kunnen verwerken. 

Hoe denk jij over deze stelling?

Esther: Goeie vraag. Wat erg, een wetenschapper geeft nooit een ja of nee antwoord. Ik denk daar wel genuanceerder over. Ik denk wel dat we bepaalde vaardigheden verliezen. Dat verwijs ik eigenlijk naar iemand die Timo eerder aanhaalde, Marshall McLuhan. Die zegt: nieuwe technologie zorgt er altijd voor dat we bepaalde zintuigen uitbreiden, we bepaalde nieuwe mogelijkheden krijgen en ook bepaalde dingen wat meer verliezen omdat we het wat minder gebruiken. Dus wat je minder gebruikt, daar word je minder goed in, dat oefen je minder. Dus ik denk wel dat onze manier van rouwen gaat veranderen.

Simone: En wat zouden we dan minder gebruiken als we deze simulaties hebben?

Esther: Het permanente van het overlijden is wel iets wat wellicht verdwijnt. Ik denk dat dat al gaande is met technologieën die er nu zijn. Hoe wij dus mensen levend houden met foto's. Kijk, als je kijkt naar honderden jaren geleden had je al die mogelijkheden helemaal niet. Had je geen foto's, geen video's, geen brieven enzovoort. Dus je ziet nu al dat we dat allemaal gebruiken om onze herinnering levend te houden. Dus dat er al een soort levendig beeld is van een overleden dierbare. Ja, dat wordt meer, denk ik. Dus de hele permanentie, het hele definitieve van het einde van een leven en dus ook het afscheid nemen op die manier. Ik denk dat dat wel veranderen gaat.

Timo: Het doet me ook denken wat je net zei over die, wat eigenlijk frictieloosheid is. Is dat je dan confrontatie uit de weggaat, of misschien nare herinneringen. Ik vraag me ook af: wat nou als iemand is overleden en voordat die persoon overleed had je een conflict of een maand niet gesproken of iets anders, dan kan je nu misschien best wel makkelijk dat proberen weg te poetsen, doordat zo'n chatbot er een leuk einde aan breidt. Dat vind ik ook een interessant iets.

Esther: Ja, het is een interessant gegeven. Ik heb wel contact gehad met rouwtherapeuten over dit soort technologieën. En dit is wel iets wat in de therapeutische praktijk wel bruikbaar en nuttig kan zijn. In de therapeutische praktijk voer je natuurlijk ook al vaak gesprekken die je niet echt hebt gevoerd. Je kan met een moeder, vader, iemand dichtbij in je leven een gesprek voeren. Dan voer je dat gesprek eigenlijk met de therapeute in een soort rollenspel, maar dan heb je wel iets kunnen uitspreken wat je nooit echt had kunnen uitspreken. En in die zin kan zo'n gesprek met een overleden dierbare, al is dat via technologie en weet je dat het niet echt die persoon is, in een therapeutische praktijk volgens mij wel - nou ja, volgens die therapeuten ook - mooie effecten hebben. Omdat je toch nog iets hebt kunnen zeggen wat je altijd had willen zeggen of misschien wel toch hoort ‘het is goed zo, ik ben op een goede plek’.  Er staat ook online een documentaire die heet ‘Deepfake therapy’, daarin zie je hoe mensen gesprekken voeren in een soort inmiddels best verouderde technologie via deepfakes met overleden dierbaren.

Simone:  Met ook een soort gezicht ,denk ik?

Esther: Ja, misschien weet je nog wel, een paar jaar geleden had je ineens overal ‘oh je kan mensen tot leven wekken’,. Dan heb je die foto's die dan een beetje zo heen en weer bewegen en de mond beweegt. Er is een rouwtherapeut die heeft die technologie gebruikt met daarachter een acteur. Dus er was gewoon een acteur die de gesprekken voerde, de stem was ook niet gelijkend op of dezelfde als die van de overledenen. Wat nu met AI wel kan. Maar ja, daar zaten bijvoorbeeld ouders die hun dochter hadden verloren aan zelfmoord, of zelfdoding. En die hen kon zeggen:het is goed zo, ik heb rust, ik ben oké. Wat voor die ouders heel betekenisvol is/was.

Simone: Dus er zijn voordelen, die zijn al bekend, maar het zal ook, denk ik, nog moeten gaan blijken uit onderzoek van psychologen en dergelijke wat dit op de lange termijn aan voor- en nadelen heeft.

Esther: Ik denk dat dit echt een mooie potentie is van deze technologie. Daarbij wil ik wel zeggen: dat is onder begeleiding van een goed opgeleide therapeut. Dat is in een therapeutische praktijk en dat is totaal wat anders dan een aantal van de voorbeelden die je in Eternal You ziet, waar bedrijven chatbots maken waar je mee kan kletsen. 

Simone: Waar mensen gewoon thuis met iemand zitten te chatten en als zij een bericht krijgen waar ze van streek raken, dan moeten ze daar zelf mee omgaan.

Esther: Ja, daar zit een voorbeeld in van iemand die van haar overleden partner te horen krijgt dat hij in de hel is. Ja, verwerk dat maar even. En dan zegt de eigenaar van het bedrijf daarachter: ja, maar ze moet toch gewoon begrijpen dat dat niet echt is.

Ja, natuurlijk begrijpen we dat het niet echt is. Wij weten ook dat die foto niet echt de persoon is en toch hebben wij een beleving erbij.

Simone: Esther begon net eigenlijk al met ‘ja we gaan er misschien ook wel iets door verliezen, door deze nieuwe technologie’, hoe kijk jij daar naar Timo?

Timo: Nou, het doet me wel denken aan de term deskilling. Dat als je bepaalde vaardigheden uitbesteedt in technologie, je ook dingen kan verliezen. En wat Esther ook al eerder zei, is dat je bijvoorbeeld ook een foto kan hebben, een gesprek kan hebben met een foto van een overleden dierbare. Of in je gedachten, zodat je dan daarmee praat van bijvoorbeeld je overleden broer, van wat zou jij hiervan vinden of wat had jij hiermee gedaan. En dat besteed je nu eigenlijk uit, aan zo’n chatbot, in de zin van: je praat zelf nog, maar de reactie verzinnen van wat die overleden dierbare had gezegd, dat faciliteert nu die technologie. Dus dat vind ik wel iets waarvan ik denk van: oké als je het altijd gaat gebruiken, kan je dat dan nog zelf of gaan we dat überhaupt nog wel doen?

En wat je ook ziet in 'Eternal You' is dat een jongeman zijn verloofde is overleden, best wel jong. En dan is ook van die verloofde zo'n chatbot gemaakt of zo'n digitale simulatie. En volgens mij heeft hij maandenlang of al een jaar lang gesprekken met die chatbot. Wat hem wel echt belemmerd om een romantische relatie aan te gaan met een nieuwe persoon. 

Simone: Hij kan het juist niet meer loslaten door die chatbot.

Timo: Ja, dus dan zou je kunnen denken van:oh ik verlies de vaardigheid om een overleden dierbare echt los te kunnen laten, of ja, verwerken. Ik weet niet wanneer en kan je iets echt helemaal verwerken, maar je moet wel verder lijkt mij, op een gegeven moment. Kan je dat dan nog wel? Want die persoon, het kan lijken alsof die er nog altijd is.

Simone: Ja, dus jij zegt eigenlijk aan de ene kant verliezen we misschien de mogelijkheid om zelf te bedenken wat een geliefde van ons zou hebben gezegd. En ten tweede verliezen we ook het loslaten. En kunnen we blijven hangen in deze persoon.

Timo: Ja, precies. 

Simone: Esther, ik zie jou knikken.

Esther: Ja, ik zie dat ook beiden wel. Eigenlijk zie je op dat eerste punt wel dat je bijna interne conversaties gaat uitbesteden aan een medium. Dus een interne dialoog die je hebt met een overleden dierbare, ga je ineens in een medium zetten. En ja, dat medium geeft iets bepaalds terug, maar dat is nooit precies natuurlijk wat je zelf had bedacht. Dus de vraag is wel hoe verandert het ons interne dialoog? Ik moest ook denken, je had het over foto's. Ik denk ook al dat bijvoorbeeld foto's heel erg bepalend zijn voor hoe we ons mensen herinneren, fysiek. Als je nadenkt over hoe je een bepaalde overleden dierbare herinnert is dat toch ook heel vaak de foto's die je later nog hebt teruggezien en sommige andere beelden van iemand ben je misschien al wel helemaal kwijt. Dus die mediatechnologieën zijn heel bepalend, denk ik, voor wat er over blijft.

Timo: Als je alleen maar vakantiefoto’s hebt...

Esther: Als je alleen maar vakantiefoto's hebt, dan was het altijd vakantie. Nou ja, de tactiel, het fysieke van iemand is natuurlijk iets wat heel anders is. En wat je ook mist als je iemand kwijtraakt. En ik denk ook dat het afscheid nemen van iemand anders wordt. We zijn heel erg gewend aan chat in ons dagelijks leven. Als je kijkt hoeveel we WhatsApp gebruiken of Signal of andere chatapps. Heel veel van ons sociaal verkeer gaat zo. Dus ik kan me voorstellen dat als je blijft chatten met iemand, dat dat best iemand levendig houdt en in je leven houdt. Aan de andere kant denk ik ook, die fysieke wereld is er ook. Het is niet alleen maar mediatechnologie. Dus we gaan ook heel daadwerkelijk tegenkomen dat je iemand niet mee kan nemen naar dat feestje, dat iemand niet aan tafel zit met een bepaald diner, dat je niet tegen iemand aan kan zitten of liggen of een knuffel kunt geven. En dat zul je ook onder ogen moeten komen.

Simone: Dus ook als deze technologie zich verder ontwikkelt en een plek gaat krijgen. 

Nou hebben wij allerlei ideeën, geloof ik, over wat de voor- en nadelen zouden kunnen zijn van deze technologie. Maar we hebben het ook aan verschillende mensen gevraagd. We gaan namelijk naar onze rubriek Varifocus. En daarin vragen we een aantal mensen naar hun kijk op het onderwerp van vandaag. We vroegen mensen op straat het volgende: zou jij het wat vinden als je nabestaanden een digitale simulatie van jou zouden hebben om na je overlijden mee te kunnen praten?

[Tune]

Persoon 1: Ik denk dat als het hen zou helpen om te rouwen, dat ik dat oké zou vinden. Maar het misschien wel heel gek zou zijn als die kloon iets zou zeggen of doen wat ik nooit zou doen of zeggen. Maar ja, als iemand dat zou helpen en als zij dat niet zien als de echte versie van mij, maar gewoon als een soort hulp, dan kan het wel.

Persoon 2: Nou, het lijkt me echt helemaal niks, moet ik zeggen. 

Timo: Waarom niet? 

Persoon 2: Omdat ik denk dat het een natuurlijk proces is dat je gewoon je leven leeft en mijn kinderen op een gegeven moment afscheid moeten nemen van mij en ik van hen. En dan is het klaar. En alles wat je dan daarmee zou willen dat komt zo kunstmatig over voor mij, dat lijkt me niks.

Persoon 3: Ik denk dat het klaar moet zijn. Als ik er niet meer ben, dan is het klaar. Na mij de volgende. Je moet niet blijven hangen in mij of een kloon van mij. Zou ik zeggen. Je kunt toch niet terug? Je kunt toch niet blijven? Dus dan moet je er ook niet een kloon van maken.

Timo: Ja, mooi. En wat denkt u?

Persoon 4: Ja, dat denk ik ook. Voorbij is voorbij.

Persoon 5: Wauw, dat is een diepe. Ik vind zelf, als je dood bent, dan ben je dood. En dan moet de familie maar afscheid van je nemen. Want als je nog een kloon van jezelf gaat achterlaten dan laat je wel iets achter, maar het is niet de volledige persoon die jij bent geweest of de gevoelens. Dus ik vind eigenlijk, als iemand gewoon dood is, het is heel hard en heel cru, maar je moet gewoon afscheid nemen en een plek geven om te verwerken. Waarom nog aan iets vast te houden wat er niet is. Nee.

[Einde gesprekken op straat]

Simone: Ja, voorbij is voorbij. Toch best wel veel terughoudende geluiden. En dat doet mij toch ook een beetje denken aan die video, een beroemde video, waarin een journalist mensen in 1998 vraagt of ze een mobiele telefoon zouden willen. En toen zag niemand er heil in.

Esther: Nee, als ik niet thuis ben, ben ik gewoon niet bereikbaar, toch?

Simone: Nee, precies. Heerlijk.

Esther: Ja, soms verlangen we terug naar die tijd. Dat is ook goed.

Simone: Precies. Nou, we zullen zien of het ons met deze technologie net zo vergaat. 

Timo, jij werkt mee aan een groot Rathenau project genaamd Digitale Toekomst. Daarin ga je samen met collega's in gesprek met Nederlanders over de rol van digitalisering in onder andere dood en afscheid. En de reacties die wij net hoorden, komen die overeen met wat jij in eerdere gesprekken zoal hoort?

Timo: Jazeker, best wel veel eigenlijk. Ik vond tijdens het dialoogprogramma Digitale Toekomst de mensen ook heel kritisch op het gebruik van digitale simulaties. Veel mensen zeiden bijvoorbeeld dat het nooit authentiek is en dat het nooit helemaal een beeld van mij kan geven. Ze vonden het ook een risico dat je je regie zou verliezen. Wat als mijn nabestaanden van mij zo'n simulatie maken en dan hele rare dingen laten zeggen bijvoorbeeld? Wel waren mensen positiever over het gebruik als het werd gebruikt binnen een professionele therapeutische zetting, wat jij ook eerder zei, Esther. Maar ze stelden wel als randvoorwaarde dat de technologie dan is getest en bewezen. En wat ik heel grappig vond, was dat iemand het niet zag zitten dat er een chatbot wordt gemaakt van een overleden persoon, maar wel van een overleden huisdier. Dat vond ie wel gezellig.

Simone: Wel een chatbot van Snuf, oké.

Esther: We zouden ook AI kunnen gebruiken om onze huisdieren te laten praten.

Timo: Veel beter idee.

Esther: Ja toch?

Simone: Jij hebt ook vaker gesprekken gevoerd met mensen over deze technologieën. Hoor jij dan ook dit soort reacties?

Esther: Ja, ik denk het hele brede spectrum.

Ik denk, er zijn best veel mensen die denken: ja, als ik dood ben, ben ik dood, is klaar. Er zijn natuurlijk ook mensen die graag nalatenschap achterlaten. Zo zie je ook dat mensen van hun dagboeken zeggen: ‘steek maar in de fik. Dat waren maar een soort reflecties van mezelf in dat moment.’ En anderen die hun dagboeken juist heel erg goed geordend nalaten voor het nageslacht. Ik denk dat het met deze technologie vergelijkbaar gaat zijn. Ik herinner me iemand in een gesprek hierover een keer die zei dat het hem heel leuk leek om dus zijn eigen uitvaartrede te kunnen uitspreken. Dus gewoon als soort hologram op zijn eigen uitvaart aanwezig te kunnen zijn. Omdat het ook ongemakkelijk is dat andere mensen over je gaan staan praten daar en dan kun je eigenlijk je eigen verhaal kwijt of zelf een laatste boodschap geven. 

Simone: Een soort toegift.

Esther: Ja, ik hoor het beiden. Ik hoor wel veel aarzelingen, en ik denk dat een belangrijk punt daar wel in is, inderdaad, die controle. Welke data worden er dan gebruikt? Door wie? Wie bepaalt hoe dat ding wordt geprogrammeerd? En ja, ik denk ook wel de vraag wat een mens is, ook een mens in relatie, in specifieke relaties. Dus wie jij bent ten opzichte van een goede vriend of vriendin is anders dan wie je bent tegenover een collega of tegenover een willekeurige persoon op straat of je kind of je ouder.

En een echt realistisch chatbot die al die relaties aan kan voelen en doen, dat is best een lastige, denk ik. Dus de vraag is ook een beetje welke data gebruik je dan? Ben jij wat er in je WhatsApp conversaties zit? Is dat jouw volledige zijn?

Simone: Ja, en ik heb natuurlijk met mijn vriend ook hele andere interacties dan met mijn ouders. Ik moet er eigenlijk niet aan denken dat die allemaal samenkomen in een chatbot na mijn overlijden.

Timo: En ik denk ook op WhatsApp, ikzelf in ieder geval heb een heel ander soort gesprekken dan als ik echt iemand face to face ergens zie. Dus ik zou  een heel oppervlakkig persoon zijn, denk ik. 

Simone: Ook alle non-verbale communicatie eigenlijk die dan niet terug zou komen in een simulatie van jou.

Timo: Ja en ook de type gesprekken die je hebt als je vooral alleen maar gifjes stuurt op WhatsApp. Dan lijk je een heel ander persoon misschien.

Esther: Wat dat betreft is het natuurlijk ook vergelijkbaar met die dagboeken. Ik denk bij mezelf als ik bedenk wat ik af en toe op heb geschreven in mijn leven. Ja, dat is ook niet bewust geschreven voor een ander om te lezen. En het zijn momentopnames. Je kan heel erg in het liefdesverdriet zitten en het heel somber inzien. Dat is niet wie jij over het algemeen bent. Dat is hoe jij je op dat moment voelt. En als je op basis van dat soort momenten -ik schrijf vooral als ik wat minder goed in mijn vel zit.-  als je op basis daarvan een chatbot zou programmeren, zou je een ander karakter eruit krijgen dan als je ook mijn feestelijke Esther meeneemt.

Timo: Ik denk ook wat jullie net zeiden, dat je met verschillende personen hele verschillende relaties hebt of andere kanten van jezelf misschien naar boven komen of laatn zien. Dat überhaupt ik het idee heb, dat we heel vaak zo'n identiteit heel erg platslaan, terwijl je heel erg gelaagheid in je hebt ook, zeg maar vanuit je familie, vanuit je werk, je vrienden, en dat je heel veel identiteiten in jezelf hebt, dat het überhaupt niet in één chatbot te stoppen is. 

Esther: Maar de vraag is wel altijd, als je zodra je kunstmatige intelligentie inzet, dan gaat zo'n systeem antwoorden genereren die plausibel zijn. Je hebt hand in de data die je erin steekt, maar je hebt natuurlijk niet volledig hand in wat er aan antwoord wordt gegeven. Dat is ook het argument dat in die film Eternal You wordt gegeven door die makers. Die zeggen: ‘ja, wij programmeren dat systeem. Wij zijn niet verantwoordelijk voor de antwoorden die eruit komen.’ Dus ja, je hebt controle als je de data de input bepaalt, zelf kan bepalen. En je kan wel bepaalde kaders misschien aangeven. Je kan ook zeggen, maar kindvriendelijke taal of zo, ik zeg wat. 

Simone: Maar je kan nooit helemaal voorspellen wat eruit gaat komen. 

Als we even teruggaan naar die data die daar dan in moet. Ik vraag me dan ook af: gaan we hoe meer dit ingeburgerd raakt, gaan we dan ook anders om met ons eigen digitale versie van onszelf, gedurende ons leven, wetende dat er misschien later wel een digitale simulatie van ons gemaakt wordt?

Timo: Dat je je anders gaat gedragen in het huidige leven?

Simone: Ja, andere dingen gaat delen... Ik stel me zo voor dat je hier vooral digitale data voor gebruikt. Dus wat laat je achter om vervolgens een simulatie van te kunnen maken?

Esther: Dat is een heel goede vraag. 

Simone: We hebben het nu ook vooral over de individuele kant. Dus wat zou ik ervan vinden als mijn nabestaande een simulatie zou worden? Of hoe ga ik om met mijn eigen data? Ik kan me ook voorstellen dat deze technologie ook een grotere rol gaat spelen, effect gaat hebben op onze bredere cultuur en hoe wij omgaan met dood en afscheid.

Esther: Ja, dat denk ik ook. Ja, ik denk in die zin heeft het effect op onze leefwereld, hoe we de wereld beleven en de eindigheid van het leven beleven en onze relatie met nabestaanden. Ja, ik denk ook terug aan werk in de fenomenologie over hoe we bijvoorbeeld anders zijn gaan kijken naar het ongeboren kind door de techniek van de echo. Doordat we ongeboren kinderen kunnen zien als ze nog in de buik zitten, is onze relatie, en de hartslag horen bijvoorbeeld, het zien bewegen, is er een ander soort relatie ontstaan met het ongeboren kind. Ik denk dat zo'n soort verandering ook plaats gaat vinden hiermee, dat onze relatie met overleden dierbaren anders gaat zijn.

Ik denk zelf nooit zo heel erg in termen van beter of slechter, maar ik denk wel dat het misschien meer in ons leven kan zijn. Dat er in ieder geval de mogelijkheid is om overleden dierbaren nog iets meer levendig te houden in ons huidige leven.

Timo: Ik heb het idee dat in Nederland doden een hele kleine plek hebben. Een paar jaar geleden is mijn broer overleden en sindsdien merk ik heel erg dat er weinig over de dood wordt gesproken. Ook als ik het zelf doe, merk ik erg bewust van: ‘ wow, ik doe dat nu.’ En dat voelt  bijna raar, maar ik heb het idee dat het ook komt omdat we in Nederland heel weinig praten over de dood of doden, heel weinig ruimte geven in de samenleving. Terwijl in Mexico heb je gewoon een nationale dag van de doden bijvoorbeeld.

Simone: Ja, misschien dat zo'n technologie heel anders zou landen in de Mexicaanse cultuur dan in de Nederlandse en daar ook een andere rol zou krijgen.

Timo: Ja, dat denk ik wel zeker. Want technologie ontstaat niet vanzelf, maar hoe het wordt gebruikt en wordt ontworpen, heeft ook heel erg te maken met in welke cultuur dat plaatsvindt.

Simone: Ja, dat zit ook in die documentaire, zo'n voorbeeld. Dat is geloof ik in Zuid-Korea, waar een vrouw haar dochtertje kan ontmoeten in virtual reality. En daar is dat live op tv uitgezonden. Dat was een televisie-item.

Esther: Ja, ik vind dat best heftig. Als ik die beelden zie, denk ik: ik zie een vrouw met een bril in een soort lege, kale studio. door al die emoties heen gaan en dan moet dat live op televisie. Maar ja, ook daar zie je, denk even inderdaad aan televisieshows. Een Italiaanse televisieshow ziet er totaal anders uit dan een Nederlandse televisieshow, of een Mexicaanse, of een Chinese. Zoals televisie overal anders is en de grenzen ook verschillend liggen. Waar we ook op het gebied van televisie veel discussies hebben gehad over, kun je dit wel maken of niet maken op tv? Ja, zijn de grenzen wat dat betreft ook cultureel bepaald. En ik denk zeker, de dood is in heel veel culturen veel meer een onderdeel van het dagelijks leven dan dat in de Nederlandse cultuur is. In de Nederlandse cultuur is het denk ik ook best wel weggestopt. Dus misschien kunnen we het wel een beetje gebruiken dat het wat meer onderdeel van ons wordt.

Simone: Kunnen we straks allemaal college volgen, schilderen van Picasso.

Esther: Ja, dat zou ook echt te gek zijn hè.

Simone: Zitten er ook risico's aan, denk je?  Als we straks misschien wel bekende personen in een simulatie gaan zetten en hen allerlei vragen kunnen stellen?

Esther: Ja, ik denk het wel. Ja, ik denk ook in je persoonlijk leven. Ik denk ook, nou, stel dat je inderdaad advies kan blijven vragen aan een ouder of aan een partner. Stel je voor je partner overlijdt, je hebt kinderen samen. Tien jaar verder ga je dan je opvoedkwestie nog steeds bespreken met die AI van je overleden partner. En ga je dat advies dan serieus nemen? En in dit opzicht denk ik dat ook als wij advies kunnen vragen aan mensen die wij hoog achten. Ja, wie vraag je wel om advies en wie niet? En je vraagt niet diegene om advies, zoals Timo in het begin van de opname al zei. Het blijft een AI, dus het is best wel gevaarlijk. Ga je dan sturen op die adviezen? Ga je daar landsbeslissingen op nemen? Als je, weet ik veel, Thorbecke om advies kan vragen wat we moeten met ons land.

Simone: En gaan we daarna Thorbecke de schuld geven als het niet goed ging?

Timo: Ja, ik denk ook dat die data van een Thorbecke is gebaseerd op data uit die tijd. En nu leef je in een hele andere context en wereld ook daarmee. Dus dat ook die antwoorden die worden gegeven helemaal niet kloppend zijn. Terwijl in de filosofie ben je daar erg bewust van, dat je dan nadenkt van oké hoe is het in die tijd gepresteerd en hoe is dat nu anders? Dat vergeet je dan als je het zo direct toepast op huidige problematiek.

Simone: Ja, dank jullie wel. Het is duidelijk dat het heel veel vragen oplevert, heel veel vragen oproept, maar mogelijk ook ons kan helpen in de toekomst deze technologie. Esther, dank je wel dat je bij ons wilde aanschuiven.

Esther: Dank voor de uitnodiging.

[Tune]

Simone: Ja, en wat moet er nu gebeuren? Timo, jij houdt je bij het Rathenau Instituut bezig met de maatschappelijke gevolgen van digitalisering, waarvan deze rouwtechnologie onderdeel is. Wat zeggen jullie hierover richting beleidsmakers en politici?

Timo: Nou, mede op basis van wat we hebben gehoord van burgers uit het dialoogprogramma, denken wij dat het heel belangrijk is dat mensen zelfbeschikking hebben over hun eigen data. En de manier waarop deze kan worden gebruikt voor bijvoorbeeld rouwverwerkingstechnologie. Niet geheel toevallig, pleiten wij daarom ook in een Bericht aan het parlement voor een ‘datacodicil’. Daarin kunnen mensen aangeven hoe zij willen dat hun data na hun dood mag worden gebruikt. De AVG beschermt namelijk doorgaans niet de persoonsgegevens van overleden personen, maar van levende personen. De Kamer kan de ministers vragen om het ‘datacodicil’ op de Europese agenda te zetten.

Simone: Ja, nu viel het mij op dat in de documentaire werd gezegd 'we should be aware of what technology is capable of', oftewel wij moeten ons beseffen waartoe deze technologie in staat is. Is dit nou een veelvoorkomend narratief?

Timo: Helaas wel. Ik zou dat willen herframen of herformuleren naar": 'we moeten ons ervan bewust zijn hoe mensen technologie kunnen ontwerpen en gebruiken.’ We moeten denk ik wegstappen van dat technologische determinisme. Technologie is een verlengstuk van de mens. Het is indirect menselijk gedrag. Als we ons daarvan bewust zijn, kunnen we techbedrijven aansprakelijk stellen. Als we ons daarvan bewust zijn, kunnen we techbedrijven aansprakelijk stellen, indien bijvoorbeeld rouwverwerkingstechnologie nadelige psychische gevolgen heeft. En digitale technologie, zoals andere producten, denk bijvoorbeeld aan voedingsmiddelen moetn voldoen aan bepaalde veiligheidsvoorschriften of randvoorwaarden. Een reep chocola mag ook niet giftig zijn, anders mag een supermarkt dat niet verkopen. Maar digitale technologie kan net zo giftig zijn. Terwijl het kan ook heel goed werken, dus het is niet goed of fout, maar je moet het gewoon aan bepaalde veiligheidsvoorschriften laten voldoen.

Simone: Nou klinkt dat heel mooi, die samenwerking met techbedrijven en voorschriften om digitale technologie niet slecht te laten zijn voor de gezondheid. Maar is dat niet ook een beetje naïef? Die bedrijven gaan dat toch nooit doen?

Timo: Dat is zeker niet naïef. Ik denk dat techbedrijven heel lang de ruimte hebben gehad om dingen te ontwikkelen zonder dat deze werden gereguleerd. Dat is gelukkig nu anders, maar daardoor kan het idee wel heersen. Techbedrijven zijn wel degelijk verantwoordelijk en aansprakelijk voor hoe zij technologie ontwerpen en wat daar gevolgen van zijn.

Kijk maar naar de huidige ontwikkelingen in Europa rondom technologie-wetgeving, zoals de AI Act en de Digital Service Act. We kunnen kwaliteitseisen stellen aan technologie, net zoals we dat ook stellen aan andere consumentenproducten. Dat is niet naïef, maar heel redelijk.

Simone: Oké, dus kwaliteitseisen stellen aan digitale technologie, net zoals we doen aan consumentenproducten. Dat is niet naïef, maar heel redelijk. Lijken mij mooie laatste woorden voor deze aflevering. Hopelijk niet jouw allerlaatste woorden Maar hè, zolang jij nog geen datacodicil hebt ondertekend, kan ik gewoon digitale simulaties van jou gaan maken om podcasts mee te produceren. Wil je meer weten of meedenken over de toekomst van onze digitale samenleving? Kijk dan op www.rathenau.nl.

Daar vind je onder meer informatie over het dialoogprogramma Digitale Samenleving, waarmee het Rathenau Instituut de komende tijd het land doorgaat. 

[Tune]

Bedankt voor het luisteren. De volgende aflevering gaan we het hebben over satellieten. Wat zijn de geopolitieke gevolgen van de commerciële wildgroei van satellieten in de ruimte? Bepaalt Elon Musk straks welke landen er wel of geen internet hebben? Je hoort het de volgende keer in Verrekijkers.