Volgende stappen richting menswaardige digitale technologie
Voor menselijke behoeften zoals aandacht, erkenning en gezelschap is steeds meer digitale technologie beschikbaar. Wat doet dit met gebruikers van deze technologie, en met de manier waarop mensen samenleven? Hoe menselijk kan en mag AI worden?
Deze vragen stonden centraal op een warme junimiddag in The Social Hub in Den Haag. Aanwezig waren onder meer beleidsmakers van ministeries, hogescholen, universiteiten, adviesorganen en kennisinstellingen. Onderzoekers van het Rathenau Instituut presenteerden hun nieuwste resultaten, en experts wisselden van gedachten in panelgesprekken. Lees de belangrijkste inzichten van deze middag hieronder in het beeldverslag.
Beeldverslag
'Wie herinnert zich de Tamagotchi nog?' vraagt dagvoorzitter Vincent Lagendijk. 'Deze kleine apparaatjes uit de jaren negentig hadden een schermpje, met daarop een beestje dat je moest verzorgen. Voor het eerst merkte ik toen dat klasgenoten meer aandacht hadden voor elektronica dan voor de mensen om hen heen.'
'Tegenwoordig is digitale technologie nog veel verder doorgedrongen in onze sociale levens. Het voelt vaak alsof dit ons overkomt, alsof er geen keuze is. Maar die keuze is er wel. En daarover gaan we deze middag in gesprek.'
Onderzoekscoördinator Linda Kool vertelt over het groeiende aanbod aan technologie dat impact heeft op onze sociale relaties. Zo kun je bij psychologische problemen raad zoeken bij een AI-therapeut, en je kunt vriendschap sluiten met een chatbot. Je kunt zelfs een digitale simulatie maken van je overleden dierbare.
Kool: 'In de media gaat het vaak over de achteruitgang van cognitieve vaardigheden door digitale technologieën zoals AI. Maar over de impact op onze sociale relaties en vaardigheden hoor je weinig. Daar moet het publieke en politieke debat veel meer over gaan.'
Het Rathenau Instituut heeft daarom dialogen gevoerd over de impact van digitalisering op sociale relaties, vertelt Kool. 'We hebben burgerpanels en dialoogsessies georganiseerd door het hele land. Daaraan nemen mensen met heel verschillende achtergronden deel.'
Uit die gesprekken blijkt dat voor deelnemers menswaardigheid voorop staat: technologie moet sociale relaties verrijken en niet verarmen. Overheden en beleidsmakers moeten kijken hoe de negatieve invloed van digitale technologie op sociale relaties begrensd kan worden. Deelnemers vinden het bovendien belangrijk dat wordt gekeken naar onderliggende oorzaken achter het gebruik van dit soort technologieën, zoals toenemende eenzaamheid.
De Jong: 'Eén van de uitdagingen van de dialoogsessies was: hoe zorg je dat mensen die elkaar niet kennen een waardevol gesprek hebben over de invloed van digitale technologie op hun leven? We hebben veel tijd en energie gestoken in het uitdenken en testen van een goed ontwerp van die sessies. Zo konden we echt de onderliggende thema's naar boven: welke waarden zijn voor mensen belangrijk in hun contacten met hun partner, vrienden en familie?'
Willems: 'Interessant vond ik hoeveel informatie er zit in de eerste reactie van mensen op nieuwe technologie die we voorlegden. Een middelbare scholier riep bijvoorbeeld direct "Dit is zo triest!" toen we een hanger lieten zien met een 'AI-vriend' die je de hele dag om je nek hebt. In zo'n eerste onderbuikreactie zit veel wijsheid: hier staat blijkbaar iets op het spel dat we niet willen verliezen.'
Het Rathenau Instituut heeft niet alleen een onderzoeksrapport gemaakt, maar ook een publieksmagazine. Dat wordt verspreid via huisartsen en bibliotheken. KLIK Magazine staat vol interviews, illustraties, quizzen en columns over onderwerpen die naar voren kwamen tijdens de dialogen. KLIK is bedoeld om een breed publiek kennis te laten maken met deze thema's, en om lezers uit te dagen om hun eigen gedachten hierover te vormen.
Onderzoeker Marit de Jong overhandigt het eerste exemplaar van KLIK aan Elvira. Zij nam deel aan een dialoogsessie met ervaringsdeskundigen van LFB, een landelijke belangenorganisatie van en voor mensen met een verstandelijke beperking. Er staat een interview met Elvira in KLIK.
Journalist Tom Grosfeld pleit in een gesproken column voor het dehumaniseren van AI. 'Kunstmatige intelligentie presenteert zich steeds meer als een mens. Een chatbot zegt dat hij zich iets nog herinnert. Een AI-vriend vraagt hoe het met je gaat. Maar een machine is geen mens. Als je doet alsof dat wel zo is, kunnen mensen steeds meer vervreemden van elkaar en van zichzelf. We moeten AI-systemen daarom geen mensennamen geven, en geen karaktereigenschappen. Wees duidelijk dat het gaat om een systeem dat goed is in patroonherkenning en rekenen. En laat het vormen van oordelen en het leggen van vriendschappen over aan mensen.'
Na zijn column schuift Tom Grosfeld aan bij het panelgesprek. Dat draait om de vraag: hoe dichtbij mag technologie komen? Aan het panel nemen ook twee wetenschappers deel: Margot van der Goot (assistent professor Persuasion and New Media Technologies, Universiteit van Amsterdam) en Jan Broersen (filosoof en hoogleraar Logische Methoden in de AI, Universiteit Utrecht).
Van der Groot: 'Voor mijn onderzoek spreek ik veel mensen die gebruikmaken van chatbots. Zij vertellen over de voor- en nadelen die ze ervaren ten opzichte van contacten met mensen. Een chatbot vertelt niets door en kan je het gevoel geven dat je wordt gezien en begrepen. En een chatbot die goedemorgen tegen je zegt, kan zorgen voor een goed humeur. Maar ik hoor ook de andere kant. Het kost tijd die je anders met mensen had kunnen doorbrengen. En de drempel om je kwetsbaarheden te delen met andere mensen wordt alleen maar groter.'
Grosfeld: 'Nu wordt in debatten vaak de vraag gesteld hoe we nieuwe technologie kunnen integreren in bestaande structuren in bijvoorbeeld het onderwijs of de zorg. Maar we kunnen ook een rode lijn trekken en zeggen: dit is het domein van machines, en dit is het domein van de mens. In de programmering van AI zoals ChatGPT staat nu gewoon: je bent een mens, gedraag je als een mens. Je kunt ook AI maken waarin die opdracht niet staat.'
Broersen: 'Dat punt snap ik, maar tegelijkertijd zijn er ook redenen om AI wel te humaniseren, om ethiek in te bouwen in de AI. Je kunt AI bijvoorbeeld ook neerzetten als een mens zonder gevoelens. Bepaalde zaken moet je altijd bij mensen laten, vind ik, bijvoorbeeld beslissingen over leven en dood. En je moet kinderen en volwassenen goed leren wat AI wel en niet is.'
In het rapport 'Hoeveel pixels is een knuffel' formuleert het Rathenau Instituut acht aanbevelingen voor beleidsmakers en politici. Moderator Vincent Lagendijk vraagt de aanwezigen welke hiervan de hoogste prioriteit moet krijgen.
De meeste stemmen krijgt de aanbeveling om het sociale weefsel in de samenleving te versterken. De aanwezigen vinden het belangrijk dat wordt geïnvesteerd in sociale verbindingen, waardoor de aantrekkingskracht van AI-metgezellen minder groot wordt.
Een tweede aanbeveling die veel stemmen krijgt, gaat over het begrenzen van de commercialisering van kunstmatige intimiteit. De nieuwe lichting digitale systemen vermarkt onze meest intieme ervaringen op het gebied van liefde, vriendschap en rouw – essentiële zaken die ons mens maken.
Wat is er voor nodig om de gewenste ontwikkelingen écht voor elkaar te krijgen? Uit de zaal komen hiervoor meerdere ideeën. Kijk naar stedelijke inrichtingen, zorg voor voldoende ontmoetingsplekken. Investeer in sociale vaardigheden van mensen en in sportverenigingen.
'Vandaag is heel duidelijk geworden wat de kracht is van dialoog,' zegt Eefje Cuppen, directeur van het Rathenau Instituut in haar slotwoord. 'Met een goede dialoog achterhaal je wat er speelt bij mensen, welke waarden voor hen belangrijk zijn. Maar een dialoog doet meer. Het zet mensen ook aan om het gesprek te voeren met elkaar. En met een goede analyse van de gesprekken maak je beleid mogelijk dat beter aansluit bij wat er speelt in de samenleving.'
'Een goede dialoog organiseren, is niet makkelijk, er zit een wereld aan theorie achter die je allemaal kunt lezen in de methodologische bijlage bij ons rapport. Maar het is wel ontzettend belangrijk om te doen. Want onze digitale toekomst staat niet vast, die maken we samen. We hoeven niet lijdzaam af te wachten welke nieuwe technologie er nu weer op ons afkomt. Ik roep op tot 'actieve hoop'. We kunnen actief handelen en nadenken over de vraag hoe dichtbij technologie mag komen in onze sociale relaties.'