RECIPES: Een onderzoek naar voorzorg en innovatie

Het RECIPES-project startte in 2019. Na anderhalf jaar onderzoek, en met nog anderhalf jaar onderzoek voor ons, zijn we van mening dat het toepassen van voorzorg bij innovatie gebaseerd op technologie waarvan risico’s onzeker zijn niet noodzakelijkerwijze enkel hoeft te leiden tot een verbod. Voorzorg kan juist richting geven aan maatschappelijk doelmatige innovatie wanneer het gedegen, stapsgewijs en proactief wordt meegenomen en dit niet enkel wordt overgelaten aan innovators. Zo kan het voorzorgsprincipe worden geborgd in een innovatieproces dat zich binnen maatschappelijk toelaatbare paden ontwikkelt.

Innovatie speelt een belangrijke rol bij het op de markt brengen van nieuwe producten die voor de samenleving aantrekkelijk of zelfs van levensbelang kunnen zijn. Mooie voorbeelden zijn: nanotechnologie waarmee oppervlakken in ziekenhuizen beter kiemvrij kunnen worden gehouden, genetisch aangepaste voedselgewassen die beter bestand zijn tegen droogte of nieuwe bestrijdingsmiddelen die gewassen kunnen beschermen tegen insecten. Sommige nieuwe technologieën gaan echter ook gepaard met grote risico’s voor de veiligheid van mens, dier en milieu. Dergelijke risico’s worden vaak pas te laat onderkend. De introductie van bepaalde nieuwe technologieën heeft in vele gevallen grootschalige, langdurige, en onomkeerbare gevolgen. Denk bijvoorbeeld aan de schadelijke effecten van broeikasgassen, de kankerverwekkende eigenschap van asbest of de wijze waarop technologieën als kunstmatige intelligentie de maatschappij zouden kunnen ontwrichten.

Zeker in het begin en tijdens de ontwikkeling van nieuwe technologieën bestaat er veel onzekerheid over zowel de kansen als de risico’s ervan. Dan is bijvoorbeeld nog weinig onderzoek gedaan naar het gedrag van een nieuwe stof in specifieke situaties van toepassing. Bij nanomaterialen zijn er bijvoorbeeld vaak nog geen methoden om de veiligheid vast te stellen voor de mens, terwijl er wel onderbouwde vermoedens zijn dat de materialen in bepaalde toepassingen schadelijk zijn. Het kan ook zijn dat een technologie  complex en veranderlijk is, zoals bij sommige zelflerende algoritmes die onderdeel uitmaken van medische beslissystemen. En wanneer een technologie invloed heeft op ecosystemen zijn de langetermijneffecten moeilijk in te schatten. Door middel van gene drive technologie kan bijvoorbeeld de genetische samenstelling van een muggenpopulatie worden aangepast. Er bestaat echter grote onzekerheid over de gevolgen hiervan op de omgeving en in hoeverre de overerving van de genen geografisch kan worden ingeperkt. Onderzoek naar de risico’s brengt bovendien ook risico’s met zich mee.

Het voorzorgsprincipe wordt in het algemeen toegepast bij risico’s waarover wetenschappelijke onzekerheid bestaat. Dit principe is onder andere als beginsel opgenomen in internationale verdragen en de wetgeving van de Europese Unie. Het uitgangspunt van dit principe is dat als er sterke vermoedens bestaan dat een nieuwe technologie grote schade teweeg kan brengen aan bijvoorbeeld het milieu of de volksgezondheid, wetenschappelijke onzekerheid over deze risico’s (oftewel het ontbreken van onomstotelijk wetenschappelijk bewijs dat er risico’s zijn) niet een reden mag zijn om geen voorzorgsmaatregelen te nemen. Kort gezegd: better safe than sorry. Sommige risico’s kunnen immers zo ernstig zijn dat het voor beleidsmakers verstandiger is alvast maatregelen te treffen of een technologie te verbieden. Het vaststellen van wetenschappelijke zekerheid in relatie tot veiligheid kan immers een lange tijd in beslag nemen, zeker bij nieuwe technologieën. Het is bijvoorbeeld lastig om voor sommige nieuwe insecticiden (neonicotinoïdes), die onbedoeld ook in stuifmeel, nectar, de aarde en het grondwater terecht komen, álle schadelijke effecten voor de natuur in kaart te brengen. Daarnaast gaat het vaak om complexe technologie, zoals bij een combinatie van digitalisering en biomedische ontwikkelingen, en kan er onzekerheid zijn over de wijze waarop mogelijke risico’s gemeten kunnen worden. Implantaten die gebruik maken van ict technologie brengen bijvoorbeeld nieuwe, onzekere risico’s met zich mee doordat ze van buitenaf worden beïnvloed.

Aan de andere kant kunnen veel kansen van nieuwe technologie onvoldoende benut worden als er te snel of te makkelijk naar het voorzorgsprincipe wordt verwezen bij de introductie van een nieuwe technologie. Wetenschappers, ontwikkelaars en bedrijven ervaren dit soms als belemmerend voor het maken van stappen bij hun onderzoek of innovatie. Om nieuwe technologie voldoende ruimte te geven om bij te dragen aan maatschappelijke vraagstukken, is er behoefte aan nieuwe, adequate manieren waarop de kansen en risico’s hiervan kunnen worden afgewogen. Samen met 10 andere Europese onderzoeksorganisaties onderzoekt het Rathenau Instituut, in samenspraak met verschillende belanghebbenden, mogelijkheden om voorzorg en innovatie met elkaar te verenigen voor nieuwe technologie waarbij er sprake is van onzekerheid, complexiteit en ogenschijnlijk onverenigbare perspectieven op het belang en gevaar ervan.

Het Rathenau Instituut kijkt in veel van haar onderzoeken naar de omgang met de onzekere risico’s van innovatie. We zien vijf verschillende redenen waarom de toepassing van het voorzorgsprincipe bij nieuwe technologie nog belangrijker is geworden. Het is dus belangrijk dat we onderzoek doen naar de relatie tussen voorzorg en innovatiekansen.

1. Onzekerheid van wetenschap en technologie
   
   Allereerst wankelt de opvatting dat wetenschap en technologie instrumenten zijn die ons meer grip bieden op de wereld om ons heen. We kunnen met technologie invloed uitoefenen op de wereld, maar verzekeren onszelf daarmee niet noodzakelijkerwijs van een betere toekomst. In toenemende mate worden we geconfronteerd met de onzekerheden die wetenschap en technologie zelf met zich meebrengen. Nieuwe (bio-)-technologieën, zoals bijvoorbeeld biohybriden, waarbij synthetisch materiaal en biologisch materiaal worden gecombineerd, roepen nieuwe, ethische en maatschappelijke vragen op die moeilijk eenduidig te beantwoorden zijn.
    
2. Grotere verantwoordelijkheid
   
   Tegelijkertijd brengt meer (technische) invloed op de wereld wel een grotere verantwoordelijkheid met zich mee. Het moet voorkomen worden dat de impact van technologie op de wereld (mens, dier en natuur) destructief of negatief is. De impact van nieuwe technologieën is bovendien vaak langdurig en verspreid over een grote ruimte vanwege mondiale ketens. Een deel van radioactief afval blijft bijvoorbeeld meer dan 10.000 jaar gevaarlijk en ongecoördineerde controle op dit afval brengt wereldwijde veiligheidsrisico’s met zich mee, bijvoorbeeld omtrent terrorisme. (Zie ook het Rathenau onderzoek 'Bouwstenen voor participatie. Visie op publieksparticipatie bij de besluitvorming over langdurig beheer van radioactief afval'). Lees meer hierover in eerdere publicaties over o.a. mens-dier combinaties en publieke waarden in het digitale tijdperk.
    
3. De afhankelijke positie van de mens
   
   Op de derde plaats laat de wetenschap ook steeds meer zien hoe sterk we als mensen afhankelijk zijn van de wereld, de natuur en het klimaat. Tegelijkertijd is ons vermogen om onze impact hierop te voorspellen in veel gevallen beperkt. Inzichten uit onder andere de psychologie, filosofie en sociale wetenschappen laten zien dat ons handelen in relatie tot natuurlijke bronnen en het klimaat helemaal niet zo rationeel is als we zelf misschien denken. De verandering van het klimaat heeft bijvoorbeeld grote effecten op onder andere onze voedselvoorziening, de verspreiding van ziektes en de leefbaarheid van gebieden. Het klimaatvraagstuk maakt duidelijk hoe beperkt het menselijk vermogen is om hier tijdig op te anticiperen en hier kordaat gezamenlijk besluiten over te nemen. En hoe erg psychologie en maatschappelijke verhoudingen hier een rol in spelen. Lees meer hierover in onze publicaties over o.a de impact van klimaatkennis en het ammoniakbeleid.
    

4. Maatschappelijke sturing

   Ten vierde laat onderzoek zien dat technologische vooruitgang en innovatie gebaat zijn bij maatschappelijke sturing. Of nieuwe technologie maatschappelijke doelen dient, is afhankelijk van de wijze waarop onderzoek naar en ontwikkeling van nieuwe technologie vorm krijgen. En wie hierbij betrokken worden. Een innovatie biedt meer economische en maatschappelijke voordelen als het beter is afgestemd op de verwachtingen, normen en praktijken van gebruikers, bestaande wet- en regelgeving, markten en bestaande technologische infrastructuren. Dit vraagt om tijdig en actief anticiperen op de mogelijke risico’s en de organisatie van maatschappelijke inbedding in het innovatieproces. Het gebruik van drones in het openbaar gaat bijvoorbeeld pas goed als het past binnen de bestaande wetgeving en als omstanders zeker weten dat een drone niet zomaar op hun hoofd kan vallen. Lees meer hierover in onze publicaties over de maatschappelijk inbedding van innovatie en missiegedreven innovatiebeleid.
    

5. Het belang van democratische processen
   
   Tot slot vraagt de grote impact van nieuwe technologieën en wetenschap, en de toenemende macht van de ontwikkelaars ervan, om democratische tegenmacht. Die kan ervoor zorgen dat de bepalingen en vruchten van nieuwe technologieën en wetenschap ook daadwerkelijk iedereen ten goede komen. Op verschillende terreinen komen initiatieven op die laten zien dat er vraag is naar een grotere betrokkenheid van burgers bij de vormgeving van nieuwe technologieën en bij innovatieprocessen. Burgers nemen bijvoorbeeld deel aan burgerinitiatieven voor het delen van (medische) data of participeren in living labs. Lees meer in onze publicaties over o.a. het zorgvuldig delen van data in de digitale samenleving of technologisch burgerschap.

Zowel de onzekerheden rondom nieuwe ontwrichtende technologie, de nieuwe (mondiale) afhankelijkheden, het (economische) nut van maatschappelijke sturing en het belang van een democratische inspraak bij de vormgeving van impactvolle technologie laten het belang van voorzorg ten aanzien van innovatie zien. Het toepassen van het voorzorgsprincipe mag niet leiden tot het verbieden van innovatieve technologie waarvan de risico’s onzeker zijn, zonder een goede afweging van bijvoorbeeld de kansen en risico’s vooraf. De toepassing van het voorzorgsprincipe geeft juist richting aan maatschappelijk doelmatige innovatie. Door gedegen, stapsgewijs en proactief om te gaan met voorzorg in innovatie en het niet enkel over te laten aan innovators, kan het innovatieproces zich binnen maatschappelijk toelaatbare paden ontwikkelen.

Dit vraagt om een bredere, en ook proactievere toepassing van het voorzorgsprincipe. Dit kan onder meer door innovatie actief te monitoren en te evalueren, en door maatschappelijke perspectieven, bijvoorbeeld van toekomstige gebruikers of wet- en regelgevers, en publieke waarden de ruimte te geven in het innovatieproces. Voorkomen is immers beter dan genezen, en juist op het gebied van de complexe en onzekere sociaaleconomische en ecologische werkelijkheid, is het wijsheid om kritisch te blijven en doordacht met onzekerheden om te gaan.