calendar tag arrow download print
Image
Smoke
artikel
19 mei 2020

RECIPES: Een onderzoek naar voorzorg en innovatie

Voorzorg Innovatie Regelgeving
Nieuwe technologieën, zoals AI, nanotechnologie en gene editing bieden allerlei kansen voor het oplossen van belangrijke maatschappelijke vraagstukken. Tegelijkertijd is er nog weinig wetenschappelijk onderzoek gedaan naar de mogelijke risico’s die ze kunnen hebben. Vanwege onzekere risico’s is het nodig om voorzorg te betrachten. Hoe kan deze voorzorg samengaan met innovatiekansen? Deze vraag onderzoekt het Rathenau instituut met 10 andere Europese onderzoeksorganisaties in het RECIPES-project.

In het kort:

  • Hoe kan voorzorg bij onzekere risico’s van nieuwe technologie samengaan met innovatiekansen? Daarover schrijven we in de komende anderhalf jaar een serie artikelen.
  • De artikelen zijn steeds gebaseerd op onderzoek dat het Rathenau Instituut doet binnen het H2020-project RECIPES.
  • In dit artikel laten we zien dat het toepassen van voorzorg bij innovatie gebaseerd op technologie waarvan de risico’s onzeker zijn niet noodzakelijkerwijze enkel hoeft te leiden tot een verbod. Voorzorg kan juist richting geven aan maatschappelijk doel

Het RECIPES-project startte in 2019. Na anderhalf jaar onderzoek, en met nog anderhalf jaar onderzoek voor ons, zijn we van mening dat het toepassen van voorzorg bij innovatie gebaseerd op technologie waarvan risico’s onzeker zijn niet noodzakelijkerwijze enkel hoeft te leiden tot een verbod. Voorzorg kan juist richting geven aan maatschappelijk doelmatige innovatie wanneer het gedegen, stapsgewijs en proactief wordt meegenomen en dit niet enkel wordt overgelaten aan innovators. Zo kan het voorzorgsprincipe worden geborgd in een innovatieproces dat zich binnen maatschappelijk toelaatbare paden ontwikkelt.

Het voorzorgsprincipe en het RECIPES-project

Het voorzorgsprincipe kan kort worden samengevat met ‘better safe than sorry’. Dit kan bijvoorbeeld betekenen dat er bij (sterke) vermoedens over grote risico’s van een bepaalde technologie of nieuwe stof voor het milieu of de volksgezondheid, specifieke regels en richtlijnen worden gevolgd om veiligheid te waarborgen. Dit wordt ook gedaan als die risico’s (nog) niet wetenschappelijk zijn vastgesteld. Als juridisch beginsel heeft het voorzorgsprincipe zijn oorsprong in milieuwetten van de Bondsrepubliek Duitsland uit de jaren '70 van de vorige eeuw. Met name binnen de EU is bepaalde wet- en regelgeving van dit beginsel afgeleid. De precieze definities van het voorzorgsprincipe verschillen in de praktijk nogal eens van elkaar. Een veelgebruikte definitie is die uit de Verklaring van Rio inzake milieu en ontwikkeling: “Where there are threats of serious or irreversible damage, lack of full scientific certainty shall not be used as a reason for postponing cost-effective measures to prevent environmental degradation.” (Verenigde Naties, 1992).

Hoe kan bij onzekere risico’s van nieuwe technologie het betrachten van voorzorg worden verenigd met kansen voor innovatie? Daarover volgt in de komende anderhalf jaar een serie artikelen die het Rathenau Instituut zal schrijven op basis van haar onderzoek binnen RECIPES, een EU Horizon 2020 onderzoeksinitiatief. Met dit project wil de EU voorop blijven lopen op wetenschappelijk gebied, door opnieuw te kijken naar het voorzorgsprincipe in relatie tot innovatie en grote maatschappelijke uitdagingen. Het project startte in januari 2019 en loopt drie jaar. Binnen RECIPES werken elf organisaties uit zeven Europese landen samen. De initiatiefnemer van dit consortium is de Faculteit der Rechtsgeleerdheid van de Universiteit Maastricht.

Voorzorg en innovatie

Innovatie speelt een belangrijke rol bij het op de markt brengen van nieuwe producten die voor de samenleving aantrekkelijk of zelfs van levensbelang kunnen zijn. Mooie voorbeelden zijn: nanotechnologie waarmee oppervlakken in ziekenhuizen beter kiemvrij kunnen worden gehouden, genetisch aangepaste voedselgewassen die beter bestand zijn tegen droogte of nieuwe bestrijdingsmiddelen die gewassen kunnen beschermen tegen insecten. Sommige nieuwe technologieën gaan echter ook gepaard met grote risico’s voor de veiligheid van mens, dier en milieu. Dergelijke risico’s worden vaak pas te laat onderkend. De introductie van bepaalde nieuwe technologieën heeft in vele gevallen grootschalige, langdurige, en onomkeerbare gevolgen. Denk bijvoorbeeld aan de schadelijke effecten van broeikasgassen, de kankerverwekkende eigenschap van asbest of de wijze waarop technologieën als kunstmatige intelligentie de maatschappij zouden kunnen ontwrichten.

Zeker in het begin en tijdens de ontwikkeling van nieuwe technologieën bestaat er veel onzekerheid over zowel de kansen als de risico’s ervan. Dan is bijvoorbeeld nog weinig onderzoek gedaan naar het gedrag van een nieuwe stof in specifieke situaties van toepassing. Bij nanomaterialen zijn er bijvoorbeeld vaak nog geen methoden om de veiligheid vast te stellen voor de mens, terwijl er wel onderbouwde vermoedens zijn dat de materialen in bepaalde toepassingen schadelijk zijn. Het kan ook zijn dat een technologie  complex en veranderlijk is, zoals bij sommige zelflerende algoritmes die onderdeel uitmaken van medische beslissystemen. En wanneer een technologie invloed heeft op ecosystemen zijn de langetermijneffecten moeilijk in te schatten. Door middel van gene drive technologie kan bijvoorbeeld de genetische samenstelling van een muggenpopulatie worden aangepast. Er bestaat echter grote onzekerheid over de gevolgen hiervan op de omgeving en in hoeverre de overerving van de genen geografisch kan worden ingeperkt. Onderzoek naar de risico’s brengt bovendien ook risico’s met zich mee.

Toepassing van het voorzorgsprincipe

Het voorzorgsprincipe wordt in het algemeen toegepast bij risico’s waarover wetenschappelijke onzekerheid bestaat. Dit principe is onder andere als beginsel opgenomen in internationale verdragen en de wetgeving van de Europese Unie. Het uitgangspunt van dit principe is dat als er sterke vermoedens bestaan dat een nieuwe technologie grote schade teweeg kan brengen aan bijvoorbeeld het milieu of de volksgezondheid, wetenschappelijke onzekerheid over deze risico’s (oftewel het ontbreken van onomstotelijk wetenschappelijk bewijs dat er risico’s zijn) niet een reden mag zijn om geen voorzorgsmaatregelen te nemen. Kort gezegd: better safe than sorry. Sommige risico’s kunnen immers zo ernstig zijn dat het voor beleidsmakers verstandiger is alvast maatregelen te treffen of een technologie te verbieden. Het vaststellen van wetenschappelijke zekerheid in relatie tot veiligheid kan immers een lange tijd in beslag nemen, zeker bij nieuwe technologieën. Het is bijvoorbeeld lastig om voor sommige nieuwe insecticiden (neonicotinoïdes), die onbedoeld ook in stuifmeel, nectar, de aarde en het grondwater terecht komen, álle schadelijke effecten voor de natuur in kaart te brengen. Daarnaast gaat het vaak om complexe technologie, zoals bij een combinatie van digitalisering en biomedische ontwikkelingen, en kan er onzekerheid zijn over de wijze waarop mogelijke risico’s gemeten kunnen worden. Implantaten die gebruik maken van ict technologie brengen bijvoorbeeld nieuwe, onzekere risico’s met zich mee doordat ze van buitenaf worden beïnvloed.

Er is behoefte aan nieuwe, adequate manieren waarop de kansen en risico’s van nieuwe technologie afgewogen kunnen worden.

Ruimte voor innovatie

Aan de andere kant kunnen veel kansen van nieuwe technologie onvoldoende benut worden als er te snel of te makkelijk naar het voorzorgsprincipe wordt verwezen bij de introductie van een nieuwe technologie. Wetenschappers, ontwikkelaars en bedrijven ervaren dit soms als belemmerend voor het maken van stappen bij hun onderzoek of innovatie. Om nieuwe technologie voldoende ruimte te geven om bij te dragen aan maatschappelijke vraagstukken, is er behoefte aan nieuwe, adequate manieren waarop de kansen en risico’s hiervan kunnen worden afgewogen. Samen met 10 andere Europese onderzoeksorganisaties onderzoekt het Rathenau Instituut, in samenspraak met verschillende belanghebbenden, mogelijkheden om voorzorg en innovatie met elkaar te verenigen voor nieuwe technologie waarbij er sprake is van onzekerheid, complexiteit en ogenschijnlijk onverenigbare perspectieven op het belang en gevaar ervan.

Wat vindt het Rathenau Instituut?

Het Rathenau Instituut kijkt in veel van haar onderzoeken naar de omgang met de onzekere risico’s van innovatie. We zien vijf verschillende redenen waarom de toepassing van het voorzorgsprincipe bij nieuwe technologie nog belangrijker is geworden. Het is dus belangrijk dat we onderzoek doen naar de relatie tussen voorzorg en innovatiekansen.

  1. Onzekerheid van wetenschap en technologie

    Allereerst wankelt de opvatting dat wetenschap en technologie instrumenten zijn die ons meer grip bieden op de wereld om ons heen. We kunnen met technologie invloed uitoefenen op de wereld, maar verzekeren onszelf daarmee niet noodzakelijkerwijs van een betere toekomst. In toenemende mate worden we geconfronteerd met de onzekerheden die wetenschap en technologie zelf met zich meebrengen. Nieuwe (bio-)-technologieën, zoals bijvoorbeeld biohybriden, waarbij synthetisch materiaal en biologisch materiaal worden gecombineerd, roepen nieuwe, ethische en maatschappelijke vragen op die moeilijk eenduidig te beantwoorden zijn.
     
  2. Grotere verantwoordelijkheid

    Tegelijkertijd brengt meer (technische) invloed op de wereld wel een grotere verantwoordelijkheid met zich mee. Het moet voorkomen worden dat de impact van technologie op de wereld (mens, dier en natuur) destructief of negatief is. De impact van nieuwe technologieën is bovendien vaak langdurig en verspreid over een grote ruimte vanwege mondiale ketens. Een deel van radioactief afval blijft bijvoorbeeld meer dan 10.000 jaar gevaarlijk en ongecoördineerde controle op dit afval brengt wereldwijde veiligheidsrisico’s met zich mee, bijvoorbeeld omtrent terrorisme. (Zie ook het Rathenau onderzoek 'Bouwstenen voor participatie. Visie op publieksparticipatie bij de besluitvorming over langdurig beheer van radioactief afval'). Lees meer hierover in eerdere publicaties over o.a. mens-dier combinaties en publieke waarden in het digitale tijdperk.
     
  3. De afhankelijke positie van de mens

    Op de derde plaats laat de wetenschap ook steeds meer zien hoe sterk we als mensen afhankelijk zijn van de wereld, de natuur en het klimaat. Tegelijkertijd is ons vermogen om onze impact hierop te voorspellen in veel gevallen beperkt. Inzichten uit onder andere de psychologie, filosofie en sociale wetenschappen laten zien dat ons handelen in relatie tot natuurlijke bronnen en het klimaat helemaal niet zo rationeel is als we zelf misschien denken. De verandering van het klimaat heeft bijvoorbeeld grote effecten op onder andere onze voedselvoorziening, de verspreiding van ziektes en de leefbaarheid van gebieden. Het klimaatvraagstuk maakt duidelijk hoe beperkt het menselijk vermogen is om hier tijdig op te anticiperen en hier kordaat gezamenlijk besluiten over te nemen. En hoe erg psychologie en maatschappelijke verhoudingen hier een rol in spelen. Lees meer hierover in onze publicaties over o.a de impact van klimaatkennis en het ammoniakbeleid.
     
  4. Maatschappelijke sturing

    Ten vierde laat onderzoek zien dat technologische vooruitgang en innovatie gebaat zijn bij maatschappelijke sturing. Of nieuwe technologie maatschappelijke doelen dient, is afhankelijk van de wijze waarop onderzoek naar en ontwikkeling van nieuwe technologie vorm krijgen. En wie hierbij betrokken worden. Een innovatie biedt meer economische en maatschappelijke voordelen als het beter is afgestemd op de verwachtingen, normen en praktijken van gebruikers, bestaande wet- en regelgeving, markten en bestaande technologische infrastructuren. Dit vraagt om tijdig en actief anticiperen op de mogelijke risico’s en de organisatie van maatschappelijke inbedding in het innovatieproces. Het gebruik van drones in het openbaar gaat bijvoorbeeld pas goed als het past binnen de bestaande wetgeving en als omstanders zeker weten dat een drone niet zomaar op hun hoofd kan vallen. Lees meer hierover in onze publicaties over de maatschappelijk inbedding van innovatie en missiegedreven innovatiebeleid.
     
  5. Het belang van democratische processen

    Tot slot vraagt de grote impact van nieuwe technologieën en wetenschap, en de toenemende macht van de ontwikkelaars ervan, om democratische tegenmacht. Die kan ervoor zorgen dat de bepalingen en vruchten van nieuwe technologieën en wetenschap ook daadwerkelijk iedereen ten goede komen. Op verschillende terreinen komen initiatieven op die laten zien dat er vraag is naar een grotere betrokkenheid van burgers bij de vormgeving van nieuwe technologieën en bij innovatieprocessen. Burgers nemen bijvoorbeeld deel aan burgerinitiatieven voor het delen van (medische) data of participeren in living labs. Lees meer in onze publicaties over o.a. het zorgvuldig delen van data in de digitale samenleving of technologisch burgerschap.

Zowel de onzekerheden rondom nieuwe ontwrichtende technologie, de nieuwe (mondiale) afhankelijkheden, het (economische) nut van maatschappelijke sturing en het belang van een democratische inspraak bij de vormgeving van impactvolle technologie laten het belang van voorzorg ten aanzien van innovatie zien. Het toepassen van het voorzorgsprincipe mag niet leiden tot het verbieden van innovatieve technologie waarvan de risico’s onzeker zijn, zonder een goede afweging van bijvoorbeeld de kansen en risico’s vooraf. De toepassing van het voorzorgsprincipe geeft juist richting aan maatschappelijk doelmatige innovatie. Door gedegen, stapsgewijs en proactief om te gaan met voorzorg in innovatie en het niet enkel over te laten aan innovators, kan het innovatieproces zich binnen maatschappelijk toelaatbare paden ontwikkelen.

Dit vraagt om een bredere, en ook proactievere toepassing van het voorzorgsprincipe. Dit kan onder meer door innovatie actief te monitoren en te evalueren, en door maatschappelijke perspectieven, bijvoorbeeld van toekomstige gebruikers of wet- en regelgevers, en publieke waarden de ruimte te geven in het innovatieproces. Voorkomen is immers beter dan genezen, en juist op het gebied van de complexe en onzekere sociaaleconomische en ecologische werkelijkheid, is het wijsheid om kritisch te blijven en doordacht met onzekerheden om te gaan.

Het onderzoek

Op verschillende manieren onderzoekt het Rathenau Instituut binnen het RECIPES-consortium naar manieren waarop voorzorg en innovatie bij onzekere risico’s beter met elkaar kunnen worden verenigd. In de komende anderhalf jaar zullen we met korte artikelen verslag doen van de resultaten van het onderzoek. Het onderzoek bestaat uit de volgende onderdelen:

1. Een discussiebijeenkomst rondom de vraag hoe de overheid moet omgaan met onzekere risico’s voor volksgezondheid en milieu bij het toestaan van nieuwe technologie. Personen van verschillende leeftijden, beroepen en achtergronden komen bij elkaar om hierover van gedachten te wisselen. Hierover rapporteerde ons instituut al in juni 2019.

2. Onderzoek naar de rol van het voorzorgsprincipe bij Nederlandse beleidsmakers en hoe het is geformaliseerd in Nederlandse wet- en regelgeving.

3. Hoe worden innovatie en het voorzorgsprincipe meegenomen bij de onzekere risico’s van synthetische gene drives en het gebruik van kunstmatige intelligentie in de zorg? En welke lessen kunnen we hieruit trekken voor de toepassing van het voorzorgsprincipe? Deze vragen staan centraal in twee onderzoekscasussen naar de toepassing van het voorzorgsprincipe.

4. Analyse van het maatschappelijk krachtenveld achter deze perspectieven binnen Europa. Er bestaan verschillende perspectieven en belangen met betrekking tot de relatie tussen het voorzorgsprincipe en innovatie.

5. Bijdrage aan scenario’s over verschillende uitwerkingen van het voorzorgsbeginsel. In samenwerking met verschillende Europese stakeholders gaat het RECIPES-consortium aan de hand van scenario’s in gesprek over de controverses en complexiteiten rondom de toepassing van het voorzorgsprincipe bij innovatie en gaan we op zoek naar nieuwe ‘tools’ om het principe beter toe te passen.

6. Aan het eind van het project formuleren we enkele inzichten over hoe voorzorg en innovatie binnen de Europese Unie en in Nederland worden samengebracht en welke lessen we hieruit kunnen trekken.

7. Daarnaast presenteren we een aantal ‘tools’ (zoals beleidsinstrumenten, overzichten en afwegingskaders) voor belanghebbenden (zoals beleidsmakers, wet- en regelgevers, ontwikkelaars van nieuwe technologieën en maatschappelijke organisaties) die kunnen helpen bij de toepassing van het voorzorgsprincipe.