calendar tag arrow download print
Doorgaan naar inhoud

Voorzorg remt innovatie zelden in de praktijk

Voorzorg Innovatie Regelgeving

Besluitvorming over nieuwe technologieën is vaak ingewikkelder dan tussen links of rechts op een bospad. Foto: Vladislav Babienko via Unsplash

Image
Een man staat in het bos en moet kiezen of hij links of rechts het bospad volgt

Het nemen van het zekere voor het onzekere, is zelden in conflict met innovatie. Dat is een van de lessen die het Rathenau Instituut optekent bij een onderzoek naar het recente verleden rond het introduceren van technologieën met onzekere risico’s zoals nanotechnologie, insecticiden en kunstmatige intelligentie.

In het kort:

  • Het Rathenau Instituut onderzocht met acht Europese landen hoe voorzorg kan samengaan met innovatie.
  • Dat deden we aan de hand van casestudies rond onder meer, nanotechnologie, afvalwater in de stad en kunstmatige intelligentie in de zorg.
  • Deze cases hebben allemaal te maken met risico’s en onzekerheden die lastig kunnen worden ingeschat.

Stel je bent een ambtenaar bij de Europese Unie en je moet adviseren of plastic in de ban moet. Microscopisch kleine plastic deeltjes kunnen kanker veroorzaken en ernstige schade toebrengen aan verschillende diersoorten. Maar het is lastig en misschien zelfs onwenselijk om plastic in een klap te verbieden. Plastic vervangen door glas bijvoorbeeld, heeft grote gevolgen voor het transport van levensmiddelen en daarmee voor de wereldwijde CO2-uitstoot.

Besluitvorming over nieuwe technologieën is vaak ingewikkeld. Dat komt onder andere doordat er vaak onzekerheid is over de precieze risico’s en de voordelen en nadelen. Voorstanders van een technologie willen een nieuwe technologie vaak snel uitrollen. Anderen willen pas een technologie introduceren als echt alles helemaal onderzocht is. De Europese Unie bevindt zich wat meer richting de lijn van de deze laatste groep en hanteert het voorzorgsprincipe. Dat betekent dat Europa liever het zekere voor het onzekere neemt: better safe, than sorry. Critici vinden dat de EU te voorzichtig is en dat ze technologische vernieuwing in de weg staat.

Maar wanneer is de ernst van een vermoedelijk risico groot genoeg? Hoeveel wetenschappelijke kennis of andere informatie is er nodig om de technologie te verbieden of flink in te perken? Hoe maak je de juiste afweging tussen verschillende belangen en wie betrek je bij de besluitvorming?

Het Rathenau Instituut probeerde samen met tien andere organisaties uit zeven Europese landen antwoorden te vinden op bovenstaande vragen. We onderzochten in het RECIPES-project negen praktijkvoorbeelden en formuleerden lessen over hoe het voorzorgsprincipe slimmer kan worden toegepast.

In dit artikel lichten we drie lessen van ons onderzoek eruit. We laten zien dat onzekerheid een zeskoppig monster is (les 1), dat een simpele kosten-batenanalyse niet altijd een uitweg biedt (les 2) en dat het toepassen van voorzorg innovatie niet in de weg hoeft te staan (les 3). Als je meer wilt weten, kun je bijvoorbeeld het volledige onderzoek bestuderen of de losse webartikelen lezen over praktijkvoorbeelden rond gene drives en AI in de zorg. We hopen dat de drie lessen van nut kunnen zijn voor Nederlandse beleidsmakers en technologieontwikkelaars.

Les 1: onzekerheid is een zeskoppig monster

Bij ons onderzoek zagen we zes soorten onzekerheid optreden. We lopen hieronder de verschillende soorten onzekerheid langs en geven bij elk een voorbeeld.

  1. Onzekerheid over de situatie in de wetenschappelijke gemeenschap: bij hormoonverstorende stoffen bestaat bijvoorbeeld wetenschappelijke discussie over wanneer een stof echt een verstorend of een abnormaal effect heeft op de hormonale ontwikkeling van mensen of dieren.
     
  2. Onzekerheid die samenhangt met de eigenschappen van de technologie: de eigenschappen van nanodeeltjes worden bepaald door de precieze toepassing. Dat maakt het lastiger om de risico’s te voorspellen. Iets vergelijkbaars geldt voor zelflerende systemen. Die kunnen wispelturig zijn.
     
  3. Onzekerheid omdat de omgeving complex is: wanneer bijvoorbeeld de ratten in een ecosysteem verdrongen worden via een gene drive (zoals de regering van Nieuw Zeeland in 2017 van plan was) dan kunnen ook de ratten-eters verdwijnen. Andere soorten en ander ongedierte kunnen dan de macht overnemen. Dan raak je van de regen in de drup.
     
  4. Onzekerheid omdat er veel interacties plaatsvinden: nanodeeltjes kunnen bijvoorbeeld verspreid worden via de wind, maar ook via het water en de bodem. Ze kunnen daardoor niet alleen toxische effecten hebben voor bodemorganismen, maar ook ophopen in kinderen die veel met vervuild water in aanraking komen.
     
  5. Onzekerheid omdat de oplossingen onduidelijk zijn: deze onzekerheid is de reden waarom bij het gebruik van het voorzorgsprincipe de onomkeerbaarheid zo centraal staat. Het toepassen van voorzorg bij gene drives ligt bijvoorbeeld voor de hand, omdat na introductie van genetische gemodificeerde soorten de oorspronkelijke natuurlijke situatie vrijwel onmogelijk is te herstellen.
     
  6. Onzekerheid omdat het bestuurlijke controle lastig is: bij het gebruik van het gewasbeschermingsmiddel glyfosaat wil je bijvoorbeeld dat er voldoende instanties zijn die niet alleen de effecten blijven monitoren, maar die bij ernstige schade ook kunnen ingrijpen. De introductie van glyfosfaat is daarom bijvoorbeeld minder risicovol bij een land met een stabiel politiek systeem.

Les 2: Een simpele kosten-batenanalyse biedt niet altijd een uitweg

Het toepassen van het voorzorgsprincipe wordt soms vereenvoudigd tot een kwestie van het afwegen van de geschatte voordelen en nadelen van een nieuwe technologie. Daarom is het bijvoorbeeld gebruikelijk om een kosten-batenanalyse te maken van de voorzorgsmaatregelen en om de proportionaliteit van een maatregel te overdenken.

Dat klinkt als een simpele optelsom, maar zowel de kosten als de baten zijn vaak onzeker. En het ligt er ook aan, aan wie je het vraagt. De ontwikkelaars van de onkruidverdelger glyfosaat bijvoorbeeld, hebben de nadelen lange tijd gerelativeerd en de voordelen ervan overdreven. De laatste jaren blijkt dat het onkruid resistent kan worden tegen het middel.

Overigens zou een goede kosten-batenanalyse ook moeten kunnen leiden tot alternatieven of tot de herwaardering van oude oplossingen. Is bijvoorbeeld automatische besluitvorming door middel van kunstmatige intelligentie in de zorg echt een goed idee? Of kunnen we beter de personeelstekorten in de zorg aanpakken of veel meer investeren in preventie?

Les 3: Het toepassen van voorzorg hoeft innovatie niet in de weg te staan

Een belangrijke les van de casussen is dat innovatie en voorzorg in de praktijk bijna nooit met elkaar lijken te botsen. Sterker nog, verschillende casussen suggereren dat het toepassen van voorzorg juist op een positieve manier richting gaf aan de ontwikkeling van een innovatie. In het geval van nanotechnologie leidde een voorzorgsbenadering bijvoorbeeld tot de ontwikkeling van de discipline van groene nanotechnologie, met nanotechnologie als milieuvriendelijker alternatief. Voorzorg kan dus ook houvast bieden en richting geven aan ontwikkelaars om technologieën te ontwikkelen die zich binnen maatschappelijke geaccepteerde paden begeven.

Gerelateerde artikelen: