AI in de wetenschap 3: Drie niveaus waarop AI het wetenschapssysteem ingrijpend verandert

Kunstmatige intelligentie is niet nieuw in de wetenschap. Al decennia gebruiken onderzoekers algoritmen voor statistiek, patroonherkenning en modellering. Maar de opkomst van publiek beschikbare generatieve AI, zoals ChatGPT, Gemini of Claude, heeft het gebruik van generatieve AI (GenAI) in een stroomversnelling gebracht. Net als de rest van de wereld beschikken onderzoekers nu over toegankelijke taal- en beeldmodellen, grotendeels ontwikkeld door grote technologiebedrijven. Deze modellen produceren een inhoudelijk resultaat, zoals een tekst of afbeelding, op basis van een vraag (‘prompt’) die de gebruiker invoert. 

De modellen kunnen zelf niet redeneren of inhoudelijke afwegingen maken, maar geven de reactie waarvan ze de kans het grootste achten dat dit is wat de gebruiker verwacht. Ze zijn daartoe in staat doordat ze zijn getraind met duizelingwekkende hoeveelheden data. Deze tools zijn niet ontwikkeld voor wetenschappelijk onderzoek. Met andere woorden: ze zijn niet ontwikkeld met nauwkeurigheid of feitelijkheid als uitgangspunt. Toch zijn ze in korte tijd diep doorgedrongen in het dagelijkse werk van wetenschappers. 

Verder kijken dan “mag dit wel of niet?”

De discussie over (on)wenselijk gebruik van GenAI binnen de wetenschap is het afgelopen jaar goed op gang gekomen. Maar opvallend genoeg is het gesprek op veel plekken vooral reactief: hoe voorkomen we fraude, welke richtlijnen zijn nodig? Binnen disciplines, instellingen en vakgroepen lopen de meningen hierover vaak sterk uiteen: wat mag wel, wat niet, en wie bepaalt dat eigenlijk? Dat zijn belangrijke vragen, maar ze raken vooral aan gedrag op individueel niveau. Minder aandacht is er voor een fundamentelere kwestie: wat doet grootschalig gebruik van generatieve AI met de manier waarop wetenschap wordt bedreven, georganiseerd en gewaardeerd?

Om die bredere vragen te verkennen, spraken we met tientallen betrokkenen uit het wetenschapssysteem – van hoogleraren en aio’s tot beleidsmakers bij NWO en experts van SURF, de ICT-coöperatie van de Nederlandse kennissector. We verdiepten ons daarnaast in recente rapporten en studies uit Nederland en Europa. Daarin vonden we belangrijke kwesties op meerdere niveaus van het wetenschapssysteem.

Het wetenschappelijke proces: wat verandert er door GenAI?

GenAI is niet zomaar een efficiënt hulpmiddel. Zo kunnen de modellen zelf teksten, hypothesen, code, literatuuroverzichten en zelfs datasets genereren. Daarmee raken ze niet alleen ondersteunende taken, maar ook kernactiviteiten van wetenschap. Ze beïnvloeden hoe kennis tot stand komt, en dat roept verschillende vragen op.

• Reproduceerbaarheid en transparantie
  Wetenschap draait om betrouwbaarheid en controleerbaarheid van kennis. Maar generatieve modellen veranderen voortdurend, zijn niet volledig transparant en afhankelijk van commerciële infrastructuur. Als een modelversie wordt aangepast, kan dat invloed hebben op uitkomsten. Hoe documenteer en reproduceer je onderzoek dat deels afhankelijk is van een commercieel en extern systeem?
   
• Begrip versus patroonherkenning
  Generatieve modellen herkennen patronen in enorme hoeveelheden tekst en data, maar “begrijpen” de werkelijkheid niet. Wanneer onderzoekers in toenemende mate vertrouwen op gegenereerde samenvattingen, analyses of suggesties, wat betekent dit voor daadwerkelijk begrip?
   
• Bias en ingebouwde aannames
  Generatieve modellen reproduceren patronen uit hun trainingsdata, ook wanneer deze fouten bevatten of discrimineren. Onkritisch gebruik kan leiden tot het versterken van ongelijkheid of vertekeningen in onderzoek. Met name in de sociale wetenschappen is hier veel discussie over. 
   
• Monocultuur in methoden en kennisproductie
  Als veel onderzoekers gebruikmaken van dezelfde modellen kan dat leiden tot homogenisering. Hypothesen, formuleringen en zelfs onderzoeksvragen kunnen in dezelfde richting worden geduwd. Dat kan creativiteit en methodologische diversiteit onder druk zetten. Wetenschappers waarschuwen voor het risico op het ontstaan van een spreekwoordelijke ‘monocultuur’, een grote akker waarop maar één gewas groeit. 

De organisatie van de wetenschap: versnelling en druk

Naast het onderzoeksproces zelf raakt GenAI ook de manier waarop wetenschap is georganiseerd.

• Publicatiedruk in een stroomversnelling
  Traditionele kwaliteitswaarborgen zijn in veel gevallen niet ingericht op de snelheid, schaal en complexiteit van AI-gedreven onderzoek. Een belangrijke schakel in de kwaliteitszorg is peer review, de praktijk dat teksten kritisch worden gelezen door vakgenoten, voordat ze worden gepubliceerd in een tijdschrift of gepresenteerd op een conferentie. Zo kreeg een recente conferentie over kunstmatige intelligentie maar liefst 29.000 inzendingen  – bijna twee keer zo veel als het jaar ervoor, en veel te veel voor zorgvuldige peer review. Dit raakt aan een dieper probleem in de wetenschap: de prikkels in het huidige systeem, waar kwantiteit vaak belangrijker weegt dan kwaliteit.
   
• Fraude, plagiaat en kwaliteitsbewaking
  Niet alleen hebben wetenschappers te weinig tijd om deze hoeveelheid artikelen zorgvuldig te controleren, maar daarbij hebben ze ook lang niet altijd meer de mogelijkheden om echt van nep (AI gegenereerd) te onderscheiden. Generatieve AI verlaagt de drempel voor het produceren van ogenschijnlijk overtuigende, maar inhoudelijk zwakke of zelfs misleidende teksten. Taalmodellen kopiëren soms ongemerkt fragmenten uit bestaande publicaties of ze verwijzen naar niet-bestaande bronnen. Dit leidt nu al tot een stortvloed aan publicaties van slechte of twijfelachtige kwaliteit. En detectie is lastig, omdat AI-gegenereerde inhoud steeds moeilijker te onderscheiden is van echt. Ook voor wetenschappelijke uitgeverijen is dit een dagelijks probleem.
   
• Werk, loopbanen en motivatie
  Automatisering van schrijftaken, programmeerwerk of literatuuranalyse kan het werk van onderzoekers veranderen. Voor sommigen betekent dit verlichting van repetitieve taken; voor anderen roept het vragen op over vakmanschap, leerprocessen en loopbaanperspectieven. Wat betekent het voor promovendi als belangrijke academische vaardigheden, zoals schrijven, synthetiseren, argumenteren, deels worden uitbesteed aan dit soort systemen? En welke competenties hebben wetenschappers nodig als onderzoekstaken steeds verder worden geautomatiseerd?

Veranderingen in de relatie tussen wetenschap en maatschappij

Deze ontwikkelingen betekenen ook iets voor de relatie tussen wetenschap en maatschappij. GenAI kan helpen om wetenschappelijke kennis toegankelijk te maken voor een groot publiek. Maar in de steeds snellere en data-gedreven wetenschap ontstaan ook ethische vragen over de wenselijkheid van nieuwe mogelijkheden voor onderzoek en innovaties. Denk aan online manipulatie-experimenten met gebruik van GenAI of simulaties die gebruikt kunnen worden voor de ontwikkeling van chemische wapens. Dit geeft een nieuwe urgentie aan maatschappelijke discussies over goede wetenschap. Wat verwachten burgers van de wetenschap, en welke morele randvoorwaarden vinden zij belangrijk? 

En daarbij: wat gaan al deze kwesties betekenen voor het publiek vertrouwen in de wetenschap? Ook daar maken wetenschappers zich nu al zorgen over. 

Internationale positionering

Tenslotte signaleren we ook belangrijke dilemma's met betrekking tot de internationale positionering van de Nederlandse wetenschap. Zo vormt de toenemende invloed en machtsconcentratie van grote technologiebedrijven uit de Verenigde Staten (‘Big Tech’) een bedreiging voor de autonomie van wetenschappers. Nu technologische ontwikkeling nauw verweven is met geopolitieke en economische belangen, wordt deze afhankelijkheid des te relevanter.

De blik vooruit

Om goed voorbereid te zijn op de impact van generatieve AI, moeten we onze blik verder richten dan de korte termijn. Dat betekent niet alleen nadenken over regels en risico’s, maar ook over de vormgeving van het wetenschapsstelsel als geheel en de invulling van wetenschappelijke waarden in deze veranderende technologische context. Ook vergt het een actieve houding. Eén die generatieve AI niet behandelt als een externe ontwikkeling die de wetenschap overkomt, maar als iets wat de wetenschap zelf actief kan vormgeven.

Meer AI in de wetenschap: