AI in de wetenschap 5: Hoe AI kwetsbaarheden in het wetenschapssysteem blootlegt
Een AI-model dat geheel zelfstandig een beroemd wiskundig probleem oplost en een AI-agent die een natuurkundig onderzoek uitvoert en publiceert. Ook de theoretische wetenschappen lijken op hun kop te staan door de komst van AI. In deze vijfde blog sprak het Rathenau Instituut voor een casusonderzoek met tien wiskundigen en natuurkundigen over het gebruik van artificiële intelligentie in hun onderzoek.
In het kort:
- In theoretische wetenschappelijke disciplines, zoals wiskunde en delen van natuurkunde, wordt AI deels anders ingezet dan in andere wetenschapsgebieden.
- Maar ook in deze vakgebieden zet gebruik van AI de kernwaarden van de wetenschap onder druk.
- Dit vraagt om een herijking van deze kernwaarden, en een duidelijke visie van wetenschapsorganen en beleidsmakers.
In juni 2026 publiceerde een groep wiskundigen een waarschuwing over de invloed van AI op hun vakgebied. In deze Leiden Declaration on Artificial Intelligence and Mathematics stellen zij dat AI de kernwaarden van de wiskunde onder druk zet. In de publicatie besteden zij aandacht aan zowel vakinhoudelijke als sociale gevolgen van deze nieuwe technologie. De wiskunde draait om menselijk begrip, zo benadrukken zij.
In vrijwel alle vakgebieden groeit het gebruik van AI in wetenschappelijk onderzoek. De nieuwe toepassingen verschillen echter sterk per vakgebied. Sociale wetenschappen kunnen dankzij AI met ongekend grote datasets werken. Archeologen gebruiken AI om oude handschriften te doorgronden. Maar wat voor mogelijkheden biedt AI voor onderzoekers die nauwelijks met empirische data werken? En welke vraagstukken roept AI-gebruik daar op?
Welke soorten AI gebruiken theoretische wetenschappers?
Om te begrijpen hoe het AI-gebruik van theoretische wetenschappers er precies uitziet en welke invloed dit op hun werkzaamheden heeft, sprak het Rathenau Instituut hierover met een aantal wiskundigen en natuurkundigen verbonden aan Nederlandse universiteiten. Uit deze gesprekken blijkt dat de theoretische wetenschappers vooral commercieel toegankelijke GenAI-modellen gebruiken, zoals ChatGPT, Gemini en Claude. Deze modellen zijn vaak van Amerikaanse en in enkele gevallen van Chinese makelij. Wetenschappers hebben vaak op eigen kosten en initiatief abonnementen op premium AI-modellen, maar worden ook door hun werkgevers en de aanbieders van modellen gemotiveerd om gebruik te maken van de technologie. Zo worden er bijvoorbeeld AI-chatfuncties toegevoegd aan de programma's waarmee wetenschappers werken.
Naast de geavanceerde taalmodellen gebruiken de geïnterviewden ook modellen die gespecialiseerd zijn in het schrijven van computercode. Vanwege de theoretische aard van hun werk bouwen deze wetenschappers vaak modellen en schrijven ze computerprogramma's, iets waar ook AI bedreven in is. Ook gebruiken ze AI-modellen die speciaal gebouwd zijn voor het uitvoeren van wiskundige berekeningen. Ten slotte experimenteren deze wetenschappers in enkele gevallen met agentic AI. Dat is een vorm van AI die autonome beslissingen kan nemen en zo zelfstandig een pakket van taken kan uitvoeren.
Hoe gebruiken wetenschappers AI?
De geïnterviewde wetenschappers gebruiken al deze soorten AI in vrijwel alle fasen van wetenschappelijk onderzoek.
Tijdens de oriënterende fase gebruiken wetenschappers AI om een beter beeld te krijgen van literatuur in hun vakgebied. Dit doen ze bijvoorbeeld door artikelen te laten samenvatten of uitleggen via AI-chatfuncties. Ook sparren ze met AI-modellen om snel en efficiënt nieuwe ideeën te testen, zoals het toepassen van een bepaalde wiskundige methode om een probleem op te lossen.
Daarnaast wordt AI vaak gebruikt voor het schrijven, controleren en polijsten van stukken tekst. Dit gebeurt zowel voor het schrijven van eigen artikelen als het beoordelen van papers van anderen ('peer review'). Hier wordt er soms ook waarde gehecht aan het 'oordeel' van de taalmodellen. De geïnterviewde wetenschappers vertrouwen dan in enkele gevallen op het AI-model om fouten te vinden in de logica of berekeningen in een artikel.
Enkele van de geïnterviewde wetenschappers gebruikten AI voor het genereren van nieuwe ideeën. Hier experimenten wetenschappers met agentic AI. Zo zijn er modellen beschikbaar die theoretische natuurkundigen helpen om een volledig onderzoeksproces te initiëren. Dit soort modellen bestaan uit verschillende agents die de onderzoeksvraag toespitsen, data generen, code schrijven en helpen bij het schrijven van het artikel.
Wat motiveert theoretische wetenschappers om AI te gebruiken?
Ondanks dat theoretische wetenschappers zich bewust zijn van de risico's die het gebruik van AI met zich meebrengt, zoals besproken in onze eerdere blogposts, wordt AI toch door veel wetenschappers gebruikt. Hier zijn een aantal verklaringen voor.
Het wetenschappelijke publicatiesysteem staat hevig onder druk door grote hoeveelheden aangedragen artikelen. De komst van AI heeft hier nog een schepje bovenop gedaan, omdat artikelen (al dan niet van discutabele kwaliteit) makkelijker en sneller gecreëerd kunnen worden. Van wetenschappers wordt verwacht dat ze veel publiceren (publish or perish) én veel artikelen reviewen. Om te kunnen functioneren in dit klimaat zoeken wetenschappers manieren om werkzaamheden te bespoedigen. Generatieve AI biedt hierin een schijnbare uitkomst, omdat het snel en efficiënt grote hoeveelheden data en tekst kan genereren die sommige onderzoekstaken lijken te versnellen.
Daarnaast bevinden veel theoretische wetenschappers zich in niche-vakgebieden met enkele internationale collega's. Deze wetenschappers zijn als het ware in een 'race' verwikkeld om de volgende baanbrekende bevinding te publiceren. Een aantal geïnterviewde wetenschappers stellen zich tech-opportunistisch op en zien in AI een nieuw middel dat aan deze doorbraken kan bijdragen.
Voor wetenschappers in niche-vakgebieden bieden de AI-chatmodellen ook een mogelijkheid om te sparren over vakinhoudelijke vraagstukken. Iets dat vanwege het geavanceerde en specifieke karakter van hun onderzoek niet altijd mogelijk is met directe collega's.
AI zet kernwaarden van wetenschap onder druk
De situatie in de wiskunde en natuurkunde illustreert de spanningen die zich ook breder in het wetenschapssysteem manifesteren. Wetenschappers zijn soms sceptisch en soms opportunistisch en ze gebruiken AI al in veel verschillende stappen van hun onderzoek. De werking van het huidige publicatiesysteem biedt een rijke voedingsbodem voor AI-gebruik, terwijl AI ditzelfde publicatiesysteem tegelijk in een onhoudbare stroomversnelling brengt door de grotere hoeveelheid publicaties. Op deze manier bijt het publicatiesysteem zich in zijn eigen staart: de aantallen artikelen die momenteel circuleren zijn voor menselijke lezers nauwelijks nog bij te houden.
Onze interviews bevestigen de boodschap van de Leiden Declaration dat AI de kernwaarden van de wetenschap onder druk zet en vraagt om een herijking hiervan. De situatie vraagt dus om een reflectie over wat AI voor de theoretische wetenschappen kan betekenen. Hoe kan het publicatiesysteem de wetenschapper dienen in plaats van andersom? En kun je spreken wetenschappelijke vooruitgang wanneer wetenschappelijke bevinden volgen uit onnavolgbare stappen door inzet van AI?
Dit soort vragen worden steeds urgenter. Ze vragen om een visie van individuele wetenschappers, maar ook van overkoepelende wetenschapsorganen en beleidsmakers.
