Transcript - Kun je als wetenschapper nog zonder AI? - Verrekijkers (14)

In deze aflevering: 

Timo: Timo Nieuwenhuis – Onderzoeker bij het Rathenau Instituut. Timo werkt binnen het thema digitalisering bij het Rathenau Instituut. 

Felienne: Felienne Hermans – Hoogleraar didactiek van de informatica aan de Vrije Universiteit van Amsterdam. Zij is columnist voor de Volkskrant en heeft een eigen AI-nieuwsbrief. 

Laurens: Laurens Hessels – Onderzoeker bij het Rathenau Instituut. Laurens verkent hoe generatieve AI de wetenschap verandert. 

Linda: Linda Kool – Onderzoeker en coördinator bij het Rathenau Instituut op het gebied van digitalisering. 

Felienne: We hebben voor onze ogen zien gebeuren hoe algoritmes mensen een bepaalde kant opdrukken. En dan nu zeggen wetenschappers, nee, maar dat is echt zo leuk, die radicalisering naar social media, laten we dat nog eens een keer doen, maar dan nu in de wetenschap. 

[tune] 

Timo: Kunstmatige intelligentie verovert niet alleen het hart van de gewone sterveling. Maar ook die van wetenschappers. In steeds meer disciplines, van sociologie tot biologie, gebruiken wetenschappers AI voor dataverzameling, analyse en voor het schrijven van artikelen. Maar wat doet dit met de wetenschap? Worden wetenschappers langzaam dommer? Of kunnen ze juist veel sneller met oplossingen komen? En wat doet dit met de rol van wetenschap in onze samenleving? Welkom bij Verrekijkers, een podcast van het Rathenau Instituut waarin we inzoomen op de maatschappelijke kanten van wetenschap en technologie. Iedere aflevering zoomen we in op een schurende kwestie waarover je nog veel te weinig hoort. Ik ben Timo Nieuwenhuis. En naast mij zitten vandaag drie gasten: Laurens Hessels, Linda Kool en Felienne Hermans. Welkom. Ik begin even bij jou Laurens, want jij verkent namens het Rathenau Instituut hoe AI de wetenschap verandert. Ja, waarom doe je dat? 

Laurens: De beschikbaarheid van generatieve AI is eigenlijk een heel invloedrijke ontwikkeling voor de wetenschap. Heel belangrijk om naar te kijken, omdat aan de ene kant het heel veel mogelijkheden geeft voor ander soort onderzoek. Nieuwe manieren om met data te werken, maar ook andere manieren om met teksten om te gaan. Maar dat roept ook hele fundamentele vragen op. Bijvoorbeeld over de homogenisering van wetenschap. Of verschillende vakgebieden steeds meer op elkaar gaan lijken. Het roept vragen op over kwaliteit. Wat betekent integriteit en onafhankelijkheid nog als je heel veel gebruik maakt van taalmodellen? En AI kan ook burgers dichter bij de wetenschap brengen of andere kennis gebruikers. Maar het zou ook juist het vertrouwen in de wetenschap kunnen schaden. En iets anders is dat de Nederlandse wetenschap door het gebruik van generatieve AI nog meer afhankelijk wordt van de diensten van grote techbedrijven die voornamelijk in de Verenigde Staten zitten. 

Timo: Er is veel beweging dus. En Linda, jij werkt ook bij het Rathenau Instituut als onderzoeker en coördinator. Het is niet de eerste keer dat een nieuwe technologie veel teweeg brengt in de wetenschap. Brengt generatieve AI dan veel meer teweeg dan bijvoorbeeld de typemachine of de computer? 

Linda: Oeh, veel meer teweeg. Nou, dat is denk ik wel een lastige vraag. De uitvinding van de typemachine heb ik niet meegemaakt. Dus hoe ze het toen ervaren hebben, dat weet ik niet. Maar wat er misschien bijzonder is aan generatieve AI, het is op een aantal manieren nieuw, zou je kunnen zeggen. We kunnen in menselijke taal een machine een opdracht geven. Dus we kunnen vragen: nou ja, maak nu deze tekst in de stijl van een beroemde schrijver of maak een video voor mij. Daarvoor moest je kunnen programmeren of andere dingen kunnen doen. Dus het is makkelijker geworden om een machine een opdracht te geven. De systemen zijn, je zou kunnen zeggen, beter geworden in taal, niet qua begrip. Ze snappen taal niet. Maar ze zijn wel getraind op basis van enorme hoeveelheden data. En ze kunnen patronen herkennen in taal en voorspellen wat logischerwijs bij elkaar hoort. Daarvoor was dat lastiger. Dus daar zijn ze beter in geworden. En het laatste nieuwe is eigenlijk het generieke karakter ervan. Op het moment dat je taal, nou ja, de jury is still out over hoe goed dat dan is, het gaat natuurlijk ook geregeld fout. Maar wij gebruiken mensen als mens taal overal voor. Dus op het moment dat dat redelijk goed gaat, een samenvatting maken of iets anders, dan is het ook geen wonder dat we dat eigenlijk overal terugzien en iedereen dat graag wil gebruiken. 

Timo: Oké, genoeg om over te praten dus. Dat gaan we ook doen. En we gaan het eerst hebben over hoe wetenschappers nu AI gebruiken. Vervolgens wat dat doet met de kwaliteit van de wetenschap en wat dat er weer doet hoe de samenleving zich tot wetenschap verhoudt. En dat gaan we niet alleen doen, dat gaan we doen met Felienne Hermans. Heel fijn dat je er bent. Je bent hoogleraar Didactiek van de informatica aan de Vrije Universiteit van Amsterdam.  

Felienne: Klopt.  

Timo: Je bent columnist voor de Volkskrant. En dan schrijf je over technologie en wetenschap. En je hebt een eigen AI-nieuwsbrief, waar ik zelf ook een abonnement op heb. Ik vind het heel leuk dat je er bent, je bent zelf wetenschapper. Gebruik je generatieve AI in je werk? 

Felienne: Nee. 

Timo: Waarom niet? 

Felienne: Waarom wel? Ik heb het heel lang zonder gedaan en dat ging best oké, dus ik zie niet per se noodzaak. En bijvoorbeeld de bezwaren die al eerder genoemd werden over het verhuizen van macht naar Amerikaanse bedrijven. Ik roep heel vaak als ik lezingen geef dat beeld op van al die techbro's achter Trump bij zijn tweede inauguratie. Ik denk dat veel mensen zich dat nog voor de geest kunnen halen. Dat het zo maar weer gezellig is te dineren met Trump. En dan zegt Sam Altman: oh, Trump, je bent de beste president die we ooit gehad hebben, want je bent zo pro-business. Ik denk, nou, alleen dat al is voor mij een reden om het niet te gebruiken. Mensen die zo met een, nou toch fascistisch kunnen we het ondertussen wel noemen, regime verweven zijn, daar wil ik helemaal geen druppeltje macht aan overdragen. 

Timo: En denken jouw collega-wetenschappers aan de VU hetzelfde over, of zie je dat zij wel AI gebruiken? 

Felienne: Het verschilt heel erg. Ook heel erg de verschillende taken waar ze het voor gebruiken. Misschien van even een mailtje sturen tot echt een paper, een hypothese vragen ofzo. Maar je spreekt toch veel mensen die heel enthousiast zijn. Die zeggen, ik kan er zoveel sneller dingen mee doen. Ik kan er zoveel dieper mee denken. Ja, dat hoor je wel op de VU. En elders ook in de wetenschap, er zijn heel veel kampen van mensen die het absoluut niet met elkaar eens zijn over wat deze technologie kan en wat ze teweeg gaat brengen. 

Timo: ZIe je dat collega's een specifieke vorm van generatieve AI gebruiken, vooral? 

Felienne: Ja, de taalmodellen. ChatGPT is misschien het meest bekende taalmodel wat veel mensen gebruiken. Maar als je in een Microsoft-omgeving zit, krijg je tegenwoordig Copilot er gratis bij. Dus dat is wel iets wat je ziet. Maar ja, ik weet het niet precies, want ik doe het niet. En mensen komen niet per se naar een van Nederlands bekendste AI criticasters  toe om te zeggen, moet je eens kijken wat ik met ChatGPT kan. Dan staan ze die week nog in mijn nieuwsbrief. Dus dat laten ze wel achterwege. 

Timo: En Linda, Laurens, jullie zijn ook wetenschappers. Gebruiken jullie dan generatieve AI voor je werk? 

Laurens: Ik gebruik het heel voorzichtig. Dus ik deel heel veel van de bedenkingen die Felienne al noemt. Tegelijk, omdat het voor mij een object van onderzoek is, is het wel heel nuttig om er af en toe even aan te proeven wat het wel en niet kan. Maar tegelijk, ik vind mijn werk ook zonder generatieve AI heel leuk. En ik ben gewoon heel blij met mijn baan. Dus het is niet alsof ik voel dat ik ervan afhankelijk ben. Dat ik zonder dat mijn werk niet goed kan doen. En jij, Linda? 

Linda: Ja, voor mij is het hetzelfde. Dus je wil af en toe weten: wat komt er uit? Waar zou je het voor kunnen gebruiken? Wat vind ik daarvan? Deel ik het enthousiasme van anderen? Ja, dus dat is het vooral, een soort nieuwsgierigheid. Maar niet eigenlijk voor een mailtje bijvoorbeeld. We hebben er ook intern weleens over gesproken. En een collega dacht: ja, besteed je wel aandacht aan mij? Dat er eigenlijk ook een heel direct sociaal effect vanuit gaat. Van ja, ik doe er toch toe als collega, dus besteed je aandacht aan het mailtje. Dus heel anders. 

Timo: Een menselijk mailtje. En Laurens, ben jij in jouw onderzoek tegengekomen op wat voor manieren precies wetenschappers AI gebruiken? Kan je ons daarin meenemen? Een kort overzicht. 

Laurens: Ja, dat is eigenlijk heel uiteenlopend. Dus er zijn wel enquêtes gehouden onder grote groepen wetenschappers. Waarin je ziet dat ze eigenlijk in alle fases van hun werk nu al generatieve AI inzetten. De een natuurlijk meer dan de ander. Maar dat begint dus al bij het brainstormen over nieuwe ideeën voor onderzoek. En het lezen van de grote bergen wetenschappelijke literatuur die er zijn, tot het ontwerpen van nieuw onderzoek. Het analyseren van data, het opschrijven van een rapport of een artikel om je resultaten mee te publiceren. Maar ook het aanvragen van onderzoeksbeurzen. Dus eigenlijk in alle fases van het werk maken mensen er gebruik van. Omdat het op heel veel plekken aanlokkelijk kan zijn om tijd te besparen, om met hele grote hoeveelheden informatie om te gaan. 

Timo: Oké. Felienne, zie je andere manieren waarop het gebruik van generatieve AI de wetenschap kan veranderen, hoe je als wetenschapper je werk zou doen? 

Felienne: Ja, dus ik denk dat een van de grote veranderingen – en de hallucinaties, daar hebben we natuurlijk allemaal vaak over – er kunnen foutjes in komen, werd eerder ook al gezegd. Ik denk dat de grote verandering is wat jouw relatie als wetenschapper tot jouw werk is. En dat als jij een paper schrijft, dan moet je niet alleen dat paper schrijven. In ideale wereld, waar ik graag in zou willen leven, schrijf je dan ook een stuk voor in de krant of geef je daar een publieke lezing over. Jij bent de eigenaar van die kennis. En je doet er alles aan om die kennis in de samenleving te krijgen. En niet alleen maar voor je carrière. En als je dan nu in een situatie bent, we leven al in die wereld waarin wetenschappers honderd papers op één conferentie sturen. Dat was in de informatica, in de AI, één professor die dan wel met verschillende co-auteurs op één conferentie 85 papers had geschreven en in één jaar 113 papers. 

Timo: Was dat met AI of zonder AI? 

Felienne: Ja, vermoedelijk met AI. Niet dat hij dat zelf erbij zegt, maar als je die statistiekjes van de AI-wetenschap zelf ziet hoeveel het aantal papers is toegenomen, dan denk ik. Maar ik kan jou niet bellen, toch? Ik kan die wetenschapper toch niet opbellen en zeggen: Piet, paper 17, tabel 6.4, wat staat er? Is die echt nog eigenaar, kan je die aanspreken op die kennis? En van waarom staat het daar? Wat een goed idee. Hoe kwam je daarop? Ja, dan kan hij toch niet zeggen: ja, maar dat zei Claude, dat ik dit moest gaan onderzoeken. Dus er komt een soort scheiding tussen jou en je werk. Waarin al dat bloed, zweet en tranen, en al die bereidheid dat je eigenlijk van ieder zinnetje, of van iedere keuze die je in een paper hebt gemaakt: waarom dit algoritme? Of waarom heb je die methode gebruikt? Mijn promotor zei altijd: iedere zin die in een paper staat, die staat er voor een reden. When in doubt, leave it out, zei hij altijd. Dus je bent de eigenaar van ieder stukje tekst dat er staat. Nou ja, en dan is het niet heel lang geleden zo'n blub. Nu zijn we opeens twintig jaar verder. En dan zeggen we: oh ja, gewoon ongeveer goed. Kijk maar even wat er uit de taalmodellen komt. Dat is echt een hele snelle verandering geweest. In wat de verhouding is tussen een wetenschapper en het werk dat hij schrijft. 

Timo: Dus eigenlijk zeg jij: voordat wetenschappers generatieve AI gebruikten, was je heel bewust welk woord je wel of niet koos. En was je heel erg bewust welk verhaal je wel of niet vertelde via tekst. En als je nu gebruikmaakt van een generatieve AI, dan kiest dat systeem eigenlijk welke woorden worden gebruikt, en ben je er zelf minder bewust van wat je eigenlijk zegt. 

Felienne: Ja, en als wetenschapscultuur vinden we dat blijkbaar oké? Terwijl we toch heel lang hebben gezegd: promovendi moeten op een cursus om goed te leren schrijven. Het is echt heel belangrijk dat we aan die kwaliteit werken. En dat vinden we dan nu opeens niet meer belangrijk. Daar legt AI bloot wat misschien altijd al de waarden waren, dat we het wel heel belangrijk vinden, maar ook niet leuk genoeg om echt zelf te moeten doen. 

Timo: Toch liever veel publiceren. 

Felienne: Blijkbaar. 

Timo: Veel zorgen dus. Wij zijn ook altijd heel erg benieuwd wat de gewone mens denkt op straat. Dus we zijn naar straat opgegaan en we hebben mensen gevraagd: vind jij dat wetenschappers AI moeten gebruiken? 

[tune] 

Straatinterview 1: In sommige gevallen denk ik soms wel. Maar het brengt ook heel veel nadelen met zich mee. Is het altijd echt betrouwbaar, ja of nee? 

Timo: En waarom denk je dat? 

Straatinterview 1: Nou ja, wij zitten in de medische sector. En als je AI gebruikt, dan denk ik, ja, natuurlijk wij kunnen ook iets over het hoofd zien, maar ik denk dat je altijd nog een nacontrole moet doen om te kijken van: is het echt of is het niet echt. 

Straatinterview 2: Ik vind dat AI-gebruik sowieso schadelijk is. Dus ik vind dat eigenlijk je het alleen moet gebruiken als het superbelangrijk is. Dus voor onderzoeken over medische dingen ofzo. 

Timo: En waarom niet de hele tijd? 

Straatinterview 2: Omdat het slecht is voor het klimaat. Te veel water wordt gebruikt. En we hebben sowieso al wel problemen met het klimaat. Dus ja, AI helpt daar niet echt per se bij. 

Straatinterview 3: Als je wetenschapper bent, dan moet je gewoon genoeg kunnen weten, hoef je geen AI te kunnen. 

Straatinterview 4: Ja, snap ik, als je wetenschapper bent, dan moet je zelf onderzoeken. 

Timo: En geen AI gebruiken? Wat vind je: als een wetenschapper AI gebruikt, die het niet meer zelf doet of? 

Straatinterview 4: Ja, maar dat speel je gewoon vast. Dan kan ik net zo goed ook bij mijn proefwerken AI gaan gebruiken. 

Timo: Dat doe je niet? 

Straatinterview 4: Nee, dat doe ik niet. 

Straatinterview 5: Tot op bepaalde hoogte is dat prima. Maar je moet denk ik een hele goede opdracht van tevoren formuleren. Van wat wel en niet. En de AI moet begrensd worden. Het gaat over de rechterlijke macht. Ik wil graag alle jurisprudentie van die rechtbanken doorzocht hebben. Maar dan begrens je het, zodat die AI niet zelf kan denken: van oh, ik heb op het internet ook nog iets anders gezien over dit onderwerp. En dat er niet bij pakt, want dan krijg je ook een zuiver antwoord. 

Timo: Mogen ze het gebruiken als tool, als versterking, als hulpmiddel? 

Straatinterview 5: Niet als uitgangspunt, maar ik denk als hulpmiddel. En waarom mogen ze het als hulpmiddel gebruiken? In principe is AI, van wat mij is verteld, de verzameling van alle menselijke kennis op internet. Dus het is heel makkelijk om dan extra informatie snel ergens vandaan te halen. 

Straatinterview 6: Maar om als enige informatiebron te gebruiken, vind ik het niet voldoende. Ja, ik denk dat het wel gepaard gaat met goed bronnenonderzoek. Dus op het moment dat zij daar gebruik van maken, maar daar zijn wetenschappers natuurlijk wel goed in, kijken waar informatie van vandaan komt. Ik denk dat ze dat wel goed moeten kunnen onderbouwen. Dus als ze daar vragen over stellen, dat ze dan wel duidelijk antwoord moeten hebben waar ze zoiets vandaan halen. 

[Einde straatinterviews] 

Timo: Ik moest eigenlijk nadenken, Linda, jij houdt je voor je werk heel veel bezig met publieksonderzoeken. Ik ben eigenlijk heel benieuwd: wat valt jou op aan deze reacties? 

Linda: Wij doen veel dialogen. We gaan inderdaad met burgers in gesprek over wat ze van een bepaalde technologie vinden en wat voor wenselijke toepassingen ze bijvoorbeeld voor zich zien. Het valt mij op dat zij een aantal van de bezwaren die we al voor een deel behandeld hebben en misschien voor een deel nog gaan behandelen, al noemen. Dus zij noemden bijvoorbeeld het klimaat. Daar hebben we het nog niet over gehad, maar natuurlijk inderdaad, een zorg, de hoeveelheid data en trainingsmodellen en energie en water die dat kost. Maar ook: zijn deze systemen wel betrouwbaar? Er is veel over te doen. Omdat ze gebaseerd zijn op statistiek en data, is het kansberekening. Dus het is altijd onzeker, of dat kan ook fout gaan. En zeker voor de wetenschap, en daar wezen ze natuurlijk ook op: de wetenschap moet het zelf weten. Je hebt kennis nodig om daarmee om te gaan. Dus ik weet niet waar jullie zijn geweest, maar een heel geïnformeerd publiek. Maar dat valt vaak zo, dat is geen uitzondering. En als laatste misschien nog: AI is de bron van alle menselijke kennis. Nou ja, zeker als het dan gaat over data en statistiek, kunnen we daar denk ik nog wel het een en ander op aanmerken. 

Timo: Heb je een korte aanvulling hierop?  
 
Laurens: Ja, ik vond het eigenlijk verrassend genuanceerd, hoe mensen er naar kijken. 

Felienne: Ik vond het een betere voxpop dan de meeste CVB's van universiteiten wereldwijd. 

Laurens: En leuk om te zien: een soort combinatie van publieke waarden, zoals duurzaamheid, die ze dan belangrijk vinden, en meer specifiek wetenschappelijke waarden zoals betrouwbaarheid. Ik denk dat allebei die waarden op het spel staan. Dus het is heel goed om daar allebei aandacht aan te besteden. Inderdaad, die menselijkheid, die burgers blijkbaar heel belangrijk vinden in de wetenschap. Ze willen niet een wetenschap die alleen maar door machines wordt uitgevoerd. 

Felienne: En ik vond ook de voorbeeldrol heel mooi. Dat iemand zei: als wetenschappers dat doen, dan kan ik het ook wel voor mijn proefwerk gebruiken. Die vond ik echt super mooi. Ook denk ik dat wetenschappers niet goed begrijpen dat wat zij doen niet alleen op hun eigen werk betrekking heeft, maar ook laat zien wat we normaal vinden. En dat als wij dat allemaal gaan doen, dan gaan andere mensen misschien ook denken: kijk, als een hoogleraar het dan niet zonder kan, wat heb ik dan als gewone sterveling voor hoop? 

Timo: Ja, dat normaliseert het gebruik ervan. 

Felienne: Ja, dat denk ik wel. 

Timo: En dan Laurens. Jij doet onderzoek naar hoe het de wetenschap beïnvloedt, het gebruik van generatieve AI. Heb je daarin ook gezien hoe het de kwaliteit van wetenschap beïnvloedt? Of doet het dat überhaupt niet? 

Laurens: Ja, nee, absoluut. Kijk, wat generatieve AI doet, is in feite kennis verzinnen, en die zit soms dicht bij de waarheid, maar soms ook er gewoon vandaan. Het woord hallucinaties is al gevallen. Een van de dingen die we nu zien is dat wetenschappelijke tijdschriften worden overspoeld met manuscripten. De aantallen nemen echt schrikbarend toe. En ik hoor ook van mensen die zelf in de redactie zitten van een tijdschrift, dat er steeds meer, een steeds groter aandeel van alle inzendingen – daar zit een luchtje aan. Dan denk je: hier klopt iets niet. Het vraagt dus heel veel tijd van die redacteuren en ook de peer reviewers die ze daarvoor inschakelen, om een zorgvuldige selectie te maken en te weten welke stukken wel en niet integer zijn. En wat voor luchtje zit er dan aan? Wat klopt er dan niet? Nou, kijk, er zijn allerlei smaken. Soms zijn er wetenschappers, zoals Felienne al zegt, die heel erg druk voelen om te presteren en zich te bewijzen, en dus een deel van hun werk niet zelf goed uitvoeren of niet zorgvuldig gebruikmaken van AI en dan een grafiekje laten verzinnen bijvoorbeeld. Maar er zijn ook malafide bedrijfjes in het buitenland die je gewoon kan betalen. Dan betaal je, ik weet niet wat voor bedrag, een paar honderd of een paar duizend euro. En dan krijg je gewoon een kant-en-klaar artikel met jouw naam erboven. Wat je kan insturen bij een tijdschrift naar keuze. En wat redelijk serieuze kans maakte om gepubliceerd te worden. Die bedrijven heten paper mills, dus publicatie molens, die gewoon aan de lopende band verzinsels de wetenschap inslingeren. 

Felienne: En dat bestond ook al voor AI. 

Laurens: Ja, dat bestond. Maar dat is natuurlijk nu wel echt op schaal enorm veel makkelijker geworden. 

Timo: Is dat dan inherent aan het gebruik van generatieve AI? Want ik sprak een keer een mede-wetenschapper, van de UU was dat. En zij zei dat zij haar leerlingen heel goed leerde wat generatieve AI wel en niet kan. En als je weet wat het wel en niet kan, dan kan je het goed gebruiken, zei zij. Dus zij zei: ja, ik wil mijn leerlingen gewoon leren hoe ze het op een goede manier kunnen gebruiken. Denk je dan dat die voorbeelden die jij net noemt, hebben die dan te maken met dat mensen het ook verkeerd gebruiken? 

Laurens: Ja, nou kijk, er is natuurlijk een verschil tussen wat je noemt questionable research practices en fraude. Dus die bedrijven zijn regelrechte fraude. Maar er is ook heel veel haastige wetenschap waarin mensen dus hun toevlucht nemen tot trucjes in de haast. Wat ook fouten teweeg kan brengen. Maar ik deel inderdaad wel de opvatting dat er ook mogelijkheid is om deze technologie op een verantwoorde manier in te zetten. Als je heel goed weet wat de beperkingen zijn, en verantwoording aflegt over de manier waarop je het doet en ook de processen zo inricht dat er uiteindelijk altijd een mens de laatste controle uitvoert. Ik ben misschien nog niet helemaal compleet, maar we moeten als wetenschap denk ik een soort nieuwe spelregels met elkaar gaan afspreken over wat dan wel een verantwoorde manier is om met deze technologie om te gaan. 

Linda: Ja, ik denk als de AI als productietool, dat is de ene die we zien. Dus inderdaad dat papers maken of laten maken, maar die gebruiken we zelf ook als je een samenvatting wil maken. Nou ja, wat dan ook, die zie je heel veel terug. De andere is als leerinstrument. Ik vertelde net aan een collega: mijn zoon zit vorige week in de brugklas. Die was klaar met zijn oefening en hij wilde meer sommen. Dus toen had hij ChatGPT gebruikt. ‘Oh, hoe heb je dat dan gebruikt?’ Want ik was natuurlijk wel een beetje nieuwsgierig. ‘Nee, ik heb extra sommen gevraagd.’ Toen dacht ik: goed bezig. Dat was iemand die gewoon meer huiswerk wilde maken. Om er dus inderdaad zelf te leren. Dus er zit natuurlijk wel verschil in hoe je het gebruikt. En je hebt ook nog als een probleemoplosser. Dus sommige problemen in de wetenschap zijn, ja dan heb je een zoekruimte bijvoorbeeld. Paden naar nieuwe medicijnen en molecuulsamenstellingen, dat is zo'n gigantische zoekruimte. Daar kan een computer helpen om verschillende combinaties sneller te verkennen dan dat mensen kunnen doen. Dus als je slimme combinaties maakt, dan zouden we dat... Maar dat moet je natuurlijk helemaal inkaderen. Wat kan het wel, wat kan het niet, wat weet ik zelf. Waar weet ik wat die computer aan het doen is, snap ik dat? Nou ja, noem het allemaal op. 

Timo: En ik las ook in een van jouw columns Felienne, ik weet niet of het de laatste was of een van de laatste, maar het ging onder andere over dat jij soms kritiek krijgt, volgens mij dat je geen AI gebruikt als wetenschapper die heel veel van AI weet. Maar toen zei jij volgens mij, corrigeer me als ik het verkeerd heb: ja, we weten nog helemaal niet wat de effecten zijn. En de telefoon zijn we heel snel gaan gebruiken. En daar proberen we nu achteraf heel erg dingen terug te zetten. Zodat het op een verantwoordelijke manier wordt gebruikt zonder negatieve gevolgen. Dus ik wil eerst even afwachten wat er nou het effect is. Wat zouden we dan nu moeten doen, denk jij, om generatieve AI op een goede manier te kunnen gebruiken in de wetenschap? 

Felienne: Dit ging meer over de schoolcontext dan over de wetenschap, maar daar geldt wel een beetje hetzelfde voor, denk ik. Ik vind het soms echt fascinerend om te zien dat je, ik werk bij een wetenschappelijke instelling. En dan denk ik: oké, als we dingen gaan invoeren, dan doen we dat onderbouwd op basis van wetenschap. Dat lijkt mij logisch en niet een heel radicaal standpunt. Maar dat is dus wel een radicaal standpunt, want ook de VU waar ik werk, maar andere universiteiten ook, die schrijven gewoon op de website: Generatieve AI is een krachtig hulpmiddel voor elke docent. Ja, dan denk ik: citation needed, VU. Waar staat dat dan? Dat weten we toch nog helemaal niet. En misschien is het wel krachtig, maar een atoombom is ook vrij krachtig. Maar daar zetten we ook niet overal voor in. Als je bijvoorbeeld een muis in je keuken hebt, denk je: nou ja, krachtig hulpmiddel is niet altijd het beste hulpmiddel. Dus ik ben soms wel echt verbaasd door die klakkeloze adoptie. Terwijl we nog niet weten wat het effect is op jonge mensen, op onszelf. Onderzoeken over creativiteit met de AI, die laten dan vaak ook weer zien dat als je de AI wegneemt, dat je creativiteit weer enorm afneemt. Dat die creativiteit er dan toch ook voor zorgt dat er met AI heel veel dezelfde oplossingen komen. Dus wel creatief in een bepaalde zin, maar niet al heel anders dan andere mensen die AI gebruiken. Dus er is nog zoveel wat we niet weten. Dat het dan zegt: laten we dat even niet doen, en onderzoek daarnaar doen. Wat dat dan op allerlei soorten vlakken doet. En dan misschien daarna wel of niet verantwoord invoeren. 

Timo: Ik vind het wel heel opvallend, want wetenschappers zijn juist heel bewust en leren heel veel over methodes die je wel of niet inzet. En dan ga je zo'n taalmodel heel klakkeloos inzetten, zeg jij. Hoe komt dat dan? 

Felienne: Ja, ik heb ook echt geen flauw idee. Het is een soort mindvirus dat iedereen heeft overgenomen. En heel veel dingen die je dan tijdens je studie of tijdens je promotie leert, tien jaar later en iedereen zegt: van nee, maar dat doet er niet meer toe. Ik sta versteld. En ik denk toch dat je dat bijna niet los kan zien van die publicatiedruk. En dat mensen het idee hebben dat we heel veel moeten schrijven. Anders redden we het niet in de wetenschap. En dat is ook zo. En toch ook wel de betovering van die technologie. En mensen vinden het vaak heel grappig dat ik zo kritisch ben op technologie, want veel andere mensen die dat zijn, die komen dan niet uit de technische hoek. En dan wordt dan toch een beetje gezegd van: ja, wat weet die nou van technologie? Die snappen dat allemaal niet zo goed, hoe de algoritmes werken. En dat ik dus zeg: ja maar ik snap juist hoe algoritmes werken. En ik begrijp hoe een algoritme altijd, hoe simpel het ook is, jouw gedachte een bepaalde kant opstuurt. En dat hebben we toch ook allemaal gezien. Het is niet de eerste keer dat we dit meemaken, met de filterbubbels en de fabeltjesfuik en zo. We hebben toch al gezien, iedereen was erbij, dat die algoritmes mensen een bepaalde kant op sturen. Ja, waardoor we nu misschien Trump aan de macht hebben. Ik denk dat we zonder Facebook en Twitter dat misschien niet hadden gehad. We hebben voor onze ogen zien gebeuren hoe algoritmes mensen een bepaalde kant opdrukken. En dan nu zeggen wetenschappers, nee, maar dat is echt zo leuk, die radicalisering door social media. Laten we dat nog eens een keer, maar dan nu in de wetenschap doen. Want what could possibly go wrong? 

[tune] 

Timo: We leggen ook elke aflevering iedereen een stelling voor, of eigenlijk alle gasten samen. Vandaag is de stelling: het gebruik van AI door wetenschappers ondermijnt het vertrouwen in de wetenschap. Wat denk jij hiervan, Felienne? 

Felienne: Ja, ik denk wel dus op de langere termijn dat dat waar is. Vanwege die dynamiek die ik schetste dat wetenschappers dan niet meer goed kunnen staan voor hun kennis. Maar op de kortere termijn ook wel. Er zijn heel veel - het komt steeds in het nieuws - papers waar verzonnen citaties in staan. Nou, dan kan je wel zeggen, waarschijnlijk komt dat uit de AI. Een foutje in een boektitel kan je misschien nog maken. Dus hoe meer van dat soort gevallen er komen, hoe meer mensen inderdaad misschien wantrouwen gaan krijgen. En dat leunt natuurlijk ook al op bestaand wantrouwen. Er zijn al boeken, Stan van Pelt heeft recent een boek geschreven over... sloppy science, heet dat, geloof ik ook in het Nederlands. Dus we hebben al een reproduceerbaarheid crisis. Dat mensen doen onderzoek en ander onderzoek haalt dat dan over, en dat is dan niet hetzelfde. Dus er is al wantrouwen.  

Timo: Laurens, wat denk jij hiervan? 

Laurens: Nou, ik wil het wel iets nuanceren. Want ik denk inderdaad op de lange termijn als deze technologie gaat leiden tot allerlei schandalen en tot heel veel fouten in de wetenschap, uiteraard het vertrouwen schaadt. Aan de andere kant is er ook wel heel veel vertrouwen in de wetenschap, dat blijkt ook uit onze eigen enquêtes van mijn collega's. En generatieve AI geeft ook juist mogelijkheden om burgers dichter bij de wetenschap te brengen. 

Timo: Oh, hoe dan? 

Laurens: We moeten natuurlijk nog zien hoe dat precies vorm krijgt. Maar Felienne noemde ook de wens dat wetenschappers in de media zichtbaar zijn en hun kennis niet alleen met collega's delen, maar ook met de samenleving. Daar kun je generatieve AI natuurlijk ook voor inzetten, om een animatie te maken over jouw onderzoeksresultaten, of een video of een heel toegankelijke tekst. Dat kan voor wetenschappers ook een hulpmiddel zijn, zolang ze zelf wel het laatste woord hebben en goed controleren en een soort certificering aanbrengen: kijk, dit klopt wat hier namens mij wordt geuit. Kan natuurlijk ook heel mooi zijn. En AI kan ook een hulpmiddel bieden om burgers meer te betrekken bij het uitvoeren van onderzoek, in de vorm van citizen science. Dus we willen dit in de toekomst nog verder gaan onderzoeken, maar ik denk dat er niet alleen maar negatieve effecten zijn. 

Timo: Je hebt veel wetenschappers gesproken tijdens je onderzoek naar hoe zij AI inzetten. Heb je hen ook gevraagd hoe zij willen dat wetenschap eruitziet? 

Laurens: Ja, want ik denk eigenlijk dus dat deze nieuwe technologie aanleiding is om daar opnieuw naar te kijken. Wat wensen wij eigenlijk voor wetenschap in de toekomst? En wij hebben daar een heel project eigenlijk voor opgetuigd. Om in consultatie met experts en wetenschappers verschillende wensbeelden voor 2040 op te stellen. Op basis van al die input hebben we drie verschillende wensbeelden opgesteld. Een versnellende wetenschap, een gedeelde wetenschap en een ambachtelijke wetenschap.  

Timo: Wat is een versnellende wetenschap? 

Laurens:  Je ziet dus in alle discussies dat mensen er zo uiteenlopend over denken. Dus we kunnen niet met z'n allen één gedragen gemeenschappelijk toekomstbeeld opstellen. De versnellende wetenschap is eigenlijk heel optimistisch over deze technologie. Dat zijn mensen die zeggen: we moeten deze technologie omarmen, te zorgen dat we meer doorbraken in de wetenschap kunnen realiseren om belangrijke vragen op te lossen. En natuurlijk doen we dat dan op een verantwoorde manier. Maar we willen echt deze AI gebruiken om nog sneller tot belangrijke antwoorden te komen. De gedeelde wetenschap zegt juist: we moeten dit gebruiken om de samenleving meer bij het wetenschapsproces te betrekken en de verbinding met kennisgebruikers te versterken. En de ambachtelijke wetenschap is een wensbeeld waarin juist heel erg de menselijkheid van de wetenschapper centraal blijft staan. En waarin je heel voorzichtig en terughoudend bent met het inzetten van AI. En wij denken dat het belangrijk is om dus niet alleen in het heden te kijken wat moeten we nu doen, maar vanuit een lange termijn perspectief ook naar deze techniek te kijken. En dan terug te redeneren: als dit de wensbeelden zijn waar we naartoe willen in de verdere toekomst, wat zijn dan de keuzes die we in het heden moeten maken? 

Timo: En Felienne, produceert generatieve AI dan een ander type kennis dan dat een wetenschapper dat doet wanneer hij geen generatieve AI gebruikt, wanneer hij wetenschap bedrijft? 

Felienne: Ik denk dat dat echt een fundamentele vraag is, waar we nog niet echt het antwoord op weten, maar ook waar hele andere perspectieven op bestaan. Dus als je uit de bèta komt, dan zal je zeggen: kennis is kennis. Het maakt niet uit of dat nou uit een computer komt, of uit een mens, of uit een kikker die de magische ability heeft gekregen om te spreken. Dat maakt niet uit, als jij maar gewoon het doorrekent via modellen, dat is kennis. En mensen uit de geesteswetenschappen zullen misschien eerder zeggen: kennis is iets wat in een mens leeft en wat voortkomt uit jouw ervaring. En ik denk dat ik zelf ook meer aan die tweede kant zit. Dat voor mij is ieder paper, zeker in mijn meer recente werk, gewoon een onstilbare jeuk die ik moest krabben. Ik moest dat gewoon doen. Omdat vragen in mij opkwamen: ik wil dit begrijpen. Want ik begrijp dit niet, waarom dit zo is. En ik geloof niet dat een algoritme dat kan hebben. Dat een computer kan denken: ik heb nu veertig jaar in de wereld rondgelopen en ik begrijp dit wat hier voor mijn neus gebeurt niet. En ik moet dit nu uitzoeken. Dus voor mij is dat een onlosmakelijk stukje van wetenschappelijke kennis, wat AI niet kan hebben in mijn belief system. 

Timo: En Laurens en Linda, is dat denk je duidelijk voor mensen, dit verschil of niet? 

Linda: Ja, ik denk het wel. Ik denk dat het ook te maken heeft met wat belangrijk is voor een wetenschap, of wat we daarvan belangrijk vinden. Dus het begrijpen, het kunnen uitleggen, het kunnen controleren. Dus je probeert te onderzoeken hoe de wereld in elkaar zit. Ja, en dat te snappen. En daarvoor hebben we dus ook verschillende vormen van AI. Dus je kan... generatieve AI is heel erg gebaseerd op statistiek, op data.  
 
Timo: Taalmodellen?  

Linda: Ja, dus dat zijn die taalmodellen. Er gaat gigantisch veel data in en die proberen patronen te ontdekken. Je hebt ook nog andere vormen van machine leren, ook gebaseerd op data. Maar je hebt ook AI gebaseerd op logica, op logisch redeneren. En dan kun je dus eigenlijk heel goed zien wat een computer doet. En je kan het goed begrijpen, je kan het goed volgen, je kan het goed uitleggen, je kan het goed reproduceren. Eigenlijk allemaal dingen die voor wetenschap belangrijk zijn. En we hebben nu eigenlijk volledig geïnvesteerd, alle ballen op generatieve AI. En we vergeten een beetje dat er ook nog andere vormen zijn. En het is denk ik belangrijk voor de toekomst om die wat meer bij elkaar te gaan verbinden. 

Timo: En je beschreef het, maar hoe noem je die andere vormen? 

Linda: Ja, symbolische AI, of ja, nou ja, misschien. 

Felienne: Good old fashioned AI. Maar het is ook wel interessant, want door die oude soort AI, en dat is natuurlijk heel lang geprobeerd, zo'n beetje van de jaren 50 tot en met de jaren 2000, investeerden ze heel veel daarin in die symbolische AI. En dat werkte juist niet heel goed. En daardoor kwam, mensen kennen die term misschien wel, de AI-winter, dat wetenschappers dachten: dit lukt niet, want de wereld is zo complex dat het heel lastig is om de hele wereld in regels en logica te vangen. Maar voor kleine subdomeinen kan dat natuurlijk wel heel erg goed werken. 

Linda: Ja, en ik heb begrepen dat ze samen proberen het beste van beide te combineren. Zogenaamde hybride AI. 

Timo: Generatieve AI voelt voor mij meer als een soort consumentenversie van AI, voor een gebruiker, niet een voor het ontwikkelen. En dan die symbolische AI, dat is wel veel complexer ook. Dus dat zou ook niet elke geesteswetenschapper zomaar kunnen gebruiken? 

Linda: Nee, waarschijnlijk niet. Nee, maar misschien als je dat weer combineert, maar tegelijkertijd is het natuurlijk ook. Nou ja, dat was laatst weer een mooi voorbeeld. ChatGPT of een ander systeem, hoe makkelijk de redeneerfouten zijn, weet je, en hoe makkelijk het je dus ook niet kan volgen. Als je alleen maar de naam verandert in een sommetje, dan gaat het al niet goed. Dan krijg je allerlei andere antwoorden. Maar ook iets simpels als: ik koop op vrijdag 30 kiwi's. Ik koop op zaterdag 20 kiwi's en op zondag nog 20 kiwi's, maar die zijn gemiddeld wat kleiner. En dan gaat AI dus, tenminste, de taalmodellen, hele rare dingen doen. Die gaan de eerste dag tellen ze bij elkaar op, en de tweede dag gaan ze ineens iets aftrekken. Terwijl ieder mens weet dat dat niet de bedoeling is. Dus het heeft niks met begrip te maken. En voor een wetenschap is dat volgens mij de essentie. 

Laurens: : Begrip, maar ook verantwoording af kunnen leggen. Ik denk dat daar echt de sleutel ligt. In het verschil met die andere vorm die je net toelichtte. Als je een AI-vorm gebruikt waarin je goed kan traceren waarom bepaalde keuzes zijn gemaakt, dan zit je al in een heel ander speelveld dan nu, dat het één grote black box is. En ik denk dat ook natuurwetenschappers dat belangrijk zullen vinden. Want Felienne zei van ja, natuurwetenschappers maakt het niet uit. Maar die geloven wel in wat je noemt de wetenschappelijke methode. En het idee van systematisch vergelijken en experimenten uitvoeren. En ja, dat is in principe met die verzinsels van generatieve AI ook niet hè. 

Timo:  Wat moeten we nu dan doen, Laurens? 

Laurens: Ik denk dat we verschillende dingen tegelijk moeten doen. Dus één ding wat we als wetenschap moeten doen, denk ik, in Europa, is om onze eigen modellen te ontwikkelen. En ik ben zelf niet een technisch expert in hoe die eruit zien, maar ik hoor van experts, zoals Linda net ook toelicht, dat er echt wel technieken zijn die beter zijn dan de modellen die we dus nu uit Amerika allemaal importeren, gebruiken,klakkeloos. Dus daar kunnen we dan ook naar kijken, naar waarden als privacy en rechtvaardigheid en duurzaamheid en Europese waarden daarin voorop stellen. 

Timo: Dat is vooral voor een machtsbalans, toch? Eigenlijk het big tech verhaal en politiek gezien. Daarom noem je dit denk ik. 

Laurens: Een machtsbalans is een belangrijke. Maar ook kwesties als rechtvaardigheid en het uitbuiten van arbeiders in het zuiden die allerlei smerig datawerk voor ons moeten doen om dit mogelijk te maken. Daar willen we eigenlijk ook als Nederlandse wetenschap volgens mij niet verantwoordelijk voor zijn. Dus dat is één lijn. En een andere lijn is denk ik dat we, en dat moet heel snel volgens mij, regels moeten afspreken over wat wel en niet toelaatbaar is. Want we zitten nu in een soort schemergebied. Waarin de kennisinstellingen heel ambivalente signalen afgeven. Aan de ene kant zeggen ze: wees voorzichtig, want we weten dat er risico's aan deze modellen zitten en we vinden zelf ook de klimaatimpact eigenlijk vrij groot. Er zijn risico's om een bias in je analyse te krijgen. Dus wees voorzichtig, maar tegelijkertijd maak je eigen afweging. En we moeten de aansluiting niet verliezen bij de wetenschap op het wereldtoneel. Dus ja, elke wetenschapper moet nu zijn eigen afweging maken hoe hij dan die verschillende dingen tegen elkaar weegt. En ik denk, gezien de competitie in de wetenschap, dat dat niet oké is. We moeten dat collectief met elkaar afspreken. 

Timo: En Felienne, wat zou jij zeggen dat we moeten doen om de kwaliteit van wetenschap, maar eigenlijk ook gewoon de baan van wetenschap te behouden? 

Felienne: Ja, dus ik denk dat we niet over AI moeten praten zonder dat we ook over het systeem van de wetenschap praten. Daar heb jij het natuurlijk ook over. Zolang er iets als publicatiedruk bestaat, heeft het eigenlijk geen zin om over AI te praten. Want in de wereld die we nu hebben, waar die ambivalente richtlijnen zijn, is het heel goed voor een wetenschapper, een individu, om AI te gebruiken, want dan kan je heel veel papers publiceren. Dat is de KPI van de wetenschapper. Dus dat moet je eerst veranderen. Als je zegt: nou, je hoeft niet tien papers per jaar. Misschien mag je gewoon één paper in de tien jaar als dat dan heel goed is. 

Timo: En Linda, wat raad jij aan? Wat vind jij dat er moet gebeuren? 

Linda: Nou, ik sluit me deels aan bij wat Laurens en Felienne al hebben gezegd. En anders denk ik ook dat we, want het klopt natuurlijk, dat datagedreven AI is gegroeid doordat het andere te weinig voortgang maakten. Maar ik hoop dat we beide stromen gaan combineren. Zodat we niet zijn overgeleverd aan onbetrouwbare, hallucinerende modellen. 

[tune] 

Timo: Mooi. Nou, bedankt voor het luisteren. Wil je meer weten over ons onderzoek naar AI in de wetenschap? Kijk dan op www.rathenau.nl 

Timo: En abonneer je op Verrekijkers zodat je nooit een aflevering mist.