Generatieve AI
In deze scan concludeert het Rathenau Instituut dat generatieve AI risico’s in de digitale samenleving versterkt en nieuwe risico’s introduceert. (Foto: Shutterstock)
Deze scan maakt de balans op: wat is GAI, wat kan het nu, en wat misschien later? Welke kansen, risico’s voor publieke waarden en beleidsopties zijn ermee verbonden? De scan is ontwikkeld op verzoek van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties, gebaseerd op kortlopend onderzoek met literatuurstudie, werksessies en interviews, en is bedoeld voor beleidsmakers en politici.
Samenvatting
Waarom een Rathenau Scan over generatieve AI?
De naam generatieve AI (GAI) verwijst naar AI-systemen die geautomatiseerd content kunnen maken, op verzoek van een gebruiker. Zo kan je een systeem vragen een samenvatting te maken, of een foto te creëren in de stijl van de schilder Van Gogh. Sinds de lancering van ChatGPT in november 2022 experimenteren miljoenen gebruikers wereldwijd met deze technologie. De technologie heeft al impact op de samenleving, en de verwachtingen van wat het de maatschappij gaat brengen zijn hooggespannen. Deze scan biedt een overzicht van de kansen, risico’s en handelingsopties verbonden met GAI.
Is generatieve AI nieuw?
Generatieve AI bouwt voort op bestaande AI-technieken en vormt een subgroep van lerende AI-systemen. Tegelijkertijd hebben generatieve AI-systemen een aantal onderscheidende eigenschappen:
- ten eerste zijn generatieve AI-systemen aanzienlijk beter in taal dan andere AI-systemen;
- ten tweede kunnen de systemen goed met verschillende ‘modaliteiten’ werken, zoals beeld, geluid, video, spraak, en zelfs zaken als eiwitstructuren en chemische verbindingen;
- ten derde krijgen generatieve AI-systemen een algemene training, die de basis biedt voor allerhande specifieke toepassingen.
Om deze redenen kunnen GAI-systemen veel verschillende taken uitvoeren, in tegenstelling tot veel andere AI-systemen die vallen onder de noemer ‘narrow AI’, en getraind zijn voor één specifieke taak.
Wat kun je met generatieve AI?
In deze scan onderscheiden we vier rollen die GAI-systemen kunnen vervullen. Een GAI-systeem is in te zetten als:
- leerinstrument: bijvoorbeeld om informatie op te zoeken, of te fungeren als vraagbaak bij het maken van huiswerk;
- productietool: het systeem maakt iets in opdracht van een gebruiker. Op de werkvloer experimenteren velen hier al mee.
- complexe probleemoplosser: bijvoorbeeld in de wetenschap, waar GAI-systemen helpen bij het vouwen van eiwitstructuren, o.a. met het oog op de ontwikkeling van nieuwe medicijnen;
- het creëren van een ervaring: sommige gebruikers vinden het fijn of fascinerend om te communiceren met GAI-systemen. GAI-systemen fungeren dan bijvoorbeeld als metgezel. Zo maakte iemand al een chatbot die zijn overleden geliefde imiteerde.
Ondanks deze mogelijkheden, kent de technologie de nodige beperkingen. Generatieve AI-systemen berekenen het meest waarschijnlijke antwoord. Dat kan leiden tot onjuiste antwoorden of discriminerende content. Ook zijn de onderliggende algoritmes dusdanig complex dat de werking van de systemen voor mensen slechts beperkt begrijpelijk is – ook voor de ontwikkelaars. Daardoor is de technologie voorlopig nog niet goed genoeg om in te zetten in belangrijke processen, zoals bij het stellen van medische diagnoses.
Wat staat er bij de opkomst van GAI op het spel?
Generatieve AI brengt veel risico’s met zich mee die publieke waarden onder druk kunnen zetten. We clusteren de risico’s in deze scan in drie thema’s. Ten eerste zijn er zorgen over de veiligheid van GAI-systemen: ze kunnen de privacy van gebruikers schenden, vooroordelen uiten en foute informatie geven. Bovendien zijn de systemen dermate complex, dat ontwikkelaars en externe partijen de werking niet geheel kunnen doorgronden, wat het lastig maakt om nu en in de toekomst risico’s te voorkomen.
Ten tweede is het de vraag hoe mensgericht de systemen zijn: wat gaan de systemen betekenen voor onze cognitieve, sociale en culturele ontwikkeling. Stimuleren chatbots onze creativiteit? Ontleren we sociale omgangsvormen, als we vaker interacteren met een GAI-systeem? Verwerken we ons verdriet via chatbots die onze overleden geliefde imiteren? Kortom: wat betekent het om mens te zijn in een wereld van robots?
Ten derde leven er vragen over hoe eerlijk de systemen zijn: wie profiteert van deze systemen, en wie draagt de lasten? Hoe beschermen we het werk van creatieve beroepen? Welke banen gaan veranderen en hoe zorgen we voor goed werk? En hoe gaan we om met de impact op het milieu?
Tot slot signaleren we een rode draad: de invloed van GAI op onze democratie. GAI kan democratische processen bemoeilijken, zoals het publieke debat en politieke besluitvorming, en vanwege de toenemende machtspositie van enkele techbedrijven het vermogen aantasten om in tal van maatschappelijke domeinen digitale technologie democratisch te sturen.
Conclusie en handelingsopties
In deze scan concludeert het Rathenau Instituut dat generatieve AI risico’s in de digitale samenleving versterkt en nieuwe risico’s introduceert. Beleidsmakers op nationaal, Europees en internationaal niveau hebben zich de afgelopen jaren ingespannen om AI in goede banen te leiden, en veel wordt verwacht van de aankomende Europese AI-verordening. Het is echter onduidelijk hoe de abstracte normen in deze wet voor het naleven van mensenrechten vorm gaan krijgen in de praktijk. Wanneer is bijvoorbeeld het risico op discriminatie tot een acceptabel niveau teruggebracht? En voor wie is dat acceptabel? Ook voor andere juridische kaders en beleid speelt de vraag of zij risico’s van generatieve AI voldoende ondervangen.
De hamvraag is dus: zijn de gedane inspanningen voldoende? Het is een reële mogelijkheid dat het huidige en voorgenomen beleid niet opgewassen zijn tegen de impact van generatieve AI-systemen, bijvoorbeeld op het gebied van non-discriminatie, veiligheid, desinformatie, mededinging en de uitbuiting van werknemers. Het is daarom zaak dat het kabinet een strategie uitwerkt om de grip van de samenleving op deze technologie te verbeteren. Dat begint met het evalueren van het Nederlands en Europees beleid en toetsen waar dat aanscherping behoeft. Ook is het zaak toezicht maximaal te ondersteunen, afspraken te maken met ontwikkelaars en de samenleving te waarschuwen voor de risico’s van GAI. Wereldwijd worden de risico’s van GAI-systemen serieus genomen; dat zou iedere Nederlandse burger en instantie ook moeten doen.
Het Rathenau Instituut geeft het kabinet vijf handelingsopties mee om haar strategie vorm te geven:
- Creëer het vermogen om schadelijke GAI-toepassingen van de markt te halen;
- Zorg voor toekomstbestendige juridische kaders;
- Investeer in internationaal AI-beleid, om mondiale innovatieprocessen van technologiebedrijven bij te sturen;
- Stel een ambitieuze agenda op voor maatschappelijk verantwoorde GAI;
- Stimuleer maatschappelijk debat over de wenselijkheid van GAI.
Over de Rathenau Scan
Onderzoekers van het Rathenau Instituut ontwikkelden een methode om vroegtijdig te signaleren welke publieke waarden op het spel staan bij een opkomende technologie, wanneer nog veel onzekerheid bestaat over de impact daarvan op de samenleving. Het onderzoek stelt beleidsmakers, politici en andere partijen in staat om maatschappelijk verantwoord te anticiperen op nieuwe technologische ontwikkelingen.
De Rathenau Scan Generatieve AI is ontwikkeld op verzoek van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties, gebaseerd op kortlopend onderzoek met literatuurstudie, werksessies en interviews, en is bedoeld voor beleidsmakers en politici.