‘Mondiale UNESCO aanbeveling over ethiek van AI zeker niet vrijblijvend’

Stein van Oosteren werkt momenteel voor de Nederlandse Permanente Vertegenwoordiging van Nederland bij UNESCO in Parijs.

Hij heeft zo’n 20 jaar ervaring in het bouwen van bruggen tussen overheden en experts op het gebied van onderwijs, cultureel erfgoed, wetenschap, ethiek, communicatie en informatie.

Als diplomatiek attaché adviseert hij verschillende ambassadeurs op deze terreinen en vertegenwoordigde hij de Nederlandse regering in tal van intergouvernementele bijeenkomsten en onderhandelingen.

Veel mensen denken bij UNESCO aan het Werelderfgoedverdrag en niet direct aan de ethiek van AI. Hoe past de internationale aanbeveling over ‘the Ethics of AI’ binnen het mandaat van UNESCO?
‘UNESCO staat voor veel mensen inderdaad bekend als organisatie die het werelderfgoed beschermt, maar daarbij vergeten ze nog weleens waar álle letters voor staan (red. United Nations Educational, Scientific and Cultural Organization, UNESCO). UNESCO is dé organisatie van de Verenigde Naties  die zich ontfermt over mondiale uitdagingen die gaan over Onderwijs, Wetenschap, Cultuur, Communicatie en Informatie.’

En hoe komen we dan uit bij AI en ethiek?
‘Daarvoor wil ik een uitstapje maken naar de constitutie van UNESCO die in 1945 werd ondertekend bij de oprichting, en die begint met een gedicht, geschreven door de Amerikaanse poet Archibald McLeash. Daarin staat het motto van UNESCO heel mooi verwoord: ‘Since war begins in the minds of men, it is in the minds of men that the defences of peace must be constructed.’ Met andere woorden: als we oorlog willen voorkomen, moeten we beginnen in de hoofden van mensen. We zullen mensen moeten opleiden, we moeten kennis opdoen over de wereld én over elkaar.

Als je het heel eenvoudig stelt, zou je kunnen zeggen dat UNESCO de VN-organisatie is van de menselijke geest. Het gaat altijd over mondiale kennisuitwisseling en over ons denken: hoe de menselijke geest ons gedrag stuurt. En hoe op die manier de maatschappij evolueert. Daarmee gaat het dus ook over filosofie en ethiek. En in het geval van de ethiek van AI gaat het heel nadrukkelijk over landoverstijgende kennisontwikkeling, omdat AI impact heeft op de wereldwijde informatievoorziening. UNESCO is de enige mondiale autoriteit om namens de wereldbevolking, als een soort ‘wereldregering’, tips te geven en een standaard te stellen voor de ethiek van AI. Een aanbeveling kun je overigens het beste zien als een recept dat je kunt volgen, in dit geval om verantwoorde AI te waarborgen.’

Welke instrumenten hanteert UNESCO naast aanbevelingen nog meer en wat zijn de verschillen?
‘Er zijn drie normstellende instrumenten die UNESCO hanteert: een Declaration, een Recommendation en een Convention. Die verschillen allemaal enigszins in opzet en qua commitment en juridische verplichtingen.

De Convention is het zwaarste instrument. Als een lidstaat van UNESCO zich niet aan de aangegane verplichting houdt, dan kost het hem zijn lidmaatschap. Een voorbeeld van zo’n conventie is die voor maritiem erfgoed, waarin afspraken staan om de schepen die op de bodem van de oceaan liggen, en die waardevolle getuigen zijn van onze geschiedenis, te beschermen.

Bij Declarations gaat het om meer algemene principes, uitgangspunten die je met elkaar overeenkomt en die randvoorwaarden vormen. Denk bijvoorbeeld aan de Universele Verklaring van de Rechten van de Mens.

Een Recommendation is een wat praktischer raamwerk, waarbij het letterlijk gaat om aanbevelingen. Dat houdt in dat het niet verplicht is, maar zeker niet vrijblijvend. Er zit wel degelijk een inspanningsverplichting aan vast. Met het ondertekenen van een recommendation committeert een land zich om elke vier jaar tijdens de Algemene Vergadering te vertellen wat het heeft gedaan, in dit geval op het gebied van verantwoorde AI.’

Is een aanbeveling voor de ethiek van AI wel stevig genoeg om écht goede mondiale afspraken te maken – zeker omdat bij AI-ontwikkelingen ook grote economische belangen spelen?
‘Het idee is dat je elkaar, door samen met 195 landen zo’n instrument op te tuigen, ook motiveert om het werkelijk op die manier te gaan doen. Het onderschrijven van de aanbeveling wordt dan ook niet lichtzinnig opgevat, dat merk je aan de onderhandelingen in de aanloop er naartoe. En in het geval van de aanbeveling over de ethiek van AI waren andere instrumenten niet erg passend, omdat de technologische ontwikkelingen überhaupt te hard gaan om met zwaarwegende verplichtingen te komen als er nog zoveel onbekend is over hoe deze nieuwe technologie zich verder ontwikkelt. Het mooie van zo’n recept,  zoals je een aanbeveling kunt zien, is dat er helderheid komt over de intenties en de randvoorwaarden waarbinnen een land zijn eigen afwegingen kan maken.’ 

Maakt dat het niet te obligaat?
‘Dat is de kwestie van een halfvol of een halfleeg glas water. Juist door het wat algemener te houden, zitten we met de hele wereld om de tafel. Hierdoor is er een tekst die ervoor zorgt dat we alle landen legitiem kunnen bevragen over hun inzet voor verantwoorde AI. De uitdaging blijft om het júiste abstractieniveau te vinden. Want bij het schrijven van zo’n tekst moeten we ons ook realiseren dat al die principes ook lokaal uitgevoerd kunnen worden, binnen de lokale realiteit en eigen cultuur van een land. De kunst is om het universele te grijpen, ervoor te zorgen dat het uitvoerbaar is én dat alle landen er volledig achter kunnen staan.’

Hoeveel tijd kost het om tot een mondiale aanbeveling te komen?
‘Daar gaat bijna twee jaar overheen. Het begon ruim een jaar geleden met een eerste  concepttekst die werd geschreven door een groep van internationale experts, waar Peter-Paul Verbeek in zat als Nederlandse expert (red. Peter-Paul Verbeek is universiteitshoogleraar Filosofie van Mens en Techniek aan de Universiteit Twente en bestuurslid van het Rathenau Instituut). Daarna volgden de regionale consultaties. Dat waren uitgebreide raadplegingen van twee dagen, waarbij alle stakeholders vanuit verschillende regio’s in de hele wereld feedback gaven op het conceptvoorstel.* Vervolgens verwerkte de expertgroep alle opmerkingen in een aangepast voorstel. Dat voorstel is doorgestuurd naar de ministeries van landen, die hun wensen konden doorgeven. Daarna begonnen de echte onderhandelingen over de conceptversie van de Recommendation tussen landen.

* Nederland valt binnen de UNESCO regio Noord-Amerika en Europa en het Rathenau Instituut hostte deze regionale consulatie.

Waar zitten we nu in het proces?
‘Het is gelukt. Er ligt een definitieve tekst. De onderhandelingen tussen de lidstaten werden eind juni 2021 afgerond. We zijn begonnen in de week van 26-30 april jl. en kwamen tot overeenstemming van de tekst in de week van 21-25 juni. In deze twee vergadersessies reageerden afgevaardigden van ministeries of diplomaten op de verschillende tekstonderdelen om uiteindelijk tot een definitieve tekst komen. Die wordt ter adoptie voorgelegd aan UNESCO’s Algemene Vergadering in november 2021.’

Hoe urgent is het dat deze aanbeveling er komt?
‘Wat interessant is, is dat er gedurende de afgelopen twee jaar in de aanloop naar de aanbeveling een bepaald momentum is ontstaan, zowel politiek als kennisinhoudelijk. En dat is heel belangrijk om de discussies over zo’n complex onderwerp te verkennen. Experts, stakeholders en beleidsmakers spreken elkaar binnen nieuwe gremia en delen ook meer informeel standpunten en inzichten. Dat draagt eraan bij dat de recommendation geen papieren tijger wordt. Maar dat de commitment er is om er echt iets mee te gaan doen. En het is keihard nodig dat dit er komt, omdat er al heel veel teksten over ethiek van AI bestaan. Maar er zijn nog geen mondiale afspraken over deze technologie, die razendsnel evolueert, waaraan alle landen zich committeren.’

Tot slot. Wat waren tijdens de onderhandelingsfase belangrijke punten uit de aanbeveling voor Nederland?  
‘De paragrafen over monitoring en evaluatie zijn essentieel. Het gaat erover hoe je er met elkaar voor zorgt dat iedereen zich inspant en zich houdt aan de afspraken uit de aanbeveling. Bijvoorbeeld door UNESCO het mandaat te geven om samen met experts ethical AI impact assements te ontwikkelen. Wat daarbij belangrijk is, is dat het document geen papieren tijger wordt. Maar daadwerkelijk een kader is, een gemeenschappelijke taal voor alle landen van de wereld om met elkaar een zinvol gesprek aan te gaan over het ontwikkelen en waarborgen van verantwoorde AI.’

Zijn er ook inhoudelijke elementen uit de aanbeveling die vanuit Nederland speciale aandacht hadden?
‘Gendergelijkheid en mensenrechten zijn voor Nederland belangrijke aspecten in zo’n internationale aanbeveling. Hierover vonden stevige discussies plaats tijdens de intergouvernementele meeting, de plek waar lidstaten met elkaar onderhandelen. Ook binnen Europa zijn grote verschillen merkbaar, zo kijkt een aantal Oost-Europese landen  met heel andere ogen naar gendergelijkheid. Meningen verschillen soms sterk, maar we zaten daar wel met 193 landen aan tafel en bleven in gesprek. Dat is het mooie van UNESCO, zonder zulke dialogen blijven afspraken los zand. Het hoort bij het diplomatieke spel. Diplomatie gaat over het vinden van een creatieve manier om het, ondanks een diversiteit aan meningen, toch met elkaar eens te worden.’  

Dat lijkt me hard werken – hoe verliep het onderhandelingsproces?
‘Het verliep erg stroef in het begin. Maar met dank aan de ambassadeur van Koeweit, die de rol van voorzitter uitstekend vervult, is er een goede sfeer ontstaan die heel constructief is. Het is ook nieuw dat we alles virtueel moeten overleggen. Het kost enige tijd om daar een weg in te vinden, omdat non-verbale communicatie grotendeels wegvalt. Het deed me denken aan de Muppet Show: alsof je zit te kijken naar een overzichtsbeeld van onbekende personen, onder en boven elkaar op het beeldscherm, die elkaar niet echt zien en aanvoelen. Maar we zitten inmiddels echt in een goede flow. Ik ben hoopvol dat het lukt om tot een definitieve tekst te komen, die in de zomer door kan naar de Algemene Vergadering. Het is echt uniek wat we dan in handen hebben. Alle discussies over de ethiek van AI tot nu toe waren regionaal of sectoraal. Maar als de UNESCO Recommendation on the Ethics of AI er dit najaar ligt, hebben we een mondiaal kader waar de hele wereld zich aan kan meten.’