calendar tag arrow download print
Image
Sally Radwan
Artikel
21 december 2020

Wereldwijde harmonisatie AI kan regionale normen en waarden schaden

De Wereld & AI
Foto: Shutterstock / eigen foto
Artificiële intelligentie (AI) ontwikkelt zich razendsnel en overstijgt landsgrenzen. Hoe leiden we de wereldwijde ontwikkeling van verantwoorde AI in goede banen? In deze aflevering van de blogserie #DeWereld&AI spreken we met Sally Radwan, de adviseur van de Egyptische minister van ICT ‘Er zijn grote zorgen dat AI-producten van grote multinationals aan ons worden opgelegd zonder te kijken naar de behoeften van lokale markten.’

In het kort:

  • De komende maanden agendeert het Rathenau Instituut het belang van wereldwijde afspraken voor verantwoorde AI.
  • Sally Radwan, AI-adviseur in Egypte, denkt dat te veel internationale harmonisatie kan conflicteren met regionale culturele waarden en normen.
  • Verder vindt Radwan dat publiek-private samenwerking cruciaal is voor het ontwikkelen van verantwoorde AI.

UNESCO werkt aan een internationale aanbeveling over ethiek en artificiële intelligentie (AI). 24 experts uit de hele wereld schrijven aan mondiale richtlijnen die in november 2021 worden voorgelegd aan de 195 lidstaten. Het Rathenau Instituut is aangewezen als nationaal waarnemer bij de totstandkoming van de internationale aanbeveling. Vanuit die rol krijgt het instituut de gelegenheid om mee te kijken en inhoudelijk commentaar in te brengen.

De komende maanden vragen we inspirerende denkers naar hun ideeën. Welke aspecten vinden zij belangrijk voor deze internationale discussie? Elke blogpost gaat over een ander thema: van de verantwoordelijkheid van bedrijven bij de inzet van AI, via de rol van overheden en beleidsmakers, naar het bevorderen van technologisch burgerschap, tot de impact van AI op werk en onderwijs.

Over Sally Radwan

Sally Radwan
Onderschrift
Sally Radwan (eigen foto)

Golestan (Sally) Radwan is de ministerieel adviseur kunstmatige intelligentie van het ministerie van communicatie en informatietechnologie van Egypte. Ze was voormalig directeur van de afdeling Artificial Intelligence Products bij Babylon Health. Radwan is een van de 24 onafhankelijke experts in UNESCO's Ad Hoc Expert Group Ethics of AI. Ze is ook lid van het ONE.AI-netwerk van de Organisatie voor Economische Samenwerking en Ontwikkeling (OESO).

Over Egypte
Egypte heeft een strategische ligging in het Afrikaanse continent. Azië, Afrika, het Middellandse Zeegebied, de Rode Zee, het Midden-Oosten en het Nijlbekken zijn stuk voor stuk geografische gebieden waarvan Egypte deel uitmaakt of die zich in de periferie bevinden. Dat maakt Egypte tot een kruispunt tussen twee continenten, tussen verschillende geopolitieke gebieden en tussen culturele waarden. Het is dus interessant om meer te horen over hoe Egypte aankijkt tegen UNESCO’s poging om wereldwijde AI-normen op te stellen, omdat in zulke normen misschien geen plek is voor culturele perspectieven.

Wat is het belang van UNESCO's wereldwijde aanbeveling voor de ethiek van AI?
‘Ook al is de aanbeveling van UNESCO niet bindend, het is belangrijk om een internationaal document te hebben waarin het grootste deel van de wereldbevolking vertegenwoordigd is. Het document is een poging om dit voor elkaar te krijgen, vooral als het gaat om groepen en mensen die normaal gesproken niet de kans krijgen om mee te praten over dit soort standaardiseringsinstrumenten.’

Is dat nieuw?
‘Tot nu toe zagen we, zeker op het gebied van AI en ethiek, heel gerichte inspanningen. Sommige landen, regio's of bedrijven hebben hun eigen ethische normen ontwikkeld. Die vertegenwoordigen meestal specifieke groepen. Maar er is nog niets waarbij de hele mensheid wordt vertegenwoordigd. UNESCO probeert niet alleen deskundigen, maar juist zoveel mogelijk mensen uit alle lagen van de bevolking bij deze aanbeveling te betrekken.’

Welke obstakels ziet u?
‘Een van de belangrijkste dingen die uit de regionale consultaties met meerdere stakeholders naar voren kwam, is dat het erg moeilijk is van iedereen een mening te krijgen over iets wat ze niet volledig begrijpen. Er moet een basisniveau van kennis zijn over het concept AI. Dan pas kan iedereen meedenken over de inhoud van zo’n aanbeveling. Helaas is er in veel delen van de wereld te weinig begrip en bewustzijn over AI.’

Is het typisch een regionale uitdaging?
‘Nee, in ieder geval niet als in ontwikkelingslanden versus ontwikkelde landen. Je vindt het overal en de verschillen zijn enorm. Dus idealiter hadden we voordat we de aanbeveling opstelden van alle doelgroepen hun kennisniveau moeten opkrikken. En pas daarna zouden we het ethische kader erbij betrekken. Maar om veel redenen, onder andere vanwege tijdgebrek, konden we dat niet doen.’

Wat is uw grootste zorg met betrekking tot internationale samenwerking en de ontwikkeling van AI?
‘Een algemene zorg is überhaupt het gebrek aan internationale standaarden die een breder kader bieden dan ethiek en AI alleen. Daarnaast zie ik verschil in het belang dat verschillende culturen, mensen en individuen toekennen aan bepaalde aspecten van AI. Ik denk dat het vinden van die gemeenschappelijke noemer, ook als we de onderhandelingsfase tussen de lidstaten ingaan, het meest uitdagend zal zijn.’

Bent u bang dat de aanbeveling te diplomatiek wordt?
‘De grootste uitdaging voor de UNESCO-aanbeveling is het vinden van het juiste evenwicht. Hoe komen we tot een tekst die alle lidstaten vertegenwoordigt en waar iedereen blij mee is, maar die toch krachtig genoeg is om daadwerkelijk iets te betekenen en relevant en toepasbaar te zijn in de praktijk? Ik heb vergelijkbare pogingen meegemaakt bij andere internationale organisaties. Je begint dan met iets dat vrij sterk lijkt. Vervolgens zwakt het in de onderhandelingen steeds verder af. Uiteindelijk wordt het zo algemeen dat het weinig meer betekent. Tenslotte heeft het weinig impact.’

Wat hebben jullie gedaan om te voorkomen dat deze UNESCO-aanbeveling verwatert?
‘Om ervoor te zorgen dat deze aanbeveling niet in een la terechtkomt, hebben we geprobeerd een kader te bedenken waarin we meenemen dat niet alle lidstaten in dezelfde mate klaar zijn om de aanbevelingen op te volgen of uit te voeren. Daarom hebben we een zogenaamde readiness assessment tool opgenomen. Hopelijk zorgt dit ervoor dat de lidstaten de aanbeveling volledig onderschrijven en dat ze bepaalde zaken accepteren die voor hen in dit stadium misschien nog niet relevant zijn.

Kunt u een voorbeeld geven?
Neem een vertegenwoordiger van Finland die het over het belang heeft van capaciteitsopbouw in AI en over de manier waarop ze de Finse bevolking hiervoor gaan opleiden. Dan gaat het over een land met 5,5 miljoen inwoners. Dus als je het hebt over het opleiden van 1% van de bevolking in AI, dan zijn dat 55.000 mensen. Terwijl, als we het in Egypte over 1% van de bevolking hebben, dan zijn dat een miljoen mensen, waarvan zo’n 40% analfabeet is. Dat is dus een heel ander vertrekpunt Ik denk dat het opnemen van zo’n readiness assement tool vrij uniek is voor deze UNESCO-aanbeveling. We hopen dat het document hierdoor relevanter en makkelijker toepasbaar wordt.’

Wat zijn belangrijke kwesties vanuit een Afrikaans-Arabisch perspectief voor de ontwikkeling van AI?
‘In dit deel van de wereld wordt veel nadruk gelegd op betrouwbaarheid. Hoe zorgen we ervoor dat het systeem betrouwbaar is? Dat houdt in dat de privacy en individuele rechten worden gerespecteerd, maar vooral ook dat de legitimiteit van databronnen wordt gewaarborgd. Er zijn grote zorgen dat AI-producten van grote multinationals aan ons worden opgelegd zonder de behoeften van lokale markten te kennen. En vaak ook zonder dat er is getraind met lokale data. Hierdoor zijn deze data niet relevant, niet aangepast aan lokale behoeften en soms zelfs misleidend en gewoonweg verkeerd en schadelijk.’

Wat hebben jullie daaraan gedaan?
Bij sommige beleidsmaatregelen in de aanbeveling hebben we opgenomen dat er rekening kan worden gehouden met de uitvoerbaarheid voor de lokale markt en met de zelfbeschikking over de gegevens en de AI-systemen.’

En wat nog meer?
‘We benadrukken ook het belang van het behoud van culturele normen en waarden. Vanuit een Egyptisch perspectief zijn er zorgen over te veel standaardisatie en te veel harmonisatie van waarden en tradities, in negatieve zin. We maken ons zorgen over het feit dat cultureel erfgoed en culturele normen en waarden verloren gaan of niet worden gerespecteerd in een wereld die zo nauw verbonden is door AI.’

Waarom?
‘Aangezien we een relatief conservatieve samenleving zijn, hebben waarden als familie, het gezin en respect voor religieuze tradities een zeer hoge status. Maar ik bedoel hiermee ook dat er bepaalde medische zaken in sommige delen van de wereld aanvaardbaar zijn, maar niet in ons deel van de wereld. Zoals het in gang zetten van palliatieve zorg versus het voortzetten van de behandeling, het isoleren van een patiënt van zijn of haar familie of, in sommige gevallen, het beëindigen van het leven van een patiënt omdat alle opties van de behandeling zijn uitgeput. Dit heeft niet zozeer te maken met de wetenschappelijke of technische kant van AI, maar met de sociale context. Waarden en normen verschillen wereldwijd, dus is het belangrijk om die verschillen te erkennen en de wereld niet te zien of te behandelen als één universeel geheel van neutrale waarden en principes.’

Hoe positioneert Egypte zich met betrekking tot de ontwikkeling van AI?
‘Eigenlijk, denk ik dat we geluk hebben dat we deel uitmaken van deze twee zeer rijke regio's. De standpunten van de Arabische en Afrikaanse landen komen vaak overeen. Daarom probeert Egypte beide regio’s te vertegenwoordigen op het OESO-niveau.’

Welk perspectief neemt Egypte in?
‘De manier waarop we in Egypte naar AI kijken en de manier waarop we AI in beide regio's proberen te stimuleren, is heel sterk vanuit een ontwikkelingsperspectief. We richten ons dus op manieren waarop AI ons kan helpen problemen op te lossen en uitdagingen aan te pakken. Op deze manier kunnen landen in beide regio's groeien en zich ontwikkelen, de kwaliteit van leven verhogen en de economische groei stimuleren.’

Hoe geeft u concreet richting aan deze AI-voor-ontwikkeling-aanpak?
‘Wat we in Egypte zien is dat publiek-private samenwerkingen heel goed werken. We combineren de expertise en de geavanceerde technologie van de industrie met het mandaat van overheden om het goede na te streven.’

Dat klinkt vaag, kunt u een voorbeeld geven?
‘Onlangs zijn we een gezamenlijk project gestart met het ministerie van ICT, met het ministerie van landbouw en met de twee bedrijven Microsoft en Esri. Doel van het project is om de landbouwgronden van Egypte te scannen en met behulp van machine learning en deep learning de exacte hoeveelheid water te voorspellen die nodig is voor het irrigeren van eventuele landbouwpercelen.’

En verder?
‘Samenwerkingen zoals deze kunnen zeer vruchtbaar zijn. Onze hoop is dat Egypte door ons lidmaatschap van de Afrikaanse Unie en de Arabische staten zulke initiatieven op grotere schaal en in verschillende landen in beide regio’s kan uitvoeren. Dit zou zeker investeerders moeten aantrekken die geïnteresseerd zijn in Afrikaanse én Arabische landen. Ook is er een enorm potentieel voor ontwikkeling en schaalvergroting. Onze AI-strategie is daarom sterk gebaseerd op een partnerschapsmodel.’

Kunt u de AI-strategie van Egypte nog wat meer uitleggen?
‘Onze strategie is vooral gericht op het inzetten van AI-technologieën in sectoren die helpen bij de ontwikkelingsdoelstellingen van Egypte. We hebben onze strategie verdeeld in vier pijlers: AI voor ontwikkeling, AI voor de overheid (hoe moderniseren we onze overheid met behulp van AI?), AI voor menselijke capaciteitsversterking en AI voor externe betrekkingen. Daaronder valt ons werk met internationale organisaties en de samenwerking met verschillende overheden. Egypte heeft een nationale raad voor AI die toezicht houdt op zaken als nieuwe wetten en die regels en deze aan het parlement voorstelt.’

Hoe zit dat met de partnerships?
‘Al onze AI-projecten zijn georganiseerd via partnerships. We gebruiken daarvoor een model waarbij er altijd drie partijen zijn. Eén daarvan is een publieke partij in Egypte, bijvoorbeeld een school, een ministerie of een particuliere organisatie die baat heeft bij de oplossing. Vervolgens brengen we een technologiepartner in. Dat kan een private partij zijn uit Egypte of daarbuiten. Ook moedigen we startups aan te sluiten.’

En de derde partij?
De derde partij is er een die zorgt voor capaciteitsopbouw. Met al onze AI-projecten willen we een lokaal team opbouwen dat samenwerkt met de technologiepartner en de publieke partij, zodat mensen écht leren hoe ze AI-projecten van begin tot eind kunnen opbouwen en kunnen uitvoeren. Dat is heel anders dan spelen met een paar modellen en een paar resultaten produceren. Om de technologie over het land te verspreiden maken we gebruik van dit co-ontwikkelingsmodel. Op deze manier bouwen we een eigen AI-industrie op in het land en lossen we tegelijkertijd maatschappelijke en lokale problemen op. AI voor de goede zaak, dat is de grote winst.’