calendar tag arrow download print
Image
Terugblik UNESCO consultatie AI en Ethiek Rathenau Instituut - basisschool kinderen en robots
terugblik
11 augustus 2020

Stakeholders West-Europa en Noord-Amerika leveren input op UNESCO-aanbeveling ethiek en AI

AI Ethiek UNESCO
Tallinn Digital Summit. Een introductie voor basisschoolkinderen in programmeren en robots./Foto: Arno Mikkor
Wereldwijd groeit het besef dat AI een ethisch kader nodig heeft, en het de samenleving en burgers ten goede moet komen. Zo stapten twee Britse taxichauffeurs naar de rechtbank in Amsterdam - waar het Europese hoofdkantoor van Uber is gevestigd - omdat ze wilden weten wat er met hun data gebeurt en hoe dit samenhangt met beslissingen die de algoritmes in de Uber-app maken over de voorgestelde ritten. Een ander voorbeeld zijn de bijna vierduizend Google-medewerkers die actievoerden en hun werkgever dwongen zich terug te trekken uit het defensieproject Maven.

In het kort:

  • Een expertgroep van UNESCO werkt aan een internationale aanbeveling over AI en ethiek.
  • Op 27 en 28 juli 2020 vond er een regionale virtuele raadgeving plaats met verschillende door UNESCO aangewezen stakeholders uit West-Europa en Noord-Amerika, voorgezeten door het Rathenau Instituut.
  • Via een online enquête konden ook andere belanghebbenden en burgers laten weten wat ze van de conceptversie vonden.

Overal wordt geworsteld met de vraag wanneer de toepassing van AI is geoorloofd en wanneer er grenzen moeten worden gesteld. Er is behoefte aan mondiale afspraken. Een expertgroep van UNESCO werkt daarom aan een internationale aanbeveling over de ethiek van AI. Op 27 en 28 juli 2020 vond onder leiding van het Rathenau Instituut een regionale, virtuele raadgeving plaats met verschillende stakeholders uit Europa en Noord-Amerika. Zij konden reageren op de eerste opzet van de aanbeveling.

Samenwerking universiteiten en tech-bedrijven

Tijdens de virtuele consultatie werden boeiende discussies gevoerd, bijvoorbeeld over de vraag hoe op het terrein van AI de samenwerking tussen bedrijven en universiteiten eruit moet zien. Juist bij AI-onderzoek, waar veel ethische dilemma’s spelen, moet de wetenschappelijke onafhankelijkheid goed geborgd zijn. Een actuele vraag is hoe wetenschappelijke onafhankelijkheid vormgegeven kan worden als technologiebedrijven centra voor ethisch onderzoek willen financieren. Het verbieden van zulke ethische kenniscentra lijkt in elk geval onverstandig. Stakeholders en experts benadrukken dat bij AI-toepassingen al veel samen wordt gewerkt tussen wetenschappers en technologiebedrijven. ‘En dat is ook een goed idee, want er zit veel kennis bij de tech-industrie. Haar niet betrekken bij de doorontwikkeling van AI-systemen en een bijbehorend ethisch kader, zou een gemiste kans zijn’, menen diverse stakeholders.

Ethische training ontwikkelaars

Een ander punt dat werd benadrukt tijdens de virtuele consultatie is het belang van een ethische training voor programmeurs en ontwikkelaars. Ethische reflectie moet geïntegreerd worden in technische opleidingen – daar is veel meer aandacht voor nodig. Als ethiek geen onderdeel vormt van het AI-onderwijs, kan AI als vakgebied niet volwassen worden.

Basiskennis AI voor breed publiek

Ook liggen er veel kansen om verantwoorde AI naar een hoger plan te tillen door burgers te helpen hun basiskennis over AI te vergroten: wat kan er wel en niet? Het beeld dat mensen hebben van AI – een ‘magische’ tool of formule die complexe problemen oplost – is niet gebaseerd op de werkelijkheid. Een helder beeld van wat er wel kan met AI (van ‘simpele’ tot complexe AI), draagt bij aan een gedeeld kader over wat verantwoorde AI eigenlijk vereist.

In lijn hiermee ligt ook de wens om niet-technici van sociaal-maatschappelijke opleidingen al tijdens hun studie meer inzicht te bieden over de rol van AI binnen hun vakgebied. Daarvoor moeten zij op een basaal niveau leren wat AI is en wat er wel of niet technisch mogelijk is. Vanwege de grote impact van AI op tal van sectoren speelt onderwijsvernieuwing een cruciale rol, stellen de stakeholders. Maar er zijn nog veel vragen. Wordt programmeren een vaardigheid zoals lezen en schrijven? Moet er juist tijd en geld geïnvesteerd worden in het leren coderen? Of is ander onderwijs nodig om mensen in staat te stellen kritische vragen te stellen over de ontwikkeling en inzet van AI? En welke rollen kunnen het hoger onderwijs, maar ook het primair onderwijs en het voortgezet onderwijs hierbij vervullen? 

Transparant is niet hetzelfde als betrouwbaar

Een ander punt waar veel aandacht voor werd gevraagd, is hoe je de betrouwbaarheid van AI vergroot. Een onterechte aanname die voorkomt onder beleidsmakers is dat AI-systemen die transparant zijn, ook veilig en betrouwbaar zijn. Dit is een grote misvatting volgens de stakeholders. Zo kan een algoritme dat getraind wordt met te weinig data onbetrouwbaar zijn, ook als transparant is op welke kenmerken het selecteert. Denk aan algoritmes die op basis van bepaalde kenmerken ‘kwetsbare gezinnen’ traceren om kindermishandeling te voorkomen. Ondanks een transparant algoritme kloppen de uitkomsten regelmatig niet en werkt het stigmatiserend. Zeker in een internationale aanbeveling moet het onderscheid tussen transparantie en betrouwbaarheid glashelder zijn. ‘Transparantie is namelijk niet hetzelfde als betrouwbaarheid. Vertrouwen staat of valt met een geloofwaardige overheid’, oordelen de stakeholders.

Proportionaliteit

Verder is proportionaliteit een heel belangrijk principe als het om AI-toepassingen gaat. Welke belangen wegen zwaarder bij het gebruik van AI-systemen? En waarom en waartoe wordt AI ingezet? Een vraag die ook uitdrukkelijk speelt bij de ontwikkeling van de Europese corona tracing apps. Hoe worden verschillende belangen afgewogen, hoe verhouden  gezondheidsrisico’s zich tot het recht op privacy? Proportionaliteit vraagt om afwegingen en heldere toelichting daarop, iets wat in de praktijk regelmatig uitblijft.

Vervolg consultatierondes

De komende weken gaat UNESCO’s Ad Hoc Expert Group on Ethics of AI, bestaande uit 24 experts uit de hele wereld, aan de slag om alle feedback uit de virtuele consultatierondes (in totaal 5 regio’s) te verwerken. In september komen ze met een herziene tekst voor de internationale aanbeveling. Daarna zullen alle regeringen van de UNESCO-lidstaten de kans krijgen om via hun ministeries input te geven en volgt een proces van diplomatieke onderhandelingen. In november 2021 wordt een definitief tekstvoorstel voor de internationale aanbeveling over de ethiek van AI voorgelegd aan de 195 lidstaten.

Bronnen