calendar tag arrow download print
Image
Blogserie AI en ethiek Melanie
artikel
20 mei 2020

Het is hoog tijd om het debat over AI mondiaal te voeren

AI Ethiek Onderwijs Wetenschap
Foto: HH/Rathenau Instituut
Artificiële Intelligentie (AI) ontwikkelt zich razendsnel en overstijgt landsgrenzen. Het is daarom belangrijk internationaal samen te werken om de ontwikkeling van AI in goede banen te leiden. Maar hoe moet die samenwerking er eigenlijk uitzien? Op zoek naar de dilemma’s en vragen die daarbij spelen, interviewt het Rathenau Instituut belangrijke (inter)nationale denkers en beleidsmakers op het gebied van ethiek en AI. Daarbij gaat bijzondere aandacht uit naar de rol van het onderwijs en de wetenschap. In deze bijdrage trappen we de blogserie #DeWereld&AI af, met aan het woord Melanie Peters van het Rathenau Instituut.

In het kort:

  • De komende maanden agendeert het Rathenau Instituut de belangrijkste vragen over verantwoorde AI in een internationale context.
  • Hoe komen we tot internationale afspraken die eraan bijdragen dat mensenrechten voorop staan bij de ontwikkeling van AI?
  • Aandachtspunten volgens Melanie Peters: hoe komt er meer transparantie in de AI-keten, wat betekenen mondiale AI-toepassingen voor technologisch burgerschap, hoe betrek je iedereen? Welke positie nemen we in vanuit Europa en Nederland?

AI is een mondiale aangelegenheid. Vraagstukken over ethiek en AI gaan dus automatisch over internationale (culturele) waarden. Die zijn complex, omdat er veel perspectieven zijn en verschillende belangen spelen. Hoe kom je dan toch tot goede internationale afspraken? Waar zouden die over moeten gaan?

UNESCO werkt momenteel aan een internationale aanbeveling over ethiek en AI: 24 experts uit de hele wereld schrijven aan mondiale richtlijnen die in november 2021 worden voorgelegd aan de 195 lidstaten. Het Rathenau Instituut is aangewezen als nationale waarnemer bij de totstandkoming van de internationale aanbeveling. Vanuit die rol krijgt het Rathenau de gelegenheid om mee te kijken en inhoudelijk commentaar in te brengen.

De komende maanden vragen we inspirerende denkers naar hun ideeën; welke aspecten vinden zij van belang voor deze internationale discussie? Elke blog  passeert een ander thema de revue, zoals de verantwoordelijkheid van bedrijven bij inzet van AI, de rol van overheden en beleidsmakers, het bevorderen van technologisch burgerschap en de impact van AI op werk en onderwijs.

Meedoen aan deze serie?

Belang van een internationale blik

AI-systemen worden in rap tempo ontwikkeld en op de markt gebracht. Er spelen grote economische belangen. Wat het extra complex maakt, is dat AI vaak raakt aan belangrijke publieke waarden zoals privacy, veiligheid en autonomie. Er staat dus nogal wat op het spel. Want hoewel AI veel kansen biedt om de maatschappij en levens te verbeteren, zijn er ook stevige maatschappelijke uitdagingen. Hoe borg je mensenrechten in het digitale tijdperk? Hoe kom je tot internationale afspraken om AI in goede banen te leiden?

Landen als China en de VS lijken de AI-markt te domineren – nagenoeg alle grote technologiebedrijven komen immers uit deze landen. Deze landen zetten vol in op zogenaamde deep learning technieken, die gebruikmaken van steeds meer data en rekenkracht, en voeren een onderlinge stijd om op dit gebied marktleider te worden. Denk bijvoorbeeld aan: gezichtsherkenning, gericht digitaal nieuws of het aanbieden van een product aan bepaalde doelgroepen. Deze AI-technieken roepen echter ook maatschappelijke en ethische vragen op, bijvoorbeeld over aansprakelijkheid en de mate waarin de werking van een algoritme uit te leggen is. Europa wil daarom al vroeg in de ontwikkeling van AI rekening houden met deze waarden en richt zich daar sterk op. Hoe verhoudt deze Europese aanpak zich tot die van andere landen? En wat is de positie van Nederland in dit krachtenveld? Hoog tijd om het debat over AI mondiaal te voeren. Want spelregels voor AI worden vooral in een internationaal speelveld bepaald.

UNESCO, de organisatie van de Verenigde Naties voor Onderwijs, Wetenschap en Cultuur, startte eind april met een eerste opzet voor een internationale aanbeveling. Maar eenvoudig is het niet om tot zo’n mondiaal normatief instrument te komen. Want hoe zorg je ervoor dat AI-toepassingen echt bijdragen aan gedeelde idealen, zoals die zijn vastgelegd in de grondwetten en internationele mensenrechtenverdragen? In de afgelopen jaren verschenen al vele ethische codes vanuit diverse internationale gremia. Het initiatief van UNESCO is echter uniek, omdat bij nu alle landen betrokken zijn. De aanbeveling van UNESCO biedt daarom een bijzondere kans om tot collectieve afspraken te komen over ethische aspecten van AI.

Voordeel voor iedereen

Belangrijk uitgangspunt bij internationale afspraken is om ervoor te zorgen dat AI voor iedereen toegankelijk is onder dezelfde voorwaarden. Zodat niet alleen landen die digitaal voorop lopen profiteren van AI, en ook ontwikkelingslanden er hun voordeel mee doen. Want wereldwijd (ook binnen Europa) bestaan grote verschillen wat betreft toegang tot internet, de digitale geletterdheid van de bevolking en de ontwikkelde wettelijke kaders. Een belangrijke vraag voor de aanbevelingen van UNESCO is daarmee: hoe creëren we wereldwijd een eerlijk speelveld, met oog voor concurrentie, en ruimte voor samenwerking tussen (coalities van) landen? Zeker op het gebied van onderzoek kunnen zo grote stappen genomen worden.

“We moeten bovendien niet vergeten onszelf steeds weer opnieuw af te vragen waartoe we AI-systemen ontwikkelen, wat willen we ermee? Hoe dient AI ons als mens en hoe levert het een positieve bijdrage aan de wereld, ons hele ecosysteem?
Het is belangrijk om dit voor ogen te blijven houden en ervoor te waken dat niet te eenzijdig kortetermijn bedrijfsbelangen de overhand krijgen. En ethische keuzes hierdoor worden beïnvloed bij de doorontwikkeling van AI”, zo benadrukt Melanie Peters.

Vaak weet je bijna niets over de totstandkoming van algoritmes en hoe bedrijven daarmee omgaan en heb je weinig keuze.
Melanie Peters, directeur Rathenau Instituut

Transparantie en verantwoordelijkheid

Ook transparantie in de keten is een groot aandachtspunt bij AI. In andere grote internationale industrieën, denk aan de olie- of kledingindustrie, is inmiddels veel duidelijker in kaart gebracht hoe de productie en logistiek zijn ingericht. Consumenten krijgen steeds meer inzicht in waar producten zijn gemaakt, onder welke condities en met welke materialen. Dat is bij AI nog lang niet altijd duidelijk. Peters: “Neem bijvoorbeeld TikTok, een app die is ontwikkeld in China en vervolgens de wereld over gaat. Het is heel ondoorzichtig hoe de AI in zo’n app functioneert en wat er gebeurt met de data”.

Een ander probleem dat speelt bij AI is dat je vaak geen keus hebt. “Vergelijk het maar weer met de kledingindustrie.  Daar is veel meer bekend  over het handelen van bedrijven, dus kun je er als consument voor kiezen om bepaalde ketens te negeren en alleen kleding te kopen die volgens maatschappelijk verantwoorde standaarden is geproduceerd.  Maar bij AI kan dat niet. Nog niet althans. Vaak weet je bijna niets over de totstandkoming van algoritmes en hoe bedrijven daarmee omgaan en heb je weinig keuze. Grote techbedrijven hebben nauwelijks concurrentie, dat maakt de alternatieven voor burgers erg schaars.”

Technologisch burgerschap en onderwijs

Digitalisering en AI hebben ook grote impact op de toekomst van werk en onderwijs, een belangrijk werkterrein van UNESCO. Wat betekent de opkomst van AI voor bij- en omscholing van werknemers? Hoe ga je om met kwetsbare groepen en hoe verhouden AI ontwikkelingen zich tot arbeid in lageloonlanden? Maar ook over technologisch burgerschap: hoe nemen we burgers mee in AI-ontwikkelingen? Wat moeten mensen weten om een eigen oordeel te vellen over AI-toepassingen? Hoe kunnen zij meepraten en meebeslissen over de ontwikkeling en het gebruik van deze technologie? Tot slot hoort daarbij dat landen nadenken over hoe onderwijs mondiaal up-to-date blijft bij technologische ontwikkelingen. Hoe integreer je nieuwe vaardigheden en kennis in curricula? En heel letterlijk: hoe kan AI worden ingezet in de klas? En welke kansen zijn er om op die manier meer van en met elkaar te leren wereldwijd?

De komende weken zullen we concrete voorbeelden van kunstmatige intelligentie (AI) belichten en ingaan op het belang van van internationale afspraken.