Het is hoog tijd om het debat over AI mondiaal te voeren

AI-systemen worden in rap tempo ontwikkeld en op de markt gebracht. Er spelen grote economische belangen. Wat het extra complex maakt, is dat AI vaak raakt aan belangrijke publieke waarden zoals privacy, veiligheid en autonomie. Er staat dus nogal wat op het spel. Want hoewel AI veel kansen biedt om de maatschappij en levens te verbeteren, zijn er ook stevige maatschappelijke uitdagingen. Hoe borg je mensenrechten in het digitale tijdperk? Hoe kom je tot internationale afspraken om AI in goede banen te leiden?

Landen als China en de VS lijken de AI-markt te domineren – nagenoeg alle grote technologiebedrijven komen immers uit deze landen. Deze landen zetten vol in op zogenaamde deep learning technieken, die gebruikmaken van steeds meer data en rekenkracht, en voeren een onderlinge stijd om op dit gebied marktleider te worden. Denk bijvoorbeeld aan: gezichtsherkenning, gericht digitaal nieuws of het aanbieden van een product aan bepaalde doelgroepen. Deze AI-technieken roepen echter ook maatschappelijke en ethische vragen op, bijvoorbeeld over aansprakelijkheid en de mate waarin de werking van een algoritme uit te leggen is. Europa wil daarom al vroeg in de ontwikkeling van AI rekening houden met deze waarden en richt zich daar sterk op. Hoe verhoudt deze Europese aanpak zich tot die van andere landen? En wat is de positie van Nederland in dit krachtenveld? Hoog tijd om het debat over AI mondiaal te voeren. Want spelregels voor AI worden vooral in een internationaal speelveld bepaald.

UNESCO, de organisatie van de Verenigde Naties voor Onderwijs, Wetenschap en Cultuur, startte eind april met een eerste opzet voor een internationale aanbeveling. Maar eenvoudig is het niet om tot zo’n mondiaal normatief instrument te komen. Want hoe zorg je ervoor dat AI-toepassingen echt bijdragen aan gedeelde idealen, zoals die zijn vastgelegd in de grondwetten en internationele mensenrechtenverdragen? In de afgelopen jaren verschenen al vele ethische codes vanuit diverse internationale gremia. Het initiatief van UNESCO is echter uniek, omdat bij nu alle landen betrokken zijn. De aanbeveling van UNESCO biedt daarom een bijzondere kans om tot collectieve afspraken te komen over ethische aspecten van AI.

Belangrijk uitgangspunt bij internationale afspraken is om ervoor te zorgen dat AI voor iedereen toegankelijk is onder dezelfde voorwaarden. Zodat niet alleen landen die digitaal voorop lopen profiteren van AI, en ook ontwikkelingslanden er hun voordeel mee doen. Want wereldwijd (ook binnen Europa) bestaan grote verschillen wat betreft toegang tot internet, de digitale geletterdheid van de bevolking en de ontwikkelde wettelijke kaders. Een belangrijke vraag voor de aanbevelingen van UNESCO is daarmee: hoe creëren we wereldwijd een eerlijk speelveld, met oog voor concurrentie, en ruimte voor samenwerking tussen (coalities van) landen? Zeker op het gebied van onderzoek kunnen zo grote stappen genomen worden.

“We moeten bovendien niet vergeten onszelf steeds weer opnieuw af te vragen waartoe we AI-systemen ontwikkelen, wat willen we ermee? Hoe dient AI ons als mens en hoe levert het een positieve bijdrage aan de wereld, ons hele ecosysteem?
Het is belangrijk om dit voor ogen te blijven houden en ervoor te waken dat niet te eenzijdig kortetermijn bedrijfsbelangen de overhand krijgen. En ethische keuzes hierdoor worden beïnvloed bij de doorontwikkeling van AI”, zo benadrukt Melanie Peters.

Ook transparantie in de keten is een groot aandachtspunt bij AI. In andere grote internationale industrieën, denk aan de olie- of kledingindustrie, is inmiddels veel duidelijker in kaart gebracht hoe de productie en logistiek zijn ingericht. Consumenten krijgen steeds meer inzicht in waar producten zijn gemaakt, onder welke condities en met welke materialen. Dat is bij AI nog lang niet altijd duidelijk. Peters: “Neem bijvoorbeeld TikTok, een app die is ontwikkeld in China en vervolgens de wereld over gaat. Het is heel ondoorzichtig hoe de AI in zo’n app functioneert en wat er gebeurt met de data”.

Een ander probleem dat speelt bij AI is dat je vaak geen keus hebt. “Vergelijk het maar weer met de kledingindustrie.  Daar is veel meer bekend  over het handelen van bedrijven, dus kun je er als consument voor kiezen om bepaalde ketens te negeren en alleen kleding te kopen die volgens maatschappelijk verantwoorde standaarden is geproduceerd.  Maar bij AI kan dat niet. Nog niet althans. Vaak weet je bijna niets over de totstandkoming van algoritmes en hoe bedrijven daarmee omgaan en heb je weinig keuze. Grote techbedrijven hebben nauwelijks concurrentie, dat maakt de alternatieven voor burgers erg schaars.”

Digitalisering en AI hebben ook grote impact op de toekomst van werk en onderwijs, een belangrijk werkterrein van UNESCO. Wat betekent de opkomst van AI voor bij- en omscholing van werknemers? Hoe ga je om met kwetsbare groepen en hoe verhouden AI ontwikkelingen zich tot arbeid in lageloonlanden? Maar ook over technologisch burgerschap: hoe nemen we burgers mee in AI-ontwikkelingen? Wat moeten mensen weten om een eigen oordeel te vellen over AI-toepassingen? Hoe kunnen zij meepraten en meebeslissen over de ontwikkeling en het gebruik van deze technologie? Tot slot hoort daarbij dat landen nadenken over hoe onderwijs mondiaal up-to-date blijft bij technologische ontwikkelingen. Hoe integreer je nieuwe vaardigheden en kennis in curricula? En heel letterlijk: hoe kan AI worden ingezet in de klas? En welke kansen zijn er om op die manier meer van en met elkaar te leren wereldwijd?

De komende weken zullen we concrete voorbeelden van kunstmatige intelligentie (AI) belichten en ingaan op het belang van van internationale afspraken.