Zo maken we de digitale bits beschaafd

Door Jurriën Hamer en Linda Kool, onderzoekers bij het Rathenau Instituut. Lees ook andere artikelen uit de serie Beschaafde Bits. 

Vorig jaar september begonnen we met deze blogserie. We vroegen experts uit allerlei hoeken van de samenleving te laten zien hoe we de digitale samenleving beschaafd maken en houden. Vooral overheidsinstanties, maatschappelijke organisaties en wetenschappers pakten de handschoen op. In 17 blogs reikten zij hun oplossingen aan. In dit afsluitende blog maken we de balans op.

In de loop van het jaar hebben we de blogserie ingedeeld in verschillende thema’s, zoals ‘de Ethische IT-er en ‘Digitaal opvoeden’. De inzichten uit die series overstijgen echter hun eigen specifieke context. Ze zijn mooi te vangen als vier deugden die ons helpen om fatsoenlijk om te gaan met digitale technologie:

1. maatwerk;
2. bescheidenheid;
3. transparantie; en
4. verantwoordelijkheid.

Samen vertellen deze deugden ons hoe politici, beleidsmakers en IT-professionals publieke waarden, zoals rechtvaardigheid en autonomie, kunnen realiseren in een digitaliserende wereld.

Hieronder staan we bij elke deugd even stil.

Maatwerk: besef dat niet iedereen dezelfde wensen heeft

In de blogs werd herhaaldelijk opgemerkt dat burgers niet over één kam geschoren kunnen worden. De Nationale ombudsman merkt bijvoorbeeld op dat veel mensen niet digitaal vaardig zijn, en hun weg niet weten in de digitale infrastructuur van de overheid. Tegelijkertijd zijn er grote groepen burgers die online met gemak hun belastingopgave insturen of bij de gemeente hun huwelijk regelen. De boodschap luidt daarom dat dienstverleners alert moeten zijn op de verschillen tussen mensen, en dat ze diensten moeten maken die deze verschillen aan kunnen. Of zoals ICTU schrijft: “Misschien bestaan digibeten helemaal niet. En is er hooguit sprake van ‘humanobete’ systemen.”

Zorg dus voor digitaal maatwerk. Dat zal wel vragen om aanpassingsvermogen binnen een digitaal systeem. Computerwetenschapper Birna van Riemsdijk bepleit bijvoorbeeld elektronische pillen die op verschillende manieren data kunnen delen. Soms kan het immers voldoende zijn om alleen data te delen met de patiënt zelf, terwijl het in andere gevallen, zoals bij dementerende personen, verstandig is de data ook naar mantelzorgers en artsen te sturen. Ga vervolgens het gesprek met gebruikers aan over de manier waarop zij digitale technologie willen gebruiken. Dat draagt ook bij aan het draagvlak voor digitale innovatie. Zo laat de bijdrage van Nictiz mooi zien dat patiënten alleen de regie kunnen krijgen over hun zorg wanneer ze informatie en advies op maat krijgen, en wanneer bedrijven hen betrekken bij de ontwikkeling van e-health-toepassingen.

Maatwerk vereist ook dat we digitale systemen onderling beter op elkaar afstemmen. Onderzoeker Jaap-Henk Hoepman pleit in zijn blog voor open systemen, waarbij gebruikers niet opgesloten worden in de technologie van een bepaalde leverancier. Je zou bijvoorbeeld een iMessage moeten kunnen sturen naar een Whatsapp-account. Hoepman bekritiseert de huidige tegenovergestelde ontwikkeling: bedrijven isoleren hun producten van de producten van andere leveranciers, en verzetten zich tegen uniforme standaarden. Dat is slecht voor de keuzevrijheid van de gebruiker, en daarmee voor zijn vermogen om een dienst te vinden die het beste bij zijn behoeftes aansluit.

Bescheidenheid: ken de grenzen van digitale technologie

Om maatwerk af te kunnen leveren is het belangrijk dat organisaties afscheid nemen van digitaal absolutisme: niet alles moet en kan digitaal geregeld worden. Het is soms verstandig om, net als het UWV heeft gedaan, terug te komen van de wens 100% digitaal te opereren, en een analoog kanaal open te houden. Of het nou gaat over uitkeringen, gemeentelijke verordeningen of de leefomgeving van kinderen, de menselijke wereld is rijk en complex, en laat zich niet gemakkelijk vangen in algoritmes.

Daarom waarschuwt hoogleraar e-Law Simone van der Hof dat we, wanneer we nadenken over de invloed van digitalisering op kinderen, belangrijke waarden niet uit het oog verliezen. Je doet kinderen namelijk geen recht door ze alleen maar te beschermen, of juist alleen maar vrijheid te geven – alleen een genuanceerde aanpak geeft kinderen de veilige privéomgeving waarin ze juist ook fouten kunnen maken.

Om de term van Sheila Jasanoff te gebruiken: nederigheid is op zijn plaats. Want eerlijk is eerlijk: de digitaliseringsprojecten van de afgelopen 10 jaar laten een wisselend beeld zien. Jazeker, in de medische diagnostiek en in het digitaliseren van auto’s zijn successen gevierd, maar naast ieder succes kunnen we een drama noemen – en successen gaan vaak samen met nieuwe risico’s.

Tel maar eens hoeveel grote ICT-projecten toch duurder uitvallen. Digitaliseren vormt zelden een gemakkelijk antwoord, en bestaat uit meer dan het maken van een simpele, overzichtelijke efficiëntieslag. Organisaties moeten zich dat vanaf het begin realiseren. Daarom is het bijvoorbeeld toe te juichen dat de Nederlandse Politie schrijft dat experimenten met algoritmes die adviseren over de politie-inzet samen moeten gaan met een zorgvuldige bescherming van rechtsstatelijke waarden.

Transparantie: pas op voor een algoritmische ‘black box’

Transparantie is een centrale voorwaarde voor zowel maatwerk als het gericht inzetten van digitalisering: burgers moeten genoeg begrijpen van technologie om aan te geven wat ze eigenlijk zouden willen, en beleidsmakers moeten de juiste informatie hebben om kansen en risico’s te herkennen. Helaas is juist transparantie soms ver te zoeken.

Marlies van Eck schrijft bijvoorbeeld over geautomatiseerde ketenbesluiten bij de overheid, die door burgers en zelfs door ambtenaren niet doorzien worden. Men snapt niet hoe besluiten over uitkeringen en belastingaanslagen tot stand komen, en is niet bij machte in individuele gevallen de zaak bij te sturen. Dat doet afbreuk aan de rechtsbescherming van burgers.

Ook Medialab SETUP en Amnesty International Nederland maken zich zorgen over de algoritmische ‘black box’ waar data ingaan en besluiten uitrollen. Algoritmes worden gemaakt door feilbare mensen, die code fout kunnen programmeren of minderwaardige datasets kunnen invoeren. Algoritmes die zich niet onomstotelijk hebben bewezen worden wel ingezet in allerlei praktijken – bijvoorbeeld bij het aannemen van personeel. Bovendien baart het gebrek aan transparantie ook democratische zorgen. Uiteindelijk leven we in een land waar de politiek hoort te reageren op de zorgen en wensen van burgers – maar kan je zonder goede informatie je wensen wel vormgeven?

Het is dus zaak om burgers en beleidsmakers op te leiden en meer inzicht te bieden. Juist hier kan technologie een constructieve rol spelen, door toepassingen te maken die speels en met gepaste uitleg juist iets als een geautomatiseerd ketenbesluit toelichten. Maar wederom moeten we de grenzen van het mogelijke respecteren. Digitale technologie wordt steeds ingewikkelder, zeker waar het gaat om zogenoemde deep learning-systemen, die rekenen met een hoog aantal variabelen. Zelfs programmeurs kunnen die systemen niet altijd doorzien. Het is daarom niet genoeg te roepen dat burgers, politici en ambtenaren de skills moeten krijgen om technologische innovatie onder controle te krijgen – de juiste verantwoordelijkheid moet op de juiste plaats worden gelegd.

Verantwoordelijkheid: durf knopen door te hakken

Op de blog zijn hier tal van voorstellen voor gedaan. Allereerst door Linda Kool en Frans Stafleu, die betogen dat programmeurs net als artsen en advocaten samen een professie uitoefenen: een maatschappelijk gewichtig beroep dat ethisch oordeelsvermogen vereist. Een programmeur dient deze speciale verantwoordelijkheid op te pakken, en te snappen hoe zijn of haar producten en diensten de leefwereld van mensen veranderen.

Het pleidooi van de beroepsvereniging van informatieprofessionals, de KNVI, sluit hier perfect bij aan. Ook zij vindt dat informatieprofessionals grondrechten en publieke waarden in acht moeten nemen, en wellicht nog belangrijker: dat er op de werkvloer ruimte moet zijn om ethische vragen te stellen, en om plannen zo nodig aan te passen.

Speciale verantwoordelijkheid wordt ook op andere plekken neergelegd. In de onderwijscontext richt Justine Pardoen haar pijlen op de leraar: die moet de leider zijn die leerlingen meeneemt in de digitale wereld, en toont hoe je online elkaar kunt respecteren en veilig je weg kunt vinden. Kennisnet biedt een bredere visie, waarbij scholen ondersteund worden door buitenschoolse cursussen, hulpprogramma’s en wetenschappelijk onderzoek.

De weg vooruit is ieder geval duidelijk: spreek af wie welke verantwoordelijkheid draagt. Pas dan komt de samenleving in beweging. De recente introductie van de Algemene Verordening Gegevensbescherming laat dit goed zien. De Privacy Company schrijft met enthousiasme over het gesprek over dataverzameling en -verwerking dat op gang is gekomen bij vele bedrijven en organisaties. Het geeft aan dat steeds meer mensen zich bewust zijn van de uitdagingen van digitalisering, en dat zij de durf tonen om hun verantwoordelijkheid op te pakken.

Beschaafde Bits? We zijn pas net begonnen

Het Rathenau Instituut kijkt terug op een prikkelende blogserie. De inzichten van alle auteurs hebben ons denken verrijkt en een praktische invulling gegeven aan belangrijke idealen. Die verrijking kunnen we goed gebruiken. Want hoewel Nederland bewuster over digitalisering nadenkt dan vijf jaar geleden, de ethische kwesties beter in zicht heeft en een grotere bereidheid toont om verantwoordelijkheid te nemen, blijven veel vraagstukken nog onbeantwoord. De genoemde deugden zijn een goede start die iedereen ter harte kan nemen, maar ze moeten ook worden vertaald in concrete oplossingen, zoals technische toepassingen, gedragscodes of juridische kaders.

Wij houden die ontwikkelingen nauwgezet bij. En hoewel dit blogproject voor nu is afgerond, zal het Rathenau Instituut erover blijven publiceren, en maatschappelijke spelers blijven vragen naar hun geluid. Beschaafde bits? We zijn pas net begonnen.

Meer lezen

Lees meer over 'beschaafde bits' in onze publicaties hierover in 2017:

• Human Rights in the Robot Age (over mensenrechten in het digitale tijdperk)
• Eerlijk delen (over o.a. de opkomst van AirBnB en andere deelplatforms)
• Een nooit gelopen race (over o.a. cyberdreigingen)
• Opwaarderen (over publieke waarden in de digitale samenleving)

En lees alle blogs nog eens na via deze pagina. 

Reageren

Reageren kan via e-mail, Twitter, LinkedIn en Facebook.