Ethiekdocent Frans Stafleu: Programmeurs, omarm de verantwoordelijkheid die past bij jullie positie

Door Frans Stafleu, universitair docent Ethiek aan de Universiteit Utrecht
& Linda Kool, senior onderzoeker bij het Rathenau Instituut.

Leestijd 4 minuten | Lees ook andere artikelen uit de serie Beschaafde Bits. 

Programmeurs zijn zo belangrijk geworden voor onze samenleving, dat we hun werk moeten beschouwen als een professie. Dat is een beroep waarin het professioneel handelen raakt aan belangrijke maatschappelijke diensten, en waarin naast technische kennis vooral ook ethisch oordeelsvermogen is vereist. Ook moeten professionals autonoom kunnen handelen voor de effectiviteit van hun werk.

De klassieke professies zijn artsen, advocaten en dominees. In de 21ste eeuw moet je daar programmeurs aan toevoegen. Voor programmeurs brengt dat natuurlijk verantwoordelijkheden met zich mee. Zij kunnen die oppakken, óf accepteren dat hun handelingsvrijheid steeds meer door de overheid wordt gereguleerd.

Waarom zijn programmeurs zo belangrijk geworden?

Nu digitalisering doordringt tot in de haarvaten van onze maatschappij, krijgt het werk van programmeurs steeds meer ethische aspecten. Het zijn de programmeurs die de bouwstenen leveren voor veel belangrijke maatschappelijke diensten, zoals een zelfsturende auto of een zorgrobot.

En in die diensten zijn de digitale en fysieke wereld vaak innig verweven. Daardoor voert een softwareprogramma niet slechts handelingen uit in de virtuele wereld, maar leidt dat vaak direct tot gevolgen in de ‘echte’, fysieke omgeving. Dat betekent dat een foutje in een softwarecode ineens een zaak van leven en dood kan zijn, bijvoorbeeld als een insulinepomp verkeerd wordt aangestuurd.

Keuzes waarover de maatschappij zelf nog niet heeft nagedacht

Ook de laatste ontwikkelingen in kunstmatige intelligentie en autonome systemen werpen op dit vlak nieuwe ethische vragen op. De mobiele telefoon, sociale media en slimme thuisassistenten als Alexa en Siri zorgen ervoor dat mensen op een nieuwe manier met apparaten omgaan, en met elkaar. Dat betekent dat programmeurs en bedrijven zich ineens geconfronteerd zien met ethische gevolgen van hun werk en keuzes waar de maatschappij nog niet of nauwelijks over heeft nagedacht.

Is je huis bijvoorbeeld nog echt een plek om jezelf te zijn, wanneer allerlei slimme apparaten op verschillende manieren met je meekijken? Speelgoedproducent Mattel besloot onlangs dat het uitbrengen van een virtuele assistent voor kinderen niet paste in zijn bedrijfsfilosofie. Programmeurs geven dus zelf invulling aan wat ethische begrippen zoals ‘privacy’ zijn.

Wie een professie uitvoert, heeft dus een bepaalde verantwoordelijkheid. Vanwege het belang voor de samenleving. Maar ook omdat de meeste klanten, managers en beleidsmakers niet goed zien en begrijpen hoe de professional precies handelt. Zij moeten er op kunnen vertrouwen dat de professionals ethisch verantwoord handelen. Dat is niet altijd vanzelfsprekend, zoals het schandaal met sjoemelsoftware bij Volkswagen laat zien.

De autonomie van programmeurs staat op het spel

Dit brengt ons bij een cruciaal spanningsveld. Aan de ene kant wil de maatschappij, gezien het belang van programmeren, de professie steeds meer controleren en reguleren. Aan de andere kant heeft de professie juist vrijheid van handelen nodig. De complexe werkelijkheid laat zich immers niet makkelijk in regels vangen, en vraagt telkens weer om het expertoordeel en de ethische afweging van de professional zelf.

De dynamiek tussen maatschappij en programmeur is helder: hoe meer programmeurs zichzelf op verantwoorde wijze besturen, hoe minder de overheid namens de maatschappij hoeft in te grijpen. De programmeurs zijn dus aan zet; hun professionele autonomie staat op het spel.

In twee stappen ethisch verantwoord programmeren

De eerste stap in het oppakken van deze verantwoordelijkheid ligt bij het opstellen van eigen ethische codes of gedragscodes. Die codes worden natuurlijk sterker als ze niet vrijblijvend zijn. Handhaven is dus de tweede stap.

Bij een ernstige overtreding van de gedragscode kan een advocaat bijvoorbeeld uit de orde van advocaten worden gezet, op basis van een vastgestelde procedure en klachtenbehandeling. Zoiets kan ook voor programmeurs worden bedacht.

Naast de codes kan de maatschappij ook een handhavingsapparaat optuigen. In ruil voor de codes en handhaving gunt zij de professie vervolgens de vrijheid om besluiten te nemen op basis van vakkennis, ervaring en beroepseer. Uiteraard binnen bepaalde wettelijke kaders.

Ethische gedragscodes voor IT-sector bestaan al

Diverse IT-gerelateerde beroepsgroepen hebben al een begin gemaakt met het opstellen van ethische gedragscodes. De Association for Computer Machinery (ACM), kent bijvoorbeeld sinds 1999 een ethische beroepscode voor leden. Die bepaalt onder meer dat de professional

• zal bijdragen aan de maatschappij;
• anderen geen schade zal toebrengen;
• niet zal discrimineren; en
• de privacy van anderen zal respecteren.

Wel is het volgen van deze code vrijwillig. De ACM wil in 2018 een nieuwe code uitbrengen.

Ook internationale beroepsorganisaties als het Institute for Eletrical and Electronic Engineers (IEEE) en de International Federation for Information Processing (IFIP) kennen of dragen bij aan de ontwikkeling van gedragscodes voor programmeurs.

Wetgevers voeren de druk op

De codes zijn nu vrijblijvend. Het lijkt erop dat de maatschappij met deze algemene en vaak vrijblijvende initiatieven alleen waarschijnlijk geen genoegen zal nemen. Het Europees Parlement heeft bijvoorbeeld opgeroepen tot een specifieke gedragscode voor robotica-ingenieurs en in Duitsland heeft een ethische commissie van het ministerie van transport het heft in eigen hand genomen, en als eerste ter wereld richtlijnen voor zelfsturende auto’s vastgesteld.

Programmeurs staan dus onder toenemende druk om een volwassen beroepscultuur te ontwikkelen, die laat zien hoe ethisch programmeren gewaarborgd wordt. De balans tussen overheidsregulering en professionele zelfregulering zal in de komende jaren worden vastgesteld.

Tijd dus dat de Nederlandse programmeurs aan de slag gaan. Omarm de verantwoordelijkheid die past bij jullie maatschappelijke positie. Een professie uitoefenen is een last, maar ook een eer. Draag ‘m met verve!

Door Frans Stafleu, universitair docent Ethiek aan de Universiteit Utrecht & Linda Kool, senior onderzoeker bij het Rathenau Instituut.

Meer blogs over hoe IT'ers kunnen werken

• Jaap-Henk Hoepman: Doorbreek monopolies met open standaarden
  "We staan er zelden bij stil. Maar e-mail is een wereldwonder. Een voorbeeld van hoe de rest van het internet eigenlijk zou moeten zijn." Lees verder
• Sheila Jasanoff: We hebben nederige technologieën nodig
  "Hoe zorgen we dat een nieuwe technologie de mens ten goede komt? Bij elke nieuwe technologie moeten we de tijd nemen om deze vraag te stellen." Lees verder
• Privacy company: EU helpt datadiscussie vooruit
  "Vanaf 25 mei is de Algemene Verordening Gegevensbescherming van toepassing. Dat is voor bedrijven een belangrijke kans om privacy centraal te zetten." Lees verder
• Computer scientist TU Delft: Ingenieurs, zorg dat we de juiste data kunnen delen
  "Technologie moet meebewegen met de normen en waarden van de gebruikers. We moeten leren technologie met maatwerk, en met gevoel voor context, te ontwikkelen." Lees verder
• KNVI: Geef IT’ers de ruimte om schending grondrechten te benoemen
  "IT-professionals moeten bewust nadenken over digitalisering en grondrechten. Hoog tijd dat IT’ers zichzelf voortdurend concrete vragen gaan stellen." Lees verder

Meedoen aan deze blogserie

Meedoen kan door onze onderzoekers Jurriën Hamer of Linda Kool te benaderen voor een reactie of gastbijdrage, en reageren kan op Twitter, LinkedIn en Facebook.

Meer lezen

Lees meer over 'beschaafde bits' in onze publicaties hierover in 2017:

• Human Rights in the Robot Age (over mensenrechten in het digitale tijdperk)
• Eerlijk delen (over o.a. de opkomst van AirBnB en andere deelplatforms)
• Een nooit gelopen race (over o.a. cyberdreigingen)
• Opwaarderen (over publieke waarden in de digitale samenleving)

En volg deze blogserie via deze pagina.