• U moet ingelogd zijn om onderwerpen te kunnen volgen.

    Log-in als u al een account heeft of maak een gratis account aan.

Ethiekdocent Frans Stafleu: Programmeurs, omarm de verantwoordelijkheid die past bij jullie positie

We moeten er op kunnen vertrouwen dat programmeurs ethisch verantwoord werken. Zij zijn immers de eersten die de effecten van technologie kunnen zien. Filosoof Frans Stafleu hoopt dat ze de eer van het vak hoog houden.

Door Frans Stafleu, universitair docent Ethiek aan de Universiteit Utrecht

Leestijd 4 minuten | Lees ook andere artikelen uit de serie Beschaafde Bits

Programmeurs zijn zo belangrijk geworden voor onze samenleving, dat we hun werk moeten beschouwen als een professie. Dat is een beroep waarin het professioneel handelen raakt aan belangrijke maatschappelijke diensten, en waarin naast technische kennis vooral ook ethisch oordeelsvermogen is vereist. Ook moeten professionals autonoom kunnen handelen voor de effectiviteit van hun werk.

De klassieke professies zijn artsen, advocaten en dominees. In de 21ste eeuw moet je daar programmeurs aan toevoegen. Voor programmeurs brengt dat natuurlijk verantwoordelijkheden met zich mee. Zij kunnen die oppakken, óf accepteren dat hun handelingsvrijheid steeds meer door de overheid wordt gereguleerd.

Waarom zijn programmeurs zo belangrijk geworden?

Nu digitalisering doordringt tot in de haarvaten van onze maatschappij, krijgt het werk van programmeurs steeds meer ethische aspecten. Het zijn de programmeurs die de bouwstenen leveren voor veel belangrijke maatschappelijke diensten, zoals een zelfsturende auto of een zorgrobot.

En in die diensten zijn de digitale en fysieke wereld vaak innig verweven. Daardoor voert een softwareprogramma niet slechts handelingen uit in de virtuele wereld, maar leidt dat vaak direct tot gevolgen in de ‘echte’, fysieke omgeving. Dat betekent dat een foutje in een softwarecode ineens een zaak van leven en dood kan zijn, bijvoorbeeld als een insulinepomp verkeerd wordt aangestuurd.


Illustraties door Max Kisman

Keuzes waarover de maatschappij zelf nog niet heeft nagedacht

Ook de laatste ontwikkelingen in kunstmatige intelligentie en autonome systemen werpen op dit vlak nieuwe ethische vragen op. De mobiele telefoon, sociale media en slimme thuisassistenten als Alexa en Siri zorgen ervoor dat mensen op een nieuwe manier met apparaten omgaan, en met elkaar. Dat betekent dat programmeurs en bedrijven zich ineens geconfronteerd zien met ethische gevolgen van hun werk en keuzes waar de maatschappij nog niet of nauwelijks over heeft nagedacht.

Is je huis bijvoorbeeld nog echt een plek om jezelf te zijn, wanneer allerlei slimme apparaten op verschillende manieren met je meekijken? Speelgoedproducent Mattel besloot onlangs dat het uitbrengen van een virtuele assistent voor kinderen niet paste in zijn bedrijfsfilosofie. Programmeurs geven dus zelf invulling aan wat ethische begrippen zoals ‘privacy’ zijn.

Wie een professie uitvoert, heeft dus een bepaalde verantwoordelijkheid. Vanwege het belang voor de samenleving. Maar ook omdat de meeste klanten, managers en beleidsmakers niet goed zien en begrijpen hoe de professional precies handelt. Zij moeten er op kunnen vertrouwen dat de professionals ethisch verantwoord handelen. Dat is niet altijd vanzelfsprekend, zoals het schandaal met sjoemelsoftware bij Volkswagen laat zien.

De autonomie van programmeurs staat op het spel

Dit brengt ons bij een cruciaal spanningsveld. Aan de ene kant wil de maatschappij, gezien het belang van programmeren, de professie steeds meer controleren en reguleren. Aan de andere kant heeft de professie juist vrijheid van handelen nodig. De complexe werkelijkheid laat zich immers niet makkelijk in regels vangen, en vraagt telkens weer om het expertoordeel en de ethische afweging van de professional zelf.

De dynamiek tussen maatschappij en programmeur is helder: hoe meer programmeurs zichzelf op verantwoorde wijze besturen, hoe minder de overheid namens de maatschappij hoeft in te grijpen. De programmeurs zijn dus aan zet; hun professionele autonomie staat op het spel.

In twee stappen ethisch verantwoord programmeren

De eerste stap in het oppakken van deze verantwoordelijkheid ligt bij het opstellen van eigen ethische codes of gedragscodes. Die codes worden natuurlijk sterker als ze niet vrijblijvend zijn. Handhaven is dus de tweede stap.

Bij een ernstige overtreding van de gedragscode kan een advocaat bijvoorbeeld uit de orde van advocaten worden gezet, op basis van een vastgestelde procedure en klachtenbehandeling. Zoiets kan ook voor programmeurs worden bedacht.

Naast de codes kan de maatschappij ook een handhavingsapparaat optuigen. In ruil voor de codes en handhaving gunt zij de professie vervolgens de vrijheid om besluiten te nemen op basis van vakkennis, ervaring en beroepseer. Uiteraard binnen bepaalde wettelijke kaders.

Ethische gedragscodes voor IT-sector bestaan al

Diverse IT-gerelateerde beroepsgroepen hebben al een begin gemaakt met het opstellen van ethische gedragscodes. De Association for Computer Machinery (ACM), kent bijvoorbeeld sinds 1999 een ethische beroepscode voor leden. Die bepaalt onder meer dat de professional

  • zal bijdragen aan de maatschappij;
  • anderen geen schade zal toebrengen;
  • niet zal discrimineren; en
  • de privacy van anderen zal respecteren.

Wel is het volgen van deze code vrijwillig. De ACM wil in 2018 een nieuwe code uitbrengen.

Ook internationale beroepsorganisaties als het Institute for Eletrical and Electronic Engineers (IEEE) en de International Federation for Information Processing (IFIP) kennen of dragen bij aan de ontwikkeling van gedragscodes voor programmeurs.

Wetgevers voeren de druk op

De codes zijn nu vrijblijvend. Het lijkt erop dat de maatschappij met deze algemene en vaak vrijblijvende initiatieven alleen waarschijnlijk geen genoegen zal nemen. Het Europees Parlement heeft bijvoorbeeld opgeroepen tot een specifieke gedragscode voor robotica-ingenieurs en in Duitsland heeft een ethische commissie van het ministerie van transport het heft in eigen hand genomen, en als eerste ter wereld richtlijnen voor zelfsturende auto’s vastgesteld.

Programmeurs staan dus onder toenemende druk om een volwassen beroepscultuur te ontwikkelen, die laat zien hoe ethisch programmeren gewaarborgd wordt. De balans tussen overheidsregulering en professionele zelfregulering zal in de komende jaren worden vastgesteld.

Tijd dus dat de Nederlandse programmeurs aan de slag gaan. Omarm de verantwoordelijkheid die past bij jullie maatschappelijke positie. Een professie uitoefenen is een last, maar ook een eer. Draag ‘m met verve!

 

Lees ook andere artikelen uit de serie Beschaafde Bits:
Online dienstverlening moet verleiden, niet verplichten. Door UWV.
- Technologie noodzakelijk voor aanpassing aan snel veranderende samenleving. Door de Nederlandse Politie.
Algoritmen moeten zich aan de mensenrechten houden. Door Amnesty International. 
Digivaardige mensen of mensvaardige diensten? Door ICTU.
Digitalisering mag mensen niet uitsluiten. Door de Nationale ombudsman. 
- Gezocht: digitale innovaties met respect voor de mens. Door Melanie Peters, directeur van het Rathenau Instituut.