Wat kunnen we doen aan online normvervaging?

Het internet is vaak een onveilige omgeving. Dat komt niet alleen door toenemende cybercrime. Mensen gaan ook elkaars grenzen over met schade tot gevolg. Het internet lijkt zelfs ontremming in de hand te werken. Een altijd vriendelijke buurtgenoot kan online voortdurend haatberichten liken. Het Rathenau Instituut onderzocht verklaringen voor dit soort schadelijk en immoreel gedrag, op verzoek van het WODC. Het onderzoek leidde tot een overzicht van de aard en omvang in Nederland en de onderliggende mechanismen. Dit vormde de basis voor een strategische agenda.

Moreel schemergebied

Het rapport Online Ontspoord eist aandacht op voor online gedrag dat zich in een moreel schemergebied bevindt, en waar de overheid nu vaak nog handelingsverlegen is. Het schemergebied bestaat uit gedragingen die niet uitsluitend onrechtmatig zijn, maar wel schadelijk, onwenselijk of volgens sommigen ontoelaatbaar.

en deel van het gedrag is wel in strijd met bepaalde grondrechten en wetten, maar voor internetgebruikers is dit niet altijd evident. In de wetenschappelijke literatuur wordt dit gedrag ook wel geduid als “morele mist” ,“digitale drift”, of verklaard door het “online ontremmingseffect”. Mensen lijken op het internet minder bekwaam in het overzien van de consequenties van hun acties, of vinden het lastiger ethisch te oordelen of te handelen. Dit zou kunnen verklaren waarom iemand die een voorbijganger op straat nooit zou uitschelden, daar op Twitter veel minder moeite mee heeft.

Het Rathenau Instituut introduceert voor het eerst een overzicht van schadelijk en immoreel gedrag online in Nederland door middel van een taxonomie. De taxonomie is bedoeld om een gecoördineerde aanpak van schadelijk en immoreel gedrag te bevorderen, in aanvulling op een aanpak gericht op één type gedrag. Het Rathenau Instituut wil met dit onderzoek ook bijdragen aan de maatschappelijke discussie over welk gedrag online wenselijk en toelaatbaar is. Morele normen zijn altijd aan verandering onderhevig en publiek debat hierover is alleen daarom al noodzakelijk.

De taxonomie bevat zes 6 categorieën van schadelijk en immoreel gedrag online met daaronder 22 verschillende fenomenen waar alle internetgebruikers in Nederland vroeg of laat mee te maken kunnen krijgen. Deze kunnen variëren van een tiener die zichzelf uithongert door een online extreme challenge aan te gaan met leeftijdsgenoten, en vrouwelijke journalisten en wetenschappers die zichzelf niet meer durven uitspreken door haatcampagnes, tot maatschappelijke ontwrichting door de verspreiding van complottheorieën en desinformatie.

Uit het beeld dat de experts en literatuur schetsen over de aard en omvang van deze fenomenen in de taxonomie wordt duidelijk dat alle Nederlanders het risico lopen om als slachtoffer, dader of omstander betrokken te raken bij dit gedrag. Toch lopen bij bepaalde fenomenen sommige groepen meer risico dan anderen, afhankelijk van hun leeftijd, geslacht, etniciteit, seksuele voorkeur, geloofsovertuiging of opleidingsniveau. 

Per fenomeen is gezocht naar definities en systematische metingen van de omvang of schade. Meestal bleken alleen anekdotische beschrijvingen voor handen. Verder bleek het niet zinvol om te proberen vast te stellen welk fenomeen het meest zorgelijk is, omdat dit afhangt van de gekozen criteria: het aantal slachtoffers, de ernst van de schade, of bijvoorbeeld de mogelijke schade in de toekomst. De conclusie is dat alle fenomenen op hun eigen wijze zorgelijk zijn, voor de maatschappij als geheel, voor individuen of groepen individuen.

Wel kon meer inzicht worden verkregen in de onderliggende mechanismen die verklaringen voor de verschillende gedragingen gemeen hebben. Het onderzoek spitst zich toe op mechanismen die kenmerkend zijn voor de online omgeving. Naast deze mechanismen zijn er uiteraard nog veel meer factoren van invloed op menselijk gedrag, zoals sociale, psychologische, culturele en economische oorzaken.

Het onderzoek heeft in totaal 18 online eigenschappen en mechanismen geïdentificeerd die een rol spelen in het inspireren, faciliteren en aanjagen van schadelijk en immoreel gedrag online. Deze mechanismen zijn samengebracht onder 6 beschrijvende kenmerken van het internet: Alledaagsheid; Verbindingen en netwerken; Groeicapaciteit en bestendiging; Escalatie; Virtuele realiteit; en Wanorde. Wat daarbij opvalt is dat veel mechanismen ook een duidelijk positief effect hebben. De meerwaarde van het internet is juist vaak dat het laagdrempelig is, er weinig beperkingen zijn en er een groot publiek mee bereikt kan worden. Dit rapport laat echter duidelijk zien dat die combinatie van factoren ook risicovol is, en er dus aandacht nodig is voor het voorkomen en beperken van schade.

Het rapport bevat 3 fictieve casussen die illustreren dat bij zeer verschillende fenomenen dezelfde mechanismen een rol kunnen spelen, en dat de mechanismen in combinatie voorkomen. Zo spelen syndicatie (het gemakkelijk vinden van gelijkgestemden online) en viraliteit (snelle, oncontroleerbare verspreiding van content online) zowel in de Casus online shaming, de Casus desinformatie en de Casus verstoord eetgedrag een rol.

Omdat dezelfde mechanismen een rol spelen bij verschillende soorten schadelijk gedrag, lijkt ingrijpen op mechanismeniveau zinvol. Maar de discussie over de mogelijke interventies om dit soort casussen te voorkomen bevat fikse dilemma’s. Zo zou het opheffen van anonimiteit van internetgebruikers in bepaalde omgevingen schadelijk en immoreel gedrag online kunnen beperken, maar online anonimiteit heeft ook maatschappelijke meerwaarde. Zo maakt anonimiteit online het voor klokkenluiders mogelijk om maatschappelijke misstanden aan te kaarten. Interventies vereisen dus een zorgvuldige afweging en maatschappelijk debat. 

Het onderzoek maakt in elk geval duidelijk dat er een taak voor de overheid is weggelegd, omdat grondrechten in het geding zijn. Burgers zijn op het internet onvoldoende beschermd. Bedrijven, maatschappelijke organisaties en burgers hebben een actieve overheid nodig om schadelijk en immoreel gedrag online tegen te gaan en sociaal wenselijk gedrag online te bevorderen.

Op basis van interviews en gesprekken met deskundigen uit beleid, wetenschap en praktijk, vele wetenschappelijke, journalistieke bronnen en beleidsstukken, en de expertise uit eerder onderzoek en analyse van het Rathenau Instituut, is een strategische agenda voor de Rijksoverheid samengesteld. Deze agenda bevat 4 thema’s.

Het eerste thema – Herinrichting van de online omgeving – bevat handvatten voor de Rijksoverheid om de online mechanismen die schadelijk en immoreel gedrag online mede veroorzaken, ten goede te keren. Zo doet het rapport een aantal suggesties om in te grijpen in de aandachtseconomie online. 

Het tweede thema – Online normen verhelderen – gaat in op de rol van de Rijksoverheid, markt en maatschappij bij het vernieuwen van de maatschappelijke afspraken over normen en waarden online. De handelingsopties bij dit thema beogen een bredere bewustwording en groter begrip van schadelijk en immoreel gedrag in de samenleving te bewerkstelligen. 

Het derde thema – Mensen beschermen en slachtoffers bijstaan – bevat suggesties voor de Rijksoverheid, handhaving- en uitvoeringsorganisaties om beter te reageren op de fenomenen van schadelijk en immoreel gedrag online en de schade hiervan. Het thema bevat een aantal voorstellen voor de overheid om meer zichtbaar en aanwezig te zijn online. 

Deze zichtbaarheid en aanwezigheid kan van belang zijn voor slachtoffers, daders en het bewaken van rechtszekerheid. Voor slachtoffers wisselt het aanbod aan opvang sterk per fenomeen. Tegen sommige fenomenen zetten zich al maatschappelijke organisaties in, zoals Stichting Online Shaming. Voor andere fenomenen bestaat niet iets vergelijkbaars. Initiatieven als MiND (meldpunt internet discriminatie) en Meldknop.nl zouden bijvoorbeeld verder kunnen worden opgeschaald om de toegankelijkheid van hulpverlening te vergroten. Tegelijkertijd is er voor de overheid ook een taak weggelegd om de rechtszekerheid van gebruikers van platformen te vergroten. In de aanstaande Europese Digital Services Act regulering (DSA) worden eisen gesteld aan klachtenprocedures. De overheid zal op naleving van die eisen moeten toezien.

Het vierde thema – Adaptief vermogen versterken – bevat suggesties voor de Rijksoverheid om grip te krijgen en te houden op schadelijk en immoreel gedrag online, dat continu in beweging is. Deze handelingsopties zijn gericht op het toekomstbestendig maken van de strategische agenda.

De strategische agenda in het rapport is gericht op de Rijksoverheid, maar ook lokale overheden kunnen met de bevindingen en aanbevelingen aan de slag. Het gesprek over online normen kan bij uitstek op lokaal niveau aangemoedigd worden, bijvoorbeeld door het aanjagen van het gesprek in lokale media, op scholen, in verenigingen en buurthuizen. Verder maken gemeenten nu al mee hoe online schadelijk gedrag invloed heeft op de openbare orde en veiligheid. Zij moeten dus ook werken aan hun begrip over deze fenomenen en kunnen van elkaar leren over werkwijzen om schade te voorkomen en slachtoffers bij te staan door zich te verbinden in netwerken, bijvoorbeeld via de Vereniging Nederlandse Gemeenten.

Naast de overheid is er ook een rol weggelegd voor bedrijven, maatschappelijk middenveld en burgers om het verschil te maken.  Zo zullen online platformen onder de nieuwe DSA meer inzicht moeten geven in de maatregelen die ze nemen om maatschappelijke risico’s van hun diensten te voorkomen, kan er meer aandacht komen voor deze problematiek bij maatschappelijk middenveld, en zullen burgers zichzelf en elkaar moeten bevragen op wat wenselijk gedrag is online. Aangezien de samenleving en de online omgevingen voortdurend veranderen, is dit niet een kwestie van een eenmalige actie. Bovendien is een verdere combinatie nodig van bovenstaande inzichten met onderzoek naar andersoortige  dan technologische factoren die van invloed zijn op menselijk gedrag. Zo kunnen we toewerken naar meer veiligheid op het internet.

Dit artikel verscheen eerder in de Secondant, het platform voor maatschappelijke veiligheid van het Centrum voor criminaliteitspreventie en veiligheid

Gerelateerde publicaties: