calendar tag arrow download print
Image
Coverfoto online ontspoord
Rapport
07 juli 2021

Online ontspoord

Een verkenning van schadelijk en immoreel gedrag op het internet in Nederland
Cyberpesten desinformatie Online gedrag
Foto: Shutterstock
Pedojagen. Phishing. Cyberverslaving. Wraakporno. Desinformatie. Zomaar wat voorbeelden van schadelijk en immoreel gedrag op het internet. Door specifieke eigenschappen van het internet, zoals het grote bereik van online berichten, de (gevoelsmatige) anonimiteit van mensen achter hun scherm, of de onmiddellijkheid waarmee een video wereldwijd te zien is, worden dit soort gedragsfenomenen gefaciliteerd. Dat richt grote schade aan, voor individu en samenleving.

Maar over wat voor gedrag hebben we het eigenlijk? Hoe vaak komt het voor? En wat kan de overheid hiertegen doen? Op verzoek van het Wetenschappelijk Onderzoek- en Documentatiecentrum (WODC) deed het Rathenau Instituut onderzoek naar schadelijk en immoreel gedrag online.

Downloads

Downloads

Sluiten

Onderzoeksvragen

Het internet heeft bepaalde kenmerken waardoor online gedrag makkelijk ontspoort. Een persoon die op straat nooit een voorbijganger zou uitschelden, kan daar op Twitter geen moeite mee hebben. Iemand die nooit uit de buurtsuper zou stelen, kan online een lagere drempel ervaren en overgaan tot creditcarddiefstal. In het boek Evil Online, geschreven door Dean Cocking en Jeroen van den Hoven in 2018, wordt het internet geduid als een omgeving waarin schadelijk en immoreel gedrag geïnspireerd, gefaciliteerd en aangejaagd wordt. Voor het Ministerie van Justitie en Veiligheid vormde dit boek de aanleiding om de vraag te stellen wat de status is van dergelijke ‘ontsporingen’ in Nederland.

Het WODC verzocht het Rathenau Instituut om de volgende centrale onderzoeksvraag te beantwoorden: Wat zijn de aard en de omvang van online schadelijk en immoreel gedrag in Nederland, wat zijn de onderliggende mechanismen en oorzaken, en welke handelingsperspectieven zijn er voor het ministerie en de overheid als geheel voor het beperken van schadelijk en immoreel gedrag op internet?

Met dit rapport zet het Rathenau Instituut een schijnwerper op online gedrag dat zich in een moreel schemergebied bevindt, en waar de overheid nu nog handelingsverlegen is. Het gaat om online gedrag dat als schadelijk en/of immoreel kan worden geduid. Dat gedrag kan schadelijk zijn voor individuen, maar ook voor grotere groepen of de samenleving als geheel. Een deel van het gedrag dat we in dit onderzoek bespreken is in strijd met bepaalde grondrechten en wetten, en daarmee onrechtmatig of strafbaar. Toch blijkt het voor internetgebruikers online een stuk lastiger om te beoordelen wanneer iets door de beugel kan. De online omgeving is niet de facto wettelozer of grenzelozer dan de offline wereld, maar wordt wel sneller zo ervaren.

Het Rathenau Instituut introduceert met dit rapport voor het eerst een overzicht van schadelijk en immoreel gedrag online in Nederland door middel van een taxonomie. Deze taxonomie kan als kapstok dienen voor een gecoördineerde aanpak door de Rijksoverheid, in samenwerking met bedrijfsleven en maatschappelijke actoren. Het Rathenau Instituut wil met dit onderzoek ook bijdragen aan de maatschappelijke discussie over welk gedrag online wenselijk en toelaatbaar is. We weten dat morele normen aan verandering onderhevig zijn en publiek debat hierover noodzakelijk is.

Aanpak
Het rapport behandelt de volgende deelvragen:

  1. Wat is de taxonomie van de online gedragingen en online fenomenen die schadelijk kunnen zijn voor individuen of groepen, en daarmee van invloed kunnen zijn op de morele infrastructuur van de samenleving?
     
  2. Wat is in Nederland de aard van deze problematische gedragingen en fenomenen?
     
  3. Wat is in Nederland de schaal waarop de problematische gedragingen en fenomenen zich voordoen, in termen van actoren, slachtoffers en maatschappelijke schade?
     
  4. Hoe zijn deze problematische gedragingen en fenomenen en de daaruit voortvloeiende maatschappelijke schade, verbonden aan de werking, onderliggende mechanismen en inrichting van de online omgeving? Met andere woorden: hoe is de online wereld een facilitator en katalysator voor schadelijke uitingen en gedragingen op internet en sociale media?
     
  5. Welke handelingsopties zijn er, nationaal en internationaal, al ontwikkeld voor het beperken van schadelijk en immoreel gedrag online en de maatschappelijke schade die daaruit voortvloeit, en welke lessen zijn daar uit te trekken?
     
  6. Welke handelingsopties heeft de Nederlandse overheid?

Bij het beantwoorden van elk van de deelvragen is gebruik gemaakt van een combinatie van methoden, bestaande uit literatuuronderzoek, interviews, workshops en bijeenkomsten met deskundigen uit beleid, praktijk en wetenschap. In totaal hebben 56 deskundigen uit wetenschap, beleid en praktijk aan het onderzoek bijgedragen.

Sluiten

Samenvatting

Dit onderzoek brengt voor het eerst schadelijk en immoreel gedrag online in Nederland in beeld in al zijn facetten. Het Rathenau Instituut ontwikkelde een taxonomie met zes categorieën van schadelijk en immoreel gedrag online met daaronder 22 verschillende fenomenen waar alle internetgebruikers in Nederland vroeg of laat mee te maken kunnen krijgen.

Taxonomie van schadelijk en immoreel gedrag online
De taxonomie van schadelijk en immoreel gedrag online.

Taxonomie van immoreel en schadelijk gedrag online

De schade die het gedrag in deze taxonomie veroorzaakt, kan ernstig zijn voor individuen, groepen en de samenleving als geheel. Deze kan variëren van een tienermeisje dat zichzelf uithongert omdat ze online in een extreme challenge terecht komt met leeftijdsgenoten, en vrouwelijke journalisten en wetenschappers die zichzelf niet meer durven uitspreken, tot maatschappelijke ontwrichting door de verspreiding van complottheorieën en desinformatie.

Uit het beeld dat de experts en literatuur schetsen over de aard en omvang van deze fenomenen in de taxonomie wordt duidelijk, dat alle Nederlanders het risico lopen om als slachtoffer, dader of omstander betrokken te raken bij dit gedrag. Iedereen kan te maken krijgen met schadelijk en immoreel gedrag online. Toch lopen bij bepaalde fenomenen sommige groepen meer risico dan anderen, afhankelijk van hun leeftijd, geslacht, etniciteit, seksuele voorkeur, geloofsovertuiging of opleidingsniveau. Het is op basis van de beschikbare gegevens lastig om hierover algemene uitspraken te doen.

Het onderzoek laat zien dat voor diverse fenomenen tot op heden nauwkeurige definities en systematische metingen ontbreken. Het is niet zinvol om te proberen vast te stellen welk fenomeen het meest zorgelijk is, omdat dit afhangt van de gekozen criteria: het aantal slachtoffers, de ernst van de schade, of de mogelijke schade in de toekomst. We concluderen dat alle fenomenen op hun eigen wijze zorgelijk zijn, voor de maatschappij als geheel, voor individuen of groepen individuen.

Mechanismen
Het internet als omgeving kent mechanismen die van invloed zijn op menselijk gedrag. Mensen kunnen door die online mechanismen bijvoorbeeld anders met normen en regels omgaan. Naast de mechanismen van het internet zijn er nog veel meer factoren van invloed op menselijk gedrag, zoals sociale, psychologische, culturele en economische oorzaken. Al deze factoren spelen een rol bij de ontwikkeling van schadelijk en immoreel gedrag online. Dit rapport richt zich op de mechanismen die kenmerkend zijn voor het internet.

Het onderzoek heeft in totaal 18 online eigenschappen en mechanismen geïdentificeerd die een rol spelen in het inspireren, faciliteren en aanjagen van schadelijk en immoreel gedrag online: 1) beschikbaarheid, 2) openbaarheid, 3) onmiddellijkheid, 4) continuïteit, 5) hyper-connectiviteit, 6) syndicatie, 7) echo chambers, 8) schaalbaarheid en viraliteit op platformen, 9) persistentie (en onbeheersbaarheid), 10) selectie en amplificatie, 11) aandachtseconomie, 12) ontmenselijking, 13) amusement, 14) beeldvorming, 15) onduidelijke normen, 16) anonimiteit, 17) (schijnbare) wetteloosheid, 18) afzondering. Deze mechanismen zijn samengebracht onder zes beschrijvende kenmerken van het internet:

  1. Alledaagsheid
  2. Verbindingen en netwerken
  3. Groeicapaciteit en bestendiging
  4. Escalatie
  5. Virtuele realiteit
  6. Wanorde

Een overzicht van alle mechanismen en hun indeling is te vinden in de figuur hieronder.

Figuur 2- Overzicht van online mechanismen - Online Ontspoord V2
Overzicht van online mechanismen

De casuïstiek in het rapport laat zien dat bij zeer verschillende fenomenen dezelfde mechanismen een rol kunnen spelen, en dat de mechanismen in combinatie voorkomen. Zo spelen syndicatie (het gemakkelijk vinden van gelijkgestemden online) en viraliteit (snelle, oncontroleerbare verspreiding van content online) zowel in de Casus online shaming, de Casus desinformatie en de Casus verstoord eetgedrag een rol. Ingrijpen in de mechanismen, zoals het vereisen van transparantie van de aanbevelingsmechanismen van online content of het opheffen van anonimiteit van internetgebruikers in bepaalde omgevingen, heeft zin bij het voorkomen of beperken van schadelijk en immoreel gedrag online. Maar dergelijke interventies vereisen zorgvuldige afweging en maatschappelijk debat. Die mechanismen van het internet kunnen namelijk ook leiden tot sociaal wenselijk gedrag en maatschappelijke verdiensten. Zo maakt anonimiteit online het voor klokkenluiders mogelijk om maatschappelijke misstanden aan te kaarten. Met ingrijpen in deze mechanismen worden mogelijk ook de positieve effecten beperkt of teniet gedaan.

Handelingsperspectieven
Het internet leek altijd een domein van zelfregulering en zelfredzaamheid van de samenleving, waar de overheid geen rol had en gebruikers zichzelf wel zouden redden. Uit dit onderzoek blijkt echter dat grondrechten in het geding zijn; burgers zijn op het internet onvoldoende beschermd. Bedrijven, maatschappelijke organisaties en burgers hebben een actieve overheid nodig om schadelijk en immoreel gedrag online tegen te gaan en sociaal wenselijk gedrag online te bevorderen.

Het rapport bevat een overzicht van bestaande maatregelen die overheden, bedrijven, hulpverleners en anderen al genomen hebben om schadelijk gedrag online aan te pakken. Dit overzicht van bestaande initiatieven geeft inzicht in de interventies die al werken en veelbelovend zijn om schadelijk en immoreel gedrag online te beperken of te voorkomen. Maar het laat ook zien waar in de aanpak nog gaten vallen en dus ruimte is voor extra interventies. De belangrijkste observatie is dat veel van de huidige initiatieven vooral reactief zijn van aard. Ze zijn met name gericht op de bestrijding van symptomen van schadelijk en immoreel gedrag, en nauwelijks op de onderliggende mechanismen. Daarbij zien we wel verschillen tussen de diverse actoren. Met name overheden en platformbedrijven zijn vooralsnog weinig proactief bezig. Bij platformbedrijven is dat niet zo verwonderlijk. Sleutelen aan mechanismen betekent immers dat de keuze gemaakt moet worden voor een alternatieve vorm van platformontwerp. Maar dit brengt onzekerheden mee ten aanzien van verdienmodellen – en bedrijven bewegen zich nu eenmaal binnen een competitieve markt. In de praktijk zijn het dan ook vooral andere, kleinschaliger partijen die met alternatieve vormen van ontwerp experimenteren.

De analyse van bestaande maatregelen laat zien dat overheden vooral in actie komen als gedragingen uit de hand lopen en dus in toom gehouden moeten worden. Hun interventies zijn tot nu toe vooral reactief. Het overzicht in dit rapport van de mechanismen die online schadelijk gedrag in de hand werken, kan overheden en andere partijen helpen om pro-actiever op te treden.

Op basis van interviews en gesprekken met deskundigen uit beleid, wetenschap en praktijk, vele wetenschappelijke, journalistieke bronnen en beleidsstukken, en de expertise uit eerder onderzoek en analyse van het Rathenau Instituut, introduceren we een strategische agenda voor de Rijksoverheid. Hierin identificeren we vier thema’s waarbinnen de Rijksoverheid een sturende, coördinerende en faciliterende rol kan vervullen om in samenwerking met actoren uit de markt en maatschappij, schadelijk en immoreel gedrag online aan te pakken en een veilige online omgeving kan bevorderen.

Strategische agenda voor de aanpak van schadelijk en immoreel gedrag online.
Strategische agenda voor de aanpak van schadelijk en immoreel gedrag online.

Het eerste thema – Herinrichting van de online omgeving – bevat handvatten voor de Rijksoverheid om de online mechanismen die schadelijk en immoreel gedrag online mede veroorzaken, ten goede te keren. Zo doet het rapport een aantal suggesties om in te grijpen in de aandachtseconomie online.

Het tweede thema – Online normen verhelderen – gaat in op de rol van de Rijksoverheid, markt en maatschappij bij het vernieuwen van de maatschappelijke afspraken over normen en waarden online. De handelingsopties bij dit thema beogen een bredere bewustwording en groter begrip van schadelijk en immoreel gedrag in de samenleving te bewerkstelligen.

Het derde thema – Mensen beschermen en slachtoffers bijstaan – bevat suggesties voor de Rijksoverheid, handhaving en uitvoeringsorganisaties om beter te reageren op de fenomenen van schadelijk en immoreel gedrag online en de schade hiervan. Zo doen we een aantal voorstellen voor de overheid om meer zichtbaar en aanwezig te zijn online.

Het vierde thema – Adaptief vermogen versterken – bevat suggesties voor de Rijksoverheid om grip te krijgen en te houden op schadelijk en immoreel gedrag online, dat continu in beweging is. Deze handelingsopties zijn gericht op het toekomstbestendig maken van de strategische agenda.

Meer laden