Schadelijk en immoreel gedrag online
Foto: Shutterstock
Aandacht als verdienmodel
Specifieke eigenschappen van het internet, zoals het grote bereik van online berichten, de gevoelsmatige anonimiteit van mensen achter hun scherm, de onmiddellijkheid waarmee een video wereldwijd te zien is, of het verdienmodel op basis van clicks en aandacht, kunnen schadelijk en immoreel gedrag in de hand werken.
In Online ontspoord presenteert het Rathenau Instituut een uniek overzicht van 22 fenomenen van onwenselijk online gedrag. Van cyberpesten, phishing, cyberverslaving of cryptofraude, tot wraakporno, extreme challenges, pedojagen, shaming en cancellen.
Actieve overheid nodig
Om dergelijk gedrag op het internet tegen te gaan, is een overheid nodig die niet alleen reageert wanneer gedrag online al is ontspoord, maar die ook pro-actief ingrijpt in de online omgeving, zodat schade wordt voorkomen en grondrechten van burgers worden beschermd. Daarvoor heeft het Rathenau Instituut een strategische agenda opgezet. Het is bijvoorbeeld nodig om het internet met zijn aandachtseconomie anders in te richten. In samenwerking met maatschappelijke organisaties en bedrijven moeten normen online verhelderd worden en slachtoffers beter beschermd worden.
Op verzoek van het WODC deed het Rathenau Instituut onderzoek naar de aard en omvang van online schadelijk en immoreel gedrag, en de mechanismen van het internet die dat gedrag faciliteren. De onderzoekers hielden interviews en voerden gesprekken met beleidsdeskundigen, wetenschappers en deskundigen uit de praktijk. Daarnaast is een literatuurstudie gedaan.
Maatschappelijke dialoog
Er doen zich online steeds weer nieuwe fenomenen voor, waar op ingespeeld moet worden. Naast een actieve overheid is een maatschappelijke dialoog nodig over welk gedrag online wenselijk en toelaatbaar is. Het Rathenau Instituut speelt een rol in deze dialoog en jaagt deze aan, onder andere door aanwezig te zijn op de 'Embassy of Safety' tijdens de Dutch Design Week.
Lees de samenvatting van het rapport Online ontspoord
Dit onderzoek brengt voor het eerst schadelijk en immoreel gedrag online in Nederland in beeld in al zijn facetten. Het Rathenau Instituut ontwikkelde een indeling met zes categorieën van schadelijk en immoreel gedrag online met daaronder 22 verschillende fenomenen waar alle internetgebruikers in Nederland vroeg of laat mee te maken kunnen krijgen.
De schade die het gedrag in deze indeling veroorzaakt, kan ernstig zijn voor individuen, groepen en de samenleving als geheel. Deze kan variëren van een tienermeisje dat zichzelf uithongert,omdat ze online in een extreme challenge terecht komt met leeftijdsgenoten, en vrouwelijke journalisten en wetenschappers die zichzelf niet meer durven uitspreken, tot maatschappelijke ontwrichting door de verspreiding van complottheorieën en desinformatie.
Uit het beeld dat de experts en literatuur schetsen over de aard en omvang van deze fenomenen in de indeling wordt duidelijk, dat alle Nederlanders het risico lopen om als slachtoffer, dader of omstander betrokken te raken bij dit gedrag. Iedereen kan te maken krijgen met schadelijk en immoreel gedrag online. Toch lopen bij bepaalde fenomenen sommige groepen meer risico dan anderen, afhankelijk van hun leeftijd, geslacht, etniciteit, seksuele voorkeur, geloofsovertuiging of opleidingsniveau. Het is op basis van de beschikbare gegevens lastig om hierover algemene uitspraken te doen.
Het onderzoek laat zien dat voor diverse fenomenen tot op heden nauwkeurige definities en systematische metingen ontbreken. Het is niet zinvol om te proberen vast te stellen welk fenomeen het meest zorgelijk is, omdat dit afhangt van de gekozen criteria: het aantal slachtoffers, de ernst van de schade, of de mogelijke schade in de toekomst. We concluderen dat alle fenomenen op hun eigen wijze zorgelijk zijn, voor de maatschappij als geheel, voor individuen of groepen individuen.
De casuïstiek in het rapport laat zien dat bij zeer verschillende fenomenen dezelfde mechanismen een rol kunnen spelen, en dat de mechanismen in combinatie voorkomen. Zo spelen syndicatie (het gemakkelijk vinden van gelijkgestemden online) en viraliteit (snelle, oncontroleerbare verspreiding van content online) zowel in de Casus online shaming, de Casus desinformatie en de Casus verstoord eetgedrag een rol. Ingrijpen in de mechanismen, zoals het vereisen van transparantie van de aanbevelingsmechanismen van online content of het opheffen van anonimiteit van internetgebruikers in bepaalde omgevingen, heeft zin bij het voorkomen of beperken van schadelijk en immoreel gedrag online. Maar dergelijke interventies vereisen zorgvuldige afweging en maatschappelijk debat. Die mechanismen van het internet kunnen namelijk ook leiden tot sociaal wenselijk gedrag en maatschappelijke verdiensten. Zo maakt anonimiteit online het voor klokkenluiders mogelijk om maatschappelijke misstanden aan te kaarten. Met ingrijpen in deze mechanismen worden mogelijk ook de positieve effecten beperkt of teniet gedaan.
Handelingsperspectieven
Het internet leek altijd een domein van zelfregulering en zelfredzaamheid van de samenleving, waar de overheid geen rol had en gebruikers zichzelf wel zouden redden. Uit dit onderzoek blijkt echter dat grondrechten in het geding zijn; burgers zijn op het internet onvoldoende beschermd. Bedrijven, maatschappelijke organisaties en burgers hebben een actieve overheid nodig om schadelijk en immoreel gedrag online tegen te gaan en sociaal wenselijk gedrag online te bevorderen.
Het rapport bevat een overzicht van bestaande maatregelen die overheden, bedrijven, hulpverleners en anderen al genomen hebben om schadelijk gedrag online aan te pakken. Dit overzicht van bestaande initiatieven geeft inzicht in de interventies die al werken en veelbelovend zijn om schadelijk en immoreel gedrag online te beperken of te voorkomen. Maar het laat ook zien waar in de aanpak nog gaten vallen en dus ruimte is voor extra interventies. De belangrijkste observatie is dat veel van de huidige initiatieven vooral reactief zijn van aard. Ze zijn met name gericht op de bestrijding van symptomen van schadelijk en immoreel gedrag, en nauwelijks op de onderliggende mechanismen. Daarbij zien we wel verschillen tussen de diverse actoren. Met name overheden en platformbedrijven zijn vooralsnog weinig proactief bezig. Bij platformbedrijven is dat niet zo verwonderlijk. Sleutelen aan mechanismen betekent immers dat de keuze gemaakt moet worden voor een alternatieve vorm van platformontwerp. Maar dit brengt onzekerheden mee ten aanzien van verdienmodellen – en bedrijven bewegen zich nu eenmaal binnen een competitieve markt. In de praktijk zijn het dan ook vooral andere, kleinschaliger partijen die met alternatieve vormen van ontwerp experimenteren.
De analyse van bestaande maatregelen laat zien dat overheden vooral in actie komen als gedragingen uit de hand lopen en dus in toom gehouden moeten worden. Hun interventies zijn tot nu toe vooral reactief. Het overzicht in dit rapport van de mechanismen die online schadelijk gedrag in de hand werken, kan overheden en andere partijen helpen om pro-actiever op te treden.
Op basis van interviews en gesprekken met deskundigen uit beleid, wetenschap en praktijk, vele wetenschappelijke, journalistieke bronnen en beleidsstukken, en de expertise uit eerder onderzoek en analyse van het Rathenau Instituut, introduceren we een strategische agenda voor de Rijksoverheid. Hierin identificeren we vier thema’s waarbinnen de Rijksoverheid een sturende, coördinerende en faciliterende rol kan vervullen om in samenwerking met actoren uit de markt en maatschappij, schadelijk en immoreel gedrag online aan te pakken en een veilige online omgeving kan bevorderen.
Het eerste thema – Herinrichting van de online omgeving – bevat handvatten voor de Rijksoverheid om de online mechanismen die schadelijk en immoreel gedrag online mede veroorzaken, ten goede te keren. Zo doet het rapport een aantal suggesties om in te grijpen in de aandachtseconomie online.
Het tweede thema – Online normen verhelderen – gaat in op de rol van de Rijksoverheid, markt en maatschappij bij het vernieuwen van de maatschappelijke afspraken over normen en waarden online. De handelingsopties bij dit thema beogen een bredere bewustwording en groter begrip van schadelijk en immoreel gedrag in de samenleving te bewerkstelligen.
Het derde thema – Mensen beschermen en slachtoffers bijstaan – bevat suggesties voor de Rijksoverheid, handhaving en uitvoeringsorganisaties om beter te reageren op de fenomenen van schadelijk en immoreel gedrag online en de schade hiervan. Zo doen we een aantal voorstellen voor de overheid om meer zichtbaar en aanwezig te zijn online.
Het vierde thema – Adaptief vermogen versterken – bevat suggesties voor de Rijksoverheid om grip te krijgen en te houden op schadelijk en immoreel gedrag online, dat continu in beweging is. Deze handelingsopties zijn gericht op het toekomstbestendig maken van de strategische agenda.
Mechanismen
Het internet als omgeving kent mechanismen die van invloed zijn op menselijk gedrag. Mensen kunnen door die online mechanismen bijvoorbeeld anders met normen en regels omgaan. Naast de mechanismen van het internet zijn er nog veel meer factoren van invloed op menselijk gedrag, zoals sociale, psychologische, culturele en economische oorzaken. Al deze factoren spelen een rol bij de ontwikkeling van schadelijk en immoreel gedrag online. Dit rapport richt zich op de mechanismen die kenmerkend zijn voor het internet.
Het onderzoek heeft in totaal 18 online eigenschappen en mechanismen geïdentificeerd die een rol spelen in het inspireren, faciliteren en aanjagen van schadelijk en immoreel gedrag online: 1) beschikbaarheid, 2) openbaarheid, 3) onmiddellijkheid, 4) continuïteit, 5) hyper-connectiviteit, 6) syndicatie, 7) echo chambers, 8) schaalbaarheid en viraliteit op platformen, 9) persistentie (en onbeheersbaarheid), 10) selectie en amplificatie, 11) aandachtseconomie, 12) ontmenselijking, 13) amusement, 14) beeldvorming, 15) onduidelijke normen, 16) anonimiteit, 17) (schijnbare) wetteloosheid, 18) afzondering. Deze mechanismen zijn samengebracht onder zes beschrijvende kenmerken van het internet:
- Alledaagsheid
- Verbindingen en netwerken
- Groeicapaciteit en bestendiging
- Escalatie
- Virtuele realiteit
- Wanorde
Een overzicht van alle mechanismen en hun indeling is te vinden in de figuur hieronder.
Lees de cases uit het rapport:
Onderstaande definities zijn gebaseerd op wetenschappelijk onderzoek en journalistieke bronnen. Bronverwijzing vindt u terug in hoofdstuk 3, waarin we de door het Rathenau Instituut ontwikkelde taxonomie van schadelijk en immoreel gedrag online presenteren.
Cancellen: online shaming waarbij wordt opgeroepen om iemand uit te sluiten uit diens community bij wijze van sociale straf.
Catfishing: het opzettelijk misleiden van anderen door delen van je eigen identiteit te verbergen of te veranderen, meestal in de context van online dating en soms zonder de intentie om iemand ooit in het echt te ontmoeten.
Complotdenken: de overtuiging dat bepaalde gebeurtenissen of situaties geen toeval zijn, maar in het geheim zijn gemanipuleerd door machtige groepen met verkeerde bedoelingen.
Cyberverslaving: excessieve en ongecontroleerde online activiteit met langdurig gebruik van internet in het algemeen en sociale media, gaming en pornosites in het bijzonder.
Cyberchondrie: excessief of herhaaldelijk zoeken naar informatie over gezondheid leidend tot onnodige paniek of zorgen over de gezondheid.
Cryptofraude: oplichting waarbij mensen worden aangemoedigd cryptomunten te (ver)kopen, soms in de vorm van een piramidespel, bijvoorbeeld om de beurswaarde van cryptomunten te manipuleren.
Cyberbullying: herhaaldelijk online pesten door een groep of individu van een slachtoffer dat zich niet gemakkelijk kan verdedigen.
Challenges: het aanmoedigen van mensen om bepaalde (gevaarlijke) opdrachten uit te voeren en vervolgens online te delen.
Desinformatie: het verspreiden van informatie die ‘onjuist’ of ‘misleidend’ is met de intentie om kwaadwillend te handelen of schade te berokkenen.
Digitaal vigilantisme: een vorm van collectieve actie, morele afkeuring of terechtwijzing (bijvoorbeeld via online shaming, intimidatie of doxing) gericht aan personen die ongewenst sociaal gedrag vertonen.
Doxing: het openbaar maken van iemands persoonlijke, sensitieve en privéinformatie zoals adres, telefoonnummer, paspoort, werkgever, gegevens van familie en foto’s van iemands kinderen.
Extreme pranks: een vorm van vernedering en voor de gek houden (plagerige grap) die plaatsvindt tussen dader, slachtoffer en omstanders. Online nemen pranks vaak de vorm aan van gefilmde “offline” pranks, waarbij de reactie van slachtoffers (verwarring, verbijstering, ongemak of schaamte) breed wordt uitgemeten.
Griefing: doelbewust irriteren van andere spelers in online games door bepaalde spelelementen zo te manipuleren dat andere spelers daar last van hebben.
Grooming: een proces waarbij een volwassene een relatie van seksueel misbruik ontwikkelt door middel van technologie, zoals op sociale media. In dit verband wordt ook gesproken van ‘digitale kinderlokkerij’.
Haatzaaien: alle uitingsvormen die zorgen voor de verspreiding, aanstichting, aanmoediging of legitimering van raciale haat, xenofobie, antisemitisme of andere vormen van haat gebaseerd op intolerantie.
Hacking: alle soorten activiteiten rondom het ongeautoriseerd toegang (proberen te) verkrijgen tot computersystemen. Kwakzalverij: onbevoegd uitoefenen van de geneeskunst door iemand die beweert ziekten te kunnen genezen met een nutteloos of zelfs schadelijk geneesmiddel.
Pedojagen: vorm van digitaal vigilantisme waarbij burgers zich voordoen als kind om pedofielen ‘in de val’ te lokken en ze vervolgens zelf te straffen of ze aan te geven bij de politie.
Phishing: manier om via het internet allerlei soorten informatie te ontfutselen over personen, bijvoorbeeld via valse e-mails of websites.
Pro-ana coach: persoon die jonge meisjes met een eetstoornis aanmoedigt om verder af te vallen, veelal met als doel seksueel expliciet materiaal van (minderjarige) meisjes te bemachtigen.
Sexting: verspreiden of delen van seksueel getinte berichten, foto's of video's van zichzelf via mobiele telefoons of andere media.
Sextortion: een vorm van afpersing waarbij een dader dreigt om zonder toestemming seksueel beeldmateriaal te openbaren van een slachtoffer om deze te dwingen om meer van dit soort foto’s te sturen, geld te betalen of om (seksueel getinte) opdrachten uit te voeren.
Shaming: vorm van digitaal vigilantisme waarbij publieke morele kritiek online wordt geuit als reactie op het overschrijden van sociale normen.
Shame sexting: het zonder toestemming maken en/of verspreiden van seksueel getinte beelden of video’s.
Stalking: het herhaaldelijk intimideren, lastigvallen en soms bedreigen van slachtoffers.
Sock puppet: een valse identiteit (sokpop) die wordt aangenomen om anderen te misleiden. Een sock puppet kan op sociale media bijvoorbeeld worden ingezet voor catfishing of trolling.
Trolling: het opzettelijk dwars zitten van mensen in online gemeenschappen met gedrag dat niet als acceptabel wordt gezien, zoals mensen uitschelden, ruzie zoeken of zich negatief uitlaten over anderen. Daarnaast bestaat tegenwoordig ook een bredere interpretatie van het begrip trolling, namelijk het gebruik van nepaccounts om desinformatie te verspreiden en het publieke debat te beïnvloeden.
Wraakporno: zonder toestemming bezitten, openbaar maken en verspreiden van (gestolen) seksueel beeldmateriaal door bijvoorbeeld hackers, (ex)partners, kindermisbruikers, verkrachters en mensenhandelaren.
Verstoord eetgedrag (eetstoornissen): psychische stoornissen die worden gekenmerkt door verstoord eetgedrag en/of inadequaat compensatiegedrag (braken, laxeren). Mensen met een eetstoornis hebben een verstoord lichaamsbeeld, zijn veel bezig met hun gewicht of lichaamsvorm en zijn erg bang om aan te komen.