Haat en contentmoderatie: waarom online omgevingen niet inclusief zijn
Waarom voelen mensen zich niet vrij en veilig op apps, platforms en andere online omgevingen? Welk gedrag en welke ontwerpkeuzes spelen daarbij een rol? Voor antwoorden op deze vragen hielden onderzoekers van het Rathenau Instituut ontwerpsessies met lhbtiq+-personen. Zij hebben online overmatig te maken met schadelijk gedrag, uitsluiting en ontwerpkeuzes die hun zeggenschap beperken. Onderstaande fictieve casus over Noah is gebaseerd op de ervaringen van lhbtiq+-personen.
Waarschuwing: deze casus bevat aanstootgevende en haatdragende termen en concepten. Uit overwegingen van transparantie en urgentie hebben we ervoor gekozen deze termen letterlijk weer te geven.
Noah, 28 jaar
Noah is een zelfverzekerde trans vrouw van 28 jaar die inmiddels vol in het leven staat. Noah is geboren in het lichaam van een jongen en groeit op in een klein dorpje in Groningen. Ze heeft altijd het gevoel dat er iets aan haar lichaam niet klopt.
Haar basisschooltijd verloopt redelijk soepel, maar Noah voelt zich op de middelbare school erg eenzaam. Ze wordt buitengesloten en gepest door haar medeleerlingen. Bovendien kent Noah geen andere trans tieners, waardoor ze geen gelijkgestemden heeft die in dezelfde situatie verkeren.
Herkenning
Noah zoekt daarom online naar verbinding. Ze komt terecht op een online forum waar ze ervaringen met andere trans tieners uitwisselt. Voor het eerst krijgt Noah herkenning en kan ze haar hart luchten bij andere tieners die haar begrijpen. Via het forum raakt Noah bevriend met twee trans tieners die ook in Groningen wonen. Ze is nog steeds met deze mensen bevriend. Daarnaast vindt Noah op het forum informatie over het mogelijke transitieproces. Ook leest ze over de ervaringen van tieners die al bezig zijn. Deze informatie had Noah in haar fysieke omgeving niet aangereikt gekregen.
Haat
Helaas zijn Noahs online ervaringen niet alleen positief. Op haar zestiende start Noah haar sociale transitie. Ze begint met hormoonremmers, presenteert zich naar de buitenwereld als vrouw en deelt dit op sociale media. Haar profiel staat openbaar en haar telefoon trilt eindeloos door de notificaties van negatieve, haatdragende en bedreigende berichten. Noah ontvangt reacties zoals: 'Aandachtzoeker, spring a.u.b. van een flat af', 'Ik hoop dat je verkracht wordt', 'Hij verdient een trap in zijn genitaliën', en 'Mensen zoals jij moeten aan een transgalg'. Noah is in shock. Ze voelt zich onveilig en afgewezen, terwijl ze eerder juist online verbinding vond.
Op haar twintigste ondergaat Noah een genderbevestigende operatie. Als ze haar ervaringen hierover deelt op sociale media, wordt haar content verwijderd omdat het platform het beoordeelt als 'seksueel getint'. Om verdere censuur te voorkomen, post Noah niet meer over de operaties.
Het dieptepunt van negatieve online-ervaringen bereikt Noah op haar 22ste. Ze heeft dan een groot aantal volgers opgebouwd. Een van haar berichten bereikt een radicale anti-transgroepering op Facebook. Haar telefoon trilt weer eindeloos door de notificaties van negatieve, haatdragende en bedreigende berichten. Maar deze keer blijft het niet bij online bedreiging. Een paar dagen later wordt Noah onderweg naar college belaagd door twee mannen. Dat resulteert in een gebroken kaak en een gebroken neus.
Noodgedwongen onzichtbaar
Zowel de politie als Noahs sociale omgeving adviseren haar om haar socialemediaprofiel op privé te zetten, oftewel onzichtbaar te maken voor onbekenden. Dit doet ze. Daardoor verdwijnt haar online zichtbaarheid grotendeels. Het doet haar veel pijn dat ze zichzelf noodgedwongen onzichtbaar moet maken. Het voelt alsof zij online geen bestaansrecht heeft, terwijl de zichtbaarheid van andere trans tieners haar tijdens haar jeugd juist enorm heeft geholpen in haar zoektocht naar zichzelf.
Wat gaat er hier mis?
Op sociale media worden veel haatuitingen en bedreigende berichten gestuurd naar LHBTIQ+-personen. Uit onderzoek dat de Groene Amsterdammer in samenwerking met de Utrecht Data School deed naar online haat tegen lhbtiq+-personen in Nederland blijkt dat de vijandigheid op alle onderzochte sociale platformen (Twitter, Telegram, Instagram en YouTube) toeneemt.
Uit datzelfde onderzoek blijkt dat online haat jegens LHBTIQ+-personen agressie en intolerantie normaliseert. De haat verplaatst zich daardoor naar de fysieke wereld. De Raad van de Europese Unie stelt dat de online stijgende anti-lhbtiq+- retoriek een gevolg is van online desinformatie en onjuiste informatie en leidt tot geweld, intimidatie en stigmatisering.
Censuur en zelfcensuur
De community guidelines en contentmoderatie van platformen werken regelmatig in het nadeel van lhbtiq+-personen. Volgens mediawetenschappers Kay Kender en Katta Spiel ervaren lhbtiq+-personen disproportionele verwijdering van content, ook al is de content niet in strijd is met de community guidelines. Platformen zoals YouTube en Facebook hebben lhbtiq+-content gelabeld als 'adult content' terwijl er geen naaktheid of seksualiteit te zien was op deze content. De platformen schreven dit toe aan algoritmisch en menselijk falen om de nuances binnen content te beoordelen. Volgens de Amerikaanse internetrechtenorganisatie Electronic Frontier Foundation is er een lange geschiedenis van lhbtiq+-content die door zowel algoritmen als menselijke moderatoren wordt geclassificeerd als 'seksueel expliciet'.
Zelfcensuur kan plaatsvinden wanneer censuur vanuit een platform leidt tot angst om zichzelf te uiten. Zo kan zelfcensuur om moderatie te voorkomen, bijdragen aan de onzichtbaarheid van bepaalde mensen of uitingen in het publieke debat.