Met dit onderzoek willen we bijdragen aan een beter begrip van de randvoorwaarden en methoden voor het bereiken van inclusievere online omgevingen zodat uiteindelijk iedereen zich op een gelijkwaardige en menswaardige manier in online ruimtes kan begeven. We geven ook inzicht in belangrijke ontwerpkeuzes achter online omgevingen, zoals over het verdienmodel, de governance en manieren van dataverzameling. Dat is belangrijk, want de ontwerpkeuzes achter de online omgevingen die veel mensen dagelijks gebruiken zijn niet neutraal. Ze bepalen actief de voorwaarden voor hoe mensen zich tot elkaar verhouden en hebben invloed op wie er toegang heeft, wat mensen te zien krijgen en mogen delen.
Onderzoeksaanpak
In ons onderzoek hebben we ervaringen van lhbtiq+-personen met online omgevingen onderzocht in een casestudie. Die ervaringen leveren een set aan randvoorwaarden op voor inclusiever ontwerp. We hebben voor deze casestudie gekozen omdat lhbtiq+-personen disproportioneel veel te maken krijgen met online haat, terwijl ze ook juist veel baat kunnen hebben bij online omgevingen waar ze zichzelf kunnen zijn. Voor hen staat dus veel op het spel. Dat maakt dat hun ervaringen ons veel kunnen leren over hoe we online omgevingen inclusiever ontworpen zouden kunnen worden voor iedereen.
We combineren in dit rapport kwalitatief onderzoek (interviews en literatuur-onderzoek) met een ontwerptraject. In dat ontwerptraject hebben we in verschillende ontwerpsessies samen met een groep Nederlandse lhbtiq+-personen gekeken naar hoe online omgevingen inclusiever zouden kunnen worden. En welke randvoorwaarden voor inclusiever ontwerp daarvoor belangrijk zijn.
Uitkomsten
Uit dit onderzoek komt naar voren dat online omgevingen mensen veel kunnen bieden. Voor inclusieve online omgevingen zijn een aantal randvoorwaarden nodig:
- Ruimte voor zelfexpressie en identiteit
- Ruimte voor verbinding en thuisvoelen
- Veiligheid en privacy
- Controle en autonomie
- Inclusieve contentmoderatie
We willen begrijpen hoe deze randvoorwaarden kunnen leiden tot een inclusiever ontwerp van online omgevingen. Dit rapport presenteert het Ontwerpkeuzemodel online omgevingen, om verschillen in ontwerpkeuzes zichtbaar te maken. Het model bestaat uit twee hoofdlagen die nauw met elkaar zijn verweven.
Bovenstrooms maken beheerders van online omgevingen keuzes over het verdienmodel, visie en governance van online omgevingen. Het gaat dan bijvoorbeeld over eigenaarschap, of de manieren van contentmoderatie. Die keuzes maken andere ontwerpkeuzes mogelijk of waarschijnlijk. Zo is het verdienmodel, vaak gebaseerd op het aanbieden van persoonlijke advertenties, van directe invloed op de noodzaak tot tracking, de keuze tot gepersonaliseerde algoritmes en het vasthouden van de aandacht van gebruikers. Governance bepaalt wie macht heeft over ontwerp, regels en handhaving binnen een online omgeving. De mate van interoperabiliteit en centralisatie hangen ook weer sterk samen met het verdienmodel.
De keuzes die bovenstrooms worden gemaakt hebben invloed op andere ontwerpkeuzes benedenstrooms. Ook daar worden belangrijke ontwerpkeuzes gemaakt: over dataverzameling en verwerking en over hoe de gebruikersinterface eruit ziet. Dataverzameling en verwerking ligt aan de basis van de werking van huidige online omgevingen. Keuzes voor de manier van profileren en aanbevelen hebben invloed op hoe mensen online omgevingen ervaren. En keuzes over de gebruikersinterface zijn direct zichtbaar voor gebruikers en maken gedrag mogelijk of beperken het juist. Dit is waar gebruikers dagelijks mee te maken krijgen. Welke ontwerpkeuzes worden bijvoorbeeld gemaakt op het gebied van gepersonaliseerde algoritmes, zichtbaarheid en aanpasbaarheid?
De combinatie van deze ontwerpkeuzes bovenstrooms en benedenstrooms hebben invloed op de uitkomsten voor gebruikers. Gebruikers bevinden zich in online omgevingen die ontworpen zijn om bepaald gedrag aan te moedigen en ander gedrag te ontmoedigen. Dat beïnvloedt de uitkomsten die zij ervaren. Die kunnen zowel positief als negatief uitpakken: omgevingen kunnen bijdragen aan zelfexpressie en verbinding, maar ook bijdragen aan onveiligheid en zelfcensuur.
De uitkomsten van mensen online worden uiteindelijk beïnvloed door een gelaagd systeem van ontwerpkeuzes waarin economische belangen een dominante rol spelen. Doordat een beperkt aantal online omgevingen tegenwoordig een groot deel van het internetgebruik van mensen in beslag neemt, maken ook een beperkt aantal partijen belangrijke keuzes die doorwerken voor gebruikers. Dat maakt het belangrijk om niet alleen te focussen op veranderingen benedenstrooms, zoals het beperken van schermtijd, maar ook op interventies die raken aan bovenstroomse ontwerpkeuzes, op het gebied van verdienmodel, visie en governance.
Speculatieve prototypes
Zogeheten speculatieve prototypes kunnen helpen om een voorstelling te maken van hoe een online omgeving eruit zou kunnen zien wanneer waarden als zelfexpressie, veiligheid en autonomie als uitgangspunt voor het ontwerp worden genomen. In dit rapport presenteren we twee speculatieve prototypes die voortkomen uit de randvoorwaarden voor inclusieve online omgevingen: control over sharing en human in the loop. Het eerste geeft gebruikers controle over wie hun content ziet en waarschuwt bij onverwachte viraliteit. Het verschilt daarmee wezenlijk van huidige online omgevingen die gericht zijn op schaal en dataverzameling. Het tweede prototype maakt het moderatieproces transparant en menselijk, met inzicht in beslissingen en de mogelijkheid tot gesprek met een moderator. Dit is een fundamenteel andere aanpak dan de geautomatiseerde, afstandelijke systemen van nu. Beide prototypes tonen hoe andere ontwerpkeuzes kunnen bijdragen aan meer inclusieve online omgevingen.
Niet alleen voor lhbtiq+-personen, maar voor iedereen
De afgelopen vijftien jaar is de pluriformiteit van online omgevingen afgenomen en zijn ontwerpkeuzes gemaakt die de zeggenschap van gebruikers niet altijd ten goede komen. Dat terwijl online omgevingen juist de potentie hebben om een sleutelrol te vervullen bij het realiseren van zelfexpressie en verbinding in onze maatschappij. Het zijn de facto belangrijke ruimtes in onze samenleving geworden waar mensen samenkomen.
Voor de ontwikkeling van inclusieve online omgevingen is het nodig dat niet alleen naar symptoombestrijding wordt gekeken, zoals meer handhaving tegen online haat, maar ook naar meer fundamentele andere ontwerpkeuzes. Want zoals we hebben gezien, heeft de manier waarop online omgevingen omgaan met governance, hoe interoperabel ze zijn en hoe beheerders van online omgevingen hun geld verdienen, grote invloed op de gebruikersinterface en uiteindelijk op de ervaring van gebruikers.
De randvoorwaarden die uit dit onderzoek naar voren komen, zijn niet uniek voor lhbtiq+-personen. Zelfexpressie en verbinding zijn voor iedereen belangrijk. Ook andere groepen die hier in de fysieke wereld meer obstakels bij ondervinden, hebben baat bij inclusievere online omgevingen. De randvoorwaarden veiligheid en privacy, controle en autonomie en inclusieve contentmoderatie kunnen andere manieren van ontwerpen en reguleren inspireren die het internet voor iedereen een fijnere plek maken.
Handelingsopties
Hoewel fundamentele rechten zoals vrijheid van meningsuiting, privacy en veiligheid wettelijk zijn verankerd, worden deze online nog onvoldoende gerealiseerd. De manier waarop veel online omgevingen zijn ingericht, met gecentraliseerde governance en datagedreven verdienmodellen, staat op gespannen voet met zeggenschap en inclusie. Tegelijkertijd neemt de pluriformiteit van het online landschap af, wat de keuzemogelijkheden voor gebruikers verder beperkt. Dat stelt zowel overheden als beheerders van online omgevingen voor een urgente opgave.
Dit rapport benoemt twee richtingen voor verbetering: (1) versterken van inclusie binnen huidige online omgevingen, en (2) systeemverandering gericht op een inclusiever landschap van online omgevingen. De eerste richting vraagt om betere handhaving van bestaande kaders, zoals de Europese digitaledienstenverordening (DSA), en om concrete maatregelen van beheerders van online omgevingen, zoals op het gebied van contentmoderatie. De tweede richting onderstreept dat inclusievere online omgevingen alleen mogelijk zijn door fundamentele keuzes over verdienmodellen, ontwerpprincipes en governance. Een inclusiever en pluriform internet voor iedereen vraagt om politieke en maatschappelijke keuzes over publieke digitale infrastructuur en het ingrijpen op fundamentele ontwerpkeuzes. Beide richtingen bevatten concrete handelingsopties voor overheden en beheerders van online omgevingen, met als doel online omgevingen waar iedereen zich vrij en veilig kan uiten.
Dit rapport benoemt twee richtingen voor verbetering: (1) versterken van inclusie binnen huidige online omgevingen, en (2) systeemverandering gericht op een inclusiever landschap van online omgevingen.
Voor het aanpakken van huidige online omgevingen zijn zeven handelingsopties belangrijk:
- Bescherm de vrijheid van meningsuiting en voorkom normalisering van haat
- Voorkom dat nieuwe maatregelen fundamentele rechten ondermijnen
- Handhaaf de AVG en DSA op Nederlands niveau
- Handhaaf de DSA op Europees niveau
- Stimuleer onderzoek naar nieuwe manieren van inclusieve contentmoderatie
- Betrek groepen in gemarginaliseerde positie bij in kaart brengen mensenrechtenrisico’s
- Verhoog capaciteit en verbeter ondersteuning menselijke contentmoderatie
Voor een systeemverandering gaat het om de volgende vijf handelingsopties:
- Overweeg ingrijpen in verdienmodel, governance en dataverzameling
- Voer politiek en publiek debat over digitale publieke infrastructuur
- Stimuleer een decentraal en interoperabel landschap van online omgevingen
- Gebruik ervaringen van gemarginaliseerde groepen bij herontwerp van online omgevingen
- Vergroot de zeggenschap van gebruikers
Een uitgebreide behandeling van de handelingsopties staat in hoofdstuk 8 van het rapport.