‘Het is gevaarlijk als technologie wordt gepresenteerd als oplossing voor wantrouwen’

Liever luisteren? Het gesprek met Marleen Stikker zit in aflevering 5 van onze podcast Ondergedompeld in een nieuwe werkelijkheid vanaf minuut 16.

In de jaren 90 richtte je samen met anderen De Digitale Stad op. Dat was de eerste publieke online omgeving in Nederland. Kun je schetsen hoe dat ging?
Het was een initiatief van hackers, kunstenaars en activisten die het internet toegankelijk wilden maken voor gewone mensen. Het was een experimentele digitale omgeving, waar je kon meebouwen aan het internet.

Het internet ontstond dus decentraal, op een federatieve manier. Hoe komt het dat nu grote techbedrijven online de meeste invloed hebben?
Voor De Digitale Stad kregen we wel wat publieke financiering. Maar na een jaar investeerde de overheid niet meer in maatschappelijk initiatief en het publieke internet. Er was een heilig geloof in de markt. Alles werd in die tijd geprivatiseerd. Het openbaar vervoer, de energiemarkt. Maar op dat moment had het internet eigenlijk steun nodig om het als publieke ruimte te behouden. Dat moment is gemist. 

Was dat frustrerend voor jou?
Ja, dat was voor veel mensen uit die tijd erg frustrerend. De technologie biedt namelijk kansen om dingen anders te organiseren, mensen een stem te geven. Maar dezelfde technologie maakt ook surveillance mogelijk, en machtsconcentratie. Dat was ook begin jaren 90 al bekend.

Inmiddels zien veel mensen die keerzijden ook.
Ja, maar dat heeft wel verschrikkelijk lang geduurd. Je kunt natuurlijk ook zeggen: we zijn eindelijk op de goede weg.

Is er een bepaald omslagpunt aan te wijzen?
Er gebeurt vaak pas wat als men met de rug tegen de muur staat. Als er extreme situaties ontstaan. Bijvoorbeeld toen Snowden liet zien dat er in alle onderdelen van het internet, en ook van telefonie, afluistermechanismen zitten. Dat de staat meekijkt. Later kwam natuurlijk Cambridge Analytica. Die liet het probleem met Facebook zien: dat heel veel data is gebruikt om mensen te manipuleren in hun voorkeur rondom de verkiezingen in de Verenigde Staten en bij de Brexit.

Rond die tijd was men in de Europese Unie al bezig met privacywetgeving. Die kreeg toen vleugels. Dus binnen no time is de GDPR aangenomen, in het Nederlands heet dat de AVG. En inmiddels is er meer wetgeving, zoals de Digital Service Act, de Digital Market Act en de AI Act. 

Zie je dat als positieve ontwikkelingen?
Jazeker. Maar we zijn nog ver verwijderd van een veilig digitaal domein. We staan nog maar aan het begin van dat hele proces. Er zijn nog allerlei vraagstukken in de handhaving. We besteden nog altijd veel meer geld aan bijvoorbeeld het veilig maken van ons voedsel, dan we besteden aan het veilig maken van internet.

Hoe kijk je naar de opkomst van Web3, waarbij er nieuwe online toepassingen ontstaan op een decentrale manier, bijvoorbeeld door middel van blockchaintechnologie?
Ik ben een pleitbezorger van het federatieve, gedistribueerde internet. Bij Mastodon, het alternatief voor Twitter, is er niet één centrale server, maar een heel netwerk van servers, die onderling informatie uitwisselen. Er zijn dus ook veel meer mensen betrokken bij en verantwoordelijk voor moderatie. Zo hoort het ook.

Maar met Web3 en blockchain heb ik een wat ongemakkelijke relatie. Het is vooral een investeerdersfeestje met een libertaire ideologie. Je hebt daar mensen die zeggen: de staat hebben we niet nodig, blijf van ons af, reguleer ons niet, het komt allemaal goed. Nou, we zien dat dit helemaal niet per se goed komt.

Wat gaat er dan mis?
Er is een elite die de technologie begrijpt. Het kapitaal klotst tegen de plinten. Ze hebben allemaal fantastische conferenties met elkaar. Ze weten heel goed hoe je op het juiste moment in- en uitstapt. Deze mensen sturen uitsluitend op aandeelhoudersbelang en zijn niet geïnteresseerd in de analyses over wat voor sociale processen en nieuwe machtsconstellaties er ontstaan.

Je stelt dat vertrouwen, trust, een begrip is dat vaak terugkomt?
Vaak wordt gezegd: mensen kunnen elkaar niet vertrouwen, dus we laten de technologie dat vertrouwen afdwingen. Daarmee is vertrouwen een transactie geworden, buiten jezelf. Ik vind dat fundamenteel heel gevaarlijk. Er zit een groot wantrouwen in naar de mens, naar ons vermogen om empathisch te zijn en het goede te doen.

Hoe kijk je aan tegen zogeheten OpenAI, zoals ChatGPT?
Het is uiteindelijk gewoon een tool, een taalmodel. Zonder intelligentie in de zin van reflectie, consequenties en betekenis. We zijn overgeleverd aan de moraliteit van de programmeurs die in dienst zijn van grote technologiebedrijven.

OpenAI heeft zich onrechtmatig wetenschappelijke, culturele en sociale producties toegeëigend en slingert het de samenleving in. Dus uiteindelijk moet je weten: wie is de eigenaar van deze AI? Wat is het verdienmodel? Wat wil men hiermee?

Je kunt je afvragen of alles wat wij als mensen aan kennis, afbeeldingen en verbeeldingen hebben geproduceerd niet gewoon commons zijn.

Je noemt commons. Dat zijn hulpbronnen die van ons allemaal zijn, zoals bossen en de zee.
Ja, zo organiseerden we heel veel in het verleden: ziekenhuizen, woningbouw, landbouw. Je hebt coöperatieve structuren die ervoor kunnen zorgen dat je de publieke waarden in het oog houdt. Dat privaat belang niet overheerst, dat er geen extractie van waarde is. Dat is denk ik één van de belangrijke factoren voor de toekomst van het digitale domein. Dat wordt nu op allerlei manieren uitgedacht en uitgewerkt.

Hoe kijk je naar de rol van AR en VR in dat digitale domein?
Het idee van virtual reality en augmented reality bestaat al heel lang. Er zitten interessante dingen bij, maar ik geloof niet dat het onze toekomst is. Ik zie daar ook niet zo heel veel nieuws gebeuren. Er wordt wel heel veel gepresenteerd als nieuw, maar ik vind het altijd een beetje teleurstellend.

En de metaverse?
Dat is totale nonsens in mijn ogen. In 2006 was er al een hype rond Second Life. Dat werd het ook niet. Ik denk dat de timing van Zuckerberg een beetje fout is geweest. Na covid waren juist heel blij om gewoon fysiek weer iets mee te maken, in een echte concertzaal te staan. Ook hier zie je dat het vooral een poging is om investeerders en aandeelhouders tevreden te houden. Als je beursgenoteerd bent, moet je steeds absurdere claims rond technologie maken om on top of je game te blijven.

Welke kant moet het volgens jou wel op?
We moeten investeren in zogeheten public technology en civic technology. Dat is kortgezegd technologie waarbij het publieke belang voorop staat. Er is wetgeving nodig die afdwingt dat goed onderzoek wordt gedaan, voordat een product de wereld wordt ingeslingerd. Net zoals bij geneesmiddelen en voedsel.

Daarnaast is het versterken van technologisch en creatief burgerschap nodig. Ik ben een voorstander van makeronderwijs, zoals bijvoorbeeld met ons FabLab. Zorg dat je mensen leert hoe technologie werkt. Hoe je het zelf naar je hand kunt zetten. Als dat vermogen groeit in de samenleving, heb je ook meer mensen die er richting aan kunnen geven.

Daarbij draait het niet per se om technologie. Het is niet alleen voor hoger opgeleiden die iets over AI weten. Het gaat ook om de sociale wetenschappen, om vakmanschap, makers. We kunnen veel meer mensen betrekken bij het maken van de toekomst.

Gerelateerde publicaties: