Transcript aflevering 5 Ondergedompeld in een nieuwe werkelijkheid
In deze aflevering komen de volgende personen aan het woord:
· Marloes: Marloes Pomp (Dutch Blockchain Coalition)
· Anne-Karlijn: Anne-Karlijn van Kesteren (Design Museum Den Bosch)
· Marleen: Marleen Stikker (Waag Futurelab)
· Wouter: Wouter Nieuwenhuizen (Rathenau Instituut)
· Voice-over: Mariëtte van Huijstee (Rathenau Instituut)
Marloes:
Als je kijkt naar de verduurzaming van de keten. Het zou natuurlijk heel mooi zijn als je een fysiek kledingstuk koopt, dat je meteen de NFT erbij krijgt. Zodat je meteen je bonnetje hebt, maar ook de wasinstructies, de historie. Zodat je het ook veel makkelijker weer kunt verkopen. Nu is het best wel gedoe.
Voiceover:
Leven we straks in een metaverse waarin we helemaal worden ondergedompeld in een digitale wereld? In deze podcast van het Rathenau Instituut gaan Stefan Roolvink en Wouter Nieuwenhuizen op zoek naar antwoorden op deze en andere vragen over onze digitale toekomst. Ze gaan langs bij artsen, scholen en musea waar nu al gewerkt wordt met zogenoemde immersieve technologie. Denk bijvoorbeeld aan virtual reality waarbij je via een speciale bril helemaal opgaat in een virtuele wereld. Of augmented reality waarbij je een extra laag over de werkelijkheid ziet. Hoe kan dit soort technologie ons leven verrijken? En waar komen belangrijke waarden, zoals privacy en autonomie, onder druk te staan?
Vandaag onderzoekt Wouter welke nieuwe mogelijkheden immersieve technologie biedt om te ondernemen en geld te verdienen in de virtuele wereld. Hij bezoekt een expositie van virtuele mode en gaat in gesprek met Marleen Stikker over de verdeling van macht op het internet. Hoe het begon, hoe het nu is en waar we heen gaan.
Marleen:
Dat er geen privaat belang is, dat er geen extractie van waarde is, daar gaat het natuurlijk ook heel erg om. Dat er niet waarde onttrokken wordt aan datgene wat je resource is, wat je gezamenlijke resource is. En dat is denk ik een van de belangrijke factoren voor de toekomst van het digitale domein.
Voiceover:
Wouter gaat naar het Design Museum in Den Bosch waar een expositie is over digitale mode. Anne-Karlijn van Kesteren is curator en leidt Wouter rond.
Anne-Karlijn:
Nou welkom bij Screenwear, dat is de tentoonstelling over digitale mode in het Design Museum in Den Bosch. We stappen hier nu net binnen in een totaal donkere zaal met een hele hoop schermen. In totaal zijn er meer dan 60 schermen in de expositie en een hele hoop iPads. En alles wat je ziet is ook digitaal, dus er is geen enkel fysiek stuk te vinden in deze ruimte.
En ja, het eerste wat je ziet hier is een digitaal persoon. Ik verklap hem eigenlijk al direct, want ze ziet er heel erg echt uit. Maar ze is totaal digitaal gemaakt en het is Shudu, het eerste digitale supermodel dat inmiddels ook echt al shows ‘loopt’. Dat doet ze eigenlijk niet natuurlijk, want ze is digitaal. Maar ze doet heel veel campagnes voor grote modemerken.
Er is best wel veel controverse over haar geweest, want ze is niet als zodanig digitaal de wereld ingekomen. En het duurde even voordat mensen door hadden dat ze dus niet echt was. Want ze kreeg in 2017 een Instagram account en ze is hyperrealistisch. Dus mensen hadden op een gegeven moment door dat er toch iets niet. Ze is misschien te mooi om waar te zijn. En dat is ook zo, want ze is gemaakt door een Engelse, ja een soort modefotograaf eigenlijk, Cameron James Wilson. En inmiddels heeft hij een digitaal supermodellenbureau met meerdere modellen die allemaal digitaal zijn. En Shudu is toch wel een van de meest bekende en heeft inmiddels een internationale following.
Wouter:
En wat is de reden dat mensen van dat modebedrijf hebben gekozen voor zo'n digitaal model?
Anne-Karlijn:
Nou ja, de afgelopen jaren dat we ineens allemaal thuis zaten heeft een enorme boom gebracht voor modebedrijven omdat ze digitaal moesten. En wat je ziet is dat digitale mode eigenlijk al onwijs lang bestaat. Het heet alleen anders, het heette skins.
Wouter:
Skins in de vorm van in games?
Anne-Karlijn:
In games inderdaad. En die samenwerking tussen games en modemerken daar is het eigenlijk in het begin een beetje gestart. Dus Louis Vuitton had ineens een game karakter als model in hun campagne, en andersom gingen zij kleding ontwikkelen voor in de game. En je ziet dat daar eigenlijk eerder de eerste speldenprikjes zijn geweest voor een hele vruchtbare samenwerking tussen twee enorme industrieën. En ja, zodoende wordt er continu geflirt en de afgelopen jaren dat we allemaal thuis kwamen heeft dat gewoon een enorme explosie gehad. En zie je ook dat heel veel jonge makers zich meer op het digitale zijn gaan richten. Het digitale ontwerpen van mode.
Wouter:
Want begint het ontwerpen niet altijd digitaal?
Anne-Karlijn:
Nee, traditioneel gezien zat je echt met papier en krijt vaak om patronen te tekenen. Je eerste ontwerpen schetste je op papier en uiteindelijk is het naald en draad. Voordat er een modecollectie op de markt komt, zijn er van jouw kledingstukken al tachtig varianten gemaakt en zijn de hele wereld rondgevlogen voordat dat ene stuk in de winkel hangt.
Als je geen fysieke stukken hoeft te maken en je kunt digitaal ontwerpen en je kunt digitaal passen en je kunt digitaal stukken naar de andere kant van de wereld sturen voordat ze in productie gaan. Daarmee maak je eigenlijk de keten minder vervuilend. Het is allemaal een beetje kip-of-ei verhaal, want ook digitaal vervuil je een hoop met alle computers die aan het werk zijn en dergelijke. Maar het zijn andere soorten productieketens die ontwikkeld worden.
Wouter:
Ik vind het grappig, want het lijkt voor mij alsof 3D-design of ontwerp, dat kan toch al twintig, dertig jaar? Waarom hebben we het nu over digitaal modeontwerpen, terwijl, ja, dat 3D-ontwerp bestaat toch heel lang?
Anne-Karlijn:
Dat bestaat zeker heel lang, maar ik denk dat de mode-industrie een van de moeilijkste is om überhaupt…. want mode is per definitie heel tastbaar. Het zit heel dicht bij je op de huid. Het zegt ook heel veel over ons. De eerste vraag dat heel veel mensen stellen als we hier in deze expositie staan, is hoe draag je het dan? Want het is geen fysiek stuk, dus het staat wat dat betreft weer heel ver van ons vandaan. Ook al zou het al heel lang kunnen en er zijn echt wel onderdelen in de productieketen die digitaal worden gedaan, maar traditioneel gezien is kleding een van de meest fysieke uitingen van ontwerp, omdat het zegt iets over ons. Het is echt tastbaar, je voelt het, je hoort het ook op de huid te dragen.
Maar er zijn toch nog heel veel beperkingen in die digitale ontwikkelingen, in dat digitaal ontwerpen. En daar zijn ook wel een aantal makers hier die daarop reageren. Want ook al zou je denken, sky is the limit, maar er zijn heel veel beperkingen in het digitaal ontwerpen.
Als jij hier nou naar kijkt, zie je hier dan echt een kledingstuk? We kijken naar een soort van baljurk? Het lijkt in brand te staan, zo interpreteer ik het. En rechts zagen we een ballonvorm van een jurk.
Wouter:
We zien nu eigenlijk een soort mensen, nou ja het zijn niet eens mensen, door de kleding.
Anne-Karlijn:
Het zijn avatars.
Wouter:
Het zijn sowieso geen mensen, maar ook doordat de kleding er zo futuristisch uitziet, worden het ook een soort aliens eigenlijk. Zo kijk ik ernaar.
Anne-Karlijn:
We kijken eigenlijk wel naar een hele bijzondere collectie, want deze collectie is van Auroboros. Dat is een Londens couturehuis, een digitaal couturehuis. Met deze aankondiging, of met deze lancering van deze collectie tijdens het London Fashion Week, kon je dan ook een QR-code scannen, en via AR kon je die jurk als een soort van alien-achtig plant om je heen leggen.
Wouter:
Het beweegt ook, de jurk.
Anne-Karlijn:
Het beweegt ook echt, ja.
Wouter:
En had je de telefoon in selfie-stand of zo?
Anne-Karlijn:
Ik denk dat je iemand anders een telefoon moest geven, zodat je het zelf kon dragen. Want in selfie-stand is het wat lastig, ook om de afstand, om je hele lichaam te pakken. Maar dat is natuurlijk ook een vorm waarop het veel gedragen wordt nu. En je staat er bijna van versteld hoeveel mensen niet meer doorhebben dat filters zo belangrijk zijn geworden in onze omgeving. Want dat je een digitale laag over jezelf in realtime kunt leggen, dat is natuurlijk wel echt hét moment geweest waarop digitale mode een stuk groter werd. Omdat het ook op die manier via Snapchat ook gewoon toegankelijk werd gemaakt.
Wouter:
Wat ik ook heel grappig vind, er staat onder: ‘Bruikleen kunstenaar’. Daarbij denk ik toch aan een fysiek object, wat je uitleent, ergens naartoe brengt en weer terugneemt. Maar dit zijn de digitale objecten.
Anne-Karlijn:
Dat klopt, maar wel van alle digitale objecten moet je natuurlijk toestemming hebben om ze te tonen.
Wouter:
Ja, uiteraard.
Anne-Karlijn:
En ik krijg heel vaak de vraag, hoe zit dat dan met digitale mode? Het hele proces is niet zo heel anders. Ik krijg alleen in plaats van een transporteur, krijg ik een Wetransfer-link. Maar ik heb nog steeds het stuk dat je afspraken moet maken en dat ze een compensatie krijgen, en dat je afspraken maakt hoe het getoond wordt. Zij moeten daar achter staan. Dus geen enkel werk wat hier in de tentoonstelling te zien is, is niet afkomstig van de rechtmatige eigenaar.
Want dat is wel een beetje… en daar komt denk ik de NFT ook om de hoek… In hoeverre ben je eigenaar van een digitaal bestand? We hebben ook hele andersoortige afspraken moeten maken met makers als het gaat over tonen van het werk. Want ik kreeg ineens, toevallig van Auroboros, de vraag: ‘wat doen jullie met piraterij?’. Dat is niet iets waar het museum überhaupt over na heeft gedacht. Wat doen we met piraterij? En dat moest dus in het contract vastgelegd worden. Dat we daar extra alert op zijn dat mensen dus geen opnames maken van het werk dat ze hier tonen.
Voiceover:
Het woord viel al, de NFT. De afkorting voor non-fungible token. Dat is een digitaal eigendomsbewijs, meestal vastgelegd in een blockchain. Marloes Pomp onderzoekt de kansen en gevaren van deze techniek, onder meer bij de Dutch Blockchain Coalition. Ze loopt met Wouter mee door het Design Museum. Ze hebben het onder meer over Web3. Dat is een beweging die streeft naar een decentraler internet, waarbij de gebruiker meer macht heeft, op basis van blockchain technologie.
Marloes:
Ik vind het fantastisch om hier rond te lopen. Ik ken ook de meeste werken, ik heb er ook een aantal.
Wouter:
Je hebt er ook een aantal?
Marloes:
Ja, die je net zag van The Fabricant, die heb ik toevallig ook.
Wouter:
En dat je een van deze objecten hebt, betekent dat ook dat je die dan als NFT hebt?
Marloes:
Ja, die heb ik als NFT. We gaan denk ik toe naar een digitale economie. Maar niet alleen dat. Ik denk ook, als je kijkt naar de verduurzaming van de keten. Het zou natuurlijk heel mooi zijn als je een fysiek kledingstuk koopt, dat je meteen de NFT erbij krijgt. Zodat je meteen je bonnetje hebt, maar ook de wasinstructies, de historie. Zodat je het ook veel makkelijker weer kunt verkopen. Nu is het best wel gedoe, als je je kleding weer online wilt zetten. Het zou heel mooi zijn als je dat gewoon meteen digitaal kunt doen. En het maakt het ook minder fraudegevoelig. Je weet dan ook zeker dat een item echt is. Nu moet je ook afwachten als het binnenkomt: ‘is het echt een Chanel of niet?’
Wouter:
Het geeft ook voor de koper eigenlijk meer zekerheid?
Marloes:
Ja, meer zekerheid. En het geeft denk ik meer gemak voor degene die het verkoopt. En dat zie je bij de digitale mode, is dat gewoon van het begin af aan geregeld. Als jij iets van The Fabricant bijvoorbeeld koopt, dan zit daar meteen het digitale eigendomsbewijs bij. Dan moet je natuurlijk nog steeds wel kijken wat dat betekent. Want de ene NFT is de andere niet. Dus je moet natuurlijk nog steeds kijken: welke rechten heb ik dan eigenlijk? Mag ik die tentoonstellen? Mag ik die in een marketingcampagne gebruiken? Welke rechten heb je precies?
Wouter:
Terwijl, als ik een kledingstuk koop in een winkel, dan zijn die vragen er toch helemaal niet? Ja, daar mag je toch alles mee doen?
Marloes:
Je kunt ook zeggen: als je hem doorverkoopt gaat 10% weer naar de ontwerper. Dus je kunt veel meer digitaal natuurlijk. Dus je moet het ook niet de hele tijd vergelijken met echt of niet echt. Het is gewoon iets anders.
Wouter:
Dat is misschien de overgangsfase waar we ook in zitten.
Marloes:
Ja, terwijl zo moet je er eigenlijk niet naar kijken. En ik merk ook dat de jongere generatie er eigenlijk ook niet zo naar kijkt.
Anne-Karlijn:
Het is wel een hele interessante, want we kunnen ook een stukje doorlopen. Want de eerste mode-NFT tonen wij hier. En dat is van de eerder ook al genoemde The Fabrikant. Dat is een Nederlandse club. Onwijs groot. Ze hangt daar.
Marloes:
Wat ik ook een heel leuk verhaal bij deze jurk vind: het is toen verkocht uit mijn hoofd voor 9400 dollar. Alleen het is in Ether betaald. Dus toen ik de ontwerper sprak…. Op dat moment was die jurk iets van twee ton eigenlijk waard. Zoveel had ze ervoor gekregen. Dus het was ook nog een hele goede verkoop.
Anne-Karlijn:
De grote merken die pluggen echt letterlijk in bij een hele jonge generatie die de techniek verder brengt. Want daarstraks gaf ik aan: we denken ‘de sky is the limit’. Maar er zijn nog zoveel beperkingen als het gaat over digitale mode. En die community die doet dat heel erg samen. Die ontwikkelen dat samen verder.
Kijk, als je digitale mode googelt dan kom je heel veel nog bij hele puffy, shiny, fluffy dingen uit. Omdat de computer weet hoe die dat gaan maken. Maar op het moment dat jij een historisch silhouet digitaal zou willen maken. De computer, die heeft daar eigenlijk de informatie nog niet voor. Die community die werkt heel veel samen om die techniek verder te krijgen. Dus ze proberen heel veel uit. En wat je dus ziet is dat ze ontzettend veel online delen qua eigen kennis en knowhow en ze zorgen dat die techniek verder ontwikkeld wordt. Bijvoorbeeld Stevie Fang, We tonen een uur lang een Twitch stream, waarin zij laat zien hoe zij digitale streetwear aan het maken is. En dat doet zij elke donderdagavond. Dan zit zij een uur lang te streamen. En beantwoordt ze ook vragen van mensen hoe ze dingen doet. Maar ze laat ook zien dat dingen bijvoorbeeld niet lukken.
Wouter:
Kunnen we daar heen lopen?
Anne-Karlijn:
Ja, natuurlijk. Inmiddels is zij ook al het gezicht van Dell geworden, bij een hele internationale campagne van hun nieuwe computer. Ik weet niet, misschien wordt ze wel gesponsord. In ieder geval, ze is erg succesvol. En ze heeft onwijs veel followers. En heel veel mensen kijken dus op donderdagavond hoe zij een uur lang aan het werk is. En ze kunnen gewoon vragen stellen van oké, hoe doe je dit dan? Of hoe doe je dat dan? En ze geeft ook aan bijvoorbeeld als iets niet gelukt is. Waarom dat dan niet lukt. En dan zie je ook heel goed dat het altijd nog begint met nog altijd een schets.
Wouter:
En wat is de rol dan van grote bedrijven in die movement? Want hoe ik Web3 ook wel begrijp is juist een beetje weg van big tech bedrijven. Decentralisatie, we gaan het meer samen doen. Maar we hebben het hier ook al wel gehad over grote modehuizen, grote merken en campagnes. Hoe verhoudt zich dat, is dat geen ongemakkelijke spanning?
Marloes:
Nee, het kan denk ik en-en zijn. Dus ik denk dat grote merken ook moeten leren werken met communities. En dat doen die grote brands natuurlijk. Dus voor hen zijn het ook experimenten om te achterhalen van ‘hoe doen wij dat dan?’. Naast dat we een eigen een centraal aangestuurde organisatie hebben, hoe gaan wij leren werken met communities? En dat is waarom partijen zoals Adidas dan experimenteren met digitale mode of met de NFT's of wat dan ook. Dus ik denk dat het beiden kan.
Ik denk wel dat de echte Web3-based-bedrijven van begin af aan ook nadenken over ‘hoe kunnen we onze community, onze klanten, ook echt zeggenschap en eigendom geven van ons bedrijf’. En ik hoop dat die Web3-gebaseerde bedrijven een stuk groter worden, zodat die machtsbalans ook weer meer...
Wouter:
Dat wordt dan een nieuwe big tech?
Marloes:
Ja, denk ik wel een betere variant als het van de community zelf is, of van de klanten zelf, dat die daar een grotere stem in krijgen. Simpel voorbeeld: Uber. Op zich een fantastisch concept, alleen jij als gebruiker, maar zeker nog belangrijker de chauffeurs zelf hebben natuurlijk helemaal geen stem erin. Als je dat gewoon community based zou maken, dan zouden de inkomsten veel gelijker verdeeld worden. Nu gaat natuurlijk in verhouding heel erg veel naar de oprichters en investeerders. Ik vind het een charmanter model als het meer naar de chauffeurs en de gebruikers zou gaan.
We hebben in Nederland dus ook echt topbedrijven, die heb je hier staan. maar die zijn eigenlijk helemaal niet zo heel bekend. Maar ook zoals Replica, het is een geniaal bedrijf. Zij zijn ook on-Nederlands groot. Ze werken voor Hollywood, voor de grote gaming-bedrijven. Dat zijn de grote merken van nu. Maar we moeten veel meer gaan kijken naar dit soort merken, in plaats van de traditionelere merken. Hier gebeurt zoveel. En het is ook zo ontzettend knap wat ze doen, technisch gezien en creatief gezien. Dat moeten we echt veel meer koesteren.
Voiceover:
Hoe bestendig deze ontwikkelingen zijn, bespreekt Wouter in de studio verder met Marleen Stikker. Ze is directeur van De Waag in Amsterdam, een instituut op het gebied van technologie en samenleving. Ter introductie gaan we eerst terug in de tijd. Marleen werd in de jaren 90 bekend als oprichter van De Digitale Stad, de eerste publieke online omgeving in Nederland.
Marleen:
Mijn omgeving was: hackers, kunstenaars, activisten. Dat was eind jaren 80, begin jaren 90. Heel erg experimenteel. En zo zie je ook dat het eigenlijk ook startte vanuit allerlei organisaties en mensen die hun stuk van het internet eraan toevoegden. Zonder dat er een autoriteit was die ons vertelde of dat wel of niet mocht.
Voiceover:
Het internet ontstond decentraal. Of zoals Marleen zegt, op een federatieve manier. Omdat iedereen zich aan kon sluiten als je computer zich aanmeldde via een speciaal protocol. Marleen vertelt hoe het mogelijk is geworden dat nu toch de grote partijen. zoals Google, Apple en Meta online de meeste invloed hebben.
Marleen:
Dat is natuurlijk heel problematisch gebleken. Mensen uit de begintijd hebben natuurlijk heel vaak gezegd: er bestaat niet zoiets als gratis, dan ben je dus zelf het product. Dat weten we inmiddels. In midden jaren 90, toen De Digitale Stad dus ontstond, kregen we daar wat publieke financiering voor om wat te kunnen experimenteren. Na een jaar zeiden ze al van, ‘ja, maar dat kan de markt ook. Ga maar naar de markt’. Dus we hebben niet geïnvesteerd op het moment dat het eigenlijk nodig was in een publieke ruimte, een digitale publieke ruimte. Toen is precies dat moment gemist.
Het is heel erg verklaarbaar op dat moment, want we gingen toen alles privatiseren. De mobiliteit, het openbaar vervoer voor een groot deel, de energiemarkt. Maar goed, dat moment dat het internet eigenlijk dus die steun had nodig gehad om er een publieke ruimte van te blijven, om dat te behouden eigenlijk, het ging niet eens om het te verwerven. Het wás een publieke ruimte. Om dat te behouden, ja, dat is gemist.
Wouter:
En hoe was dat toen voor jou? Het moet toch ook heel frustrerend geweest zijn, om dat wel te zien of aan te voelen en te roepen?
Marleen:
Ja, het is, ik denk, voor heel veel mensen uit die tijd erg frustrerend, als je aan mensen uitlegt wat er gaande is en dat die partijen niet te vertrouwen zijn. Als technologie niet neutraal is, dan is het internet dat ook niet. Het biedt kansen om dingen anders te organiseren, mensen een stem te geven. Dus het heeft een democratische kracht, maar het heeft net zo goed, dat was ook al begin jaren 90 bekend, de kans voor surveillance en voor machtsconcentratie.
In 1993 was ik op een grote internetconferentie. Toen sprak ik mensen uit Soedi-Arabië en uit allerlei andere landen en die zeiden: ‘nee, we willen alleen maar het beste van het internet’. Dat was al duidelijk. Dus dat idee van ‘China gaat dit anders doen dan het zogenaamde vrije anarchistische Westen’, ja, dat was wel heel duidelijk.
Dus ja, wat kan je zeggen, het is een teleurstelling dat dat zo lang duurt voordat men eindelijk dan nu zegt: ja, dit is wel degelijk een gebied, iets wat je moet reguleren, waar je moet zorgen dat die democratische waarden ook werkelijk worden nageleefd. Het heeft zo verschrikkelijk lang geduurd. Maar goed, ik kan ook zeggen, ik kan ook heel optimistisch zijn: ‘nou, eindelijk dan’. Dus ik kan net zo goed roepen van fantastisch, we zijn eigenlijk op de goede weg.
Wouter:
Is er dan een tipping point geweest wat je echt kan aanwijzen van dit is toen ik dacht, nu gaat het.
Marleen:
Er gebeurt vaak pas wat als men met de rug tegen de muur staat, als er echt gewoon een hele extreme situatie ontstaat. En dat hebben we natuurlijk eerst met Snowden gehad, dat hij liet zien dat eigenlijk in alle onderdelen van het internet, van onze technologie, ook van onze telefonie, dat er afluistermechanismen in zitten en dat je niets van jouw data over die netwerken... maar dat was dus de staat die meekijkt.
Later kwam natuurlijk Cambridge Analytica, die liet het hele probleem met Facebook zien, dat heel veel data is gebruikt om mensen te manipuleren in hun voorkeur rondom de verkiezingen, zowel Brexit als in de Verenigde Staten.
Rond die tijd was men al bezig in de Europese Unie met het uitwerken van een privacywetgeving. En door Cambridge Analytica en misschien ook die eerdere kwestie met Snowden, kreeg dat vleugels. Dus binnen no time is toen die GDPR, of de privacywetgeving, in het Nederlands heet dat de AVG, aangenomen. En dat is wel echt groot verschil, want iedereen zei ‘dat kan helemaal niet’ en ‘daar heb je Europa weer’. Maar het heeft enorm veel effect, en het heeft nog allerlei vraagstukken in de zin van handhaving. We zijn nog maar aan het begin van dat hele proces. Het is in ieder geval de tipping point geweest.
Er is nu heel veel andere wetgevingen, de Digital Service Act, de Digital Market Act, de AI Act. Dus er komt heel wat nog meer aan regulering. En het heeft, als je kijkt naar de Autoriteit Persoonsgegevens hier in Nederland, heeft het ook echt veel meer positie gekregen. En is nog steeds niet voldoende toegerust.
Als je kijkt naar voedselveiligheid, wat we besteden om ons voedsel veilig te maken, dan staat het in geen verhouding met wat we nu besteden om het internet veilig te maken. Dus als je nu in de winkel of in een restaurant voedsel koopt, het plankje waarop het voedsel is gesneden, de schoenen van de kok, de temperatuur waarin het is verplaatst, de ingrediëntenlijst, alles is gereguleerd. Als je in de App Store een app wilt downloaden, dan weet je eigenlijk wel zeker dat er ellende zit. Dat je data wordt verkocht, dat je geprofileerd wordt, dat het mis is. Dus we zijn nog zo ver verwijderd van een veilig digitaal domein. Er is nogal heel veel werk te doen.
Wouter:
Maar kunnen we die controle over dat digitale domein op dezelfde manier hebben? Dus als je kijkt naar de NVWA of de regels die er dan zijn rondom voedselveiligheid, dan kunnen we dat als Nederland ook allemaal heel minutieus met elkaar afspreken en regelen. Kunnen we dat op dezelfde manier doen met het internet?
Marleen:
Nou kijk, we hebben heel lang, 30 jaar lang, gezegd dat dat niet kan. Dat is een vrijplaats, dat is anarchie. Dat is het ook nooit geweest. Het is altijd een machtsstructuur geweest, het internet. Het feit dat je een eigen machine eraan kon hangen, betekent nog niet dat er niet allerlei gatekeepers waren. De plekken waar de kabels alleen al de fysieke infrastructuur liggen, er zijn allerlei bepalende factoren.
We hebben ook gezien dat als een staat dingen wil afsluiten, dan kan dat. Dus het is een balans te vinden tussen hoe je een open, vrij internet houdt en tegelijkertijd reguleert. Maar goed, dat is ook een wens. Voedsel is ook heel lang niet gereguleerd.
Voiceover:
De overheid neemt volgens Marleen nu dus eindelijk meer regie over het internet. We gaan kijken naar ontwikkelingen van dit moment, zoals de opkomst van Web3, waarbij er nieuwe online toepassingen ontstaan op een decentrale manier, bijvoorbeeld door middel van blockchaintechnologie. Marleen ziet in deze ontwikkeling parallellen met de opkomst van het internet in de jaren negentig.
Marleen:
De onderliggende gedachte is eigenlijk weer dat federatieve, gedistribueerde internet.
Wouter:
Ja, dat klinkt goed toch?
Marleen:
Helemaal goed. Alternatief voor Twitter is nu Mastodon. En dat protocol wat daar gebruikt wordt, is eigenlijk datzelfde idee, federatief, maar dan ook op applicatieniveau. Dus dat de applicaties ook federatief kunnen zijn. Dat er niet één centrale server is waar je lid van wordt, maar een heel netwerk van servers. En dat die onderling op dat principe weer de informatie uitwisselen.
Maar lastig is bij Web3, dat ronkt een beetje van die crypto-bro’s, die met elkaar ook weer opnieuw zeggen, ‘de staat hebben we niet nodig’. Dus ik denk dat als het gaat over wat je dan onderliggend aan technologie wil doen als protocol, dat dat niet eens zo heel erg verschilt. Want bij Web3 zit wel een soort, ja, toch weer dat ideologische libertaire denken, dat heel erg ook in de Bitcoin en de crypto-wereld zit. Van blijf van ons af, regulier ons niet, het komt allemaal goed. Nou, dat zien we dus ook in elkaar storten, dat het helemaal niet per se goed komt.
Dat je toetreedt tot de elite die dit allemaal begrijpt, die kunnen allemaal fantastische technotalk met elkaar hebben en hebben fantastische conferenties met elkaar. Ze vinden zich allemaal helemaal te gek en fantastisch. Maar daarmee sluiten ze ook heel veel mensen uit. En dat wordt dan in zichzelf ook een soort zelfverklaarde elite, niet alleen letterlijk, maar men weet ook heel snel hoe men dat geld dan moet verdienen. En hoe men op het juiste moment in- en uitstapt. Bij die cryptocurrencies bijvoorbeeld. En dan heb je al die mensen die ergens veel later pas ervan horen, van hé kom erbij, dan heb je het piramide-effect.
Dus op het moment dat dat gecombineerd is met cryptocurrencies, heb ik al het gevoel dat er iets misgaat. En dat betekent niet dat in ledger-technologie of bitcoin-technologie, waar bitcoin op bestaat, of wat er onderliggend is, dat dat niet nuttig kan zijn op bepaalde plekken. Maar het wordt nu op alles gegooid. En ook zonder enige echte analyse over wat voor sociale processen je het nu eigenlijk over hebt. En ook niet echt een analyse over wat voor nieuwe machtsconstellaties daar weer door ontstaan.
Wouter:
We hebben bij het Rathenau Instituut wel eens over gehad. Het lijkt een soort rookgordijn, wat ook wordt opgetuigd eigenlijk. De terminologie is zo complex om te begrijpen voor iedereen, maar al helemaal voor mensen die hier niet dagelijks mee bezig zijn. Dat er een soort van gekke scheiding wordt gecreëerd. Aan de ene kant wordt gezegd, dit is de nieuwe toekomst, maar aan de andere kant is het ook heel complex om te begrijpen. Moet je DAO's… Moet je je erin inlezen?
Marleen:
Ja, die DAO's. ik ben echt niet op mijn achterhoofd gevallen, maar elke keer als ik daar aan begin, dan denk ik al ‘aaaah jongens...................................................................... ’
Voiceover:
DAO staat voor Decentralized Autonomous Organization. Dat is een digitale organisatievorm waarbij de leden samen besluiten nemen met behulp van technologie.
Marleen vertelt hoe ze aankijkt tegen DAO's en tegen de bredere discussie over wat nieuwe technologie kan betekenen voor mensen. Een centraal begrip voor haar is trust, vertrouwen.
Marleen:
Sowieso dat hele narratief over technologieën en transhumanisme, ‘we sluiten onszelf aan met pluggen in onze nek en dan worden wij nog slimmer’, ‘AI is intelligenter dan de mens’ enzovoort. Het is heel eenzijdig over wat men denkt wat de mens is, of wat überhaupt intelligentie is, of wat de kracht van sociale netwerken, van echt menselijk contact is.
Dus het probeert steeds iets wat je op een schaal van menselijkheid zou kunnen organiseren, van empathie, understanding en echte relaties, te verplaatsen, ‘dat laten we nu de technologie doen’. Heel vaak zit daar de discussie over trust onder, dus de hele beweging van ledger-technologie en de dergelijke. Men zegt ‘ja mensen kunnen elkaar niet vertrouwen’. We zorgen nu dat in de technologie die trust afgedwongen wordt.
Maar dat is dus een hele specifiek idee over wat trust is, want dan is trust eigenlijk een soort van transactie geworden, die je buiten jezelf plaatst, terwijl onze intuïtie is, trust en vertrouwen iets wat je in een relatie opbouwt over tijd. En waar je een zekere nabijheid bij nodig hebt, of waar die je kan zeggen ‘als ik deze persoon vertrouw, dan kan ik die andere persoon ook vertrouwen’. Dus het hele idee van vertrouwen wordt door die technologie-taal ver weg van ons geplaatst.
Ik vind dat fundamenteel ook heel gevaarlijk. Dus het is niet alleen vervelend en een rookgordijn, maar dat hele transhumanistische denken dat wij mensen eigenlijk onszelf moeten wantrouwen. Dus er zit groot wantrouwen naar de mens toe, naar ons vermogen om empathisch te zijn en het goede te doen. Het gaat eigenlijk steeds uit van dat de mens alleen maar aan het optimaliseren is voor zichzelf. Om dat te voorkomen, moeten we de mens in die technologie vouwen. We worden er gewoon in gepakt.
Dat mensbeeld dat is niet mijn mensbeeld. Als je in andere domeinen over kennisontwikkeling vraagt wat intelligentie is, dan zegt men bijvoorbeeld: dat intelligentie zit deels in onze micro-organismen, in onze maag. Dus het idee dat de intelligentie in ons brein zit en dat de kopie ervan nu in de computer zit, dat is zo'n reductie. Een enorme reductie die gewoon nooit vervolgens verklaard wordt. En dan gaat men verder redeneren en dan ben je steeds verder weg van wat eigenlijk, wat wij nou eigenlijk onder intelligentie verstaan, wat wij onder sociaal contact verstaan.
Voiceover:
Van dit mensbeeld dat Marleen ziet in de crypto-beweging, gaan we naar nog zo'n beweging die ons online leven enorm kan veranderen: de kunstmatige intelligentie.
Wouter:
Hoe heb je de ontwikkelingen rond ChatGPT aanschouwd? Dat is een nieuw chatbot- algoritme van OpenAI, waaraan je iets kunt vertellen, van ‘geef mij een toneelstuk geïnspireerd op Shakespeare wat hier en hier over gaat, en dan binnen drie seconden krijg je een tekst.
Marleen:
Ik vroeg mijn bio op, ik dacht van wat is de biografie van Marleen Stikker? Ik dacht, dat kan ik verifiëren, maar daar ging het me eigenlijk om. En daar kwam uit dat ik lid ben van een politieke partij, maar ik ben niet lid van een politieke partij. En toen dacht ik, wat moet ik dan nu doen? Moet ik nou terug gaan praten, en zeggen ‘Dat is niet waar’? En verandert het dan?
Wouter:
‘Ik ben echt Marleen Stikker en dit klopt niet’?
Marleen:
Ik ben Marleen Stikker en dit klopt niet, want dat kan natuurlijk iemand anders zijn. Er zitten heel veel problematische vraagstukken aan. Dus aan de ene kant dit, het doet zich voor alsof de waarheid spreekt. Maar op elk van de onderdelen blijkt dat als je er meer van weet, dan blijken er allerlei rare dingen tussen te zitten die niet waar zijn. En dat betekent dus dat wij als mensen weer enorm veel verificatie moeten doen. Dus het neemt niet per se arbeid van ons weg.
Het geldt ook voor code, dus je kan hem ook code laten schrijven. Maar er zitten ook soms hele rare bugs in, dus je moet altijd weer gaan debuggen. Dat dit kan, is ook wel de verwondering. ‘Dit is gewoon taal die ik kan lezen. Ik begrijp wat hier staat. En dat lijkt wel echt.’ Dat is volgens mij ook het verwarrende op dit moment.
Wouter:
Het voelt menselijk ook op een of andere manier.
Marleen:
Als je er veel mee speelt, dan zie je elke keer dezelfde soort brave taal uitkomen. Ik merk wel dat ik er al patronen in herken. Je kan het wel proberen ‘in de stijl van’. Een ander vraagstuk is natuurlijk: het zich heeft gevoed met allerlei data en informatie. En daar is geen enkele openheid over.
Het heet OpenAI, maar er is geen enkele openheid over. Je kan dus ook niet in gesprek over dat je bepaald soort informatie er niet in wil hebben. Je kan het heel snel racistisch maken. Je kan het heel snel manipuleren.
Wat iedereen mensen toeschrijft aan AI is dat er een soort bewustzijn zou zijn. Dat er een soort interne reflectie is op wat het produceert. Maar het is uiteindelijk gewoon een tool, een gereedschap. Zonder reflectie, dus ook zonder moraliteit. Behalve als je het in programmeert, dan is het de moraliteit van de programmeur.
Dus uiteindelijk moet je weten wie de eigenaar is van deze AI? Wat is het verdienmodel? Wat wil men hiermee? En dat begint langzamerhand wel problematisch te worden ook. Want het heeft eigenlijk alles zich toegeëigend. Dat geldt ook voor visueel, dus over beeld. Ik vind de esthetiek trouwens ook verschrikkelijk wat eruit komt. Dus ik vind het heel lelijk spul wat eruit komt als je een opdracht geeft. Ik kan een prompt geven en dan maakt hij ook beelden voor jou. En hij heeft gebruik gemaakt van alle producties van alle mensen over de hele wereld. En daar komt eigenlijk ook niks voor terug. En dan nog wordt het lelijk, ja.
Wouter:
Het is wel interessant dat je dat zegt. Voor deze opname heb ik even gekeken. Er is een website, have I been trained? En daar kun je opzoeken of jouw foto's gebruikt zijn om dit soort modellen te trainen. En ik heb ook even Marleen Stikker ingetypt, maar jouw foto staat er niet tussen. Dus dat is op zich...
Marleen:
Enorm voordeel.
Wouter:
Ja, maar toch zes miljard andere foto's volgens mij over de meest uiteenlopende dingen die zitten in zo'n model.
Marleen:
Ja, en dat is allemaal opgeslurpt, zeg maar. En vervolgens is die OpenAI een verdienmodel. Het kost ze nu drie miljoen per dag om het te draaien. En nu mag iedereen er leuk mee spelen. Op een gegeven moment gaat die deur dicht. En dan zijn er diensten die erop geleverd worden. En je kan je afvragen, moet dat niet gewoon een common zijn? Hoort dat niet een resource te zijn van iedereen?
Voiceover:
Marleen heeft het hier over commons. Dat zijn hulpbronnen die van ons allemaal zijn. Zoals een bos, de zee en misschien dus ook wel het internet.
Marleen:
Maar wat commons ons laten zien, en zo organiseerden we heel veel in het verleden: Ook ziekenhuizen en woningbouw en landbouw: coöperatieven. Dus je hebt coöperatieve structuren die ervoor kunnen zorgen dat je die publieke waarde in het oog houdt. Dat er geen privaat belang is, dat er geen extractie van waarde is. Dat gaat natuurlijk ook heel erg om dat er niet waarde onttrokken wordt aan hetgeen wat je resource is, wat je gezamenlijke resource is. Dat is datgene wat nu op alle manieren wordt uitgedacht en uitgewerkt. En dat is denk ik een van de belangrijke factoren voor de toekomst van het digitale domein.
Wouter:
Zijn er hoopvolle voorbeelden op het gebied van decentralisatie die je hoopvol stemmen voor de toekomst? Je hebt nu die data commons, maar ook je hebt Mastodon al eerder genoemd.
Marleen:
Door die wetgeving die veranderd is, begrijpt iedereen wel dat er een eind komt aan het je zomaar je toe-eigenen van data van mensen en het profileren van mensen. Dus je ziet ook dat er nu een beweging is van: we hebben iets als een kluis nodig met regie op eigen data.
We hebben vanuit de Waag de Public Stack ontwikkeld als een model. Welke vragen moet je allemaal eerst stellen voordat je iets ontwerpt? En hoe zorg je dan dat de waarden die je dan definieert ook in het ontwerpproces, in de technologie terecht komt? Dus je moet vragen beantwoorden van wie verdient er nou eigenlijk aan? In wiens belang is dit?
Dus die hele discussie van mag je een besluit door een computer laten nemen of niet? Dat hebben we natuurlijk rondom die algoritmes die de Belastingdienst gebruikt, kunnen zien hoe fout dat gaat lopen.
Wouter:
En waarom is dat voor individuele gebruikers een probleem?
Marleen:
Ieder individu denkt waarschijnlijk voor zichzelf ‘dat zal wel meevallen’, of ‘ik heb niks te verbergen’. Maar een democratie gaat er niet over of jij persoonlijk wel of niet geraakt bent, maar of kwetsbaren in je omgeving of die geraakt zijn of niet. Dus sowieso is de zorg over het digitale domein niet per se de zorg over jezelf en of het jezelf goed gaat. Dan nog kan je denken: ik moet me ook druk maken over mensen die wel kwetsbaar zijn.
En je ziet hoe mensen, bijvoorbeeld hoe mensen in die crypto-wereld terecht zijn gekomen met hun spaarcentjes en alles kwijt zijn geraakt. Omdat ze die rookgordijnen, er niet doorheen kunnen kijken. Maar ook: TikTok kennen we natuurlijk ook over hoe dat tot self-harm kan leiden en eetstoornissen kan versterken.
Dus je ziet ook dat bij de psychologie van mensen, hun problematiek ook versterkt kan worden door de interactie met de verkeerd soort algoritmes en patronen. Ja, daar zou ik me zorgen over maken als ik kinderen heb. Ik heb kinderen trouwens, maar die zitten niet meer op TikTok geloof ik.
Laten we zeggen dat het hele idee van VR en AR, want dat bestaat ook al echt erg heel lang. Dus daar zie ik helaas ook niet zo heel veel nieuws steeds. Dat vind ik altijd een beetje teleurstellend. Dus er wordt elke keer weer opnieuw gebracht als de nieuwste vinding, de nieuwste dit, de nieuwste dat. En ik denk, dit kon allemaal al. Er zitten dus interessante dingen bij en er zitten ook hele nonsens dingen bij. Dus ja het heeft wel wat, maar ik geloof niet dat het onze toekomst is.
En de vraag is langzamerhand, is het nou echt iets wat we willen of waar we gewoon in terecht zijn gekomen en niet meer van af kunnen komen? En ik ben bang dat een heel groot deel van die beweging, dat hele metaverse bijvoorbeeld, is totale nonsens in mijn ogen. En gelukkig blijkt het ook. Want het echte probleem van mensen is niet zich in die metaverse te willen bewegen, in tegendeel. Minder, liever minder.
Dus ik denk dat de timing van Zuckerberg een beetje fout is geweest. Dat we allemaal helemaal klaar waren na covid om alleen nog maar in schermpjes te staan met elkaar te praten. Dat je heel blij bent met dat je af en toe eens gewoon fysiek weer iets mee kan maken, dat je echt in de concertzaal kan staan.
Wouter:
Marleen, we hebben het veel gehad over ontwikkelingen van de afgelopen 30 jaar en eigenlijk ook over de manier waarop je in de jaren 90 al misschien dingen zag aankomen, dat je veel frustratie voelde, maar toch ook weer hoopvol bent dat er nu dingen veranderen. Ik wou je als laatste een quote voorleggen. En ik ben benieuwd of je je daarin herkent of wat je daarover denkt.
Het is een quote van Coraline Ada Ehmke, een open source developer. En zij zegt: ‘people in tech have very, very, very short memories, which is part of why we keep reinventing the same stuff over and over again’. Is dat iets wat je herkent in deze beweging of zie je juist een kentering?
Marleen:
Ik vind hem heel mooi. Het is precies wat ik eigenlijk ook ervaar. Het is ook een beetje lastig als je iets van dertig jaar of misschien wel meer kan overzien. Dat heel veel dingen steeds als nieuw worden gebracht, als een hele nieuwe vinding. En dan denk je, die heb ik al eerder gezien.
Maar er is heel veel marketing rondom tech, technologieontwikkeling. En dat wordt dus elke keer weer ingepakt en verpakt als iets nieuws. Mijn houding is nooit van, we moeten het gaan reguleren alleen. Het is bij mij altijd, we kunnen het ook, we kunnen een toekomst maken. We hebben het vermogen om dat te kunnen doen.
Dat makeronderwijs, waar we voorstander van zijn, met FabLab en dergelijke. Dit zorgt ervoor dat je mensen leert hoe technologie werkt. Hoe je het zelf naar je hand kan zetten, hoe je het zelf kunt maken. En als dat vermogen groeit in de samenleving, heb je ook meer mensen die er meer richting aan kunnen geven.
En sowieso betekent het dat het dus niet per se een technologie-aspect is. Het is net zo goed, dus waar ik natuurlijk ook heel erg aan streef is dat humanities en bètawetenschap, sociale wetenschappen, maar ook de makers, het vakmanschap. Het is niet alleen een hoger opgeleiden die iets over AI weet. We kunnen veel meer mensen betrekken bij het maken van die toekomst.
Voiceover:
We hoorden dat er nieuwe vormen van geld verdienen ontstaan door de opkomst van immersieve technologie, bijvoorbeeld in de mode. Maar er zijn ook zorgen over wat deze technologie kan veroorzaken, bijvoorbeeld over het vertrouwen in elkaar. Hoe ontwerpen we dit nieuwe virtuele domein op een verantwoorde manier? Dat is een van de onderwerpen waar we bij het Rathenau Instituut onderzoek naar blijven doen.
Luister ook naar de volgende en laatste aflevering van deze reeks, waarin Stefan langsgaat bij een van de pioniers op het gebied van virtual reality. Ook maken Wouter en Stefan de balans op. Welke nieuwe inzichten uit deze podcastreeks nemen ze mee in hun werk?
Ben je nog niet geabonneerd? Doe dat dan zo snel mogelijk.
