Nieuwe blogserie over AI en manipulatie

AI is een technologie die kan worden ingezet om het gedrag van mensen te beïnvloeden. Denk aan het beïnvloeden van koopgedrag door gerichte reclame, of het effect van gepersonaliseerde nieuwsoverzichten op iemands overtuigingen en interesses. De beïnvloeding van AI kan manipulatief zijn. Manipulatieve AI stuit in de samenleving op afkeuring. De Europese Commissie heeft zelfs een volledig verbod op bepaalde (schadelijke) vormen van manipulatieve AI voorgesteld.

Maar wat is manipulatie eigenlijk? En waarom is het een probleem als technologie ons manipuleert? In onze nieuwe blogreeks ‘AI en manipulatie’ verdiepen we ons in het fenomeen van manipulatieve AI. Drie vragen staan daarbij centraal, die we beantwoorden aan de hand van interviews met verschillende experts.

Allereerst vragen we ons af waarom manipulatie eigenlijk een moreel probleem is. Velen associëren de term direct met iets negatiefs; niemand wil om de tuin geleid worden. Maar manipulatie zou ook voor positieve doeleinden kunnen worden ingezet, bijvoorbeeld om mensen te stimuleren om gezonder te eten of meer te sporten. Is dat ook moreel verwerpelijk? We gaan hierover in gesprek met twee ethici.

Ten tweede willen we weten op welke manieren AI kan worden ingezet om ons te manipuleren. De term AI verwijst naar een veelzijdige verzameling van technologische toepassingen, die op alle vlakken van de samenleving aanwezig zijn. Om uit te zoeken hoe AI ons manipuleert, kijken we naar specifieke contexten waarin manipulatie door middel van AI optreedt. Zo wijden we een blog aan het gebruik van AI door bedrijven om consumentengedrag te sturen. Dit kan onder andere via eerdergenoemde gerichte reclame. Een andere blog zal gaan over de manieren waarop digitale media gedrag en overtuigingen kunnen manipuleren. Een bekend voorbeeld hiervan is de inmenging van Cambridge Analytica in de Amerikaanse presidentsverkiezingen van 2016 en andere verkiezingen. Verder besteden we een blog aan het gebruik van AI door de overheid om het gedrag van burgers te sturen. Manipulatie door de overheid zou online kunnen plaatsvinden, maar ook in publieke ruimtes – bijvoorbeeld aan de hand van slimme camera’s.

Ten derde en tot slot stellen we de vraag: hoe moet manipulatieve AI gereguleerd worden? We bespreken de concept-EU-verordening over AI, waarin een compleet verbod op bepaalde schadelijke vormen van manipulatie door AI wordt voorgesteld.

De antwoorden op deze vragen scheppen duidelijkheid over het fenomeen van manipulatieve AI. Zo kunnen we het maatschappelijk gesprek aangaan over de wenselijkheid van deze opkomende technologie.

This project has received funding from the European Union’s Horizon 2020 research and innovation programme under the Marie Skłodowska-Curie grant agreement No 813497.

Gerelateerde artikelen: