De Europese conceptwet rond artificiële intelligentie is een stap in de goede richting om bijvoorbeeld beheerders van elektriciteitsnetten te helpen. Dat stelt Rathenau-onderzoeker Rinie van Est samen met collega’s van de Technische Universiteit Eindhoven in een onlangs gepubliceerd wetenschappelijk artikel. Ze doen ook aanbevelingen om de gaten in de wet te vullen.
In het kort:
- De Europese Commissie heeft een conceptwet gepubliceerd over kunstmatige intelligentie: the Artificial Intelligence Act.
- De voorgestelde AI-wet biedt onder andere aanknopingspunten voor beheerders van elektriciteitsnetten.
- Het wetsvoorstel besteedt echter weinig aandacht aan risico’s rond menselijke autonomie, cyberveiligheid, marktdominantie en prijsmanipulatie.
In april 2021 publiceerde de Europese Commissie het voorstel voor een wet op de artificiële intelligentie. Het AI-wetsvoorstel vormt een belangrijke stap in het beleid rond kunstmatige intelligentie. Rinie van Est, onderzoeker aan het Rathenau Instituut en verbonden aan de Technische Universiteit Eindhoven, bestudeerde de wet samen met twee Eindhovense collega’s Irene Niet en Frank Veraart. Ze keken of de wet handvatten geeft voor de elektriciteitssector. Dat is namelijk een sector waar artificiële intelligentie steeds belangrijker wordt én waar het beheer, de governance, belangrijk is.
Van Est en collega’s laten in hun wetenschappelijke artikel (open access) zien dat de voorgestelde AI-wet voldoende aandacht besteedt aan verantwoordelijkheid en transparantie. Maar volgens de onderzoekers is er te weinig aandacht voor risico’s rond het verlies van menselijke autonomie, rond cyberveiligheid, rond marktdominantie en rond prijsmanipulatie.
Aanbevelingen
De onderzoekers doen aanbevelingen om de gaten in het wetsvoorstel te dichten. Er zouden bijvoorbeeld specifieke richtlijnen kunnen komen voor beheerders van elektriciteitsnetten die zorgen dat de cyberveiligheid gewaarborgd blijft als er tijdelijk energie wordt bijgeschakeld. Want vooral die tijdelijke bronnen vormen een risico. Daarnaast kunnen er bijvoorbeeld regels worden opgesteld die zorgen dat volautomatische processen altijd, in noodgevallen, door mensen onderbroken of overgenomen kunnen worden. Verder zou het helpen als Europese agentschappen meer middelen krijgen om beter toezicht te houden op prijsmanipulatie en monopolies.
Wetenschappelijk artikel
Niet I., R. van Est en F. Veraart (2021). ‘Governing AI in Electricity Systems: Reflections on the EU Artificial Intelligence Bill.’ In: Front. Artif. Intell. 4:690237. doi: 10.3389/frai.2021.690237