Kunstmatige intelligentie in de zorg: samen beslissen blijkt de crux
Illustratie: Max Kisman
In de blogserie ‘Gezonde Bytes’ hebben we onderzocht hoe kunstmatige intelligentie (AI) verantwoord voor onze gezondheid wordt ingezet. De afgelopen vier maanden zijn we in de blogserie op zoek gegaan naar goede voorbeelden, zodat we leren hoe professionals, patiënten en de samenleving vorm kunnen geven aan verantwoorde inzet van AI. Verschillen partijen – beleidsmakers, opleiders van zorgprofessionals, AI ontwikkelaars, ondernemers, onderzoekers en investeerders – kwamen in totaal tien blogs aan het woord. We vroegen wat volgens hen maatschappelijk verantwoorde innovatie met AI voor zorg en gezondheid is. En welke impact AI zal hebben op de organisatie van zorg, op zorgprofessionals en op zorggebruikers. In deze afsluitende blog blikken we terug op de inzichten die we hebben opgedaan.
In het kort:
- Hoe wordt AI verantwoord voor onze gezondheid ingezet? Daarover gaat deze blogserie.
- In de blogserie zijn tien partijen met verschillende perspectieven op het ontwikkelen van AI voor de zorg aan het woord gekomen.
- In deze afsluitende blog concluderen we dat om verantwoorde AI te ontwikkelen voor zorg en gezondheid het vooral belangrijk is om samen te werken en samen te beslissen.
Bij de inzet van technologie moet onze gezondheid centraal staan. Op zoek naar goede voorbeelden van verantwoorde inzet van kunstmatige intelligentie in de zorg, vroeg het Rathenau Instituut belangrijke spelers op het gebied van gezondheid en welzijn in Nederland naar hun ervaringen. In deze blogserie delen we deze inzichten via onze website. Hoe maken we nu en in de toekomst gezonde keuzes? Hoe zorgen we dat we zelf kunnen beslissen waar dat kan? En begrijpen we op welke manier anderen verantwoordelijkheid nemen voor onze gezondheid waar dat moet?
Maatschappelijk verantwoord innoveren met AI in de zorg
In de openingsblog stelden we vast dat verantwoorde inzet van AI betekent dat onze gezondheid centraal staat en dat de patiënt eigen keuzes kan maken. AI kan ons ondersteunen in die keuzes. Maar naarmate we meer steunen op de technologie, wordt de vraag ‘wie beslist?’ actueler. Garanties zijn nodig om waarden als autonomie, privacy en een inclusieve samenleving te waarborgen in automatische beslissystemen.
In een reeks van blogs hebben tien verschillende partijen antwoord gegeven op de vraag: maatschappelijk verantwoorde AI gebruiken in de zorg – wat is dat eigenlijk? Als we samenvatten wat de verschillende partijen in de blogserie zeggen, dan is het: AI die een positieve impact heeft op de kwaliteit van zorg en tegelijkertijd publieke waarden waarborgt. In de blogs worden veel verschillende waarden genoemd. Zoals zeggenschap, autonomie, uitlegbaarheid, privacy, een inclusieve samenleving, transparantie, solidariteit en non-discriminatie. Ron Roozendaal (VWS) noemt verantwoord innoveren met AI in de zorg een ‘afweging tussen de kwaliteit van zorg en publieke waarden’. Deze afweging vraagt om een open gesprek met alle belanghebbenden.
Hoe kan maatschappelijk verantwoorde AI in de praktijk worden gebruikt?
Maatschappelijk verantwoorde AI heeft ook te maken met de manier waarop AI in de praktijk wordt gebruikt. Leent de situatie zich wel voor de inzet van AI? En ondersteunt AI het werk van zorgprofessionals, of maakt AI het werk alleen maar complexer? Henk Herman Nap en Dirk Lukkien (Vilans) en Carine van Oosteren (SER) pleiten er daarom voor dat we leren van goede voorbeelden uit de praktijk, zoals een tool die op basis van analyse van de tekst in het Elektronische Cliënten Dossier meedenkt over de zorgvraag van de cliënt. En Heleen Miedema, Katja Haijkens en Govert Verhoog (Universiteit Twente) leren hun studenten om een kritische, reflectieve houding aan te nemen ten opzichte van technologie. Bijvoorbeeld ten aanzien van het gebruik van een 3D-echoapparaat, dat maar een beperkt beeld van de werkelijkheid geeft. Als iets niet te zien is op een echobeeld, hoeft dat niet te betekenen dat het er niet is. Volgens sociale wetenschapper Antoinette de Bont (Erasmus Universiteit) gaat maatschappelijk verantwoord gebruik van AI om legitieme inzet ervan. Dat houdt niet alleen in dat het gebruik in overeenstemming is met de regels, maar ook sociaal en moreel gelegitimeerd is. Burgers moeten het doel waarvoor AI ingezet wordt goed vinden en gebruikers moeten weten wat ze gebruiken en waarom.
Voor het realiseren van maatschappelijk verantwoord innovatie is er volgens de verschillende partijen in deze blogserie geen centrale rol voor technologie. Volgens Nico van Meeteren en Hanneke Heeres (Health~Holland) moet ook gezondheid niet centraal staan. Het gaat erom dat mensen kunnen meedoen in de samenleving, ondanks een chronische ziekte, en dat technologie hen daarbij ondersteunt. Een draagbare kunstnier is een goed voorbeeld. Daarmee krijgen nierpatiënten in de toekomst veel meer vrijheid in hun dagelijks leven, doordat ze niet meer gebonden zijn aan nierdialyse in het ziekenhuis.
Data roepen in relatie tot maatschappelijk verantwoorde AI verschillende vragen op.
Maatschappelijk verantwoorde innovatie van AI heeft natuurlijk ook te maken met data. Zijn de vele data van patiënten wel veilig bij de start-ups en bedrijven die de innovatie van AI in de zorg aandrijven? Wat gebeurt er met deze gegevens als een bedrijf failliet gaat?, vraagt Carine van Oosteren (SER) zich af. Zijn de data eigenlijk wel geschikt om de informatie eruit te halen die je nodig hebt? Is bij het verzamelen van data en het ontwikkelen van AI rekening gehouden met waarden als privacy, medisch beroepsgeheim en gelijkwaardigheid?
De Nederlandse wetgeving stelt strenge, specifieke eisen aan hergebruik van data die verzameld werden binnen een behandelrelatie tussen arts en cliënt. Dient het trainen van een algoritme met die vertrouwelijke data de volksgezondheid en mogen de data daarom zonder meer daartoe gebruikt worden? Volgens jurist Joost Gerritsen moet over deze vraag gesproken worden in maatschappelijk debat. En kan de zorgprofessional de uitkomsten van de data-analyse, zoals ondersteuning bij een beslissing of diagnose, begrijpen en toepassen in haar praktijk? Hoogleraar machine learning Max Welling (Universiteit van Amsterdam, Qualcomm) benadrukt dat er eerst in Europees verband logistiek ontwikkeld moet worden, voordat AI in de zorg echt vooruitgang kan boeken. Die logistiek moet ervoor zorgen dat data op een veilige en systematische manier worden verzameld en gebruikt. Dit vereist overkoepelende Europese wetgeving voor gezond datagebruik.
Samenwerken, samen beslissen
Uit de blogserie ‘Gezonde Bytes’ blijkt dat maatschappelijk verantwoorde innovatie van AI in de zorg niet eenvoudig is. Verschillende partijen zien allerlei uitdagingen. Peter Haasjes (NextGen Ventures) en Jörgen Sandig (Scyfer) laten zien dat het moeilijk is om een goede business case te ontwikkelen. Om AI succesvol in de zorg te implementeren, moet het iets opleveren voor de zorg. Bijvoorbeeld de kwaliteit ervan verbeteren of de zorg efficiënter maken. Maar het moet ook financieel wat opleveren. Voor zorgorganisaties is het de uitdaging om bestaande systemen zodanig in werkprocessen in te passen, dat ze helpen om betere beslissingen te nemen of de werklast te verminderen. Zorgprofessionals moeten leren omgaan met een nieuw soort technologie en opleiders moeten hen daarop voorbereiden.
Om deze obstakels te overwinnen en AI op een maatschappelijk verantwoorde manier te implementeren in zorgpraktijken, is het belangrijk om samen te werken. Ook de partijen die aan het woord zijn geweest in deze blogserie benadrukken het belang van samenwerking. Bijvoorbeeld tussen ontwikkelaars en eindgebruikers, zodat de systemen die ontwikkeld worden een ‘echt’ probleem in de zorgpraktijk aanpakken of helpen voorkomen dat iemand ziek wordt. Of bijvoorbeeld samenwerking tussen venture capital, start-ups en toekomstige gebruikers om een goede business case te ontwikkelen: een toepassing die de zorg op één of andere manier verbetert én die financieel wat oplevert. Samenwerking tussen technische en sociale wetenschappers, om ervoor te zorgen dat geldende regels op de juiste manier worden geïnterpreteerd en nageleefd. Of om te bepalen of een algoritme wenselijk en geschikt is voor toepassing in de zorg. En samenwerking tussen beleidsmakers en het publiek, om ervoor te zorgen dat de ontwikkeling wordt gestimuleerd van AI- toepassingen die de problemen rond zorg en gezondheid aanpakken die we belangrijk vinden. En dat publieke waarden op de juiste manier gewaarborgd worden in deze toepassingen.
Hoe kan AI in de toekomst verantwoord worden ingezet?
AI in de zorg: wie beslist? Het is nog lang niet duidelijk wat AI-systemen in de zorg zullen gaan doen en welke rol ze zullen krijgen in de zorgpraktijk. We staan nog aan het begin van de ontwikkelingen. Samen moeten we beslissen welke vorm AI in de zorg zal krijgen. Gezondheid, welzijn en kunnen meedoen in de samenleving moeten daarbij steeds centraal staan.
