calendar tag arrow download print
Doorgaan naar inhoud

Slimme dokters, slimme computers: een gesprek over AI in de zorg

terugblik
05 januari 2022
AI Gezondheidszorg maatschappelijke dialoog

Foto: Fizkes/Shutterstock

Image
Een dokter zit op de bank met een oudere man terwijl ze bespreken wat er op een tablet staat
Er worden steeds meer gegevens verzameld over onze gezondheid. Met kunstmatige intelligentie (AI) worden die gegevens gebruikt voor applicaties die artsen ondersteunen of gebruikers helpen aan hun gezondheid te werken. In een reeks van drie gesprekken met belanghebbenden spreken we over AI in de gezondheidszorg. Een terugblik op het tweede gesprek, over wensen, voorwaarden en verwachtingen bij AI in de zorg.

In het kort:

  • Als onderdeel van de werkgroep Burger- en patiëntparticipatie van de Nederlandse AI Coalitie organiseert het Rathenau Instituut drie dialogen over AI in de zorg.
  • De tweede dialoog vond plaats tussen patiënten, patiëntvertegenwoordigers, zorgprofessionals, burgers, app-ontwikkelaars en onderzoekers.
  • Zij bespraken wat AI in de zorg betekent voor regie over je eigen gezondheid, de verantwoordelijkheid van een medische beslissing en het gebruik van persoonlijke gegevens.

Wensen, voorwaarden en verwachtingen

Patiënten en burgers staan open voor het gebruik van AI in de zorg, zo bleek uit de eerste dialoog die we organiseerden in het voorjaar van 2021. Voorwaarde is dat privacy voorop staat bij de ontwikkeling en het gebruik van AI-toepassingen. Ook drie andere thema’s werden in dat eerste gesprek genoemd: regie over de eigen gezondheid, verantwoordelijkheid voor de medische beslissing en de uitwisseling en het gebruik van data.

In de tweede dialoog, die plaatsvond op 29 november 2021, stonden deze drie thema’s centraal. De 25 deelnemers – patiënten, patiëntvertegenwoordigers, zorgprofessionals, burgers, app-ontwikkelaars en onderzoekers – bespraken wat zij belangrijk vinden bij het gebruik van AI in de zorg.

De app-ontwikkelaars van SkinVision, Nico.lab, Fitsurance en &Niped gaven uitleg over de manier waarop hun app gebruikt wordt in de gezondheidszorg. Vervolgens gingen de deelnemers in twee gespreksrondes in kleinere groepen uiteen, om hun zorgen, wensen, voorwaarden en verwachtingen bij deze apps te bespreken.

Regie over de eigen gezondheid

Veel applicaties laten de gebruikers zelf werken aan gezonder gedrag. Zo krijgen ze als het ware meer regie over hun gezondheid. Een voorbeeld van zo’n app is Fitsurance. Aan de hand van een gezondheid- en leefstijlcheck geeft deze app een persoonlijk advies om de gezondheid te verbeteren. De app verzamelt gegevens over de lichamelijke activiteit van de gebruiker. AI helpt om het plan van aanpak te personaliseren.

De gespreksdeelnemers zijn bereid met behulp van een app aan gezonder gedrag te werken, mits er heldere uitleg bij wordt gegeven over hoe de app gebruikt moet worden en de informatie niet te ingewikkeld is. Bovendien moet de app betrouwbaar zijn: de app moet doen wat hij belooft. Dat betekent voor de deelnemers dat de app ontwikkeld is op basis van voldoende relevante gegevens, van verschillende mensen, en ook dat de app wetenschappelijk getest is.

Een aantal deelnemers merkte op dat een applicatie je wel regie kan geven, maar dat je daarmee ook veel verantwoordelijkheid voor je eigen gezondheid op je bord krijgt. Als je een suggestie voor gezonder gedrag niet opvolgt, kan je het idee krijgen dat je verkeerd bezig bent. Bovendien kan een app zo dwingend zijn, dat hij averechts werkt. Het is dus van belang dat een app gebruikers op een aantrekkelijke manier verleidt om aan hun gezondheid te werken.

Bereikt zo’n gezondheidsapp de juiste doelgroep? Weten de mensen die baat kunnen hebben bij dit soort apps van het bestaan ervan? Kunnen en willen ze die dan ook gebruiken? Gespreksdeelnemers deden suggesties om dit soort apps meer bekendheid te geven bij de doelgroepen. Bijvoorbeeld via folders in buurthuizen en bibliotheken, of via de huisarts die zijn patiënten op een app attendeert. Ook zou het goed zijn om professionele ondersteuning te bieden aan gebruikers van de app.

Verantwoordelijkheid voor de medische beslissing

Als een arts AI gebruikt om een diagnose te stellen en een beslissing te nemen over de behandeling, wie draagt dan volgens de gespreksdeelnemers de verantwoordelijkheid voor (de uitkomst van) die medische beslissing? Is het de arts, de patiënt, of misschien zelfs de app-ontwikkelaar? De app van Nico.lab werd als voorbeeld genomen. In het geval van een beroerte geeft deze app op een hersenscan aan waar de hersenbloeding zit en hoe ernstig deze is. Het doel is om zo de behandeling te versnellen. Hoe sneller de patiënt behandeld wordt, des te beter de uitkomst.

De patiënten die aan de dialoog deelnamen, vonden dat de patiënt zelf moet kunnen kiezen bij beslissingen over zijn behandeling. Maar de arts speelt een belangrijke rol. Die heeft het overzicht en is er verantwoordelijk voor dat de patiënt de juiste informatie ontvangt, dat die informatie goed wordt geïnterpreteerd en dat alle relevante behandelopties aan de patiënt worden voorgelegd. De AI-app levert extra informatie die voor de medische beslissing gebruikt kan worden. Uiteindelijk worden behandelkeuzes altijd gemaakt in samenspraak met de patiënt, tenzij de gezondheidssituatie van de patiënt dat niet toelaat. In dat geval moeten naasten van de patiënt geraadpleegd worden. Aangezien de arts het complete beeld heeft, vinden de gespreksdeelnemers dat hij of zij uiteindelijk verantwoordelijk is voor het proces en de behandeling, maar er mag niks gebeuren zonder de patiënt te betrekken.

Zouden de gespreksdeelnemers het willen weten als hun arts gebruik maakt van AI voor een diagnose of een behandelplan? Vrijwel alle deelnemers wilden dat wel. Ze beschouwen AI als een hulpmiddel voor artsen. Daarom is het belangrijk dat een arts toelicht waar hij of zij het behandelvoorstel op baseert. Zoals een arts dat ook aan de hand van een röntgenfoto of MRI doet. Hoe gedetailleerd een arts moet ingaan op de manier waarop AI is gebruikt, hangt van de situatie af. Het is belangrijk dat de patiënt geïnformeerd wordt, maar hoeveel informatie iemand op zo’n moment wil krijgen, kan per patiënt verschillen.

Het is volgens de gespreksdeelnemers belangrijk dat een arts zelf begrijpt hoe zo’n AI-systeem werkt. Hiervoor zou meer aandacht in de opleiding moeten komen. Een arts of andere hulpverlener moet dat inzicht hebben, zeker gezien de toename van het gebruik van AI in de zorg.

Uitwisseling en gebruik van data

Apps gebaseerd op AI verzamelen, analyseren en verwerken veel data. Vaak wordt die data uitgewisseld tussen verschillende partijen – tussen zorgverleners of tussen app-ontwikkelaars of andere bedrijven. De apps SkinVision en &Niped dienden in de dialoog als voorbeeld van een AI-toepassing waarbij persoonlijke gegevens van gebruikers verzameld worden. Met SkinVision kunnen gebruikers een foto van een moedervlek maken. De app adviseert of het verstandig is de moedervlek door een arts te laten controleren. &Niped maakt op basis van allerlei gegevens (leefstijl, lichaamsmetingen en bloedwaarden) een beoordeling van je risico op bepaalde ziekten en geeft advies over aanpassingen van je leefstijl. De gegevens worden opgeslagen in een database en kunnen gebruikt worden voor wetenschappelijk onderzoek.

Deelnemers aan het gesprek vinden het belangrijk dat de data geanonimiseerd worden en niet herleidbaar zijn tot de persoon van wie de gegevens afkomstig zijn. Een angstbeeld is dat data, zonder medeweten en toestemming van de patiënt, worden hergebruikt voor doeleinden waar de patiënt niet achterstaan.

Van wie zijn de data eigenlijk? De deelnemers vinden dat de data uiteindelijk altijd van de patiënt zijn. Je kan ook altijd je eigen data opvragen en laten verwijderen, zegt een deelnemer. Maar hoe je dat doet is lang niet altijd helder en het eigenaarschap van data is juridisch niet goed gedefinieerd. Deelnemers vinden het belangrijk dat als er persoonlijke gegevens worden verzameld die mogelijk gedeeld worden met andere partijen, je zelf toestemming moet geven of jouw gegevens gedeeld mogen worden, met wie en voor welk doel.

De aanwezige experts wezen op een nieuwe optie om data niet te delen met bedrijven of onderzoekers, maar ze binnen het medische dossier te houden. Het AI-systeem ‘reist’ dan langs de dossiers, gebruikt kortstondig en anoniem de informatie om algoritmes (verder) te ontwikkelen. Maar data verhuizen dan niet van A naar B.

Meld je aan voor de derde dialoog

In het derde en laatste gesprek in deze serie spreken we over het gebruiken van AI in de zorg en de plek die AI krijgt in de samenleving. Wil je meepraten? Kom dan naar deze dialoogsessie! De dialoog vindt online plaats op 20 januari 2022. Je kunt je aanmelden door een mail te sturen naar dongen@health-holland.com.

In een serie van drie gesprekken met patiënten, burgers en andere belanghebbenden vragen we naar hun verwachtingen, bedenkingen en vragen over AI in de zorg. De dialogen worden georganiseerd door de werkgroep Burger- en patiëntparticipatie van de Nederlandse AI Coalitie, waaraan Health~Holland, Patiëntenfederatie Nederland, Pharos, het Rathenau Instituut, TNO, Amsterdam UMC en stichting Mijn Data Onze Gezondheid deelnemen. In het eerste gesprek spraken we over de mogelijkheden van AI aan de hand van drie voorbeelden van gezondheidsapps: SkinVision, Nico.lab, Fitsurance.

Eerder publiceerde het Rathenau Instituut een blogserie, waarin verschillende belanghebbenden op het gebied van gezondheidszorg en innovatie hun visie deelden op verantwoorde innovatie van AI voor gezondheid.

Gerelateerde artikelen: