Volgens ontwikkelaars, beleidsmakers en medische professionals zal kunstmatige (of artificiële) intelligentie (AI) steeds beter worden om de zorg te verbeteren. Er worden verschillende apps ontwikkeld die dokters ondersteunen bij het nemen van beslissingen. Of die patiënten en burgers helpen hun eigen gezondheid te monitoren en gegevens te verzamelen. Health~Holland, Patiëntenfederatie Nederland, Pharos, Rathenau Instituut, TNO, Amsterdam UMC en stichting Mijn Data Onze Gezondheid organiseerden vanuit de werkgroep burger- en patiëntparticipatie van de Nederlandse AI Coalitie een gesprek met taalambassadeurs van Stichting ABC en patiënten van de Patiëntenfederatie over kunstmatige intelligentie. Wat kan deze betekenen voor de zorg?
In het kort:
- Hoe werkt AI en wat kan het betekenen voor zorg en gezondheid? Daarover praten we met burgers en patiënten in drie gesprekken.
- We lieten tijdens het eerste gesprek aan de hand van drie voorbeelden van apps (SkinVision, Fitsurance en Nico.lab) zien wat er met AI kan in de context van zorg. We vroegen deelnemers wat ze hiervan vinden.
- Deelnemers zien de voordelen van AI voor zorg en gezondheid, en staan er voor open om deze te gebruiken. Maar het roept ook verschillende vragen op.
In een serie van drie gesprekken met patiënten en burgers vragen we naar hun verwachtingen, bedenkingen en vragen over AI in de zorg. De dialogen worden georganiseerd door de werkgroep burger- en patiëntparticipatie van de Nederlandse AI Coalitie, waaraan Health~Holland, Patiëntenfederatie Nederland, Pharos, het Rathenau Instituut, TNO, Amsterdam UMC en stichting Mijn Data Onze Gezondheid deelnemen. Het Rathenau Instituut schreef deze terugblik op het gesprek. Het Rathenau Instituut doet onderzoek naar digitale technologie in de zorg, waaronder AI. In een recente blogserie heeft het Rathenau Instituut verschillende relevante spelers op het gebied van de Nederlandse gezondheidszorg en innovatie (d.w.z. overheid, ontwikkelaars, ondernemers, juristen en wetenschappers) gevraagd om hun visie op verantwoorde innovatie van AI voor de gezondheidszorg met ons te delen.
Een gesprek met taalambassadeurs en patiënten
Een panel van vier taalambassadeurs en zes patiënten ging online in gesprek met onderzoekers, ontwikkelaars en artsen die zich bezighouden met de ontwikkeling van AI voor de zorg. Andere aanwezigen konden in de chatfunctie opmerkingen plaatsen en vragen stellen. De bijeenkomst begon met een uitleg over de manier waarop AI werkt: op basis van een grote hoeveelheid data wordt een computer aangeleerd om patronen te herkennen. Die patronen worden vervolgens gebruikt om aanbevelingen te doen aan individuen. Denk bijvoorbeeld aan Netflix, die op basis van de gegevens van veel gebruikers over welke films of series ze graag kijken jou suggesties kan doen voor films en series. De aanbeveling is dan: anderen die deze serie leuk vonden, keken ook graag naar deze films en series.
Zo werkt het in de zorg ook: op basis van gegevens van veel patiënten vindt de computer ‘vergelijkbare gevallen,’ op basis waarvan de computer een voorspelling kan doen of advies kan geven. Op die manier kunnen bepaalde taken van dokters worden overgenomen, zoals het doorzoeken van dossiers. Hierdoor krijgen ze meer tijd voor patiënten.
De aanwezigen zien wel wat in deze technieken. Zeker als het daarmee voor verschillende zorginstellingen mogelijk wordt om gegevens met elkaar te delen, zodat een zorgverlener altijd alle gegevens van een patiënt beschikbaar heeft. Daarbij moet privacy natuurlijk altijd voorop blijven staan voor de panelleden.
Na de algemene introductie presenteerden drie app-ontwikkelaars hun apps, en bespraken we met de deelnemers hun verwachtingen, bedenkingen en vragen bij deze apps.
SkinVision – wat moet ik met deze moedervlek?
Met de app van SkinVision kunnen gebruikers een foto maken van een moedervlek. De app zorgt ervoor dat de moedervlek goed in beeld is. Binnen dertig seconden geeft de app een risico-indicatie en een advies om de vlek te laten nakijken door een dokter of zelf in de gaten te houden. Veel deelnemers zien het voordeel van zo’n app. Zelf zouden ze bij twijfel niet zo snel naar de dokter gaan om een plekje te laten checken. Deze app kan twijfel daarover wegnemen. Maar dan moeten mensen wel weten dat die app bestaat. En moet de app gebruiksvriendelijk zijn, ook voor mensen die moeite hebben met lezen en schrijven of digitaal minder vaardig zijn. Sommige mensen hebben hulp nodig bij het downloaden, installeren en het in gebruik nemen van zo’n app.
Deelnemers vinden het belangrijk dat potentiële gebruikers goed worden geïnformeerd over welke apps beschikbaar zijn, welke goed werken en of gebruik ervan wordt vergoed. SkinVision kost bijvoorbeeld geld om te gebruiken, maar inmiddels wordt dit door de helft van de verzekeraars vergoed. Maar er zijn ook andere apps die iets vergelijkbaars doen. De aanwezigen vragen zich af hoe ze erachter komen welke dan het beste of meest betrouwbaar is, en wie hen hierover zouden kunnen informeren.
Een andere kwestie die werd besproken aan de hand van de app van SkinVision had te maken met de manier waarop AI-systemen worden gemaakt: ze worden ‘getraind’ om patronen te herkennen op basis van beschikbare data. Omdat huidkanker veel minder voorkomt bij mensen met een donkere huid zijn er weinig foto’s beschikbaar van huidtumoren bij een (heel) donkere huid. Bij mensen met een donkere huid zal de app huidkanker minder goed herkennen, omdat hij niet met dat soort gegevens of data ‘gevoed’ wordt. De app zal dus minder goed werken voor mensen met een donkere huid. Daar staat tegenover dat de vraag naar de app onder deze mensen ook minder groot is, omdat het risico op huidkanker lager is.
Voor AI-apps geldt in het algemeen: als de gegevens die zijn gebruikt om de app te ontwikkelen onvolledig zijn, kan de app voor bepaalde personen minder goed werken. SkinVision geeft aan dat het er alles aan doet om een app te maken die voor iedereen goed werkt. Tot die tijd vinden deelnemers het belangrijk dat het voor individuele gebruikers duidelijk is of een app geschikt is voor hem of haar.
Fitsurance – verbeter je lifestyle met een app
Met de app van Fitsurance kunnen gebruikers hun eigen gezondheidsdoelen instellen, en verschillende metingen en gegevens invoeren. De app geeft dan persoonlijke aanbevelingen over wat gebruikers kunnen doen om de doelen te bereiken, en coacht hen. Twee deelnemers met een chronische ziekte maken zelf gebruik van een soortgelijke app om hun gezondheid te monitoren en zelf te verbeteren. Zij geven aan dat het motiveert, omdat het hun eigen vooruitgang laat zien, en het hen het gevoel geeft dat ze het niet alleen hoeven te doen.
Hoe meer gegevens de app kan gebruiken, hoe persoonlijker de adviezen en de coaching kunnen zijn. Dat kan een reden zijn om ook andere gezondheidsgegevens, zoals van de huisarts of een behandelend specialist, te koppelen aan de app. En andersom, als het de behandeling ten goede komt, zouden gegevens uit de app kunnen worden gedeeld met een behandelend arts. Of met onderzoekers voor leefstijlonderzoek. Deelnemers hebben daar niet zo veel bezwaar tegen, maar vragen zich wel af of het nodig is als je de app vooral als een soort ‘personal coach’ wil gebruiken. Als er gegevens worden gedeeld, is het belangrijk dat er goede afspraken worden gemaakt, en dat er goed over wordt nagedacht met wie er gegevens gedeeld worden.
Nico.lab – een snellere diagnose bij herseninfarct
StrokeViewer van Nico.lab is een app die door artsen in het ziekenhuis wordt gebruikt. Het helpt artsen om sneller een herseninfarct te detecteren. Als patiënten op de eerste hulp komen krijgen ze een CT-scan. De app helpt artsen met het interpreteren van deze CT-beelden, door op de beelden aan te geven hoe groot de kans is dat daar een herseninfarct op te zien is. Een neuroloog uit het Academisch Medisch Centrum (AMC) die deze app gebruikt, geeft aan dat hij de app heel nuttig vindt. Maar hij vertrouwt nog niet volledig op het advies van de app. Hij vergelijkt het met de TomTom van vroeger: die volgde je ook niet blindelings omdat je, op basis van je eigen kennis van de omgeving, soms wist dat je een bepaalde afslag beter niet kunt nemen. Zo werkt het ook met StrokeViewer van Nico.lab: het is een geweldig hulpmiddel, maar het werkt nog niet perfect. In de loop van de tijd zal de app steeds beter worden, en kun je er als arts meer op vertrouwen. Tegenwoordig heb je Google Maps, en dat werkt zo goed dat je het bijna blindelings kunt volgen. Maar het blijft een menselijke beslissing: als je denkt ‘wat een gek advies’ dan ga je toch wat beter kijken.
Eén van de deelnemende patiënten had zelf herseninfarcten gehad. Zij gaf aan dat ze heel blij is met zo’n app. Bij een herseninfarct telt elke seconde, dus alles wat de diagnose versnelt, is een verbetering. Maar menselijk handelen moet wel leidend blijven. Als patiënt zou ze er wel in geïnteresseerd zijn om te weten of deze app is gebruikt voor haar behandeling, en hoe dat werkt, want ze hecht er waarde aan om mee te beslissen. Maar vaak komt dat niet aan bod in gesprekken tussen arts en patiënt: in de acute fase is daar geen tijd voor, en later wordt er niet over gesproken.
Tot slot
Aan het eind van het gesprek begonnen arts en patiënt samen te brainstormen over een app die een infarct kan detecteren, zonder CT-scan, en automatisch 112 kan bellen. Dat laat zien hoe belangrijk het is om vooraf vast te stellen wat gebruikers, zowel artsen als patiënten, nodig hebben, zodat de apps die worden ontwikkeld aansluiten bij de behoeften, denkwijze en leefwereld van de gebruiker. Deelnemers aan het gesprek staan open voor het gebruik van AI in de zorg, maar het roept ook vragen op. Ze stellen dat het belangrijk is om goede afspraken te maken en voorwaarden te stellen aan het gebruik ervan, en zijn graag betrokken bij het ontwikkelen, implementeren en gebruik van AI in de zorg.