Ondernemen met AI in de zorg: behoefte aan samenwerking en strategie

Als beginnend technologiebedrijf in AI-producten voor de zorg liep ik tegen enkele obstakels aan. Eén ervan was het subsidietraject en de eis daarbij om een aanvraag met een launching partner in te dienen. Een launching partner is iemand die aangeeft dat hij meedoet aan jouw experiment. De partner wil het nieuwe product testen, zonder dat daar direct een deal aan vastzit om het product daadwerkelijk af te nemen. Het vinden van een launching partner in de zorg bleek lastig omdat de business cases voor AI-oplossingen in de zorg niet eenvoudig te realiseren zijn. Zorgverleners hebben het druk en starten een experiment pas op het moment dat er uitzicht is op positieve impact.

Ook tijdsdruk was een probleem. Het vinden van een launching partner en de doorlooptijd in de zorg duren in het algemeen meer dan een jaar. Er is dan al helemaal weinig tijd om nieuwe, onbewezen AI-technologie te testen, ondanks de veelbelovende toegevoegde waarde.

Een ander obstakel bleek de acceptatie van foutmarges in een AI-systeem. Ik denk hierbij aan een applicatie die 3D-simulaties maakt van heupgewrichten, te gebruiken bij de voorbereiding van een heupoperatie. Een arts kan vooraf met de 3D-kopie de operatie oefenen. Het systeem maakt een nauwkeurige kopie van het heupgewricht en de software analyseert waar afwijkingen zitten. Maar het beeld is nooit 100% accuraat. Een mens maakt ook fouten. Toch lijkt het alsof systeemfouten moeilijker te accepteren zijn dan menselijke fouten.

Om succesvol te ondernemen met AI in de zorg is het allereerst nodig te weten of de AI-toepassing door voldoende zorgverleners gebruikt gaat worden. Welk probleem lost deze toepassing op? Wie gaat het gebruiken? Deze vragen worden weliswaar voldoende gesteld, maar de antwoorden zijn lastig te formuleren. Dat komt, omdat de consequenties voor de huidige werkwijze vaak niet helder zijn, waardoor de impact van de AI-toepassing niet goed ingeschat kan worden.

Gezonde risico-bereidheid is dus noodzakelijk. Maar omdat zorg over mensen gaat, is het niet verstandig om risico’s te nemen. Dit maakt het extra lastig om experimenten op te starten. Daarom hebben we onze beeldherkenningstechnologie eerst getest en geïmplementeerd op visuele inspectie van staalplaten in plaats van medische afbeeldingen.

Een ondernemer moet ook aan zijn product kunnen verdienen. Uitdagingen daarvoor liggen in het zorgverzekeringsstelsel en de organisatiestructuur van de gezondheidszorg. De business case moet zijn afgestemd op een stelsel van declaraties en vergoedingen. De complexe organisatiestructuur van een ziekenhuis – en de zorg in het algemeen – belemmeren de implementatie van een nieuwe AI-toepassing. Er zijn vele schakels waarvan een ondernemer afhankelijk is. Die schakels zouden de handen ineen moeten slaan en gezamenlijk een programma moeten opstellen voor de ontwikkeling van AI in de zorg. Dat vergt een fundamentele systeemwijziging van de gezondheidszorg.

Ziekenhuizen zullen een datastrategie moeten aanpassen aan de toepassing van AI in de zorg. Zij kunnen veel data opslaan, maar het heeft weinig zin om data te verzamelen als er geen plan is voor het gebruik van geavanceerde AI-toepassingen. Als ziekenhuizen AI willen inzetten voor betere zorg, zullen ze cruciale informatie voor AI-toepassingen moeten opslaan, zodat automatische beslissystemen ermee kunnen werken. Deze informatie ontbreekt in het algemeen. Bij Pathologie wordt bijvoorbeeld onderzocht of cellen in een monster van een tumor kwaadaardig zijn. Degene die de cellen analyseert, zal moeten aangeven welke cellen kwaadaardig zijn en welke niet. Alleen dan wordt die data bruikbaar voor een eventuele AI-toepassing. Het ontbreekt nu nog vaak aan een gedeelde visie voor het genereren en gebruiken van deze data, waardoor kansen blijven liggen om met AI de zorg te verbeteren.

Er is ook een collectief bewustzijn nodig dat mensen individuele afwegingen en fouten maken en hun beperkingen hebben. De analyses van bloedmonsters, bijvoorbeeld, worden steeds geavanceerder en complexer. Het is voor een mens steeds lastiger om die in samenhang met andere (historische) analyses te zien en daarin subtiele patronen te ontdekken. AI biedt een kans om dat proces te verbeteren. Maar dan moet de mogelijke eindgebruiker bereid zijn om zich door AI te laten ondersteunen, in het bewustzijn dat hij zijn beperkingen heeft.

AI kan pas echt impact hebben als het AI-startups lukt om ‘op te schalen’. Zodat succesvolle AI-toepassingen niet fragmentarisch verspreid zijn in de zorg, maar de hele gezondheidszorg ervan profiteert.

Er is nog te weinig ervaring en daarmee besef van de mogelijke impact van AI. Het is goed dat Europa nadenkt over beleid voor verantwoorde AI. Europa is echter niet leidend, maar volgend in de ontwikkeling van AI-technologie door partijen in China en de VS. We hebben daarmee beperkte controle over de technologie. Europa leidt als het ware de scheidsrechters op, maar loopt achter in de ontwikkeling van het spel.

Het is opmerkelijk dat AI vaak als boosdoener wordt gezien, terwijl het mensen zelf zijn die de technologie maken en ook bepalen welke beslissingen aan AI worden overgelaten. AI is – op dit moment althans – als het ware een spiegel van menselijk gedrag. Als wij discrimineren, dan zal een automatisch beslissysteem ook discrimineren. AI maakt onze eigen keuzes en voorkeuren zichtbaar. Voor zover die onwenselijk zijn, zouden die gesignaleerd en ‘gerepareerd’ moeten worden, in plaats van AI als boosdoener aan te merken. Ik zie dit als een kans: AI-systemen kunnen onze eigen collectieve tekortkomingen inzichtelijk te maken. Hierin ligt wat mij betreft de kracht van deze technologie.