Innoveren met AI in de zorg: ‘Eerst de data op orde brengen’

AI presteert nu soms al beter dan mensen. Bijvoorbeeld als je een vraag duidelijk stelt en je hebt een grote dataset om een AI-systeem mee te trainen. Je hoeft echter maar een klein beetje buiten het trainingsdomein te gaan en een AI-algoritme krijgt het moeilijk. Bijvoorbeeld een algoritme dat huidkanker diagnosticeert. Als die getraind is op foto’s van witte huiden en je wilt het algoritme toepassen op een donkere huid, dan loopt het algoritme vast. Een arts heeft een diepere kennis van huidkanker, waardoor hij of zij die kan toepassen op witte én donkere huid. 

Daar verschilt AI van de intelligentie van mensen. Wat een mens leert in één context, kan hij of zij toepassen in een andere. Dat komt doordat een mens veel achtergrondkennis heeft over de wereld waarin wij leven. Kennis over natuurwetten, sociale wetten, cultuur, oorzaak en gevolg. Nieuwe kennis bedden we in onze achtergrondkennis in en vervolgens kunnen we deze toepassen in een andere context. Daardoor zijn we veel flexibeler dan AI.

Denk maar eens aan een olifant die fietst op de maan. Waarschijnlijk heb je nu onmiddellijk een beeld in je hoofd, ook al heb je die olifant nog nooit gezien en houd je het ook niet voor mogelijk dat je ooit een olifant op de maan ziet fietsen. Wij mensen kunnen de drie abstracte concepten ‘olifant’, ‘fiets’ en ‘maan’ combineren tot een beeld. Een algoritme heeft daar moeite mee. Als onderzoekers in machine learning zijn we nu bezig systemen te ontwikkelen die even flexibel zijn als mensen. En volgens mij is er geen reden om te denken dat AI uiteindelijk niet zo slim kan worden als een mens.

AI-systemen die toepasbaar zijn in de (ziekenhuis)zorg hoeven niet eens zo flexibel te zijn. De meeste problemen zijn goed gedefinieerd. Er is bijvoorbeeld maar een beperkt aantal ziektes mogelijk en een arts in opleiding moet die ook allemaal leren. Het is dus vooral een kwestie van het op de juiste wijze classificeren van de klachten X, Y en Z van de patiënt die binnenkomt. AI is daarbij in staat om veel meer ziektes te ‘kennen’ dan een arts. AI is bijvoorbeeld niet gebonden aan een specialisatie als cardiologie of urologie. AI kent ook zeer zeldzame ziektes, die een arts zelf misschien maar één keer in zijn of haar carrière tegenkomt.

Voor innovatie in de zorg worden we nu vooral beperkt door de beschikbaarheid van data. Privacywetgeving zit in de weg. Daardoor kunnen we maar moeilijk gegevens uitwisselen. Het is bijvoorbeeld, ook tijdens de coronacrisis, niet mogelijk om röntgenfoto’s van de longen te delen. Terwijl er  weinig privacygevoelige gegevens uit zo’n foto te halen zijn. Technisch is het vaak mogelijk om privacy in het systeem in te bouwen, bijvoorbeeld door gegevens te versleutelen en ze niet centraal op te slaan. Ook voor het gebrek aan transparantie van zelflerende AI-systemen zijn er al technische oplossingen. Voor gebruikers is het vaak niet duidelijk hoe een systeem aan een bepaalde uitkomst, zoals een diagnose, komt. Een algoritme kan inzichtelijk maken hoe het systeem tot een bepaalde diagnose komt en daarmee de arts in staat stellen dit na te lopen.  

Als hoogleraar houd ik me bezig met het ontwikkelen van fundamentele algoritmes. Ik richt me op de wiskunde. In dat stadium vind ik het nog niet relevant om een ethische afweging te maken. De algoritmes kunnen vervolgens in allerlei toepassingen, goede en slechte, gebruikt worden. Pas als je de methode gaat toepassen in de praktijk worden ethische en maatschappelijke afwegingen relevant. En dan wil ik graag meedenken over robuuste toepassingen en vragen over veiligheid. Een algoritme dat heel goed is in voorspellen, maar niet transparant is, is misschien wel geschikt om ontwikkelingen op de financiële markt te voorspellen. Daar is het vooral belangrijk dat het goed werkt. Maar voor medische toepassingen is dat algoritme misschien minder geschikt, omdat we beslissingen willen kunnen controleren en dus meer transparantie verlangen.

Toch wil ik niet op de stoel van anderen gaan zitten. Juristen, sociologen en filosofen hebben ook een belangrijke rol in het beoordelen van algoritmes in specifieke toepassingspraktijken. Het is mijn passie om de fundamenten van de algoritmiek achter zelflerende systemen te ontwikkelen. Het is de taak van bijvoorbeeld een ethische commissie en andere experts om over de veiligheid en sociale impact van de mogelijke toepassingen te oordelen. Wat ik vanuit mijn perspectief wel kan betogen, is dat de wetgeving rond AI flexibel dient te zijn. Omdat de technologie zich zo snel ontwikkelt, is het belangrijk dat wetten niet voor tien jaar vastliggen. Ook zie ik veel in een systeem van certificering van methoden. Om een certificaat te krijgen, moet een methode door en door getest zijn. Er moet dus een logistiek systeem gebouwd worden om veilig en snel te kunnen certificeren. Zodat je een algoritme ook kan vertrouwen als je niet helemaal begrijpt wat er precies onder de motorkap gebeurt.

Om echt vooruitgang te boeken met AI in de zorg moeten we eerst de data op orde krijgen. In de medische wereld worden er ontzettend veel data verzameld, maar deze zijn nu niet beschikbaar om algoritmes op trainen. Die data moeten dus op een veilige en gestandaardiseerde manier op een Europees niveau beschikbaar komen. De EU is aan zet om dit te organiseren. Dat is een grote uitdaging. Als we dat voor elkaar hebben, dan kunnen onderzoekers allerlei algoritmes gaan ontwikkelen. Misschien worden er dan wel dingen mogelijk die we nu nog niet eens kunnen verzinnen.