calendar tag arrow download print
Image
Data op orde
artikel
07 mei 2020

Innoveren met AI in de zorg: ‘Eerst de data op orde brengen’

Kunstmatige intelligentie Gezondheidszorg Blogserie
Illustratie: Max Kisman
In de blogserie ‘Gezonde Bytes’ onderzoeken we hoe kunstmatige intelligentie (AI) verantwoord voor onze gezondheid wordt ingezet. In dit elfde deel is Max Welling, hoogleraar Machine Learning aan de Universiteit van Amsterdam en Vice President Technologie bij Qualcomm, aan het woord. Het is mogelijk dat AI in de toekomst artsen ondersteunt bij het stellen van diagnoses en het opstellen van een behandelplan. Sommige dingen zullen algoritmes zelfs beter kunnen dan artsen. Maar eerst moeten we, in Europees verband, het verzamelen en uitwisselen van data op orde krijgen, aldus Max Welling.

In het kort:

  • Hoe wordt AI verantwoord voor onze gezondheid ingezet? Daarover gaat deze blogserie.
  • Om echt vooruitgang te boeken met AI in de zorg, moeten we volgens Max Welling eerst de data op een veilige, systematische manier kunnen delen.
  • Er is geen reden om te denken dat een vorm van AI uiteindelijk niet zo slim kan worden als een mens en dat er dingen mogelijk worden die we nu nog niet eens kunnen verzinnen.

Bij de inzet van technologie moet onze gezondheid centraal staan. Op zoek naar goede voorbeelden van verantwoorde inzet van kunstmatige intelligentie in de zorg, vroeg het Rathenau Instituut belangrijke spelers op het gebied van gezondheid en welzijn in Nederland naar hun ervaringen. In deze blogserie delen we deze inzichten via onze website. Hoe maken we nu en in de toekomst gezonde keuzes? Hoe zorgen we dat we zelf kunnen beslissen waar dat kan? En begrijpen we op welke manier anderen verantwoordelijkheid nemen voor onze gezondheid waar dat moet?

Een olifant die fietst op de maan

AI presteert nu soms al beter dan mensen. Bijvoorbeeld als je een vraag duidelijk stelt en je hebt een grote dataset om een AI-systeem mee te trainen. Je hoeft echter maar een klein beetje buiten het trainingsdomein te gaan en een AI-algoritme krijgt het moeilijk. Bijvoorbeeld een algoritme dat huidkanker diagnosticeert. Als die getraind is op foto’s van witte huiden en je wilt het algoritme toepassen op een donkere huid, dan loopt het algoritme vast. Een arts heeft een diepere kennis van huidkanker, waardoor hij of zij die kan toepassen op witte én donkere huid. 

Daar verschilt AI van de intelligentie van mensen. Wat een mens leert in één context, kan hij of zij toepassen in een andere. Dat komt doordat een mens veel achtergrondkennis heeft over de wereld waarin wij leven. Kennis over natuurwetten, sociale wetten, cultuur, oorzaak en gevolg. Nieuwe kennis bedden we in onze achtergrondkennis in en vervolgens kunnen we deze toepassen in een andere context. Daardoor zijn we veel flexibeler dan AI.

Denk maar eens aan een olifant die fietst op de maan. Waarschijnlijk heb je nu onmiddellijk een beeld in je hoofd, ook al heb je die olifant nog nooit gezien en houd je het ook niet voor mogelijk dat je ooit een olifant op de maan ziet fietsen. Wij mensen kunnen de drie abstracte concepten ‘olifant’, ‘fiets’ en ‘maan’ combineren tot een beeld. Een algoritme heeft daar moeite mee. Als onderzoekers in machine learning zijn we nu bezig systemen te ontwikkelen die even flexibel zijn als mensen. En volgens mij is er geen reden om te denken dat AI uiteindelijk niet zo slim kan worden als een mens.

AI in het ziekenhuis: veel data en duidelijke problemen

AI-systemen die toepasbaar zijn in de (ziekenhuis)zorg hoeven niet eens zo flexibel te zijn. De meeste problemen zijn goed gedefinieerd. Er is bijvoorbeeld maar een beperkt aantal ziektes mogelijk en een arts in opleiding moet die ook allemaal leren. Het is dus vooral een kwestie van het op de juiste wijze classificeren van de klachten X, Y en Z van de patiënt die binnenkomt. AI is daarbij in staat om veel meer ziektes te ‘kennen’ dan een arts. AI is bijvoorbeeld niet gebonden aan een specialisatie als cardiologie of urologie. AI kent ook zeer zeldzame ziektes, die een arts zelf misschien maar één keer in zijn of haar carrière tegenkomt.

Voor innovatie in de zorg worden we nu vooral beperkt door de beschikbaarheid van data. Privacywetgeving zit in de weg. Daardoor kunnen we maar moeilijk gegevens uitwisselen. Het is bijvoorbeeld, ook tijdens de coronacrisis, niet mogelijk om röntgenfoto’s van de longen te delen. Terwijl er  weinig privacygevoelige gegevens uit zo’n foto te halen zijn. Technisch is het vaak mogelijk om privacy in het systeem in te bouwen, bijvoorbeeld door gegevens te versleutelen en ze niet centraal op te slaan. Ook voor het gebrek aan transparantie van zelflerende AI-systemen zijn er al technische oplossingen. Voor gebruikers is het vaak niet duidelijk hoe een systeem aan een bepaalde uitkomst, zoals een diagnose, komt. Een algoritme kan inzichtelijk maken hoe het systeem tot een bepaalde diagnose komt en daarmee de arts in staat stellen dit na te lopen.  

Algoritmes kunnen in allerlei toepassingen, goede en slechte, gebruikt worden.

Verantwoord innoveren

Als hoogleraar houd ik me bezig met het ontwikkelen van fundamentele algoritmes. Ik richt me op de wiskunde. In dat stadium vind ik het nog niet relevant om een ethische afweging te maken. De algoritmes kunnen vervolgens in allerlei toepassingen, goede en slechte, gebruikt worden. Pas als je de methode gaat toepassen in de praktijk worden ethische en maatschappelijke afwegingen relevant. En dan wil ik graag meedenken over robuuste toepassingen en vragen over veiligheid. Een algoritme dat heel goed is in voorspellen, maar niet transparant is, is misschien wel geschikt om ontwikkelingen op de financiële markt te voorspellen. Daar is het vooral belangrijk dat het goed werkt. Maar voor medische toepassingen is dat algoritme misschien minder geschikt, omdat we beslissingen willen kunnen controleren en dus meer transparantie verlangen.

Toch wil ik niet op de stoel van anderen gaan zitten. Juristen, sociologen en filosofen hebben ook een belangrijke rol in het beoordelen van algoritmes in specifieke toepassingspraktijken. Het is mijn passie om de fundamenten van de algoritmiek achter zelflerende systemen te ontwikkelen. Het is de taak van bijvoorbeeld een ethische commissie en andere experts om over de veiligheid en sociale impact van de mogelijke toepassingen te oordelen. Wat ik vanuit mijn perspectief wel kan betogen, is dat de wetgeving rond AI flexibel dient te zijn. Omdat de technologie zich zo snel ontwikkelt, is het belangrijk dat wetten niet voor tien jaar vastliggen. Ook zie ik veel in een systeem van certificering van methoden. Om een certificaat te krijgen, moet een methode door en door getest zijn. Er moet dus een logistiek systeem gebouwd worden om veilig en snel te kunnen certificeren. Zodat je een algoritme ook kan vertrouwen als je niet helemaal begrijpt wat er precies onder de motorkap gebeurt.

AI in de zorg – eerst de data op orde krijgen

Om echt vooruitgang te boeken met AI in de zorg moeten we eerst de data op orde krijgen. In de medische wereld worden er ontzettend veel data verzameld, maar deze zijn nu niet beschikbaar om algoritmes op trainen. Die data moeten dus op een veilige en gestandaardiseerde manier op een Europees niveau beschikbaar komen. De EU is aan zet om dit te organiseren. Dat is een grote uitdaging. Als we dat voor elkaar hebben, dan kunnen onderzoekers allerlei algoritmes gaan ontwikkelen. Misschien worden er dan wel dingen mogelijk die we nu nog niet eens kunnen verzinnen.