AI haalt het beste boven uit de mens en zijn geneeskunst
Alessandro Bozzon
Catholijn Jonker
De eed die zorgverleners afleggen gaat over medemenselijkheid, precies wat AI-technologie tekortschiet. Maar daar komt verandering in, als het aan Prof. dr. Ir. Alessandro Bozzon en prof. dr. Catholijn Jonker ligt.
De gezondheidszorg staat wereldwijd voor dringende problemen. Waaronder een tekort aan zorgpersoneel, gezondheidsverschillen tussen bevolkingsgroepen en beheersing van de huidige en toekomstige pandemieën. AI biedt nieuw perspectief op effectieve oplossingen. Maar mist hetgeen centraal staat in de eed van zorgverleners: menswaardigheid. Dat je het belang van de patiënt voorop stelt, diens opvattingen eert, geen schade toebrengt, goed luistert en diens geheimen bewaart.
AI Theme Health and Care
Mens centraal
AI-innovatie rond gezondheid en zorg in Delft is gestoeld op de typisch Delftse systeembenadering: AI moet het zorgecosysteem waarin het huist versterken. En de mens staat altijd centraal, als begunstigde én bestuurder van AI-systemen. Om succes te boeken, moet je mensen dan leren hoe AI werkt; en AI leren hoe mensen overwegen en welke waarden ze belangrijk vinden. Dat onderzoeken Jonker en Bozzon, die zich richten op de interactie tussen mens en AI. Met hun onderzoek weven ze de leidraden van de eed AI in.
Wat mensen belangrijk vinden, probeert Alessandro Bozzon, hoogleraar Mensgericht AI, uit te leggen aan AI. Bijvoorbeeld aan een slim systeem dat op basis van risicofactoren voorspelt hoeveel kans een patiënt loopt op complicaties na een operatie. Het systeem wordt getraind met medische data (zie kader). Het kan bijdragen aan persoonlijke zorg op maat, maar moet ook goede zorg garanderen voor elke patiënt. Bozzon: "Maar: is de data wel representatief voor de bevolking? Bevat het geen bias? Criteria en methodes om dat vast te stellen, en de rol die AI daarbij kan spelen, zijn onderwerp van onze studies."
Ethisch verantwoord
Zorgen voor een dataset zonder menselijke valkuilen, is een belangrijke eerste stap richting waardengerichte innovatie. Een andere kwestie waarbij menselijke waarden naar voren komen: wanneer presteert een systeem goed? Accurate voorspelling alleen is onvoldoende. Het systeem moet kunnen verantwoorden waarop het uitkomsten baseert en menselijke feedback kunnen verwerken. Bozzon: "Aandacht hiervoor maakt AI effectief en betrouwbaar."
Maar wanneer ervaren gebruikers AI als betrouwbaar en hanteerbaar? En hoe vertaalt je dat naar criteria voor technologie? Dat zijn kwesties waarover Catholijn Jonker, hoogleraar Interactieve intelligentie, zich buigt. Jonker en haar team werken onder meer aan AI die medieert: die overwegingen ondersteunt door een vorm van bemiddeling. Dat kan de vorm hebben van een virtuele wereld die mensen helpt om te gaan met hun post-traumatische stressstoornis. Of materialiseren in hulpmiddelen zoals Grippy, een handschoen die vroegtijdig stress waarneemt, de drager coacht via bijvoorbeeld waarschuwingen en op basis van feedback zijn interventie bijstuurt.
Slimme mediator
Een grotere ambitie nog is de innovatie van een slimme mediators. Bijvoorbeeld één die artsen begeleidt bij intercollegiaal overleg, door samen te vatten, uitkomsten te visualiseren en te wijzen op belangrijke onbesproken zorgaspecten. Jonker: "De meeste van mijn studies beginnen bij mensen. Welke aspecten verbeteren de uitkomst van zo'n overleg? Welke ongesproken regels en waarden gelden er? Welke verschillen tussen deelnemers bepalen de uitkomst? En hoe vertalen we deze concepten zo, dat artsen ervaren dat de mediator betrouwbaar en nuttig is?"
Zowel Bozzon als Jonker benadrukken het belang van mensgerichte innovatie, juist in de zorg. Bozzon: "Het gaat om volksgezondheid, inclusiviteit en persoonlijke zorg. Schaalvergroting is hierbij een wezenlijk aandachtspunt: die maakt ons nog kritischer omdat die gevolgen heeft groepen of hele bevolkingen."
Zorg als toetssteen
Het ecosysteem van de gezondheidszorg biedt Delft een goede toetssteen. Die helpt AI aan te sluiten op de werkelijke situatie. Jonker: "En geeft ons richting: waar zitten de grootste vraagstukken en valkuilen?"
Gelukkig
Jonker prijst zich gelukkig dat ze werkt aan de TU Delft, dat van oudsher interdisciplinair samenwerkt, en daardoor goed is in het verbinden van benodigde competenties. Van mathematisch ontwerp, tot ethiek en technologische realisatie. "TU Delft trekt mensen aan die niet alleen willen weten hoe het zou kunnen; ze willen het ook zien werken."