Nieuw bij Medische Informatiekunde: Current Issues in Medical Informatics and AI

Current Issues in Medical Informatics and AI is opgebouwd uit vier themaweken. De eerste week staat in het teken van de technische kant van de ‘large language models’ (zoals bijvoorbeeld ChatGPT). De tweede week is de ‘GenAI Tutorweek’, ontwikkeld door het Teaching & Learning Centre, samen met MI-docenten Charlotte Lafage en Minke Geerlings-Holleboom. Remco: “Wij hebben voor deze themaweek het onderwijs ontwikkeld en gegeven. Studenten bouwen en valideren een eigen AI-tutor. Die kun je zien als een soort chatbot, in een beschermde UvA-omgeving. Studenten kunnen kiezen, want een AI-tutor kan fungeren als coach, feedbackbot of juist als een ‘persona’, die ze stapsgewijs door een vraagstuk heen kan leiden. Studenten leren prompts schrijven, documenten inladen en instructies invoeren over hoe de tutor zich moet gedragen. Een AI-tutor kan bijvoorbeeld zo worden geïnstrueerd dat hij vragen stelt, in plaats van direct antwoord te geven. Een gebied waar ze zelf voldoende kennis van hebben wordt aan de studenten toegewezen, zodat ze de tutor kunnen controleren en valideren op inhoud.  

In de derde week van het vak staan ethische vraagstukken bij AI-gebruik centraal. Ook leren studenten daarin over ‘explainable-AI’. Zowel voorspellende als generatieve AI kan met antwoorden, voorspellingen of oplossingen komen. Maar hoe komen deze uitkomsten tot stand? Met explainable-AI kan het model ook onderbouwen waarom het antwoord zo gegeven wordt. 

In week 4 leren studenten om onderzoek te evalueren vanuit het perspectief van een peer reviewer. Voor zowel onderzoek over AI als klinische informatica-onderzoek in het algemeen leren studenten over de methoden die gebruikt worden en zij leren de waarde van een onderzoek te bepalen. 

“Generatieve AI, zoals chatbots, zijn voor vele taken inzetbaar in het toekomstig werkveld van medisch informatiekundigen,” aldus Remco. Met dit vak leren studenten om AI op een verantwoorde manier te gebruiken. “Het is belangrijk dat studenten begrijpen hoe generatieve AI werkt. Niet alleen om ze tijdens hun opleiding te helpen bij het leerproces, maar juist ook voor hun toekomstig vak. Waarvoor kan je AI juist wel of beter niet inzetten? Zo is er een duidelijk verschil tussen AI  vragen om een verslag te herschrijven dan wel feedback vragen op een zelfgeschreven verslag. Bij dat laatste is er de optie dat je iets van AI leert. Dit soort processen kunnen op een toekomstige werkplek op andere dingen worden toegepast. Zo kunnen bijvoorbeeld op samenvattingen worden gemaakt uit patiëntendossiers of gesprekken met de patiënt worden genotuleerd.” 

“Studenten zijn over het algemeen enthousiast om met AI aan de slag te gaan. In het huidige AI-beleid van de UvA is het niet de bedoeling dat studenten structureel met GenAI werken, maar er is wel ruimte en infrastructuur voor pilots, zoals bij dit vak. Hoewel er wat technische uitdagingen waren bij deze eerste editie van het nieuwe vak, gaven studenten aan over het algemeen blij te zijn met de nieuwe inzichten die het ze gegeven heeft. Natuurlijk is er ook een keerzijde aan het gebruik van AI. Ook hier is oog voor tijdens dit onderwijs.  Het is belangrijk dat je je bij gebruik van AI realiseert wat het op kan leveren, en ook wat het kost. Zo is het belangrijk om mee te wegen welke impact op het klimaat het gebruik van technologie heeft en zou je kunnen nadenken over het belang van bedrijven achter bepaalde AI-toepassingen.” We leren de studenten dat AI niet klakkeloos moet worden ingezet, maar moet worden afgewogen als één van de mogelijke tools die je kunt inzetten. Dit doen we bijvoorbeeld door vergelijkingen met dagelijkse bezigheden in onderwijs én privé. We maken studenten bewust van de gevolgen van het gebruik van AI, bijvoorbeeld op het klimaat. Dat is een minder zichtbare kant, dus het is wel nodig om bij de keuzes die je maakt mee te wegen wat de impact kan zijn.” 

Remco: “Een voorbeeld van een AI-tool die je nu ziet is een virtuele doktersassistent. Deze AI-gedreven tool kan voorafgaand aan een doktersbezoek bepaalde informatie uitvragen en eventueel antwoord geven op vragen van de patiënt. Het idee is dat de patiënt zich misschien een bezoek aan de arts kan besparen én dat de arts, als toch een consult nodig is, al bepaalde informatie heeft. Studenten Medische informatiekunde zouden dit soort tools in de toekomst kunnen gaan uitbouwen. Uiteraard moet, voordat zo’n virtuele assistent wordt ingezet, onderzoek worden gedaan, naar de waarde ervan en naar kosten en baten voor alle betrokkenen. Naast patiënt en zorgverlener zijn er ook de bedrijven die deze tools aanbieden, zijn er financierende partijen als zorgverzekeraars én zijn er kaders nodig voor de impact van grootschalig gebruik van AI. Sommige tools kunnen zo gemaakt worden dat ze emoties herkennen; vinden we dat bij zo’n doktersassistent handig, of is dat onwenselijk?” Het vraagstuk van de emotieherkenning wordt op dit moment door de EU als een grens gehanteerd. 

“De grootste uitdaging vooraf was de keuze over gebruik van infrastructuur. Dus: met welke AI-toepassing kunnen we dit onderwijs geven? Een harde eis vanuit ons was, dat er zorgvuldig met data wordt omgegaan. Inmiddels is er een eigen omgeving van de UvA: de UvA-AI-Chat. Deze tool hebben we kunnen inzetten. 

Een andere uitdaging was de beoordeling van het vak. Welke keuze maken we daarin? Uiteindelijk hebben we ervoor gekozen om studenten een logboek te laten bijhouden over het proces. Wat heb je gedaan? Hoe heb je dit aangepakt? En welke keuzes heb je gemaakt? Studenten mogen hierbij AI gebruiken, maar moeten wel zelf hun stappen kunnen uitleggen. Ze moeten ons kunnen vertellen hoe het denkproces is verlopen en verantwoorden welke keuzes ze hebben gemaakt.”  

De mogelijkheden van AI veranderen voortdurend. “We monitoren goed wat er om ons heen gaande is en welke modellen door de UvA worden ondersteund. Het kan natuurlijk zijn dat er een compleet nieuwe variant in AI ontstaat, maar vooralsnog blijven de principes gelijk. Het is van belang dat we oog houden voor de dataveiligheid en kritisch blijven beoordelen wat relevant is voor de zorgprofessional van de toekomst. Mijn toekomstdroom zou zijn dat we ooit een AI-tutor kunnen inzetten die hetzelfde effect kan bereiken als 1-op-1 persoonlijke begeleiding door een goede docent. Iedere student een gepersonaliseerde AI-tutor, naast uiteraard het steunen, motiveren en coachen door de onderwijsprofessionals en medestudenten om je heen.”