Het Amsterdam UMC (de samenvoeging van het ‘oude’ Amsterdamse AMC en VUMC ) kwam in augustus 2022 in het nieuws omdat het AI toepast bij het beoordelen van de kans op IC-heropname van patiënten die op de IC liggen en mogelijk overgeplaatst kunnen worden naar een andere afdeling. De behandelend specialist ontvangt op basis van gegevens uit het Electronisch Patienten Dossier (EPD) een kans dat de patient ‘ terugkomt’ op de IC als deze nu wordt ‘ontslagen’. Een ‘wereldprimeur‘ aldus het ziekenhuis. Zie ook het blogbericht: Kunstmatige intelligentie / Artificiële intelligentie en de zorg
De toepassing van AI als beslisondersteuning voor de behandelend specialist roept de vraag op op welke wijze de validiteit en betrouwbaarheid van deze toepassing en onderliggende ML technologie is en wordt gewaarborgd. Met de definitie-discussie over AI in het achterhoofd kan ook worden gesteld dat er geen sprake is van volledige autonomie van de AI toepassing bij het nemen van de ontslagbeslissing; de specialist neemt namelijk dit besluit. Wie de onderzoeksprofielen van Thoral, Elbers, Dam en Fleuren doorzoekt komt wat meer aan de weet over de mogelijke onderzoeksbasis waarop de huidige toepassing van ML en AI over de ontslagvoorspelling van IC patiënten kan zijn gebaseerd.
Sharing is caring
Eerder (maart 2021) publiceerden de initiatiefnemers Thoral en Elbers, samen met Dam en Fleuren een artikel: “Sharing is caring: how COVID-19 led to large-scale collaboration for icudata.nl” in het vakblad voor IC, ‘Netherlands Journal of Critical Care‘ over het grootschalig delen van COVID-19 data t.b.v. de toepassing van ML en big data analyse, o.a. in samenwerking met hetzelfde bedrijf, Pacmed, dat de AI-toepassing voor de IC ontwikkeld.
AI risico-beoordelingskader
In dezelfde maand dat Amsterdam UMC de wereldprimeur bekend maakte publiceerde het Amerikaanse ‘National Institute of Technology and Standards’ (NIST) op 18 augustus een tweede concept beoordelingskader van risico’s van AI voor betrokkenen bij AI. Dit ‘AI Risk Management Framework (AI RMF)’ is bedoeld voor vrijwillig gebruik en heeft als doelstelling een verbetering van betrouwbaarheid van het ontwerp, de ontwikkeling, gebruik en evaluatie van AI producten, diensten en systemen.
Behalve het AI RMF heeft NIST ook een concept – ‘Playbook’ gepubliceerd waarin de activiteiten staan die bijdragen aan het bereiken van de eerder genoemde doelstelling. Voor ieder van de vier onderdelen; ‘Govern’, ‘Map’, ‘Measure’ en ‘Manage’ worden (nog) acties, referenties en documentatie over richtlijnen beschikbaar gesteld.