Blogfoto: Centraal Afrikaans Knobbelzwijn: by Peter Maas – Own work, CC BY-SA 3.0, https://commons.wikimedia.org/w/index.php?curid=25256736
Google maakte recentelijk bekend (18-05-2021) dat het een AI ‘Dermatology assist tool‘ beschikbaar gaat maken voor het vaststellen van huidaandoeningen. Het publiek, om gebruik te maken van dit instrument, laadt hiervoor zelf afbeeldingen op. De kunstmatige intelligentie (AI) vergelijkt vervolgens deze afbeeldingen met zo’n 288 vastgestelde afbeeldingstypen van bekende aandoeningen die eerder door medici zijn geïdentificeerd. Vervolgens, stelt Google, geeft het ‘authoritative information’ over de verstrekte afbeelding, met o.a. de mogelijke symptomen, een mogelijke behandeling. Behalve de afbeelding die wordt verstrekt beantwoord de inzender ook vragen over de aandoening, de tijdsperiode en andere symptomen. Het ‘filmpje‘ (gif) dat Google over het proces beschikbaar heeft gesteld laat de verschillende stappen zien die het bedrijf voor ogen heeft.
Een digitaal platform ecosysteem?
Het Dermatology assist tool kan worden gebruikt als één van de onderdelen van een digitaal platform ecosysteem gericht op huidaandoeningen. Google presenteert zich hierbij als platformeigenaar van een ‘gezondheidsplatform’ die interactie met ons als mogelijke gebruikers stimuleert en faciliteert. Het verwerkt naar eigen zeggen jaarlijks zo’n 10 miljard zoekopdrachten over huid, haar en nagels. Gebruikers van het AI instrument leveren data (afbeeldingen en informatie) aan en betalen met deze data voor het gebruik van de AI tool. Google, op hun beurt verwerkt deze informatie om de AI tool méér te laten leren (uit de aangeleverde afbeeldingen) en om meer te weten te komen over de gebruikers (uit de aangeleverde informatie, of bijv. uit het webgegevens). Op dit moment vormt het publiek de gebruikersgroep. In de toekomst zal deze groep ongetwijfeld worden uitgebreid met medische en gezondheidsprofessionals. Vanwege de huidige classificatie als medisch hulpmiddel klasse I is dat nu nog niet mogelijk.
Het platform zou uitgebreid kunnen worden met twee andere groepen; Adverteerders, een derde groep op het platform zijn bijv. gespecialiseerde huidartsen, privéklinieken voor cosmetische ingrepen of fabrikanten van wrattencréme. Google zal hen via hun zoekmachine faciliteren. Maar ook een vlogger met huidproblemen kan door Google worden ‘verbonden’ met dit platform. Een vierde groep vormen bijv. software applicaties. Het gebruik van de camera app op je smartphone voor het maken van foto’s betekent de koppeling van applicaties aan het platform. Ook zou bijv. een ‘Augmented Reality’ app (beschikbaar gesteld door de fabrikant van wrattencrème) op je telefoon een afbeelding van je huid kunnen laten zien wanneer je die hun wrattencrème zou gaan gebruiken.
Kennisbasis
Google lijkt het AI instrument te baseren op één oorspronkelijke studie gepubliceerd in Nature Medicine (2020). Het AI model waarover in deze studie wordt gerapporteerd is vervolgens geschikt gemaakt voor de web-based toepassing van het AI Dermatology Assist instrument. De ‘Nature-studie’ baseert zich op afbeeldingen uit een database van een teledermatology service. Er zijn kritische vragen stellen over de (wereldwijde) representativiteit van de studie, wanneer deze de basis vormt voor het AI instrument dat beschikbaar wordt gesteld. Patiënten in deze database waren gemiddeld 40-43 jaar en 60-64% van deze groep waren vrouwen. De meest voorkomende diagnosen die werden gesteld waren psoriasis, eczeem en acné. De vervolgstudie waarop het AI Dermatology Assist instrument is gebaseerd, richtte zich op de ondersteuning van medische professionals door AI bij het stellen van een klinische diagnose. Dus niet op het gebruik door het publiek. De studie is uitgevoerd door Google medewerkers en gefinancierd door Google. Uit de beschikbare informatie worden geen andere onderzoeken gepresenteerd waarbij eindgebruikers (het publiek) het AI instrument ook hebben gebruiken voor hun huid(aandoening) en de wijze waarop zij omgaan met de uitkomsten. Belangrijk is ook de kritiek uit medisch wetenschappelijke hoek over het gebruik van AI en ongelijkheid tussen bevolkingsgroepen.
Meerwaarde voor de gebruiker
Bijzonder is dat het publiek de beschikking krijgt over een AI instrument dat, met een bepaalde mate van waarschijnlijkheid, de mogelijke aanwezigheid van een huidaandoening kan vaststellen. Gebruikers informeren zichzelf steeds beter en hebben eenvoudiger toegang tot meer informatie. Dit beïnvloedt hun autonomie in positieve zin en maakt hen tot een meer gelijkwaardige gesprekspartner voor medische en verpleegkundige professionals. Tegelijkertijd is het ook met een overvloed aan beschikbare informatie steeds moeilijker geworden om de kwaliteit en betrouwbaarheid van die informatie vast te stellen. Dat Google hiervoor een AI instrument beschikbaar stelt betekent zeker niet dat hiermee ook de kwaliteit en betrouwbaarheid van informatie of deskundigheid van het advies voldoende is gewaarborgd. Daarnaast zijn er zorgen over de mate waarin verschillende bevolkingsgroepen voldoende zijn vertegenwoordigt in het datamodel dat ten grondslag ligt aan AI instrumenten. Denk hierbij aan personen met een donkere of een huid; wanneer een AI instrument overwegend is ‘getraind’ op personen met een witte huid, zijn andere groepen ondervertegenwoordigt en kan het instrument een verkeerde uitkomst genereren voor hen. Tegelijkertijd vergroot het AI instrument de toegang tot gezondheidsinformatie op een toegankelijke en intuïtieve wijze.
Wie op ‘Thuisarts.nl‘ zoekt op de zin ‘vlekjes en plekjes op de huid‘ leest, informatie die is samengesteld en gecontroleerd door medische professionals, kan vaststellen dat deze informatie veelomvattender, informatiever en deskundig is dan Google’s AI instrument. Dit biedt tegelijkertijd antwoorden biedt op vragen als bijv. “wanneer zelfonderzoek”; “wanneer wel onderzoek” en “waar moet ik op letten wanneer ik mijn huid onderzoek”. Op welke manier zouden Google en Thuisarts.nl zich kunnen vinden op het digitale platform ecosysteem?
Kracht en algoritmes van het AI instrument
Kan het AI instrument afbeeldingen van ‘alle’ huidtypen verwerken, of is het getraind op bijv. een specifiek huidtype? Op welke wijze is het instrument getraind en hoe zijn de resultaten verwerkt in het uiteindelijke instrument? Op welke wijze ontwikkeld Google het instrument verder wanneer meer gebruikers afbeeldingen opladen? Het is zeer de vraag of Google voldoende antwoord gaat geven op deze vragen. Gezien de registratie als medisch hulpmiddel in de laagste klasse is het bedrijf niet verplicht om het hulpmiddel te laten beoordelen door een onafhankelijke instantie (een ‘notified body’) of het te laten inspecteren na toelating. Wel wordt steeds meer zichtbaar over het gebruik en toepassing van algoritmen en de verwerking van privacygevoelige gegevens; ook toezichthouders zijn wakker geworden. Om een indruk te krijgen van de werking van een AI instrument en de onderliggende algoritmen heeft kunstenaar Tijmen Schep de site how normal am I? gecreëerd. Hierin wordt gedemonstreerd hoe gezichtsherkenning wordt gebruikt om je te beoordelen. Een leuk en privacyvriendelijk experiment!
Verwerken van gegevens
Een interessante vraag is of, en welke toestemmingen de gebruiker zal moeten geven om gebruik te maken van het AI instrument. Vraagt Google toestemming voor het verwerken van de afbeeldingen van de huid en de verstrekte informatie; wordt bijv. toestemming gevraagd om het IP-adres van de afzender te koppelen aan de afbeelding en verstrekte informatie? Wanneer de gebruiker via een webapplicatie gebruik maakt van het AI instrument, wordt er dan aanvullend informatie verwerkt waarvoor de gebruiker geen expliciete toestemming heeft gegeven?
AVG
Dit raakt tegelijkertijd aan het type gegevens dat wordt verstrekt; wanneer worden afbeeldingen van afwijkingen van de huid aangemerkt als een gezondheidsgegeven, en zijn het hierdoor bijzondere persoonsgegevens in de context van de Algemene Verordening Gegevensbescherming (AVG)? Moeten deze gegevens dan ook als zodanig worden behandeld door de ontvangende partij wanneer deze met een specifiek doel aan deze partij zijn toegestuurd? Mag Google ‘mijn’ afbeelding verwerken in hun AI instrument of moet het hiervoor expliciet toestemming vragen omdat het hiervoor moet voldoen aan een wettelijke grondslag? En mocht dat het geval zijn, kan ik die toestemming dan achteraf intrekken bijv.?
Medisch hulpmiddel klasse 1
Google heeft het in de EU als Medisch Hulpmiddel I laten registreren; dit is de laagste klasse waarin een medisch hulpmiddel kan worden geclassificeerd in termen van risico voor de patiënt. Pleisters en rolstoelen bevinden zich in dezelfde klasse, terwijl een heup- of borstimplantaat zich bijv. in de hoogste klasse bevindt.
De classificering van het AI instrument in klasse I betekent ook dat het niet gebruikt mag worden als hulpmiddel door medische professionals voor diagnostiek en behandeling en er geen klinische beoordeling heeft plaatsgevonden. De EU wet- en regelgeving zou in dat geval een zwaardere beoordeling en evaluatie volgens een hogere risicoklasse voorschrijven. Het is in dit opzicht interessant dat het door Google aangehaalde onderzoek wel gericht was op ondersteuning van medische diagnostiek. Dit lijkt te suggereren dat Google in een volgende fase wel zo’n stap op de ladder gaat maken waardoor ook nieuwe groepen zich aan gaan sluiten bij het ecosysteem.
Dit werk valt onder een Creative Commons Naamsvermelding-NietCommercieel 4.0 Internationaal-licentie.