Validering van artificiële intelligentie door de FDA: alles kan beter

Ondanks de mogelijke voordelen voor artsen en patiënten staan we nogal sceptisch ten aanzien van AI-tools en maken we ons zorgen over de bescherming van het privéleven van de patiënten en de precisie van die tools.

Gezien de snelle evolutie van AI-tools in de gezondheidszorg heeft een groep vorsers van meerdere instellingen zich tot taak gesteld het vertrouwen van het publiek in AI te verhogen en na te gaan hoe AI-algoritmes worden goedgekeurd voor gebruik in de patiëntenzorg.

144 van de 521 AI-tools die de FDA heeft goedgekeurd, is achteraf gevalideerd, 158 prospectief en 22 door gerandomiseerde, gecontroleerde studies. Er zijn geen klinische studies uitgevoerd voor 226 (43%) van de 521 medische toestellen die de FDA heeft goedgekeurd. Enkele van die toestellen maken gebruik van beelden gegenereerd door een computer, dus niet van een echte patiënt, wat niet voldoet aan de vereisten van klinische validering.

In hun publicatie in Nature Medicine definiëren Chouffani El Fassi, Henderson et al. de klinische valideringsmethoden die als norm kunnen worden gebruikt inzake medische AI. “We hebben onze resultaten overhandigd aan de directeurs van de FDA die toezicht uitoefenen op de reglementering van medische hulpmiddelen. Wij hopen dat onze studie wat meer duidelijkheid zal scheppen in de wijze waarop ze beslissingen nemen”, heeft Chouffani El Fassi verklaard. “We hopen ook dat onze publicatie vorsers en universiteiten in de hele wereld ertoe zal aanzetten klinische valideringsstudies inzake medische AI uit te voeren om de veiligheid en de werkzaamheid van die technologieën te verbeteren.”