AI in de oncologie: de prestaties verschillen naargelang van de patiëntengroep

De vorsers herinneren eraan dat het bekend is dat AI minder performant is in demografische groepen, die ondervertegenwoordigd zijn. Maar volgens deze studie hadden de modellen een minder goede diagnostische waarde bij bepaalde patiënten hoewel het aantal patiënten vergelijkbaar was. Een mogelijke verklaring is dat bepaalde kankers vaker voorkomen in bepaalde groepen. Het model “leert” dan vooral de signalen van die populaties en kan die moeilijk veralgemenen naar groepen waarin de ziekte minder vaak voorkomt. Voorts kunnen subtiele moleculaire verschillen in biopten, die eigen zijn aan bepaalde profielen, door het algoritme worden herkend en worden gebruikt als indirecte short-cut naar een demografische groep in plaats van naar de ziekte zelf, wat negatieve invloed heeft op de diagnostische gelijkheid.

De groep van Kun-Hsing Yu (Harvard Medical School) toont evenwel aan dat je een groot aantal van die biases kunt corrigeren door het trainingkader van de modellen aan te passen. Daardoor daalt het verschil in performantie tussen de groepen met 88,5%. Volgens hun bevindingen kan AI robuuster en “juister” worden zonder dat je daarvoor perfect evenwichtige gegevenssets nodig hebt, op voorwaarde dat je goed definieert wat de algoritmes mogen leren.

In een andere studie gepubliceerd in PLOS Biology onderstrepen de vorsers dat vergelijkbare biases in bacteriële-gegevensbanken ook het potentieel van AI beperken bij het voorspellen en bestrijden van resistentie tegen antibiotica. Er is dus dringend nood aan een rigoureuzere en transparantere gezondheidsmodellen.