Applications de santé basées sur l’IA : nos retours sur une étude récente

Une récente étude publiée sur PubMed met en lumière les dangers et biais liés aux applications de santé utilisant l’intelligence artificielle pour établir des diagnostics. Nous avons pris le temps de l’analyser, et voici ce que nous en retenons. 

Des biais dans les bases de données qui posent problème

Un des premiers points soulevés concerne les biais dans les bases de données qui servent à entraîner les intelligences artificielles. En d’autres termes, si certaines populations ne sont pas suffisamment représentées, les diagnostics deviennent moins fiables pour ces groupes. 
Par exemple, cela peut concerner : 

• Les minorités ethniques, 

• Les patients atteints de maladies rares, 

• Les personnes âgées. 

Ces biais, souvent invisibles, peuvent avoir des conséquences graves, notamment des diagnostics erronés ou des retards dans la prise en charge. 

Éthique et légalité : des zones encore floues 

L’étude aborde également les questions éthiques et légales qui entourent ces technologies. Plusieurs problèmes ressortent : 

• Un manque de contrôle rigoureux : certaines applications ne passent pas par des validations de sécurité suffisantes avant d’être mises sur le marché. 

• L’absence de responsabilité claire : que se passe-t-il si un diagnostic erroné entraîne des conséquences graves pour un patient ? Qui est responsable ? 

Ces zones d’ombre créent des risques pour les utilisateurs, mais aussi pour les professionnels de santé qui pourraient se reposer sur ces outils. 

Fiabilité : l’IA encore loin des médecins

On rappelle que les applications de santé basées sur l’IA ne sont pas encore aussi fiables que les médecins. Quelques chiffres illustrent cet écart : 

• Fiabilité des diagnostics réalisés par les applications : entre 27 % et 70 %, 

• Fiabilité des diagnostics réalisés par les médecins généralistes : 82 %. 

Ces résultats montrent bien que, si ces technologies sont prometteuses, elles doivent rester des outils complémentaires, utilisés sous la supervision de professionnels de santé. 

Source :  

Zawati, M. H., & Lang, M. (2024). Does an App a Day Keep the Doctor Away ? AI Symptom Checker Applications, Entrenched Bias, and Professional Responsibility. Journal Of Medical Internet Research, 26, e50344. https://doi.org/10.2196/50344