L'IA dans le secteur de la santé : Le BDF met en garde contre les risques pour les droits fondamentaux et plaide en faveur d'un renforcement de la réglementation
Leur état de santé contraint les personnes handicapées à un usage régulier des services en soins de santé. Le BDF constate que la montée en puissance de l’IA dans les soins de santé implique un risque important pour les droits fondamentaux et que l’AI-ACT, le RGPD et la législation NIS2 sont les indispensables garde-fous de ces droits, qui doivent être consolidés et renforcés.
1. Les données personnelles
Les services de santé disposent de très nombreuses données sensibles. Les personnes handicapées attendent une protection maximale pour éviter que leurs données ne soient volées, commercialisées ou ne tombent dans des mains malveillantes. A ce titre, la directive UE 2022/2555 (NIS2) s’avère essentielle pour encadrer la cybersécurité des fournisseurs de services essentiels, comme les hôpitaux. Ceux-ci font régulièrement l’objet de cyberattaques. De plus, la loi belge relative aux droits du patient est fondée sur les principes du RGPD, sur les droits d’accès, de consentement et d’opposition. Affaiblir le RGPD et ces principes, c’est affaiblir ipso facto les droits fondamentaux des patients.
2. La qualité des systèmes d’IA embarqués dans les dispositifs de soins
Mis à part les systèmes qui régissent l’éligibilité aux services de soins de santé, les systèmes d’IA embarqués dans des dispositifs médicaux ne sont pas considérés à haut risque. Pourtant, certains de ces dispositifs « peuvent perpétuer des schémas […] de discrimination [… à l’encontre […] des personnes handicapées » (AI-Act, considérant 57). La question des biais est centrale. En effet, les biais a posteriori, permettant de personnaliser le soin, peuvent être bénéfiques au patient. Mais il n’en va pas de même des biais a priori, résultant des choix de développement. Ces derniers peuvent conduire à l’exclusion de groupes de personnes, ayant certains handicaps par exemple, avec des conséquences graves sur l’adéquation des prestations et donc sur leur santé. Il est impératif de renforcer la qualité du développement des systèmes d’IA médicaux, même s’ils ne constituent pas des systèmes à haut risque. A ce titre, inclure des personnes handicapées parmi les personnes qui créent des systèmes d’IA augmenterait la sensibilisation des créateurs à ces biais et contribuerait à les réduire. D’autre part, la formation des prestataires de soins utilisant l’IA est cruciale pour qu’ils restent capables de maîtriser ces outils avec IA et pour éviter de glisser vers une médecine à deux vitesses, avec et sans IA. Exigence de qualité des développements et formation sont des principes majeurs de l’AI-ACT qui doivent pouvoir s’appliquer aussi aux dispositifs d’IA médicaux qui sans être à haut risque ont une incidence majeure sur la santé des patients.
3. Les possibilités d’action d’un patient victime d’une décision d’IA médicale
Celles-ci sont réduites et essentiellement basées sur des dispositions de l’AI-ACT et du RGPD : l’accès public de la base de données EU des systèmes d’IA ; les prérogatives d’information, d’enquête et de recours des organismes de protection des droits fondamentaux ; les prérogatives d’enquête et de supervision du « Bureau de l’IA » ; la collaboration entre les organismes de protection des droits fondamentaux et les autorités de surveillance du marché ; l’obligation d’enregistrement des IA à haut risque ; la protection des droits d’accès, d’information, de consentement et d’opposition garantis par le RGPD. Sans ces dispositions, les patients se retrouveraient sans recours face à des systèmes d’IA tout-puissants.
En conclusion, le BDF appelle la Commission Européenne à maintenir et renforcer les dispositions de l’AI-ACT, du RGPD et de la législation NIS2 qui protègent les droits fondamentaux des citoyens et leur pouvoir d’action lorsque ces droits sont menacés.
