AI in de gezondheidszorg: Het BDF waarschuwt voor risico’s voor grondrechten en pleit voor versterkte regelgeving
Door hun gezondheidstoestand zijn personen met een handicap genoodzaakt regelmatig gebruik te maken van gezondheidszorgdiensten. Het BDF stelt vast dat de opmars van AI in de gezondheidszorg een aanzienlijk risico voor de grondrechten inhoudt en dat de AI-ACT, de AVG en de NIS2-wetgeving absoluut noodzakelijke waarborgen voor deze rechten vormen, die moeten worden geconsolideerd en versterkt.
1. Persoonsgegevens
Gezondheidsdiensten beschikken over een zeer grote hoeveelheid gevoelige gegevens. Personen met een handicap verwachten een maximale bescherming om te voorkomen dat hun gegevens worden gestolen, verhandeld of in kwaadwillige handen terechtkomen. Daartoe is EU-richtlijn 2022/2555 (NIS2) van essentieel belang om de cyberbeveiliging van leveranciers van essentiële diensten, zoals ziekenhuizen, te omkaderen. Laatstgenoemden zijn regelmatig het doelwit van cyberaanvallen. Bovendien is de Belgische wet betreffende de rechten van de patiënt gebaseerd op de beginselen van de AVG, op de rechten op toegang, toestemming en verzet. Het afzwakken van de AVG en deze beginselen betekent ipso facto een afzwakking van de grondrechten van patiënten.
2. De kwaliteit van AI-systemen die zijn ingebed in de gezondheidszorg
Afgezien van systemen die bepalen of iemand in aanmerking komt voor gezondheidszorgdiensten worden AI-systemen die zijn ingebed in medische hulpmiddelen niet als systemen met een hoog risico beschouwd. Toch kunnen sommige van deze hulpmiddelen ‘ertoe leiden dat […] patronen van discriminatie […] ten aanzien van […] personen met een handicap blijven bestaan’ (AI-ACT, considerans 57). De problematiek van de bias staat centraal. A posteriori bias, die het mogelijk maken de zorg te personaliseren, kunnen immers gunstig zijn voor de patiënt. Dat geldt evenwel niet voor a priori bias, die het gevolg zijn van ontwikkelingskeuzes. Deze kunnen leiden tot de uitsluiting van bepaalde groepen personen, bijvoorbeeld personen met een bepaalde handicap, met ernstige gevolgen voor de geschiktheid van zorgverlening en dus voor de gezondheid van deze personen. Het is absoluut noodzakelijk om de kwaliteit van de ontwikkeling van medische AI-systemen te versterken, ook al worden deze niet als systemen met een hoog risico beschouwd. Daartoe zou het betrekken van personen met een handicap bij de ontwikkeling van AI-systemen de bewustwording van ontwikkelaars rond deze bias vergroten en bijdragen tot het verminderen ervan. Daarnaast is de opleiding van zorgverleners die AI gebruiken van cruciaal belang. Zij moeten deze AI-hulpmiddelen blijven beheersen en voorkomen dat we afglijden naar een geneeskunde met twee snelheden, namelijk zorg met AI en zorg zonder AI. Kwaliteitsvereisten voor de ontwikkeling en opleiding zijn belangrijke principes van de AI-ACT. Deze moeten ook kunnen worden toegepast op medische AI-systemen die weliswaar niet als systemen met een hoog risico worden beschouwd, maar toch een grote invloed hebben op de gezondheid van patiënten.
3. De handelingsmogelijkheden van een patiënt die het slachtoffer is van een medische AI-beslissing
De mogelijkheden zijn beperkt en hoofdzakelijk gebaseerd op de bepalingen van de AI-ACT en de AVG: publieke toegang van de EU-database voor AI-systemen; prerogatieven op het gebied van informatie, onderzoek en beroep van instanties die instaan voor de bescherming van de grondrechten; prerogatieven op het vlak van onderzoek en toezicht van het “AI-bureau”; samenwerking tussen instanties voor de bescherming van de grondrechten en autoriteiten voor markttoezicht; verplichte registratie van AI-systemen met een hoog risico; bescherming van de rechten op toegang, informatie, toestemming en verzet die door de AVG worden gewaarborgd. Zonder deze bepalingen zouden patiënten niet beschikken over effectieve rechtsmiddelen tegen almachtige AI-systemen.
Tot slot roept het BDF de Europese Commissie op om de bepalingen van de AI-ACT, de AVG en de NIS2-wetgeving te handhaven en te versterken, die de grondrechten van burgers en hun handelingsbevoegdheid beschermen wanneer deze rechten worden bedreigd.
- Raadplegingen: 547
De 
Elk jaar organiseert de Europese Commissie in samenwerking met het European Disability Forum (EDF) een 
