KI im Gesundheitswesen: Das BDF warnt vor Risiken für die Grundrechte und plädiert für strengere Vorschriften
Aufgrund ihres Gesundheitszustands sind Menschen mit Behinderungen darauf angewiesen, regelmäßig Gesundheitsdienstleistungen in Anspruch zu nehmen. Das BDF stellt fest, dass der zunehmende Einsatz von KI im Gesundheitswesen ein erhebliches Risiko für die Grundrechte darstellt und dass das KI-Gesetz, die DSGVO und die NIS2-Richtlinie unverzichtbare Garantien für diese Rechte darstellen, die konsolidiert und gestärkt werden müssen.
1. Personenbezogene Daten
Gesundheitsdienste verfügen über eine sehr große Menge an sensiblen Daten. Menschen mit Behinderung erwarten maximalen Schutz, um zu verhindern, dass ihre Daten gestohlen, gehandelt oder in böswillige Hände gelangen. Zu diesem Zweck ist die EU-Richtlinie 2022/2555 (NIS2) von entscheidender Bedeutung, um die Cybersicherheit von Anbietern kritischer Dienste, wie beispielsweise Krankenhäusern, zu regeln. Letztere sind regelmäßig Ziel von Cyberangriffen. Darüber hinaus basiert das belgische Gesetz über die Rechte des Patienten auf den Grundsätzen der DSGVO, auf den Rechten auf Auskunft, Einwilligung und Widerspruch. Eine Schwächung der DSGVO und dieser Grundsätze bedeutet ipso facto eine Schwächung der Grundrechte der Patienten.
2. Die Qualität von KI-Systemen im Gesundheitswesen
Abgesehen von Systemen, die darüber entscheiden, ob jemand Anspruch auf Gesundheitsleistungen hat, gelten KI-Systeme, die in Medizinprodukte eingebettet sind, nicht als Systeme mit hohem Risiko. Dennoch können einige dieser Hilfsmittel „dazu führen, dass […] Diskriminierungsmuster […] gegenüber […] Menschen mit Behinderungen fortbestehen“ (AI-ACT, Erwägungsgrund 57). Im Mittelpunkt steht dabei die Problematik der Voreingenommenheit. A-posteriori-Bias, die eine Personalisierung der Versorgung ermöglichen, können nämlich für den Patienten von Vorteil sein. Dies gilt jedoch nicht für A-priori-Bias, die das Ergebnis von Entwicklungsentscheidungen sind. Diese können zum Ausschluss bestimmter Personengruppen führen, beispielsweise von Menschen mit einer bestimmten Behinderung, mit schwerwiegenden Folgen für die Angemessenheit der Gesundheitsversorgung und damit für die Gesundheit dieser Menschen. Es ist absolut notwendig, die Qualität der Entwicklung medizinischer KI-Systeme zu verbessern, auch wenn diese nicht als Hochrisikosysteme gelten. Zu diesem Zweck würde die Einbeziehung von Menschen mit Behinderungen in die Entwicklung von KI-Systemen das Bewusstsein der Entwickler für diese Verzerrungen schärfen und zu deren Verringerung beitragen. Darüber hinaus ist die Schulung von Gesundheitsfachkräften, die KI einsetzen, von entscheidender Bedeutung. Sie müssen diese KI-Hilfsmittel weiterhin beherrschen und verhindern, dass wir in eine Zwei-Klassen-Medizin abgleiten, nämlich eine Versorgung mit KI und eine Versorgung ohne KI. Qualitätsanforderungen für die Entwicklung und Ausbildung sind wichtige Grundsätze des AI-ACT. Diese müssen auch auf medizinische KI-Systeme anwendbar sein, die zwar nicht als Hochrisikosysteme gelten, aber dennoch einen großen Einfluss auf die Gesundheit der Patienten haben.
3. Die Handlungsmöglichkeiten eines Patienten, der Opfer einer medizinischen KI-Entscheidung ist
Die Möglichkeiten sind begrenzt und beruhen im Wesentlichen auf den Bestimmungen des AI-ACT und der DSGVO: öffentlicher Zugang zur EU-Datenbank für KI-Systeme; Befugnisse im Bereich Information, Untersuchung und Rechtsbehelf von Stellen, die für den Schutz der Grundrechte zuständig sind; Befugnisse im Bereich Untersuchung und Aufsicht der „KI-Behörde“; Zusammenarbeit zwischen Stellen zum Schutz der Grundrechte und Marktüberwachungsbehörden; obligatorische Registrierung von KI-Systemen mit hohem Risiko; Schutz der durch die DSGVO garantierten Rechte auf Zugang, Information, Einwilligung und Widerspruch. Ohne diese Bestimmungen hätten Patienten keine wirksamen Rechtsbehelfe gegen allmächtige KI-Systeme.
Abschließend fordert das BDF die Europäische Kommission auf, die Bestimmungen des AI-ACT, der DSGVO und der NIS2-Richtlinie durchzusetzen und zu stärken, die die Grundrechte der Bürger und ihre Handlungsfähigkeit schützen, wenn diese Rechte bedroht sind.
