Ist die KI Ihres Arztes sicher?

Künstliche Intelligenz (KI) hilft Ärzten in der Europäischen Region der WHO bereits bei der Erkennung von Krankheiten, der Reduzierung von Verwaltungsaufgaben und der Kommunikation mit den Patienten. Aber wer ist verantwortlich, wenn ein KI-System einen Fehler macht oder Schaden verursacht? In einem neuen Bericht von WHO/Europa mit dem Titel „Künstliche Intelligenz im Gesundheitswesen: ist die Europäische Region der WHO gerüstet?“ wird gewarnt, dass die rapide Verbreitung der KI in der Gesundheitsversorgung ohne die grundlegenden rechtlichen Sicherheitsnetze erfolgt, die zum Schutz der Patienten und des Gesundheitspersonals erforderlich sind. Auf der Grundlage von Antworten aus 50 der 53 Länder der Europäischen Region bietet der Bericht regionsweit das erste umfassende Bild darüber, wie KI im Gesundheitswesen eingeführt und reguliert wird. 

„KI ist für Millionen von Gesundheitsfachkräften und Patienten in der Europäischen Region bereits Realität“, erklärte Dr. Hans Henri P. Kluge, WHO-Regionaldirektor für Europa. „Aber ohne klare Strategien, Datenschutz, rechtliche Leitplanken und Investitionen in KI-Kompetenz laufen wir Gefahr, Ungleichheiten zu vertiefen, anstatt sie abzubauen.“ 

Auch wenn fast alle Länder in der Europäischen Region das Potenzial der KI zur Umgestaltung des Gesundheitswesens – von der Diagnostik über die Krankheitsüberwachung bis zur personalisierten Medizin – erkannt haben, so sind sie doch uneinheitlich und nur bruchstückhaft dafür gerüstet. Denn nur vier Länder (8 %) verfügen über eine eigene nationale KI-Strategie für das Gesundheitswesen, und nur weitere sieben (14 %) sind dabei, eine solche zu entwickeln. 

„Wir stehen an einem Scheideweg“, sagte Dr. Natasha Azzopardi-Muscat, Direktorin der Abteilung Gesundheitssysteme bei WHO/Europa. „Entweder wird die KI eingesetzt, um Gesundheit und Wohlbefinden der Menschen zu verbessern, unser erschöpftes Gesundheitspersonal zu entlasten und die Gesundheitskosten zu senken, oder sie könnte die Patientensicherheit untergraben, die Privatsphäre gefährden und Ungleichheiten in der Versorgung verfestigen. Es liegt an uns.” 

Einige Länder ergreifen bereits vorausschauende Maßnahmen: So verknüpft Estland elektronische Patientenakten, Versicherungsdaten und Bevölkerungsdatenbanken zu einer einheitlichen Plattform, die nun KI-Tools unterstützt; Finnland hat in die KI-Schulung seines Gesundheitspersonals investiert, und Spanien erprobt KI zur Früherkennung von Krankheiten im Rahmen der primären Gesundheitsversorgung. 

In der gesamten Europäischen Region hat die Regulierung Mühe, mit der Technologie Schritt zu halten. Fast neun von zehn Ländern (86 %) geben an, dass die Rechtsunsicherheit das Haupthindernis für die Einführung von KI ist. Acht von zehn Ländern (78 %) nennen finanzielle Engpässe als wesentliches Hindernis. In weniger als einem Zehntel der Länder (8 %) gibt es Vorschriften für die Haftung in Bezug auf KI im Gesundheitswesen, in denen die Verantwortlichkeit für Fehler eines KI-Systems und dadurch entstehende Schäden geregelt ist. 

„Ohne klare rechtliche Standards werden Kliniker möglicherweise zögern, sich auf KI-Tools zu verlassen, und Patienten haben keine klare Handhabe, wenn etwas schiefgeht“, sagte Dr. David Novillo Ortiz, Regionalbeauftragter für Daten, Künstliche Intelligenz und digitale Gesundheit. „Deshalb appelliert WHO/Europa dringend an die Länder, die Haftungsfragen zu klären, Schadensersatzmechanismen einzurichten und dafür zu sorgen, dass KI-Systeme auf Sicherheit, Fairness und Wirksamkeit in der Praxis getestet werden, bevor sie zu den Patienten gelangen.“ 

KI-Tools sind in den Gesundheitssystemen der Europäischen Region zunehmend präsent. So nutzen 32 Länder (64 %) bereits KI-gestützte Diagnostik, insbesondere in der Bildgebung und Früherkennung. Die Hälfte der Länder der Region (50 %) hat KI-Chatbots für die Einbindung und Unterstützung von Patienten eingeführt, während 26 Länder (52 %) vorrangige Bereiche für den Einsatz von KI im Gesundheitswesen festgelegt haben. Dagegen hat nur ein Viertel der Länder Mittel für die Umsetzung in diesen vorrangigen Bereichen bereitgestellt. 

Als Hauptgründe für den Einsatz von KI im Gesundheitswesen nannten die Länder am häufigsten die Verbesserung der Patientenversorgung (98 %), die Entlastung des Personals (92 %) und die Erhöhung von Effizienz und Produktivität (90 %). 

Für die Allgemeinbevölkerung ist der Einsatz von KI im Gesundheitswesen mit drei zentralen Anliegen verbunden: Patientensicherheit, fairer Zugang zur Versorgung und Datenschutz im digitalen Bereich. Wenn Menschen ärztliche Hilfe in Anspruch nehmen, erwarten sie, dass Ärzte oder Pflegekräfte für etwaige Fehler haften, aber die KI verändert diese Dynamik von Grund auf. Denn KI stützt sich auf Daten, um zu lernen und Entscheidungen zu treffen. Wenn diese Daten verzerrt oder unvollständig sind, werden auch die Entscheidungen der KI verzerrt sein, was zu Fehldiagnosen, falschen Behandlungen oder Ungleichheiten in der Versorgung führen kann. 

In dem Bericht werden die Länder aufgefordert, KI-Strategien zu entwickeln, die sich an den Zielen der öffentlichen Gesundheit orientieren, und in KI-kompetente Arbeitskräfte zu investieren, rechtliche und ethische Sicherheitsvorkehrungen zu stärken, die Öffentlichkeit transparent einzubeziehen und die grenzüberschreitende Datenverwaltung zu verbessern. 

„KI steht kurz davor, die Gesundheitsversorgung zu revolutionieren, aber das Versprechen kann nur eingelöst werden, wenn die Menschen und die Patienten im Mittelpunkt jeder Entscheidung stehen“, sagte Dr. Kluge abschließend. „Die Entscheidungen, die wir jetzt treffen, werden darüber entscheiden, ob die KI den Patienten und dem Gesundheitspersonal hilft oder sie zurücklässt.“