KI im Gesundheitswesen

Konkrete Anwendungen

KI etabliert sich im Alltag der Gesundheitsfachkräfte. In der medizinischen Bildgebung werten Diagnoseunterstützungssysteme Röntgenaufnahmen, CT- und MRT-Bilder aus, um krankhafte Muster zu erkennen, als zweiter Blick, der die Radiologin oder den Radiologen nicht ersetzt. In der Kardiologie und der Dermatologie kommt es zu vergleichbaren Anwendungen, insbesondere bei der Erkennung von Herzrhythmusstörungen im Elektrokardiogramm oder dem Erkennen von Hautläsionen.

Die klinische Dokumentation bildet eine zweite Achse: Assistenzsysteme erstellen Berichte und Arztbriefe, verringern die manuelle Eingabe und schaffen klinische Zeit. Die Automatisierung erstreckt sich auf administrative Aufgaben wie Terminvergabe, Nachrichtensortierung und Kodierung. KI unterstützt schließlich die Behandlungspfade über Telekonsultation, Telekonsil und die Überwachung chronischer Erkrankungen, wobei in den Einrichtungen Werkzeuge zur Triage und zur Früherkennung entstehen.

Herausforderungen und Grenzen

Die Zuverlässigkeit der Algorithmen bleibt zentral. Verzerrungen entstehen, wenn die Trainingsdaten die Vielfalt der versorgten Bevölkerung nicht abbilden: Ein dermatologisches Modell kann je nach Hauttyp eine uneinheitliche Genauigkeit aufweisen. Diese Schwankung begrenzt das Vertrauen der Behandelnden und erzeugt ein klinisches Risiko in untypischen Situationen.

Die Undurchsichtigkeit komplexer Systeme, der sogenannten Blackboxes, schafft ein Spannungsverhältnis zwischen Leistung und Erklärbarkeit. KI liefert Wahrscheinlichkeiten und Warnungen, selten eine transparente klinische Begründung, während die Ärztin oder der Arzt eine Entscheidung verstehen und erläutern können muss, vor allem im Streitfall.

Der Schutz von Gesundheitsdaten gilt als regulatorisches Gebot: Die DSGVO regelt ihre Verarbeitung streng, mit Anonymisierung oder Pseudonymisierung, zertifiziertem Hosting und Speicherung innerhalb der Europäischen Union, und die ärztliche Schweigepflicht muss gewahrt bleiben, wenn Daten an externe Plattformen übermittelt werden.

Die ärztliche Verantwortung bleibt schließlich entscheidend. Die behandelnde Person bleibt für die diagnostische oder therapeutische Handlung verantwortlich, unabhängig von der Technologie: Die KI schlägt vor, der Mensch entscheidet. Diese Regel beseitigt die Grauzonen nicht, insbesondere wenn ein Werkzeug eine Wahl außerhalb des festgelegten Protokolls empfiehlt.

Regulierung und europäischer Rahmen

Die nationalen Gesundheitsbehörden haben einen Vertrauensrahmen für digitale Technologien und KI-Systeme zur beruflichen Nutzung aufgebaut und Empfehlungen für einen verantwortungsvollen Einsatz generativer KI im Gesundheitswesen veröffentlicht. Nationale Arzneimittelbehörden und Datenschutzbehörden teilen sich die Regulierungsaufgaben, wobei Letztere über die Einhaltung der DSGVO wachen. Die europäische Verordnung über künstliche Intelligenz sieht verschärfte Pflichten für Hochrisikosysteme vor, zu denen zahlreiche Medizinprodukte zählen. Öffentliche Krankenversicherungs- und Bewertungsstellen führen zudem medizinisch-ökonomische Bewertungen durch, um den tatsächlichen Beitrag der KI vor jeder breiten Einführung zu messen.

Was ActuIA verfolgt

ActuIA verfolgt die Entwicklungen der KI im Gesundheitswesen: das Aufkommen neuer Werkzeuge, die Entwicklung der europäischen Regulierung, Fragen der Zuverlässigkeit und der Datenverwaltung sowie die Veränderung beruflicher Praktiken.