Im derzeit noch handgemachten Vortrag von Dr. Jens Meier (Klinik für Anästhesiologie und operativer Intensivmedizin am Kepler Universitätsklinikum Linz) gab es vorweg eine Kernaussage: Daten sind das neue Öl, aber Informationen sind das neue Gold! Daten gibt es im Gesundheitswesen zuhauf – nur an vielen Stellen verstreut und in unterschiedliche Hüllen verpackt. Den wesentlichen Nutzen von KI sieht Meier darin, aus den vorliegenden Daten Gold zu machen, indem nutzbare Informationen generiert werden.
Maschinelles Lernen
Prinzipiell gibt es drei Typen maschinellen Lernens, die man kennen sollte, um zu verstehen wie KI funktioniert:
- Supervised learning: Daten werden für die KI „gelabelt“ bzw. werden bereits zugeordnete Daten verwendet. Anhand dieser Daten lernt die KI und kann dadurch neue Daten selbstständig zuordnen. Diese Art von KI ist die Bekannteste. Ein Beispiel ist die Zuordnung von Hautkrebsbildern, wo schon heute Künstliche Intelligenz Dermatologen in der Treffsicherheit überlegen ist.
- Unsupervised learning: Hier wird die KI mit Rohdaten gefüttert, welche sie selbstständig clustert, also in Gruppen einteilt. Das Problem hierbei: es lässt sich nicht sagen, nach welchen Kriterien die KI gruppiert. Etwa könnte man Äpfel und Birnen entweder nach der Form oder auch nach der Farbe der Frucht klassifizieren.
- Reinforcement learning: diese Art von KI ist nach Ansicht von Meier die vielversprechendste. Hier lernt KI anhand von trial and error – also durch Ausprobieren und den Erfolg/Misserfolg des Versuchs. Das Problem hierbei: es ist natürlich nicht vertretbar, dass das Wohl von Menschen während des Lernprozesses aufs Spiel gesetzt wird. Allerdings kann diese Form maschinellen Lernens bei der automatischen Spracherkennung von Nutzen sein. In diesem Bereich muss noch viel Forschung betrieben werden.
Ängste durch KI
Zum Schluss des Vortrages sprach Meier drei Ängste an, die im Zusammenhang mit KI auftauchen:
- Ich verstehe KI nicht: Hier kann sogenannte „Explainable KI“ nützlich sein, die nicht nur ihre Entscheidung mitteilt, sondern auch darstellt, wie sie zu der Entscheidung gekommen ist.
- KI wird mich ersetzen: Dort wo wir es wollen und zulassen kann das passieren. Aber eines kann KI sicher nie ersetzen – Empathie!
- Ich kann für Fehler von KI verantwortlich gemacht werden: Zurzeit obliegt die Entscheidung noch dem Arzt und KI ist nur unterstützend tätig. Das wird sich aller
Voraussicht nach aber dann ändern, sobald KI dem Arzt nachweislich überlegen ist. Für diesen Fall ist die Haftungsfrage noch gänzlich ungeklärt.
KI in der Ordination
Prof. Dr. Wolfram Herrmann (Institut für Allgemeinmedizin an der Charité – Universitätsmedizin Berlin) wurde extra für seinen Vortrag zu uns eingeflogen, da aufgrund der Hochwassersituation in Süddeutschland der Zugverkehr lahmgelegt war. Der Experte, selber Allgemeinmediziner, legt dar, welche Möglichkeiten KI in Zukunft für die Hausarztpraxis bietet.
Wir sehen uns heute einer relativ fragmentierten Versorgungslandschaft gegenüber, in der viele verschiedene Dokumentationssysteme Verwendung finden. Außerdem gibt es einen Fachkräftemangel bei gleichzeitiger Zunahme von chronischen Erkrankungen und Multimorbidität und einer generell komplexeren Versorgungssituation. Die Möglichkeiten von Künstlicher Intelligenz können hier definitiv helfen, stehen aber im deutschsprachigen Raum einem stark ausgeprägten Datenschutz gegenüber, der Trainingsdaten für sprachbasierte KI-Systeme schwer zugänglich macht.
Acht Potentialfelder
An dieser Stelle sollen drei der acht Anwendungsmöglichkeiten von KI in der Hausarztpraxis vorgestellt werden:
- Benchmarking: könnte Anlassbezogen in Echtzeit und konkret auf einen Patienten bezogen stattfinden. Z.B. ein Vorschlag für die beste Behandlung einer konkrete Patientin mit akutem Harnwegsinfekt.
- Aufbereitung von Patientendaten: Hausärzt:innen sehen sich einer hohen Anzahl von Patientenkontakten gegenüber. Zu jedem Patienten existiert eine Fülle an Dokumentationen, die jedoch unstandardisiert vorliegen. In der Konsequenz müssen sich Ärzt:innen oft auf die Berichte der Patient:innen verlassen, wodurch Behandlungsfehler in Folge von Fehl- oder Mangelinformation die Folge sein können. Hier kann KI helfen, indem sie für den Behandlungsfall relevante Informationen kurz zusammenfasst und gut aufbereitet zur Verfügung stellt.
- Automatisierte Praxisorganisation: hier könnte KI etwa die Planung von Hausbesuchen übernehmen, die auch die Planung der Reihenfolge, Route und dem Inhalt der Packtasche beinhaltet, oder die Terminplanung mit automatisierter Triage organisieren. Außerdem könnte die Erreichbarkeit der Praxis mittels Terminvergabe über einen Sprachroboter verbessert werden.
Derzeit werden KI-Systeme jedoch nur in Pilotprojekten genutzt. Bis man damit in die Regelversorgung gehen kann, wird es wohl noch eine Weile dauern.
KI und Recht
Hon-Prof. Dr. Felix Wallner (Geschäftsführer des Linzer Instituts für Gesundheitssystem-Forschung) informierte in seinem Vortrag über den im Frühjahr 2024 von der EU beschlossenen sogenannten AI Act. Die darin enthaltenen Regelungen passen sich dem Risikopotential der jeweiligen Anwendung an: umso höher das Risiko, desto strenger die gesetzlichen Pflichten! KI-basierte Medizinprodukte werden grundsätzlich als Hochrisikosysteme eingestuft und unterliegen damit besonders strengen Bestimmungen. Dazu gehört, dass diese Systeme über ein Risikomanagementsystem verfügen, qualitativ hochwertige Daten eingesetzt werden, eine technische Dokumentation und eine automatische Protokollierung vorgesehen sind und eine hohe Genauigkeit, Robustheit und Cybersicherheit bestehen. Darüber hinaus muss der Anwender von KI (Mediziner:innen) die Aufsicht übernehmen und das System jederzeit stoppen können. Völlig autonome KI-Systeme sind sowohl durch den AI Act als auch datenschutzrechtlich verboten. Eine Selbstbehandlung durch KI ist allerdings derzeit rechtlich möglich, wie das bisher auch z.B. bei der Verwendung von „Dr. Google“ der Fall ist.
Der AI Act verfolgt das Ziel, Gefahren von KI präventiv, im Rahmen der Genehmigung von Medizinprodukten, weitestgehend zu beherrschen. Allerdings könnten selbsttägige Änderungen des Systems, eine mangelnde Vorhersagbarkeit des Verhaltens, Intransparenz oder fehlerhafte Datenquellen zu Problemen führen.
KI ist prinzipiell nicht schuldfähig, so Wallner, und es wäre im Schadensfall auch schwer möglich einen Schuldnachweis zu erbringen. Daher gibt es den Vorschlag für KI-Systeme eine Pflichtversicherung zu installieren, die die Haftung übernimmt. Solange aber die Letztentscheidung über Diagnose/Behandlung beim Arzt/Ärztin liegt und dem Arzt/der Ärztin eine wirkungsvolle Ergebniskontrolle möglich ist, bedarf es laut dem Juristen keiner grundlegenden Änderungen im Berufs- und Haftungsrecht.
Podium
Herrmann glaubt nicht daran, dass Künstliche Intelligenz das Berufsbild des Arztes wesentlich ändern wird. Er sieht die neuen technischen Errungenschaften lediglich als Unterstützung und als Möglichkeit für Mediziner:innen sich künftig mehr auf ihre ärztliche Kerntätigkeit fokussieren zu können. Angesprochen auf den Kostenfaktor der Künstlichen Intelligenz ist man sich einig, dass dies keine günstige Angelegenheit werden wird. Ziegler ist jedoch davon überzeugt, dass sich mit der ÖGK zum gegebene Zeitpunkt mit Sicherheit gute Lösungen finden werden. Generell erwartet der Allgemeinmediziner und Kurienobmann der niedergelassenen Ärzte, dass es mit KI ähnlich sein wird wie mit allen neuen EDV-Errungenschaften, die er bisher im Laufe seiner Tätigkeit mitgemacht hat: Zuerst wird es mehr Arbeit machen, als es bringt, wenn sich die Sache aber mal eingespielt hat, wird es eine enorme Hilfe sein.
Böhm, der in der Radiologie bereits mit KI-Systemen konfrontiert ist, meint, dass jede KI-Anwendung bisher immer nur eines oder ein paar seiner Probleme gelöst habe. Er habe jedoch tausende dieser Probleme. Es bedürfe aus seiner Sicht daher einer KI-Lösung, die bei allen täglichen Herausforderungen helfen kann. Meier schilderte, dass es für eine erfolgreiche Umsetzung von KI-Lösungen prinzipiell drei Personen braucht: einen Techniker, der sich mit KI auskennt, einen Data Scientist, der die Qualität und Aussagekraft der verfügbaren Daten kennt und einen Mediziner, der die Sprache der beiden anderen Personen spricht.
Einigkeit bestand über eine Tatsache: Derzeit überwiegt die Frage, ob es ethisch vertretbar ist, KI einzusetzen. Ist der gesundheitliche Nutzen von KI für die Gesundheit von Patient:innen aber erst einmal nachgewiesen, wird sich umgekehrt die Frage stellen, ob es ethisch vertretbar ist, KI nicht einzusetzen. Denn KI ist ohne Zweifel gekommen, um zu bleiben!
Nähere Informationen finden Sie in der gleichnamigen Ausgabe der Zeitschrift für Gesundheitspolitik, die kostenfrei abonniert oder als Einzelexemplar bestellt werden kann.
Mit freundlicher Unterstützung der LGT Bank.