Im 1. Teil unseres Beitrags haben wir unter anderem über die neue EU-Regulatorik in Bezug auf künstliche Intelligenz (KI) in Medizinprodukten informiert. Weiterhin bringen KI-basierte Medizinprodukte neuartige Anforderungen mit sich – insbesondere unter dem Fokus der Daten, die Grundlage für die Qualität von KI-basierten Lösungen sind. KI-basierte Medizinprodukte müssen iterativ mit neuen Daten angereichert und mittels verschiedener Metriken überwacht werden, um die Qualität der Systeme sicherzustellen.

Klassische Wartungs- oder Serviceverträge passen hierzu nicht mehr. Auch spielen Nutzerfeedback und -akzeptanz eine immer größere Rolle. Weiterhin ändern sich durch die Komplexität der Systeme auch die Anforderungen an Mitarbeiterschulungen. Diese geänderten Anforderungen müssen im Rahmen eines kostenoptimierten Beschaffungsprozesses berücksichtigt werden. Zudem spielt bei der Nutzung einer Technologie, deren Wesen die eigene Weiterentwicklung durch Verarbeitung immer neuer (Gesundheits-)Daten ist, Datenschutz eine zentrale Rolle.

Vergaberecht

Da der Markt aufgrund der immanenten erheblichen Innovation nicht überschaubar ist, muss die Einkaufsabteilung sich mit dem anzuschaffenden KI-basierten Produkt in besonderer Weise vertraut machen und ggf. mit fachlicher Unterstützung klären, ob es vergleichbare Produkte gibt. Im Übrigen werden bei KI-basierten Medizinprodukten auch immer Dienstleistungen zu beschaffen sein, sei es in Form von Schulungen (die über die klassische Medizinprodukteschulung hinausgehen), sei es in Form von Dokumentation, Evaluation, Updates usw. Häufig werden gerade kleine innovative Hersteller diese Dienstleistungen selbst nicht vorhalten, sodass diesbezüglich ein weiterer Beschaffungsprozess durchgeführt werden muss. Dies gilt es bereits vor der Bestellung von Systemen zu bedenken.

KI-basierte Medizinprodukte beinhalten damit eine Komponente, die nicht uneingeschränkt vorhersehbar arbeitet.

KI wird hier als selbständig lernende Software verstanden, die in der Lage ist, autonom komplexe Entscheidungen auf Grundlage einer großen Datenmenge zu treffen. KI-basierte Medizinprodukte beinhalten damit eine Komponente, die nicht uneingeschränkt vorhersehbar arbeitet. Der Krankenhausträger als Betreiber einer solchen Anwendung hat zum einen sicherzustellen, dass die jeweilige Anwendung/ das jeweilige Medizinprodukt immer die Behandlung nach dem aktuell geltenden medizinischen Standard gewährleistet. Dazu sind im Bereich der KI ein gewissenhaftes Monitoring der stattfindenden Prozesse und die Sicherstellung einer effizienten Dokumentation notwendig, damit jederzeit auch gegenüber Dritten bzw. den betroffenen Patienten transparent gemacht werden kann, wie genau die Behandlung / die diagnostische Entscheidung stattgefunden hat.

Ferner ist für den Betreiber essenziell, hinsichtlich aller Komponenten, die Bestandteil der Behandlung sind, volle Transparenz in Bezug auf den Hersteller zu haben. Medizinprodukte unterliegen nach bislang geltendem Recht dem Produkthaftungsrecht. Das bedeutet, dass bei auftretenden Schäden aufgrund einer Produktkomponente, wie z. B. der KI, der geschädigte Patient den Hersteller in Anspruch nehmen muss. Der Behandler sollte im Schadensfall in der Lage sein, den Patienten an den jeweiligen Hersteller, das heißt zum Beispiel den Programmierer der KI zu verweisen, um nicht selbst (allein) haften zu müssen.

Datenschutz

Die KI-basierte Anwendung verarbeitet Patientendaten und gibt sie häufig auch an Dritte weiter. Diese Daten werden sehr häufig in Netzen verarbeitet werden, die über das Krankenhaus hinausgehen, ggf. über den Hersteller im Ausland gehostet werden. Diesbezüglich muss sich der Krankenhausträger/ Einkauf/ Behandler vor dem ersten Einsatz Klarheit verschaffen und entscheiden, ob und in welcher Form die Einwilligung von Patienten eingeholt werden muss. Zu prüfen ist auch, inwieweit „Joint Controllership Agreements“ für die ggf. gemeinsame Datenverarbeitung von Krankenhaus und KI-Anbieter notwendig sind.

Transformation im Krankenhausbeschaffungswesen

Das Beschaffungswesen hat sich in den vergangenen Jahren bereits deutlich verändert, da Software eine immer größere Bedeutung für medizintechnische Geräte bekommen hat und dadurch neue Geschäftsmodelle bei Anbietern entstanden sind. Diese Veränderungen werden nun durch die zusätzliche Integration der KI als Softwarekomponente in medizintechnischen Geräten deutlich verstärkt. Hinzukommen die weiteren bereits angesprochenen Herausforderungen, die KI durch seine nicht-deterministische Funktionsweise mit sich bringt.

Zunächst einmal müssen die Beschaffungsentscheidungen auf der Grundlage der Fähigkeiten der KI-basierten Geräte getroffen werden. Es ist wichtig zu berücksichtigen, welche spezifischen Funktionen diese Geräte haben und welche Vorteile sie gegenüber herkömmlichen Geräten bieten können. Dabei gilt es auch zu beachten, dass die KI-basierten Geräte mit anderen Geräten und Systemen im Krankenhaus kompatibel sind. Ein weiterer essenzieller Aspekt ist die Schulung des medizinischen Personals. Denn das Personal sollte über das notwendige Wissen und die notwendigen Fähigkeiten verfügen, um diese Geräte sicher und effektiv zu nutzen. Es erfordert unter Umständen auch die Einstellung von Mitarbeitern mit neuen (IT-) Qualifikationen oder die Kooperation mit externen Anbietern.

Abteilungsübergreifende Zusammenarbeit

Die Beschaffung von KI-basierten Geräten kann auch die Zusammenarbeit zwischen den Einkaufsabteilungen und den klinischen Abteilungen verbessern. Da KI auf Datenanalyse und -interpretation basiert, kann eine enge Zusammenarbeit zwischen den Einkaufsabteilungen und den klinischen Abteilungen dazu beitragen, sicherzustellen, dass die KI-basierten Geräte den spezifischen Bedürfnissen und Anforderungen der Klinik entsprechen.

Ein weiterer entscheidender Aspekt ist die Berücksichtigung von Datenschutz- und Sicherheitsfragen. Da KI in der Lage ist, große Mengen an Patientendaten zu sammeln und zu analysieren, ist es von Bedeutung, dass diese Daten sicher und vertraulich behandelt werden. Damit die Daten vor unbefugtem Zugriff geschützt werden, sind in diesem Rahmen möglicherweise zusätzliche Schutzmaßnahmen erforderlich. Diesbezüglich sollte frühzeitig sowohl der betriebliche Datenschutz als auch die interne oder externe Rechtsabteilung eingebunden werden.

Weniger Komplexität bei Ausschreibungen

Weiterhin muss sich der Beschaffungsprozess an die immer diverser werdende Landschaft von Lösungen und Anbietern anpassen. Das erfordert zum einen eine Verringerung der Komplexität für Ausschreibungen, um damit kleineren Anbietern und Start-ups die hohen bürokratischen Hürden zu nehmen. Umgekehrt gestaltet sich der Suchprozess für Nischenprodukte und damit entsprechende Anbieter aufgrund der genannten Besonderheiten als sehr komplex. Aus diesen Gründen sind mittlerweile Plattformen entstanden, die die Anwender schon im Rahmen der Beschaffung unterstützen können.

Ein langer Prozess

Insgesamt erfordert die Beschaffung von KI-basierten Geräten im Krankenhaus ein breiteres Spektrum an Überlegungen und Entscheidungen als bei traditionellen medizinischen Geräten. Es bedarf einer engen Zusammenarbeit zwischen den Einkaufsabteilungen, den klinischen Abteilungen und Herstellern, um sicherzustellen, dass die Geräte den spezifischen Anforderungen und Bedürfnissen der Klinik entsprechen und dass das medizinische Personal über das notwendige Wissen und die Fähigkeiten verfügt, um diese Geräte sicher und effektiv zu nutzen.

Hinzu kommen weitere rechtliche Rahmenbedingungen, die das Thema KI generell, aber auch die Beschaffung dieser Systeme betrifft. Bevor jedoch ein rechtliches Rahmenwerk der Beschaffung in Krankenhäusern die notwendige Sicherheit geben kann, ist es noch ein langer Prozess, der aktuell mit der schnellen Entwicklung von KI nicht Schritt halten kann. Daher ist es auch wegen eines Mangels an qualifizierten Fachkräften und weiteren Engpässen in der Gesundheitsversorgung zwingend erforderlich, dass die Beschaffung flexibel vorgeht und unter Einbindung von Rechtsberatung und Datenschutz neue Standards entwickelt, sodass KI-basierte medizintechnische Geräte schnell und effizient in der Gesundheitsversorgung eingesetzt werden können.