Systeme basierend auf künstlicher Intelligenz (KI) sind im Zuge der fortschreitenden, technologischen Entwicklungen immer häufiger Bestandteil medizintechnischer Geräte, um damit die Versorgung der Patienten zu verbessern sowie den individuellen Anforderungen jedes einzelnen Patienten besser gerecht zu werden. Zusätzlich steigt die Komplexität der Systeme, die Menge an potenziellen Lösungen sowie die Diversität der Software- und Gerätelandschaft und potenzieller Anbieter.

Während ursprünglich der Medizintechnikmarkt durch große Unternehmen dominiert wurde, konkurrieren jetzt immer mehr junge Unternehmen mit individuellen Lösungen. Diese Veränderungen führen auch zu geänderten Anforderungen an den Einkauf in Krankenhäusern. Viele Produkte sind einzigartig, sodass ein herkömmlicher vergaberechtlich vorgesehener Vergleich verschiedener Lösungen kaum möglich ist. Ferner ist damit verbunden, dass viele der kleinen Unternehmen und Start-ups, die durch das Vergaberecht verursachten zusätzlichen personellen und zeitlichen Aufwände nicht stemmen können.

KI als Innovationstreiber

Die fortschreitende Digitalisierung und die Verfügbarkeit großer Datenmengen haben es möglich gemacht, dass KI-Systeme in der medizinischen Diagnostik, der Entwicklung von Therapien und der Verbesserung der Patientenversorgung eingesetzt werden können. KI ist eine Technologie, die es Computern ermöglicht, Aufgaben auszuführen, die normalerweise menschliches Wissen, Intelligenz und Entscheidungsfindung erfordern.

Das Ziel der KI ist es, Maschinen zu schaffen, die in der Lage sind, eigenständig zu lernen und intelligent zu handeln, ähnlich wie ein Mensch. Dazu werden spezielle Algorithmen und Programmierungen genutzt, die dem Computer helfen, komplexe Probleme zu lösen, Entscheidungen zu treffen und Muster in Daten zu erkennen. Ein Beispiel für KI ist ein Computerprogramm, das in der Lage ist, auffällige Bereiche innerhalb von CT-Bildern zu segmentieren und dadurch Radiologen bei der Diagnose von Erkrankungen zu unterstützen.

Herausforderungen

Die vielen Vorteile und das große Potenzial, welches KI bereits in der heutigen Zeit schon ansatzweise zeigt, lassen erwarten, dass KI in Zukunft in vielen Bereichen des Alltags Einzug halten wird. Neben vielen positiven Aspekten bringen KI-Systeme aber auch Herausforderungen mit sich, die zum Teil noch nicht gelöst oder für die noch keine adäquaten Maßnahmen entwickelt worden sind.

KI-Systeme benötigen große Mengen an qualitativ hochwertigen Daten, um trainiert und verbessert zu werden. Wenn die Daten jedoch unvollständig, ungenau oder voreingenommen sind, können die Ergebnisse des KI-Systems ebenfalls unzuverlässig oder voreingenommen sein. Folglich ist neben einer guten Datenbasis ein iterativer Prozess notwendig, der die vorhandenen Daten mit neuen anreichert. Zusätzlich müssen Überwachungsmechanismen etabliert werden, um die Datenqualität dauerhaft sicherzustellen.

Mensch oder Maschine?

Auch ethische Themen werden berührt. Die Daten müssen frei von Bias sein, sodass die Ergebnisse der KI diskriminierungsfrei sind. Im Übrigen können KI-Systeme durch ihre Entscheidungen erheblichen Einfluss nehmen und es stellt sich die Frage, wer letztendlich die Entscheidung trifft – Mensch oder Maschine? Es ist daher wichtig, ethische Fragen wie die Verantwortung für die Entscheidungen von KI-Systemen, den Datenschutz und die Transparenz bei der Verwendung von KI zu berücksichtigen.

Häufig können KI-Systeme sehr komplex und schwer zu verstehen sein, insbesondere wenn sie auf tiefen neuronalen Netzen oder anderen fortgeschrittenen Technologien basieren.

Häufig können KI-Systeme sehr komplex und schwer zu verstehen sein, insbesondere wenn sie auf tiefen neuronalen Netzen oder anderen fortgeschrittenen Technologien basieren. Dies macht es für die menschlichen Anwender schwer, das Verhalten des Systems zu verstehen und es zu verbessern oder zu regulieren und führt u. a. zu dem mangelnden Vertrauen, das häufig der Anwendung von KI noch entgegensteht. Insbesondere in kritischen Anwendungsbereichen wie dem Gesundheitswesen ist Vertrauen in das System die Basis zur Etablierung in den klinischen Alltag bzw. den Alltag von Patienten und Anwendern.

KI in medizintechnischen Geräten

KI-Systeme haben bereits in allen Bereichen des Gesundheitswesens – von der Prävention über die Diagnostik bis hin zu Therapie – Einzug gehalten. Im Rahmen der Früherkennung von Erkrankungen können KI-Systeme beispielhaft große Datenmengen analysieren und Muster identifizieren, die auf eine Krankheit hindeuten. Dadurch können Krankheiten früher erkannt werden, was zu einer besseren Prognose und einer höheren Überlebensrate führen kann. Außerdem können die großen Datenmengen dazu beitragen, dass die Genauigkeit der Diagnostik verbessert wird, da KI-Systeme in der Lage sind, multimodale Daten miteinander zu verknüpfen und darüber ganz neue Muster bei der Identifizierung von Erkrankungen zu erkennen.

Darüber hinaus bringt KI den großen Vorteil mit, dass die Medizin stärker personalisiert werden kann und somit die individuellen Bedürfnisse jedes einzelnen Patienten in den Vordergrund gerückt werden können. Beispielsweise können KI-Systeme Patientendaten wie Genomik, Biometrie und klinische Parameter analysieren, um personalisierte Diagnosen und Behandlungen zu entwickeln. Dadurch kann die Wirksamkeit von Behandlungen verbessert und die Nebenwirkungen reduziert werden. Auch wird KI neben der Entscheidungsunterstützung von Radiologen dazu genutzt, um das Monitoring von Patienten zu verbessern. Das passiert nicht nur im klinischen Bereich, sondern es gibt mittlerweile auch zugelassene Medizinprodukte, die über z. B. Smartwatches unmittelbar vom Patienten angewendet werden.

KI wird im Gesundheitsbereich dazu verwendet, um in Zukunft Krankheiten früher zu erkennen, Fehler bei Diagnosen zu reduzieren und patientenzentrierte Prophylaxe und Therapie zu gewährleisten. Doch aufgrund der Herausforderungen und hohen Kritikalität der Entscheidungen, arbeiten aktuell die Gesellschaft, führende Experten und Politik daran, für KI-basierte Systeme und auch deren Beschaffung einen rechtlichen Rahmen zu schaffen.

Regulatorik aus Sicht des Betreibers

Krankenhäuser sind als Betreiber von Medizinprodukten Teil der Vigilanzkette und müssen sicherstellen, dass alle Produktkomponenten nachverfolgbar und UDI (einmalige Produktkennung) dokumentiert sind. Hier bestehen noch Unklarheiten bezüglich der sich verändernden KI-Komponenten. Die EU hat bereits Ende 2021 den Entwurf einer KI-Verordnung vorgelegt, die u. a. beinhaltet, dass bei vorhersehbaren Veränderungen in der KI der Hersteller diese vorab im Rahmen des Konformitätsverfahrens angeben und im Voraus genehmigen lassen kann. Damit wäre eine Bewertung bei jeder wesentlichen Änderung im Nachhinein entbehrlich, soweit es vorhersehbare und genannte Änderungen betrifft.

Offen ist aber, wie der Betreiber erkennen kann, wann sich die KI-Komponente wesentlich geändert hat, wann dies eine bereits als konform erfasste Änderung darstellt und wann Maßnahmen zu ergreifen sind, um das Produkt weiter einsetzen zu können. Krankenhäuser sind als Betreiber von Medizinprodukten Teil der Vigilanzkette und müssen sicherstellen, dass alle Produktkomponenten nachverfolgbar und UDI dokumentiert sind.

KI-basierte Medizinprodukte als Hochrisikoprodukte

KI-basierte Medizinprodukte werden in der MDR (Medical Device Regulation) und dem AIA (Artificial Intelligence Act) als Hochrisikoprodukte aufgefasst. Das hat für Krankenhäuser als Betreiber zur Folge, dass das produktbasierte Risiko durch Prozesse wie Schulungen, Evaluation, Dokumentation handhabbar abgesichert werden muss.

Neu erschienen ist die ISO/IEC 23894. Sie trägt den Titel „Artificial intelligence – Guidance on risk management“. Dieses Dokument enthält Leitlinien dazu, wie Organisationen, die Produkte, Systeme und Dienstleistungen entwickeln, herstellen, einsetzen oder nutzen, die KI-basierte Softwarekomponenten enthalten, Risiken speziell im Zusammenhang mit KI managen können. Der Leitfaden zielt auch darauf ab, Organisationen bei der Integration ihrer KI-bezogenen Aktivitäten und Funktionen in ihr Risikomanagement zu unterstützen. Darüber hinaus beschreibt es Prozesse für die effektive Umsetzung und Integration des KI-Risikomanagements. Derzeit in Erarbeitung ist die Norm ISO 5137 „Maintenance management program for medical equipment“. Sie wendet sich an Gesundheitseinrichtungen, die ihre eigenen Produkte warten, und nicht an Hersteller.