Medizintechnik: Clevere Therapiehelfer

Künstliche Intelligenz wird in Medizinprodukten schon lange genutzt. Doch durch den europäischen AI Act und die zunehmende Verbreitung selbstlernender Algorithmen kommt Bewegung in diesen Sektor. Auch die Aufsichtsbehörden müssen umdenken. Und Europa muss aufpassen, dass es nicht den Anschluss verliert.

Von Philipp Grätzel von Grätz

Anfang 2025 gab die US-Zulassungsbehörde FDA bekannt, dass sie schon über 1000 Medizinprodukte, die Künstliche Intelligenz nutzen, zugelassen habe. In Europa sind es deutlich weniger, aber es gibt keine verlässlichen Zahlen: „Die EUDAMED Datenbank, die bei zugelassenen Medizinprodukten Transparenz schaffen soll, läuft immer noch nicht, das ist sehr enttäuschend“, sagt Dr. Thorsten Prinz, Senior Manager Health beim VDE, der die Zulassungslandschaft für KI-basierte Medizinprodukte gut kennt. Speziell für KI-basierte radiologische Medizinprodukte gibt es zumindest eine Schätzung: Die Webseite Health AI Register listet rund 80 derartige Tools mit EU-Zulassung auf.

ein Arzt und eine Ärztin besprechen eine Mammografie-Aufnahme

Zusätzlich zur ärztlichen Expertise: KI-basierte Mammografie-Software gleicht kleinste Knoten und Kalkgruppen, die Vorstufen einer Krebserkrankung sein können, mit vorhandenen Daten von mehr als fünf Millionen Aufnahmen ab und ermöglicht mitunter einen früheren Befund.

| Siemens Healthineers

Was ist das überhaupt, ein KI-basiertes Medizinprodukt? In der Bildgebung ist es zum Beispiel Software, die Bilddaten eigenständig auswertet. Früher waren das eher statische Anwendungen unter Einsatz von klassischer KI. Mittlerweile werden zunehmend komplexere KI-Modelle genutzt. Olympus, Siemens Healthineers und Philips sind hier engagiert, neue Unternehmen drängen in den Markt. Eindrucksvoll sind zum Beispiel moderne Echokardiographie-Programme, die nicht nur weite Teile des Echo-Films selbstständig befunden, sondern auch dabei helfen, den Schallkopf richtig zu platzieren. Künstliche Bauchspeicheldrüsen für Diabetes-Patienten („AID“) sind ebenfalls KI-basierte Medizinprodukte. Es handelt sich um Insulinpumpen, die an eine kontinuierliche Glukosemessung (CGM) gekoppelt werden. Ein Algorithmus lernt die Lebens- und Essgewohnheiten zunächst kennen und stellt dann die Insulinpumpe auf Basis der CGM-Messungen ein – oder gibt zumindest eine Empfehlung.

Auch hinter AID-Systemen steckt traditionelle KI. Bei den neuen, auf ganz unterschiedliche Szenarien hin trainierbaren KI-Modellen – etwa den dank ChatGPT sehr bekannten, großen Sprachmodellen (LLM) – halten sich Medizinproduktehersteller noch zurück: „Ich kenne bisher kein LLM-basiertes Medizinprodukt, das zugelassen wäre“, sagt Prof. Stephen Gilbert, Professor für Medical Device Regulatory Science am Else Kröner Fresenius Zentrum der TU Dresden. Das dürfte sich aber ändern, denn LLMs eröffnen neue Möglichkeiten. Gilbert nennt als Beispiel virtuelle Krankenpflegekräfte, die Patientinnen und Patienten beraten. Das Unternehmen Hippocratic AI baut solche Agenten, und auch die WHO hat mit S.A.R.A.H. eine Avatar-Krankenschwester entwickelt, die zu mentaler Gesundheit berät.

LLMs können auch Bild- und Textdaten gemeinsam auswerten und Therapieempfehlungen geben. Schon mancherorts im Einsatz sind LLMs im Bereich der medizinischen Dokumentation. Es gibt Tools, die aus den Einträgen einer elektronischen Patientenakte Arztbriefe generieren. Und es gibt LLM-basierte KI-Anwendungen, die beim Arzt-Patienten-Gespräch zuhören und automatisch eine Dokumentation erstellen. Sobald solche Anwendungen auch Empfehlungen zu Diagnose oder Therapie geben, wären sie in Europa gemäß Medizinprodukteverordnung (MDR) ein Medizinprodukt und bräuchten eine Zulassung.

Wenn Hersteller ein KI-basiertes Medizinprodukt entwickeln wollen, stehen sie vor zwei Herausforderungen. Sie brauchen Daten, um die Anwendungen zu trainieren. Und sie brauchen eine Zulassung, um sie vermarkten zu dürfen. Bei KI-basierten Medizinprodukten ist neben der MDR und der In-vitro-Diagnostik-Verordnung (IVDR) seit Sommer 2024 der AI Act relevant. „Die MDR hatte KI bisher nicht auf dem Schirm“, so Prinz. Die Herausforderung bestehe jetzt darin, die Anforderungen des AI Acts so mit den Zulassungsprozessen für digitale Medizinprodukte nach MDR/IVDR zu verquicken, dass keine unnötige Bürokratie entstehe. Erleichtert wird das dadurch, dass der AI Act explizit Bezug auf die MDR nimmt: Eine KI-basierte Software, die die MDR als Medizinprodukt ab Klasse IIa einstuft, ist eine Hochrisikoanwendung nach AI Act

Avatar-Krankenschwester S.A.R.A.H. Das System nutzt Sprachmodelle und moderne Technologien, die eine Interaktion mit den Nutzern rund um die Uhr, in acht verschiedenen Sprachen und über jedes Gerät ermöglichen.

| WHO Website (Screenshot))

Was die Anforderungen an die Hersteller angeht, gibt es erhebliche Überschneidungen zwischen AI Act und MDR / IVDR, etwa bei Risikomanagementsystemen, beim Qualitätsmanagement und bei den Kennzeichnungspflichten. Neu bzw. AI-Act-spezifisch sind dagegen Anforderungen im Bereich Data Governance und bei der automatisierten Funktionsüberwachung. Auch muss die Aufsicht eines Menschen über die KI technisch unterstützt werden. Hier zeigt sich gleich die nächste Besonderheit des AI Acts: Er gilt nicht nur für Hersteller, sondern auch für Betreiber von KI-Anwendungen. Eine medizinische Einrichtung muss die menschliche Aufsicht über das KI-basierte Medizinprodukt vor Ort konkret umsetzen: „Der AI Act macht die Sicherheit KI-basierter Medizinprodukte zu einer gemeinsamen Aufgabe von Herstellern und Betreibern, das ist eigentlich die Quintessenz“, so Prinz. Insgesamt hält er den Zusatzaufwand für relevant, aber handhabbar: „Ein Hersteller, der schon Erfahrung mit Software als Medizinprodukt hat, hat relativ gute Karten, weil er vieles von dem, was er ohnehin etabliert hat, nutzen kann.“

Wie sieht es mit der Zulassung selbstlernender KI-basierter Medizinprodukte aus? Prinzipiell, so Prinz, sehe der AI Act vor, dass Hersteller schon im Markt befindliche Anwendungen künftig in engem Rahmen verändern dürfen. Ein Algorithmus, der Bild- oder EKG-Daten analysiert, könnte künftig zum Beispiel auf lokalen Daten nachtrainiert werden, ohne dass eine Rezertifizierung erforderlich wird. Allerdings muss der jeweilige Hersteller sich das dann schon vorab, im Rahmen der CE-Konformitätsprüfung, von der Benannten Stelle absegnen lassen. „Wichtig ist, dass es hier um ein kontrolliertes Weiterlernen des Systems geht, bei dem der Hersteller genau wissen muss, welche Daten in das System eingehen“, betont Prinz. „Das hat nichts zu tun mit unkontrolliert im Feld lernenden Systemen.“ Der KI-Chatbot, der mit Hilfe eines LLMs auf solcher Basis Therapievorschläge macht, wäre nach diesem Modell sicher nicht zertifizierbar. „Ich glaube, dass unkontrolliert lernende Systeme auf absehbare Zeit nicht kommen werden“, so Prinz.

Stephen Gilbert sieht das anders. Er fürchtet, dass Europa in Sachen KI-basierte Medizinprodukte den Anschluss verlieren könnte. Das umso mehr, als die britische Zulassungsbehörde seit Ende 2024 einen Zulassungsweg für LLM-basierte Medizinprodukte zu etablieren versucht (siehe Kasten). Die USA sind den Briten knapp auf den Fersen. Dort haben es KI-basierte Medizinprodukte ohnehin leichter. Denn Entscheidungsunterstützungs-Software, die nur mit Textdaten arbeitet und sich nur an Ärzte – nicht an Patienten – richtet, braucht unter gewissen Bedingungen gar keine Medizinproduktezulassung. Entsprechend, so Gilbert, seien in den USA mittlerweile mehrere LLM-basierte Softwarelösungen, die in Europa Medizinprodukte wären, bereits im aktiven Einsatz. Das bekannteste Beispiel ist Glass Health, das auf Basis von Textdaten aus den Patientenakten konkrete Vorschläge für das klinische Management macht. Auch Europa wird sich über kurz oder lang Gedanken machen müssen, wie es mit solchen Anwendungen umgeht. Zu warten, bis der AI Act 2027 voll implementiert ist, dürfte keine geeignete Strategie sein, wenn Europa wettbewerbsfähig bleiben will.