Können Programme wie ChatGPT als Medizinprodukt im Sinne des EU-Rechts eingeordnet werden?
von Daniel Wurm
Mit Veröffentlichung der Software-Version 3.0 durch OpenAI erfuhr ChatGPT und künstliche Intelligenz im Allgemeinen einen großen Hype, welcher bislang weiter andauert.
ChatGPT ist in der Lage, individuell Texte zu produzieren, Gespräche zu führen und detailliert auf beliebige Fragen zu antworten. Hierfür bedient sich ChatGPT an im Internet verfügbaren Daten und setzt diese mithilfe des KI-Algorithmus zu der gewünschten Antwort um.
Mittlerweile wird ChatGPT täglich millionenfach von einer Vielzahl von Nutzer:innen genutzt und gehört zu den nutzerstärksten Plattformen im Internet.
Der Erfolg des Programms von OpenAI läuft allerdings aus rechtlicher Sicht nicht reibungslos ab. Nebst Problematiken in Fragen des Urheber- und Datenschutzrecht, erreicht die Diskussion ebenfalls den Sektor des (europäischen) Medizinprodukterechts und erste Stimmen fordern die Einordnung von ChatGPT als Medizinprodukt und damit verbunden das Durchführen eines Konformitätsbewertungsverfahren.
Hierfür müsste ChatGPT ein Medizinprodukt im Sinne des Art. 2 Nr. 1 Verordnung (EU) 2017/745 („MDR“) darstellen. Gemäß Gesetzeswortlaut bezeichnet Medizinprodukt „…eine Software […], die dem Hersteller zufolge für Menschen bestimmt ist und […] folgenden spezifischen medizinischen Zweck erfüllen soll […]“.
Unter medizinischem Zweck werden beispielsweise Diagnose, Verhütung oder Behandlung von Krankheiten aufgeführt.
Grundsätzlich erscheint es möglich ChatGPT unter dieser Definition aufzufangen. Wenn man exemplarisch Symptome bei ChatGPT eingibt und nachfragt, welche Krankheit man haben könnte, gibt das Programm eine Aufzählung möglicher Krankheiten aus.
Es könnte sich demnach um ein Medizinprodukt in Form einer Software handeln, welche der Diagnose von Krankheiten dient.
Eine Einordung als Medizinprodukt lediglich aufgrund dessen geht allerdings zu kurz und entspricht nicht dem gesetzlichen Regime.
Entscheidend für die Einordung als Medizinprodukt sind keine möglichen Funktionen, sondern die subjektive Zweckbestimmung des Herstellers (siehe oben: „…das dem Hersteller zufolge…“).
Der Begriff der Zweckbestimmung selbst ist in Art. 2 Nr. 12 Verordnung (EU) 2017/745 definiert, demnach dies „die Verwendung, für die ein Produkt entsprechend den Angaben des Herstellers auf der Kennzeichnung, in der Gebrauchsanweisung oder dem Werbe- oder Verkaufsmaterial bzw. den Werbe- oder Verkaufsangaben und seinen Angaben bei der klinischen Bewertung bestimmt ist“ bezeichnet.
Bereits im oben aufgezeigten Beispiel, gibt ChatGPT am Ende seiner Aufzählung an, dass es sich um keine medizinische Diagnose handeln solle und legt dem Fragesteller nahe, eine:n Arzt/Ärztin aufzusuchen, welcher eine Diagnose stellen kann.
Bei Durchsicht der Webseite und Werbeunterlagen von ChatGPT, finden sich keine Anhaltspunkte, dass eine Verwendung für einen medizinischen Zweck stattfinden soll. Zudem verneint ChatGPT die Frage, es sei ein Medizinprodukt. Die Hauptfunktion läge in der Texterstellung.
Demnach handelt es sich bei ChatGPT um kein Medizinprodukt. Dies entspricht ebenfalls der Sichtweise des Europäischen Gerichtshofes (EuGH), welcher in einer Entscheidung aus dem Jahre 2012 (Urt. v. 22. 11. 2012 – C-219/11 – Brain Products GmbH/BioSemi VOF u. a.) klar feststellte, dass „[…]in den Fällen, in denen ein Produkt von seinem Hersteller nicht zur Anwendung für medizinische Zwecke konzipiert wurde, keine Zertifizierung des Produkts als Medizinprodukt verlangt werden […]“ kann.
Es gilt aber zu beachten, dass der EuGH in neuster Rechtsprechung bereits in einem Abgrenzungsfall zwischen Arzneimitteln und Medizinprodukten (Urt. v. 19.01.2023 – C-495/21, C-496/21) in seiner Begründung auf den durchschnittlich informierten Verbraucher als ein Indiz zur Abgrenzung abgestellt hat.
Eine Anfrage der Kanzlei „Vorberg.law“ an das Bundesinstitut für Arzneimittel und Medizinprodukte (BfArM) beantwortete das BfArM laut Medienberichten dahingehend, dass die Einhaltung der gesetzlichen Regelungen des Medizinprodukterechts den Herstellern obliege und die Überwachung der Einhaltung dessen Aufgabe der Landesbehörden ist.
Zusammenfassend lässt sich sagen, dass ChatGPT nach jetziger Rechtslage kein Medizinprodukt im Sinne der Verordnung (EU) 2017/745 darstellt. Es bleibt aber abzuwarten, inwiefern Behörden und Gesetzgeber in Zukunft weitere Schritte für notwendig halten.
Wenn Sie weitere Fragen zum Einsatz von KI in Medizinprodukten haben, können Sie sich gerne bei uns melden.
