Annex 22 (Entwurf): KI im GxP-Umfeld validierbar einsetzen

Künstliche Intelligenz hält in die Arzneimittelherstellung Einzug, von der Bildauswertung in der visuellen Inspektion bis zur Vorhersage von Prozessabweichungen. Bislang fehlte dafür ein spezifischer GMP-Rahmen. Mit dem Entwurf des EU-GMP Annex 22 zeichnet sich ab, wie Aufsichtsbehörden den Einsatz von KI im GxP-Umfeld einordnen wollen.

Ein Anhang für eine neue Technologie

Der als Entwurf zur Konsultation veröffentlichte Annex 22 adressiert den Einsatz von KI- und Machine-Learning-Modellen in GMP-kritischen Anwendungen, also dort, wo eine Fehlfunktion die Produktqualität, die Patientensicherheit oder die Datenintegrität gefährden könnte. Als Entwurf ist der Text noch nicht final und kann sich ändern; die Stossrichtung ist jedoch bereits deutlich erkennbar und lohnt die frühe Auseinandersetzung.

Statische Modelle und menschliche Kontrolle

Ein zentraler Gedanke des Entwurfs ist die Beschränkung kritischer Anwendungen auf deterministische, nach dem Training eingefrorene Modelle. Modelle, die sich im Betrieb selbstständig weiterentwickeln, sowie generative Ansätze und grosse Sprachmodelle gelten für kritische GMP-Entscheidungen als nicht geeignet, solange ihr Verhalten nicht reproduzierbar nachweisbar ist. Über allem steht die menschliche Aufsicht: die Verantwortung für eine Entscheidung bleibt beim qualifizierten Personal, nicht beim Modell.

Ein KI-Modell im GMP-Umfeld muss nicht nur gut sein, sondern nachweisbar und reproduzierbar gut.

Kritisch oder nicht: die Einordnung zählt

Nicht jede KI-Anwendung fällt unter dieselben Erwartungen. Eine Mustererkennung, die einen menschlichen Prüfer unterstützt, aber nicht ersetzt, trägt ein anderes Risiko als ein Modell, das über die Freigabe einer Charge mitentscheidet. Der erste Schritt ist deshalb immer dieselbe Frage der Computer System Validation: Welchen Einfluss hat das System auf Produktqualität und Datenintegrität? Aus der Antwort folgt die Prüftiefe.

Was Validierung hier bedeutet

Der Entwurf überträgt vertraute Validierungsprinzipien auf die Besonderheiten des maschinellen Lernens. Im Mittelpunkt stehen dabei:

• die Unabhängigkeit der Testdaten von den Trainingsdaten, damit die Leistung nicht nur auf Auswendiglernen beruht.
• vorab definierte, messbare Akzeptanzkriterien für die Modellleistung.
• die Repräsentativität und Qualität der Trainingsdaten, um verzerrte Ergebnisse zu vermeiden.
• die Nachvollziehbarkeit von Datenherkunft, Modellversion und Entscheidungslogik über einen Lebenszyklus mit Change Control.

Brücke zu GAMP 5

Annex 22 steht nicht allein. Er fügt sich in den risikobasierten Ansatz von GAMP 5 und die Grundsätze der Computer System Validation ein. Wer diese bereits beherrscht, muss KI nicht völlig neu denken, sondern die zusätzlichen Fragen nach Datenqualität, Erklärbarkeit und Modelldrift ergänzen. Datenintegrität nach ALCOA+ bleibt auch für Trainings- und Eingabedaten die Grundlage.

Infrastruktur und Modell trennen

In der Praxis hilft es, zwei Ebenen auseinanderzuhalten: die IT-Infrastruktur, auf der ein Modell läuft, wird wie jedes andere computergestützte System qualifiziert; das Modell selbst wird zusätzlich auf seine fachliche Leistung validiert. Wer beide Ebenen vermischt, unterschätzt regelmässig den Aufwand für die Bewertung der Modellgüte.

Was am Ende zählt

Der Entwurf zu Annex 22 macht deutlich: KI ist im GxP-Umfeld willkommen, aber nur unter denselben Prinzipien von Nachweis, Kontrolle und Verantwortung, die für jedes andere kritische System gelten. Wer heute mit sauberer Validierung und klarer menschlicher Aufsicht beginnt, ist auf den kommenden Rahmen vorbereitet. Vispact begleitet die validierbare Einführung solcher Systeme, technisch fundiert und regulatorisch anschlussfähig.

‍