Annex 22 (projet) : utiliser l'IA de manière validable dans l'environnement GxP

L'intelligence artificielle fait son entrée dans la fabrication de médicaments, de l'analyse d'images en inspection visuelle à la prédiction des déviations de procédé. Jusqu'à présent, un cadre GMP spécifique faisait défaut. Avec le projet d'EU GMP Annex 22, on voit se dessiner la manière dont les autorités de tutelle entendent situer l'utilisation de l'IA dans l'environnement GxP.

Une annexe pour une nouvelle technologie

Publié en tant que projet soumis à consultation, l'Annex 22 traite de l'utilisation de modèles d'IA et de machine learning dans des applications critiques pour la GMP, c'est-à-dire là où un dysfonctionnement pourrait compromettre la qualité du produit, la sécurité du patient ou l'intégrité des données. En tant que projet, le texte n'est pas encore définitif et peut évoluer ; l'orientation est toutefois déjà clairement perceptible et mérite qu'on s'y intéresse tôt.

Modèles statiques et contrôle humain

Une idée centrale du projet est la limitation des applications critiques à des modèles déterministes, figés après l'entraînement. Les modèles qui évoluent d'eux-mêmes en exploitation, de même que les approches génératives et les grands modèles de langage, sont considérés comme inadaptés aux décisions GMP critiques tant que leur comportement ne peut être démontré de manière reproductible. Au-dessus de tout se tient la supervision humaine : la responsabilité d'une décision reste au personnel qualifié, non au modèle.

Un modèle d'IA dans l'environnement GMP ne doit pas seulement être bon, mais bon de manière démontrable et reproductible.

Critique ou non : la classification compte

Toutes les applications d'IA ne relèvent pas des mêmes attentes. Une reconnaissance de formes qui assiste un contrôleur humain sans le remplacer présente un risque différent de celui d'un modèle qui participe à la décision de libération d'un lot. La première étape est donc toujours la même question de Computer System Validation : quelle influence le système exerce-t-il sur la qualité du produit et l'intégrité des données ? La profondeur des tests découle de la réponse.

Ce que signifie la validation ici

Le projet transpose des principes de validation familiers aux spécificités de l'apprentissage automatique. Au cœur de la démarche :

• l'indépendance des données de test par rapport aux données d'entraînement, afin que la performance ne repose pas uniquement sur la mémorisation.
• des critères d'acceptation prédéfinis et mesurables pour la performance du modèle.
• la représentativité et la qualité des données d'entraînement, afin d'éviter des résultats biaisés.
• la traçabilité de l'origine des données, de la version du modèle et de la logique de décision tout au long d'un cycle de vie soumis à change control.

Passerelle vers GAMP 5

L'Annex 22 n'est pas isolé. Il s'inscrit dans l'approche fondée sur les risques de GAMP 5 et dans les principes de la Computer System Validation. Qui les maîtrise déjà n'a pas à repenser entièrement l'IA, mais seulement à y ajouter les questions supplémentaires de qualité des données, d'explicabilité et de dérive du modèle. L'intégrité des données selon ALCOA+ demeure aussi le fondement pour les données d'entraînement et d'entrée.

Séparer l'infrastructure et le modèle

En pratique, il est utile de distinguer deux niveaux : l'infrastructure informatique sur laquelle tourne un modèle est qualifiée comme tout autre système informatisé ; le modèle lui-même est en outre validé quant à sa performance métier. Qui confond les deux niveaux sous-estime régulièrement l'effort nécessaire à l'évaluation de la qualité du modèle.

Ce qui compte au final

Le projet d'Annex 22 le montre clairement : l'IA est la bienvenue dans l'environnement GxP, mais uniquement sous les mêmes principes de preuve, de contrôle et de responsabilité qui s'appliquent à tout autre système critique. Qui commence dès aujourd'hui par une validation soignée et une supervision humaine claire est préparé au cadre à venir. Vispact accompagne l'introduction validable de tels systèmes, avec des bases techniques solides et une compatibilité réglementaire.