IA por nivel de riesgo: asistir no es decidir en GMP

En planta, el modo de fallo rara vez es "alguien usó IA". Suele ser más silencioso: una sugerencia generativa para la narrativa de un desvío, el estado de limpieza o un parámetro crítico de proceso se trata como si ya fuera una decisión GMP. El turno cierra. El registro de lote avanza. La persona cualificada ve un texto pulido, no el hueco entre asistir y decidir.

Usar IA en la planta no es lo mismo que un nivel de riesgo para todo. Confundir un chatbot que redacta lenguaje con un modelo que hace de gate de liberación, limpieza o holding time es el fallo silencioso. El nivel de riesgo define qué gate cabe a cada uso.

Asistir no es decidir

En la práctica, los modelos generativos ayudan donde el lenguaje y la búsqueda aceleran el trabajo de alguien: borrador de la descripción de un desvío a partir de hechos ya registrados, sugerencia de lenguaje de CAPA similar, resumen de un audit trail largo para revisión. Proponen. Quien decide sigue siendo la persona cualificada.

Donde la decisión es crítica — disposición de liberación, verificación de limpieza frente a criterios de aceptación, vencimiento de holding time, límite duro de un parámetro crítico — el patrón más seguro tiende a ser estático y determinista: reglas y modelos que no aprenden en operación y en los que la misma entrada produce la misma salida. La salida generativa puede quedar al lado, como contexto. No debe ser el gate.

Esa distinción mantiene visible la responsabilidad cuando algo se sale de lo previsto en el turno.

Lo que ya implican borradores y guías

El borrador del Anexo 22 del EU GMP (Inteligencia Artificial) estuvo en consulta pública de julio a octubre de 2025. El plan del grupo de trabajo apunta a entregar el texto final a la Comisión a finales de 2026. No hay fecha de entrada en vigor anunciada. El borrador, en la versión consultada, ya empuja claridad de uso previsto, supervisión humana donde corresponda y cautela con aprendizaje dinámico en aplicaciones GMP críticas. Trátelo como borrador: el texto aún puede cambiar.

El borrador de julio de 2025 limitaba las aplicaciones GMP críticas a modelos de salida determinista y excluía explícitamente la IA generativa — es decir: el texto regulatorio de IA en GMP más citado dejaba fuera exactamente el caso de este artículo. El 30 de junio y el 1 de julio de 2026, la EMA celebró un taller multistakeholder para moldear un enfoque basado en riesgo para la IA generativa; la lectura pública indica que la exclusión debería caer, que el Anexo 22 cubrirá LLMs y que el consenso apunta a principios de control por riesgo, no a guardrails específicos de técnica. El nivel de riesgo por uso — y no por tecnología — sigue siendo válido después de ese cambio.

El Anexo 22 se publicará junto con la revisión del Anexo 11 y del Capítulo 4 del EU GMP — no es un cambio aislado.

El draft guidance de la FDA sobre IA para apoyar la decisión regulatoria en medicamentos y biológicos (enero de 2025) y los discussion papers de manufactura vuelven al contexto de uso y a la evidencia proporcional al riesgo. Los principios EMA–FDA de good AI practice (enero de 2026) y la ISPE GAMP Guide: Artificial Intelligence (julio de 2025) apuntan en la misma dirección: definir el uso, calibrar controles al impacto y mantener change control cuando cambian modelo, datos o prompt que afectan la salida GxP.

En Brasil, ANVISA no tiene una guía específica de IA en GMP; lo que aplica es la RDC 658/2022 (sistemas computadorizados) y la Guía de Validación de Sistemas Computadorizados de ANVISA. Mientras no haya un texto propio, el Anexo 22 tiende a convertirse en referencia de facto — como ya ocurre con el Anexo 11.

Nada de esto necesita esperar el texto final para ser útil. Ninguno de estos documentos escribe el procedimiento de su planta. Todos implican que "tenemos IA en algún sitio" no es una estrategia de control.

Precondiciones que siguen siendo válidas en un cambio de modelo

Antes de la entrada en producción, algunos mecanismos pesan más que la marca del modelo.

Uso previsto, por escrito. ¿Qué decisión apoya o toma este uso? ¿Qué pasos de receta, qué tipos de excepción, qué revisiones? Sin esa frase no se asigna el nivel de riesgo y el alcance de validación queda indefinido.

Revisión humana obligatoria en el uso generativo no crítico. Borradores, resúmenes y sugerencias siguen siendo borradores hasta que un rol nombrado acepta, edita o rechaza. La aceptación entra en el registro — no queda en un acuerdo verbal.

Lógica determinista en el camino crítico. Donde la seguridad del paciente, la calidad del producto o la integridad de datos dependen del resultado, prefiera reglas y modelos estáticos y deterministas cualificados. La asistencia generativa puede alimentar a quien decide; no debe sustituir el gate en silencio.

Completitud e "indeciso". Los LLM no producen confianza calibrada; en lo generativo, el control equivalente es validar la completitud de la entrada, validar la salida estructurada frente a un schema y abstenerse de forma obligatoria cuando faltan datos de origen. "Indeciso"/escalar es la salida honesta; una respuesta fluida sobre una base incompleta es cómo la excepción desaparece del registro.

Audit trail y change control. Prompt, versión de modelo, datos de entrenamiento o referencia que afectan la salida relevante para GxP, y configuración que cambia el comportamiento: trátenlos como otro software GxP. Un cambio de modelo que "sigue validado sin retest" no es un éxito de gobernanza. La gobernanza existe para hacer posible — y esperable — el retest y la reevaluación documentados cuando cambia lo que genera o hace de gate de la salida.

El diseño independiente del modelo ayuda. La planta no necesita un LLM propio para gobernar IA. La diferenciación está en la capa alrededor: uso previsto, aprobación humana, audit trail y change control. Esa capa debe seguir teniendo sentido si el modelo base se sustituye bajo un cambio controlado.

La afirmación de que los datos "nunca salen de la empresa" solo se sostiene si el despliegue concreto lo confirma. La topología y el contrato varían: exagerar se convierte en un hallazgo.

Fallos silenciosos que conviene pillar pronto

Tres patrones son comunes.

Un solo nivel de riesgo para toda la IA. El chatbot de planta, la búsqueda en POEs y el modelo que toca liberación o limpieza no son el mismo nivel. Si TI y QA comparten una "política de IA" genérica sin mapa de usos, la operación crea sus propios atajos.

Generativo en liberación, limpieza o holding críticos. El texto fluido junto a un parámetro crítico persuade. Sin un gate duro en otro sitio, la persuasión se toma por evidencia. Ahí es cuando la excepción no se abre. Con cautela: en una carta de abril de 2026 [ref. 1] a un fabricante de medicamentos terminados, la FDA cita overreliance on artificial intelligence — la firma usó agentes de IA para generar especificaciones, procedimientos y master production records sin revisión adecuada de la unidad de calidad.

"Validado para siempre" tras el cambio. Los proveedores actualizan el modelo. El prompt se modifica. La base de referencia crece. Si el change control no dispara, la historia de validación describe un sistema que ya no existe.

Un artículo relacionado recorre lo que el borrador del Anexo 22 ya permite organizar sin esperar el texto final: borrador del Anexo 22 — lo que ya se puede hacer con IA en GMP.

Preguntas antes de la entrada en producción, para planta, QA e IT

Conviene mirar antes de que la primera asistencia generativa toque un registro de lote vivo o una cola de excepciones:

1. En este uso, ¿el modelo asiste a una persona o toma (o hace de gate de) una decisión?
2. ¿Cuál es el uso previsto por escrito, y qué parámetros críticos o pasos de liberación quedan fuera del control generativo?
3. ¿Quién debe aprobar antes de que la sugerencia entre en el registro de lote, el desvío o la documentación de limpieza — y dónde queda registrada esa aprobación?
4. ¿Qué ocurre cuando la entrada está incompleta o la salida no pasa la validación de schema: bloquear, escalar o marcar "indeciso"?
5. Si el modelo, el prompt o los datos de referencia cambian el próximo trimestre, ¿qué camino de change control y qué evidencia de reevaluación ya tenemos?

Donde el registro electrónico de lote, el pesaje y la dispensación y flujos GxP correlatos ya viven en un system of record con audit trail y change control — por ejemplo NEO EBR como capa de ejecución y revisión — la capa de gobernanza de la IA tiende a reutilizar esos mismos mecanismos en lugar de inventar una vía paralela de papel.

Qué llevar a la próxima reunión de turno

El borrador del Anexo 22 sigue siendo borrador (consulta de julio a octubre de 2025; texto final previsto para la Comisión a finales de 2026; sin fecha de entrada en vigor). FDA, principios EMA–FDA y materiales GAMP AI también evolucionan. La pregunta de piso que no espera es más simple:

Para cada uso de IA en el sitio, ¿podemos señalar el nivel de riesgo, la persona que aún es dueña de la decisión y el camino de change control cuando el modelo se mueve?

Si falta cualquiera de los tres, el modo de fallo no es "falta IA". Es que asistir y decidir ya se mezclaron — y el registro de lote solo lo contará cuando un auditor o un desvío fuerce la pregunta.

Referencias

1. FDA — Warning letter, Purolea Cosmetics Lab, 02/04/2026