IA por faixa de risco: assistir não é decidir em GMP

No chão, o modo de falha raramente é "alguém usou IA". Costuma ser mais quieto: uma sugestão generativa para narrativa de desvio, status de limpeza ou parâmetro crítico de processo é tratada como se já fosse decisão de GMP. O turno fecha. O registro de lote anda. A pessoa qualificada vê um texto bem acabado — não o vão entre assistir e decidir.

Usar IA na planta não é o mesmo que uma faixa de risco para tudo. Confundir um chatbot que redige linguagem com um modelo que faz a etapa de aprovação, a limpeza ou holding time é a falha silenciosa. A faixa de risco define qual gate cabe a cada uso.

Assistir não é decidir

Na prática, modelos generativos ajudam onde linguagem e busca aceleram o trabalho de alguém: rascunhar a descrição de um desvio a partir de fatos já registrados, sugerir linguagem de CAPA semelhante, resumir um audit trail longo para revisão. Eles propõem. Quem decide continua sendo a pessoa qualificada.

Onde a decisão é crítica — aprovação do lote, verificação de limpeza frente a critérios de aceitação, vencimento de holding time, limite duro de parâmetro crítico — o padrão mais seguro tende a ser estático e determinístico: regras e modelos que não aprendem em operação e em que a mesma entrada produz a mesma saída. A saída generativa pode ficar ao lado, como contexto. Não deve ser o gate.

Essa distinção mantém a responsabilização visível quando algo sai do previsto no turno.

O que rascunhos e guias já apontam

O rascunho do Anexo 22 do EU GMP (Inteligência Artificial) esteve em consulta pública de julho a outubro de 2025. O plano do grupo de trabalho aponta entrega do texto final à Comissão no fim de 2026. Não há data de vigência anunciada. O rascunho, na versão consultada, já empurra clareza de uso pretendido, supervisão humana onde couber e cautela com aprendizado dinâmico em aplicações GMP críticas. Trate como rascunho: o texto ainda pode mudar.

O rascunho de julho de 2025 restringia aplicações GMP críticas a modelos de saída determinística e excluía explicitamente IA generativa — isto é: o texto regulatório de IA em GMP mais citado deixava de fora exatamente o caso deste artigo. Em 30 de junho e 1º de julho de 2026, a EMA promoveu um workshop multistakeholder para moldar uma abordagem baseada em risco para IA generativa; a leitura pública indica que a exclusão deve cair, que o Anexo 22 cobrirá LLMs e que o consenso aponta para princípios de controle por risco, não para guardrails específicos de técnica. Faixa de risco por uso — e não por tecnologia — continua válida depois dessa mudança.

O Anexo 22 deve ser publicado junto com a revisão do Anexo 11 e do Capítulo 4 do EU GMP — não é uma mudança isolada.

O draft guidance da FDA sobre IA para apoiar decisão regulatória em medicamentos e biológicos (janeiro de 2025) e os discussion papers de manufatura voltam ao contexto de uso e à evidência proporcional ao risco. Os princípios EMA–FDA de good AI practice (janeiro de 2026) e o ISPE GAMP Guide: Artificial Intelligence (julho de 2025) apontam na mesma direção: definir o uso, calibrar controles ao impacto e manter change control quando mudam modelo, dados ou prompt que afetam saída GxP.

No Brasil, a ANVISA ainda não tem guia específico de IA em GMP; o que vale é a RDC 658/2022 (sistemas computadorizados) e o Guia de Validação de Sistemas Computadorizados da ANVISA. Enquanto não houver texto próprio, o Anexo 22 tende a virar referência de fato — como já ocorre com o Anexo 11.

Nada disso precisa esperar texto final para ser útil. Nenhum desses documentos escreve o procedimento da sua planta. Todos implicam que "temos IA em algum lugar" não é estratégia de controle.

Pré-condições que continuam válidas na troca de modelo

Antes da entrada em produção, alguns mecanismos pesam mais do que a marca do modelo.

Uso pretendido, por escrito. Que decisão esse uso apoia ou toma? Quais passos de receita, quais tipos de exceção, quais revisões? Sem essa frase, a faixa de risco não se atribui e o escopo de validação fica indefinido.

Revisão humana obrigatória no uso generativo não crítico. Rascunhos, resumos e sugestões continuam rascunhos até um papel nomeado aceitar, editar ou rejeitar. A aceitação entra no registro — não fica em acordo verbal.

Lógica determinística no caminho crítico. Onde segurança do paciente, qualidade do produto ou integridade de dados dependem do resultado, prefira regras e modelos estáticos e determinísticos qualificados. Assistência generativa pode alimentar quem decide; não deve substituir o gate em silêncio.

Completude e "indeciso". LLMs não produzem confiança calibrada; no generativo, o controle equivalente é validar a completude da entrada, validar a saída estruturada contra um schema e abster-se de forma obrigatória quando faltam dados de origem. "Indeciso"/escalar é a saída honesta; resposta fluente sobre base incompleta é como a exceção some do registro.

Audit trail e change control. Prompt, versão de modelo, dados de treino ou referência que afetam saída relevante para GxP, e configuração que muda comportamento: trate como outro software GxP. Troca de modelo que "continua validada sem reteste" não é sucesso de governança. A governança existe para tornar reteste e reavaliação documentados possíveis — e esperados — quando muda o que gera ou faz gate da saída.

Desenho independente de modelo ajuda. A planta não precisa de um LLM próprio para governar IA. A diferenciação fica na camada ao redor: uso pretendido, aprovação humana, audit trail e change control. Essa camada ainda precisa fazer sentido se o modelo de base for trocado sob mudança controlada.

A afirmação de que os dados "nunca saem da empresa" só se sustenta se o desenho concreto confirmar. Topologia e contrato variam — exagerar vira achado.

Falhas silenciosas que valem pegar cedo

Três padrões são comuns.

Uma faixa de risco para toda IA. Chatbot da planta, busca em POPs e modelo que toca a aprovação do lote ou a limpeza não são a mesma faixa. Se TI e QA compartilham uma "política de IA" genérica sem mapa de uso, a operação cria atalhos próprios.

Generativo em aprovação do lote, limpeza ou holding críticos. Texto fluente ao lado de parâmetro crítico persuade. Sem gate duro em outro lugar, a persuasão vira evidência. É aí que a exceção não abre. Com cautela: em uma carta de abril de 2026 [ref. 1] a um fabricante de medicamentos acabados, a FDA cita overreliance on artificial intelligence — a firma usou agentes de IA para gerar especificações, procedimentos e master production records sem revisão adequada da unidade da qualidade.

"Validado para sempre" depois da troca. Fornecedores atualizam o modelo. O prompt é alterado. A base de referência cresce. Se o change control não dispara, a história de validação descreve um sistema que já não existe.

Um artigo relacionado percorre o que o rascunho do Anexo 22 já permite organizar sem esperar o texto final: rascunho do Anexo 22 — o que já dá para fazer com IA em GMP.

Perguntas antes da entrada em produção, para chão, QA e TI

Vale olhar antes da primeira assistência generativa tocar registro de lote vivo ou fila de exceção:

1. Neste uso, o modelo assiste uma pessoa ou toma (ou faz gate de) uma decisão?
2. Qual é o uso pretendido por escrito, e quais parâmetros críticos ou passos de aprovação do lote ficam fora do controle generativo?
3. Quem precisa aprovar antes da sugestão entrar no registro de lote, no desvio ou na documentação de limpeza — e onde essa aprovação fica registrada?
4. O que acontece quando a entrada está incompleta ou a saída não passa na validação de schema: bloqueia, escala ou marca "indeciso"?
5. Se modelo, prompt ou dados de referência mudarem no próximo trimestre, qual caminho de change control e qual evidência de reavaliação já temos?

Onde registro eletrônico de lote, pesagem e dispensação e fluxos GxP correlatos já vivem em um system of record com audit trail e change control — por exemplo o NEO EBR como camada de execução e revisão — a camada de governança da IA tende a reaproveitar esses mesmos mecanismos em vez de inventar trilha paralela de papel.

O que levar para a próxima reunião de turno

O rascunho do Anexo 22 continua rascunho (consulta de julho a outubro de 2025; texto final previsto para a Comissão no fim de 2026; sem data de vigência). FDA, princípios EMA–FDA e materiais GAMP AI também evoluem. A pergunta de chão que não espera é mais simples:

Para cada uso de IA no site, dá para apontar a faixa de risco, a pessoa que ainda é dona da decisão e o caminho de change control quando o modelo se move?

Se faltar qualquer um dos três, o modo de falha não é "faltou IA". É que assistir e decidir já se misturaram — e o registro de lote só vai contar isso quando auditor ou desvio forçar a pergunta.

Referências

1. FDA — Warning letter, Purolea Cosmetics Lab, 02/04/2026