Playbook de incidentes de IA: o que escritórios devem fazer quando a tecnologia erra

Introdução

A conversa sobre inteligência artificial no Direito entrou em uma nova fase. Não basta perguntar se a IA ajuda advogados a produzir mais. A pergunta agora é: o que o escritório faz quando a IA erra?

Nas últimas semanas, três sinais apontaram para a mesma direção. A ANPD debateu monitoramento de incidentes de IA e taxonomia de riscos. O STJ noticiou um habeas corpus com erros e alucinações atribuídas ao uso de IA. O próprio STJ também informou que tentativas de prompt injection em processos serão investigadas.

O recado não é “pare de usar IA”. Esse seria o diagnóstico errado.

O recado correto é: se a IA já entrou na rotina jurídica, o escritório precisa de um playbook para prevenir, detectar, corrigir e registrar incidentes.

O que é um incidente de IA no trabalho jurídico

Incidente de IA é qualquer falha relevante no uso de um sistema de inteligência artificial que possa afetar a qualidade, a segurança, a confiabilidade ou a responsabilidade do trabalho.

No escritório, isso pode aparecer de forma bem concreta:

uma jurisprudência inexistente citada em rascunho;
um resumo que distorce fato importante dos autos;
uma tese atribuída ao tribunal errado;
uma resposta baseada em documento que não era do caso;
uma peça com referência legal desatualizada;
uma ferramenta que trata texto do documento como comando;
um dado sensível usado em ambiente inadequado;
uma revisão humana feita apenas de forma superficial.

Nem todo erro vira crise. Mas todo erro relevante precisa ser identificável e corrigível.

Essa é a diferença entre usar IA como improviso e usar IA como infraestrutura de trabalho.

Por que escritórios precisam de playbook

Quando um erro acontece, o pior cenário é ninguém saber responder a perguntas simples:

De onde veio essa informação?
Qual documento foi usado como base?
A fonte foi conferida?
Quem revisou?
O erro entrou na versão final?
O cliente ou o processo foram afetados?
O que será feito para não repetir?

Sem playbook, o escritório reage no susto. Com playbook, o escritório atua com método.

Um bom protocolo não precisa ser burocrático. Ele precisa deixar claro como a equipe identifica o problema, quem revisa, o que deve ser registrado e quando o caso exige escalonamento.

A primeira regra: separar erro interno de erro externo

Nem todo incidente tem o mesmo peso.

Um erro encontrado durante a revisão interna é muito diferente de um erro que chegou a uma petição protocolada, a um parecer enviado ao cliente ou a uma decisão estratégica.

Por isso, o primeiro passo do playbook é classificar o alcance:

Incidente interno

O erro apareceu em rascunho, resumo, pesquisa preliminar ou sugestão de argumento, mas foi detectado antes de qualquer uso externo.

Esse caso exige correção, registro e aprendizado, mas normalmente não exige resposta externa.

Incidente operacional

O erro afetou tempo, fluxo, organização de documentos ou trabalho da equipe, mas não chegou ao cliente nem ao Judiciário.

Aqui o foco é corrigir o processo e ajustar o fluxo.

Incidente externo

O erro entrou em documento enviado, peça protocolada, parecer entregue ou orientação ao cliente.

Esse caso exige avaliação jurídica, correção formal quando aplicável e registro mais cuidadoso.

Essa classificação evita exagero e evita negligência.

A segunda regra: fonte antes de texto

Em IA jurídica, uma resposta convincente não basta.

Se a IA sugeriu jurisprudência, a fonte precisa existir. Se resumiu documento, o trecho precisa corresponder ao original. Se propôs tese, a base jurídica precisa ser conferível.

O escritório deve tratar qualquer informação gerada por IA como rascunho até que exista lastro.

Uma regra prática:

> conteúdo sem fonte é hipótese, não fundamento.

Essa frase deveria estar colada em qualquer fluxo jurídico com IA.

A terceira regra: revisão humana com responsabilidade real

Revisão humana não pode ser um carimbo.

O advogado precisa verificar:

fatos relevantes;
aderência ao caso;
existência das fontes;
atualidade da legislação;
pertinência da jurisprudência;
riscos omitidos;
linguagem final;
estratégia processual ou consultiva.

O papel da IA é acelerar leitura, organização e redação. O papel do advogado é decidir, conferir e assumir responsabilidade técnica.

Essa divisão é saudável. Ela não diminui a IA. Torna a IA utilizável em ambiente profissional.

Um playbook simples em cinco etapas

Um escritório pode começar com um modelo direto.

1. Detectar

Qualquer membro da equipe deve poder marcar um possível erro de IA: citação suspeita, resumo estranho, fonte sem link, documento divergente ou resposta fora do contexto.

O ponto é criar cultura de detecção, não de vergonha.

2. Isolar

Antes de corrigir, identifique onde o erro apareceu:

só no rascunho;
no documento interno;
em peça final;
em comunicação com cliente;
em protocolo judicial;
em base reutilizada pelo escritório.

Isolar evita que o erro continue circulando.

3. Verificar

Confira a fonte original. Não basta pedir para outra IA “confirmar”. Em Direito, a verificação precisa ir à base confiável: autos, lei, tribunal, documento original ou repositório validado.

4. Corrigir

Corrija o texto, substitua a fonte, remova a tese ou refaça o trecho. Se o erro chegou ao cliente ou ao processo, avalie a medida formal adequada.

5. Aprender

Registre a causa provável:

ferramenta inadequada;
prompt ruim;
falta de fonte;
contexto errado;
revisão insuficiente;
dado sensível inserido de forma indevida;
ausência de padrão interno.

Sem aprendizado, o mesmo erro volta.

O que deve ser registrado

Registro não precisa virar burocracia pesada. Mas alguns dados são úteis:

data do incidente;
tarefa afetada;
ferramenta ou fluxo usado;
tipo de erro;
documento ou fonte envolvida;
etapa em que foi detectado;
impacto;
correção aplicada;
regra preventiva criada.

Esse registro ajuda o escritório a melhorar o processo e dá evidência de diligência.

Ele também permite identificar padrões. Se a equipe sempre encontra erro em um mesmo tipo de tarefa, talvez o problema esteja no fluxo, não nas pessoas.

Como a JuristIA se encaixa nesse cenário

A JuristIA parte de uma premissa prática: IA jurídica precisa ser organizada em torno de documentos, contexto, fontes, revisão e rastreabilidade.

Isso é exatamente o que um playbook de incidentes exige.

Quando o trabalho jurídico fica estruturado, o escritório consegue ver melhor o caminho da informação. Consegue revisar com mais precisão. Consegue separar rascunho de fundamento. Consegue usar IA com produtividade sem perder controle.

O objetivo não é vender a ilusão de risco zero. O objetivo é tornar o trabalho mais verificável.

Em IA jurídica, maturidade não é ausência absoluta de erro. Maturidade é ter método para prevenir, detectar e corrigir antes que o erro vire dano.

Cautelas

Este artigo usa notícias recentes da ANPD, do STJ e do CNJ como ponto de partida editorial. Não pretende afirmar conclusões além do que foi divulgado oficialmente.

Também não se deve prometer que qualquer ferramenta de IA elimina incidentes. O uso responsável depende de tecnologia adequada, processo interno, revisão humana e cultura de conferência.

O ponto central é: incidentes não são argumento contra IA jurídica. São argumento contra IA jurídica usada sem método.

Conclusão

A IA jurídica está amadurecendo. E maturidade significa admitir que erros podem acontecer, mas não aceitar que eles sejam invisíveis.

Escritórios que usam IA de forma profissional precisam de um playbook simples: detectar, isolar, verificar, corrigir e aprender.

Esse método não reduz a utilidade da IA. Ele aumenta.

Porque o verdadeiro valor da IA no Direito não está em gerar texto rápido. Está em ajudar o advogado a trabalhar melhor, com mais organização, mais contexto, mais fonte e mais capacidade de revisão.

Na JuristIA, essa é a visão: IA jurídica responsável é produtividade com rastreabilidade.

Perguntas frequentes

O que é um incidente de IA no escritório?

É uma falha relevante no uso de IA que afeta ou pode afetar a qualidade, a segurança, a confiabilidade ou a responsabilidade do trabalho jurídico.

Alucinação de IA é sempre grave?

Depende do contexto. Se for detectada em rascunho interno, pode ser corrigida sem impacto externo. Se entrar em peça, parecer ou orientação ao cliente, exige avaliação mais cuidadosa.

Como evitar citações falsas geradas por IA?

Tratando toda citação sugerida como rascunho até conferência em fonte confiável: tribunal, legislação, autos ou base jurídica validada.

O escritório precisa parar de usar IA se encontrar um erro?

Não. Precisa entender a causa, corrigir o fluxo e reforçar revisão, fontes e rastreabilidade.

Como a JuristIA ajuda nesse tipo de controle?

A JuristIA organiza documentos, contexto, pesquisa e redação em um fluxo mais rastreável, ajudando o advogado a revisar melhor e reduzir uso improvisado de IA.

Fontes consultadas

Conheça a JuristIA para organizar documentos, processos e trabalho jurídico com agentes de IA. Conhecer a JuristIA