Introdução
Um consumidor pode ter crédito negado por um modelo de risco. Uma empresa pode enfrentar restrição de financiamento por uma classificação automatizada. Um usuário pode ser excluído de uma plataforma por uma regra opaca. Um contrato pode ser precificado por perfilamento. Uma política de cobrança pode tratar clientes semelhantes de maneira diferente porque um sistema identificou padrões que ninguém consegue explicar com clareza.
Esses exemplos não são ficção jurídica. Eles fazem parte de uma economia cada vez mais orientada por dados, IA e decisões automatizadas.
Em 1º de junho de 2026, o CNJ noticiou palestra do presidente do Conselho Nacional de Justiça e do Supremo Tribunal Federal, ministro Edson Fachin, nas Jornadas Internacionais da Associação Henri Capitant, no Rio de Janeiro. O tema foi vulnerabilidades algorítmicas e Direito Civil contemporâneo, com atenção a insolvência, proteção de dados, acesso a crédito e preservação de direitos fundamentais.
No mesmo período, o STJ e o CJF vêm destacando a X Jornada de Direito Civil, marcada para 15 e 16 de junho de 2026, com uma comissão dedicada a Direito Digital e Extrajudicial. Entre os temas previstos estão responsabilidade civil nas plataformas, contratos eletrônicos, inteligência artificial, uso de dados pessoais, patrimônio e herança digitais.
O recado para advogados é direto: IA não é apenas assunto de tecnologia. Ela está entrando no coração das relações privadas.
Mas o enquadramento correto não é medo da IA. O problema jurídico não está em usar sistemas automatizados com método, transparência e revisão. O problema está em decisões opacas, sem explicação, sem governança, sem registro e sem caminho efetivo para contestação.
O que é vulnerabilidade algorítmica
Vulnerabilidade algorítmica é a situação em que uma pessoa, empresa ou grupo fica em posição de desvantagem porque uma decisão automatizada ou semi automatizada afeta seu acesso a crédito, bens, serviços, oportunidades, reputação ou tratamento contratual sem transparência suficiente.
Não se trata de dizer que todo algoritmo é injusto. Também não se trata de afirmar que toda decisão automatizada é ilegal. A questão é mais precisa: quando sistemas classificam pessoas, estimam riscos, definem preços, priorizam atendimentos ou bloqueiam acessos, o Direito precisa perguntar:
- quais dados foram usados?
- qual finalidade justificou o tratamento?
- houve base legal adequada?
- o titular consegue compreender os critérios principais?
- existe possibilidade real de revisão?
- há risco de discriminação ou erro sistemático?
- a decisão foi exclusivamente automatizada?
- há registro suficiente para auditoria?
- a empresa consegue explicar o processo sem revelar segredo industrial de forma indevida?
Esse conjunto de perguntas desloca o trabalho jurídico de uma posição reativa para uma posição estruturada.
Por que isso importa para Direito Civil
O Direito Civil lida com autonomia privada, boa-fé, contratos, responsabilidade, personalidade, patrimônio, crédito, família, sucessões e relações digitais. Em todos esses campos, sistemas automatizados podem influenciar decisões.
No crédito, modelos podem classificar risco e condicionar acesso a financiamento. Em plataformas, regras automatizadas podem suspender contas, limitar visibilidade, remover conteúdo ou restringir funcionalidades. Em contratos, sistemas podem personalizar preços, ofertas, limites, prazos e condições. Em relações de consumo, dados comportamentais podem afetar atendimento, cobrança e prevenção de fraude.
Interpretação editorial: a vulnerabilidade algorítmica é uma nova camada de assimetria informacional. Antes, o consumidor ou contratante muitas vezes não entendia cláusulas complexas. Agora, pode não entender também a lógica automatizada que influenciou a relação.
Isso não significa que tecnologia deve ser evitada. Significa que advogados precisam aprender a trabalhar com documentação, governança, explicabilidade, revisão e prova.
A LGPD e a revisão de decisões automatizadas
A Lei Geral de Proteção de Dados prevê, no art. 20, o direito do titular de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, inclusive decisões destinadas a definir perfil pessoal, profissional, de consumo, de crédito ou aspectos de sua personalidade.
Fato confirmado: a ANPD informou, no contexto do sandbox regulatório de IA e proteção de dados, que a fase de nivelamento abordou transparência algorítmica, explicabilidade e o direito de revisão de decisões automatizadas previsto no art. 20 da LGPD.
Para advogados, esse ponto é central. Em casos envolvendo negativa de crédito, bloqueio de conta, alteração de score, suspensão em plataforma, precificação automatizada ou análise de risco, a primeira tarefa é organizar perguntas e documentos:
- a decisão envolveu dados pessoais?
- foi tomada unicamente de forma automatizada ou houve intervenção humana relevante?
- quais interesses do titular foram afetados?
- houve informação adequada sobre o tratamento?
- quais documentos demonstram o impacto?
- há pedido de revisão registrado?
- a resposta recebida foi suficiente?
- quais evidências sustentam a tese?
Não basta dizer "foi o algoritmo". O trabalho jurídico precisa transformar opacidade em questão verificável.
Como advogados devem preparar casos envolvendo algoritmos
Casos de vulnerabilidade algorítmica exigem método. A dificuldade é que muitas vezes o sistema relevante está dentro da empresa, da plataforma, da instituição financeira ou do fornecedor. O advogado pode não ter acesso direto ao modelo.
Mesmo assim, há caminhos práticos.
1. Reconstruir a linha do tempo
Quando ocorreu a decisão? O que mudou antes dela? Houve atualização cadastral, contratação, inadimplência, contestação, bloqueio, novo dado ou interação com atendimento?
Uma linha do tempo ajuda a separar hipótese de fato confirmado.
2. Organizar documentos e comunicações
E-mails, telas, contratos, termos de uso, políticas de privacidade, respostas de atendimento, protocolos, notificações e comprovantes devem ser preservados. Sem isso, a discussão vira genérica.
3. Identificar a decisão relevante
O caso não é simplesmente "a empresa usou IA". A pergunta é: qual decisão afetou o cliente? Negativa de crédito? Bloqueio? Redução de limite? Preço diferente? Suspensão de serviço? Recusa de contratação?
4. Separar fato, interpretação e hipótese
Fato: crédito negado em determinada data. Interpretação: possível influência de perfil automatizado. Hipótese: uso de determinado conjunto de dados ou critério. Essa separação evita exagero e melhora a qualidade da tese.
5. Formular pedidos de informação e revisão
Quando cabível, o advogado pode estruturar pedidos com base na LGPD, nas normas aplicáveis ao setor e no contexto contratual. O objetivo é obter explicação suficiente para avaliar legalidade, adequação e eventual contestação.
6. Registrar resposta e insuficiências
Uma resposta vaga, padronizada ou incompatível com o caso pode se tornar elemento relevante. Mas é preciso documentar o caminho.
O papel da IA jurídica nesse trabalho
IA jurídica responsável pode apoiar advogados nesse tipo de caso, desde que não substitua validação profissional.
Ela pode ajudar a:
- organizar documentos por data, tipo e relevância;
- resumir comunicações longas;
- extrair eventos de uma linha do tempo;
- comparar termos de uso e políticas de privacidade;
- identificar inconsistências em respostas de atendimento;
- estruturar checklists de revisão;
- separar fatos confirmados, interpretações e hipóteses;
- preparar perguntas para investigação jurídica;
- apoiar relatórios para cliente;
- manter vínculo entre conclusão e fonte.
Esse uso fortalece a advocacia porque reduz perda de contexto e melhora rastreabilidade. O advogado continua decidindo a tese, validando a interpretação e avaliando riscos.
É nesse ponto que a JuristIA se conecta naturalmente ao tema: não como ferramenta que "resolve" vulnerabilidade algorítmica, mas como infraestrutura para organizar o trabalho jurídico em casos que exigem documentação, revisão e clareza.
Empresas também precisam se preparar
O tema não importa apenas para quem contesta decisões automatizadas. Empresas que usam modelos, scores, regras automatizadas, sistemas antifraude, personalização de oferta ou plataformas de decisão também precisam de governança jurídica.
Um programa mínimo de preparação deve responder:
- quais decisões automatizadas existem?
- quais delas afetam direitos, interesses ou oportunidades de pessoas?
- há inventário de sistemas e finalidades?
- existe base legal documentada?
- há avaliação de risco?
- há explicação adequada para titulares, clientes ou usuários?
- existe fluxo de revisão humana?
- as respostas são registradas?
- a equipe jurídica consegue auditar o caminho?
- fornecedores foram avaliados?
Esse trabalho não é burocracia. É prevenção de litígio e proteção de confiança.
Cautelas: o que não afirmar
Não afirmar que todo uso de IA em crédito, plataformas ou contratos é abusivo. Sistemas automatizados podem ser legítimos quando há finalidade adequada, governança, transparência proporcional, segurança e revisão quando cabível.
Não afirmar que o art. 20 da LGPD dá acesso irrestrito ao código-fonte ou a segredos industriais. O tema exige equilíbrio entre direitos do titular, proteção de dados, transparência, propriedade intelectual e segurança.
Não afirmar que toda decisão com apoio de IA é "unicamente automatizada". É necessário verificar se houve intervenção humana relevante e como ela ocorreu.
Não afirmar que explicabilidade exige transformar modelo técnico em linguagem impossível. A explicação precisa ser útil para o exercício de direitos, compatível com o contexto e juridicamente analisada.
Não transformar o artigo em argumento contra IA. A mensagem correta é: decisões automatizadas exigem método, documentação, revisão e governança. Quando esses elementos existem, a tecnologia pode ser usada de forma responsável.
Impacto prático para escritórios e departamentos jurídicos
Para escritórios contenciosos, o tema abre espaço para demandas envolvendo crédito, consumo, plataformas, contratos, seguros, saúde suplementar, educação, imobiliário, trabalho e relações empresariais.
Para áreas consultivas, o tema exige revisão de políticas, contratos com fornecedores de tecnologia, termos de uso, políticas de privacidade, fluxos de atendimento e respostas a titulares.
Para departamentos jurídicos, o desafio é criar ponte entre jurídico, tecnologia, produto, dados, compliance e atendimento. Se cada área guarda uma parte da informação, ninguém consegue explicar o todo.
O diferencial jurídico será a capacidade de transformar dados dispersos em narrativa verificável: o que aconteceu, quais documentos provam, quais regras se aplicam, quais hipóteses existem e qual revisão foi feita.
Perguntas frequentes
O que é vulnerabilidade algorítmica?
É a situação em que uma pessoa, empresa ou grupo fica em desvantagem por uma decisão automatizada ou opaca que afeta crédito, acesso a serviços, contratos, reputação ou oportunidades.
Toda decisão automatizada é ilegal?
Não. Decisões automatizadas podem ser legítimas. O ponto jurídico é verificar finalidade, base legal, transparência, segurança, impacto, possibilidade de revisão e documentação.
O art. 20 da LGPD se aplica a qualquer uso de IA?
Não automaticamente. Ele trata de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem interesses do titular. O caso concreto precisa ser analisado.
Como advogados podem começar a analisar esses casos?
Reconstruindo a linha do tempo, preservando documentos, identificando a decisão relevante, separando fatos de hipóteses e formulando pedidos de informação ou revisão quando cabível.
Como JuristIA se conecta com o tema?
JuristIA pode ajudar a organizar documentos, histórico, fontes, hipóteses e revisão humana, criando um fluxo mais rastreável para análise jurídica de decisões automatizadas.
Fontes consultadas
- CNJ. "Presidente do CNJ debate impactos da inteligência artificial em jornadas jurídicas no Rio de Janeiro". Publicado em 01/06/2026. https://www.cnj.jus.br/presidente-do-cnj-debate-impactos-da-inteligencia-artificial-em-jornadas-juridicas-no-rio-de-janeiro/
- JOTA. Luiz Edson Fachin. "Vulnerabilidades algorítmicas e o Direito Civil Contemporâneo". Publicado em 01/06/2026. https://www.jota.info/opiniao-e-analise/artigos/vulnerabilidades-algoritmicas-e-o-direito-civil-contemporaneo
- STJ. "Para o ministro Cueva, X Jornada de Direito Civil pretende harmonizar tecnologia com direitos fundamentais". Publicado em 26/05/2026. https://www.stj.jus.br/sites/portalp/Paginas/Comunicacao/Noticias/2026/26052026-Para-o-ministro-Cueva--X-Jornada-de-Direito-Civil-pretende-harmonizar-tecnologia-com-direitos-fundamentais.aspx
- CJF. "X Jornada de Direito Civil pretende harmonizar inovação tecnológica com direitos fundamentais, defende ministro Ricardo Villas Bôas Cueva". Publicado em 15/05/2026. https://www.cjf.jus.br/cjf/noticias/2026/maio/x-jornada-de-direito-civil-pretende-harmonizar-inovacao-tecnologica-com-direitos-fundamentais-defende-ministro-ricardo-villas-boas-cueva
- ANPD. "ANPD conclui fase de nivelamento do Projeto Sandbox". Publicado em 20/02/2026 e modificado em 14/05/2026. https://www.gov.br/anpd/pt-br/assuntos/noticias/anpd-conclui-fase-de-nivelamento-do-projeto-sandbox
- ANPD. "Regulação da Inteligência Artificial em pauta no Painel TeleBrasil Summit 2026". Publicado em 20/05/2026. https://www.gov.br/anpd/pt-br/assuntos/noticias/anpd-telebrasil-regulacao-ia
- CNJ. "CNJ propõe nova Estratégia de Governança Digital e Inovação Tecnológica do Judiciário". Publicado em 25/05/2026. https://www.cnj.jus.br/cnj-propoe-nova-estrategia-de-governanca-digital-e-inovacao-tecnologica-do-judiciario/
- Senado Verifica. "Inteligência artificial nas eleições? Veja o que ficou decidido pelo TSE". Publicado em 06/03/2026. https://www12.senado.leg.br/verifica/materias-especiais/2026/inteligencia-artificial-nas-eleicoes-veja-o-que-ficou-decidido-pelo-tse