O Conselho Nacional de Justiça (CNJ) implementou, nesta terça-feira (9), um conjunto de diretrizes vitais para fortalecer a segurança de sistemas de inteligência artificial operantes nos tribunais brasileiros. Em sua 9ª Sessão Ordinária de 2026, o órgão aprovou uma nota técnica que visa proteger o ambiente jurídico digital contra táticas de manipulação por meio de comandos ocultos, garantindo a integridade dos processos e a estabilidade da segurança jurídica.

Ameaça Silenciosa: Ataques de “Prompt Injection”

O cerne da preocupação do CNJ reside nos chamados ataques de “prompt injection”. Essa técnica sofisticada envolve a inserção de instruções dissimuladas dentro de documentos processuais. Embora invisíveis a olho nu, esses comandos ocultos são capazes de influenciar ou até mesmo comprometer a operação de ferramentas de inteligência artificial empregadas pelos tribunais, podendo distorcer análises e decisões automatizadas.

A relevância das medidas foi sublinhada pelo conselheiro Rodrigo Badaró, relator da nota técnica e presidente do Comitê Nacional de Inteligência Artificial no Judiciário. Ele enfatizou o compromisso do CNJ com a adaptação aos desafios tecnológicos. “As medidas demonstram a preocupação do CNJ com a segurança jurídica e com os desafios decorrentes da evolução tecnológica”, afirmou Badaró, destacando que a proposta converge com uma manifestação técnica prévia do comitê, focada na prevenção e resposta a tais tentativas de manipulação.

Proseg-IA: O Escudo da Inteligência Artificial no Judiciário

Para enfrentar proativamente essas ameaças, as orientações incluem a criação do Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (Proseg-IA). Esta iniciativa ambiciona estabelecer uma estrutura permanente dedicada à identificação, monitoramento e combate a todos os riscos associados à manipulação das tecnologias de IA em uso nos processos judiciais, consolidando um ambiente digital mais robusto e confiável.

Complementando o Proseg-IA, a nota técnica instrui os tribunais a incorporarem requisitos de “ingestão segura” de documentos. Esse protocolo assegura que, ao serem processados pelos sistemas de inteligência artificial, os arquivos mantenham seus metadados visuais e estruturais intactos. Tal medida é crucial para minimizar as vulnerabilidades que poderiam, de outra forma, comprometer a fidedignidade das análises automatizadas e a integridade da informação.

Plataforma Sinapse: Gestão e Monitoramento de IA

Outro ponto estratégico aprovado é a designação da Plataforma Sinapse como a solução nacional para inventariar, consolidar e gerenciar todas as ferramentas de inteligência artificial empregadas pelo Judiciário. A plataforma terá o papel fundamental de monitorar continuamente a exposição desses sistemas a potenciais riscos adversariais, oferecendo suporte crucial à gestão das ações de segurança implementadas.

O ministro Edson Fachin, presidente do CNJ e do Supremo Tribunal Federal (STF), ressaltou a importância dessas diretrizes para o futuro da justiça. Ele ponderou sobre o balanço entre inovação e cautela: “embora a inteligência artificial ofereça benefícios relevantes para a atividade jurisdicional, também exige atenção permanente quanto aos riscos e à segurança dos sistemas.” A declaração do ministro reforça a visão de que a modernização do Judiciário, impulsionada pela inteligência artificial, deve ser acompanhada de rigorosos padrões de segurança para garantir a confiança pública e a eficácia das inovações.

Fonte e Fotos: ROTA JURÍDICA

https://www.rotajuridica.com.br/cnj-aprova-medidas-para-proteger-sistemas-de-ia-contra-manipulacao-em-processos-judiciais/