O Conselho Nacional de Justiça (CNJ) aprovou, nessa terça-feira (9/6), orientações voltadas à preservação da segurança jurídica no uso de sistemas de inteligência artificial pelo Poder Judiciário. A medida busca reduzir os riscos relacionados à manipulação de ferramentas de IA por meio de comandos ocultos inseridos em documentos processuais, prática conhecida como prompt injection.

“A confiança nos processos judiciais depende da segurança das informações que os integram. Por isso, ações voltadas à prevenção de manipulações em sistemas de inteligência artificial, como esta do CNJ, são bem-vindas e interessam diretamente à advocacia, que acompanha de perto a transformação digital da Justiça”, afirmou o presidente nacional da OAB.

Relator da nota técnica e presidente do Comitê Nacional de Inteligência Artificial do Judiciário (CNIAJ), o conselheiro Rodrigo Badaró destacou que a iniciativa demonstra a atenção do CNJ aos desafios decorrentes da evolução tecnológica e à necessidade de adoção de medidas preventivas pelos tribunais.

A proposta acompanha manifestação técnica aprovada pelo Comitê, com diretrizes para ampliar a prevenção e a resposta a tentativas de manipulação de sistemas utilizados pelo Judiciário.

Durante a sessão, o presidente do CNJ e do Supremo Tribunal Federal (STF), ministro Edson Fachin, ressaltou a necessidade de orientar os tribunais sobre o tema. “É importante pensar nesses avanços porque a tecnologia, apesar de trazer benefícios, também traz desafios”, destacou.

Monitoramento permanente

Entre as medidas previstas está a criação do Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (Proseg-IA), iniciativa destinada ao monitoramento permanente de riscos relacionados ao uso de IA em processos judiciais.

A nota técnica orienta ainda a adoção de requisitos de “ingestão segura” de documentos processuais, com preservação de metadados visuais e estruturais, como forma de fortalecer a proteção dos sistemas contra interferências indevidas.

Outro ponto previsto é a utilização da Plataforma Sinapse como solução nacional para realização, consolidação e manutenção do inventário dos sistemas judiciais de inteligência artificial e de sua exposição a riscos adversariais.

por OAB Nacional