TJ-BA identifica tentativa de manipular IA em processo

O Tribunal de Justiça da Bahia (TJ-BA) identificou comandos ocultos em um documento digital apresentado pela defesa de um acusado de crimes como homicídio e sequestro, em uma tentativa de direcionar ferramentas de Inteligência Artificial utilizadas pela Corte.

O caso foi divulgado pelo tribunal nesta quinta-feira (1º) e envolve um pedido de Habeas Corpus Criminal analisado pela 2ª Turma da Primeira Câmara Criminal. O documento foi protocolado por uma advogada que atua no Mato Grosso do Sul.

Segundo o TJ-BA, a estratégia utilizada é conhecida como “prompt injection”, técnica que consiste na inserção de instruções ocultas ou maliciosas em textos e arquivos digitais com o objetivo de interferir no comportamento de sistemas de inteligência artificial.

Comando estava escondido no documento

A análise realizada pela Diretoria de Modernização do TJ-BA identificou uma camada de texto que não era perceptível durante a visualização convencional do arquivo em formato PDF.

De acordo com a Corte, o conteúdo oculto continha uma instrução para que o pedido apresentado no habeas corpus fosse deferido caso a análise fosse realizada por uma ferramenta de Inteligência Artificial.

O relator do caso, desembargador Pedro Guerra, afirmou que a área técnica identificou características compatíveis com uma ação deliberada para interferir no funcionamento dos algoritmos empregados pelo Judiciário.

A prática de prompt injection pode explorar instruções inseridas em documentos para tentar fazer com que sistemas automatizados desconsiderem orientações originais e executem comandos diferentes daqueles previstos em sua programação.

Caso será encaminhado à OAB e ao MP-BA

Diante da situação identificada, o colegiado determinou o envio de um ofício à OAB de Mato Grosso do Sul (OAB-MS) para que seja avaliada a abertura de procedimento disciplinar relacionado à conduta.

Uma cópia do documento também foi encaminhada ao Ministério Público da Bahia (MP-BA), que deverá analisar a existência de possíveis ilícitos relacionados ao episódio.

Em nota, o TJ-BA ressaltou que o uso de ferramentas de Inteligência Artificial generativa na Corte segue requisitos relacionados à segurança da informação, proteção de dados pessoais e governança.

O tribunal também destacou que a utilização de sistemas de IA não substitui a análise dos magistrados. Segundo a Corte, os processos continuam submetidos à supervisão e revisão humana, permanecendo os magistrados responsáveis pelo conteúdo das decisões judiciais.

O episódio evidencia um novo tipo de preocupação para instituições que utilizam inteligência artificial em atividades jurídicas: a necessidade de proteger sistemas automatizados contra instruções ocultas inseridas em documentos processuais.