De acordo com informações levantadas pelo g1.globo.com, o Superior Tribunal de Justiça (STJ) decidiu nesta quarta-feira (20) iniciar um inquérito e um procedimento administrativo para investigar o uso da técnica conhecida como "prompt injection", que consiste em um método de manipulação de ferramentas de inteligência artificial (IA). A investigação visa averiguar se houve a tentativa de fraude processual através dessa prática, que envolve a inserção de comandos ocultos em documentos legais. Advogados e escritórios de advocacia que participaram desses processos serão chamados para prestar depoimentos.
A decisão de investigar foi tomada pela Presidência do STJ após uma análise técnica que revelou a existência de processos onde essa técnica foi utilizada. Essa exploração maliciosa permite que usuários tentem controlar a IA por meio de instruções disfarçadas, levando a possíveis distorções na justiça.
Em uma declaração, o presidente do STJ, ministro Herman Benjamin, ressaltou a importância da investigação e da responsabilização dos envolvidos. Ele destacou que o sistema de IA generativa criado pela corte, denominado STJ Logos, dispõe de comandos específicos que visam prevenir esses ataques. Benjamin também mencionou que estão sendo monitoradas todas as tentativas de prompt injection, de modo a possibilitar a aplicação de sanções processuais e investigações sobre responsabilidades administrativas e criminais.
Segundo o tribunal, mesmo que o sistema receba petições contendo instruções ocultas, ele conta com várias camadas de segurança que garantem que comandos maliciosos não sejam executados. No total, existem pelo menos três camadas de proteção projetadas para que diretrizes externas não sobreponham os regulamentos internos do STJ.
Além disso, um levantamento realizado pela TV Globo apontou que foram identificados no mínimo 11 processos nos quais a técnica de prompt injection foi aplicada, todos envolvendo matéria criminal. Até o momento, o STJ afirma que não está analisando casos específicos.
Os incidentes relacionados à prompt injection não se limitam ao STJ. Recentemente, um caso também ganhou notoriedade na 3ª Vara do Trabalho de Parauapebas, no Pará, onde houve tentativas de manipular a ferramenta de IA do Tribunal Regional do Trabalho do Rio Grande do Sul (TRT-RS). Em resposta a esses desafios, o Conselho Nacional de Justiça recomendou a criação de um banco nacional de prompts, com o intuito de mitigar as vulnerabilidades geradas por essa prática.
A situação ressalta a importância de medidas eficazes para garantir a integridade dos sistemas judiciais frente às novas ameaças tecnológicas.
