STJ investiga uso de prompts de IA para fraudes em processos eletrônicos
Presidência do STJ determina investigação após identificação de manipulação por advogados e escritórios
O Superior Tribunal de Justiça (STJ) instaurou nesta quarta-feira (20) um inquérito policial e um procedimento administrativo para investigar o uso de prompts de inteligência artificial com o objetivo de fraudar processos eletrônicos no tribunal.
O Superior Tribunal de Justiça (STJ) anunciou a abertura de investigações para apurar o uso indevido de prompts de inteligência artificial no sistema eletrônico de petições do tribunal. A decisão foi tomada pelo presidente do STJ, ministro Herman Benjamin, após técnicos identificarem tentativas de manipulação do sistema por meio de técnicas conhecidas como prompt injection.
Esses comandos ocultos, inseridos em petições eletrônicas, têm a finalidade de burlar os filtros automáticos do sistema, que impedem, por exemplo, a admissão de documentos sem os requisitos mínimos de admissibilidade. A prática, segundo o tribunal, pode favorecer partes envolvidas no processo, comprometendo a integridade e a segurança do andamento eletrônico dos casos.
Para apurar os fatos, foram instaurados um inquérito policial e um procedimento administrativo interno, com foco em advogados e escritórios de advocacia suspeitos de utilizar esses mecanismos para fraudar o sistema. O STJ ressaltou que já conta com mecanismos de proteção contra o uso de prompts, que bloqueiam a execução de comandos maliciosos na plataforma de petições eletrônicas.
A investigação busca identificar a extensão das fraudes e responsabilizar os envolvidos, garantindo a confiabilidade dos processos judiciais eletrônicos e a segurança jurídica no âmbito do tribunal. O STJ reforça seu compromisso com a transparência e a legalidade no uso de tecnologias digitais no Judiciário.
Contexto
Com o avanço da inteligência artificial e sua crescente aplicação em sistemas judiciais, o uso de prompts para manipular algoritmos tem se tornado uma preocupação. O STJ, como órgão responsável por uniformizar a interpretação da legislação federal, utiliza sistemas eletrônicos para tramitação de processos, que agora enfrentam desafios relacionados à segurança digital. A investigação reflete uma preocupação maior do Judiciário em preservar a integridade dos processos eletrônicos diante de novas formas de fraude tecnológica.
