casos de ‘prompt injection’ geram debate

A identificação de um comando oculto em uma petição trabalhista no Tribunal Regional do Trabalho da 8ª Região, no Pará, somada a casos recentes de prompts “esquecidos” em decisões judiciais e citações inexistentes produzidas por inteligência artificial, ampliou o debate sobre os limites operacionais da IA generativa no Brasil.

Os episódios ocorreram em meio à expansão do uso dessas ferramentas nos tribunais brasileiros, cenário já regulamentado pelo Conselho Nacional de Justiça (CNJ) por meio da Resolução nº 615/2025, que estabelece a obrigatoriedade de supervisão humana sobre conteúdos produzidos com auxílio de sistemas automatizados.

O caso mais recente envolveu duas advogadas de Parauapebas (PA), multadas em R$ 84 mil após a Justiça identificar um texto oculto em uma petição trabalhista. O comando, inserido em fonte branca sobre fundo branco, orientava a ferramenta “Galileu”, utilizada pelo Judiciário trabalhista, a elaborar uma contestação superficial e ignorar documentos anexados ao processo. Na decisão, o magistrado classificou a prática como “prompt injection”, técnica usada para interferir no comportamento de sistemas de inteligência artificial por meio de instruções ocultas.

Segundo a sentença, a tentativa de manipulação comprometia a integridade da atividade jurisdicional e atingia a credibilidade das ferramentas institucionais utilizadas pelo Judiciário. As advogadas negaram a tentativa de influenciar a decisão judicial e sustentaram que o objetivo do comando era proteger o cliente de eventual uso inadequado da IA durante a análise do processo.

O episódio ocorreu em um momento de ampliação do uso de inteligência artificial nos tribunais brasileiros. De acordo com a pesquisa “Inteligência Artificial no Poder Judiciário Brasileiro”, da Fundação Getúlio Vargas, mais de 60% das cortes do país declararam utilizar algum tipo de solução baseada em IA. A expansão ganhou força nos últimos dois anos, impulsionada por ferramentas voltadas à produção textual, análise de dados e automação de documentos.

O avanço da tecnologia também passou a expor falhas relacionadas à revisão de conteúdo e à padronização de processos. No Tribunal Regional do Trabalho da 1ª Região, no Rio de Janeiro, um magistrado publicou acórdão contendo trecho de prompt de inteligência artificial que deveria ter sido excluído antes da divulgação oficial do documento. O texto indicava que a fundamentação havia sido elaborada por ferramenta automatizada a partir de comandos específicos de redação.

No setor público, a discussão envolve o impacto do uso de IA em documentos com validade jurídica, como editais, contratos, pareceres e relatórios de gestão. Falhas de revisão em conteúdos produzidos com apoio de sistemas automatizados podem gerar questionamentos administrativos, disputas judiciais e problemas relacionados à autenticidade das informações. O avanço da IA generativa também ampliou o debate sobre dependência operacional e uso inadequado das ferramentas. Entre os riscos apontados estão a utilização de sistemas sem validação técnica adequada e a redução da capacidade crítica de profissionais responsáveis pela revisão dos conteúdos produzidos pela tecnologia.

Para Fabiano Carvalho, especialista em Transformação Digital e CEO da Ikhon, o cenário demonstra que a ampliação do uso de inteligência artificial exige integração entre tecnologia, revisão humana e governança institucional. “A adoção acelerada de ferramentas de inteligência artificial compromete a confiabilidade quando ela é usada em contextos nos quais o profissional não tem a experiência necessária para validar os resultados gerados pelo sistema, quando não há uma política clara de revisão dos conteúdos e quando não existe uma cultura de revisão e melhoria das informações entregues pelo software”, afirma Fabiano.

Fonte: IT Comunicação Integrada