Deepfakes e a psicologia da crença no tribunal

Durante a maior parte da história jurídica, o vídeo foi considerado quase infalível. Os júris confiaram nisso. Os juízes confiaram nisso. A evidência de vídeo pode ser um “fumar arma”, prova incontestável, dispositivo. Uma gravação, ao contrário de uma testemunha humana, não poderia ser lembrada incorretamente ou ser treinada. Essa suposição está agora desmoronando.

Cerca de seis meses atrás, um caso na Califórnia causou ondas de choque no mundo jurídico depois que os demandantes foram acusados ​​de enviar um vídeo deepfake gerado por IA como testemunho. O juiz percebeu – mas por pouco. Os especialistas observaram que o juiz detectou falhas como piscadas repetidas de olhos e vídeos em loop, e alertou que pode ter sido sorte, porque a tecnologia já está além dessas falhas reveladoras.

O sistema jurídico tem se esforçado para responder aos avanços na tecnologia deepfake. Em agosto de 2025, o Comitê Consultivo sobre Regras de Evidências publicou a proposta da Regra Federal 707 para comentário público, que estenderia o padrão de confiabilidade da Regra 702 para evidências geradas por máquina. A janela de comentários foi fechada em fevereiro de 2026. Os críticos alertam que a regra se aplica apenas a evidências que o proponente reconhece terem sido criadas pela IA, e não a evidências cujas autenticidade é contestado – o que significa que faz pouco para ajudar os tribunais a detectar deepfakes não divulgados.

O que a lei ainda não abordou totalmente é a dimensão psicológica deste problema. Porque a ameaça não é apenas a existência de evidências falsas. É que nossas mentes são extraordinariamente ruins em detectá-lo.

Por que estamos programados para acreditar no que vemos

A famosa frase “Em quem você vai acreditar, em mim ou nos seus próprios olhos?“é uma frase de comédia clássica popularizada por Chico Marx no filme dos Irmãos Marx de 1933, Duck Soup. O humor reside na suposição de que os humanos deveriam sempre acredite em seus próprios olhos. Na verdade, os humanos são criaturas visuais. A ciência cognitiva há muito estabeleceu que processamos informações visuais mais rapidamente e com maior peso emocional do que textos ou argumentos abstratos. Quando vemos alguém dizer algo em uma tela, experimentamos uma poderosa sensação de presença e autenticidade – o que os pesquisadores chamam de “veracidade”. heurística”, a suposição intuitiva de que percepção é igual a verdade.

É precisamente por isso que as provas em vídeo sempre foram tão persuasivas nos tribunais. Os jurados são muitas vezes influenciados pelo confiança e detalhe com que uma testemunha relata um evento, equiparando uma narrativa vívida e pessoal com confiabilidade e verdade. Agora imagine a mesma atração psicológica aplicada a um vídeo fabricado – um vídeo que uma pessoa nunca fez, mostrando-a confessando, ameaçando ou cometendo algo que nunca fez.

Os humanos provaram ser maus para avaliar se um artefacto digital é real ou falso, e as tecnologias concebidas para detectar conteúdo gerado por IA provaram ser pouco fiáveis ​​e tendenciosas. Conforme discutido extensamente em um recente estudo da Universidade de Chicago Fórum Jurídico artigo, hoje não existe uma maneira infalível de classificar texto, áudio, vídeo ou imagens como autênticos ou gerados por IA.

A defesa Deepfake – e seu espelho

Os advogados de defesa começaram a invocar o que está sendo chamado de “defesa deepfake”, um termo que descreve como a facilidade de produzir deepfakes permite que maus atores considerem gravações verdadeiras como invenções. Isto cria um duplo vínculo psicológico profundamente preocupante no tribunal: os jurados podem tornar-se céticos em relação às provas genuínas, ao mesmo tempo que permanecem suscetíveis a falsificações sofisticadas.

Se os jurados começarem a presumir que “qualquer coisa pode ser IA”, as gravações legítimas poderão perder seu valor persuasivo. Os juristas notaram que o cepticismo generalizado em relação aos meios digitais pode minar a confiança em provas que de outra forma seriam admissíveis. A consequência psicológica é uma espécie de paralisia epistemológica – um tribunal onde ninguém sabe exatamente em que confiar.

As apostas são concretas. Como observou o Centro Nacional de Tribunais Estaduais em fevereiro de 2026, uma mulher passou dois dias na prisão depois que seu ex-namorado supostamente fabricou mensagens de texto geradas por IA que a levaram à prisão por violar uma ordem de proteção. Os promotores acabaram retirando as acusações, mas somente após oito meses de procedimentos legais.

O problema da percepção contaminada

Décadas de memória pesquisas oferecem um paralelo útil. O psicólogo John Wixted, da UC San Diego, cujo trabalho influenciou a forma como a polícia conduz as filas, argumentou que a memória de uma testemunha ocular não é diferente da memória de uma testemunha ocular. ADN ou impressões digitais de uma forma crucial: pode estar contaminado. A mesma lógica aplica-se agora às provas digitais. Tal como uma memória se torna menos fiável quanto mais é reexposta a sugestões e informações pós-evento, uma prova digital torna-se mais difícil de confiar à medida que se afasta da sua fonte original sem uma cadeia de custódia verificada.

A crescente sofisticação dos deepfakes representa desafios significativos para juízes e advogados na detecção e autenticação de provas, porque IA generativa cria conteúdo usando dois algoritmos – um que gera conteúdo e outro que avalia seu realismo – criando um ciclo de feedback constante que melhora continuamente a capacidade da IA ​​de produzir falsificações convincentes.

O resultado, cognitivamente falando, é uma corrida armamentista que a percepção humana não está preparada para vencer.

O que precisa mudar

Especialistas dizem que as contramedidas devem incluir empresas de vídeo certificadas, regras de cadeia de custódia e talvez maior dependência de depoimentos pessoais. A nível judicial, alguns juristas defendem um quadro abrangente para a avaliação e o desenvolvimento contínuo de ferramentas jurídicas baseadas na IA, enquanto outros especialistas aconselham os juízes a considerar a credibilidade das testemunhas e a ordenar comparências pessoais quando necessário.

Mas psicológico educação para os jurados pode ser igualmente urgente. A pesquisa mostrou que os jurados que não têm conhecimento preciso de como funcionam a memória e a percepção têm muito mais probabilidade de fazer julgamentos probatórios falhos. O mesmo se aplica à alfabetização em IA. Um jurado que entende, conceitualmente, que um vídeo pode ser fabricado pode abordar as evidências digitais com o mesmo ceticismo saudável que aplicaria a qualquer outro testemunho – avaliando-as, em vez de simplesmente acreditar nelas.

Passamos décadas construindo salvaguardas legais em torno da falibilidade da memória humana. Estamos agora no início de um projecto mais longo e mais difícil: construir salvaguardas em torno da falibilidade da própria percepção.