Criminosos podem simular sócios, diretores e fornecedores para solicitar pagamentos ou informações; proteção depende menos de reconhecer a falsificação e mais de criar processos seguros de confirmação.
Uma mensagem de áudio com a voz do sócio, uma ligação do suposto diretor ou até uma videoconferência aparentemente legítima já não são suficientes para confirmar a identidade de quem solicita um pagamento.
Com ferramentas de inteligência artificial capazes de reproduzir vozes, rostos, expressões e movimentos, empresas precisam rever procedimentos baseados apenas no reconhecimento visual ou auditivo de uma pessoa.
Essa manipulação é conhecida como deepfake: conteúdo sintético ou alterado com inteligência artificial para fazer parecer que alguém disse ou fez algo que, na realidade, não aconteceu.
O Radar Tecnológico sobre Deepfakes, publicado pela Agência Nacional de Proteção de Dados, a ANPD, identifica riscos relacionados à clonagem de voz, às falsas validações de identidade, às chamadas de vídeo sintéticas e às fraudes financeiras corporativas. O estudo menciona situações em que criminosos simulam executivos para solicitar transferências bancárias a trabalhadores ou parceiros comerciais.
O problema, portanto, não deve ser tratado apenas como uma ameaça à imagem ou à reputação. Ele já faz parte dos riscos financeiros, operacionais e de segurança da informação enfrentados pelas organizações.
Como o deepfake pode ser usado contra uma empresa
Os golpes normalmente combinam tecnologia com engenharia social – técnica de manipulação utilizada para induzir uma pessoa a executar determinada ação.
O fraudador não precisa necessariamente invadir o sistema financeiro da empresa. Em muitos casos, ele tenta convencer um trabalhador autorizado a realizar o pagamento.
A falsificação pode utilizar informações disponíveis publicamente, como vídeos institucionais, entrevistas, apresentações, redes sociais, nomes de trabalhadores e dados sobre a estrutura da empresa.
O conteúdo manipulado não precisa ser perfeito. Basta que pareça convincente no contexto de urgência criado pelo criminoso.
A clonagem de voz é um risco especialmente relevante
A clonagem de voz utiliza inteligência artificial para reproduzir características como tom, ritmo, vocabulário e estilo de fala de uma pessoa.
O material produzido pode ser usado para criar frases que nunca foram pronunciadas pelo titular da voz. Segundo a ANPD, esse tipo de deepfake pode combinar a reprodução do tom com a síntese de texto, aumentando a credibilidade da simulação.
Isso muda uma prática ainda comum nas empresas: considerar uma mensagem de áudio como confirmação suficiente porque a voz parece ser de uma pessoa conhecida.
Áudios recebidos por aplicativos de mensagens, chamadas telefônicas e reuniões virtuais devem ser tratados como meios de comunicação, não como mecanismos definitivos de autenticação.
O mesmo cuidado vale para vídeos. A presença de rosto, voz e movimentos aparentemente naturais não elimina a necessidade de validação adicional quando a conversa envolve dinheiro, documentos confidenciais, credenciais ou alterações cadastrais.
O maior erro é depender da capacidade de reconhecer a falsificação
Alguns deepfakes ainda apresentam falhas perceptíveis, como movimentos pouco naturais, alteração da sincronia entre voz e imagem ou inconsistências na iluminação.
No entanto, orientar a equipe a procurar apenas esses sinais não é suficiente.
A tecnologia de geração evolui continuamente, assim como os mecanismos de detecção. A própria ANPD observa que ainda não existe um sistema infalível para identificar conteúdos manipulados e recomenda a combinação de ferramentas automatizadas com avaliação humana.
Na prática, a empresa não deve estruturar sua segurança com base na expectativa de que algum trabalhador perceberá que a voz ou o vídeo são falsos.
O processo precisa continuar seguro mesmo quando o deepfake parecer autêntico.
Voz, rosto e número de telefone não bastam para confirmar identidade
A voz pode ser clonada. O rosto pode ser manipulado. A conta de e-mail pode ser comprometida. O número de telefone exibido na tela também não garante que a comunicação tenha partido da pessoa esperada.
Por isso, toda operação sensível deve passar por mecanismos independentes de validação.
“A principal proteção não está em tentar descobrir se todo áudio ou vídeo é falso. Ela está em impedir que uma única mensagem, ligação ou videoconferência seja suficiente para autorizar um pagamento ou liberar uma informação sensível.”
Essas regras precisam valer também para sócios e diretores. Um procedimento pode perder sua eficácia quando a própria liderança costuma pedir exceções.
Como criar um processo seguro de confirmação
Use um canal independente
A confirmação deve ocorrer por um canal diferente daquele utilizado para fazer a solicitação.
Quando o pedido chegar por mensagem, a empresa pode confirmar por ligação para um número previamente cadastrado. Se chegar por ligação, pode exigir uma aprovação registrada no sistema corporativo.
Não se deve usar como referência o telefone, o e-mail ou o link informado na própria comunicação suspeita.
Exija dupla aprovação para operações críticas
Pagamentos acima de determinados valores, transferências fora do padrão e mudanças de dados bancários podem depender da conferência de duas pessoas.
A segregação de funções reduz a possibilidade de uma única abordagem resultar em prejuízo.
O responsável por cadastrar ou alterar os dados de pagamento, por exemplo, não deveria ser a única pessoa a aprovar a transferência.
Crie limites por tipo de operação
O nível de controle deve ser proporcional ao risco.
Uma despesa recorrente, prevista em contrato e destinada a uma conta já validada apresenta risco diferente de uma transferência urgente para um novo favorecido.
Formalize as exceções
Solicitações urgentes não devem eliminar os controles. Elas precisam seguir um procedimento específico.
A empresa pode determinar que toda exceção seja registrada, justificada e posteriormente revisada.
Quando a urgência se torna motivo para ignorar o processo, ela passa a ser uma vulnerabilidade conhecida por quem pretende aplicar o golpe.
Alteração bancária de fornecedor exige cuidado reforçado
A troca dos dados bancários de fornecedores é um dos pontos mais sensíveis do processo de pagamentos.
Um e-mail aparentemente legítimo pode informar que a empresa fornecedora mudou de banco ou passou a utilizar uma nova conta. Caso a alteração seja aceita sem validação independente, pagamentos verdadeiros podem ser enviados ao fraudador.
Antes de modificar o cadastro, a empresa deve:
- entrar em contato com uma pessoa conhecida do fornecedor;
- utilizar telefone ou e-mail já registrado;
- confirmar a alteração por canal independente;
- verificar os dados cadastrais do beneficiário;
- registrar quem solicitou e quem aprovou a mudança;
- impedir que uma única pessoa altere o cadastro e libere o pagamento;
- redobrar a conferência na primeira transferência para a nova conta.
O retorno à própria mensagem recebida não representa confirmação independente.
Urgência, autoridade e sigilo são sinais de alerta
Mesmo com tecnologia sofisticada, os golpes continuam explorando comportamentos humanos.
A urgência reduz o tempo de análise. A autoridade aparente dificulta o questionamento. O sigilo impede que outra pessoa participe da conferência.
Por isso, a política interna deve assegurar que nenhum trabalhador será punido por interromper uma operação para cumprir o procedimento de validação.
Questionar uma solicitação atípica não é desrespeitar a hierarquia. É proteger a empresa.
Quais áreas precisam participar
A prevenção de fraudes com deepfakes não é responsabilidade exclusiva da tecnologia da informação.
Financeiro
Deve mapear pagamentos, limites, aprovações e operações fora do padrão.
Compras e contas a pagar
Precisam validar fornecedores, alterações bancárias e documentos de suporte.
Tecnologia da informação
Deve controlar acessos, autenticações, registros, dispositivos e resposta a incidentes.
Departamento pessoal
Precisa proteger dados de trabalhadores e ficar atento a pedidos falsos de documentos, alterações cadastrais ou movimentações relacionadas à folha.
Contabilidade
Pode identificar lançamentos incompatíveis com a operação, documentos insuficientes e movimentações que destoem do histórico.
Direção
Deve apoiar os controles e evitar criar exceções informais que enfraqueçam o processo.
O combate à fraude depende da integração dessas áreas. Um sistema protegido não resolve sozinho o problema quando o procedimento de autorização é frágil.
A conciliação ajuda, mas não substitui a prevenção
A conciliação bancária e contábil permite comparar as movimentações financeiras com documentos, registros e fatos econômicos.
Entretanto, a conciliação normalmente identifica o problema depois da saída do dinheiro.
Ela é uma camada importante de controle, mas não substitui a validação anterior ao pagamento.
Quanto menor o intervalo entre a movimentação e a conciliação, maior a possibilidade de reação. Empresas que deixam essa análise apenas para o fim do mês podem descobrir uma irregularidade tarde demais.
Deepfakes também envolvem proteção de dados
A produção e a circulação de deepfakes podem envolver tratamento de dados pessoais, especialmente quando utilizam informações que permitem identificar uma pessoa.
A LGPD define como dado pessoal qualquer informação relacionada a pessoa natural identificada ou identificável. A lei também classifica como sensível o dado biométrico quando vinculado a uma pessoa natural. (Presidência da República)
Isso não significa que toda fotografia ou gravação de voz seja automaticamente um dado biométrico sensível. Essa classificação depende do contexto e da forma de tratamento, especialmente quando a informação é utilizada para identificação ou autenticação biométrica.
A ANPD aponta que a manipulação de rostos e vozes pode envolver dados pessoais sensíveis e que os riscos aparecem em diferentes etapas: treinamento dos modelos, geração ou manipulação do conteúdo e sua disseminação.
O consentimento não é a única hipótese legal prevista na LGPD. A base adequada depende da finalidade e das características de cada operação.
O que verificar antes de contratar uma ferramenta de IA
Ferramentas capazes de gerar, editar, traduzir ou reproduzir voz e imagem podem ter aplicações legítimas em publicidade, treinamento, acessibilidade e produção de conteúdo.
Também deve haver uma política interna sobre quais conteúdos podem ser enviados para a plataforma.
Não devem ser inseridos em ferramentas não autorizadas:
Como proteger a imagem e a voz dos dirigentes
A presença digital de sócios e executivos pode ser importante para a comunicação da empresa, mas aumenta a quantidade de materiais públicos que podem ser utilizados em falsificações.
A solução não é necessariamente retirar essas pessoas das redes sociais. O mais importante é reduzir a exposição desnecessária e preparar a organização para possíveis abusos.
A conscientização sobre deepfakes pode reduzir a vulnerabilidade a golpes e estimular a adoção de métodos complementares de autenticação, conforme destaca a ANPD.
O que fazer diante de uma solicitação suspeita
Ao receber uma ligação, áudio, vídeo ou mensagem fora do padrão, a empresa deve:
- interromper temporariamente a operação;
- não responder com dados ou credenciais;
- confirmar a solicitação por canal independente;
- preservar mensagens, arquivos e registros;
- comunicar o responsável financeiro e a área de tecnologia;
- verificar se contas ou acessos foram comprometidos;
- revisar operações recentes relacionadas;
- alertar outras pessoas que possam receber a mesma abordagem;
- avaliar medidas bancárias, jurídicas e de proteção de dados;
- registrar o incidente e revisar o procedimento que foi explorado.
Quando já houver transferência, o contato com a instituição financeira deve ser imediato.
Se o episódio envolver dados pessoais, a empresa também deverá avaliar a existência de incidente de segurança, seus riscos aos titulares e as obrigações aplicáveis ao caso concreto.
Perguntas frequentes
O que é deepfake?
Deepfake é um áudio, imagem ou vídeo produzido ou manipulado com inteligência artificial para simular uma pessoa, sua aparência, sua voz ou suas ações. A tecnologia pode ter usos legítimos, mas também pode ser empregada em fraudes, falsificação de identidade, desinformação e ataques de engenharia social.
É possível clonar a voz de um sócio ou diretor?
Sim. Sistemas de inteligência artificial podem reproduzir características como tom, ritmo e estilo de fala. Por isso, um áudio com voz aparentemente conhecida não deve ser considerado confirmação suficiente para pagamentos, compartilhamento de dados ou liberação de acessos.
Uma videochamada comprova a identidade de quem participa?
Não necessariamente. Voz, rosto e movimentos podem ser manipulados. Quando a conversa envolver uma operação sensível, a identidade deve ser confirmada por outro canal ou por um procedimento corporativo previamente definido.
Como confirmar uma solicitação de pagamento?
A empresa deve utilizar um canal independente e previamente cadastrado. Também pode exigir dupla aprovação, conferência documental, validação do beneficiário e registro no sistema. O telefone ou e-mail informado na própria mensagem suspeita não deve ser usado como única referência.
Ferramentas conseguem detectar todos os deepfakes?
Não. Sistemas de detecção podem auxiliar, mas ainda apresentam limitações. A ANPD afirma que não existe método infalível e destaca a importância de combinar tecnologia, avaliação humana, conscientização e autenticação complementar.
Foto e voz são dados pessoais sensíveis?
Foto e voz podem ser dados pessoais quando permitem identificar alguém. Serão dados biométricos sensíveis quando tratados tecnicamente com finalidade de identificação ou autenticação vinculada a uma pessoa natural. A classificação depende da finalidade e do contexto do tratamento.
Quem deve aprovar uma alteração bancária de fornecedor?
A empresa deve definir responsáveis e aplicar segregação de funções. O ideal é que a pessoa que altera o cadastro não seja a única responsável pela aprovação do pagamento. A mudança também deve ser confirmada com contato conhecido do fornecedor, por canal independente.
Fontes consultadas
Agência Nacional de Proteção de Dados – ANPD Radar Tecnológico sobre Deepfakes. Estudo sobre conceitos, funcionamento, usos, riscos, proteção de dados, fraudes financeiras, engenharia social, detecção e medidas de enfrentamento.
Presidência da RepúblicaLei nº 13.709, de 14 de agosto de 2018 – Lei Geral de Proteção de Dados Pessoais.
Por Cleiton Celini e Gledson Alves, sócios e contadores da AUDICONT Contabilidade