Nova lei contra deepfake quer evitar abusos, mas especialistas apontam grandes falhas.

A tela dá uma piscada rápida - e, de repente, o rosto dela aparece.

Ela sorri para a câmera e fala frases que nunca pronunciou. A voz soa assustadoramente verdadeira, e o cenário parece conhecido: sala de estar, estante de livros, uma planta com um “perfeito demais” difícil de ignorar. A tensão só explode quando o vídeo cai no grupo da família no WhatsApp e alguém pergunta: “É você mesmo?”. Não é. É um deepfake. De novo. Esse é o tipo de choque que muita gente já reconhece: um link curto, um vídeo de 20 segundos, e a confiança em tudo que é digital começa a apodrecer por dentro. Enquanto autoridades prometem “colocar ordem” com novas leis de IA, basta folhear os textos e sentir que falta algo essencial - e não parece ser apenas um detalhe no rodapé.

Novas leis de IA, velhos reflexos - e deepfakes que aprendem mais rápido do que o Estado

Quem circula por Bruxelas e acompanha as conversas políticas hoje ouve um termo se repetir como um alarme: deepfakes. Ele aparece em reuniões formais, em conversas de corredor e até no café. A União Europeia vende o seu Ato de IA (Lei de IA da UE) como referência global, e governos nacionais gostam da narrativa do “progresso com regras”. No papel, os pacotes soam robustos: obrigação de rotular conteúdo sintético, exigências de transparência, listas de sanções. Só que a realidade não acontece em plenário - acontece em data centers. E quem quer explorar brechas costuma ler normas como manual de como driblar a fiscalização.

Um caso que circulou na Alemanha mostra como isso sai do controle. No meio do ano, um vídeo no TikTok parecia trazer um apresentador de TV conhecido anunciando, em um “clipe exclusivo”, um investimento suspeito em criptomoedas. Sincronia labial impecável, expressão facial convincente, voz quase idêntica à original. Milhares compartilharam; parte do público transferiu economias para golpistas. Dias depois, veio a confirmação: tudo gerado por IA, um deepfake montado. A investigação esbarrou em problemas antigos com uma camada nova: servidor fora do país, operadores com identidades falsas, plataformas que apontam para “termos de uso” e processos de denúncia. Sim, existem crimes de estelionato, direitos de personalidade e regras civis. Mesmo assim, a recomendação prática que sobra para muita gente continua deprimente: “Denuncie, bloqueie, não faça transferência.”

As novas leis tentam reagir a essa sensação de impotência. Elas exigem que conteúdos gerados por IA sejam identificáveis, obrigam provedores a fazer avaliações de risco e prometem um tratamento mais duro para “aplicações de alto risco”. A lógica é boa - mas a execução nem sempre acompanha. Em vários desenhos regulatórios, deepfakes não entram de forma consistente na faixa mais alta de risco, a menos que estejam ligados, por exemplo, a manipulação eleitoral direta ou a infraestrutura crítica. E os outros estragos? Pornografia de vingança com rosto sintetizado, vídeo de “entrevista” falsa em seleção de emprego, áudio adulterado em disputa de guarda, chantagem com voz clonada. Regular deepfakes olhando só para urnas e debates públicos é enxergar pouco o que acontece nas conversas do dia a dia. E, convenhamos: ninguém abre um regulamento para decidir se compartilha um vídeo viral.

Deepfakes no bolso: o que protege de verdade, além da lei de IA

Quando a lei anda devagar, a defesa imediata precisa acontecer na rotina. Um passo simples - e ainda assim pouco habitual - é adotar uma “segunda opinião digital”. Antes de acreditar em um vídeo chocante, pare por alguns segundos, confira a origem, procure o mesmo conteúdo em veículos confiáveis, busque contexto. Muitas redações já mantêm canais de checagem, e alguns aplicativos de mensagem começam a testar botões e alertas de verificação.

Ao mesmo tempo, surgem ferramentas para detectar deepfakes por sinais técnicos: artefatos de imagem, reflexos de luz incoerentes, microfalhas no áudio, padrões estatísticos de compressão. Nenhuma delas é infalível. Ainda assim, um aviso do tipo “possível conteúdo gerado por IA” já é suficiente para diminuir o poder de persuasão do golpe - e ganhar tempo, que é o que o criminoso tenta roubar.

O maior risco, porém, não é tecnológico - é psicológico. A maioria das pessoas confia demais no próprio olhar e acha que “vai perceber na hora”. Um canto da boca estranho, uma sombra esquisita, um detalhe fora do lugar. Só que, nos modelos mais recentes, esse “teste do instinto” está falhando cada vez mais. E então vem a vergonha: “Como eu pude cair nessa?”. A vergonha é parte do veneno, porque silencia. Quando a vítima se cala, o abusador ganha invisibilidade. Quem enfrenta fraudes e extorsões com deepfakes precisa de menos autoacusação e de mais serenidade coletiva diante do erro. Nesse contexto, errar não é falta de inteligência - é efeito colateral de uma tecnologia feita para parecer real.

Um especialista em crimes digitais resumiu isso de forma crua em conversa comigo:

“Muita lei ainda é escrita como se o criminoso estivesse preso ao passado. Só que ele já opera com placas de vídeo potentes e automação em escala.”

Na prática, isso se traduz em hábitos objetivos:

• Em vídeos que mexem com medo, raiva ou ganância, procure sempre uma segunda fonte antes de acreditar.
• Leve a sério deepfakes de voz: se a ligação parecer estranha, desligue e retorne para um número conhecido e verificado.
• Não encaminhe conteúdo íntimo “no impulso” - até supostos “vazamentos” podem ser deepfakes e também podem configurar crime.
• Documente ocorrências (capturas de tela, links, datas) e denuncie rapidamente, mesmo que pareça burocrático.
• Revise configurações de plataforma: reduza encaminhamento automático, desative reprodução automática quando possível e limite funções de compartilhamento.

Lacunas de responsabilidade em deepfakes: quem responde quando ninguém quer ser “o responsável”?

A área mais explosiva da regulação de IA gira em torno de uma pergunta simples e dolorosa: quando um deepfake arruína uma vida, quem paga a conta? Fabricantes de modelos apontam para termos de uso e filtros de segurança. Plataformas alegam que não conseguem analisar, uma a uma, quantidades gigantescas de conteúdo. Os autores se escondem atrás de VPN, contas descartáveis e cadeias de intermediação. E o Estado negocia diretrizes por anos, enquanto novos deepfakes aparecem diariamente. Esse triângulo de responsabilização vira uma zona cinzenta em que a vítima se sente coadjuvante no próprio desastre.

As regras mais recentes apostam muito em obrigações de transparência para empresas: revelar práticas de treinamento, informar uso de IA, reportar “incidentes graves”. Isso pode ajudar a criar rastro e pressão institucional - mas, para quem teve o rosto inserido em um vídeo pornográfico sem consentimento, a pergunta urgente não é se houve relatório para uma autoridade. O que importa é: remoção rápida, apoio para preservar provas, orientação psicológica, caminho claro para reparação. Já se fala com seriedade, em eventos e fóruns, sobre fundos de apoio a vítimas de abuso com IA. Mesmo assim, ainda faltam canais simples, acessíveis, que atendam pessoas comuns sem exigir, como primeiro passo, contratar advogado especializado.

Outra lacuna é o ritmo. Modelos ficam melhores a cada mês; textos legais, por natureza, mudam em câmera lenta. Quem escreve hoje um artigo sobre “mídia sintética” está, muitas vezes, legislando para a tecnologia de ontem. E mesmo que surja uma obrigação de rotulagem, nada garante que criminosos vão obedecer. Em certos pontos, o debate lembra o começo da internet, quando se imaginava combater spam apenas com exigências formais. A verdade é dura: regulação sozinha não vai eliminar o abuso. Mas pode mudar o terreno, deixar deveres mais explícitos e apertar o espaço de negócios predatórios.

Padrões de origem e prova: o caminho técnico que pode reforçar as leis de IA

Além de proibir e punir, existe um flanco promissor: tornar a autenticidade mais verificável. Iniciativas de “proveniência de conteúdo” e assinatura criptográfica de arquivos - com metadados sobre como e quando algo foi capturado e editado - podem facilitar auditoria e reduzir disputas do tipo “é real ou não é?”. Quando isso funciona, a checagem deixa de depender só do olhar humano e passa a contar com evidência técnica rastreável.

Esse tipo de infraestrutura, porém, precisa de adoção ampla: fabricantes de celular, aplicativos, plataformas e veículos de comunicação. Sem coordenação e incentivos, vira mais um recurso que existe “no mundo ideal”, mas não chega ao vídeo que aparece no grupo da família. Aqui, leis de IA podem servir como empurrão - exigindo padrões mínimos, interoperabilidade e transparência - para que a autenticidade seja um recurso de massa, e não um luxo.

No Brasil: deepfakes, lei de IA e o que muda quando o alvo é a vida comum

No Brasil, o problema ganha contornos próprios: a velocidade de disseminação em grupos fechados, a mistura de política com golpes financeiros e o uso de áudio em fraudes de “emergência” (parente pedindo dinheiro, sequestro falso, “advogado” cobrando transferência). Além de qualquer futura lei de IA, existe um ecossistema jurídico que pode ser acionado em muitos casos - como a LGPD (quando há uso indevido de dados pessoais), regras do Código Penal e princípios do Marco Civil da Internet sobre responsabilização e registros. O desafio é transformar possibilidades legais em resposta rápida, especialmente quando a remoção precisa acontecer em horas, não em meses.

Isso reforça um ponto central: deepfakes não são apenas um tema de Estado e eleições; são um tema de proteção cotidiana. A conversa que interessa ao público é a que responde “o que eu faço agora?”, sem depender de um processo longo para reduzir o dano imediato.

O desconforto do “meio do caminho”: quando áudio e vídeo deixam de ser prova automática

Estamos numa fase de transição em que imagem e som estão perdendo status de evidência por padrão. Antes, uma gravação tinha peso: era moeda forte em discussões, denúncias e brigas familiares. Hoje, até um depoimento emocionado pode acionar a dúvida: “será que foi gerado?”. Esse ceticismo difuso cansa. Ao mesmo tempo, ele pode ser útil, se virar competência cotidiana: checar fonte, pedir contexto, desconfiar de conteúdo que exige reação impulsiva. Deepfakes nos obrigam a praticar uma nova forma de prudência - sem escorregar para paranoia total.

Nesse cenário, as leis de IA tendem a funcionar mais como guard-rails do que como muralhas. Vão gerar disputa, criar jurisprudência, revelar brechas e, aos poucos, fechar parte delas. Só que a decisão mais importante não acontece apenas em parlamentos: acontece na mesa da cozinha, no chat do trabalho, no grupo da família. É ali que a pergunta aparece: eu repasso esse vídeo? Eu confio nessa voz? Eu falo sobre a suspeita de manipulação? No fim, discutir regulação de IA é discutir algo muito humano: a necessidade de acreditar uns nos outros - e o medo de ser enganado de novo.

Ponto central	Detalhe	Benefício para o leitor
Novas leis de IA apostam em transparência e rotulagem	Ato de IA (Lei de IA da UE) cria deveres para fornecedores, mas nem sempre trata deepfakes do cotidiano como risco máximo	Entender por que a regulação existe, mas nem sempre protege totalmente a vida diária
Abuso com deepfakes atinge principalmente pessoas comuns	Golpes financeiros, destruição de reputação e violência sexual com mídia sintética	Perceber que o risco é concreto - longe de roteiros de cinema e apenas campanhas eleitorais
Estratégias práticas de autoproteção funcionam já	“Segunda opinião digital”, documentação, cautela com conteúdo emocional e checagem de ligações	Aplicar ações simples que reduzem dano imediatamente

FAQ

• Pergunta 1: Como uma pessoa comum consegue identificar um deepfake?
• Pergunta 2: Tenho proteção jurídica se colocarem meu rosto em um vídeo falso?
• Pergunta 3: Qual é o papel da União Europeia com o Ato de IA (Lei de IA da UE) no tema deepfakes?
• Pergunta 4: O que fazer se um deepfake sobre mim estiver circulando na internet?
• Pergunta 5: As leis de IA conseguem acompanhar a velocidade dessa evolução?