Deepfakes gerados por IA estão borrando a linha entre real e falso, criando uma crise de confiança assustadora em vídeos, áudios e imagens quase perfeitos.
Visite
Buscar
Deepfakes gerados por IA estão borrando a linha entre real e falso, criando uma crise de confiança assustadora em vídeos, áudios e imagens quase perfeitos.
Vivemos num tempo em que a linha entre o que é real e o que é fabricado tá bem dificil de distinguir pessoal. E a Inteligência Artificial Generativa, que trouxe tanta inovação e otimismo, agora está no centro de uma crise de confiança que é, francamente, assustadora. Estou falando das deepfakes, claro. Aqueles vídeos, áudios e imagens são tão perfeitamente forjados que conseguem enganar até os olhos mais atentos.
Essa não é mais uma discussão futurista, não. É o nosso hoje. E o problema vai muito além de brincadeiras na internet ou sátiras políticas. A capacidade que a IA deu para qualquer um de criar realidades alternativas… isso tá virando uma bomba-relógio para democracia, negócios e nossa sanidade social. É a desinformação em seu estágio mais tecnológico e mais perigoso. A tal da “Deepfake Economy” está aí, crescendo de forma exponencial, e a gente precisa encarar isso de frente.
Quando a gente fala em desinformação, a imagem que vinha à cabeça era aquele texto mal escrito, cheio de erros de português, espalhado por bots no WhatsApp. Era chato, destrutivo, mas era detectável… ao menos na maioria das vezes.
A chegada dos deepfakes mudou totalmente o jogo. Pensa só: a tecnologia de Deep Learning (aprendizado profundo), que usa Redes Neurais Convolucionais (CNNs) e Redes Adversárias Generativas (GANs) para criar conteúdo, atingiu um nível de realismo que eu, sinceramente, não esperava ver tão cedo. Não é só colocar o rosto de alguém em um vídeo, é replicar a voz, os “tiques”, a iluminação… tudo de um jeito que a gente não consegue mais ter certeza.
E os números? Bom, eles ilustram isso. Um relatório da ESET, divulgado no início de 2025, mostrou um aumento de 335% em deepfakes que utilizam marcas de empresas no segundo semestre de 2024. Imagina o tamanho do impacto e consequências ? As empresas estão sentindo na pele, e os líderes de segurança já não conseguem mais dormir tranquilos.
Essa ameaça não é só política, viu? Ela é business. A desinformação impulsionada por deepfakes virou uma ferramenta de ataque cibernético super sofisticada.
O Gartner, numa pesquisa com líderes de segurança cibernética, trouxe um dado que me fez pensar: 43% das organizações relataram pelo menos um incidente com chamada de áudio deepfake e 37% com chamada de vídeo deepfake. Sessenta e dois por cento (62%) das organizações sofreram algum ataque nos últimos 12 meses que explorou engenharia social ou processos automatizados, tudo usando deepfake. Pensa num CIO recebendo uma chamada do CEO, a voz idêntica, pedindo urgente o acesso em informações de receita, base de cliente? A linha de defesa humana, a nossa capacidade de distinguir, tá colapsando.
O risco não é só financeiro, é de reputação, é de continuidade do negócio. O Gartner até prevê que, até 2027, agentes de IA vão reduzir pela metade o tempo necessário para explorar a apropriação de contas, e isso inclui o uso de vozes deepfake para dar mais credibilidade aos golpes. É uma corrida armamentista digital onde o lado criminoso está usando a mesma tecnologia de ponta que a gente tenta usar para o bem.
Vimos já outros exemplos claros desse uso criminoso, como aquele caso recente envolvendo a Gisele Bündchen, onde golpistas usavam a imagem deepfake dela em propagandas falsas para aplicar golpes milionários. Isso mostra que ninguém está seguro… se até uma supermodelo tem sua imagem sequestrada, imagina o executivo comum ou o cidadão nas eleições.
Mas se a fraude corporativa é preocupante, o que os deepfakes fazem na esfera pública pode ser catastrófico. Eles são a arma perfeita para distorcer o discurso democrático e minar a confiança na integridade das eleições.
Imagine um vídeo, que parece real, de um candidato fazendo uma declaração absurda ou com um comportamento comprometedor, liberado poucas horas antes da votação. A disseminação é instantânea, a desinformação corre solta nas redes. E até que a Justiça Eleitoral, ou as agências de checagem, consigam provar que é falso… o estrago foi feito. A percepção do eleitor já foi alterada, a semente da dúvida já foi plantada.
A própria essência da democracia, que é o debate público informado, está sendo ameaçada. Se não podemos mais confiar em vídeos, em áudios, nem mesmo em fotos,. em que vamos confiar? A IA está quebrando fronteiras entre a realidade e a manipulação, e isso pavimenta o caminho para a polarização e a desconfiança generalizada.
É fácil cair no desespero olhando para esse cenário, mas a IA, que cria o problema, também é parte fundamental da solução. A gente não pode proibir a tecnologia, afinal a proibição, convenhamos, nunca impediu o mau uso.
A linha de frente na defesa passa, ironicamente, por usar a Inteligência Artificial para detectar as falsificações.
O avanço é implacável, e a acessibilidade das ferramentas de criação de deepfakes só tende a aumentar, tornando essa tecnologia ainda mais democrática (no sentido ruim da palavra). A combinação de softwares fáceis de usar, junto com a exposição excessiva de dados e imagens pessoais nas redes sociais, cria o ambiente ideal para manipulações. É o paradoxo da IA: a mesma força que pode otimizar processos e salvar vidas, pode destruir reputações e minar a base da sociedade.
O Governo tem um papel crucial aqui, claro. Projetos de regulamentação de IA estão surgindo em vários lugares, buscando coibir o mau uso. Mas a realidade é que a nossa legislação penal forjada em 1940, está correndo atrás de um carro a jato. Não temos um “crime de deepfake” no Brasil. O que fazemos é encaixar o uso malicioso em tipificações existentes, como injúria ou calúnia se houver dano à honra, ou falsidade ideológica se for para simular documentos e declarações. Isso tudo poderíamos dizer que é uma gambiarra legal. O grande desafio, no final, é que a lei reage à fraude que já aconteceu, mas a velocidade da inteligência artificial para disseminar e apagar a origem do conteúdo é muito, muito maior. A lei engatinha, a tecnologia voa.
Estamos vivendo um momento onde a evidência empírica, a prova em vídeo ou áudio, já não é mais suficiente. Isso é um terremoto para a Justiça, para o jornalismo e para as relações sociais. A sociedade precisa urgente de um pacto digital para restaurar a integridade dos fatos. Isso envolve colaboração das empresas de tecnologia, que precisam implementar ferramentas de watermarking e autenticação de conteúdo, do governo que precisa legislar e fiscalizar, e, principalmente, de nós, usuários, que precisamos ser guardiões críticos da informação.
É um novo mundo. Um mundo onde a gente não pode mais confiar nos próprios olhos. E a única forma de sobreviver a essa crise de confiança digital é usar a Inteligência Humana Crítica. Se não fizermos isso, o colapso da realidade que a gente tanto teme vai virar só o nosso cotidiano. E aí… bom, aí não vai ter inteligência artificial no mundo que consiga nos salvar.
Continue a sua leitura:
Líder de Tecnologia com mais de 20 anos de experiência, atua como um parceiro estratégico para as áreas de negócio. Sua missão é transformar a TI em um verdadeiro motor de crescimento, unindo inovação, automação e governança para impulsionar a expansão das empresas. Sua trajetória é marcada em gestão estratégica, transformação digital e operações de TI. Especialista em construir e liderar times de alto desempenho, com foco em governança, multicloud e transformação digital. Sua paixão é aplicar Inteligência Artificial e automação para resolver problemas de negócio, gerando eficiência e inovação contínua.
O futuro acontece aqui: esteja entre os primeiros a receber insights, tendências e oportunidades que moldam o mercado.
