Deepfakes e imagens geradas por IA

Jon AI Gerador de Documentos
por Stélio Inácio, fundador da Jon AI e especialista em IA

Deepfakes e imagens geradas por IA — Como identificá-las

Agora vivemos em um mundo onde ver não é mais acreditar. A inteligência artificial, especificamente uma técnica chamada aprendizado profundo, pode criar imagens e vídeos totalmente novos ou alterar os existentes com um realismo surpreendente. Essas criações, conhecidas como “deepfakes” ou simplesmente conteúdo gerado por IA, podem mostrar pessoas dizendo ou fazendo coisas que nunca fizeram. Embora essa tecnologia tenha usos criativos, ela também é uma ferramenta poderosa para desinformação e fraude.

A boa notícia é que essas criações, embora impressionantes, raramente são perfeitas. Os modelos de IA são essencialmente adivinhadores brilhantes, e suas suposições às vezes podem ser um pouco erradas. Aprender a identificar essas pequenas imperfeições é uma habilidade crucial para navegar em nosso mundo digital moderno. É como ser um detetive, procurando pistas que não combinam muito bem.

Definição: Deepfake

O termo “deepfake” é uma combinação de “aprendizado profundo” e “falso”. Refere-se à mídia sintética em que uma pessoa em uma imagem ou vídeo existente é substituída pela imagem de outra pessoa. De forma mais ampla, costuma ser usado para descrever qualquer vídeo ou áudio gerado por IA que crie uma representação convincente, mas falsa, de uma pessoa ou evento.

Lista de verificação: Como identificar uma imagem Deepfake ou AI

Nenhuma pista é definitiva, mas se você notar várias delas, deve ser cético. Observe atentamente os seguintes detalhes:

  • Olhos não naturais e piscar: os olhos podem parecer vidrados, olhar fixamente sem piscar ou ter reflexos estranhos que não combinam com a iluminação. Às vezes, a IA se esquece de fazer a pessoa piscar em um ritmo normal.
  • Expressões faciais estranhas: a boca da pessoa pode não sincronizar perfeitamente com suas palavras, ou suas emoções faciais podem parecer monótonas ou incompatíveis com seu tom de voz.
  • Mãos e dedos estranhos: os modelos de IA notoriamente têm dificuldades com as mãos. Procure um número incorreto de dedos, contorções estranhas ou dedos que se misturam. Esse é um dos brindes mais comuns em imagens geradas por IA.
  • Falhas nas bordas: preste atenção em onde o rosto encontra o cabelo, o pescoço ou o fundo. Você pode ver pixels embaçados, distorcidos ou cintilantes enquanto a IA se esforça para misturar o rosto falso com o corpo real.
  • Iluminação plana e não natural: a iluminação no rosto da pessoa pode não corresponder à iluminação do ambiente em que ela está. Procure sombras ou realces inconsistentes.
  • Detalhes de fundo sem sentido: em imagens geradas por IA, observe o plano de fundo. Talvez você veja textos sem sentido, objetos estranhamente distorcidos ou características arquitetônicas que não fazem sentido.
  • A aparência “perfeita demais”: às vezes, um rosto gerado por IA pode parecer anormalmente suave e simétrico, sem as sutis imperfeições de um rosto humano real.

Sempre considere a fonte

Além das pistas visuais, a ferramenta mais poderosa é o pensamento crítico. Pergunte a si mesmo: De onde veio essa imagem ou vídeo? É de uma fonte de notícias confiável ou de uma conta de mídia social aleatória e anônima? O conteúdo parece ter sido criado para me irritar ou ter medo? Sempre seja cético em relação ao conteúdo sensacional de fontes não verificadas, pois essa é a principal forma de divulgação dos deepfakes.

Verificação rápida

Você vê a imagem de uma celebridade online. Qual é uma das pistas mais comuns e confiáveis de que pode ser uma farsa gerada por IA?

Recapitulação: Detectando Deepfakes

O que abordamos:
  • Os deepfakes são mídias geradas por IA que podem criar vídeos ou imagens realistas, mas falsos, de pessoas.
  • Muitas vezes, você pode identificá-las procurando por falhas específicas, pois os modelos de IA ainda não são perfeitos.
  • Os principais brindes incluem olhos não naturais, mãos estranhas e detalhes estranhos no fundo.
  • A ferramenta mais importante é o pensamento crítico: sempre considere a fonte e seja cético em relação ao conteúdo sensacionalista.

Por que isso é importante:
  • Em uma era de desinformação desenfreada, ser capaz de avaliar criticamente a mídia que você consome é uma habilidade essencial para a alfabetização digital e para se proteger de ser manipulado.

A seguir:
  • Continuaremos nossa exploração da segurança da IA analisando a desinformação baseada na IA e como você pode se proteger.