Falsos médicos de IA: como montar uma fila de moderação

Na minha leitura, o ponto central não é apenas a existência de um avatar de médico criado com inteligência artificial. O risco aparece quando uma pessoa sintética recebe autoridade de especialista, uma alegação de saúde sem evidência ganha escala e a distribuição chega a um público vulnerável. O caso envolvendo falsos médicos de IA no YouTube mostra que moderação de conteúdo, procedência de mídia e responsabilidade algorítmica precisam ser tratadas como partes do mesmo problema.

O que a notificação da AGU revela sobre vídeos de falsos médicos com IA

Segundo a BBC News Brasil, a Advocacia-Geral da União notificou o YouTube para retirar do ar ou sinalizar vídeos que usam inteligência artificial para criar personagens médicos fictícios e promover tratamentos sem comprovação científica. A medida aconteceu dois meses depois de reportagens da BBC revelarem uma rede de canais com esse tipo de conteúdo, incluindo casos em que imagens de médicos reais foram clonadas.

O Ministério da Saúde analisou 97 perfis com publicações desse tipo entre 1º de janeiro e 10 de julho de 2026. As informações foram encaminhadas à Polícia Federal e ao Conselho Federal de Medicina. Na notificação enviada em 4 de setembro, o governo deu ao YouTube um prazo de 72 horas para tornar os conteúdos identificados indisponíveis ou adotar rótulos e avisos que deixem clara a natureza artificial dos personagens.

Esse prazo não deve ser interpretado como uma autorização para sair apagando tudo o que contenha a palavra “IA”. Um vídeo pode usar um avatar sintético para explicar corretamente uma doença, enquanto outro pode combinar uma identidade médica inventada com promessas de cura. Na minha experiência lidando com sistemas de IA, a diferença está na combinação entre identidade, afirmação, contexto e intenção aparente.

Identidade fictícia: a persona se apresenta como médica, doutor ou especialista sem credencial verificável.
Alegação de saúde: o conteúdo promete cura, reversão de sintomas ou resultado garantido.
Contexto sintético: o vídeo usa avatar, voz clonada, deepfake ou animação, mas não informa isso de forma clara.

Por que detectar um falso médico exige mais do que procurar “IA” no vídeo

Quando uso modelos de linguagem ou ferramentas de visão computacional para analisar esse tipo de material, eu começo separando conteúdo sintético de conteúdo falso. São conceitos diferentes. Um rosto gerado digitalmente pode ser usado em uma campanha educativa legítima. Já uma pessoa criada por IA que se passa por médica e recomenda um tratamento sem evidência apresenta um risco muito maior.

Trate o vídeo como uma evidência multimodal

Um sistema confiável não deve tomar decisão olhando apenas para o título ou para uma marca d’água. O vídeo reúne imagem, áudio, texto, metadados, histórico do canal e contexto de recomendação. Cada modalidade pode carregar um sinal diferente.

Visão: inconsistências no rosto, sincronização labial, movimentos artificiais, mudanças de iluminação e artefatos entre quadros.
Áudio: transcrição automática, detecção de voz clonada, ritmo estranho e divergência entre a voz e a pessoa exibida.
Texto: OCR de placas e legendas, análise de promessas absolutas, urgência artificial e ausência de fontes.
Metadados: data de publicação, canal, links externos, descrições repetidas, mudanças abruptas de identidade e padrões de publicação.
Procedência: presença de credenciais assinadas, como C2PA, além de informações sobre captura e edição.

O C2PA ajuda a responder “quem produziu e como este arquivo foi alterado?”. Ele não responde “este tratamento funciona?”. Uma cadeia de procedência válida pode aumentar a confiança, mas não transforma uma alegação médica em evidência clínica. Também não devemos tratar a ausência de C2PA como prova de falsidade, porque a adoção desse padrão ainda não é universal.

Hash criptográfico e hash perceptual não são a mesma coisa

Para comparar arquivos, um sistema pode calcular o hash SHA-256 do conteúdo original. Se qualquer byte mudar por causa de compressão, redimensionamento ou conversão, o hash será diferente. O hash perceptual tenta ficar mais próximo mesmo quando o vídeo passa por essas transformações, mas pode gerar colisões e precisa ser calibrado para o tipo de mídia analisado.

Na prática, eu combinaria os dois métodos: hash exato para preservar a integridade da evidência original e hash perceptual para encontrar cópias modificadas. Isso é diferente de usar uma marca d’água como única proteção. Marcas podem ser removidas ou deterioradas por transcodificação. Além disso, uma pessoa mal-intencionada pode capturar a tela e republicar o vídeo sem a marca original.

Na Prática: como eu montaria uma fila de moderação para vídeos médicos sintéticos

Eu não colocaria um classificador binário diretamente no caminho de remoção. A arquitetura mais segura transforma a decisão em um processo de triagem, com evidência preservada, pontuação de risco e revisão humana para os casos ambíguos. O fluxo poderia ser implementado assim:

Coletar e preservar: salvar URL, captura original, miniatura, descrição, legenda, data, canal, transcrição e hashes do arquivo.
Normalizar os dados: converter títulos e legendas para uma forma consistente, preservando o texto original para auditoria.
Executar detectores em paralelo: rodar análise facial, sincronização labial, ASR, OCR, busca de similaridade e verificação de procedência.
Correlacionar os sinais: não basta encontrar um rosto artificial; o sistema deve verificar se há promessa médica, identidade fictícia e linguagem de urgência.
Calibrar a confiança: separar “provável conteúdo sintético” de “provável golpe de saúde” e registrar quais sinais contribuíram para a pontuação.
Revisar e agir: enviar casos de alto risco para moderação humana, aplicar remoção, rótulo, redução de alcance ou bloqueio de monetização.
Manter apelação: permitir que o canal explique o contexto e anexe fontes. A decisão automática deve ser reversível.

Um protótipo de triagem pode começar pequeno. O código abaixo não substitui modelos de deepfake nem uma revisão médica; ele mostra como normalizar metadados, calcular uma identificação de evidência e gerar uma recomendação inicial. A intenção é separar sinais simples de decisão final.

import { createHash } from "node:crypto";

const suspiciousClaims = [
 "cura garantida",
 "sem comprovação científica",
 "reverte qualquer doença"
];

function normalize(value) {
 return String(value?? "").normalize("NFKC").toLocaleLowerCase("pt-BR").replace(/\s+/g, " ").trim();
}

function evidenceId(report) {
 const canonical = [
 normalize(report.title),
 normalize(report.channelUrl),...report.assetUrls.map(normalize).sort()
 ].join("\n");

 return createHash("sha256").update(canonical).digest("hex");
}

function triage(report) {
 if (!report?.title ||!report?.assetUrls?.length) {
 throw new Error("Informe título e ao menos um asset");
 }

 const text = normalize([
 report.title,
 report.description,...(report.captions?? [])
 ].join(" "));

 const claims = suspiciousClaims.filter(term =>
 text.includes(normalize(term))
 );

 const syntheticDisclosure =
 /avatar|personagem fictício|deepfake|sintético|inteligência artificial|\bia\b/i.test(text);

 const medicalAuthority =
 /médic[oa]|doutor[ao]?|dra\.?|professor[ao]?/i.test(text);

 const riskScore = Math.min(
 100,
 claims.length * 25 +
 (syntheticDisclosure? 10 : 0) +
 (medicalAuthority? 10 : 0)
 );

 const action = riskScore >= 70? "prioridade para remoção ou revisão humana"
 : riskScore >= 30? "rótulo de contexto e revisão"
 : "monitorar";

 return {
 evidenceId: evidenceId(report),
 riskScore,
 flags: { claims, syntheticDisclosure, medicalAuthority },
 action
 };
}

const report = {
 title: "Médico revela um tratamento impressionante",
 channelUrl: "https://youtube.com/@canal-exemplo",
 description: "Avatar apresenta cura garantida sem comprovação científica.",
 captions: ["O método reverte qualquer doença"],
 assetUrls: [
 "https://cdn.exemplo.com/video-original.mp4",
 "https://cdn.exemplo.com/thumb.jpg"
 ]
};

console.log(JSON.stringify(triage(report), null, 2));

Esse exemplo tem uma limitação importante: uma transcrição pode citar “cura garantida” em um vídeo de desmentido. Por isso, o sistema precisa analisar o sentido da frase, a identidade do narrador e a fonte citada. Se o texto for retirado de uma crítica ao golpe, o mesmo termo pode indicar alto risco para a afirmação criticada, não para quem está falando. A triagem serve para priorizar trabalho humano, não para declarar culpado o canal.

Remover, rotular ou limitar alcance?

No desenho de uma plataforma, cada ação tem um custo diferente. Remover é mais drástico e pode ser adequado quando há identidade médica fraudada, tratamento perigoso ou orientação capaz de causar dano. Um rótulo de conteúdo sintético pode ser suficiente quando a pessoa é fictícia, a informação está correta e o aviso aparece antes da reprodução. Reduzir recomendações é útil quando o conteúdo ainda precisa de verificação, mas não há prova suficiente para exclusão.

Remoção: melhor para golpe confirmado, falsificação de profissional e recomendação claramente perigosa.
Rótulo: indicado para avatar sintético transparente, conteúdo educativo ou debate legítimo sobre medicina.
Redução de alcance: adequada durante investigação, especialmente quando a plataforma ainda não consegue comprovar a fraude.
Bloqueio de monetização: reduz oincentivo financeiro de canais que usam autoridade artificial para vender cursos, suplementos ou consultas.

O aviso também precisa ser utilizável. Se o rótulo fica escondido em “mais informações”, ele não ajuda alguém que está decidindo se deve confiar no vídeo. A plataforma deveria mostrar, antes do play, se a persona é sintética, qual é a fonte e quais afirmações médicas não possuem evidência. Para o público idoso, interfaces simples, letras legíveis e linguagem sem jargão não são detalhes de acessibilidade; são parte da estratégia de segurança.

O que o caso significa para quem desenvolve sistemas de IA e web

Na minha experiência, muitos projetos começam com um modelo impressionante e terminam sem uma política clara de erro. Em moderação, o erro não é apenas deixar passar um vídeo perigoso. Também é apagar uma discussão legítima, expor a imagem de um médico ou coletar dados desnecessários. Por isso, eu trataria o modelo como um componente probabilisticamente imperfeito dentro de um sistema de governança.

Versione modelos, regras e conjuntos de teste para conseguir explicar por que um vídeo recebeu determinada pontuação.
Separe dados de identificação, dados de saúde e dados de navegação; não envie tudo automaticamente a serviços externos.
Guarde trilhas de auditoria com entrada, saída, versão do modelo, aplicado e decisão humana.
Teste falsos positivos com sátira, jornalismo, desmentidos, conteúdo educativo e médicos reais que usam avatares.
Ofereça recurso e prazo de resposta. Sem contestação, uma plataforma transforma inferência técnica em censura opaca.

Erros Comuns ao lidar com deepfakes médicos e conteúdo sintético

Confundir IA com falsidade: um vídeo pode ser gerado por IA e, ainda assim, apresentar informação correta.
Procurar apenas a palavra “IA”: muitos canais não informam sinteticidade e os termos podem aparecer apenas nos comentários.
Confiar na marca d’água: ela pode ser removida, recortada ou perdida durante a conversão.
Usar similaridade facial como prova: um rosto parecido com o de um médico não prova que a pessoa é fraudadora nem que o tratamento é falso.
Transformar score em veredito: confiança de modelo deve orientar a fila de revisão, não eliminar o julgamento humano.
Ignorar a experiência do público: um aviso técnico demais pode falhar justamente com pessoas menos com os limites da IA.
Apagar sem preservar evidências: remover conteúdo também pode destruir os dados necessários para investigação, defesa e auditoria.

FAQ sobre falsos médicos criados com IA

Todo vídeo com avatar de médico é falso?

Não. Avatar, voz sintética e rosto gerado indicam que parte do conteúdo foi produzida digitalmente, mas não provam que a informação esteja errada. O risco aumenta quando há identidade profissional fictícia, promessa médica absoluta e falta de fontes.

Por que um rótulo de conteúdo sintético não resolve sozinho?

Porque o rótulo apenas revela parte da origem do vídeo. Também é necessário indicar se a persona representa um médico real, quais afirmações têm evidência e se o conteúdo foi produzido para vender algum tratamento. O aviso precisa aparecer antes da reprodução.

Qual é a diferença entre C2PA, hash e detector de deepfake?

O C2PA tenta documentar a cadeia de produção e edição. Um hash identifica ou compara arquivos. Um detector procura sinais de manipulação. Nenhum deles, isoladamente, consegue estabelecer a veracidade de uma alegação médica.

Como evitar acusar um médico real de ser uma falsificação?

Use o rosto como sinal, nunca como prova. Combine análise facial, voz, metadados, histórico do canal, fontes citadas e confirmação de credenciais. Casos de alta consequência devem passar por revisão humana e permitir recurso do canal.

Um sistema automatizado pode remover vídeos de saúde?

Pode encaminhar e, em políticas muito bem delimitadas, aplicar ações automáticas. O desenho mais seguro combina detectores, logs, limites de confiança, revisão humana e possibilidade de apelação. Automação sem governança apenas acelera o erro.

Conclusão: procedência é parte do produto

Segundo a BBC News Brasil, o episódio mostra uma mudança importante: a discussão deixou de ser somente “a IA gerou um vídeo?” e passou a envolver falsificação de autoridade, publicidade médica, proteção de dados e responsabilidade da plataforma. Para quem programa, a lição é direta. Um sistema que processa mídia sintética precisa preservar evidências, explicar decisões e respeitar o direito de contestação. Eu prefiro uma arquitetura que deixa claro o que sabe, o que suspeita e por que decidiu agir.

Gostou? Me segue no GitHub e deixa um comentário se tiver dúvida ou quiser aprofundar algum ponto.