Gate de publicação para mídia médica sintética em Node.js

O núcleo do caso não é apenas a presença de inteligência artificial nos vídeos. O problema é o uso de autoridade médica sintética para conquistar confiança e promover tratamentos sem comprovação científica. Quando um personagem de IA se passa por médico, a tecnologia deixa de ser apenas um meio de produção e passa a ser um mecanismo de fraude.

AGU cobra medidas do YouTube contra falsos médicos criados com IA

Segundo o BBC News Brasil, a Advocacia-Geral da União notificou o YouTube para retirar do ar ou sinalizar vídeos com falsos médicos gerados por inteligência artificial. O governo deu prazo de 72 horas para que a plataforma tornasse os conteúdos identificados pelo Ministério da Saúde indisponíveis ou, dependendo do caso, adotasse rótulos que esclarecessem a natureza artificial dos personagens.

A notificação ocorreu dois meses depois de reportagens da BBC revelarem uma rede de canais criados para atingir principalmente pessoas idosas. Uma análise do Ministério da Saúde identificou 97 perfis com esse tipo de publicação entre 1º de janeiro e 10 de julho de 2026. As informações também foram encaminhadas à Polícia Federal e ao Conselho Federal de Medicina.

Na minha leitura, existem três riscos diferentes dentro do mesmo vídeo:

• Personagem sintético: a aparência, a voz ou o vídeo foram produzidos com IA.
• Identidade médica fictícia: o personagem se apresenta como médico sem serlo.
• Conteúdo médico sem evidência: a credibilidade artificial é usada para sustentar promessas de tratamento.

Esses elementos não devem ser tratados como se fossem um único problema técnico. Um vídeo pode conter um personagem fictício claramente identificado e não representar fraude. Mas, se esse personagem afirma ser médico, recomenda um tratamento e oculta essa condição, o contexto muda completamente. O sistema precisa avaliar identidade, alegação, evidência e forma de divulgação, não apenas detectar pixels ou áudio sintético.

Remover ou apenas sinalizar conteúdo sintético?

Eu evitaria uma regra binária do tipo “vídeo com IA = remover”. Essa abordagem gera falsos positivos e reduz a capacidade de aplicar sanções proporcionais. A decisão precisa considerar intenção, dano potencial, evidência científica e possibilidade de identificação clara. No caso dos falsos médicos, a combinação de identidade falsa e orientação médica sem comprovação justificaria remoção ou restrição mais severa.

O princípio é direto: sintético não significa automaticamente perigoso, e rotulado não significa automaticamente seguro. O rótulo deve informar como o conteúdo foi produzido e deixar claro que a identidade do personagem não deve ser interpretada como uma credencial profissional. Quando existe recomendação médica, o melhor caminho é combinar procedência, fontes, revisão da alegação e indicação de instituições confiáveis.

C2PA, detectores e revisão humana: funções diferentes

Para um sistema desse tipo, eu não escolheria apenas um mecanismo. A solução mais robusta combina procedência criptográfica, marca d’água, detecção técnica e análise humana. Cada componente resolve uma parte diferente do problema.

O C2PA é especialmente interessante porque registra um manifesto assinado com informações sobre captura, edição e ferramentas utilizadas. Isso permite verificar se um arquivo foi alterado depois da assinatura. Porém, C2PA não diz se um personagem de IA é realmente médico, se o tratamento funciona ou se o usuário percebeu o rótulo. Um arquivo também pode perder o manifesto durante recompressão ou redistribuição. Por isso, a ausência da assinatura deve ser um sinal para investigação, não uma confissão automática de fraude.

Da mesma forma, um detector baseado em modelo pode sofrer drift quando novos geradores entram no mercado. Eu trataria o resultado como uma pontuação de risco, acompanhada do modelo utilizado, da versão e do nível de confiança. A decisão final deve registrar por que o conteúdo foi bloqueado, sinalizado ou permitido. Sem explicabilidade, a plataforma não consegue defender a decisão nem oferecer um recurso minimamente justo ao criador.

O prazo de 72 horas vira um problema de engenharia

Para o YouTube, a solicitação não representa apenas mais uma fila de moderação. Uma janela de 72 horas exige um fluxo operacional parecido com um incidente de alta prioridade. Na prática, eu separaria esse fluxo em cinco partes:

• Recebimento: API ou painel para registrar URL, canal, captura, transcrição, relatório e versão da política.
• Preservação: armazenamento do arquivo original, metadados, data de coleta e hash SHA-256 antes de qualquer conversão.
• Triagem: fila específica com prioridade, responsável definido e temporizador visível para o prazo.
• Decisão: ação documentada entre permitir, rotular, reduzir distribuição, limitar monetização ou remover.
• Apelação: canal para o criador contestar a decisão com trilha de auditoria e nova análise.

O hash é importante porque um mesmo vídeo pode ser renomeado, editado, recebido por compactação ou publicado novamente. Registrar apenas o SHA-256 do endereço não resolve. A plataforma deve calcular o hash do conteúdo efetivamente preservado, manter o original e registrar transformações posteriores. Também é necessário versionar as regras: uma decisão tomada em setembro não deve ser explicada meses depois com uma política diferente.

Até a publicação da reportagem do BBC News Brasil, a plataforma ainda não havia se posicionado sobre a notificação. Isso não impede o desenho técnico do fluxo. A equipe deve construir primeiro o processo de ingestão, preservação e decisão; depois conecta cada saída às políticas públicas e aos requisitos regulatórios aplicáveis.

Na Prática: um gate de publicação para mídia médica sintética

O exemplo abaixo não tenta provar se um vídeo é deepfake. Ele recebe classificações produced by humans or a trusted system and applies a deterministic policy. The important part is that the decision is auditable, the original hash is preserved, and the same inputs do not generate contradictory outputs.

1. Receive the URL, original file, transcript, screenshots, reporter report, and collector identification.
2. Calculate SHA-256 from the original bytes and store the file before transcoding.
3. Record whether the content is synthetic, imitates a person, and makes a medical claim.
4. Attach the level of scientific evidence: none, systematic review, or clinical guideline.
5. Apply the same policy in a worker and return allow, label, or remove.
6. Store the decision, policy version, reasons, timestamp, and appeal status in append-only logs.

Save this as policy-gate.mjs. It runs with Node.js 20 or later without external packages:

import { createHash, randomUUID } from "node:crypto";

const POLICY_VERSION = "br-health-synthetic-2026.09";

export function evaluateMedia({
  mediaId,
  sha256Hex,
  syntheticMedia,
  impersonatesPerson,
  medicalClaim,
  evidence
}) {
  if (!mediaId || !/^[a-f0-9]{64}$/i.test(sha256Hex)) {
    throw new Error("mediaId e sha256Hex válido são obrigatórios");
  }

  const reasons = [];
  let action = "allow";
  let severity = "low";
  let labelText = null;

  if (impersonatesPerson) {
    action = "remove";
    severity = "high";
    reasons.push("personagem representa outra pessoa como profissional de saúde");
  }

  if (medicalClaim) {
    if (evidence === "systematic_review" || evidence === "clinical_guideline") {
      reasons.push("alegação médica vinculada a fonte científica relevante");
    } else {
      action = "remove";
      severity = "high";
      reasons.push("alegação médica sem revisão sistemática ou diretriz clínica");
    }
  }

  if (syntheticMedia && action === "allow") {
    action = "label";
    severity = "medium";
    reasons.push("mídia sintética sem contexto enganoso conhecido");
    labelText = "Conteúdo sintético. A aparência do personagem não constitui credencial profissional.";
  }

  if (action === "remove") {
    labelText = "Conteúdo removido por personificação indevida ou alegação médica sem evidência.";
  }

  const decision = {
    decisionId: randomUUID(),
    mediaId,
    sha256Hex: sha256Hex.toLowerCase(),
    syntheticMedia,
    impersonatesPerson,
    medicalClaim,
    evidence,
    action,
    severity,
    reasons,
    labelText,
    policyVersion: POLICY_VERSION,
    evaluatedAt: new Date().toISOString()
  };

  const recordHash = createHash("sha256")
    .update(JSON.stringify(decision))
    .digest("hex");

  return { ...decision, recordHash };
}

if (import.meta.url === `file://${process.argv[1]}`) {
  const [mediaId, sha256Hex, synthetic, impersonates, medical, evidence] = process.argv.slice(2);

  const result = evaluateMedia({
    mediaId,
    sha256Hex,
    syntheticMedia: synthetic === "true",
    impersonatesPerson: impersonates === "true",
    medicalClaim: medical === "true",
    evidence
  });

  console.log(JSON.stringify(result, null, 2));
}

Exemplo de execução:

node policy-gate.mjs video-123 2f4d...a81c true true true none

Com esses dados, a saída será remove porque há personificação e recomendação médica sem evidência. Se a alegação estiver vinculada a uma diretriz clínica, o resultado ainda poderá receber o rótulo de conteúdo sintético. Isso mantém a transparência sem confundir procedência da mídia com validação científica.

Em produção, eu manteria as classificações fora do código. Um modelo de visão computacional pode sugerir que existe clonagem facial, mas a pessoa responsável pela revisão deve registrar a conclusão. Também é melhor receber o hash calculado por um componente separado, validar permissões de escrita e enviar o resultado para um log imutável. O gate não deve ser o único controle: recomendação, monetização, busca e transparência precisam seguir políticas próprias.

Erros Comuns

• Usar o detector como juiz: uma pontuação de deepfake indica risco, não intenção. Decisões importantes precisam de contexto e revisão humana.
• Confundir metadado com verdade: um manifesto C2PA assinado prova origem e histórico de edição, mas não confirma uma alegação médica.
• Preservar apenas a URL: recompressão e republicação alteram a evidência. O arquivo original e seu hash devem ser preservados.
• Aplicar uma regra universal: conteúdo sintético permitido, personagem médico fictício e golpe de saúde não pertencem à mesma categoria de risco.
• Exibir o rótulo tarde demais: inserir “conteúdo de IA” depois que a recomendação já ganhou alcance é menos eficaz do que registrar a procedência no momento da publicação.
• Ignorar apelação e contexto cultural: uma decisão automática pode punir sátira, paródia ou uso artístico legítimo. A política precisa prever exceções explícitas e recurso.
• Registrar dados sensíveis sem controle: logs de moderação podem conter documentos, imagens médicas e dados pessoais. Acesso, retenção e descarte também precisam de governança.

Outro erro recorrente é otimizar apenas volume de revisão. Uma equipe pode medir quantos vídeos removeu, mas deveria acompanhar precisão, tempo de resposta, quantidade de recursos aceitos e exposição alcançada antes da ação. No caso de públicos vulneráveis, minutos de distribuição indevida podem ter mais impacto do que centenas de infrações classificadas corretamente depois.

FAQ sobre moderação de médicos falsos gerados por IA

O YouTube precisa remover todos os vídeos produzidos com inteligência artificial?

Não. O conteúdo enviado pelo governo deveria ser tornado indisponível ou receber rótulos e avisos, conforme o caso. O que torna um vídeo especialmente grave é a combinação entre personagem médico sintético, identidade apresentada como real e alegação de saúde sem comprovação.

Content Credentials ou C2PA confirma que o personagem é um médico real?

Não. O C2PA confirma procedência, alterações e assinatura digital de um arquivo. Ele não atesta diploma, identidade, credibilidade ou eficácia de um tratamento. Por isso, procedência deve complementar a análise de identidade e conteúdo.

Por que um detector de deepfake não resolve sozinho o problema?

Porque detectar manipulação não explica a intenção. Um detector pode indicar que o rosto ou a voz foram sintéticos, enquanto a revisão humana determina se existe personificação, fraude, sática ou recomendação médica perigosa.

Como uma plataforma implementa uma resposta em 72 horas?

Ela precisa de uma fila prioritária, relógio de SLA, armazenamento do original, hash SHA-256, responsáveis definidos, política versionada, trilhas de auditoria e processo de apelação. Automatizar a entrada de dados sem criar capacidade de revisão apenas transfere o atraso.

Um rótulo de conteúdo sintético é suficiente para evitar golpes médicos?

Não. O rótulo reduz ambiguidade, mas deve vir acompanhado de contexto, fontes confiáveis, revisão da alegação e, nos casos de maior risco, remoção ou redução de distribuição. Transparência é uma camada de defesa, não o sistema inteiro.

Minha recomendação é tratar a notificação da AGU como um caso de integridade de informação, não como uma simples feature de detecção de IA. A parte difícil está em conectar procedência, política, evidência científica e resposta operacional sem transformar classificadores probabilísticos em decisões opacas.

Gostou? Me segue no GitHub e deixa um comentário se tiver dúvida ou quiser aprofundar algum ponto.