Usaram inteligência artificial para simular minha imagem ou voz no YouTube: o que fazer?

Ferramentas de inteligência artificial já conseguem produzir vídeos e áudios capazes de reproduzir de maneira convincente o rosto, os movimentos e a voz de pessoas reais.

Essa tecnologia pode ser utilizada para entretenimento, paródia, produção audiovisual e outras finalidades legítimas. Também pode ser empregada para criar falsas declarações, anúncios, golpes, conteúdos ofensivos ou vídeos que apresentam uma pessoa fazendo algo que nunca ocorreu.

Quando alguém usa inteligência artificial para simular sua imagem ou voz no YouTube, a primeira providência é preservar o conteúdo e identificar exatamente como sua identidade foi reproduzida.

Depois disso, podem ser avaliados os mecanismos específicos da plataforma, medidas relacionadas aos direitos da personalidade e, conforme a finalidade da simulação, outras providências civis ou criminais.

O que é um deepfake?

A expressão costuma ser utilizada para conteúdos sintéticos ou manipulados capazes de fazer determinada pessoa parecer dizer, fazer ou participar de algo que não ocorreu daquela forma.

Isso pode envolver:

• substituição de rosto;
• clonagem de voz;
• sincronização artificial dos lábios;
• criação de fala inexistente;
• alteração de vídeo real;
• avatar extremamente semelhante à pessoa;
• combinação de imagem e áudio gerados artificialmente.

Nem todo conteúdo criado com inteligência artificial é ilícito.

A análise depende da utilização concreta.

Usar minha aparência com IA é automaticamente crime?

Não é correto fazer essa afirmação de forma automática.

A produção de conteúdo sintético pode ter finalidades legítimas, como sátira, criação artística ou outros usos contextualizados.

Por outro lado, uma simulação pode adquirir relevância jurídica quando for utilizada para:

• enganar terceiros;
• atribuir declarações falsas;
• promover produtos sem autorização;
• praticar fraude;
• causar dano à reputação;
• ameaçar;
• extorquir;
• expor a pessoa em situação íntima;
• induzir o público a acreditar em fato inexistente.

O enquadramento depende da conduta efetivamente praticada, e não apenas da tecnologia utilizada.

Direito de imagem continua existindo em conteúdo criado por IA?

Sim.

O fato de o vídeo não utilizar necessariamente a gravação original da pessoa não elimina a possibilidade de análise de seus direitos da personalidade.

Se o conteúdo reproduz características suficientes para identificar alguém, podem ser relevantes:

• rosto;
• voz;
• nome;
• gestos;
• características reconhecíveis;
• contexto criado;
• associação comercial.

A tecnologia utilizada para produzir a imitação não torna automaticamente livre a exploração da identidade de outra pessoa.

E se apenas clonaram minha voz?

A situação ainda merece análise.

Uma voz sintética pode ser utilizada para criar a impressão de que determinada pessoa:

• fez uma declaração;
• recomendou um investimento;
• apoiou um produto;
• confessou determinado fato;
• participou de uma conversa;
• solicitou dinheiro.

Quando o áudio é suficientemente semelhante para induzir terceiros à identificação, a ausência de imagem não elimina os riscos.

O YouTube exige aviso sobre conteúdo gerado por IA?

Em determinadas situações, sim.

O YouTube exige que criadores informem quando determinado conteúdo realista foi significativamente alterado ou gerado sinteticamente.

Isso inclui situações em que uma pessoa real parece:

• dizer algo que nunca disse;
• fazer algo que nunca fez;
• participar de evento em que não esteve.

A existência do aviso, entretanto, não transforma automaticamente todo uso de imagem ou voz em legítimo.

Da mesma forma, a ausência de aviso não resolve sozinha todas as questões jurídicas.

O YouTube pode colocar o aviso mesmo se o criador não informar?

Em determinados casos, sim.

A plataforma pode aplicar sinalização relacionada ao caráter sintético ou alterado do conteúdo.

O YouTube também prevê consequências para criadores que reiteradamente deixam de realizar as divulgações exigidas.

A rotulagem tem finalidade de transparência perante o público e deve ser diferenciada do procedimento de remoção por violação de privacidade.

Posso pedir a remoção de um deepfake no YouTube?

Sim, dependendo das características do conteúdo.

O YouTube permite que pessoas solicitem a remoção de conteúdo alterado ou sintético que reproduza realisticamente sua aparência ou voz.

A plataforma avalia fatores como:

• se o conteúdo é sintético ou alterado;
• se a pessoa pode ser identificada;
• se a representação é realista;
• se existe indicação de que se trata de conteúdo sintético;
• existência de paródia ou sátira;
• eventual interesse público.

Por isso, a existência de inteligência artificial não produz remoção automática em todas as situações.

O que devo preservar antes de denunciar?

É recomendável registrar adequadamente o conteúdo antes que seja removido ou modificado.

Podem ser preservados:

• endereço do vídeo;
• nome do canal;
• data;
• título;
• miniatura;
• descrição;
• trechos relevantes;
• voz simulada;
• comentários de pessoas acreditando no conteúdo;
• visualizações;
• anúncios ou links associados.

Comentários podem ser especialmente úteis para demonstrar se o público realmente interpretou a simulação como autêntica.

Como demonstrar que o vídeo é falso?

Nem sempre é necessário produzir imediatamente uma perícia complexa.

Podem existir provas simples, como:

• a pessoa nunca ter participado da gravação;
• existência do vídeo original utilizado como base;
• diferenças perceptíveis no áudio ou imagem;
• declaração publicada pelo próprio criador sobre o uso de IA;
• metadados ou sinais técnicos disponíveis;
• comparação com a fala real;
• testemunhas.

Quando a autenticidade se torna objeto central de controvérsia, análise técnica especializada pode ser necessária.

E se utilizaram meu rosto para anunciar um produto?

Esse cenário pode envolver utilização comercial da imagem e falsa associação entre a pessoa e determinada empresa ou produto.

É importante documentar:

• produto anunciado;
• empresa beneficiada;
• link de compra;
• texto da publicidade;
• canal responsável;
• eventuais anúncios patrocinados;
• declarações atribuídas falsamente.

Dependendo do caso, podem existir medidas contra mais de um participante da operação.

E se usaram minha voz ou imagem para aplicar golpe?

Nesse cenário, a situação pode ultrapassar a violação de direitos da personalidade.

É importante preservar elementos relacionados à fraude, como:

• dados para pagamento;
• links;
• números de telefone;
• contas bancárias;
• endereços digitais;
• mensagens recebidas por vítimas;
• identificação do canal.

Dependendo da conduta, podem ser avaliadas providências policiais e judiciais.

O uso de IA não constitui um enquadramento penal único: deve-se analisar qual fraude, ameaça, ofensa ou outra conduta foi efetivamente praticada.

E se o vídeo atribuir a mim uma fala ofensiva ou criminosa?

Uma simulação pode causar dano especialmente grave quando faz parecer que a pessoa confessou crime, proferiu discurso discriminatório ou realizou afirmação capaz de prejudicar sua reputação.

É recomendável documentar:

• fala atribuída;
• contexto;
• repercussão;
• compartilhamentos;
• comentários;
• consequências profissionais ou pessoais.

A análise jurídica deverá distinguir o conteúdo fabricado dos atos realmente praticados pela vítima.

E se estiver claramente indicado que é paródia?

A indicação é relevante, mas não encerra automaticamente a análise.

Paródia, sátira, crítica e interesse público podem receber proteção significativa.

Ao mesmo tempo, o contexto deve ser examinado para saber se existe risco concreto de engano ou outra violação juridicamente relevante.

O próprio YouTube considera paródia, sátira e interesse público ao analisar pedidos relacionados a conteúdos sintéticos.

Pessoa pública possui proteção contra deepfake?

Sim, embora o interesse público possa influenciar a análise de determinados conteúdos.

A condição de pessoa conhecida não significa renúncia geral aos direitos sobre sua identidade.

O YouTube considera com especial atenção simulações envolvendo figuras públicas em atividades sensíveis, como:

• conduta criminosa;
• violência;
• endosso de produtos;
• endosso político.

O contexto e a capacidade de induzir o público a erro permanecem relevantes.

Existe ferramenta automática para encontrar vídeos com meu rosto?

O YouTube possui recurso experimental de detecção de semelhanças para determinados criadores qualificados.

A ferramenta busca identificar conteúdos em que o rosto do criador parece ter sido alterado ou gerado por inteligência artificial.

O recurso não está disponível para todos e não substitui a possibilidade de denunciar manualmente um vídeo específico.

Por isso, quem identifica um conteúdo problemático não precisa aguardar que ele seja localizado automaticamente.

É possível pedir judicialmente a remoção?

Dependendo do conteúdo e das consequências, pode ser avaliada medida judicial destinada a impedir a continuidade da divulgação.

A urgência pode ser relevante quando o vídeo:

• está sendo amplamente compartilhado;
• simula fraude;
• atribui crime à pessoa;
• promove produto sem autorização;
• afeta atividade profissional;
• cria risco imediato de novos danos.

A adequada identificação do vídeo e a preservação das provas são importantes para eventual pedido.

Posso buscar indenização?

Dependendo da utilização e do dano produzido, pode existir responsabilidade civil.

Entre os elementos que podem ser considerados estão:

• realismo;
• finalidade;
• alcance;
• utilização comercial;
• capacidade de engano;
• gravidade da falsa declaração;
• prejuízos demonstrados;
• conduta posterior de quem publicou.

Não existe indenização automática apenas porque determinada ferramenta de inteligência artificial foi utilizada.

Checklist ao encontrar um vídeo falso feito com IA

1. preservar o vídeo e seu endereço;
2. registrar canal, título e data;
3. salvar os trechos relevantes;
4. documentar comentários e repercussão;
5. identificar eventual finalidade comercial ou fraudulenta;
6. verificar se há indicação de conteúdo sintético;
7. utilizar o procedimento adequado do YouTube;
8. guardar protocolos e respostas;
9. avaliar comunicação ao responsável;
10. considerar medidas policiais ou judiciais conforme a gravidade.

Perguntas frequentes

Qualquer vídeo feito com meu rosto por IA é ilegal?

Não é possível afirmar isso automaticamente. Contexto, finalidade, realismo, consentimento, paródia e interesse público podem influenciar a análise.

O YouTube remove deepfake?

A plataforma permite pedidos de remoção de conteúdos sintéticos realistas que reproduzam a aparência ou voz de determinada pessoa, mas avalia diversos critérios antes de decidir.

Se o vídeo informa que foi feito por IA, ele pode continuar no ar?

A indicação é relevante, mas não resolve automaticamente todas as questões relacionadas a imagem, voz, fraude ou outros direitos.

Clonar minha voz também pode ser contestado?

Sim. O procedimento do YouTube para conteúdo sintético também considera situações relacionadas à voz de uma pessoa identificável.

Posso denunciar mesmo sem ser criador de conteúdo?

Os mecanismos de privacidade não se limitam ao recurso experimental de detecção de semelhanças. A pessoa identificável pode utilizar o procedimento aplicável da plataforma.

Se usaram meu deepfake para golpe, devo apenas denunciar ao YouTube?

Não necessariamente. Dependendo dos fatos, também podem ser necessárias medidas para preservar provas, interromper a fraude e comunicar autoridades ou outras instituições envolvidas.

Posso pedir indenização mesmo que o vídeo seja apagado?

A retirada posterior não elimina automaticamente a análise das consequências produzidas enquanto o conteúdo esteve disponível.

Conclusão

Quando alguém utiliza inteligência artificial para simular sua imagem ou voz no YouTube, a tecnologia empregada é apenas uma parte da análise.

É necessário verificar se o conteúdo é realista, se você pode ser identificado, qual finalidade existe e se o público é levado a acreditar que determinada fala ou conduta realmente ocorreu.

O YouTube possui mecanismos específicos para conteúdos sintéticos, incluindo procedimentos de privacidade e ferramentas voltadas à identificação de reproduções de imagem e voz.

Nos casos mais graves, como fraude, falsa publicidade, ataques à reputação ou outras condutas lesivas, também podem ser avaliadas medidas extrajudiciais, civis, judiciais ou criminais conforme os fatos.

Este conteúdo possui finalidade informativa e não substitui a análise do vídeo, da tecnologia utilizada, da repercussão e da finalidade concreta da simulação.