Conselho acusa Meta de fazer vista grossa para deepfakes sexuais no Instagram

O Oversight Board, conselho independente de supervisão da Meta, determinou a remoção de um vídeo deepfake sexual que permaneceu no Instagram por meses após ser denunciado, e cobrou da empresa mudanças estruturais na forma como trata esse tipo de conteúdo gerado por inteligência artificial.

• Meta vaza dados sensíveis de funcionários e suspende monitoramento para IA
• CTO da Meta admite que clima na empresa é um dos piores da história

A decisão, publicada nesta terça-feira (23), aponta falhas no processo de moderação da plataforma e conclui que o sistema atual coloca pessoas comuns em situação de desvantagem em relação a figuras públicas.

O Oversight Board é um organismo independente criado pela própria Meta para revisar decisões de moderação de conteúdo nas plataformas da empresa, como Facebook e Instagram. O conselho pode cassar decisões da companhia e emitir recomendações, mas a Meta não é obrigada a implementá-las.

–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–

O vídeo que ficou no ar

O caso teve início em setembro de 2025, quando um usuário do Instagram publicou um vídeo de oito segundos, aparentemente gerado por IA, mostrando uma mulher ajustando o vestido com a roupa íntima à mostra em alguns frames. Segundo o Oversight Board, o vídeo imitava uma pessoa real, sem o consentimento dela.

O sistema automatizado da Meta identificou o post no dia seguinte e apontou risco de viralização, mas não o encaminhou para revisão humana. Dois usuários denunciaram o conteúdo dias depois, e ele permaneceu no ar. Um dos denunciantes recorreu diretamente à Meta, sem sucesso, e então levou o caso ao conselho.

Quando o Oversight Board notificou a empresa, especialistas internos da Meta avaliaram o post e concluíram que ele não violava as regras da plataforma. A empresa apenas restringiu o acesso ao conteúdo para adultos, sem fazer a remoção.

O que o conselho decidiu

O Oversight Board reverteu a decisão da Meta e exigiu a remoção do vídeo. A conclusão do conselho é que o conteúdo viola a política da empresa contra imagens íntimas não consensuais, se enquadrando nos três critérios da regra: conteúdo não comercial em contexto privado, pessoa retratada “quase nua” e ausência de consentimento.

O problema central identificado na decisão é que a Meta exige que a própria vítima faça a denúncia para que a falta de consentimento fique caracterizada. Outros sinais aceitos pela empresa são relatos de autoridades policiais, da mídia ou de parceiros institucionais. O conselho considera que esses caminhos são acessíveis, na prática, apenas a figuras públicas.

Para corrigir isso, o Oversight Board recomenda que a Meta passe a tratar imitações geradas por IA como não consensuais por definição, sem depender de autodenuncia. O conselho também quer que usuários possam designar “contas conectadas”, como amigos e familiares, autorizados a denunciar violações em nome de terceiros.

Outra recomendação é incluir deepfakes sexuais como categoria específica nos formulários de denúncia da plataforma. Atualmente, apenas usuários do Texas e da Flórida têm acesso a um formulário com esse tipo de opção. O Oversight Board defende a disponibilização global, argumentando que o abuso sexual não consensual gerado por IA é um problema de escala mundial.

Contexto mais amplo

A decisão ocorre em meio a um debate regulatório crescente sobre deepfakes em diferentes países. A União Europeia chegou a um acordo para proibir sistemas de IA usados para gerar conteúdo sexual explícito não consensual, incluindo aplicativos de “nudificação”.

Índia, Reino Unido e Espanha também trabalham em regras específicas para esse tipo de conteúdo. O X, antigo Twitter, também enfrenta escrutínio por imagens sexuais geradas por chatbots de IA.

O Oversight Board afirma, no relatório, que “a escala, a velocidade e a sofisticação das ferramentas de IA resultaram em uma proliferação global de conteúdo sexual não consensual gerado por inteligência artificial” e que vídeos deepfake sexuais causam danos à reputação e à saúde psicológica das vítimas, com impacto desproporcional sobre mulheres e meninas.

Esta não é a primeira vez que o conselho critica a postura da Meta em relação a conteúdo gerado por IA. Em meados de 2025, o Oversight Board classificou como “incoerente e injustificável” a incapacidade da empresa de aplicar suas próprias regras de forma consistente.

Leia a matéria no Canaltech.

Source link