É VERDADE que as imagens geradas por IA têm marca d’água oculta que você não vê

É VERDADE que imagens geradas por inteligência artificial (IA) podem contar com uma marca d’água invisível a olho nu. O objetivo das empresas de IA é garantir a transparência sobre a origem do conteúdo e permitir sua rastreabilidade.

• É VERDADE que tatuagem pode interferir em sensores de relógios como Apple Watch
• É FALSO que MacBooks não pegam vírus; proteção da Apple é boa, mas não infalível
• É VERDADE que o Instagram ainda verifica “contas relevantes” sem precisar pagar

As companhias que oferecem ferramentas de geração de imagens por IA utilizam diferentes estratégias para inserir esses marcadores ocultos. A OpenAI, por exemplo, utiliza metadados padronizados para essa finalidade.

A empresa de Sam Altman informa que as imagens criadas com o ChatGPT (utilizando o modelo de IA DALL·E) incluem metadados seguindo a iniciativa global Coalition for Content Provenance and Authenticity (C2PA).

–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–

Isso significa que cada imagem gerada pela ferramenta contém informações de origem incorporadas ao arquivo, invisíveis a olho humano, mas legíveis por ferramentas como Content Credentials, da Adobe, e o site Content Credentials Verify.

“Acreditamos que a adoção desses métodos para estabelecer a proveniência e o incentivo aos usuários para reconhecerem esses sinais são fundamentais para aumentar a confiabilidade das informações digitais”, destaca a OpenAI.

No entanto, a própria empresa reconhece que metadados como os do padrão C2PA podem ser removidos ao fazer upload da imagem em redes sociais ou ao realizar uma captura de tela do conteúdo.

Marcas d’água do Google e da Meta

O Google DeepMind também utiliza um recurso de marca d’água invisível, mas com uma estratégia diferente. A tecnologia usada é o SynthID, que aplica os marcadores diretamente nos pixels das imagens geradas por IA.

“Projetamos o SynthID para que ele não comprometa a qualidade da imagem e permita que a marca d’água permaneça detectável mesmo após modificações, como a adição de filtros, a alteração de cores e o salvamento com diferentes esquemas de compressão com perda — mais comumente usados para JPEGs”, explica o Google.

A Meta também emprega marcas d’água invisíveis e metadados compatíveis com o padrão do International Press Telecommunications Council (IPTC), incorporados aos arquivos de imagens geradas pelo Meta AI.

Esses metadados permitem identificar se a imagem foi criada ou alterada por IA e até mesmo qual modelo foi usado na geração.

“Embora seja imperceptível ao olho humano, a marca d’água invisível pode ser detectada por um modelo correspondente. Ela é resistente a manipulações comuns, como corte, redimensionamento, alterações de brilho e contraste, capturas de tela, compressão, adição de ruído, sobreposição de adesivos e outros ajustes”, ressalta a Meta.

Leia mais: 

• É VERDADE que o primeiro data center do google foi montado com peças de LEGO
• É VERDADE que acessórios magnéticos podem prejudicar câmeras traseiras do iPhone
• É VERDADE que icônico logotipo do Google foi criado por designer brasileira

VÍDEO | Falar “Por Favor” e “Obrigado” Para o ChatGPT Custa CARO? 

Leia a matéria no Canaltech.

Source link