IA sinaliza conteúdo prejudicial a crianças no TikTok, Insta e YouTube para pais

IA sinaliza conteúdo prejudicial a crianças no TikTok, Insta e YouTube para pais – Canaltech

As redes sociais trouxeram novos desafios para pais que buscam proteger filhos de conteúdos inadequados para a idade ou prejudiciais à sua formação. Nesse contexto, surge o Sway.ly, um aplicativo que utiliza inteligência artificial para identificar material nocivo em plataformas como TikTok, Instagram e YouTube, mas sem bloquear o acesso.

O Sway.ly monitora feeds de redes sociais em tempo real, sinalizando conteúdos potencialmente prejudiciais.
Entre os tipos de material analisado estão:

Mensagens de ódio;
Misoginia;
Padrões corporais irreais;
Violência;
Desinformação.

O diferencial do sistema baseado em IA é que ele não impede o acesso às redes sociais, mas alerta pais e filhos sobre o risco, explica os motivos e oferece orientações sobre como lidar com essas situações. De acordo com informações da própria empresa, a IA é constantemente atualizada para acompanhar novas tendências e formas de conteúdo nocivo novos que aparecem todos os dias em novas “trends”.

–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–

Alcance e dispositivos

Para funcionar, o aplicativo precisa ser instalado no dispositivo do responsável e no principal aparelho usado pela criança, como um tablet ou celular. A partir daí, o assistente de IA acompanha as contas de redes sociais diretamente, independentemente do aparelho ou local de acesso.

IA sinaliza conteúdo prejudicial a crianças no TikTok, Insta e YouTube para pais (Imagem: Khanh Tu Nguyen Huy/Unsplash)

O sistema também mantém a privacidade dos usuários, compartilhando informações apenas com membros da família vinculados à conta ou quando for exigido por lei.

Tipos de conteúdo analisados

O Sway.ly monitora 39 tipos de risco em 10 áreas, incluindo superexposição a conteúdos adultos, assédio, autoimagem, comportamentos de risco, notícias alarmantes e publicidade enganosa. A proposta é fornecer informações detalhadas para que pais e filhos entendam melhor os efeitos do conteúdo digital que a criança está consumindo, sem depender exclusivamente de filtros tradicionais de bloqueio completos.

Embora as restrições existentes em plataformas de redes sociais tentem limitar conteúdos prejudiciais, muitas crianças continuam expostas a narrativas tóxicas e mensagens que afetam sua percepção de si mesmas e do mundo. Ferramentas como a IA do Sway.ly podem auxiliar na identificação e compreensão desses conteúdos, promovendo decisões mais conscientes sobre o uso das redes sociais em família.

Você pode baixar e testar gratuitamente por sete dias o recurso em sway.ly.