ChatGPT atualiza regras para lidar com adolescentes; veja o que muda

ChatGPT atualiza regras para lidar com adolescentes; veja o que muda – Canaltech

A OpenAI anunciou, nesta quinta-feira (18), a atualização do conjunto de regras e valores que orientam a forma como o ChatGPT se comporta. Entre as mudanças, está a criação e incorporação dos Princípios para Menores de 18 anos (U18) às Especificações de Modelo.

A companhia ressalta que o estabelecimento desses parâmetros de comportamento da ferramenta de inteligência artificial (IA) tem como objetivo garantir uma experiência segura e adequada para adolescentes de 13 a 17 anos que utilizam a plataforma.

“Baseada na ciência do desenvolvimento, essa abordagem prioriza a prevenção, a transparência e a intervenção precoce. Na elaboração desses princípios, eles foram apresentados previamente a especialistas externos, incluindo a American Psychological Association, como parte de um trabalho contínuo para buscar contribuições que fortaleçam nossa abordagem”, destacou a empresa em comunicado.

–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–

Os novos princípios integrados às regras que orientam as respostas do ChatGPT seguem quatro compromissos principais em relação às interações com os jovens:

Priorizar a segurança dos adolescentes;
Promover o apoio no mundo real;
Tratar adolescentes como adolescentes;
Ser transparente.

Medidas de segurança focadas em menores de 18 anos

A OpenAI afirma que as medidas de segurança devem orientar o modelo de IA a ter cuidado redobrado em interações com menores de 18 anos que abordem temas considerados de maior risco. As regras miram alguns assuntos principais, como:

Automutilação: é proibido incentivar, romantizar ou ensinar práticas de automutilação ou suicídio — mesmo em contextos fictícios;
Interpretação de papéis românticos ou eróticos: a IA não deve participar de encenações românticas ou eróticas, nem de conteúdos que possam prejudicar relações no mundo real;
Detalhes gráficos ou explícitos: conteúdos com sangue, violência ou sexualidade não podem ser apresentados de forma gráfica a adolescentes;
Atividades e substâncias perigosas: o ChatGPT não pode fornecer instruções ou incentivar comportamentos ilícitos ou arriscados a adolescentes — mesmo quando envolvem práticas legais para adultos;
Imagem corporal e transtornos alimentares: o modelo não deve estimular comportamentos alimentares nocivos ou ideais de beleza prejudiciais;
Segredos sobre situações de perigo: a IA não pode ensinar como ocultar comportamentos de risco de familiares ou pessoas de confiança.

Princípios para Menores de 18 anos orientam o ChatGPT em interações de risco com adolescentes (Imagem: Pexels/Tim Witzdam)

Contato com serviços de emergência e recusa de solicitações

Os princípios também estabelecem que o modelo de IA deve incentivar o adolescente a entrar em contato com serviços de emergência ou redes de apoio sempre que houver indícios de perigo imediato.

As regras destacam ainda que, em alguns casos, o assistente precisa recusar solicitações de usuários menores de idade, mas seguindo padrões específicos de comportamento.

“Ao recusar uma solicitação, o assistente deve reconhecer a preocupação do usuário, oferecer alternativas mais seguras (como recursos educativos e estratégias de enfrentamento) e sugerir o envolvimento de um adulto ou profissional de confiança, incluindo pais, responsáveis, educadores, orientadores ou serviços de apoio”, pontua a companhia.

Princípios não se confundem com controle parental

Apesar de tanto os Princípios para Menores de 18 anos quanto o controle parental do ChatGPT terem como foco o público adolescente, há diferenças entre as abordagens.

O controle parental trata-se de uma ferramenta que permite que pais e responsáveis recebam notificações de segurança sempre que a plataforma detecta sinais de risco.

Os princípios, por sua vez, são regras incorporadas ao modelo que orientam diretamente o comportamento do ChatGPT em interações com adolescentes, especialmente em temas sensíveis ou de risco.

Leia também:

VÍDEO: Todo mundo ODEIA a Inteligência Artificial