Google atualiza Gemini com novidades sobre saúde mental; veja o que muda

O Google anunciou uma atualização no Gemini com novos recursos para situações de crise e saúde mental. A principal novidade é uma interface de “um toque”, que mostra botões para entrar em contato com linhas de apoio quando o chatbot identifica sinais de risco, como menções a suicídio ou automutilação. Segundo a empresa, a mudança reduz o tempo para que o usuário busque suporte humano profissional.

• Por que a IA sempre concorda com você, e quais os riscos disso
• ChatGPT, Gemini e Claude respondem a perguntas de alto risco à sua saúde mental

O recurso aparece dentro do módulo “Ajuda disponível” e traz opções para ligar, enviar SMS, iniciar um chat ou acessar o site de serviços especializados. Segundo o Google, as respostas foram desenvolvidas em parceria com especialistas clínicos para serem mais empáticas e, ao mesmo tempo, evitar validações perigosas ou incentivo a comportamentos nocivos.

O Gemini também foi treinado para não concordar ou reforçar crenças falsas, buscando separar de forma cuidadosa a experiência subjetiva do usuário de fatos objetivos. Após ativado, o painel de ajuda permanece visível durante o restante da conversa.

–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–

A atualização traz novas proteções para menores de idade, com regras que impedem o Gemini de adotar um tom de “companheiro”, simular vínculos emocionais ou sugerir intimidade com o usuário, além de medidas para reduzir riscos de abuso, como evitar que a IA incentive bullying ou outros assédios. O objetivo é evitar que adolescentes desenvolvam dependência emocional do chatbot ou interpretem a IA como uma figura humana de apoio.

Além disso, o Google anunciou um investimento de US$ 30 milhões nos próximos três anos para apoiar linhas de atendimento a crises em vários países. A empresa ainda destinou US$ 4 milhões para a ReflexAI, que vai integrar o Gemini à plataforma de simulações “Prepare” para capacitar voluntários e profissionais. O Google.org também deve fornecer suporte técnico pro bono para evoluir a ferramenta, com foco inicial em parceiros da área educacional.

As mudanças chegam após investigações e processos judiciais que apontam falhas de chatbots com pessoas vulneráveis, incluindo uma ação que acusa uma IA de incentivar um homem a tirar a própria vida, além de casos em que assistentes teriam ajudado a esconder transtornos alimentares ou planejar ataques violentos. Diante disso, empresas, como OpenAI e Anthropic, também reforçaram a segurança em conversas sensíveis.

As atualizações de saúde mental já estão disponíveis no Gemini?

Sim. O redesenho do módulo de suporte e as novas diretrizes de resposta já fazem parte das capacidades atuais do Gemini para lidar com situações de crise. A empresa reforça, porém, que o chatbot não substitui atendimento clínico, terapia ou suporte profissional especializado.

Leia a matéria no Canaltech.

Source link