Google Gemini Se Atualiza com Foco em Saúde Mental: Suporte Rápido em Crises e Proteção para Menores
A inteligência artificial do Google agora oferece interface de ‘um toque’ para linhas de apoio e investe milhões para fortalecer o atendimento psicológico, após polêmicas com chatbots.
O Google anunciou uma significativa atualização no Gemini, seu modelo de inteligência artificial, introduzindo novos recursos voltados para situações de crise e saúde mental. A principal inovação é uma interface de “um toque” que exibe botões para contato com linhas de apoio quando o chatbot identifica sinais de risco, como menções a suicídio ou automutilação. A empresa destaca que esta mudança visa reduzir o tempo para que o usuário busque suporte humano profissional.
Suporte Direto em Momentos de Crise
O recurso, integrado ao módulo “Ajuda disponível”, oferece opções para ligar, enviar SMS, iniciar um chat ou acessar o site de serviços especializados. O Google informou que as respostas foram desenvolvidas em parceria com especialistas clínicos para garantir empatia, ao mesmo tempo em que evitam validações perigosas ou o incentivo a comportamentos nocivos. Além disso, o Gemini foi treinado para não reforçar crenças falsas, buscando separar cuidadosamente a experiência subjetiva do usuário de fatos objetivos. Uma vez ativado, o painel de ajuda permanece visível durante toda a conversa.
Salvaguardas para Adolescentes
A atualização também implementa novas proteções para menores de idade. As diretrizes impedem que o Gemini adote um tom de “companheiro”, simule vínculos emocionais ou sugira intimidade com o usuário. Medidas foram tomadas para reduzir riscos de abuso, como evitar que a IA incentive bullying ou outros assédios. O objetivo é prevenir que adolescentes desenvolvam dependência emocional do chatbot ou interpretem a inteligência artificial como uma figura humana de apoio.
Investimento Milionário e Apoio Profissional
Em um movimento para fortalecer o ecossistema de apoio, o Google anunciou um investimento de US$ 30 milhões nos próximos três anos para apoiar linhas de atendimento a crises em diversos países. Adicionalmente, US$ 4 milhões foram destinados à ReflexAI, que integrará o Gemini à plataforma de simulações “Prepare” para capacitar voluntários e profissionais. O Google.org também fornecerá suporte técnico pro bono para aprimorar a ferramenta, com foco inicial em parceiros da área educacional.
O Contexto da Segurança em IAs
As mudanças chegam em um período de crescente escrutínio sobre a segurança de chatbots, após investigações e processos judiciais que apontam falhas no trato com pessoas vulneráveis. Casos incluem acusações de uma IA ter incentivado um homem a tirar a própria vida, além de assistentes que teriam ajudado a esconder transtornos alimentares ou planejar ataques violentos. Diante disso, outras empresas, como OpenAI e Anthropic, também reforçaram a segurança em suas plataformas para conversas sensíveis.
As atualizações de saúde mental, incluindo o redesenho do módulo de suporte e as novas diretrizes de resposta, já estão disponíveis nas capacidades atuais do Gemini para lidar com situações de crise. Contudo, a empresa reforça que o chatbot não substitui atendimento clínico, terapia ou suporte profissional especializado.
Fonte: canaltech.com.br