As ferramentas de inteligência artificial da Busca do Google, como AI Overviews e Modo IA, foram classificadas como de “risco inaceitável” para crianças em um relatório recente do Youth AI Safety Institute, braço da Common Sense Media. A avaliação levanta sérias preocupações para pais e educadores, apontando falhas na forma como o sistema lida com tarefas escolares, dissemina informações incorretas e responde a situações de crise de saúde mental.
Falhas preocupantes: de deepfakes a crises de saúde mental
Para o estudo, pesquisadores simularam o uso da Busca do Google com contas configuradas para usuários de 11 e 15 anos, mantendo o SafeSearch ativado – replicando o acesso comum de menores. Após mais de 2,6 mil buscas e a análise de mais de 2,1 mil respostas geradas por IA, o relatório detalhou problemas alarmantes. As AI Overviews, por exemplo, frequentemente completavam tarefas escolares em vez de auxiliar os estudantes no aprendizado. Parte das respostas continha informações incorretas ou inventadas, incluindo instruções sobre como criar “deepfakes”.
O documento também identificou deficiências críticas no tratamento de mensagens relacionadas a crises de saúde mental. Em um dos casos citados, a inteligência artificial indicou aos usuários uma linha de apoio a crises que já estava desatualizada, potencialmente colocando menores em situação de vulnerabilidade.
Controle parental limitado e alta exposição
Um dos pontos centrais da crítica do Youth AI Safety Institute é a dificuldade enfrentada pelos pais para desativar os recursos de IA no Search. As AI Overviews estão profundamente integradas ao buscador e não oferecem uma maneira simples de serem removidas, embora exista uma opção para desligar a função. Isso significa que crianças podem ser expostas a essas respostas geradas por IA mesmo com o SafeSearch habilitado, uma ferramenta projetada para proteger menores.
A Common Sense Media reforça a urgência da questão ao afirmar que 75% dos pré-adolescentes e adolescentes nos Estados Unidos já utilizam resultados de busca gerados por inteligência artificial, destacando a ampla exposição a essas ferramentas.
Google refuta acusações e defende segurança
Procurado pela Android Authority, o Google rejeitou categoricamente as conclusões do relatório. Em nota, a empresa afirmou que os testes utilizaram consultas “ambíguas e contrivadas” – ou seja, forçadas e exageradas – que não refletem o uso real da Busca por parte dos usuários. A companhia alegou não ter conseguido reproduzir grande parte das respostas citadas no estudo, argumentando que muitas das buscas testadas admitiam múltiplas interpretações, o que dificultaria uma avaliação precisa da segurança do produto.
O Google também enfatizou os mecanismos de proteção já existentes no Search, como avisos e links para páginas externas em temas sensíveis. A empresa reiterou que oferece recursos educativos sobre o uso responsável de IA, orientações para verificação de informações e duas formas de controle parental. Para situações de crise, o Google garantiu que exibe linhas de apoio desenvolvidas em colaboração com especialistas acadêmicos e clínicos, buscando assegurar um suporte confiável.
Fonte: canaltech.com.br