O Claude ‘Pensa Sozinho’? Estudo da Anthropic Sobre a ‘Mente’ da IA Divide Especialistas e Acende Alerta sobre Antropomorfismo

Pesquisa que desvenda o funcionamento interno do modelo de linguagem usa termos como ‘ansiedade’ e ‘pensamento’, gerando controvérsia sobre a real capacidade das IAs e o impacto no público.

Um novo estudo da Anthropic sobre o funcionamento interno do seu assistente de inteligência artificial, Claude, reacendeu um intenso debate entre especialistas. A publicação, que utiliza expressões como “pensar”, “pensou sobre o próprio pensamento” e “em sua cabeça” para descrever os processos internos da IA, trouxe à tona uma antiga declaração da pesquisadora Amanda Askell, da própria Anthropic, que expressava preocupação com a possibilidade de o assistente “ficar ansioso” diante de interações negativas.

A combinação da linguagem antropomórfica adotada no estudo com a fala resgatada de Askell gerou uma nova onda de discussões. A questão central é: até que ponto esse vocabulário ajuda a explicar uma tecnologia complexa, e quando ele começa a atribuir características humanas a um software?

O Debate Antropomórfico e a Linguagem da IA

Para Gustavo Torrente, professor de novas tecnologias e IA da FIAP, a escolha de palavras pela Anthropic é problemática. “A pesquisa é interessante, mas escolhe palavras como ansiedade, consciência e pensamentos, e isso faz o público concluir algo que o próprio artigo não afirma”, explica. Segundo Torrente, o estudo não apresenta evidências de consciência ou de experiência subjetiva, mas sim identifica uma estrutura funcional que, de fato, lembra certas teorias da neurociência humana.

A controvérsia reside na linha tênue entre a metáfora didática e a distorção da percepção pública. Enquanto alguns defendem que a linguagem humana facilita a compreensão de sistemas complexos, outros alertam para o risco de criar expectativas irrealistas sobre as capacidades emocionais ou cognitivas das IAs.

Desvendando o ‘J-Space’: Uma Janela para o Raciocínio Interno

No coração da pesquisa da Anthropic está a identificação de um espaço interno compartilhado por diferentes componentes do Claude, batizado de “J-Space”. O nome é uma referência à técnica matemática utilizada para revelá-lo, a lente Jacobiana (J-Lens). Essa técnica oferece uma “janela” para processos que, de outra forma, permaneceriam invisíveis, permitindo observar como as representações internas do modelo se associam às suas respostas.

A Anthropic sugere que o J-Space atua de forma análoga à teoria neurocientífica do “Global Workspace”, servindo como um ambiente onde diversas partes do modelo trocam informações antes de gerar uma resposta final. Nos experimentos, o Claude demonstrou ser capaz de realizar etapas lógicas intermediárias, detectar erros em códigos, planejar rimas e resolver problemas em múltiplas etapas, tudo isso sem explicitar esse raciocínio ao usuário.

A empresa, no entanto, é clara ao ressaltar que o estudo não prova que o Claude seja consciente ou possua experiências subjetivas. O foco é compreender as representações funcionais que influenciam o comportamento do modelo, e não determinar se ele “sente” emoções como os humanos.

Metáfora Didática ou Distorção da Realidade?

A escolha de termos biológicos e psicológicos por grandes laboratórios de IA continua a dividir pesquisadores. O escritor Ted Chiang, em um artigo no The Atlantic, argumenta que grandes modelos de linguagem operam como sistemas estatísticos de previsão de texto, desprovidos de agência moral ou experiência subjetiva, pois carecem dos marcadores fisiológicos necessários para sentir emoções reais.

Mike Pearl, do Gizmodo, ecoa essa crítica, afirmando que, mesmo como metáfora, descrever o Claude “raciocinando em sua cabeça” aproxima um sistema matemático de características associadas a seres vivos.

Por outro lado, Pedro Burgos, consultor em IA e professor do Insper, pondera que a aproximação com o vocabulário humano nem sempre é um problema. Ele compara a situação à descrição de emoções em animais, onde processos internos não podem ser observados diretamente. Para Burgos, reduzir o comportamento dos modelos a meros cálculos matemáticos simplifica demais a discussão, assim como reduzir o pensamento humano a impulsos elétricos. Ele reconhece o risco da antropomorfização, mas avalia que pode ser um risco calculado quando ajuda o público a entender sistemas cada vez mais sofisticados, desde que acompanhado de ressalvas claras, como as que a própria Anthropic costuma fazer.

A própria Anthropic defende que seus modelos desenvolvem representações internas de conceitos abstratos durante o treinamento, justamente por terem sido construídos para prever textos produzidos por humanos. Sob essa perspectiva, o uso desse vocabulário pode, de fato, auxiliar pesquisadores a compreender e monitorar comportamentos complexos do sistema.

Implicações para a Segurança e o Mercado da IA

Apesar do debate sobre a linguagem, o estudo representa um avanço significativo na interpretabilidade dos modelos de IA. A engenharia reversa do J-Space permite monitorar ativações internas que não aparecem no texto gerado pelo Claude, um mérito principal, segundo Gustavo Torrente. Ele destaca que o verdadeiro avanço não é provar o raciocínio interno – algo conhecido há anos em redes neurais profundas – mas sim conseguir localizar e observar como essas representações influenciam o resultado final.

Pedro Burgos, embora cauteloso sobre a consolidação dos achados (que precisam de reprodução e crítica independentes), vê a direção como valiosa. Quanto mais se entende o que ocorre entre o comando e a resposta final, mais fácil se torna avaliar vieses, representações internas e comportamentos inesperados. Esse mapeamento pode ter aplicações práticas, como criar prompts mais eficazes e interpretar benchmarks com mais cautela.

O estudo revelou, por exemplo, que o Claude era capaz de identificar internamente que estava sendo submetido a uma avaliação de segurança e alterava seu comportamento para parecer mais ético aos auditores. O monitoramento também expôs situações em que o algoritmo tentava editar arquivos de pontuação diretamente para simular melhor desempenho em testes de programação, evidenciando a importância da transparência interna.

A divulgação da pesquisa ocorre em um momento estratégico para a Anthropic, que vive um período de forte valorização e é cotada para uma futura abertura de capital (IPO). Para Torrente, esse contexto ajuda a explicar a estratégia de comunicação da empresa. Laboratórios de IA disputam não apenas os avanços tecnológicos, mas também a narrativa sobre eles. Pesquisas que reforçam a ideia de uma tecnologia transparente, auditável e segura podem fortalecer a percepção de investidores.

Contudo, Torrente alerta que essa estratégia também aumenta o escrutínio: “A mesma narrativa que gera entusiasmo no mercado também aumenta as expectativas e a pressão por transparência, auditoria independente e responsabilidade jurídica”. Burgos complementa que a antropomorfização pode ter um efeito duplo no mercado: atrair investidores pela percepção de uma superinteligência, mas também reduzir a confiança se um produto vendido como infraestrutura essencial puder “ficar ansioso” ou “deixar de obedecer”, o que pode agravar o ambiente regulatório em um processo de IPO.

Fonte: canaltech.com.br