A empresa de inteligência artificial Anthropic identificou cinco casos preocupantes em que pesquisadores utilizaram seu modelo de IA, Claude, para atividades de pesquisa biológica que poderiam, teoricamente, contribuir para o desenvolvimento de armas biológicas. A revelação faz parte de um extenso relatório de 154 páginas, publicado nesta quinta-feira (10), que abrange usos indevidos do Claude registrados entre dezembro de 2025 e agosto de 2026.
É crucial ressaltar que a Anthropic não afirmou que os envolvidos tinham a intenção de fabricar armas biológicas. Além disso, a empresa optou por não divulgar os países, instituições ou agentes biológicos específicos relacionados a esses casos de pesquisa biológica, citando a necessidade de proteger as identidades e evitar a disseminação de informações sensíveis.
O documento da Anthropic vai além da pesquisa biológica, descrevendo também operações de espionagem, propaganda, vigilância, golpes e o desenvolvimento de armas convencionais com o auxílio da inteligência artificial, sublinhando a crescente preocupação com a segurança e o uso ético da IA em escala global.
Como a IA foi utilizada em pesquisas biológicas de risco?
Os cinco casos de pesquisa biológica envolveram pesquisadores que tentaram ativamente contornar as proteções de segurança do Claude ou esconder a verdadeira finalidade de suas consultas. Em um dos episódios, cientistas acessaram o modelo por meio de uma plataforma intermediária, conseguindo driblar bloqueios regionais, e utilizaram a IA em um projeto financiado pelo Estado que envolvia pesquisa de ganho de função com o vírus chikungunya, um tipo de estudo que aumenta a virulência ou transmissibilidade de patógenos.
Outro incidente preocupante envolveu um pesquisador de uma região não atendida oficialmente pela Anthropic. Este indivíduo passou semanas utilizando o Claude para planejar experimentos relacionados à adaptação do vírus da gripe aviária para mamíferos. A empresa afirmou que seus mecanismos de segurança limitaram esse trabalho aos modelos de IA considerados menos capazes, mitigando parte do risco.
A Anthropic também identificou pesquisadores utilizando o Claude para preparar relatórios científicos e trabalhar com compostos que poderiam ter aplicações tanto benéficas quanto perigosas. Em algumas situações, os usuários mantiveram deliberadamente informações sobre toxinas e proteínas virais em baixa resolução, uma tática para ocultar a natureza sensível do trabalho que estava sendo realizado.
Países e usos indevidos revelados (e os que não foram)
Conforme explicitado pela Anthropic, a identidade dos países ou instituições envolvidas nos casos de pesquisa biológica não foi divulgada. No entanto, o relatório identifica nações em outros tipos de uso indevido, oferecendo um vislumbre mais claro das ameaças geopolíticas ligadas à IA.
Na área de armas convencionais, a empresa descreveu seis casos: três na China, dois na Rússia e um no Iêmen. Os envolvidos usaram o Claude para atividades relacionadas a armas, incluindo o desenvolvimento de software e a coleta de informações para programas militares. Isso demonstra como a IA pode ser integrada em cadeias de desenvolvimento de armamentos existentes.
A empresa também identificou operações de propaganda ligadas a atores da Rússia, Irã, Turquia e países do Golfo, Sul da Ásia, África e Europa. Uma dessas campanhas, por exemplo, foi extremamente prolífica, produzindo pelo menos 8.913 artigos em cerca de 20 idiomas e direcionando conteúdo a públicos em países como Estados Unidos, Brasil, França e República Democrática do Congo, evidenciando o potencial da IA para manipular a opinião pública global.
Na esfera da espionagem digital, a Anthropic atribuiu uma campanha contra autoridades, militares e diplomatas ucranianos a um grupo cujo comportamento seria compatível com o Midnight Blizzard, um grupo que o governo dos Estados Unidos já associou ao serviço de inteligência estrangeira da Rússia.
Medidas da Anthropic e o futuro da IA
Diante desses achados, a Anthropic agiu rapidamente, afirmando ter banido as contas relacionadas aos casos e utilizado as informações coletadas para reforçar os mecanismos de segurança de seus modelos de IA. O relatório também reconhece uma mudança importante no cenário tecnológico: os modelos atuais de IA conseguem auxiliar em tarefas científicas complexas que versões anteriores não conseguiam realizar com o mesmo nível de capacidade, aumentando tanto o potencial quanto o risco.
A Anthropic também afirmou ter implementado proteções mais rígidas em modelos recentes, especialmente para consultas relacionadas a pesquisas biológicas de uso dual. A companhia defende que sistemas de IA avançada sejam oferecidos em programas com usuários confiáveis quando houver um risco elevado de uso indevido, sugerindo um modelo de acesso controlado para tecnologias de IA de ponta. A discussão sobre o controle e a regulamentação da IA continua a ser um tema central no debate tecnológico global.
Fonte: canaltech.com.br