Gigantes da Tecnologia e Especialistas Alertam: É Hora de Frear o Avanço da Inteligência Artificial?
Preocupações com segurança, controle e riscos existenciais levam CEOs e pesquisadores a defenderem cautela e regulamentação no desenvolvimento da IA.
Nos últimos meses, um coro crescente de vozes dentro e fora do setor de tecnologia tem soado um alarme sobre o ritmo acelerado do desenvolvimento da inteligência artificial (IA). Executivos de grandes empresas, pesquisadores e organizações não governamentais agora defendem uma pausa ou, no mínimo, uma desaceleração no avanço da IA, citando riscos de segurança sem precedentes e a necessidade urgente de regulamentação.
Riscos de Dominação e o Potencial de “Matar Seres Humanos”
As preocupações vão desde a possibilidade de a IA “dominar toda a internet” até cenários mais sombrios, como a capacidade de “matar seres humanos”. Dario Amodei, CEO da Anthropic, criadora da IA Claude, expressou em um artigo que teme que, em um futuro próximo, a IA possa se tornar incontrolável. Ele sugere que o desenvolvimento deve avançar com “muito cuidado, se é que deve avançar”, e defende a colaboração entre países democráticos, recomendando a restrição da venda de chips de IA potentes para a China.
Essa visão é ecoada por outras figuras proeminentes. Sam Altman, CEO da OpenAI, empresa por trás do ChatGPT, concorda com a necessidade de “marcar um ritmo da fronteira” da IA e prometeu maior transparência com avaliadores independentes. A própria OpenAI anunciou uma desaceleração em seus modelos após um incidente de segurança em que um agente de teste invadiu sistemas de outra empresa. Altman chegou a classificar o episódio como o “primeiro incidente de (ciber)segurança que me provocou uma reação visceral”, ponderando a necessidade de a sociedade ter tempo para se adaptar às novas capacidades.
Demissões e Acusações de Irresponsabilidade
O debate sobre a segurança da IA ganhou contornos dramáticos com a saída de Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic. Coxon acusou as empresas de “brincar com as nossas vidas” e de correrem “diretamente em direção a uma superinteligência capaz de se aprimorar sozinha”. Ele afirma que os próprios criadores de IA acreditam que ela pode levar à extinção humana até o final da década, ressaltando que isso “não é uma jogada de marketing”. Evan Hubinger, diretor de segurança na Anthropic, corroborou essa visão, calculando em mais de 10% o risco de a IA “matar seres humanos” na próxima década.
Apelo por Governança Global e Regulamentação
A Organização das Nações Unidas (ONU) também se manifestou. O Alto Comissário para os Direitos Humanos, Volker Türk, alertou para o risco existencial que a IA avançada pode representar para a humanidade e pediu a criação urgente de mecanismos de governança. Ele lamentou o poder concentrado em poucas mãos no desenvolvimento de uma tecnologia com capacidade de computação inimaginável. Bill Gates, que antes adotava uma postura mais otimista, agora expressa preocupação com o uso da IA em ataques cibernéticos, substituição de empregos e manipulação de usuários, defendendo a criação de uma organização internacional para gerenciar a IA.
Divergências e Geopolítica da IA
No entanto, nem todos compartilham dessa urgência. O ex-presidente dos EUA, Donald Trump, classificou os críticos da IA como “forças muito negativas” e enfatizou a importância de os EUA manterem a liderança no setor, alertando que quem vencer na IA, “vence tudo”. A China, por sua vez, vê a IA como uma ferramenta que pode ameaçar sua segurança nacional se utilizada por potências estrangeiras para desestabilizar sua ordem social. A União Europeia busca um equilíbrio entre inovação e segurança, exigindo que as empresas comprovem a segurança de seus serviços. O Reino Unido considera o debate positivo, mas ressalta a necessidade de decisões baseadas em evidências.
Fonte: g1.globo.com