Um agricultor de 36 anos foi detido em São Gabriel da Palha, Espírito Santo, no dia 19 de junho, sob suspeita de planejar o assassinato do próprio filho de 8 anos, com o objetivo de se eximir do pagamento de pensão alimentícia. O plano macabro veio à tona após a OpenAI, empresa responsável pelo ChatGPT, identificar mensagens trocadas pelo suspeito com a ferramenta. A informação foi prontamente repassada ao FBI, a Polícia Federal dos Estados Unidos, que acionou o Ministério da Justiça e a Polícia Civil capixaba, resultando na prisão.
O incidente ganhou repercussão nacional e trouxe à tona uma questão crucial: qual é o verdadeiro papel da inteligência artificial em cenários de denúncias criminais? Um chatbot realmente denuncia, toma decisões ou apenas reflete e organiza o que o usuário expressa?
O Papel da IA em Denúncias Criminais
Para Igor Baliberdin, designer estratégico com vasta experiência em tecnologia, a IA, por si só, não realiza denúncias no sentido humano. Ele argumenta que ferramentas como ChatGPT, Gemini e Claude operam com base em análise probabilística. “Eu não acredito que a IA tenha feito denúncia, mas o fato é que a IA não tem valor moral. Ela vai te sugerir que você tome uma ação A, B ou C”, explica Baliberdin. Essas IAs organizam cenários a partir dos dados fornecidos pelo usuário, mas não assumem a decisão final. O risco reside em transformar essa capacidade de organização de raciocínio em um substituto para a interação humana.
Vieses Algorítmicos e a Ausência de Moral
Baliberdin ressalta que cada modelo de inteligência artificial incorpora os pontos de vista de seus desenvolvedores. “Elas não são só seres que surgem do nada. Elas surgem a partir de um ponto de vista de humanidade, de sociedade”, afirma. Isso significa que as IAs carregam vieses inerentes, o que pode resultar em diferentes comportamentos entre as ferramentas, como observado em testes simulados de interação entre agentes de IAs distintas.
A Questão da Responsabilidade Compartilhada
Quando uma recomendação da IA conduz a uma decisão equivocada ou tem implicações sérias, a responsabilidade se divide entre o usuário, a plataforma e a empresa desenvolvedora. Baliberdin defende que a empresa tem uma parcela significativa de responsabilidade. “Se eu sou uma empresa e disponibilizo isso para um grupo de pessoas, creio que ela teria que ser responsabilizada, porque quem definiu o modelo de negócio e como o algoritmo funciona é ela”, pontua.
Termos de Uso e Implicações Legais
O especialista também aborda a obrigação legal de empresas estrangeiras manterem representação jurídica no Brasil para responder por questões relacionadas ao uso de dados. Ele critica o hábito comum de aceitar termos de uso sem uma leitura atenta, o que, em sua avaliação, expõe os usuários a regras e condições que desconhecem. O caso do Espírito Santo serve como um alerta para a complexidade crescente das interações entre humanos e inteligências artificiais, e a necessidade de clareza sobre seus limites e responsabilidades éticas e legais.
Fonte: canaltech.com.br