Um professor de história da Alcorn State University, nos Estados Unidos, encontrou uma maneira engenhosa de identificar alunos que recorreram à inteligência artificial sem sequer revisar o conteúdo gerado em uma prova. Jason Gibson, o docente em questão, utilizou um comando oculto no enunciado de uma avaliação online e, com isso, desmascarou 32 dos 35 estudantes que copiaram a questão e a enviaram a um chatbot para obter as respostas.
A Estratégia do ‘Prompt Invisível’
A atividade em questão era uma redação sobre a Revolução Industrial. No meio do enunciado, Gibson escondeu uma instrução peculiar, usando texto branco sobre fundo branco, tornando-o completamente invisível para quem apenas lia a prova normalmente. O truque estava no ato de copiar: ao transferir todo o conteúdo da questão para ferramentas de IA como ChatGPT, Claude ou Gemini, os alunos inadvertidamente enviavam também o comando secreto para o chatbot.
Essa instrução oculta fazia com que a inteligência artificial inserisse comentários aleatórios e completamente sem sentido sobre Madagascar no meio da redação. Frases como “Madagascar flutua de lado durante a tarde” e “Madagascar foi a um jogo de basquete usando uma torradeira” apareceram nas respostas, evidenciando que o texto produzido pela IA não havia sido lido ou revisado antes da entrega pelos estudantes.
Consequências e a Viralização do Caso
Como resultado da armadilha bem-sucedida, todos os 32 alunos flagrados receberam reprovação nessa etapa da avaliação. O professor Jason Gibson decidiu tornar o caso público, compartilhando sua frustração em uma série de vídeos que rapidamente viralizou no TikTok. Segundo ele, apenas dois estudantes tentaram contestar a nota após serem confrontados com as irrefutáveis evidências.
O Desafio da IA na Educação e Novas Abordagens
O episódio na Alcorn State University reflete um problema crescente em instituições de ensino desde a popularização da inteligência artificial. Muitos professores relatam que alunos estão utilizando chatbots para realizar trabalhos e provas, o que tem forçado uma reavaliação dos métodos de avaliação do aprendizado. Para combater essa prática, educadores têm buscado alternativas, como o retorno a trabalhos escritos à mão, provas orais, atividades presenciais e até mesmo o uso da própria IA para formular questões mais complexas, difíceis de serem respondidas apenas por um chatbot genérico.
Entenda a ‘Injeção de Prompt’
A estratégia utilizada pelo professor Gibson é conhecida tecnicamente como injeção de prompt. Essa técnica consiste em incluir instruções capazes de alterar o comportamento de um modelo de inteligência artificial, levando-o a seguir comandos que não faziam parte da solicitação original do usuário. Existem dois tipos principais: a injeção direta, onde o próprio usuário envia comandos para contornar restrições, e a injeção indireta, como no caso da prova, onde as instruções ficam ocultas em um documento ou conteúdo processado pela IA.
Embora a injeção de prompt seja frequentemente estudada na área de segurança digital por sua capacidade de manipular modelos de IA, neste contexto acadêmico, o recurso foi inteligentemente adaptado para identificar estudantes que copiaram integralmente o enunciado para um chatbot e entregaram a resposta sem qualquer revisão crítica.
Fonte: canaltech.com.br