Uma recente investigação trouxe à tona que a OpenAI, criadora do popular ChatGPT, contrata centenas de prestadores de serviços terceirizados para ler, resumir e avaliar conversas reais de usuários com a inteligência artificial. Embora a empresa afirme adotar medidas para remover informações pessoais, documentos internos analisados pelo portal 404 Media indicam que conteúdos sensíveis podem, de fato, chegar aos revisores humanos.
As equipes de revisão são parte fundamental do processo de aprimoramento dos modelos de IA. Suas tarefas incluem avaliar as respostas do ChatGPT e identificar comportamentos considerados inadequados, como a “sicofancia”, onde o chatbot elogia ou concorda excessivamente com o usuário. Essa participação humana é crucial, demonstrando que o treinamento de modelos de IA vai além da análise automatizada de grandes volumes de dados, exigindo avaliação qualitativa e comportamental.
A prática não é exclusiva da OpenAI. Outras gigantes do setor, como a Anthropic e o Google, também recorrem a revisores humanos. A Anthropic, por exemplo, utiliza esse tipo de análise quando o usuário autoriza o uso das conversas para treinamento, e o Google informa que revisores podem analisar determinados chats salvos do Gemini. Contudo, a revelação levanta sérias preocupações de privacidade, especialmente porque muitos utilizam o ChatGPT como assistente profissional ou compartilham informações pessoais durante as interações.
Como Proteger Suas Conversas: Desative a Análise Humana
Para usuários de contas pessoais (Free, Plus e Pro), o uso das conversas para aprimoramento dos modelos é ativado por padrão. Já para contas Enterprise, Business e Edu, essa opção vem desativada automaticamente. Para quem deseja impedir que humanos leiam seus chats, o processo é simples:
- Abra o ChatGPT no navegador ou aplicativo.
- Acesse o ícone do seu perfil.
- Entre em “Configurações”.
- Toque em “Controles de dados”.
- Desative a opção “Melhorar o modelo para todo mundo”.
É importante notar que, com a configuração desativada, apenas novas conversas não serão usadas para melhorar os modelos. A mudança, no entanto, não impede que a OpenAI processe conversas para outras finalidades, como segurança e prevenção de abusos. Mesmo com mecanismos de proteção e configurações de privacidade, a recomendação é clara: nunca trate uma conversa com inteligência artificial como um canal equivalente a uma comunicação privada com uma pessoa.
O Projeto Lily e a Avaliação Humana
Internamente, a iniciativa da OpenAI relacionada à avaliação humana das respostas do ChatGPT é conhecida como Projeto Lily. Segundo os documentos obtidos, o trabalho é conduzido por profissionais contratados por empresas terceirizadas. Eles analisam o prompt original, resumem a intenção do usuário e avaliam diferentes respostas do chatbot.
Os revisores recebem orientações específicas para identificar problemas no comportamento e estilo das respostas, como:
- Reduzir a “fala de IA”: Evitar emojis e estruturas de texto que pareçam artificiais ou desnecessárias.
- Evitar a antropomorfização: Impedir que o ChatGPT afirme ter experiências ou características humanas que não possui.
- Reduzir a sicofancia: Identificar respostas que elogiam ou concordam excessivamente com o usuário, mesmo quando isso pode reforçar ideias irracionais.
Os documentos também mencionam um filtro automatizado de privacidade, projetado para identificar e ocultar informações pessoalmente identificáveis antes que as conversas cheguem aos humanos. Contudo, o sistema não é infalível e pode ter dificuldades com informações ambíguas ou identificadores incomuns. Além disso, a investigação aponta que alguns revisores podem receber um resumo das “memórias” associadas ao usuário, fornecendo contexto adicional como profissão, localização geral e outros detalhes compartilhados previamente.
Fonte: canaltech.com.br