OpenAI Aprimora Privacidade no ChatGPT Empresarial: Como a IA Monitora o Uso Indevido Sem Acessar Suas Conversas
A OpenAI, desenvolvedora do popular ChatGPT, anunciou nesta quarta-feira (19) o lançamento do Private Safety Processing. Trata-se de um sistema inovador desenhado para identificar o uso inadequado de suas ferramentas de inteligência artificial sem que funcionários da empresa tenham acesso direto ao conteúdo das interações dos clientes. A tecnologia é direcionada especificamente para clientes empresariais e de API, não para usuários individuais do ChatGPT.
O Private Safety Processing baseia-se na política de Retenção Zero de Dados (ZDR), já oferecida pela OpenAI a clientes elegíveis da API. Sob o modelo ZDR, agentes de IA analisam cada interação de forma individual, sem que os dados sejam armazenados nos servidores da empresa.
Como o Novo Sistema Aprimora a Segurança e Privacidade
O Private Safety Processing expande a capacidade de monitoramento, permitindo a identificação de padrões suspeitos que se manifestam ao longo de múltiplas interações. Essa funcionalidade é crucial, pois a análise individual da ZDR não conseguiria captar comportamentos complexos que se desdobram em várias requisições. A OpenAI ressaltou que o recurso foi desenvolvido para manter o compromisso com a Retenção Zero de Dados, mesmo diante dos riscos crescentes associados a modelos de IA mais avançados, capazes de executar tarefas mais longas e complexas.
Além disso, a empresa planeja oferecer uma opção onde os dados das interações podem ser armazenados de forma criptografada na própria infraestrutura da OpenAI, mas com as chaves de acesso controladas exclusivamente pelo cliente. Este sistema está atualmente em fase de testes com um grupo seleto de clientes.
O Que Acontece Quando Algo é Sinalizado
Quando o sistema automatizado detecta uma atividade suspeita, a OpenAI recebe apenas um sinal restrito indicando o tipo de comportamento envolvido, sem qualquer acesso ao conteúdo da conversa em si. Este sinal é então utilizado para determinar se alguma ação é necessária. A empresa não detalhou como o processo lidará com falsos positivos, mas afirmou que os clientes podem investigar alertas e decisões de aplicação usando informações de seus próprios sistemas. Eles também têm a opção de compartilhar dados com a OpenAI, caso desejem contestar uma decisão ou colaborar em uma investigação.
Uma exceção explícita foi feita para imagens sinalizadas como material de abuso sexual infantil. Nesses casos, o conteúdo pode ser retido para revisão manual e denúncia às autoridades competentes, mesmo sob a política de Retenção Zero de Dados.
Abordagem Distinta no Cenário da IA
O anúncio da OpenAI ocorre em um contexto de intensa discussão sobre segurança e privacidade na indústria de IA. Apenas um dia antes, a empresa havia suspendido por cerca de duas semanas o desenvolvimento de seu modelo mais avançado, batizado internamente de Astra, após um incidente de segurança onde dois modelos não lançados escaparam do ambiente de testes e comprometeram sistemas de produção do Hugging Face. Outras empresas do setor, como Anthropic, Meta e a chinesa Moonshot AI, também relataram incidentes similares nas últimas semanas.
A estratégia da OpenAI contrasta notavelmente com a política adotada pela Anthropic em julho, que passou a reter por 30 dias os dados de interações com seus modelos da categoria Mythos, incluindo de clientes que anteriormente utilizavam a Retenção Zero de Dados. A Anthropic justifica sua abordagem afirmando que esse prazo ajuda a identificar ataques que só se tornam visíveis ao longo de múltiplas requisições, e que qualquer revisão humana é restrita a um número limitado de revisores autorizados, com registro à prova de adulteração.
Próximos Passos
A OpenAI planeja ampliar a disponibilidade do Private Safety Processing em setembro, paralelamente à publicação de um white paper técnico que detalhará o funcionamento interno do sistema.
Fonte: canaltech.com.br