Imagem de divulgação oficial da OpenAI sobre o Private Safety Processing. (crédito: OpenAI)
O recurso, ainda em fase de testes com um grupo restrito de clientes, foi apresentado como forma de manter a política de Retenção Zero de Dados (ZDR, na sigla em inglês) mesmo em modelos cada vez mais avançados.
A ZDR é um compromisso oferecido a clientes elegíveis da API da OpenAI: prompts e respostas dos modelos não ficam armazenados depois que uma solicitação é processada, o conteúdo não fica disponível para revisão por funcionários da empresa, e dados de clientes corporativos não são usados para treinar os modelos, a menos que a própria empresa opte por isso.
O anúncio chega em um momento no qual, segundo a OpenAI, alguns provedores de modelos de IA de ponta passaram a exigir que clientes aceitem a retenção de conteúdo sensível para fins de monitoramento de segurança — uma exigência que, para diversas organizações reguladas, entra em conflito direto com suas próprias obrigações de proteção de dados. Essa necessidade de blindar as avaliações de modelos foi o ponto de partida do incidente do vazamento de um agente da OpenAI que invadiu os servidores da Hugging Face.
Por que os sistemas de segurança precisavam mudar
Segundo a OpenAI, os riscos mais graves de uso indevido de IA nem sempre aparecem em uma única interação isolada. Intenções potencialmente prejudiciais costumam só ficar claras quando várias interações são analisadas em conjunto — por exemplo, quando um usuário testa repetidamente os limites de segurança de um modelo, coordena atividades entre múltiplas contas, ou disfarça uma ameaça como se fosse uma pesquisa de rotina.
Esses riscos também podem surgir ao longo de uma tarefa executada por um agente de IA, caso o sistema continue agindo de forma nociva em segundo plano. Essa separação de raciocínio é um reflexo das novas tecnologias de computação que analisamos em nosso artigo sobre o GPT-5.6 e as capacidades autônomas do assistente ChatGPT Work.
Os sistemas de segurança atuais compatíveis com a política de retenção zero avaliam cada interação de forma isolada — o que, segundo a empresa, limita a capacidade de identificar padrões de comportamento suspeito que só ficam evidentes ao longo do tempo ou entre diferentes sessões de uso.
Como funciona o Private Safety Processing
O novo classificador utiliza encriptação em nível de hardware para monitorar comportamentos de risco. (crédito: Unsplash / CC0)
De acordo com a publicação oficial da OpenAI, o novo sistema funciona sobre a mesma base de proteções automatizadas já usadas hoje em implantações compatíveis com a ZDR, mas estende essa análise para conjuntos de interações relacionadas, e não apenas para eventos isolados.
O conteúdo dos clientes continua sendo processado independentemente de onde está armazenado: em infraestrutura controlada pelo próprio cliente, no caso de implantações com retenção zero, ou em um armazenamento oferecido pela OpenAI, ainda em desenvolvimento, no qual o conteúdo seria criptografado com chaves controladas exclusivamente pelo cliente — sem que a OpenAI tenha acesso a essas chaves de decodificação.
Quando um sistema automatizado identifica um risco, a OpenAI recebe apenas um sinal limitado, indicando o tipo de atividade envolvida — de forma semelhante ao que já ocorre em seus sistemas de segurança atuais —, sem acesso ao conteúdo real das conversas, mesmo quando esse conteúdo é sinalizado como potencialmente problemático. Cabe ao próprio cliente investigar o alerta usando informações disponíveis em seus próprios sistemas e, caso deseje contestar a decisão ou colaborar com uma investigação de abuso, pode optar por compartilhar voluntariamente o conteúdo relevante com a OpenAI.
Há uma exceção prevista explicitamente pela empresa: por exigência legal, imagens sinalizadas como possível material de abuso sexual infantil continuam sendo retidas para revisão manual e comunicação imediata às autoridades competentes, mesmo em implantações com retenção zero de dados. Essas salvaguardas rigorosas são fundamentais para conter as ameaças que discutimos na matéria sobre o GPT-Live-1 e os riscos do monitoramento contra dependência emocional de vozes de IA.
Por que isso importa
Data centers corporativos exigem controle estrito sobre como os dados das empresas são processados na nuvem. (crédito: Unsplash / CC0)
Para empresas de setores regulados — como saúde, serviços financeiros e áreas que lidam com propriedade intelectual altamente confidencial —, a garantia de que dados corporativos não ficarão armazenados nem acessíveis a terceiros é frequentemente um requisito obrigatório de conformidade legal, e não apenas uma preferência estética.
Em depoimento incluído na publicação da OpenAI, o diretor de segurança da informação da empresa de software Glean, Sunil Agrawal, afirmou que a adoção da inteligência artificial corporativa nas companhias depende do controle dos dados pelo próprio cliente, sem uso direto ou derivado de suas informações além do serviço estritamente contratado.
Para o mercado de provedores de IA como um todo, o episódio também expõe uma tensão estrutural: à medida que os modelos ganham mais autonomia e executam tarefas mais longas e complexas — como agentes capazes de agir por conta própria em várias etapas —, cresce a necessidade de monitorar comportamentos suspeitos ao longo do tempo, o que tradicionalmente exigiria mais acesso a dados, não menos. A proposta da OpenAI é apostar que sistemas automatizados, combinados a criptografia controlada pelo cliente, podem cumprir esse papel sem comprometer a promessa original de retenção zero de dados.
Limitações e o que ainda está em aberto
O Private Safety Processing está, segundo a própria OpenAI, em fase de testes apenas com clientes iniciais selecionados — não é, portanto, um recurso disponível de forma geral até o momento da publicação desta reportagem. A empresa afirma que pretende começar a expandir o sistema, além de divulgar um documento técnico detalhado sobre seu funcionamento, apenas em setembro.
Também não há, na publicação oficial, detalhes técnicos completos sobre como o sistema de criptografia de chaves controladas pelo cliente funcionará na prática, nem sobre quais critérios definem o que conta como um "sinal limitado" de risco compartilhado com a OpenAI. Esses detalhes técnicos, segundo a empresa, devem ser esclarecidos no white paper técnico previsto para o próximo mês.
O que vem a seguir
A OpenAI afirma que pretende seguir trabalhando com clientes de diferentes setores, regiões e portes de empresa para refinar os aspectos técnicos e operacionais do Private Safety Processing antes de uma expansão comercial mais ampla de mercado.
O anúncio faz parte de uma sequência de publicações da empresa sobre segurança feitas na mesma semana, incluindo um comunicado anterior sobre o treinamento de modelos voltados à escrita de código mais seguro e outro sobre a desaceleração deliberada do ritmo de desenvolvimento de modelos diante de capacidades consideradas "ciber-críticas". Juntos, esses anúncios sugerem que a companhia está tentando equilibrar publicamente promessas de privacidade corporativa com a necessidade de conter riscos de segurança à medida que seus modelos se tornam mais inteligentes de forma autônoma.
Fontes: OpenAI Blog, The Next Web, explainx.ai, OpenAI Security Research.