OpenAI lança sistema de segurança que monitora abusos sem reter dados de empresas

A OpenAI apresentou uma nova abordagem de segurança voltada a clientes corporativos que promete identificar possíveis usos indevidos de seus modelos de inteligência artificial sem armazenar informações das empresas. A solução, chamada Private Safety Processing, está sendo testada com um grupo seleto de clientes.

A proposta é permitir que sistemas automatizados detectem sinais de atividades suspeitas em conversas e interações realizadas ao longo do tempo, sem que o conteúdo seja guardado pela OpenAI. Isso amplia o conceito de retenção zero de dados, já utilizado em parte das soluções oferecidas via API pela companhia.

Segundo a empresa, o mecanismo foi desenvolvido para reconhecer comportamentos maliciosos que podem ser fragmentados em várias sessões, uma estratégia que poderia ser usada, por exemplo, por alguém tentando desenvolver códigos para ataques cibernéticos sem levantar alertas em uma única conversa. A análise é feita por agentes automatizados, sem revisão humana direta do histórico do cliente.

Quando há indícios de risco, o sistema gera um alerta específico e limitado para a OpenAI. A partir disso, a companhia pode avaliar se precisa entrar em contato com o cliente para entender o contexto ou tomar medidas de proteção. O compartilhamento de dados detalhados, porém, dependeria da decisão da própria empresa usuária.

O anúncio acontece em meio à crescente concorrência entre OpenAI e Anthropic no mercado de IA corporativa. A Anthropic adotou recentemente uma política que permite a retenção de dados por até 30 dias em determinados modelos mais avançados, com o objetivo de acompanhar possíveis abusos. A medida gerou preocupação entre organizações que lidam com informações sensíveis e exigem maior controle sobre seus dados.

Para empresas de tecnologia, segurança, saúde, finanças e outros setores regulados, a privacidade passou a ser um fator decisivo na escolha de ferramentas de IA. Ao combinar monitoramento automatizado e ausência de retenção de conteúdo, a OpenAI tenta se posicionar como uma alternativa mais adequada para operações que precisam conciliar inovação, compliance e proteção de informações estratégicas.