Processo de Elon Musk expõe dúvidas sobre segurança da OpenAI

A tentativa judicial de Elon Musk de desmontar a OpenAI está abrindo uma disputa sobre até que ponto a área comercial da empresa se distanciou da promessa inicial de desenvolver inteligência artificial geral em benefício da humanidade, com foco em segurança.

Em audiência nesta quinta-feira, em um tribunal federal em Oakland, na Califórnia, uma ex-funcionária e ex-integrante do conselho da organização relatou que a pressa em transformar pesquisas em produtos de mercado teria colocado em segundo plano a preocupação com riscos da tecnologia.

Rosie Campbell trabalhou na equipe de prontidão para AGI da OpenAI a partir de 2021 e deixou a companhia em 2024, após o fechamento do seu time. No mesmo período, outro grupo voltado a segurança, dedicado a “super alinhamento”, também foi encerrado. Segundo ela, a cultura interna mudou: no início, predominavam discussões sobre pesquisa e segurança; com o tempo, a empresa passou a se comportar mais como uma organização voltada a produto.

Em seu depoimento, Campbell reconheceu que captar grandes volumes de recursos é essencial para a ambição de criar uma inteligência artificial geral, mas argumentou que lançar modelos extremamente poderosos sem salvaguardas adequadas contraria o propósito que a atraiu para a OpenAI. Ela citou como exemplo a decisão da Microsoft de disponibilizar uma versão do GPT‑4 na Índia, via mecanismo de busca Bing, antes que o modelo passasse pela avaliação do Deployment Safety Board, o comitê interno responsável por revisar riscos de implementação.

Campbell afirmou que, naquele caso específico, o modelo não representava uma ameaça grave por si só, mas que a situação evidenciava uma fragilidade de governança. Para ela, é crucial estabelecer precedentes firmes à medida que os sistemas se tornam mais potentes, com processos de segurança claros e cumpridos de forma consistente. Sob questionamento dos advogados da OpenAI, porém, a testemunha admitiu que, em sua opinião pessoal e especulativa, a abordagem de segurança da OpenAI ainda é superior à da xAI, empresa de IA criada por Musk e posteriormente adquirida pela SpaceX.

A OpenAI costuma divulgar avaliações técnicas dos seus modelos e publicou um documento público descrevendo sua estrutura de segurança, embora tenha se recusado a comentar em detalhes a estratégia atual de alinhamento com AGI. Em fevereiro, a empresa contratou Dylan Scandinaro, ex-Anthropic, para liderar a área de prontidão; o CEO Sam Altman chegou a dizer que a chegada do executivo o faria “dormir melhor à noite”.

O episódio do GPT‑4 na Índia foi um dos elementos que levaram o conselho da entidade sem fins lucrativos que supervisiona a OpenAI a demitir Altman em 2023, em um afastamento que durou poucos dias. A decisão veio após queixas internas, incluindo de Ilya Sutskever, então cientista-chefe, e de Mira Murati, então CTO, sobre o estilo de gestão de Altman e sua relutância em lidar com conflitos.

Tasha McCauley, que integrava o conselho na época, relatou ao tribunal que havia preocupação com o grau de transparência de Altman. Segundo ela, para um modelo de governança em que uma fundação sem fins lucrativos supervisiona uma subsidiária lucrativa, o fluxo de informações do CEO para o conselho era insuficiente para decisões bem embasadas.

McCauley mencionou ainda reportagens que descrevem um histórico de comunicação enganosa do executivo com o próprio conselho. Em um caso emblemático, Altman teria mentido a outro conselheiro sobre a intenção dela de remover Helen Toner, conselheira que havia coassinado um artigo com críticas implícitas à política de segurança da OpenAI. Também pesou o fato de o lançamento público do ChatGPT não ter sido informado ao conselho com antecedência, assim como potenciais conflitos de interesse não terem sido devidamente comunicados.

A tentativa de afastar Altman coincidiu com uma oferta secundária de ações destinada a funcionários, o que aumentou a tensão interna. Com o apoio da maioria dos colaboradores ao executivo e a intervenção da Microsoft em favor da continuidade da gestão atual, o grupo de conselheiros que se opunha a Altman acabou deixando o cargo, revertendo a mudança no comando.

Para Musk, essa sequência de acontecimentos reforça a tese de que o domínio da estrutura com fins lucrativos sobre a fundação comprometeu o acordo original entre os fundadores, que era manter o foco na pesquisa segura em vez de maximizar valor de mercado. David Schizer, ex-reitor da Faculdade de Direito da Universidade Columbia e contratado pela equipe de Musk como especialista, argumentou que a OpenAI construiu sua reputação ao afirmar que priorizaria segurança em detrimento de lucro — e que isso exige levar a sério regras internas de revisão de risco.

Segundo Schizer, o ponto central não é apenas o resultado de um lançamento, mas a robustez do processo: se um modelo precisa passar por avaliação, isso deve acontecer, independentemente de pressões comerciais. Com a inteligência artificial já profundamente integrada a empresas privadas de diversos setores, ele e McCauley defenderam que os problemas de governança vistos na OpenAI indicam a necessidade de regulações públicas mais fortes para sistemas avançados.

McCauley resumiu a preocupação dizendo que é insustentável deixar decisões com impacto sobre o interesse público concentradas na figura de um único CEO. Para ela, depender apenas da boa vontade de lideranças corporativas em temas que envolvem riscos sistêmicos ligados à IA é “muito abaixo do ideal”.