Fortfield AI Newsletter · Notícias
OpenAI, Anthropic e Google DeepMind discutem regras de segurança para IA
Empresas avançam em conversas sobre riscos de modelos de inteligência artificial enquanto governo Trump resiste a novas restrições para o setor
Por Fortfield AI ·
OpenAI, Anthropic e Google DeepMind mantêm há semanas conversas sobre medidas de segurança para sistemas avançados de inteligência artificial. A informação foi confirmada por Chris Lehane, responsável global por políticas públicas da OpenAI, durante reuniões em Washington com parlamentares dos Estados Unidos.
O debate ganhou força após Dario Amodei, CEO da Anthropic, defender uma atuação coordenada entre as empresas para reduzir os riscos associados aos modelos de IA mais poderosos. A proposta recebeu apoio público de nomes como Sam Altman, da OpenAI, Demis Hassabis, do Google DeepMind, e Elon Musk, da SpaceXAI.
Altman afirmou que a OpenAI pretende adotar avaliações externas de segurança, permitindo que especialistas independentes analisem os sistemas da companhia. Nos bastidores, as três empresas também estariam discutindo a criação de uma entidade voltada à definição de padrões para a indústria de IA.
A coordenação, porém, levanta dúvidas sobre possíveis implicações concorrenciais. Executivos do setor reconhecem que uma colaboração ampla demais poderia ser interpretada como uma tentativa de limitar a competição. Amodei sugeriu uma autorização restrita do governo para permitir cooperação em segurança, mas a OpenAI avalia que esse tipo de aval não seria necessário.
O tema também expõe uma divergência com a Casa Branca. O presidente Donald Trump tem minimizado os alertas sobre riscos da inteligência artificial e argumenta que regulações mais duras poderiam prejudicar a competitividade dos Estados Unidos frente à China. David Sacks, principal assessor do governo para IA, também classificou como exageradas as preocupações sobre riscos existenciais da tecnologia.
No Congresso, a OpenAI declarou apoio a uma proposta incluída no FRONTIER Act que prevê auditorias independentes em laboratórios responsáveis pelos modelos mais avançados. A ideia é ampliar a verificação externa sobre a forma como essas ferramentas são desenvolvidas e testadas antes de chegarem ao mercado.