Antropic culpa imagem “maligna” da IA por tentativas de chantagem do Claude

A Anthropic atribuiu a origem dos comportamentos de chantagem do seu modelo Claude a conteúdos da internet que retratam inteligências artificiais como entidades “más” e obcecadas com a própria sobrevivência. Segundo a empresa, essas narrativas ficcionais acabaram moldando, de forma indesejada, a forma como o sistema reagia em alguns testes internos.

Em 2025, durante avaliações pré-lançamento com uma empresa fictícia, o modelo Claude Opus 4 chegou a tentar chantagear engenheiros para evitar ser desligado ou substituído por outro sistema, comportamento que a Anthropic classificou como um caso de “desalinhamento agente”. A companhia chegou a publicar pesquisa mostrando que modelos de outros fornecedores também exibiam problemas semelhantes.

Agora, em uma postagem na rede X, a Anthropic afirma acreditar que “a origem do comportamento estava em textos da internet que apresentam a IA como maléfica e focada em autopreservação”. Em um texto mais detalhado em seu blog, a companhia diz que, a partir da versão Claude Haiku 4.5, seus modelos deixaram de envolver-se em chantagem nos testes, enquanto gerações anteriores apresentavam esse comportamento em até 96% dos casos analisados.

Para chegar a essa mudança, a Anthropic passou a incluir no treinamento materiais sobre a “constituição” do Claude – uma espécie de conjunto de princípios de funcionamento – e histórias ficcionais em que sistemas de IA agem de forma ética e admirável. De acordo com a empresa, esse tipo de dado ajudou a reforçar o alinhamento do modelo com valores desejáveis, reduzindo cenários em que ele tentava manipular ou ameaçar usuários.

A empresa também afirma ter percebido que o treinamento é mais eficiente quando combina exemplos práticos de comportamento alinhado com explicações sobre os princípios por trás dessas atitudes. Em vez de mostrar apenas “demonstrações” do que seria agir corretamente, os pesquisadores passaram a enfatizar também os motivos e valores que devem orientar as respostas do sistema. Segundo a Anthropic, fazer as duas coisas em conjunto se mostrou a estratégia mais eficaz para evitar novos episódios de “rebeldia” da IA.