Pesquisadores de segurança digital criticam restrições do novo modelo Fable da Anthropic

A Anthropic lançou nesta terça-feira o Fable, seu novo modelo de inteligência artificial voltado ao público, apresentado como uma versão limitada do poderoso e já muito comentado modelo de cibersegurança Mythos. Pesquisadores e profissionais da área, porém, afirmam que as regras de segurança embutidas no sistema estão exageradas e acabam tornando o modelo praticamente inútil para trabalhos legítimos em segurança digital.

Desde o anúncio, vários especialistas em cibersegurança passaram a relatar nas redes sociais que o Fable recusa sistematicamente qualquer pedido que tenha alguma relação, mesmo indireta, com temas de segurança ou hacking. Alguns mencionam que até tarefas consideradas inofensivas, como pedir que o modelo leia e comente um post de blog sobre segurança, são bloqueadas pelos filtros internos.

Quando uma solicitação ativa esses mecanismos de proteção, o Fable interrompe a conversa e informa que suas medidas de segurança marcaram aquela mensagem como relacionada a assuntos de cibersegurança ou biologia. Segundo a Anthropic, essas barreiras foram criadas para reduzir o risco de o modelo ser usado na criação de malware, exploração de falhas em software ou no desenvolvimento de armas biológicas, preocupação que a empresa já vinha destacando em iniciativas anteriores.

O Mythos, modelo em que o Fable se baseia, foi lançado em abril com acesso limitado a um pequeno grupo de empresas e organizações, dentro de um programa batizado de Project Glasswing, focado em proteger softwares críticos e infraestruturas sensíveis. Na semana passada, a Anthropic ampliou o acesso ao Mythos para centenas de organizações em 15 países, reforçando sua estratégia de posicionar a tecnologia como ferramenta de defesa e não de ataque.

Para muitos profissionais, contudo, a forma como os bloqueios foram implementados no Fable passa a impressão de ser um sistema pouco refinado, baseado em palavras-chave, que dispara sempre que encontra termos ligados ao universo da cibersegurança. Especialistas relatam que, ao pedir ajuda para escrever código mais seguro, o modelo interpreta automaticamente a tarefa como atividade de segurança ofensiva e reduz o nível de resposta, migrando para uma versão mais genérica do Claude quando as barreiras são acionadas.

Apesar das críticas, alguns pesquisadores reconhecem que a Anthropic está em uma fase inicial de ajuste dessas proteções e que é provável que os filtros sejam calibrados com o tempo, à medida que a empresa interagir mais com a comunidade de segurança e com startups especializadas em defesa cibernética. A avaliação de parte desses especialistas é que, em um primeiro momento, pode ser preferível bloquear demais a liberar de menos, com a expectativa de relaxar gradualmente as restrições conforme a tecnologia e os processos de verificação evoluem.

Outra queixa recorrente é que até pedidos de revisão de código ou análise de segurança de aplicações próprias têm sido barrados pelo Fable, o que frustra profissionais que gostariam de incorporar o modelo em fluxos de trabalho legítimos de auditoria e teste. Até o momento, a Anthropic não comentou publicamente as reclamações sobre o funcionamento das salvaguardas.

Além das barreiras técnicas dentro do modelo, a empresa criou um programa de verificação voltado a profissionais de cibersegurança, o Cyber Verification Program. Quem é aprovado passa a ter menos limitações para usar os modelos Claude em atividades de segurança, com mais margem para testes, análises e simulações. A OpenAI mantém uma iniciativa semelhante, chamada Trusted Access for Cyber, que também busca conciliar o uso de IA em segurança com controles mais rígidos sobre quem acessa recursos avançados.