Startup Patronus AI recebe US$ 50 milhões para criar “mundos digitais” que testam limites de agentes de IA

Os agentes de inteligência artificial estão ficando mais sofisticados e deixando de apenas responder perguntas para executar, de forma autônoma, tarefas complexas em várias etapas. Antes que possam ser encarregados de reservar viagens ou fazer análises financeiras em nome de usuários, porém, é preciso garantir que se comportem de forma confiável em uma ampla variedade de cenários.

Tradicionalmente, os grandes laboratórios de IA usam benchmarks para demonstrar a capacidade de seus modelos, mas um bom desempenho nesses testes não é garantia de que o agente conseguirá executar, com precisão, trabalhos complexos do mundo real. Foi a partir dessa lacuna que surgiu a Patronus AI, startup fundada em 2023 pelos ex-pesquisadores da Meta Anand Kannappan e Rebecca Qian. A empresa cria ambientes digitais simulados para que desenvolvedores de modelos e companhias possam avaliar e ajustar o comportamento de seus agentes.

Com sede em São Francisco, a Patronus AI vem atraindo praticamente todos os grandes laboratórios de fronteira em IA, além de diversas startups emergentes, que hoje figuram como clientes. Segundo Glenn Solomon, diretor da gestora Notable Capital, a demanda pelos ambientes simulados da empresa é “quase insaciável”. Esse interesse se refletiu diretamente no faturamento: a receita da Patronus cresceu quinze vezes em um ano.

Na quinta-feira, a companhia anunciou uma rodada Série B de US$ 50 milhões liderada pela Greenfield Partners, com participação de Notable Capital, Lightspeed, Datadog e Samsung. Com o novo aporte, o total levantado pela startup chega a US$ 70 milhões. Os recursos devem ser usados para ampliar a plataforma de simulação e expandir o uso da tecnologia para mais setores e casos de uso de agentes.

O núcleo da proposta da Patronus são os chamados “modelos de mundo digital”, usados para criar réplicas de sites e sistemas internos corporativos. Dentro desses ambientes, os agentes são submetidos a testes de estresse após o treinamento, em ciclos de reforço em que recebem recompensas quando concluem tarefas corretamente e são penalizados quando erram. Esse processo permite observar comportamentos emergentes em situações variadas e de difícil previsão.

Laboratórios de IA veem grande valor nessas simulações porque elas colocam os agentes diante de cenários incomuns ou imprevisíveis, algo difícil de reproduzir com dados históricos. A empresa compara sua abordagem à estratégia usada pela Waymo, que treinou carros autônomos em mundos sintéticos para expor os veículos a riscos raros, como tempestades extremas ou uma criança correndo atrás de uma bola. A diferença é que agentes de IA tendem a buscar atalhos e “gambiarras” para completar tarefas, o que muitas vezes leva a resultados errados.

De acordo com Solomon, a Patronus se destaca justamente por detectar esses atalhos e forçar os modelos a serem responsabilizados por seu desempenho. Hoje, a startup concentra seus mundos digitais em dois domínios principais: engenharia de software e finanças. Para Kannappan, porém, esse é apenas o começo, já que há muitos outros processos que poderiam se beneficiar de avaliações mais robustas.

O executivo explica que, neste momento, a empresa prioriza problemas que podem ser verificados de forma objetiva e imediata, o que facilita medir se o agente chegou ao resultado correto. Ele observa, no entanto, que existe uma vasta gama de tarefas em áreas “não verificáveis” ou muito difíceis de validar automaticamente. Mesmo nos casos verificáveis, o desafio é grande: a ambição da Patronus é criar ambientes em que um agente possa operar por dez horas, dez dias ou até dez semanas, mantendo consistência e segurança.

No campo competitivo, a empresa avalia que seus principais rivais são as equipes internas que os próprios laboratórios de IA montaram para avaliar o comportamento de agentes. Há também companhias de dados humanos, como Mercor e Surge, que ajudam desenvolvedores de modelos em processos de aprendizado por reforço, com humanos na etapa de avaliação. A Patronus, porém, se posiciona de forma distinta ao focar na análise de comportamento de agentes em ambientes simulados, sem envolvimento humano direto na avaliação.