Startup levanta US$ 40 milhões para auditar riscos de agentes de IA nas empresas

A expansão dos agentes de inteligência artificial dentro das empresas vem acompanhada de uma preocupação crescente: como garantir que esses sistemas cumpram limites de segurança, privacidade e operação antes de receberem acesso a dados e processos críticos?

É nesse espaço que atua a Artificial Intelligence Underwriting Company, ou AIUC. A startup acaba de captar US$ 40 milhões em uma rodada Série A liderada pela Ribbit Capital, com participação da First Harmonic. Antes disso, a empresa havia recebido US$ 15 milhões em uma rodada seed, levando o volume total captado a US$ 55 milhões.

A empresa foi fundada por Rune Kvist, um dos primeiros funcionários da Anthropic, e Rajiv Dattani, ex-diretor de operações da METR, organização voltada à pesquisa sobre segurança em IA. A proposta é oferecer às companhias uma avaliação externa sobre o comportamento de agentes de IA, especialmente aqueles capazes de executar tarefas, acessar informações e interagir com ferramentas corporativas.

A AIUC afirma já atender empresas como Cursor, Lovable, Harvey e ElevenLabs. Seu modelo busca adaptar à inteligência artificial uma lógica já conhecida no setor de cibersegurança: a de auditorias e certificações que ajudam empresas a avaliar fornecedores antes de adotar suas tecnologias.

Para isso, a startup criou o padrão AIUC-1, inspirado em estruturas como o SOC 2, amplamente utilizado para analisar controles de segurança e gestão de dados. O objetivo é verificar se um agente de IA se comporta de forma previsível e segura em situações que podem representar risco ao negócio.

Segundo a companhia, os sistemas são submetidos a cerca de 5 mil testes. As avaliações incluem tentativas de burlar restrições, produção de informações incorretas, exposição indevida de dados e outras falhas que podem comprometer operações corporativas. Ao fim do processo, o cliente recebe um relatório detalhado, com aproximadamente 100 páginas, apontando os pontos fortes, as limitações e os riscos identificados.

A execução dos testes usa ferramentas de IA para acelerar a análise, mas a validação final é feita por profissionais humanos. A metodologia foi construída com contribuições de cerca de 250 executivos das áreas de segurança e risco, que ajudam a definir quais critérios importam para organizações interessadas em contratar agentes autônomos.

A aposta da AIUC é que o principal entrave para a adoção de agentes de IA não será apenas a capacidade tecnológica dos modelos. Para bancos, hospitais, governos e grandes empresas, a questão central é ter garantias de que essas ferramentas respeitarão regras, não vazarão informações e não agirão fora do escopo previsto.

Com a pressão por uso de IA generativa crescendo, a certificação independente pode se tornar uma camada relevante de confiança entre fornecedores de tecnologia e clientes corporativos. A AIUC quer ocupar justamente esse papel: tornar mais claro onde um agente é confiável e em quais condições ele ainda exige supervisão e controles adicionais.