Seis passos para controlar a explosão de agentes de IA nas empresas

A consultoria Gartner elaborou um conjunto de seis passos para ajudar empresas a lidar com o crescimento acelerado dos agentes de Inteligência Artificial e limitar os riscos associados a essa expansão. A instituição estima que, até 2028, uma corporação global típica listada na Fortune 500 poderá ter mais de 150 mil agentes em operação, frente a menos de 15 em 2025, o que tende a elevar de forma significativa a complexidade de TI e os desafios de gestão.

Segundo o Gartner, líderes de tecnologia e Chief Information Officers já observam uma multiplicação rápida desses agentes em diferentes áreas de negócio, muitas vezes sem coordenação central. Esse movimento abre espaço para problemas como desinformação, exposição indevida de dados, compartilhamento excessivo de informações sensíveis e até perda de ativos estratégicos. Para tentar conter esses riscos, algumas organizações optam por bloquear ou restringir o uso de agentes de IA, mas a consultoria afirma que essa estratégia não se sustenta no longo prazo.

A avaliação do Gartner é que, ao impedir o uso de ferramentas aprovadas, as empresas estimulam a adoção de “shadow AI” – soluções não autorizadas, usadas à margem das políticas internas. Esse tipo de uso paralelo aumenta ainda mais a superfície de risco, uma vez que foge dos controles de segurança e governança corporativa. Em vez disso, a recomendação é buscar um equilíbrio: criar mecanismos de governança que contenham a expansão desordenada dos agentes, ao mesmo tempo em que se oferece um ambiente seguro para que os colaboradores possam inovar com essas tecnologias.

Para apoiar esse movimento, o Gartner descreve seis etapas que podem servir como roteiro para CIOs e líderes de TI estruturarem políticas, controles e boas práticas em torno de agentes de IA.

Definir governança e políticas específicas para agentes

O primeiro passo é estabelecer diretrizes claras sobre o ciclo de vida dos agentes de IA. Isso inclui determinar em quais casos eles podem ser criados, quem está autorizado a desenvolvê-los e compartilhá-los e quais fontes de dados, sistemas e conectores podem ser utilizados. Regras bem definidas reduzem a improvisação e dão mais previsibilidade ao uso da tecnologia.

Criar um inventário centralizado de agentes

Em seguida, a recomendação é mapear todos os agentes que estão em uso na organização, tanto os desenvolvidos em plataformas oficiais quanto aqueles associados a iniciativas de shadow AI. Ferramentas de gestão de confiança, risco e segurança de IA (AI TRiSM) podem apoiar na identificação e categorização desses agentes, permitindo uma visão consolidada do cenário. A partir desse inventário, torna-se possível aplicar controles adaptativos, ajustando as políticas de acordo com o nível de risco de cada agente.

Estruturar identidade, permissões e ciclo de vida

Outro ponto central é tratar cada agente como uma entidade com identidade própria, sujeita a modelos formais de permissão e controle de acesso. Isso envolve revisar periodicamente quais agentes ainda fazem sentido, remover aqueles redundantes ou sem uso e evitar uma expansão descontrolada no ambiente. Um processo estruturado de criação, revisão e desativação ajuda a manter apenas agentes relevantes e alinhados aos objetivos de negócio.

Fortalecer a governança da informação usada pela IA

A consultoria também recomenda definir com clareza quais bases de dados e conteúdos podem ser acessados pelos agentes. É essencial garantir que as informações sejam atualizadas, que suas permissões sejam revisadas com regularidade e que dados obsoletos sejam arquivados ou removidos. Dessa forma, diminui-se o risco de compartilhamento excessivo, vazamento de dados confidenciais e decisões tomadas com base em informação desatualizada.

Monitorar e corrigir o comportamento dos agentes

Outro passo é implementar mecanismos de monitoramento contínuo do uso e do desempenho dos agentes de IA. Com visibilidade em tempo real, as equipes de TI podem verificar se as políticas internas estão sendo cumpridas, detectar comportamentos anômalos e intervir quando um agente ultrapassar o escopo previsto ou o nível de risco aceitável. A capacidade de correção rápida é decisiva para evitar que incidentes se tornem problemas sistêmicos.

Incentivar uma cultura de uso responsável da IA

Por fim, o Gartner reforça a importância de investir em formação e conscientização da força de trabalho. Programas de treinamento, comunidades de prática e fóruns internos ajudam a disseminar boas práticas, esclarecer dúvidas e alinhar o uso dos agentes às diretrizes da organização. Com uma cultura de uso responsável, a empresa consegue aproveitar o potencial da IA para inovar e ganhar eficiência, mantendo os riscos em níveis gerenciáveis.