Quem controla o que a IA responde? Ex-chefe de notícias da Meta quer mudar as regras do jogo

Campbell Brown construiu a carreira em torno da busca por informação confiável: primeiro como jornalista de televisão amplamente reconhecida, depois como a primeira e única executiva dedicada exclusivamente à área de notícias no Facebook. Agora, diante de uma nova mudança de era na forma como o público se informa, impulsionada pela inteligência artificial, ela enxerga velhos erros se repetindo e decidiu não esperar que outra empresa tente consertar o problema.

Brown é cofundadora da Forum AI, startup que avalia o desempenho de modelos de IA em temas que ela classifica como de alto risco, como geopolítica, saúde mental, finanças e processos de contratação, justamente áreas em que não existem respostas simples e binárias. A proposta é identificar autoridades reconhecidas em cada assunto, usar esse conhecimento para criar benchmarks avançados e, em seguida, treinar juízes de IA capazes de avaliar, em escala, como os modelos se saem nessas situações mais complexas.

Na frente de geopolítica, por exemplo, a Forum AI montou um time de peso com nomes como Niall Ferguson, Fareed Zakaria, o ex secretário de Estado Tony Blinken, o ex presidente da Câmara Kevin McCarthy e Anne Neuberger, que chefiou a área de cibersegurança no governo Obama. A meta é fazer com que os avaliadores automatizados cheguem a cerca de 90% de consenso com esses especialistas humanos, patamar que Brown afirma já ser possível alcançar.

A gênese da empresa remete ao período em que Brown ainda estava na Meta, pouco depois do lançamento público do ChatGPT. Ela relata ter percebido rapidamente que chatbots generativos se tornariam o novo funil por onde passaria grande parte das informações consumidas pelas pessoas e que, naquele estágio, essa tecnologia ainda entregava resultados decepcionantes. Pensando no impacto direto sobre seus próprios filhos, descreve ter sentido o problema quase como uma questão existencial: se nada fosse feito, as novas gerações cresceriam cercadas de respostas pobres e imprecisas.

O que mais a incomodou foi notar que a preocupação central das big techs de IA parecia estar em capacidades de código e matemática, deixando de lado a dimensão de notícias e informação, que é mais difícil de tratar e medir. Para Brown, essa dificuldade não pode ser desculpa para ignorar o tema: justamente por ser mais desafiador, deveria estar no centro da agenda.

As primeiras avaliações da Forum AI sobre os principais modelos do mercado não foram animadoras. Brown cita, por exemplo, casos em que o Gemini recorreu a sites do Partido Comunista Chinês para responder perguntas que não tinham qualquer relação com a China, além de identificar uma tendência de viés político à esquerda em praticamente todos os sistemas analisados. Ela também aponta falhas mais sutis, como falta de contexto relevante, ausência de perspectivas alternativas e a prática de caricaturar argumentos sem deixar claro que isso está acontecendo.

Essa visão crítica não surgiu do nada: Brown passou anos dentro do Facebook observando as consequências de priorizar métricas erradas. Ela admite que muitos dos esforços conduzidos na plataforma, incluindo o programa de checagem de fatos que ajudou a estruturar, fracassaram ou foram descontinuados. A lição, diz ela, é que a obsessão por engajamento mostrou se nociva para o debate público e contribuiu para deixar as pessoas menos bem informadas, efeito que ela não quer ver se repetir na era da IA generativa.

Para Brown, ainda há uma oportunidade de a IA romper esse ciclo. Na visão dela, a indústria está em uma encruzilhada: pode seguir entregando apenas aquilo que o usuário deseja ouvir ou tentar priorizar o que é mais próximo da realidade, com honestidade e compromisso com a verdade. Ela reconhece que falar em otimizar para a verdade pode soar idealista, mas acredita que o mercado corporativo, preocupado com responsabilidade legal em áreas como crédito, seguros e contratação, tende a pressionar por sistemas mais precisos, que errem menos.

É justamente nessa demanda empresarial que a Forum AI aposta seu modelo de negócios, oferecendo avaliações profundas de modelos em contextos regulatórios e de conformidade. O desafio, porém, é transformar o interesse inicial em contratos recorrentes, em um cenário em que muitas empresas ainda se contentam com auditorias padronizadas e checklists que Brown considera claramente insuficientes.

Ela não poupa críticas ao atual cenário de compliance em IA, que chama de piada. Ao comentar a lei de Nova York que exige auditorias de algoritmos usados em processos de contratação, lembra que o controlador do estado identificou violações em mais da metade dos casos, falhas que passaram despercebidas pelos mecanismos de fiscalização existentes. Para Brown, avaliações sérias exigem especialistas de domínio capazes de mapear não só os riscos óbvios, mas também situações de borda que podem criar problemas justamente por não estarem nos roteiros tradicionais de teste.

A fundadora defende que consultores generalistas não dão conta da complexidade desses cenários e reforça que construir análises robustas leva tempo e exige conhecimento profundo de cada setor. No ano passado, a Forum AI levantou 3 milhões de dólares em rodada liderada pelo fundo Lerer Hippeau, reforçando a aposta de investidores na tese de unir julgamento humano qualificado e avaliação sistemática de IA.

Com essa trajetória, Brown se vê em uma posição privilegiada para comparar o discurso que domina a indústria de IA com a experiência real da maioria dos usuários. Ela observa que os grandes executivos de tecnologia falam de sistemas capazes de revolucionar o mundo, automatizar trabalho em massa e até colaborar com a cura de doenças graves, enquanto muita gente ainda recebe respostas cheias de erros e texto ruim ao fazer perguntas simples a um chatbot.

Essa dissonância ajuda a explicar, em sua avaliação, por que a confiança do público em IA permanece tão baixa. Brown acredita que parte dessa desconfiança é justificada, já que a conversa em Silicon Valley gira em torno de ambições grandiosas, ao passo que a população lida com limitações concretas e bem menos glamourosas no dia a dia. Reconstruir essa confiança, para ela, passa por medir melhor, com ajuda de especialistas, o que esses sistemas realmente entregam e por redefinir quem, na prática, decide o que a IA conta para cada um de nós.