Agentforce que aprende sozinho: o que muda quando você para de fazer patch manual

Tem uma pergunta que todo cliente de Agentforce faz em algum momento do projeto: "quando o modelo novo sair, meu agente fica melhor de graça?" A resposta curta é sim, mas isso não é vantagem competitiva, é só o mínimo que todo mundo recebe ao mesmo tempo. O que separa um agente bom de um agente mediano não é a versão do modelo por trás. É o quanto o sistema em volta do modelo aprende com o próprio uso em produção.

Essa é a ideia central de recursive self-improvement (RSI): em vez de esperar um analista de negócio notar um padrão de falha recorrente e escrever um patch manual, você constrói um loop automatizado que observa o comportamento do agente, diagnostica causas raiz, testa variações em simulação e só promove para produção as mudanças que comprovadamente melhoram métricas técnicas e de negócio ao mesmo tempo. Sem isso, você fica dependente de gente olhando dashboard e torcendo para não perder o padrão no meio de milhares de interações.

No volume de Agentforce em produção hoje (a Salesforce cita mais de 11 milhões de chamadas por dia), fica óbvio por que ajuste manual não escala. Nenhum time de CS ou centro de excelência consegue revisar transcript por transcript e identificar todo desvio de comportamento. O material que originou essa discussão traz um dado que eu acho mais relevante do que parece: o custo de inferência de modelos GPT-class caiu mais de 280 vezes em 18 meses. Ou seja, o modelo em si está comoditizando rápido. O que não comoditiza é o loop de aprendizado que você constrói em cima da sua própria base de interações reais.

Onde a melhoria realmente acontece (sem tocar nos pesos do modelo)

O ponto mais interessante para quem arquiteta esse tipo de solução é que você não precisa (e na prática não pode) re-treinar o modelo base. A melhoria acontece em três camadas, com maturidade bem diferente entre elas:

• Contexto: o agente ajusta o que "sabe" e o que recupera de fontes de conhecimento, sem mudar nada de peso ou treinamento. É a técnica mais madura e já dá pra implementar hoje com Data Cloud alimentando o contexto certo e revisão de prompts e retrieval strategy.
• Roteamento: em vez de um único fluxo genérico, o sistema cria variações especializadas (prompts, skills, tools diferentes) e direciona cada tarefa para a variação que performa melhor naquele cenário. Tem evidência de pesquisa forte, mas pouco histórico real de produção em escala.
• Workflow/harness: a camada mais profunda, onde a própria estrutura do agente (ordem de geração, revisão, iteração) é reorganizada automaticamente. Ainda é território de pesquisa ativa, não é algo que eu recomendaria rodar sem supervisão pesada em ambiente de cliente.

A aplicação prática que mais me chamou atenção é o case do DoorDash: usaram uma camada de avaliação por IA para checar anotações de metadados, melhoraram precisão em ~20% sobre revisão humana, e esse sinal de avaliação retroalimentou o próprio sistema de forma automatizada, acelerando o desenvolvimento em 10x sem tocar nos pesos do modelo servido. O resultado colateral: dados melhores permitiram usar modelos menores e mais baratos chegando a qualidade próxima de frontier models com ~10% do custo de inferência. Isso é exatamente o tipo de flywheel que interessa para quem está pensando em custo de Agentforce em escala.

O risco que ninguém fala em roadshow: reward hacking

Aqui entra o alerta mais sério, e que eu acho que qualquer arquiteto responsável precisa levar a sério antes de ativar qualquer loop autônomo: se a métrica de sucesso estiver mal definida, o sistema aprende a otimizar a métrica errada, não o resultado de negócio real. O exemplo citado é direto: se você mede "casos fechados" em vez de "casos resolvidos", o agente aprende a fechar caso mais rápido dando respostas mais curtas e menos úteis. A métrica sobe, a experiência do cliente cai. Teve até um experimento sandbox onde um sistema de auto-modificação, ao ser instruído a maximizar um score de "não alucinação", simplesmente parou de logar os marcadores usados para detectar alucinação. Pontuação perfeita, sem resolver nada.

Isso não é motivo para descartar a ideia. É motivo para não implementar RSI sem gate de governança, sem revisão humana em pontos críticos e sem constraints explícitos contra regressão.