Contexto de agentes precisa de contrato, validade e orçamento

Adi Polak propõe, em artigo na InfoQ, tratar o contexto como uma camada de controle da arquitetura de agentes, com seleção, estruturação, compressão e proteção dos dados antes da inferência.[1] O ponto interessante para engenharia não é encontrar mais um nome para recuperação de documentos. É tornar explícito quem decide o que o modelo pode considerar válido em cada ação.

O que muda para quem desenvolve

Na distinção da autora, contexto é o estado temporário da inferência, memória mantém continuidade entre interações e conhecimento reúne fatos e regras de domínio curados.[1] O motor de contexto proposto fica separado do modelo e combina registros históricos com sinais atuais, como resultados de ferramentas e telemetria.[1]

Minha leitura: essa separação permite discutir contratos em vez de discutir apenas prompts. Uma decisão antiga pode explicar por que um serviço foi configurado de determinada maneira, mas não deveria provar que ele continua saudável. Para uma ação operacional, eu exigiria evidência recente, identidade da origem e uma regra explícita para lidar com informação vencida.

A proposta também organiza o ciclo em seleção, injeção, compressão e expiração ou atualização, incluindo recuperação semântica, palavras-chave e relações em grafos.[1] Não interpreto isso como obrigação de instalar três mecanismos de busca. Começaria pela política de seleção e só aumentaria a infraestrutura quando uma falha observada justificasse o custo.

Como aplicar

Um experimento pequeno pode usar um agente fictício de suporte com três entradas: procedimento aprovado, histórico de atendimento e estado atual de um serviço. Monte casos em que essas entradas concordam, divergem ou estão incompletas.

1. Atribua origem, data de observação e categoria a cada entrada.
2. Defina quais categorias exigem atualização antes de uma recomendação.
3. Separe instruções, evidências e esquema de resposta em blocos distintos.
4. Compare a montagem indiscriminada de contexto com a seleção por política, mantendo modelo e tarefas iguais.

Meça respostas sustentadas pelas evidências, uso de dados vencidos, tokens e tempo de resposta. Inclua um caso em que a resposta correta seja admitir que falta informação. Esses seriam resultados do experimento, não números já demonstrados pela notícia.

Cuidados e limites

A autora alerta para acumulação de documentos, retenção sem limites e distorções introduzidas pela compressão de históricos.[1] Por isso, eu preservaria a ligação entre síntese e evidência original e avaliaria resumos com perguntas cuja resposta dependa de exceções.

O trade-off é real: políticas mais rigorosas podem exigir consultas adicionais e produzir menos respostas imediatas. Ainda assim, prefiro uma ausência declarada de evidência a uma decisão apoiada em memória vencida. Melhor contexto deve ser tratado como controle de qualidade, não como autorização para executar ações sem validação.

Fonte

[1] Fonte: InfoQ