Causa: Contexto longo, repetido ou conflitante
Melhoria: Remova ruído, estruture prioridades e use ponteiros para detalhes sob demanda.
Contexto, tokens e cache de LLM
Janela disponível não é licença para enviar tudo
Objetivo
Distinguir token de autenticação, token de LLM e token de design, estimando contexto, custo e degradação.
História
Um agente recebe documentação, conversa, código e resultados de ferramentas. Tudo compete por atenção. A janela pode comportar o material e ainda assim o resultado piorar por ruído.
Hipótese a testar
Mais contexto ajuda até o ponto em que relevância, organização e contradições passam a custar mais que a informação adicional.
Pré-requisitos
- texto
- LLM básico
Simulador
Altere uma variável, antecipe o efeito e compare com o indicador. A escala mostra pressão relativa, não uma garantia de segurança.
Faixa controladaReveja o contrato e os testes antes de concluir.
Fluxo observado
- instruções
- entrada
- recuperação
- tool results
- modelo
- saída
O que observar
- Token de autenticação é credencial; token de LLM é unidade de processamento; design token é variável visual.
- Prefix cache reutiliza prefixos idênticos, mas não torna conteúdo irrelevante gratuito.
- Compaction preserva estado vivo; não deve inventar decisões.
Erros comuns e melhoria
Causa: Histórico inteiro reenviado
Melhoria: Compacte, separe fases e estabilize prefixos quando o provedor suportar cache.
Exercício guiado
- Estime tokens de três versões do mesmo prompt.
- Remova um documento e preveja o impacto antes de simular.
- Escreva um handoff com decisões, evidências e próximos passos.
Desafio independente
Projete o contexto mínimo para um agente implementar um ticket sem carregar todo o repositório.
Evidência exigida
Comparação de três composições com hipótese, custo aproximado, resultado e decisão.