O que equipes de engenharia relatam após o trabalho.
Resultados de revisões de custo, engajamentos de arquitetura e investigações de latência com equipes de IA em produção no Brasil.
← Voltar ao inícioO que dizem as equipes
A revisão de custo veio antes de uma reunião de planejamento de capacidade. O breakdown por workload mostrou que 38% do nosso gasto mensal estava em chamadas de embedding que poderíamos ter cacheado. Ninguém na equipe tinha olhado para isso antes.
A investigação de latência foi direta. Eles instalaram o tracing, coletaram dados por alguns dias em carga real, e entregaram um relatório que dizia exatamente onde o tempo estava indo. Não foi o modelo — era a serialização de resposta que estava adicionando 200ms em média. O setup de tracing ficou com a gente e usamos até hoje.
O engajamento de arquitetura levou dez semanas, como combinado. Não gostei de uma decisão de design no começo e discutimos abertamente — o documento de arquitetura foi ajustado antes de qualquer código ser escrito. O runbook foi entregue junto com a implantação e a equipe de plantão está usando até hoje.
Usamos a revisão de custo como entrada e depois contratamos a investigação de latência. A sequência fez sentido — o custo nos mostrou onde olhar, e o trace confirmou que o gargalo de latência estava exatamente naquele componente. Dois serviços separados, mas o diagnóstico foi coerente.
O relatório de custo é curto e direto. Duas páginas, uma lista de cinco ajustes ranqueados por impacto estimado, e uma seção de premissas. Implementamos os dois primeiros itens internamente e o resultado ficou dentro do intervalo que eles tinham estimado. Sem surpresas.
Contratamos o engajamento de arquitetura depois de uma falha em produção que afetou usuários por algumas horas. O processo foi metódico — eles documentaram o comportamento de falha de cada componente antes de propor mudanças. O rollback ensaiado na semana 9 foi a parte que mais fez diferença para o time de plantão.
Casos em detalhe
Fintech de Recife — Custo de token cresceu 3x em 4 meses sem mudança de volume
Conta de API de modelos triplicou sem aumento proporcional de uso. Ninguém na equipe conseguia identificar onde o gasto havia concentrado.
Leitura de 90 dias de billing exports. Mapeamento por endpoint e tipo de chamada. Identificação de chamadas de reranking sendo feitas para queries que não precisavam delas.
Dois ajustes implementados internamente. Gasto mensal reduziu para valor compatível com o volume de uso, dentro do intervalo previsto no relatório.
"O relatório mostrou exatamente o que precisávamos ver. Não precisamos de nenhuma mudança de infraestrutura — só de saber onde olhar." — Lead de Engenharia
Startup de automação — Stack de serving sem caminho de rollback documentado
Modelo em produção sem autoscaling configurado, sem fila de requisições e sem runbook. Uma falha havia derrubado o serviço por três horas sem procedimento claro de recuperação.
Dez semanas de redesign de serving. Implementação de fila, autoscaling com política baseada em tráfego real, testes de carga no P50/P95/P99, rollout em etapas e runbook.
P95 de latência caiu de ~1.8s para ~420ms com tráfego de pico. Rollback ensaiado e documentado antes da implantação final. Equipe de plantão com procedimento claro.
"A parte do rollback ensaiado foi o que convenceu o time. Não é só ter o plano escrito — é saber que ele foi testado." — CTO
Plataforma de conteúdo — Latência P99 subiu de 600ms para 2,4s após deploy de nova versão do modelo
Após atualizar o modelo base, o P99 de latência mais que quadruplicou. A equipe suspeitava do modelo, mas não tinha dados para confirmar. O tráfego de produção continuava com degradação.
Instalação de tracing distribuído cobrindo todo o caminho de requisição. Coleta de dados durante 72 horas em tráfego real. Análise por componente — modelo, desserialização de resposta, processamento de prompt e rede.
O modelo era responsável por 280ms adicionais — o resto vinha de uma mudança no formato de saída que aumentou o tamanho das respostas e o tempo de desserialização. Correção no processamento de prompt. P99 voltou a 580ms em dois dias.
"Sem o trace, teríamos continuado olhando para o modelo. O problema estava um nível acima. O setup ficou com a gente e agora monitoramos latência por componente continuamente." — Eng. de Plataforma
Fale com a equipe
Rua Padre Carapuceiro 733
Boa Viagem, Recife, PE
Seg–Sex: 09h–18h
Sábado: 09h–13h
Precisa de um número antes de planejar capacidade?
A revisão de custo entrega um mapa do gasto atual em uma semana, sem precisar de mudanças de infraestrutura.
Solicitar avaliação — R$ 780