Código gerado mais rápido pode apenas antecipar o gargalo da depuração
Uma pesquisa com líderes de engenharia aponta mais geração e dificuldade de compreensão. A métrica útil é entrega aceita, não volume produzido.
Uma pesquisa da Coleman Parkes encomendada pela Undo ouviu 300 líderes seniores de engenharia de software de missão crítica, majoritariamente relacionado a C/C++.[14] Segundo a reportagem da InfoQ, 79% afirmam que agentes geram código significativamente mais rápido, mas o esforço de entender e depurar o resultado impede que o ciclo de liberação seja percebido como mais rápido.[14] São respostas dos participantes, não um experimento que mede causalidade.
O que muda para quem desenvolve
As equipes relatam médias de 9,8 horas semanais produzindo código e 16,9 horas depurando problemas de desenvolvimento ou produção.[14] Também informam que 35% do código gerado chega à produção antes de ser plenamente compreendido e que 80% veem dificuldade dos agentes em problemas difíceis de bases complexas.[14]
Minha análise é que velocidade de geração precisa ser observada junto da capacidade de absorção da equipe. Uma alteração só representa avanço quando alguém consegue validar seu comportamento, explicar seus limites e manter o resultado. O tempo poupado na escrita pode ser consumido em etapas que a métrica de volume nem enxerga.
O levantamento registra ainda relatos de incidentes e diagnósticos incorretos por alucinação nos seis meses anteriores.[14] Esses relatos justificam investigar o fluxo, mas não permitem afirmar que qualquer uso de agente cause indisponibilidade. A amostra e o método precisam continuar visíveis na interpretação.
Como aplicar
Escolha uma classe de alterações recorrentes e acompanhe o caminho completo: início, proposta, revisão, correções, aceitação e problemas posteriores. Registre tempo de revisão e retrabalho separadamente do tempo de geração. Compare tarefas de dificuldade semelhante, sem presumir equivalência apenas porque os diffs têm tamanho parecido.
Antes de delegar, escreva critérios de aceitação e testes para os comportamentos críticos. Peça mudanças menores, com justificativa das decisões e dos caminhos de falha. A explicação ajuda a orientar a revisão, mas deve ser confrontada com o código e a execução, não aceita como prova.
Um experimento útil é revisar uma alteração assistida sem olhar primeiro para a narrativa do agente. Identifique invariantes, dependências e comportamento de erro; só depois compare com a explicação fornecida. Se houver divergência, registre qual evidência decidiu a questão.
Para depuração, proponho exigir hipótese, observação que a sustenta e teste que poderia refutá-la. Uma causa apresentada com confiança não deve autorizar mudança em produção sem demonstração do vínculo com o sintoma.
Cuidados e limites
A pesquisa foi patrocinada pela Undo, que vende tecnologia ligada à análise de causa.[14] Isso não invalida os dados, mas exige reconhecer o contexto comercial e evitar transformar o levantamento em prova universal.
Os percentuais são frequências declaradas, não taxas de defeito por linha de código nem medição isolada do efeito de agentes.[14] Minha recomendação não é abandonar a ferramenta. É parar de confundir produção de texto com conclusão de engenharia e medir o ponto em que a mudança realmente fica aceitável e sustentável.
Fonte
[14] Fonte: InfoQ