Quando a automação funciona: métricas que medem o sucesso

Última atualização: 05 de julho de 2021 —

 

Como as organizações sabem quando a automação está em seus negócios? pipelines de entrega de software Está funcionando? É crucial avaliar o sucesso de uma forma significativa — uma que identifique o valor entregue aos clientes e não se concentre apenas na velocidade ou na eficiência.

Existem diversas métricas importantes que permitem DevOps As equipes devem identificar e quantificar as melhorias realizadas com a implementação da automação em vários estágios do pipeline de entrega de software, desde a compilação até a finalização. desenvolvimento e ensaio.

Alguns dos chave DevOps métrica que revelam informações sobre o quão bem a automação está funcionando no DevOps O pipeline inclui:

  • Deployduração do mento
  • Deploytaxa de falha do ment
  • Taxa de escape de defeitos
  • Taxa de falha em testes automatizados

Além disso, o Google DevOps A equipe de Pesquisa e Avaliação (DORA) identificou quatro chave DevOps medições indicativo do desempenho de entrega de software de uma organização e da sua capacidade de cumprir os seus objetivos. DevOps metas Essas métricas principais são:

  • Tempo De Espera
  • Deployfrequência de mento
  • Tempo médio para restauração
  • Alterar a porcentagem de falhas

O valor de adicionar automação

Adicionar e implementar automação em todo o CI / CD O pipeline, incluindo configuração, implantação e testes, é um dos principais DevOps princípios. A automação também é altamente eficaz na melhoria do desempenho por meio de:

  • Eliminar processos manuais obsoletos ou desnecessários
  • Identificar e eliminar gargalos no processo de entrega.
  • Eliminar processos mais lentos e propensos a erros.

Existem diversos benefícios associados ao aumento dos testes automatizados no pipeline de CI/CD. Primeiro, teste automatizado Permite processos de teste mais rápidos. Também é importante para melhorar a cobertura de testes em áreas como garantia de qualidade, regressão e testes de desempenho.

Entretanto, relatórios do setor mostram que as organizações estão observando uma Aumento do valor da automação de testes, que é mensurável em vários KPIs e métricas. De acordo com um relatório recente da World Quality Report: “À medida que a automação continua a crescer e as organizações aumentam o nível de automação em seus ecossistemas de teste, os entrevistados afirmaram que estão obtendo maior valor com a automação, como melhor controle e transparência das atividades de teste, reutilização de casos de teste e detecção de defeitos”, observa o relatório.

É também imprescindível que as organizações tomem uma atitude em relação a abordagem mais inteligente para testes automatizados que se concentra em gerar valor. Em um artigo recente sobre o desafios envolvidos na automação de testesObservamos que o objetivo principal dos testes automatizados deve ser "criar valor de forma eficiente", e não apenas "concluir testes rapidamente".

Além disso, DevOps As equipes devem estar atentas às métricas que vão além da simples questão de saber se um processo está automatizado. Observamos que "as métricas devem manter o foco no valor e nos benefícios da automação, como o tempo de ciclo mais rápido, a maior frequência de implantação, a menor taxa de defeitos não detectados e menos trabalho não planejado".

Métricas que monitoram o desempenho de suas ferramentas automatizadas e fornecem insights inteligentes.

As métricas de processo e desempenho podem ajudar a avaliar a organização. DevOps Estratégia. As métricas podem ajudar as equipes a determinar o que está funcionando, o que está ficando para trás e se uma organização está perto de atingir suas metas e objetivos de entrega de software e CI/CD.

De acordo com as um DevOps especialista“As métricas fornecem um indicador confiável e de longo prazo do desempenho da sua equipe de desenvolvimento de software. Elas abrem caminho para que sua equipe experimente diferentes abordagens e avalie seu impacto usando um padrão comum.”

Também é fundamental garantir que as equipes sejam usando as métricas corretasOu seja, aquelas que fornecem informações úteis que mostram se você está ou não atingindo suas metas e objetivos de entrega de software. Aqui está uma breve visão geral de algumas métricas-chave e o que elas podem revelar sobre seus processos automatizados:

  • DeployDuração do mentoEssa métrica mede quanto tempo leva para implementar um conjunto de alterações. Normalmente, isso é afetado pela quantidade de processos manuais ainda existentes. A automação do processo pode melhorar essa métrica.
    • Valor: Mostra se a atividade de implantação está se tornando mais ou menos eficiente ao longo do tempo.
  • Taxa de escape de defeitosEsta métrica mede o número de defeitos encontrados na produção em comparação com o número de defeitos encontrados no desenvolvimento.
    • Valor: Esta métrica indica se os testes automatizados, a revisão de código e outros processos de qualidade estão funcionando ou precisam ser aprimorados.
  • DeployTaxa de falha do mentoEssa métrica monitora a frequência com que as implantações falham. DeployAs falhas de produção estão frequentemente relacionadas a defeitos imprevistos e podem ser associadas a processos manuais problemáticos ou à falta de feedback visível da produção.
    • Valor: Uma alta taxa de falhas pode revelar fragilidades no processo de implantação, incluindo gargalos ou erros humanos. Aumente a automação pode melhorar esse indicador.
  • Taxa de falha em testes automatizadosEssa métrica monitora o desempenho dos seus testes automatizados e a frequência com que eles falham.
    • Valor: Essa métrica pode revelar se seus testes são relevantes e confiáveis.

Melhores práticas para avaliar métricas relacionadas à automação

As organizações devem adotar boas práticas ao avaliar as métricas que mensuram os diferentes tipos de automação implementados. As equipes precisam garantir que estão interpretando os resultados de forma eficaz e não se concentrando em métricas inadequadas. É fundamental que as equipes não percam de vista os principais objetivos do monitoramento de métricas de processo e desempenho: aumentar a produtividade, otimizar a integração contínua/entrega contínua (CI/CD) e agregar valor aos usuários e clientes.

Em um recente relatório técnico sobre soluções de gerenciamento de fluxo de valor, observa a Forrester que DevOps As organizações “devem usar métricas de processo para obter uma melhor compreensão de onde estão os obstáculos no fluxo de valor”. O relatório afirma que organizações com “formas díspares de medir métricas” apresentam uma capacidade limitada de mensurar valor.

No entanto, a Forrester também observa que as organizações que utilizam uma solução de Gestão do Fluxo de Valor (VSM) relatam uma maior capacidade de mensurar seus esforços de entrega de software e aumentar sua automação. Ao utilizar uma prática e um conjunto de ferramentas de VSM, acrescentam, “as organizações podem usar métricas para impulsionar ainda mais a automação de processos e identificar áreas propícias à automação”.

Novamente, a automação por si só não é a resposta completa. Organizações que automatizam seus processos não têm garantia de sucesso imediato. Elas precisam ser capazes de determinar se a automação está tornando o trabalho mais eficiente e agregando mais valor. O feedback gerado pelas métricas, no entanto, pode apontar oportunidades para maior automação ou aprimoramento de outras práticas existentes. Ao selecionar as métricas certas, monitorá-las diligentemente ao longo do ciclo de vida do produto e usar o feedback das métricas para orientar novas mudanças em processos ou produtos, as organizações podem buscar níveis mais altos de entrega de valor a cada nova versão.

Para entender melhor a natureza do VSM e como todas as peças se encaixam, é preciso compreender a fundo a sua natureza. Baixe nosso e-book VSM !

Também recomendamos