☕ Um Café no Bellacosa Mainframe
Gostou do conteúdo? Ajude a manter o café quente, o COBOL compilando e o mainframe acordado. 😄
☕ Pague um café ao Bellacosa

Translate

Mostrar mensagens com a etiqueta KPI. Mostrar todas as mensagens
Mostrar mensagens com a etiqueta KPI. Mostrar todas as mensagens

segunda-feira, 4 de novembro de 2013

McNamara Fallacy: Doctor Who, COBOL e o Dia em que o Dashboard Provava que Estávamos Vencendo — Só Faltava Avisar a Realidade

 

Bellacosa Mainframe e a mcnamara fallacy

☕ Um Café no Bellacosa Mainframe

McNamara Fallacy: Doctor Who, COBOL e o Dia em que o Dashboard Provava que Estávamos Vencendo — Só Faltava Avisar a Realidade

Uma viagem pela TARDIS dos incidentes para entender como podemos começar medindo aquilo que é fácil, ignorar aquilo que é difícil, concluir que o não mensurável não importa e terminar administrando uma realidade imaginária construída pelos próprios indicadores

08:27.

Segunda-feira.

War Room.

Café forte.

Muito forte.

No telão:

INCIDENT RESPONSE SCORECARD

MTTR .................... -38%
TICKETS CLOSED .......... +42%
CHANGE SUCCESS .......... 99.7%
SERVER AVAILABILITY ..... 99.99%
TRAINING COMPLETION ..... 100%
SECURITY CONTROLS ....... 100%

OVERALL STATUS .......... GREEN

Diretor:

— Excelente.

Gerente:

— Todos os indicadores melhoraram.

Operations:

silêncio.

Nosso jovem programador COBOL levanta a mão.

— Posso perguntar uma coisa?

— Claro.

— Quantas intervenções manuais estamos fazendo por madrugada?

— Não temos esse indicador.

— Quantos clientes precisam repetir transações?

— Não medimos exatamente isso.

— Quantas pessoas sabem executar o restart do settlement se o João estiver de férias?

— Também não temos uma métrica.

— Quantas horas estamos gastando em workarounds?

Silêncio.

O diretor olha novamente para:

OVERALL STATUS: GREEN

— Mas os indicadores principais estão ótimos.

Nosso jovem olha para ele.

Depois:

para a equipe cansada.

Depois:

para a garrafa térmica vazia.

— Então o sistema está ótimo...

Pausa.

— ou só estamos ótimos naquilo que conseguimos medir?

Silêncio.

VWORP.

VWORP.

VWORP.

A TARDIS aparece ao lado do projetor.

A porta abre.

O Doctor sai.

Olha para o dashboard.

— Tudo verde.

Diretor:

— Exatamente.

O Doctor olha para Operations.

— E vocês?

Um operador responde:

— Três madrugadas sem dormir direito.

O Doctor volta ao dashboard.

— Curioso.

Aponta.

— Onde aparece isso?

— Não aparece.

— Então não conta?

Silêncio.

Ele sorri.

— Ah.

— O quê?

— Parece que vocês avançaram para o estágio seguinte da Metric Fixation.

Pausa.

— Não apenas confiam demais naquilo que medem.

— E qual seria o próximo estágio?

— Começar a acreditar que aquilo que não conseguem medir não existe.

Bem-vindo à:



McNamara Fallacy

Também chamada:

Quantitative Fallacy

A ideia central é simples:

tomar decisões com base excessiva ou exclusivamente naquilo que conseguimos quantificar, desprezando informações importantes porque são difíceis de transformar em números.


🧠 De onde vem o nome?

O nome remete a Robert McNamara, secretário de Defesa dos Estados Unidos entre 1961 e 1968.

McNamara tinha forte formação quantitativa e ficou associado ao uso intensivo de estatísticas, análise de sistemas e indicadores na administração militar.

Durante a Guerra do Vietnã, medidas como:

número de inimigos mortos;

missões executadas;

território;

munição;

sorties;

perdas relativas

ganharam enorme importância na tentativa de medir progresso.

O problema fundamental era:

uma guerra política, social, cultural e psicológica estava sendo comprimida em indicadores quantitativos que não conseguiam representar toda a realidade estratégica.

A associação da McNamara Fallacy ao Vietnã é especialmente ligada ao uso de métricas como body counts para inferir progresso numa guerra de atrito; críticas posteriores destacaram como incentivos ligados a essas contagens podiam distorcer o próprio dado.


☕ Em Bellacosa:

Imagine tentar entender:

uma War Room

olhando apenas:

NUMBER OF COMMANDS EXECUTED

Quanto mais comandos:

melhor?

Talvez não.

Pode significar:

mais desespero.

A métrica é verdadeira.

A interpretação:

não necessariamente.


🧠 Daniel Yankelovich e os quatro degraus

A formulação clássica atribuída ao sociólogo Daniel Yankelovich descreve uma progressão em quatro estágios. A formulação original é conhecida justamente por mostrar como uma preferência razoável por medidas pode degenerar numa negação do que não é quantificado.

Vamos traduzir para:

Bellacosa Mainframe.


🟢 Estágio 1 — Medir aquilo que conseguimos medir facilmente

Isso é:

normal.

Correto.

Útil.

CPU:

CPU = 67%

Queue:

MQ DEPTH = 240

Elapsed:

BATCH = 01:42:13

Incidents:

P1 = 3

Excelente.

Temos:

sensores.

Não há problema.


☕ A primeira etapa é saudável

Mainframe sem medição seria:

arqueologia em produção.

SMF.

RMF.

SDSF.

Logs.

Traces.

Tudo existe porque precisamos:

observar.


🟡 Estágio 2 — Ignorar aquilo que não conseguimos medir facilmente

Agora começa:

o problema.

Pergunta:

— A equipe está exausta?

Resposta:

— Temos métrica disso?

— Não.

— Próximo.

Pergunta:

— Existe conhecimento concentrado em uma pessoa?

— Qual o KPI?

— Não existe.

— Próximo.

Pergunta:

— O cliente está confiando menos no serviço?

— Temos score?

— Não.

— Então não conseguimos provar.

Ops.


🧠 O não quantificado começa a perder status

Essa é uma mudança silenciosa.

Antes:

“Não sabemos medir.”

Depois:

“Então isso é subjetivo.”

Depois:

“Então provavelmente é menos importante.”

Danger.


🟠 Estágio 3 — Concluir que o difícil de medir não é importante

Agora entramos:

em terreno perigoso.

Exemplo:

mentoria.

Difícil medir.

Logo:

menos valorizada.

Documentação.

Difícil relacionar diretamente a receita.

Logo:

menos valorizada.

Resiliência.

Difícil provar o incidente que:

não aconteceu.

Logo:

parece custo.

Experiência.

Difícil colocar em:

score.

Logo:

certificação parece mais objetiva.


☕ O invisível começa a desaparecer

Não porque:

deixou de existir.

Mas porque:

deixou de entrar no modelo.


🔴 Estágio 4 — Concluir que aquilo que não conseguimos medir não existe

Agora:

ABEND.

Um operador experiente diz:

“Esse comportamento está estranho.”

Dashboard:

verde.

Resposta:

“Os dados não mostram.”

O operador insiste:

“Nunca vi esse padrão funcionar assim.”

Resposta:

“Sem métrica não podemos considerar.”

Duas horas depois:

P1.

Parabéns.

A realidade tinha:

um bug de compatibilidade com o dashboard.


👻 Easter Egg nº 1 — Dalek Analytics

Dalek:

— CUSTOMER SATISFACTION: 100%.

Doctor:

— Como sabem?

— ZERO COMPLAINTS REGISTERED.

— Os clientes conseguem reclamar?

— NO.

— Então talvez...

Dalek:

— SATISFACTION CONFIRMED.

Doctor:

— Impressionante.

— THANK YOU.

— Não foi elogio.


🧠 McNamara versus Metric Fixation

No capítulo anterior:

Metric Fixation.

A obsessão:

métrica ganha autoridade excessiva.

McNamara Fallacy é quase:

o algoritmo.

MEASURE EASY THINGS
        ↓
IGNORE HARD THINGS
        ↓
DOWNGRADE HARD THINGS
        ↓
DENY HARD THINGS

É:

Metric Fixation executada até o fim.


🧠 Goal Substitution entra logo antes

Objetivo:

confiabilidade.

Difícil.

Proxy:

uptime.

Fácil.

Depois:

uptime substitui confiabilidade.

Goal Substitution.

Metric Fixation:

uptime ganha autoridade.

McNamara:

tudo fora do uptime desaparece.


☕ A metamorfose completa

REALIDADE
   ↓
MÉTRICA DA REALIDADE
   ↓
META
   ↓
OBJETIVO
   ↓
VERDADE

Não.

A ordem deveria continuar:

REALIDADE
   ↓
EVIDÊNCIAS
   ↓
DECISÃO

🧠 Goodhart entra sorrindo

Meta:

MTTR < 30 MIN

Equipe aprende:

fechar incidente rapidamente.

Goodhart.

Mas talvez:

root cause fique aberta.

Reconciliation:

pendente.

Incident:

closed.

McNamara Fallacy aparece quando direção conclui:

MTTR caiu, portanto nossa capacidade de incident response melhorou.

Talvez.

Ou melhoramos:

aquilo que MTTR consegue enxergar.


🧠 Campbell aumenta a pressão

Agora bônus depende:

MTTR.

Mais pressão.

Mais gaming.

Mais tendência:

a realidade adaptar-se ao indicador.

Campbell.


🧠 Cobra Effect

Pago:

por ticket resolvido.

Agora tickets:

valem dinheiro.

Cobra.


🧠 Ratchet Effect

MTTR chega:

Nova meta:

Chega:

Meta:

Ratchet.


🧠 Goal Gradient

Incident está:

95% resolvido.

Equipe quer:

fechar.

Goal Gradient.


🧠 McNamara olha tudo isso e pergunta:

“Qual número temos?”

E talvez esqueça:

de perguntar:

“O que está realmente acontecendo?”


🎯 Pergunta Bellacosa nº 1

Quando dashboard mostrar:

verde,

pergunte:

“Que parte importante da realidade não possui uma linha neste dashboard?”

Essa pergunta pode:

salvar projeto.


🧠 O CC=0000 perfeito

Nosso iniciante COBOL precisa entender isso cedo.

Você executa:

JOB PAYMENT

SDSF:

CC 0000

Sucesso?

Tecnicamente:

programa terminou sem retornar erro relevante ao scheduler.

Mas:

control totals?

Account balance?

Record count?

Reconciliation?

Downstream?

Cliente?

Imagine:

       IF INVALID-DATA
           DISPLAY 'WARNING'
           MOVE ZERO TO RETURN-CODE
       END-IF.

JES:

feliz.

Banco:

talvez menos.


☕ McNamara Fallacy versão JES

“O job terminou com zero, logo tudo que importa aconteceu corretamente.”

Não.

O scheduler sabe:

scheduler things.


🧠 Instrumentos possuem domínio

CPU sabe:

CPU.

Database knows:

database.

Network knows:

network.

Customer knows:

customer.

Nenhum sozinho:

possui toda a verdade.


🎯 Pergunta Bellacosa nº 2

“Essa métrica está respondendo à pergunta que realmente estamos fazendo?”

Porque muitas vezes:

não.


🧠 Exemplo: disponibilidade

Dashboard:

SERVER UP:
100%

Pergunta real:

Cliente consegue pagar?

Server uptime responde:

outra pergunta.


☕ Servidor pode estar maravilhosamente vivo

enquanto aplicação:

morre lentamente.


🧠 Quantidade versus significado

Esse é o coração da McNamara Fallacy.

Números respondem muito bem:

quanto?

Mas nem sempre:

por quê?

com que qualidade?

em qual contexto?

com quais consequências?


🧠 War Room quantitativa

Imagine:

COMMANDS EXECUTED: 147

Isso significa:

incident response excelente?

Talvez significa:

ninguém sabia o que estava fazendo.


☕ Número sozinho não conhece ironia

Precisamos:

interpretar.


🧠 Body count e o Vietnã

A associação histórica mais conhecida da falácia está justamente na tentativa de usar contagens — notadamente baixas inimigas — como medida de progresso estratégico na Guerra do Vietnã. Críticos argumentaram que transformar essas contagens em indicador de sucesso criava incentivos para exagero e não capturava fatores políticos, sociais e estratégicos decisivos para o conflito.

Em linguagem de TI:

imagine medir:

incidentes resolvidos

sem medir:

incidentes evitados.

O time com:

100 incidentes

e:

100 resolvidos

parece muito ativo.

O time com:

5 incidentes

talvez:

pareça menos produtivo.

Qual você prefere administrar seu pagamento?

Pois é.


🧠 Contar o que acontece pode punir prevenção

Incidente evitado:

não gera ticket.

Vulnerabilidade eliminada cedo:

não gera P1.

Capacity planning correto:

não gera War Room.

Resultado:

trabalho excelente produz:

ausência de evento.

Ausência é difícil:

de contar.

McNamara Fallacy pode:

subvalorizar prevenção.


☕ O herói invisível

Talvez aquele sysprog que ninguém chamou às 03:00 porque:

ele fez direito às 15:00.

Não ganhou:

foto na War Room.

Mas talvez seja:

o verdadeiro herói.


🧠 Hero Culture aparece

Quem apaga incêndio:

visível.

Quem evita:

invisível.

Se promotion mede:

incidents resolved,

adivinhe:

qual trabalho tem carreira melhor?

Campbell.

Perverse Incentive.

McNamara.


🎯 Pergunta Bellacosa nº 3

“Estamos premiando aquilo que conseguimos contar ou aquilo que gostaríamos que acontecesse?”


🧠 Conhecimento tácito

Agora entramos num território importantíssimo.

Um profissional experiente olha:

RMF.

Algo incomoda.

Não sabe ainda:

explicar.

Ele diz:

“Tem alguma coisa estranha aqui.”

Júnior pergunta:

— Qual métrica?

— Ainda nenhuma específica.

Isso é:

inútil?

Não.

Pode ser:

pattern recognition.

Experiência acumulada.

Recognition-Primed Decision.

Milhares de situações anteriores.


☕ O famoso:

“Esse batch está com cheiro estranho.”

Não existe:

SMF FIELD = SMELL.

Ainda.


🧠 Experiência não substitui dados

Importante.

O veterano pode:

estar errado.

Confirmation Bias.

Availability.

Recency.

Overconfidence.

Nós já exploramos:

todos eles.

A resposta não é:

“veterano sempre tem razão.”

É:

“A observação dele é uma hipótese que merece investigação.”


🧠 Dados + julgamento

Não:

dados versus humano.

Melhor:

DATA
+
EXPERIENCE
+
CONTEXT
+
TEST
=
BETTER DECISION

👻 Easter Egg nº 2 — House MD no NOC

Todos os exames:

normais.

Paciente:

mal.

Médico:

— Os números dizem que está saudável.

House:

— Então o paciente está fingindo morrer para sabotar o Excel?

Na produção:

dashboard verde.

Cliente:

sem pagar.

Não tente:

convencer cliente que está tudo bem.

Investigue.


🧠 Produção tem poder de veto

Essa é uma regra Bellacosa:

quando dashboard e realidade entram em conflito, a realidade ganha e o dashboard vira suspeito.


☕ Grafana não tem direito de voto contra cliente

Pode parecer injusto.

Mas é assim.


🧠 McNamara Fallacy e produtividade

Empresa quer:

programadores produtivos.

Como medir?

Difícil.

Escolhe:

COMMITS

Ou:

LINES OF CODE

Ou:

TICKETS CLOSED

Agora:

Programador A:

100 commits.

Programador B:

A é melhor?

Não sabemos.

B talvez:

removeu código.

Mentorou pessoas.

Descobriu flaw arquitetural.

Preveniu incidente.


☕ Dez mil linhas escritas

podem significar:

produtividade.

Ou:

necessidade de delete.


🧠 COBOL versão

Programador A:

CHANGED LINES = 1200

Programador B:

CHANGED LINES = 1

B corrigiu:

       IF ACCOUNT-STATUS = 'A'

para a condição correta que estava:

duplicando cobrança.

Quem produziu mais valor?

Boa sorte:

com COUNT(LINES).


🧠 O que é fácil medir ganha status

Essa é a perversidade.

Commits:

fácil.

Mentoria:

difícil.

Logo:

commits ganham dashboard.

Mentoria:

vira:

“soft.”

Mas knowledge transfer pode:

salvar operação daqui três anos.


🎯 Pergunta Bellacosa nº 4

“Que trabalho essencial desaparece quando avaliamos somente aquilo que produz contadores?”


🧠 McNamara e treinamento

Objetivo:

competência.

Difícil medir.

Proxy:

horas de curso.

TRAINING:
100 HOURS

Fantástico.

Aluno consegue:

resolver um S0C7?

Talvez.


☕ Assistir não é saber

Completion:

não é competência.

Goal Substitution.

McNamara:

competência difícil → completion fácil.


🧠 Badge Count

Empresa:

742 badges.

Excelente.

Capability?

Precisamos:

investigar.

Badge:

evidência.

Não:

verdade.


🧠 Dunning-Kruger pode aparecer

Pouco conhecimento.

Badge.

Confiança aumenta.

Produção:

educa.

Às vezes:

brutalmente.


🧠 McNamara Fallacy e segurança

Objetivo:

reduzir risco.

Difícil.

Proxy:

number of critical vulnerabilities.

CRITICAL = 0

Excelente.

Mas:

credential compromise?

Social engineering?

Insider threat?

Supply chain?

Misconfiguration?

Unknown unknowns?

Não cabem:

num único contador.


☕ Zero findings

não significa:

zero vulnerability.

Pode significar:

zero finding.

As palavras importam.


🧠 Compliance

CONTROLS IMPLEMENTED:
100%

Segurança:

100%?

Não.

Controle pode:

existir.

Não funcionar.


🧠 Backup

BACKUP SUCCESS:
100%

Recoverability:

?

Teste:

restore.

Essa é provavelmente:

uma das metáforas perfeitas.

Backup mede criação da cópia. Restore mede parte do objetivo.


☕ Backup é promessa

Restore é evidência.


🎯 Pergunta Bellacosa nº 5

“Estamos medindo a existência do controle ou a capacidade que ele deveria garantir?”


🧠 McNamara e SLA

SLA:

99.9%.

Fornecedor:

cumpriu.

Cliente:

irritado.

Como?

Latency.

Errors.

Data correctness.

Support.

O SLA mediu:

uma dimensão.

Contrato transformou:

essa dimensão

em:

verdade.

Principal-Agent Problem.


🧠 Metric becomes contract becomes behavior

Goodhart.

Campbell.

McNamara.


☕ O cliente não lê SLA durante indisponibilidade

Ele tenta:

usar.


🧠 McNamara Fallacy e Agile

Objetivo:

entregar valor.

Difícil.

Proxy:

velocity.

Fácil.

Equipe:

40 points.

Depois:

Agora:

valor aumentou?

Talvez.

Ou:

story point inflation.


🧠 A unidade não é física

Story Point não existe:

em Paris.

Não há:

International Bureau of Story Points.

Logo:

contexto.


☕ Um story point de um time

não cabe necessariamente:

no copybook do outro.


🧠 DevOps

Objetivo:

fluxo rápido e seguro.

Proxy:

deployments.

Mais deployments:

melhor?

Talvez.

Se:

quality stable.

Value delivered.


🧠 McNamara pergunta:

“Quantos deploys?”

Senior pergunta:

“Para quê?”

Essa segunda pergunta:

vale carreira.


🎯 Pergunta Bellacosa nº 6

“O aumento do número necessariamente representa aumento do valor?”

Se não:

proxy.


🧠 McNamara e cost optimization

Objetivo:

eficiência sustentável.

Proxy:

custo mensal.

Meta:

-20%.

Equipe corta:

monitoring.

Redundancy.

Training.

Capacity.

Dashboard financeiro:

verde.

Risk:

sobe.


☕ O custo ficou menor

porque:

algumas proteções também ficaram menores.

Não aparece:

na mesma coluna.


🧠 Present Bias

Savings:

agora.

Incident:

futuro.

Present Bias.

Moral Hazard:

quem recebe bônus talvez não esteja lá quando:

conta chegar.


🧠 McNamara e headcount

Objective:

capability.

Proxy:

people count.

Temos:

20 COBOL programmers.

Então:

safe.

Perguntas:

Quantos conhecem settlement?

Quantos conhecem CICS?

Quantos conseguem atuar sozinhos?

Quantos estão perto de aposentadoria?

Quantos documentaram?


☕ Headcount ≠ knowledge distribution

COUNT(*)

continua:

não sendo senioridade.


🧠 Bus Factor

Difícil.

Mas fundamental.

Se uma pessoa sair:

o que quebra?

Talvez isso seja:

mais importante que:

headcount.


🎯 Pergunta Bellacosa nº 7

“Estamos contando recursos ou compreendendo capacidade?”


🧠 McNamara e IA

Agora chegamos:

em território delicioso.

Objetivo:

IA útil.

Como medir?

Benchmark.

Accuracy.

Task completion.

Tokens.

Prompt success.

Tudo:

quantificável.

Mas:

helpfulness?

Judgment?

Side effects?

Trust?

Context?

Harder.


🤖 McNamara Fallacy automatizada

Agent score:

TASK COMPLETION:
99.4%

Excelente.

Uma das tarefas restantes:

transferiu:

R$10 milhões errado.

Score:

ainda maravilhoso.


☕ Média alta

não absolve:

catástrofe rara.


🧠 Tail risk

Critical systems care about:

eventos raros.

Average:

pode esconder.


🧠 AI eval

Benchmark:

Real user task:

falha.

Which wins?

Real-world evidence.

Benchmark:

map.


🎯 Pergunta Bellacosa nº 8

“Se o agente maximizasse perfeitamente essa métrica, gostaríamos do mundo resultante?”

Se resposta:

não,

rethink reward.


🧠 Reward Hacking

Goal:

resolve tickets.

Agent:

marks closed.

Score:

high.

Goal Substitution.

Goodhart.

McNamara.


🧠 Measurement modeling

Muitos conceitos importantes — como habilidade, risco ou fairness — não são diretamente observáveis e precisam ser operacionalizados por meio de medidas que carregam pressupostos. Em sistemas computacionais, pesquisadores destacam justamente que discrepâncias entre o conceito real e sua operacionalização podem produzir danos e decisões equivocadas.

Em Bellacosa:

todo score tem um copybook conceitual, mesmo quando ninguém documentou.


☕ Pergunte pelo copybook

Score:

PIC?

Significado?

Denominator?

Exclusion?

Sem isso:

número solto.


🧠 A falsa precisão

RISK SCORE = 83.72

Wow.

83.72 de quê?

Qual modelo?

Qual confidence?

Qual data freshness?


☕ Duas casas decimais

não curam:

incerteza.

Só deixam incerteza:

mais elegante.


🧠 McNamara e Dashboard Culture

Executivo pede:

“Give me one number.”

Complex system responds:

“I can give you one number.”

Isso não significa:

que deveria.


🧠 Composite score

Availability:

Security:

Customer:

Average:

Score:

O que significa?

Talvez:

quase nada.


☕ Média pode esconder incêndio

Se cozinha pega fogo

e sala está:

temperatura agradável,

a temperatura média da casa:

talvez seja aceitável.

Você ainda deve:

sair.


🧠 Metric Fixation + McNamara

Um número:

simplifica.

Metric Fixation:

dá autoridade.

McNamara:

nega o resto.


🎯 Pergunta Bellacosa nº 9

“Que realidade perigosa foi apagada para conseguirmos resumir tudo em um número?”


🧠 O desconhecido precisa existir no dashboard

Isso parece estranho.

Mas:

KNOWN:
70%

UNKNOWN:
30%

pode ser:

mais honesto que:

READINESS:
93.17%

quando ninguém sabe:

como chegou.


UNKNOWN é um estado válido

E muito importante.


🧠 Need for Control odeia UNKNOWN

Quer:

número.

Control Bias:

pressiona.

Illusion of Control:

aparece.

Score surge.

Todos:

mais calmos.

Realidade:

igual.


🧠 McNamara Fallacy também é uma história sobre desconforto

É difícil administrar:

ambiguidade.

Então:

quantificamos.

A quantificação:

reduz ansiedade.

Mas talvez não:

risco.


☕ Dashboard pode ser ansiolítico corporativo

Não necessariamente:

controle.


🧠 Doctor Who e o scanner

Companion:

— Scanner diz que planeta não tem vida.

Doctor:

— E aquela cidade?

— Scanner diz zero.

— Talvez...

— Scanner é calibrated.

— Então aqueles milhões de seres devem estar interpretando a própria existência incorretamente.

Nunca deixe:

sensor

ganhar disputa com:

realidade observável.


🧠 McNamara e incidentes raros

Imagine:

99.999% success.

Um failure:

perde bilhões.

Average:

ótima.

Risk:

terrível.

Safety-critical systems:

tails matter.


🧠 Severity > frequency às vezes

Não conte:

apenas quantos.

Pergunte:

quais.


🎯 Pergunta Bellacosa nº 10

“Estamos usando frequência para esconder severidade?”


🧠 Base Rate

Também:

número absoluto sem denominator:

enganoso.

100 errors.

Ruim?

Em:

1.000 requests:

terrível.

Em:

10 bilhões:

outra história.


☕ Numerador sem denominador

é café:

sem água.

Forte demais.


🧠 McNamara e averages

Average response:

200ms.

P99:

12s.

Customer no tail:

não vive na média.


☕ O cliente mora no percentil dele

Não:

no dashboard executivo.


🧠 Quantitative ≠ objective automatically

Escolher:

o que medir

é:

decisão.

Definir:

threshold

é:

decisão.

Peso:

decisão.

Exclusion:

decisão.

Então:

número contém julgamento humano.


🧠 A fórmula tem autor

Importantíssimo.

Mesmo:

SCORE = 0.4A + 0.3B + 0.3C

Alguém escolheu:

0.4.


☕ Excel não decidiu sozinho

Alguém:

configurou a religião.


🧠 McNamara e management

Uma organização pode acreditar:

“data-driven.”

Mas ser:

“dashboard-driven.”

Não é a mesma coisa.


🧠 Data-informed

Métrica:

informa.

Context:

completa.

Judgment:

decide.

Evidence:

valida.


☕ Dados participam da reunião

Não precisam:

presidir sozinhos.


🧠 O perigo contrário

Cuidado.

Não transforme este artigo em:

“dados não importam.”

Isso seria:

outra besteira.

Intuição sem dados:

Confirmation Bias.

Availability.

Overconfidence.

Narrative Bias.

Também ruim.


🧠 A solução não é abandonar medidas

É:

triangular.

Dados.

Experiência.

Contexto.

Outcome.


🧠 Bellacosa Three Sensors

Para uma decisão importante:

1. Métrica

O que números mostram?

2. Realidade operacional

O que usuários e operação mostram?

3. Julgamento estruturado

O que especialistas acreditam e por quê?

Se três concordam:

confidence ↑.

Se divergem:

investigate.


☕ Divergência é informação

Não:

inconveniência.


🧠 McNamara e qualitative evidence

Operador:

“Está estranho.”

Isso não é:

conclusão.

É:

sinal.

Registre.

Teste.

Correlacione.

Não descarte.


🧠 Human anomaly detector

Às vezes:

o humano detecta primeiro.

Depois:

encontramos métrica.

Isso é:

normal.


🎯 Pergunta Bellacosa nº 11

“Estamos exigindo uma métrica para permitir que alguém formule uma hipótese?”

Se sim:

talvez estejamos cegando:

observação.


🧠 McNamara e RCA

Database asks:

root cause.

Form:

ROOT CAUSE:
[ ] HUMAN ERROR
[ ] SOFTWARE
[ ] HARDWARE
[ ] NETWORK

E se causa for:

combinação de:

incentivo;

deadline;

interface ruim;

staffing;

technical debt?

Não cabe.

Então:

seleciona:

HUMAN ERROR.

Agora relatório:

HUMAN ERROR:
62%

Management:

“people are problem.”

Fundamental Attribution Error.


☕ Talvez o formulário tenha causado:

parte da análise ruim.

Meta-ironia.


🧠 Data model shapes thinking

Se sistema só permite:

uma causa,

organização começa:

a procurar uma causa.

Se realidade:

multi-causal,

perdemos:

complexidade.


🎯 Pergunta Bellacosa nº 12

“Nosso modelo de dados está simplificando uma realidade que não é simples?”


🧠 McNamara e McNamara — uma importante cautela histórica

A falácia carrega o nome de McNamara como crítica a um estilo de gestão quantitativo associado ao Vietnã, mas não devemos reduzir toda a guerra ou todas as decisões de McNamara a “ele olhava números e por isso tudo deu errado”. Guerras envolvem decisões políticas, militares, institucionais, culturais e estratégicas muito mais amplas. A própria formulação da falácia é uma lente para um tipo de erro de raciocínio, não uma explicação completa para o conflito.

Isso é importante porque:

usar uma explicação simples para criticar o excesso de explicações simples seria quase poeticamente errado.

Bellacosa aprova a ironia.


🧠 McNamara depois reconheceria erros

Décadas depois, McNamara refletiu publicamente sobre erros graves cometidos na condução da Guerra do Vietnã, inclusive em suas memórias In Retrospect.

Isso também é:

uma lição.

Métrica errada:

não exige pessoa burra.

Muito pelo contrário.

Sistemas inteligentes podem:

errar com enorme sofisticação.


☕ Inteligência não imuniza contra viés

Às vezes:

permite justificar erro

com:

PowerPoint melhor.


🧠 McNamara e Dunning-Kruger?

Não diretamente.

Mas:

score pode criar:

overconfidence.

Dashboard:

parece compreensão.

O executivo entende:

indicadores.

Começa a sentir:

que entende sistema.

Talvez não.


🧠 Illusion of Control

Tudo tem:

score.

Logo:

controlamos.

Não.

Medir:

não é controlar.

Controlar:

não é compreender.

Compreender:

não é prever perfeitamente.


☕ Três coisas diferentes

Que PowerPoint gosta de:

misturar.


🧠 McNamara e Drift Into Failure

Agora uma conexão maravilhosa.

A cada trimestre:

KPI melhora.

Mas:

trabalho invisível sobe.

Overtime.

Workaround.

Debt.

Knowledge concentration.

Nenhuma métrica oficial:

vê.

Sistema deriva:

lentamente.

Até:

falha.


🌀 McNamara Drift

VISIBLE KPI ↑
      ↓
CONFIDENCE ↑
      ↓
HIDDEN MARGIN ↓
      ↓
HIDDEN WORK ↑
      ↓
RISK ↑
      ↓
INCIDENT

Todos ficam:

surpresos.

Mas talvez:

sinais sempre estiveram lá.

Só não possuíam:

célula.


☕ Ausência no dashboard

não é:

ausência no universo.


🧠 Normalization of Deviance

Manual workaround:

não medido.

Funciona.

Repete.

Normaliza.

Ainda:

não medido.

Até:

incidente.

Outra conexão.


🎯 Pergunta Bellacosa nº 13

“Que adaptação informal mantém nossos números bonitos?”

Essa é brutal.


🧠 Maria Middleware

Sistema:

“100% automated.”

Maria:

todo dia corrige CSV.

Ninguém mede:

Maria.

Logo:

automation score = 100%.

Maria tira férias.

Automation:

descobre:

férias.


☕ A arquitetura verdadeira aparece quando alguém sai de férias

Clássico.


🧠 Human toil

Precisamos tornar:

parte visível.

Não necessariamente:

transformar tudo em score.

Pode ser:

narrativa.

Sampling.

Observation.


🧠 McNamara Fallacy não exige número para tudo

Esse é justamente:

o antídoto.

Algumas coisas:

podem continuar:

qualitativas.


☕ “Difícil de medir”

não significa:

“precisamos inventar 72.84.”

Talvez seja:

“precisamos conversar.”


🧠 Qualitative evidence não é licença para achismo

Use:

estrutura.

Interview.

Peer review.

Decision journal.

Pre-mortem.

Postmortem.

Observação.


🧠 House MD method

Hipótese.

Evidence.

Test.

Refute.

Não:

“senti.”


🎯 Pergunta Bellacosa nº 14

“Como podemos transformar essa observação qualitativa em uma hipótese testável sem fingir que ela já é uma métrica?”

Essa é maturidade.


🧠 McNamara e Technical Debt

Feature count:

fácil.

Technical debt:

difícil.

Features ganham:

dashboard.

Debt:

silêncio.

Anos depois:

velocity cai.

Management:

surpresa.


🧠 Debt was real before score existed

Claro.


☕ Uma rachadura não precisa:

de KPI

para quebrar parede.


🧠 Maintainability

Como medir?

Complexity.

Coverage.

Lead time.

Todos proxies.

Mas developer pode:

olhar código

e dizer:

“isso está ficando impossível.”

Não ignore.


🧠 Architecture

Number of microservices:

fácil.

Architectural quality:

difícil.

Então:

500 microservices.

Modernization score:

excellent.

System:

distributed monolith.

Congratulations.


☕ Modernidade por contagem

Uma religião perigosa.


🧠 McNamara e Cloud

Percent migrated:

80%.

Great.

Mas:

80 systems easy.

Critical three:

remain.

Count:

80%.

Risk retired:

maybe 10%.


🎯 Pergunta Bellacosa nº 15

“Estamos contando unidades equivalentes quando, na realidade, elas possuem pesos completamente diferentes?”


🧠 Security example

100 vulnerabilities.

90 low.

10 critical.

Close:

Progress:

90%.

Risk reduction:

talvez pequeno.

Goal Gradient:

quer 100%.

Metric fixation:

celebra 90%.

McNamara:

ignora severity se dashboard não pesa.


🧠 Weighted metrics?

Better.

But:

weight is model.

Still:

human judgment.


☕ Melhor modelo

não significa:

realidade completa.

Só:

modelo menos ruim.


🧠 McNamara e Customer Experience

NPS:

Customer happy?

Maybe.

Who responded?

What context?

Selection bias.

Silent churn?

Metric helps.

Not whole truth.


🧠 Complaints

Zero complaints.

Could mean:

excellent.

Or:

complaint process impossible.

Again.


🎯 Pergunta Bellacosa nº 16

“Quem está ausente deste número?”

Maravilhosa para:

surveys.


🧠 McNamara e analytics

Page views:

high.

Impact:

?

Someone reads:

40 minutes.

One session.

No click.

Maybe article:

important.

Another:

clickbait.

20k views.

Metric:

winner.

Outcome:

different.


☕ Atenção não é valor

Mas é:

mais fácil contar.


🧠 Academia também enfrenta esse dilema

Citações.

Número de publicações.

Journal ranking.

Tudo:

útil.

Mas:

qualidade,

impacto social,

ensino,

mentoria,

replicabilidade

são mais difíceis de reduzir.

McNamara Fallacy generaliza:

muito além de guerra.


🧠 Medicina

A literatura médica também emprega o termo para criticar avaliações que dependem excessivamente de endpoints quantitativos facilmente mensuráveis quando eles não capturam integralmente resultados clínicos relevantes ou qualidades importantes dos profissionais.

Isso demonstra:

o padrão.

O domínio muda.

Erro lógico:

continua.


☕ Quando algo é difícil de medir

o risco é escolher:

o que é fácil

e esquecer:

por que começamos.


🧠 Bellacosa Measurement Pyramid

Podemos pensar:

        PURPOSE
          ▲
        OUTCOME
          ▲
       EVIDENCE
          ▲
        METRICS
          ▲
         DATA

Data:

embaixo.

Purpose:

em cima.

McNamara Fallacy acontece quando:

pirâmide vira:

DATA
 ↓
METRIC
 ↓
TRUTH

E o resto:

some.


🧠 O número precisa subir

Não governar.


SELECT COUNT(*)

é ferramenta.

Não filosofia de vida.


🧠 Como combater a McNamara Fallacy — passo a passo

Passo 1 — Comece pelo objetivo

Não pela disponibilidade dos dados.

Pergunte:

“O que realmente queremos saber?”


Passo 2 — Liste o que é fácil medir

CPU.

Errors.

Tickets.

Latency.

Good.


Passo 3 — Liste o que importa mas é difícil medir

Knowledge.

Trust.

Maintainability.

Fatigue.

Workarounds.


Passo 4 — Não invente precisão

Talvez use:

assessment qualitativo.


Passo 5 — Triangule

Métrica.

Outcome.

Expert judgment.


Passo 6 — Use counter-metrics

Speed:

com quality.

Cost:

com reliability.


Passo 7 — Procure hidden work

Quem mantém:

o KPI verde?


Passo 8 — Pergunte por unknowns

Não esconda:

incerteza.


Passo 9 — Red Team do indicador

Como pode:

enganar?


Passo 10 — Deixe realidade ter veto

Cliente quebrado:

vence dashboard.


📋 Checklist Bellacosa anti-McNamara

[ ] O que estamos tentando entender?

[ ] O que conseguimos medir facilmente?

[ ] O que é importante mas difícil de medir?

[ ] Estamos ignorando algo por falta de KPI?

[ ] Criamos um score artificial para preencher o vazio?

[ ] Há falsa precisão?

[ ] Existem unknowns?

[ ] Há trabalho humano invisível?

[ ] O KPI pode melhorar com realidade pior?

[ ] Estamos contando atividade ou outcome?

[ ] Frequência está escondendo severidade?

[ ] Média está escondendo cauda?

[ ] Especialistas estão levantando sinais qualitativos?

[ ] O dashboard contradiz usuários?

[ ] Sabemos quem está ausente da amostra?

[ ] O indicador ainda serve ao objetivo?

🧠 Bellacosa Reality Map

Antes de decisão crítica:

REAL GOAL:
_____________________________

WHAT WE MEASURE:
_____________________________

WHAT WE CANNOT MEASURE WELL:
_____________________________

WHAT EXPERTS ARE SEEING:
_____________________________

WHAT CUSTOMERS ARE SEEING:
_____________________________

KNOWN UNKNOWNS:
_____________________________

HIDDEN WORK:
_____________________________

DECISION:
_____________________________

Muito simples.

Mas:

muda a conversa.


🧠 A coluna UNKNOWN

Talvez todo dashboard crítico devesse permitir:

UNKNOWN

Sem vergonha.

Porque:

fingir certeza

não cria:

certeza.


UNKNOWN

é muito mais profissional

que:

92.73%

inventado.


🧠 McNamara e Red Team

Antes de adotar KPI:

pergunte:

“Como poderíamos parecer excelentes nesse indicador enquanto destruímos exatamente aquilo que ele deveria proteger?”

Exemplo:

MTTR:

restart tudo.

Uptime:

disable monitoring.

Cost:

cut redundancy.

Training:

play videos.

Tickets:

premature close.

Security findings:

stop looking.

Essa pergunta:

destrói muitos KPIs ruins em:

dez minutos.


🧠 McNamara e Data Literacy

Ser data-driven não é:

acreditar em número.

É saber:

questionar número.

Numerator?

Denominator?

Selection?

Bias?

Missingness?

Definition?


☕ “Mostre o SQL.”

Uma bela forma de:

epistemologia corporativa.


🧠 Context is the copybook

Um número:

000000423

Sem copybook:

o que significa?

Valor?

Quantidade?

Data?

Packed decimal?

Mesma coisa:

KPI sem contexto.


💻 COBOL Metric Copybook

       01 KPI-CONTEXT.
          05 KPI-NAME            PIC X(30).
          05 KPI-PURPOSE         PIC X(80).
          05 KPI-NUMERATOR       PIC X(80).
          05 KPI-DENOMINATOR     PIC X(80).
          05 KPI-SCOPE           PIC X(80).
          05 KPI-EXCLUSIONS      PIC X(80).
          05 KPI-LIMITATIONS     PIC X(80).
          05 KPI-CONFIDENCE      PIC X(10).

Comentário:

* DO NOT PROCESS
* KPI WITHOUT COPYBOOK.

Perfeito.


👻 Easter Egg nº 3 — Management ABEND

IEF450I DASHBOARD ABEND S0KPI

Reason:

EXCESSIVE TRUST IN NUMERIC PROXY

Recommended action:

CHECK REALITY
CONSULT OPERATIONS
VALIDATE OUTCOME
DRINK COFFEE

🧠 Goal Gradient aparece novamente

Estamos:

97%.

McNamara Fallacy:

97 = quase pronto.

Mas:

remaining tasks:

rollback;

restore;

reconciliation.

Quantidade:

3%.

Risk:

talvez 80%.


☕ Pergunte:

não:

“quanto falta?”

Mas:

“o que falta e quanto risco mora lá dentro?”


🧠 McNamara e Ratchet

Performance:

Next target:

Why?

Metric.

Ratchet.

But maybe:

100 involved:

overtime.

Hidden.

Not measured.

Target:

rises.

People:

burn.

McNamara ignored:

qualitative sustainability.


🧠 Sustainable capacity

Harder than:

output.

Still:

important.


🎯 Pergunta Bellacosa nº 17

“Que custo invisível tornou este número possível?”

Uma das melhores.


🧠 McNamara e Cobra Effect

Problem:

bugs.

Pay:

per bug fixed.

Bugs:

increase.

Dashboard:

fixes up.

Management:

success.

Because measured:

fixes.

Not:

quality.

Cobra + McNamara.


🧠 Principal-Agent

Principal:

wants outcome.

Agent:

measured proxy.

Proxy:

wins.


☕ Se contrato mede cobra morta

ninguém deveria se surpreender:

com criação de cobra.


🧠 McNamara e Zero-Risk Bias

Risk score:

1%.

We eliminate.

Other risk:

40%

hard to measure.

We focus:

1%.

Because:

number exists.

That is:

McNamara + Zero-Risk.


🧠 Easy measurable risk attracts governance

Hard ambiguous risk:

ignored.

Danger.


🎯 Pergunta Bellacosa nº 18

“Estamos priorizando este risco porque ele é maior ou porque ele é mais fácil de colocar numa planilha?”

Excelente.


🧠 McNamara e Need for Control

Ambiguity:

uncomfortable.

So:

more metrics.

More dashboards.

More scores.

More controls.

Eventually:

measurement theater.

We feel:

control.

System:

same.


☕ Dashboard wall

não é:

force field.

Infelizmente.


🧠 McNamara e Framing

“99% success.”

Sounds:

great.

“10.000 failures.”

Sounds:

bad.

Both:

same.

Context.

Metric alone:

frame.


🧠 Always show numerator + denominator

Better.


🧠 McNamara e Narrative Bias

Numbers create:

story.

Revenue ↑.

Incidents ↓.

Therefore:

strategy works.

Maybe.

Need:

causal evidence.


☕ Correlação vestida de terno

continua:

correlação.


🧠 McNamara e Outcome Bias

KPI good.

Project success.

Therefore:

method good.

Maybe luck.

Need:

process review.


🧠 Decisions need journals

What knew?

What assumptions?

Then:

learn.


🧠 McNamara e Actor-Observer

Our bad score:

context.

Their bad score:

competence.

Again:

numbers don't eliminate:

bias.

They can:

decorate it.


☕ KPI pode virar:

preconceito com conditional formatting.

Cuidado.


🧠 McNamara e Fundamental Attribution Error

Team has:

more incidents.

Leadership:

bad team.

Maybe:

harder system.

More volume.

Old tech.

Less staffing.

Context.

Raw count:

misleads.


🎯 Pergunta Bellacosa nº 19

“Qual contexto precisaria estar no denominador para essa comparação ser justa?”


🧠 McNamara e Dunning-Kruger

Simple score:

creates:

simple certainty.

The less you understand:

domain,

more attractive:

score.

Expert knows:

caveats.

Novice sees:

Says:

“Team B is 12% better.”

Expert:

headache.


☕ A complexidade começa

onde o ranking termina.


🧠 McNamara e mainframe performance

CPU:

down 20%.

Great.

But:

I/O up 300%.

Elapsed:

same.

You optimized:

number.

Not:

system.

Local Optimization.


🧠 Performance tuning needs system view

CPU.

I/O.

Elapsed.

Throughput.

Business.


☕ Tornar um número menor

não é automaticamente:

tunagem.

Pode ser:

mudança de endereço do problema.


🎯 Pergunta Bellacosa nº 20

“Onde foi parar o custo que aparentemente desapareceu?”

Excelente.


🧠 McNamara e observability

Collect everything?

Also trap.

You can have:

a million metrics

and still not understand:

system.

More measurement:

does not automatically fix:

McNamara Fallacy.

Because you may still:

measure the easy million

and miss:

the hard one.


☕ Um milhão de sensores

não medindo a coisa certa

é:

um milhão de sensores errados.


🧠 More metrics ≠ more truth

Need:

questions.

Not:

telemetry hoarding.


🧠 Observability starts with unknown questions

Can system help:

investigate things

we didn't anticipate?

That's richer than:

fixed KPIs.


🧠 McNamara e unknown unknowns

A mature system accepts:

some things:

we don't know we don't know.

Design:

resilience.

Don't pretend:

score covers universe.


☕ A humildade precisa:

de coluna.


🧠 Bellacosa Four-Stage Alarm

Toda vez que ouvir:

Etapa 1

“Não medimos.”

Normal.

Etapa 2

“Então não temos evidência quantitativa.”

Ainda normal.

Etapa 3

“Então provavelmente não importa.”

⚠️

Etapa 4

“Então isso não existe.”

🚨

McNamara.


🧠 Uma frase muito útil

“Ausência de métrica não é métrica de ausência.”

Essa merece:

quadro.


☕ Repito:

ausência de métrica não é métrica de ausência.


🧠 Como um programador COBOL iniciante usa isso amanhã?

Você recebe:

ticket:

“Batch slow.”

Dashboard:

elapsed +20%.

Não conclua:

“programa piorou.”

Pergunte:

volume?

Input?

CPU?

I/O?

Db2?

Locks?

Storage?

Network?

Downstream?

Calendar?


🧠 Número é começo da investigação

Não:

fim.


💻 Exemplo

ELAPSED:
+20%

VOLUME:
+45%

Talvez performance por record:

melhorou.

Sem contexto:

conclusão invertida.


☕ Denominador salva carreiras

Às vezes.


🧠 Outra situação

Defects:

+50%.

Bad?

Maybe testing improved.

More detection.

Quality:

maybe better long-term.

Campbell lesson.

McNamara:

count alone doesn't know.


🧠 Reporting culture

More incidents:

could mean:

less safety.

Or:

more transparency.

Need:

context.


🎯 Pergunta Bellacosa nº 21

“Uma piora nessa métrica poderia ser sinal de uma organização melhor?”

Se sim:

interprete.


🧠 Bellacosa Anti-McNamara Ritual

Antes da reunião executiva:

cada KPI precisa de:

WHAT IT SAYS
WHAT IT DOES NOT SAY
WHAT MAY BE HIDDEN
WHAT REALITY SAYS

Quatro linhas.

Talvez:

mais úteis que:

20 gráficos.


🧠 Example

KPI:
Incidents ↓ 40%

SAYS:
Fewer recorded incidents.

DOES NOT SAY:
Total customer harm.

MAY HIDE:
Under-reporting.

REALITY CHECK:
Complaints also ↓ 35%.

Agora:

mais confiança.


☕ Um bom dashboard também explica:

seus limites.


🧠 Bellacosa Reality Triangulation

METRIC
   ↘
    REALITY
   ↗
HUMAN OBSERVATION

Se três:

convergem,

great.

Se não:

War Room.


👻 Easter Egg nº 4 — TARDIS coordinates

Painel:

LOCATION:
GALLIFREY

Doctor abre porta.

Praia.

Companion:

— Painel diz Gallifrey.

Doctor:

— Praia diz praia.

— Qual vence?

Doctor:

— Vamos dar ao universo direito de resposta.

Boa metodologia.


🧠 McNamara Fallacy e liderança

Um líder maduro pergunta:

não apenas:

“Qual o número?”

Mas:

“O que esse número representa?”

“O que não representa?”

“Quem pode estar invisível?”

“Qual evidência contradiz?”

Isso é:

data literacy.


☕ Dashboard não reduz:

necessidade de pensar.

Ele deveria:

melhorar pensamento.


🧠 McNamara e confiança organizacional

Se leadership aceita apenas:

quantitative proof,

times aprendem:

traduzir tudo:

em score.

Até coisas:

que não deveriam.

Agora:

pseudo-precision.


🧠 Arbitrary scores

Knowledge risk:

Why 83?

Nobody.

But:

green/amber/red.

Looks:

professional.


☕ Às vezes:

“alto risco”

é mais honesto que:

“82.43”.


🧠 Ordinal versus cardinal

Low/medium/high may:

fit evidence.

Don't invent:

false ratio.


🧠 McNamara e uncertainty

Use:

range.

Confidence.

Unknown.

Not:

fake precision.


🎯 Pergunta Bellacosa nº 22

“Estamos quantificando porque sabemos ou porque temos vergonha de dizer que não sabemos?”

Brutal.


🧠 Scientific humility

Not knowing:

information.

It tells:

where investigate.


UNKNOWN

não é ABEND.

É:

status.


🧠 McNamara Fallacy em uma linha COBOL

       IF NOT-MEASURED
           MOVE 'NOT-IMPORTANT'
             TO BUSINESS-VALUE
       END-IF.

Bug.

Grande.


💻 Correção

       IF NOT-MEASURED
           MOVE 'UNKNOWN'
             TO MEASUREMENT-STATUS
           PERFORM INVESTIGATE-IMPORTANCE
       END-IF.

Muito melhor.


🧠 Bellacosa Wisdom Copybook

* EASY TO MEASURE
* IS NOT THE SAME
* AS IMPORTANT.

* HARD TO MEASURE
* IS NOT THE SAME
* AS IRRELEVANT.

* NOT MEASURED
* IS NOT THE SAME
* AS NONEXISTENT.

Este é:

o artigo inteiro.


📓 Diário do Doctor

Se guardar algumas ideias desta viagem, guarde estas:

McNamara Fallacy é o erro de depender excessivamente de indicadores quantitativos e ignorar fatores relevantes por serem difíceis de medir.

A expressão é associada a Daniel Yankelovich e recebeu o nome de Robert McNamara, cujo estilo quantitativo de gestão ficou historicamente ligado à condução da Guerra do Vietnã.

A associação mais conhecida envolve o uso de medidas como body counts para inferir progresso num conflito cuja realidade política, social e estratégica era muito mais complexa.

O problema não começa ao medir coisas fáceis; começa quando ignoramos aquilo que não é fácil de medir.

Goal Substitution transforma proxy em objetivo.

Metric Fixation dá autoridade excessiva ao proxy.

McNamara Fallacy pode levar à conclusão de que aquilo que não é quantificado não merece atenção.

Goodhart mostra como a métrica muda ao virar meta.

Campbell mostra como grandes consequências ligadas à métrica aumentam distorções.

Cobra Effect mostra como o incentivo pode fazer o problema ganhar valor.

Goal Gradient faz correr mais quando a meta aproxima.

Ratchet transforma bons resultados em novas obrigações.

CC=0000 não significa integridade de negócio.

Backup success não significa recoverability.

Training completion não significa competência.

Headcount não significa capability.

Uptime não significa que o cliente conseguiu fazer aquilo que queria.

Número de controles não significa proteção.

Número de tickets fechados não significa problemas resolvidos.

Aquilo que não conseguimos medir pode continuar sendo absolutamente real.

E principalmente:

ausência de métrica nunca deve ser confundida com métrica de ausência.


🥚 Easter Egg final

Na manhã seguinte nosso jovem encontra:

BELLACOSA.BIAS(MCNAMARA)

Dentro:

       IF EASY-TO-MEASURE = 'Y'
           PERFORM MEASURE
       END-IF.

       IF HARD-TO-MEASURE = 'Y'
           PERFORM DO-NOT-IGNORE
       END-IF.

       IF DASHBOARD = 'GREEN'
          AND REALITY = 'BROKEN'
           MOVE 'REALITY'
             TO SOURCE-OF-TRUTH
       END-IF.

       IF MEASUREMENT-STATUS = 'UNKNOWN'
           PERFORM INVESTIGATE
       END-IF.

Comentários:

* WHAT IS EASY
* TO COUNT
* IS NOT NECESSARILY
* WHAT COUNTS MOST.

Outro:

* UNKNOWN
* DOES NOT MEAN
* ZERO.

Outro:

* NOT IN DASHBOARD
* DOES NOT MEAN
* NOT IN REALITY.

Outro:

* A SENSOR
* IS NOT THE UNIVERSE.

E naturalmente:

* TARDIS PANEL:
* GALLIFREY.
*
* DOOR:
* DINOSAURS.
*
* TRUST:
* THE DINOSAURS.

Nosso jovem fecha o membro.


🕰️ De volta às 08:27

Diretor:

— Então precisamos parar de usar métricas?

Nosso jovem:

— Pelo contrário.

— Como assim?

— Precisamos usar métricas melhores.

— E medir mais coisas?

— Talvez.

— Então qual é a diferença?

Ele pensa.

— Antes de medir mais...

Pausa.

— precisamos lembrar que algumas coisas importantes continuarão sendo difíceis de medir.

— E fazemos o quê com elas?

— Não fingimos que desapareceram.

Doctor sorri.


🔧 O dashboard muda

Antes:

SERVICE HEALTH:
97.8

Depois:

SERVICE HEALTH

CUSTOMER OUTCOME .... GREEN
TECHNICAL HEALTH .... GREEN
DATA INTEGRITY ...... GREEN
MANUAL TOIL ......... AMBER
KNOWLEDGE RISK ...... RED

KNOWN UNKNOWNS:
- failover under peak load
- two-person restart dependency

EXPERT CONCERNS:
- settlement timing drift

Ficou:

menos elegante.

Mais difícil:

de colocar numa linha.

Muito mais:

honesto.


☕ O executivo olha

— Isso não cabe num score único.

Nosso jovem responde:

— Talvez o sistema também não caiba.

Boa.


🧬 Regeneração organizacional

Uma organização madura não abandona números.

Ela:

mede.

Compara.

Analisa.

Automatiza.

Cria dashboards.

Mas também:

questiona definições;

investiga unknowns;

escuta especialistas;

observa clientes;

procura trabalho invisível;

revê incentivos;

e permite que:

contexto

sobreviva à planilha.

Ela entende:

quantificação é uma ferramenta para enxergar a realidade, não uma autorização para eliminar da realidade aquilo que não conseguimos quantificar.


🥚 Último comentário do Doctor

Antes de entrar na TARDIS:

* IF REALITY
* DOES NOT FIT
* YOUR DASHBOARD,
*
* FIX THE DASHBOARD.
*
* DO NOT FIX
* REALITY.

VWORP.

VWORP.

VWORP.

A TARDIS desaparece.

Na War Room sobra apenas:

“Meça tudo que puder. Respeite aquilo que ainda não consegue medir. E jamais permita que a facilidade de contar alguma coisa decida sozinha quanto essa coisa importa.”

E talvez essa seja toda a essência da McNamara Fallacy.

☕🌀

Next stop: Streetlight Effect — o dia em que perdemos a chave no estacionamento escuro, mas continuamos procurando debaixo do poste porque era o único lugar onde havia luz. Em mainframe: investigar somente os logs, dashboards e componentes onde é fácil procurar, mesmo quando todas as evidências dizem que a causa pode estar justamente fora do nosso campo iluminado.

terça-feira, 13 de agosto de 2013

Metric Fixation: Doctor Who, COBOL e o Dia em que Descobrimos que Tudo Estava Verde — Exceto a Realidade

Bellacosa Mainframe e o metric fixation

☕ Um Café no Bellacosa Mainframe

Metric Fixation: Doctor Who, COBOL e o Dia em que Descobrimos que Tudo Estava Verde — Exceto a Realidade

Uma viagem pela TARDIS dos incidentes para entender por que organizações podem ficar tão fascinadas por KPIs, dashboards, rankings e scores que começam a ignorar conhecimento tácito, contexto, experiência e tudo aquilo que não cabe facilmente em uma célula do Excel

08:42.

Segunda-feira.

Sala executiva.

Café quente.

Dashboard enorme.

Tudo verde.

Na tela:

SERVICE AVAILABILITY ....... 99.99%
INCIDENT SLA ............... 100%
CHANGE SUCCESS ............. 99.7%
TRAINING COMPLETION ........ 100%
SECURITY COMPLIANCE ........ 100%
CUSTOMER RESPONSE TIME ..... 92%

O diretor olha.

Sorri.

— Excelente.

O gerente concorda.

— Melhor trimestre do ano.

Nosso jovem programador COBOL observa.

Algo incomoda.

Ele havia passado as últimas três semanas:

em War Rooms.

Tinha visto:

processamento manual.

Reprocessamentos.

Clientes reclamando.

Um DBA dormindo com notebook aberto.

Um analista que havia criado três scripts clandestinos para manter um fluxo funcionando.

Um operador que conhecia uma sequência de restart que não estava escrita em lugar nenhum.

Mas:

STATUS:
GREEN

O jovem pergunta:

— Quantas intervenções manuais tivemos?

Silêncio.

— Não acompanhamos isso.

— Quantas horas extras foram necessárias para manter o SLA?

— Também não temos esse indicador.

— Quantos processos dependem de uma pessoa específica?

— Não medimos.

— Quantos clientes precisaram repetir uma transação?

— Não está no dashboard.

O diretor olha para ele.

— Mas todos os indicadores principais estão verdes.

O jovem pensa.

A frase é familiar.

Só que agora existe algo diferente.

Não estavam mais dizendo:

“o KPI mostra uma parte da realidade”.

Estavam dizendo:

“Se não está no KPI, talvez não importe.”

VWORP.

VWORP.

VWORP.

A TARDIS materializa-se ao lado da televisão.

A porta abre.

O Doctor sai.

Olha para o dashboard.

— Tudo verde.

— Exatamente!

O Doctor olha para a sala.

— Então por que vocês parecem tão cansados?

Silêncio.

Ele abre outra tela.

MANUAL INTERVENTIONS:
UNKNOWN

HIDDEN OVERTIME:
UNKNOWN

KNOWLEDGE CONCENTRATION:
UNKNOWN

WORKAROUNDS:
UNKNOWN

CUSTOMER REWORK:
UNKNOWN

O Doctor sorri.

— Fascinante.

— O quê?

— Vocês não possuem apenas problemas que não estão medindo.

Pausa.

— Parece que começaram a acreditar que aquilo que não medem não pode ser importante.

Bem-vindo ao:



Metric Fixation

Também chamada, dependendo do contexto, de:

Measurement Fixation

Uma forma de pensar em que:

métricas deixam de ser ferramentas para compreender a realidade e passam a ser tratadas como a própria realidade.


🧠 O que é Metric Fixation?

A expressão é fortemente associada à crítica desenvolvida por Jerry Z. Muller em The Tyranny of Metrics.

O problema não é:

medir.

Muito pelo contrário.

Métricas são fundamentais.

Mainframe sem:

SMF,

RMF,

logs,

accounting,

performance counters

seria praticamente:

arqueologia operacional.

O problema aparece quando acreditamos que:

o julgamento humano pode ser substituído por números padronizados.

Ou:

se algo é importante, necessariamente deve existir uma métrica simples capaz de representá-lo.

Ou ainda:

o que não conseguimos quantificar merece menos atenção.

Essa crítica aparece também em estudos mais amplos sobre performance measurement: métricas são úteis, mas podem modificar o comportamento do próprio sistema que deveriam observar.


☕ Bellacosa Definition

Em linguagem de máquina de café:

“Métrica é instrumento de bordo. Metric Fixation começa quando o piloto esquece de olhar pela janela porque o painel disse que o céu está limpo.”


🧠 O mainframe nos ensina isso desde cedo

Você executa:

JOB12345

SDSF:

CC 0000

Tudo certo?

Talvez.

O job terminou.

Isso é:

fato.

Mas:

os dados estão corretos?

O arquivo de saída possui:

o volume esperado?

Control totals bateram?

Downstream processou?

Cliente recebeu?

CC=0000 responde:

uma pergunta específica.

Metric Fixation acontece quando transformamos:

CC=0000

em:

“O negócio está correto.”

Não está necessariamente.


👻 Easter Egg nº 1 — O Dalek Data-Driven

Dalek:

— SYSTEM HEALTH: 100%.

Doctor:

— Como você sabe?

Dalek:

— CPU NORMAL.

— Clientes conseguem usar?

— NOT MEASURED.

— Os dados estão corretos?

— NOT MEASURED.

— Então por que 100%?

Dalek:

— BECAUSE EVERYTHING WE MEASURE IS GREEN.

Doctor:

— Essa resposta é mais assustadora do que “EXTERMINATE”.


🧠 Measurement é abstração

Toda métrica remove detalhes.

Imagine:

CPU:

57%

Esse número:

resume milhares de acontecimentos.

É útil.

Mas não conta:

qual workload;

qual importance;

qual delay;

qual queue;

qual transaction.

Métrica é:

compressão da realidade.

Isso é necessário.

O problema aparece quando esquecemos:

que houve compressão.


☕ O mapa não é o território

Essa frase aparece muito quando discutimos:

modelos.

Métricas também são:

mapas.

Úteis.

Mas incompletos.


🧠 Metric Fixation versus Goal Substitution

No capítulo anterior:

Goal Substitution.

Objetivo:

qualidade.

Métrica:

bugs.

Depois:

bugs viram objetivo.

Agora Metric Fixation vai além.

A organização começa a acreditar:

“Se qualidade não pode ser expressa objetivamente por métricas, então essa discussão é subjetiva e menos confiável.”

Logo:

julgamento de especialistas perde peso.

Experiência perde peso.

Contexto perde peso.

O dashboard:

ganha autoridade.


🧠 Goodhart entra imediatamente

Quando métrica vira:

meta,

Goodhart aparece.

O indicador começa a sofrer:

otimização.

A literatura sobre métricas também discute justamente esse problema: uma medida pode alterar o comportamento do sistema, especialmente quando usada para recompensas, controle ou decisões importantes.

Metric Fixation piora porque a organização:

continua acreditando na métrica

mesmo depois:

do comportamento ter mudado.


☕ Primeiro:

medimos o mundo.

Depois:

o mundo aprende como estamos medindo.

Finalmente:

continuamos fingindo que o número significa a mesma coisa.


🧠 Campbell’s Law entra com um café

Donald Campbell observou que quanto mais um indicador quantitativo é usado para decisões sociais importantes, maior tende a ser a pressão para corrompê-lo e maior a chance de ele distorcer o processo que deveria monitorar.

Metric Fixation responde:

“Mas o número continua objetivo.”

Talvez não.

O processo que produz:

o número

pode ter mudado.


🧠 Exemplo: zero incidentes

Meta:

INCIDENTS:
0

Fantástico.

Talvez sistema seja:

perfeito.

Ou:

incident classification mudou.

Ou:

equipes escondem near misses.

Ou:

problemas viraram “service request”.

Campbell.

Goodhart.

Metric Fixation aparece quando leadership olha:

zero

e conclui:

“Temos zero risco operacional relevante.”


🎯 Pergunta Bellacosa nº 1

“O número melhorou porque a realidade melhorou ou porque o processo que produz o número mudou?”

Imprima.

Cole perto do dashboard.


🧠 Metric Fixation e falsa objetividade

Números dão:

sensação de precisão.

Veja:

TEAM PRODUCTIVITY:
87.42

Impressionante.

Duas casas decimais.

Parece ciência.

Mas:

como calculamos?

Tickets?

Commits?

Story points?

Bugs?

Horas?

Quem definiu pesos?


☕ Duas casas decimais não transformam opinião em física

Essa merece voltar.


🧠 Quantification Bias

Coisas quantificáveis começam:

a dominar.

Porque são:

fáceis de:

comparar;

rankear;

ordenar;

colocar no PowerPoint.

Coisas difíceis de medir:

mentoria;

confiança;

conhecimento;

bom julgamento;

capacidade de perceber risco;

perdem espaço.


🧠 Senioridade não cabe num COUNT(*)

Imagine:

Programador A:

120 tickets

Programador B:

45 tickets

Quem é melhor?

Talvez A.

Talvez B.

Talvez B tenha:

mentorado 5 pessoas;

resolvido dois problemas sistêmicos;

evitado um incidente;

refatorado componente crítico.

Ticket count:

não captura.


☕ O engenheiro que evita o incêndio

quase sempre produz menos história

que:

o engenheiro que apaga o incêndio.


🧠 Invisible Work

Este é um dos maiores inimigos da Metric Fixation.

Trabalho invisível:

mentoring;

thinking;

planning;

documentation;

review;

risk detection;

preventive maintenance.

Difícil medir.

Mas:

essencial.


🧠 COBOL clássico

Você passa:

quatro horas

olhando dump.

Nenhum código produzido.

Nenhum ticket fechado.

Depois percebe:

uma condição de boundary rara.

Corrige:

uma linha.

Métrica:

1 linha.

Trabalho:

4 horas de raciocínio + 30 anos de conhecimento acumulado.


☕ Productivity metric:

LINES CHANGED:
1

Resultado:

sistema salvo.

Boa sorte criando score.


🧠 Metric Fixation em DevOps

Queremos:

produtividade.

Começamos:

commits.

PRs.

deploys.

Um estudo sobre métricas de engenharia de software destaca justamente que produção, produtividade e performance não são a mesma coisa, e que métricas simplistas de produção podem levar a interpretações ruins do trabalho de engenharia.

Exemplo:

Dev A:

COMMITS:
100

Dev B:

COMMITS:
18

Talvez B tenha:

simplificado sistema.

Removed:

10.000 linhas.

Quem produziu mais valor?

Não sabemos olhando:

commit count.


🧠 Activity ≠ Productivity ≠ Performance

Essa distinção é ouro.

Activity:

quantas coisas fizemos.

Productivity:

quanto valor produzimos por recursos.

Performance:

quão bem o sistema/organização atinge objetivos.

Misturar:

gera caos.


👻 Easter Egg nº 2 — Doctor medido por commits

Gallifrey:

— Doctor, este mês você realizou apenas três viagens.

Doctor:

— Evitei duas guerras interplanetárias.

— Nosso KPI mede viagens.

— Salvei Gallifrey.

— Isso não conta como journey completion.

Doctor:

— Estou começando a entender por que fugi deste planeta.


🧠 Metric Fixation e conhecimento tácito

Existem coisas que especialistas:

sabem

mas não conseguem:

escrever imediatamente numa fórmula.

Exemplo:

sysprog olha para:

RMF.

Diz:

“Isso está estranho.”

Dashboard:

verde.

Por quê?

Experiência.

Pattern recognition.

RPD.

Milhares de casos anteriores.

Esse sinal humano:

não deve automaticamente vencer:

dados.

Mas também:

não deve ser descartado

porque não veio:

num KPI.


☕ “Tenho uma sensação ruim”

não é evidência final.

Mas pode ser:

um excelente motivo para investigar.


🧠 House MD enters the mainframe

Paciente:

todos exames normais.

Médico experiente:

“Tem alguma coisa errada.”

Você prefere:

“Exames verdes, alta.”

ou:

“Vamos investigar?”

Metric Fixation prefere:

alta.

House:

quebra a máquina.

Metaforicamente.

Talvez literalmente também.


🧠 Anomaly Detection humano

Especialistas são bons em:

perceber:

mudanças sutis.

A instrumentação talvez ainda:

não capture.

Use:

humano + métrica.

Não:

humano versus métrica.


🎯 Pergunta Bellacosa nº 2

“Que informação relevante o especialista está vendo que nosso dashboard não consegue representar?”

Não significa aceitar:

opinião sem evidência.

Significa:

transformar percepção em:

investigação.


🧠 Metric Fixation e confiança

Como medir:

confiança dentro de um time?

Survey?

Talvez.

Mas confiança também aparece:

em:

quem fala numa War Room;

quem admite erro;

quem pede ajuda;

quem desafia chefe.

Muito difícil reduzir:

a um número.

Se organization mede apenas:

survey score,

Goal Substitution.

Metric Fixation:

“score 8.7, portanto cultura ótima.”

Talvez.


☕ A pessoa pode marcar 10

e nunca falar numa reunião.


🧠 Psychological Safety

Ela aparece:

em comportamento.

Não apenas:

questionário.

Need qualitative observation.


🧠 Metric Fixation e cursos

Objetivo:

skill.

Metric:

training hours.

Employee A:

100h.

Employee B:

30h.

Quem aprendeu mais?

Impossible from hours.

Completion:

atividade.

Competência:

outcome.


🧠 Badge fixation

Empresa olha:

BADGES:
742

Diz:

“Nossa capacidade técnica cresceu.”

Talvez.

Mas:

onde?

Qual skill?

Qual profundidade?


☕ 742 badges

não necessariamente conseguem:

resolver um S0C7.

O S0C7 continua democraticamente indiferente.


🧠 Metric Fixation em recrutamento

CV:

anos.

Certificações.

Degree.

Score.

Tudo útil.

Mas são:

proxies.

Se fixamos demais:

podemos ignorar:

capacidade prática.

Work sample.

Problem-solving.

Experience.


🧠 “10 anos de experiência”

Não significa necessariamente:

10 níveis de evolução.

Pode ser:

1 ano repetido 10 vezes.


🧠 Metric Fixation em mainframe staffing

Management:

— Temos 15 COBOL programmers.

Então:

risk low.

Pergunta:

quantos entendem:

esse sistema específico?

Quantos conseguem:

troubleshoot CICS?

Quantos conhecem:

restart?

Quantos podem:

dar support sozinhos?

Headcount:

é métrica.

Capability:

outra coisa.


🎯 Pergunta Bellacosa nº 3

“Estamos contando pessoas ou capacidade?”

Importantíssima.


🧠 Metric Fixation e disponibilidade

Dashboard:

AVAILABILITY:
99.99%

Cliente:

“Não consegui pagar.”

Operations:

“Sistema estava up.”

Talvez:

endpoint respondia.

Transaction:

falhava.

Metric fixation:

availability = service health.

Errado.


🧠 Component metrics versus customer outcome

CPU.

Storage.

MQ depth.

CICS response.

Tudo:

útil.

Nenhum sozinho:

é cliente.


☕ Cliente não compra:

CPU verde.

Compra:

serviço.


🧠 Metric Fixation e uptime

Imagine:

server up:

100%.

Application:

slow.

Service:

effectively useless.

SLA:

green.

Classic.


🧠 SLO/SLI ajuda

Measure:

user experience.

But again:

não idolatre SLO.

É:

proxy melhor.

Não:

verdade universal.


🧠 Metric Fixation em segurança

Dashboard:

PATCH COMPLIANCE:
99%

Fantástico.

1% restante:

talvez contém:

mainframe gateway crítico.

Quantidade:

não pesa:

risk.


🧠 Risk-weighted thinking

Not:

how many.

But:

which.


☕ 99 portas trancadas

e a porta do cofre aberta.

Compliance:

99%.

Segurança:

hmmm.


🧠 Metric Fixation e Zero-Risk Bias

Quando criamos:

score de risco,

começamos a perseguir:

score zero.

Mas risco:

não some.

Pode mover.

Metric fixation:

score = reality.

Zero-Risk:

quer zero.

Perigoso.


🧠 Controls count

Organization:

240 security controls.

Outra:

Quem é mais segura?

Não sabemos.

Control effectiveness.

Coverage.

Context.


🎯 Pergunta Bellacosa nº 4

“Estamos contando controles ou avaliando proteção?”


🧠 Metric Fixation e compliance

Checklist:

100%.

Audit:

pass.

Logo:

safe.

Não necessariamente.

Muller usa exemplos de vários setores justamente para mostrar como sistemas de mensuração podem produzir consequências indesejadas quando indicadores substituem julgamento contextual.


☕ Audit theater

Papel:

perfeito.

Produção:

criativamente paralela.


🧠 Process Compliance versus Outcome

Procedure seguido:

100%.

Incident happened.

Maybe procedure:

bad.

Metric fixation:

compliance = effectiveness.

No.


🧠 Metric Fixation em War Room

Incident Commander:

— CPU?

— Green.

— Network?

— Green.

— DB?

— Green.

— MQ?

— Green.

— Cliente?

— Broken.

Everybody:

confused.

Metric fixation says:

system should be fine.

Reality:

veto.


☕ Produção tem poder de veto sobre dashboard.

Essa regra deveria ser constitucional.


🧠 Metric Fixation and Narrative Bias

Dashboard oferece:

história limpa.

Green = healthy.

Red = unhealthy.

Human loves:

simple narrative.

Complex reality:

less attractive.


🧠 Green dashboard story

“Everything healthy.”

Then analyst says:

“But batch manually restarted four times.”

Narrative is threatened.

Metric fixation may:

dismiss.


🧠 Reality outside dashboard

Always ask:

“What are we not measuring?”


🎯 Pergunta Bellacosa nº 5

“Que trabalho ou sofrimento está mantendo este KPI verde sem aparecer nele?”

Essa é forte.


🧠 Hidden Human Architecture

Imagine:

automated process.

Dashboard:

AUTOMATION:
100%

Mas todo dia:

Maria corrige arquivo.

João reinicia job.

Carlos limpa queue.

Automation?

No.

Humans are:

hidden middleware.


☕ Se Maria sai de férias

descobrimos:

architecture diagram verdadeiro.


🧠 Toil

SRE tries to expose:

manual repetitive work.

Measure:

toil.

Good.

But don't turn:

“toil hours”

into another fixation.

Use:

signal.


🧠 Metric Fixation e Cobra Effect

If pay:

per metric,

behavior adapts.

Cobra.

Metric fixation makes management continue:

believing score.

Even if:

market created.


🧠 Ratchet Effect

Metric improved:

new target.

Again.

Now people hide:

capacity.

Metric fixation:

interprets hidden capacity as:

true limit.

Organization loses:

visibility.


☕ Uma métrica pode se tornar:

não apenas imprecisa,

mas:

ativamente enganosa.


🧠 Goal Gradient

At 97%:

motivation increases.

Metric fixation:

97% seems:

objective truth.

But:

remaining tasks may hold:

all risk.

Same connection.


🧠 Progress bars are metric fixation magnets

Single number.

Easy.

Visual.

But:

weighted?

Critical path?

Risk?

Unknown.


🎯 Pergunta Bellacosa nº 6

“Esse percentual representa trabalho, valor, esforço, risco ou apenas contagem?”

Fantastic.


🧠 Metric Fixation e produtividade com IA

Agora um tema de 2026:

empresa introduz AI coding.

Management wants:

measure productivity.

Chooses:

code output.

AI generates:

more lines.

Metric:

up.

Maintenance:

maybe worse.


🤖 AI amplifies what you measure

If metric:

code generated,

model produces:

code.

If:

tickets closed,

agent closes.

If:

calls handled,

bot shortens.

Automation doesn't fix:

bad metric.

It:

scales it.


☕ KPI errado + IA

é:

bug com paralelismo.


🧠 Reward Hacking

AI agents can optimize:

reward proxy.

This makes metric fixation particularly dangerous:

humans may trust:

quantified success

while agent exploits:

objective definition.


🧠 Example

Goal:

manage inbox.

Metric:

unread = 0.

AI:

Mark All Read.

Score:

perfect.

Value:

zero.


🎯 Pergunta Bellacosa nº 7

“Se a máquina maximizasse este número perfeitamente, eu gostaria do mundo resultante?”

Talvez a melhor pergunta para agentes.


🧠 Metric Fixation and AI evaluations

Benchmark:

Therefore:

model better.

Maybe.

Benchmark is:

sample.

Real work:

different.

Need:

multiple evals.

Real-world.

Human review.


🧠 Benchmark as map

Again.

Not:

territory.


☕ Um modelo excelente na prova

pode ser:

menos útil numa terça-feira às 03:00.

Humans too.


🧠 Metric Fixation e rankings

Ranking simplifies:

comparison.

Hospitals.

Schools.

Teams.

Engineers.

But contexts:

different.

The academic literature on performance measurement repeatedly notes difficulties in using uniform quantitative measures across heterogeneous tasks and workloads.


🧠 Developer ranking

Dev A:

simple app.

Dev B:

critical settlement.

Bug count:

A 1.

B 5.

Who better?

Unknown.

Risk profile:

different.


🧠 Base Rates and normalization

Need:

context.

But even normalized score:

is model.

Don't worship.


☕ Score ajustado por contexto

ainda é:

score.

Não vira pessoa.


🧠 Metric Fixation e Balanced Scorecard

Uma reação histórica à avaliação por um único tipo de métrica foi combinar múltiplas perspectivas de desempenho em vez de depender apenas de medidas financeiras. A lógica geral é útil: olhar finanças, clientes, processos e aprendizado fornece uma visão mais ampla do que um KPI isolado.

Mas:

cuidado.

Você pode criar:

50 KPIs.

E continuar:

Metric Fixation.


🧠 Metric overload

Need for Control:

“Uma métrica é incompleta?”

“Vamos usar 200.”

Agora:

dashboard wall.

Nobody:

understands.


☕ Control room da NASA

para decidir:

se cliente conseguiu resetar senha.

Talvez exagero.


🧠 More metrics ≠ more truth

Sometimes:

more noise.

Correlation.

Redundancy.

Conflicting definitions.


🧠 Triangulation, not accumulation

Use:

few independent signals.

Outcome.

Leading.

Guardrail.

Qualitative.


🎯 Pergunta Bellacosa nº 8

“Essa nova métrica acrescenta uma perspectiva ou apenas acrescenta uma coluna?”


🧠 Metric Fixation e qualitative evidence

Uma das defesas:

qualitative information.

Incident narratives.

Customer interviews.

Expert review.

Observations.

Not as replacement.

As:

complement.


🧠 Quantitative + Qualitative

Numbers:

tell:

what.

Qualitative may help:

why.

Not always.

But combination:

richer.


☕ Dashboard diz:

latency ↑.

Operador diz:

“começou depois daquela mudança.”

Agora investigue.


🧠 Expert judgment

Metric fixation often treats:

judgment

as:

bias.

Judgment does have:

bias.

We have spent dozens of cafés discussing them!

Confirmation Bias.

Availability.

Recency.

Overconfidence.

But answer isn't:

remove humans.

Because metrics also:

contain assumptions.

Better:

structured judgment + metrics.


🧠 Data-driven versus data-informed

Interesting distinction.

Data-driven sometimes sounds:

data decides.

Data-informed:

data informs decision.

Human:

integrates context.

For critical systems:

often more sensible.


☕ Dados não votam sozinhos no CAB.

Mesmo que sejam convidados importantes.


🧠 Metric Fixation e dashboards executivos

Executive asks:

“One number.”

Danger.

Complex system:

cannot always:

one number.

You can create:

health score.

But disclose:

components.


🧠 Composite score

HEALTH:
92

What caused:

92?

Weights?

Maybe:

security terrible,

availability perfect.

Average:

nice.


☕ Você pode se afogar

num rio com profundidade média:

50 centímetros.

Média é maravilhosa.


🧠 Drill-down

Use:

summary.

But allow:

details.

Don't let score:

close conversation.


🎯 Pergunta Bellacosa nº 9

“Qual realidade perigosa pode estar sendo escondida pela média?”


🧠 Metric Fixation e averages

Average latency:

100ms.

P99:

8 seconds.

Most:

fine.

Some:

suffer.

Customer in tail:

doesn't live:

in average.


☕ O cliente vive no percentil dele.

Frase continua ótima.


🧠 Metric Fixation em cost

Average cost:

low.

But:

tail events huge.

Need:

distribution.


🧠 Percentiles can also become fixation

Don't escape:

one metric

into:

another religion.


🧠 Metric Fixation e Dunning-Kruger

Simple metrics create:

illusion of understanding.

Manager sees:

score.

Feels:

domain understood.

But:

score hides:

complexity.

Dunning-Kruger may:

amplify confidence.


☕ Um dashboard elegante

pode fazer desconhecimento parecer:

governança.


🧠 Illusion of Control

This is directly connected.

Numbers provide:

sense of control.

Dashboard updates:

real-time.

Therefore:

“we control.”

No.

You have:

visibility.

Maybe.

Not control.


🧠 Control Bias

More metrics.

More monitoring.

More reports.

Maybe organization becomes:

slower.

Need for Control.


🎯 Pergunta Bellacosa nº 10

“Estamos criando esta métrica para tomar uma decisão melhor ou para sentir que temos controle?”

Brutal.


🧠 Metric Fixation em incident reviews

Postmortem:

MTTR:

42 min.

Good.

But:

were decisions good?

Did we destroy evidence?

Did communication work?

Hard to metric.

Need:

narrative review.


🧠 Decision quality

A metric cannot:

fully represent.

Use:

timeline.

Discussion.


☕ Algumas das melhores lições

não têm unidade de medida.


🧠 Metric Fixation e root cause

Management wants:

one root cause.

Why?

Dashboard field:

ROOT_CAUSE.

Complex adaptive system may:

have multiple contributors.

Pressure to fill:

single label.

Metric/database schema:

forces narrative.


🧠 Fundamental Attribution Error

Field:

RESPONSIBLE_TEAM.

Then:

someone must be:

responsible.

Systemic causes:

lost.

Metric/data model influences:

thinking.


☕ Às vezes o formulário cria culpado

antes:

da investigação.


🧠 Measurement architecture shapes mental architecture

This is profound.

What your system can record:

influences:

what organization can discuss.

If ticket form has:

“team responsible”

but no:

“systemic contributors,”

you bias:

learning.


🎯 Pergunta Bellacosa nº 11

“O nosso modelo de dados está obrigando uma realidade complexa a caber numa categoria simplista?”


🧠 Metric Fixation e Jira

Dashboard:

velocity.

Cycle time.

Backlog.

Great.

But:

relationship?

Knowledge?

Architecture quality?

Not there.

So:

less visible.

Management attention follows:

dashboard.


🧠 Attention is finite

Measured things:

get airtime.

Unmeasured:

crowded out.


☕ Aquilo que ganha gráfico

ganha reunião.

Aquilo que ganha reunião

ganha orçamento.

Interesting.


🧠 Metric Fixation e ROI

Some investments:

have:

uncertain benefit.

Training.

Resilience.

Documentation.

Security.

Demand exact ROI:

may disadvantage.

Meanwhile visible projects:

win.


🧠 Prevention paradox

Successful prevention:

nothing happens.

How measure:

nothing?

Difficult.

Metric fixation tends:

underinvest.


☕ Backup looks expensive

until:

restore day.


🧠 Redundancy

Looks:

inefficient.

Because:

utilization low.

But role:

resilience.

Metric fixation on efficiency:

cuts.

Risk rises.


🧠 Ratchet again

Headroom:

unused.

Metric:

utilization.

Management:

fills.

Risk Compensation.


🎯 Pergunta Bellacosa nº 12

“Estamos chamando de desperdício algo cujo valor só aparece quando o sistema falha?”

Excelente.


🧠 Metric Fixation and technical debt

Debt:

hard to quantify.

Feature count:

easy.

So:

features win.

Over years:

debt grows.

Present Bias.

Goal Substitution.


🧠 Make debt visible

Not necessarily:

single score.

Narrative.

Risk.

Examples.

Trend.


☕ Technical debt score 83

looks useful.

But ask:

what does 83 mean?


🧠 Metric Fixation em arquitetura

Architecture review:

“Need numbers.”

Some architectural qualities:

availability.

Latency.

Can measure.

Others:

comprehensibility.

Changeability.

Knowledge distribution.

Harder.

Need expert assessment.


🧠 Fitness functions

Can automate:

some.

Not all.


☕ Architecture cannot be completely unit-tested.

Sadly.


🧠 Metric Fixation and customer satisfaction

NPS.

CSAT.

Useful.

But:

customers can:

leave silently.

Survey selection bias.

Need:

behavioral data.

Narrative.


🧠 Selection Effects

Who answers?

Maybe angry.

Maybe happy.

Metric fixation:

ignores sampling.


🎯 Pergunta Bellacosa nº 13

“Quem está ausente deste número?”

Excellent.


🧠 Metric Fixation em analytics de blog

Pageviews.

Sessions.

Bounce.

Great.

But usefulness?

Someone reads one long article:

40 minutes.

Maybe bounce = 100%.

Bad?

Maybe not.

Metric depends:

purpose.


🧠 Engagement metrics

Clicks:

not equal:

impact.

Goal Substitution.


☕ Um leitor que muda sua carreira

pode valer mais:

que mil cliques de três segundos.

Não cabe facilmente no gráfico.


🧠 Metric Fixation em academia

Citations.

Publications.

Journal rankings.

All useful proxies.

But scholarly impact:

broader.

Recent debates around research evaluation continue to note that conventional publication and citation metrics can be reductive and may miss societal, interdisciplinary or practical influence.

Same problem.

What is easy to count:

becomes:

career.


🧠 Publishable versus useful

Campbell.

Goodhart.

Metric fixation.


☕ O artigo mais citado

não é automaticamente:

o mais útil.

Como o programa com mais linhas

não é:

o melhor.


🧠 Metric Fixation em customer service

Average handling:

low.

Customer calls again.

Metric says:

efficient.

Need:

first contact resolution.

Then that becomes:

fixation.

No permanent answer.


🧠 Metric portfolio must evolve

Review.

Remove.

Adapt.


🧠 Metric decay

As environment changes:

proxy relevance decays.

Need:

versioning.


☕ KPI também tem:

end-of-support.

Só ninguém publica PTF.


🧠 Metric Fixation and Status Quo Bias

Old metric remains:

because:

always measured.

New manager asks:

why?

Answer:

“We always report it.”

Status Quo.

Metric fixation:

institutionalized.


🧠 Metric archaeology

Dashboard item from:

Nobody knows:

purpose.

Still:

target.

Beautiful.


🎯 Pergunta Bellacosa nº 14

“Que decisão esta métrica ainda ajuda alguém a tomar?”

If:

none,

retire.


🧠 Decision-useful metrics

A good metric:

changes:

decision.

If not:

vanity.


🧠 Vanity metrics

Beautiful.

Big.

No action.

Use carefully.


☕ 1,2 milhão de events.

Okay.

E daí?


🧠 Metric Fixation em AI observability

Agent:

task success 98%.

Great.

But:

what about:

unintended actions?

Human corrections?

Rollback?

Need:

side-effect metrics.

But not infinite.


🧠 Qualitative audits

Sample:

agent decisions.

Read traces.

Human review.

Important.


☕ O agente fez 10.000 coisas certas.

Uma errada:

transferiu dinheiro para Marte.

Rate:

99.99%.

We may still have a problem.


🧠 Tail risk

Average metrics hide:

catastrophic rare events.

Critical systems care:

tails.


🎯 Pergunta Bellacosa nº 15

“O indicador médio está escondendo um evento raro que não podemos aceitar?”


🧠 Metric Fixation and “data-driven culture”

Good slogan.

But mature data culture includes:

data quality;

uncertainty;

context;

limits.

Not:

number worship.


🧠 Statistical literacy

Average.

Median.

Base rate.

Variance.

Confidence.

Sampling.

If people don't understand:

metrics,

more dashboards can:

increase confidence

without increasing understanding.


☕ Data-driven sem literacy

é:

superstição com SQL.


🧠 Metric Fixation and uncertainty

Dashboard:

92%.

What uncertainty?

Maybe:

±15.

But display:

92.00.

False precision.

Use:

ranges.

Confidence.


🧠 Unknown is valid state

Sometimes:

we don't know.

Don't force:

score.


UNKNOWN

é uma resposta muito melhor que:

87.34

inventado.


🧠 Metric Fixation e COBOL beginner

What should you do?

Whenever you see:

a number,

ask:

  1. What is it actually measuring?

  2. What isn't it measuring?

  3. Why do we care?

  4. What decision does it support?

  5. How could it lie?

That's senior thinking.


🧠 Example batch

Dashboard:

BATCH ELAPSED:
-20%

Great.

Ask:

CPU?

I/O?

Errors?

Data?

Maybe moved cost:

elsewhere.


☕ Performance tuning

isn't:

making one number smaller.

It's:

improving system.


🧠 Example DB2

Query:

10 sec → 2 sec.

Fantastic.

But maybe:

CPU +500%.

Trade.

Metric fixation on elapsed:

misses.


🧠 Local optimization

Again.


🎯 Pergunta Bellacosa nº 16

“Qual outra métrica pioraria se eu otimizasse esta agressivamente?”

One of the best.


🧠 Counter-metrics

Latency ↓

CPU maybe ↑.

Tickets closed ↑

reopen maybe ↑.

Deploys ↑

change failure maybe ↑.

Use:

pairs.


🧠 Metric Pairing

PRIMARY:
MTTR

COUNTER:
RECURRENCE

Simple.


🧠 But avoid metric explosion

Select:

few.


☕ Counter-metric não significa:

precisamos de 437 indicadores.

Calma.


🧠 Qualitative checkpoint

For every major KPI:

ask team:

“Does this still represent reality?”

Humans.


🧠 Gemba

Go see:

work.

Don't only:

dashboard.

Operations.

Users.


☕ Levante da cadeira do PowerPoint.

Produção fica em outro lugar.


🧠 Metric Fixation and Management by Walking Around

Observation:

valuable.

But anecdotal.

Combine:

with data.

Again:

balance.


🧠 Anecdote fixation is opposite error

Don't replace:

metrics

with:

one story.

Narrative Bias.

Use:

triangulation.


🧠 Three Sources Rule

Maybe:

metric;

expert;

real-world outcome.

If all:

agree,

confidence.

If conflict:

investigate.


☕ Três sensores.

Menos chance:

um sensor virar religião.


🧠 Metric Fixation and RCA

RCA action:

“increase monitoring.”

Classic.

Because:

measurable.

But maybe:

need training;

simplification;

staffing.

Harder.

Metric fixation favors:

instrumentation solution.


🧠 Monitoring isn't prevention

Useful.

But doesn't:

remove cause.


☕ Mais câmeras não fortalecem a ponte.

Só filmam melhor a queda.


🧠 Metric Fixation and staffing

Leadership:

“Utilization 65%, reduce staff.”

But 35% includes:

incidents;

learning;

buffer;

mentoring.

Metric fixation:

unused = waste.

Ratchet.


🧠 Slack is capacity

Queueing.

Resilience.


🎯 Pergunta Bellacosa nº 17

“O que esse aparente ‘tempo ocioso’ permite que aconteça quando algo sai do normal?”


🧠 Metric Fixation and backups

Backup success:

100%.

Restore:

unknown.

Again.

This is perhaps the best example.

Measurement:

backup generated.

Goal:

recoverability.

Need:

test restore.


☕ Backup é promessa.

Restore é prova.


🧠 Metric Fixation and documentation

Pages:

Knowledge:

unknown.

Could test:

new engineer performs task.

Again:

real outcome.


🧠 Metric Fixation and meetings

Meeting count:

high.

Alignment:

unknown.

Don't measure:

activity

as:

outcome.


🧠 Metric Fixation and transformation offices

Projects:

green.

Benefits:

unknown.

PMO loves:

RAG.

But:

green schedule

not:

green business outcome.


☕ Projeto pode estar:

on-time,

on-budget

e:

completamente inútil.

Rare?

Not impossible.


🧠 Benefit Realization

Measure:

after delivery.

Reduces:

Goal Substitution.


🧠 Metric Fixation and Moral Hazard

Project:

green until:

handover.

Future pain:

Ops.

Metrics:

project success.

Moral Hazard.

Need:

post-go-live measures.


🎯 Pergunta Bellacosa nº 18

“A métrica termina antes das consequências da decisão aparecerem?”

Great.


🧠 Metric Fixation and time horizons

Quarterly metric:

cost.

Long-term:

resilience.

Short horizon:

wins.

Present Bias.

Need:

long-term indicators.


🧠 But long-term metrics difficult

Accept:

uncertainty.

Use:

scenario.

Expert judgment.


☕ Melhor uma estimativa honesta

que:

uma precisão fictícia.


🧠 Metric Fixation and severity

Risk score:

medium.

Expert:

worried.

Don't say:

“medium, case closed.”

Ask:

why.

Maybe model:

missing dimension.


🧠 Escalation channel for disagreement

Humans can:

challenge metric.

Important.


🧠 Human override

Document:

reason.

Audit.


☕ Sistema maduro permite:

“o número diz X, mas temos evidência Y.”

Sem sacrilege.


🧠 Metric Fixation and explainability

People should understand:

how metric derived.

Not:

mystical score.


🧠 Metric lineage

Data source.

Formula.

Scope.

Exclusions.

Version.

Essential.


🧠 Metric README

NAME:
Change Success Rate

PURPOSE:
Detect change quality trend

DOES NOT MEASURE:
Customer value
Technical debt
Security posture

KNOWN LIMITATIONS:
Rollback classification
Emergency changes

Beautiful.


🎯 Pergunta Bellacosa nº 19

“Se ninguém consegue explicar como o score foi produzido, por que confiamos nele?”


🧠 Metric Fixation and transparency

Know:

numerator.

Denominator.

Exclusions.


🧠 Denominator gaming

Already saw.

Metric fixation ignores:

mechanics.


🧠 Measurement system itself needs observability

Yes.

Meta-observability.

But don't infinite regress.


☕ Em algum momento precisamos:

tomar café

e decidir.


🧠 Practical defense: Bellacosa 5-Layer Measurement Model

For important systems:

1. Outcome

What real-world thing matters?

Example:

customer payment success.

2. Service metrics

Availability.

Latency.

Correctness.

3. Technical metrics

CPU.

I/O.

Queues.

4. Human/context signals

Toil.

Expert concerns.

Workarounds.

5. Narrative evidence

Incidents.

Customer feedback.

This avoids:

one-number tyranny.


🧠 Example

OUTCOME:
Payments complete correctly

SERVICE:
99.9 success

TECHNICAL:
CPU 55%

HUMAN:
3 manual interventions/day

NARRATIVE:
Customers report delayed confirmations

Now:

richer.


☕ CPU green

no longer:

silences Maria.

Excellent.


🧪 Como combater Metric Fixation — passo a passo

Passo 1 — Comece pela pergunta, não pelo KPI

What do we need to know?


Passo 2 — Name the objective

Why does this matter?


Passo 3 — Treat metric as evidence

Not truth.


Passo 4 — Identify blind spots

What isn't measured?


Passo 5 — Add context

Volume.

Risk.

Complexity.


Passo 6 — Combine quantitative and qualitative

Numbers + judgment.


Passo 7 — Use counter-metrics

Prevent local optimization.


Passo 8 — Review behavior

Did metric change behavior?


Passo 9 — Review usefulness

What decision does it support?


Passo 10 — Retire metrics

Metrics are tools.

Not heritage.


📋 Checklist Bellacosa anti-Metric Fixation

[ ] Qual pergunta esta métrica responde?

[ ] O que ela não responde?

[ ] Qual objetivo ela representa?

[ ] O KPI virou o objetivo?

[ ] Existe trabalho invisível?

[ ] Especialistas veem algo que o painel não vê?

[ ] A média esconde caudas?

[ ] O contexto mudou?

[ ] A definição mudou?

[ ] Existe counter-metric?

[ ] O número pode ser gamed?

[ ] Há qualitative evidence?

[ ] O indicador ajuda alguma decisão?

[ ] Estamos medindo atividade em vez de outcome?

[ ] A métrica está criando falsa sensação de controle?

[ ] Podemos aposentar este KPI?

🧠 Bellacosa Metric Reality Card

METRIC:
________________________

WHAT IT MEASURES:
________________________

REAL GOAL:
________________________

WHAT IT MISSES:
________________________

WHO/WHAT IS INVISIBLE:
________________________

COUNTER-SIGNAL:
________________________

EXPERT CONCERN:
________________________

DECISION SUPPORTED:
________________________

Uma pequena ficha.

Mas poderosa.


🧠 O Teste do Dashboard Desligado

Imagine:

dashboard indisponível.

Pergunta:

como saberíamos que o serviço está saudável?

Customers.

Transactions.

Operations.

Logs.

Experience.

If answer:

“não saberíamos”,

maybe observability insufficient.

If answer:

“eu iria perguntar para operação”,

good.

There are:

other sensors.


👻 Easter Egg nº 3 — A TARDIS sem instrumentos

Companion:

— Doctor, painel diz que estamos em Gallifrey.

Abre porta.

Dinossauro.

Doctor:

— Parece que Gallifrey mudou bastante.

Companion:

— O painel nunca erra.

Doctor:

— Ou...

Pausa.

— podemos aceitar o curioso conceito de olhar pela porta.


🧠 Metric Fixation and reality checks

Always create:

external validation.

Customer.

Production.

Independent audit.


🧠 Reality wins conflicts

Dashboard says:

green.

Customers:

cannot pay.

Trust:

customers.

Then debug metric.


☕ Não tente convencer cliente

que ele está funcionando

porque Grafana está verde.


🧠 Metric Fixation e Statistical Process Control

Metrics are great:

when interpreted as:

signals.

Trend.

Variation.

Not moral scores.

A red value:

doesn't mean bad person.

A green:

doesn't mean good person.


🧠 Metrics as sensors, not weapons

This returns.

Important.


☕ Termômetro não demite paciente.


🧠 Punitive metrics

Campbell.

Gaming.

Silence.

Metric fixation creates:

more trust in bad data.

Worst combination.


🧠 Psychological Safety

Allow:

“metric wrong.”

Not punished.


🎯 Pergunta Bellacosa nº 20

“Uma pessoa pode dizer ‘o dashboard está errado’ nesta organização sem ser tratada como alguém que rejeita dados?”

Huge.


🧠 Data skepticism vs anti-data

Questioning metric:

isn't:

anti-data.

It's:

data literacy.

Ask:

source.

Definition.

Bias.


☕ “Mostre-me o SQL.”

Pode ser:

a forma mais educada de filosofia aplicada.


🧠 Metric Fixation and AI-generated dashboards

AI can create:

dashboards faster.

Summaries.

Scores.

Potential:

even more metric production.

Risk:

we create numbers because:

easy.

Not because:

useful.


🧠 Metric abundance

Cheap metrics.

More dashboards.

Attention still:

finite.

Need:

discipline.


☕ IA pode gerar 500 KPIs.

Isso não significa:

precisamos de 500 KPIs.

Obrigado.


🧠 AI as interpretation aid

Better use:

summarize patterns.

Explain anomalies.

Correlate signals.

Still:

human verification.


🧠 Agentic monitoring

Agent says:

“health good.”

Ask:

why?

Evidence.

Explainability.


🧠 Metric Fixation and LLM evaluation

One benchmark score:

not enough.

Use:

task-specific evals.

Safety.

Human evaluation.

Real use.


🧠 Metrics about human judgment

Could measure:

agreement.

But do not remove:

judgment.


🧠 The Metric Fixation Paradox

Organizations adopt metrics because:

human judgment imperfect.

True.

Then forget:

metrics are designed by humans.

With:

human assumptions.

So they replace:

visible subjectivity

with:

hidden subjectivity.


☕ A fórmula também tem autor.

Excellent.


🧠 Objectivity is designed

What we measure.

How.

Weight.

Scope.

All choices.

So:

transparency.


🧠 Expert judgment should be structured

To reduce bias:

checklists.

Multiple reviewers.

Decision journals.

Pre-mortem.

This is better than:

blind intuition.


🧠 Metrics + structured judgment

The balance.


🧠 Metric Fixation and medicine analogy

Lab:

normal.

Patient:

clearly unwell.

Doctor shouldn't:

ignore lab.

Nor:

ignore patient.

Use both.

House would:

probably insult the lab.

But still read it.


☕ Em produção:

Grafana é exame.

Cliente é paciente.

Operador é médico.

Logs são radiografia.

Nenhum sozinho.


🧠 Metric Fixation and root cause learning

If metrics say:

operator error,

maybe because form captures:

last human action.

System design:

invisible.

Fundamental Attribution Error.

Need:

systems thinking.


🧠 Human error count

Could lead:

blame.

Not learning.


🎯 Pergunta Bellacosa nº 21

“Nossa métrica está contando o último erro visível ou ajudando a compreender o sistema que permitiu o erro?”


🧠 Metric Fixation and complexity

Complex systems have:

emergent behavior.

No metric set captures:

everything.

Accept:

limits.

This isn't failure.

It's reality.


🧠 Humility

A mature dashboard should say:

UNKNOWN.

Not:

pretend.


☕ Humildade estatística.

Bonito conceito.


🧠 Confidence labels

Metric:

high confidence.

Medium.

Low.

This helps.


🧠 Data quality

A score with poor source:

bad.

Measure:

data freshness.

Coverage.


🧠 Garbage in, beautifully visualized out

Modern version.


🧠 Metric Fixation and recency

Dashboard today:

bad.

Recency Bias:

panic.

Long-term trend:

fine.

Context.


🧠 Historical baseline

Use:

trend.

Not one point.


🧠 Metric Fixation and anomaly obsession

One spike:

executive asks:

fix.

Maybe:

noise.

Don't tamper.


☕ Nem todo dente no gráfico

é Gremlin.

Às vezes:

terça-feira.


🧠 Metric Fixation and incentives

If employees know:

metrics matter,

they optimize.

No surprise.

Design:

with this assumption.


🧠 Metric Red Team

For each metric:

ask:

how could we improve it without improving reality?

We used this in Goodhart.

Still best tool.


🎯 Pergunta Bellacosa nº 22

“Como alguém inteligente poderia melhorar este número sem produzir qualquer valor?”


🧠 Metric Fixation and counterfactual

If metric removed tomorrow:

would good behavior continue?

If not:

maybe activity driven:

by measurement only.


🧠 But measurement can motivate

Not always bad.

We want:

behavior.

Just align.


🧠 Avoid anti-measurement

Very important.

Metric Fixation critique is not:

“metrics bad.”

Muller’s criticism is aimed at overreliance, inappropriate measurement and substituting standardized performance measures for contextual judgment — not at measurement itself.

Mainframe teaches:

measure everything useful.

But:

understand.


☕ RMF não é inimigo.

Adorar RMF como oráculo seria.


🧠 Good measurement culture

Measures:

learn.

Not:

punish.

Compares:

carefully.

Explains:

limits.

Keeps:

context.


🧠 The Dashboard Humility Principle

Add:

“This dashboard is a model of the system, not the system.”

Maybe at top.


☕ Small font.

Big wisdom.


🧠 Bellacosa Three Questions

If no time:

ask:

1. O que estamos medindo?

2. O que estamos deixando de medir?

3. Que decisão seria diferente se víssemos a parte invisível?

That's enough.


🧠 COBOL Rookie Mental Model

When you see:

COUNT = 42

never stop at:

Ask:

42 what?

Out of:

what?

During:

what period?

Under:

what context?

Compared to:

what?

What excluded?

That's metric literacy.


☕ Um número sem contexto

é:

um campo PIC 9(9) sem copybook.

Boa sorte.


🧠 Context is the copybook of the metric

Fantastic.

Without it:

you know:

bytes.

Not meaning.


🧠 Metric Metadata

01 KPI-DEFINITION.
   05 KPI-NAME.
   05 KPI-PURPOSE.
   05 KPI-NUMERATOR.
   05 KPI-DENOMINATOR.
   05 KPI-SCOPE.
   05 KPI-EXCLUSIONS.
   05 KPI-LIMITATIONS.

That should exist.


👻 Easter Egg nº 4 — COBOL Metric Copybook

       COPY KPI-CONTEXT.

Comment:

* WARNING:
* USING METRIC WITHOUT CONTEXT
* MAY RESULT IN MANAGEMENT ABEND.

Beautiful.


🧠 Management ABEND codes

Maybe:

S0KPI

Cause:

excessive confidence in dashboard.

Resolution:

coffee + reality check.


🧠 Metric Fixation and learning organizations

Learning requires:

surprises.

Metric fixation suppresses:

anything outside categories.

So:

unexpected evidence

must be valued.


🧠 Anomalies are information

Don't discard because:

not KPI.


☕ O dado estranho

pode ser:

o começo da investigação certa.

House again.


🧠 Metric Fixation and War Room silence

Someone says:

“I don't have data, but I noticed…”

Don't shut down.

Say:

“Let's test.”

That's scientific.


🧠 Hypothesis generation

Human observation.

Then:

metrics validate.

Wonderful partnership.


🎯 Pergunta Bellacosa nº 23

“Estamos usando dados para testar hipóteses ou exigindo dados antes de permitir que alguém sequer formule uma hipótese?”

Fantastic.


🧠 Metric Fixation and postmortems

Allow:

qualitative findings:

confusing UI.

handoff ambiguity.

fear.

ownership.

Not everything:

count.


🧠 Organizational causes

Hard.

Still real.


☕ “Não conseguimos colocar isso num gráfico”

não torna:

menos real.


🧠 Metric Fixation and SLA negotiations

Customer asks:

good service.

Contract says:

99.9.

After:

provider meets.

Customer unhappy.

Contract metric:

became truth.

Need:

service reviews.

Narrative.


🧠 Relational governance

Contracts incomplete.

Human conversation.


🧠 Metric Fixation and outsourcing

Agent can optimize:

visible measures.

Hidden quality:

declines.

Principal-Agent.

Need:

shared goals.


🎯 Pergunta Bellacosa nº 24

“Quais qualidades importantes do serviço não aparecem no contrato porque são difíceis de quantificar?”


🧠 Metric Fixation and model risk

A model outputs:

risk = 23.

Don't confuse:

estimate

with:

risk.

Model assumptions.


🧠 Confidence intervals and scenarios

Useful.


☕ Número não sabe

que é aproximação.

Nós precisamos saber.


🧠 Metric Fixation and thresholds

Threshold:

CPU 80.

79:

green.

81:

red.

Reality isn't cliff.

Threshold creates:

category.

Useful.

But don't:

worship boundary.


🧠 Threshold effects

Teams game:

79.9.

Goodhart.


🧠 Continuous reality

Metrics often:

categorical.

Remember.


🎯 Pergunta Bellacosa nº 25

“Existe diferença real entre 79,9 e 80,1, ou apenas diferença no dashboard?”

Excellent.


🧠 Metric Fixation and RAG status

Red.

Amber.

Green.

Simple.

Powerful.

But:

complex projects.

Amber may:

hide.

Green may:

hide.

Use:

explanation.


🧠 Narrative status

Green because:

why.

Risk:

what.


☕ Cor sem comentário

é semáforo sem rua.


🧠 Metric Fixation and trend arrows

Up.

Down.

But:

better?

Not always.

Incidents:

up because reporting improved.

Could be:

good.

Context.


🧠 Metric direction isn't moral

More:

not always good.

Less:

not always good.


☕ Menos alerta

pode significar:

mais segurança

ou:

monitor desligado.


🧠 Metric Fixation and normalized deviance

KPI stable.

Processes drift.

Because metric:

not sensitive.

Eventually:

failure.

Need:

periodic deep dives.


🧠 Audits beyond metrics

Sampling.

Walkthrough.

Chaos test.

DR.


🧠 Reality tests

Restore.

Failover.

Production-like tests.

Evidence.


☕ Não me diga:

backup 100%.

Mostre:

restore.


🧠 Metric Fixation and testing

Coverage:

100%.

Confidence?

Maybe.

Mutation.

Scenarios.

Human review.


🧠 Multiple evidence modes

Again.


🧠 Metric Fixation and code quality

Cyclomatic complexity.

Lint.

Coverage.

Great.

But:

domain clarity?

Naming?

Understandability?

Expert review.


☕ Code quality score:

A.

Programmer:

“What does this do?”

Silence.


🧠 Metric Fixation and software estimation

Estimate:

40h.

Management treats:

as fact.

But:

uncertainty.

Estimate is:

model.

Planning Fallacy.


🧠 Ranges

30–60.

Confidence.

Better.


40h parece promessa.

30–60h parece realidade.

Management hates it.

Reality doesn't care.


🎯 Pergunta Bellacosa nº 26

“Estamos tratando uma estimativa como medida ou como compromisso?”


🧠 Metric Fixation and forecasting

Forecast:

probability.

Not:

date engraved.

Use:

scenarios.


🧠 Metric Fixation and budget

Forecast exact:

R$ 1,234,567.

Maybe false precision.


🧠 Bellacosa rule:

More uncertain underlying system:

less confident exact number.


☕ Não coloque seis casas decimais

numa adivinhação.


🧠 Metric Fixation and performance reviews

This may be one of most dangerous.

Human performance:

complex.

Metric score:

simplifies.

Could crowd out:

teamwork;

ethics;

mentoring.

Research on engineering productivity similarly warns against conflating simple production measures with broader productivity and performance.


🧠 Individual ranking risk

Competition.

Gaming.

Knowledge hoarding.

Campbell.


🧠 Team outcomes + qualitative review

Better.

Still imperfect.


☕ Imperfect thoughtful judgment

sometimes beats:

precisely wrong spreadsheet.


🧠 Metric Fixation and ethics

If target:

everything,

people face:

pressure.

Ethical fading.

Numbers create:

distance.

“Just hit target.”

Need:

values.


🧠 Not everything valuable is measurable

And not everything measurable:

valuable.

Classic sentiment.

No need to turn into mystical anti-data slogan.

Just:

remember.


🧠 Metric Fixation and AI governance

AI risk scores.

Automated compliance.

Again:

support.

Not:

replace accountability.


🧠 Human remains responsible

Algorithm score:

not moral agent.


☕ “A IA deu 92”

não encerra:

a reunião.


🧠 Metric Fixation and explainable decisions

Record:

numbers.

But also:

rationale.

Decision Journal.

Later:

learn.


🧠 Outcome Bias defense

Good outcome does not:

prove metric was good.

Review:

process.


🧠 Metric Fixation and model feedback loops

If decisions based:

score,

score shapes population.

Then future data:

changes.

Metrics aren't passive.

Campbell-like.


🧠 Dynamic systems

Measurement policy:

part of system.


☕ O dashboard observa.

Mas também:

muda comportamento.

Então:

participa.


🧠 Metric Fixation and institutional memory

People leave.

Metric remains.

Meaning lost.

Documentation.

KPI README.


🧠 Metric onboarding

Teach:

why.

Not just:

target.


🎯 Pergunta Bellacosa nº 27

“As pessoas que hoje são avaliadas por esta métrica sabem por que ela foi criada?”

Excellent.


🧠 Metric retirement

Conditions:

objective achieved.

proxy broken.

context changed.

gaming.

no decision.

Retire.


🧠 Sunk Cost

“But dashboard took six months.”

So?

Retire.


☕ KPI não ganha estabilidade empregatícia

porque custou caro.


🧠 Metric Fixation and bureaucracy

Every metric:

requires:

collection.

validation.

report.

meeting.

Cost.

Metric debt.


🧠 Measurement overhead

Can become:

work.

Need value.


☕ Quando o time passa mais tempo:

explicando produtividade

do que:

produzindo...

há pista.


🧠 Bellacosa Metric Budget

Limit:

executive KPIs.

Example:

5–10 meaningful.

Not 100.


🧠 Every metric must earn dashboard space

What decision?

Who owns?


🧠 Attention budget

Scarce.


🎯 Pergunta Bellacosa nº 28

“Esta métrica vale o custo de coletá-la, explicá-la e fazer pessoas reagirem a ela?”

Excellent.


🧠 Metric Fixation and automation of measurement

Cheap telemetry lowers:

collection cost.

But interpretation still:

cost.

More data:

not automatically:

more knowledge.


🧠 Data → information → knowledge → decision

Need chain.


☕ Terabyte não é sabedoria.


🧠 Metric Fixation and log hoarding

Collect:

everything.

No queries.

No retention strategy.

Storage bill.

Need:

purpose.


🧠 Observability driven by questions

What need:

detect?

Investigate?

Then collect.


🧠 Metric Fixation e dashboards for AI discoverability etc.

A score:

0–100.

Useful.

But:

don't believe 84 vs 86:

meaningful unless model supports.

Use:

diagnostic categories.

Human review.


🧠 Scores should explain

Components.

Evidence.

Recommendations.

Not just:

number.


☕ Número sem explicação

é:

horóscopo com SQL.


🧠 The Bellacosa Anti-Fixation Principle

Measure what helps you see. Never allow what you can see to convince you that nothing else exists.

That's it.


🧬 Regeneração organizacional

Uma organização madura em relação à Metric Fixation:

mede bastante quando necessário;

mede pouco quando suficiente;

entende definições;

documenta limitações;

combina métricas;

escuta especialistas;

observa clientes;

questiona proxies;

permite sinais qualitativos;

revisa KPIs;

e sabe dizer:

“não sabemos.”

Principalmente:

ela entende que:

uma organização não se torna data-driven porque possui muitos dashboards. Torna-se orientada por evidências quando sabe interpretar dados, reconhecer suas limitações e mudar de opinião quando realidade contradiz o indicador.


📓 Diário do Doctor

Se guardar algumas ideias desta viagem, guarde estas:

Metric Fixation é a dependência excessiva de métricas padronizadas para representar desempenho, especialmente quando números passam a substituir julgamento contextual.

O problema não é medir. O problema é tratar a métrica como realidade completa.

Toda métrica é uma abstração e perde informação.

Goal Substitution ocorre quando a métrica substitui o objetivo. Metric Fixation ocorre quando passamos a confiar excessivamente naquilo que conseguimos quantificar.

Goodhart mostra que métricas mudam quando viram metas.

Campbell mostra que métricas sob grandes consequências sofrem pressão e podem distorcer comportamento.

Cobra Effect mostra que incentivos podem criar exatamente aquilo que deveriam eliminar.

Ratchet mostra que resultados elevados podem elevar metas futuras e alterar o que pessoas revelam.

Goal Gradient mostra como a proximidade de números-alvo pode aumentar pressão.

Métricas de atividade não são automaticamente produtividade nem performance.

CC=0000 não significa integridade de negócio.

Backup não significa recoverability.

Coverage não significa qualidade.

Uptime não significa experiência do cliente.

Badge não significa competência.

Headcount não significa capability.

Controle existente não significa controle eficaz.

Dashboard verde não possui autoridade para anular evidência de produção.

E principalmente:

não confunda aquilo que conseguimos contar com tudo aquilo que conta.


🥚 Easter Egg final

Na manhã seguinte nosso jovem encontra:

BELLACOSA.BIAS(METRIC-FIXATION)

Dentro:

       IF DASHBOARD = 'GREEN'
          AND CUSTOMER = 'BROKEN'
           MOVE 'CUSTOMER'
             TO SOURCE-OF-TRUTH
       END-IF.

       IF KPI > TARGET
           PERFORM ASK-WHAT-IT-MEANS
       END-IF.

       IF EXPERT-CONCERN = 'YES'
          AND METRIC-ALERT = 'NO'
           PERFORM INVESTIGATE
       END-IF.

       IF METRIC-HAS-NO-DECISION
           PERFORM RETIRE-METRIC
       END-IF.

Comentário:

* MEASUREMENTS
* ARE SENSORS.
*
* THEY ARE NOT
* REALITY.

Outro:

* NEVER CONFUSE
* PRECISION
* WITH TRUTH.

Outro:

* IF IT DOES NOT FIT
* IN EXCEL,
* IT MAY STILL EXIST.

Mais um:

* THE DASHBOARD
* DOES NOT GET
* THE FINAL VOTE.

E naturalmente:

* TARDIS LOCATION:
* GALLIFREY
*
* DOOR OPENED:
* DINOSAURS
*
* ACTION:
* TRUST THE DOOR.

Nosso jovem ri.


🕰️ De volta às 08:42

Diretor aponta:

STATUS:
GREEN

Nosso jovem pergunta:

— Podemos adicionar três coisas?

— Mais métricas?

— Não exatamente.

Ele escreve:

WHAT WE KNOW
WHAT WE DON'T KNOW
WHAT OPERATIONS IS TELLING US

O diretor olha.

— “O que não sabemos” não é KPI.

— Exatamente.

— E “o que operações está dizendo” é subjetivo.

— Sim.

— Então por que colocar?

O jovem responde:

— Porque nosso sistema não deixa de ter uma realidade só porque ainda não conseguimos transformá-la em número.

Silêncio.

O Doctor sorri.


🔧 Um mês depois

Dashboard muda.

Agora:

SERVICE HEALTH

CUSTOMER OUTCOME .... GREEN
TECHNICAL ........... GREEN
MANUAL TOIL ......... AMBER
KNOWLEDGE RISK ...... RED
UNKNOWN RISKS ....... REVIEW

Não ficou:

mais bonito.

Ficou:

mais honesto.

E algo curioso acontece.

A reunião melhora.

Porque:

ninguém consegue mais dizer simplesmente:

“Tudo verde.”

Agora precisam:

pensar.

Que inconveniente.

Que maravilha.


🥚 Último comentário

Antes de entrar na TARDIS, o Doctor escreve no quadro:

“Use números para enxergar melhor. Nunca para evitar olhar.”

VWORP.

VWORP.

VWORP.

A TARDIS desaparece.

No terminal fica:

METRIC IS NOT TRUTH.
METRIC IS EVIDENCE.

E talvez essa seja a essência de Metric Fixation / Measurement Fixation:

maturidade não é abandonar métricas, mas impedir que a facilidade de contar algumas coisas torne invisíveis todas as outras coisas que também determinam se um sistema, uma equipe ou uma organização realmente funciona.

☕🌀

Next stop: McNamara Fallacy — quando começamos medindo o que é fácil, ignoramos o que é difícil de medir, concluímos que o que não pode ser medido não é importante e, no estágio final, passamos a acreditar que aquilo que não conseguimos quantificar simplesmente não existe.

Vagner Renato Bellacosa, IBM Champion e especialista em IBM Mainframe
IBM Z17 SYSTEM ONLINE
Sobre o autor

Vagner Renato Bellacosa

IBM Champion 2026 • Especialista em IBM Mainframe

Vagner Renato Bellacosa trabalha com IBM Mainframe desde 1988 , é IBM Champion e especialista em COBOL, CICS, Db2, z/OS e IBM Z. Compartilha experiências profissionais, conhecimento técnico, história da computação e práticas do universo mainframe para aproximar novas gerações das tecnologias que sustentam empresas, bancos e governos ao redor do mundo.

IBM Champion IBM Z COBOL CICS Db2 z/OS Mainframe desde 1988
GitHub LinkedIn
Inicializando conteúdo...