 |
| Bellacosa Mainframe e uma analise da ia e teoria dos jogos |
Dick Vigarista, IA e o Concurso Pay-to-Win: o Dia em que Ninguém Pegou o Maldito Pombo
🏁 Teoria dos jogos, fraude algorítmica, IA adversarial, Black Monday, gênios com Nobel, monocultura tecnológica e a perturbadora possibilidade de que, quando todo mundo encontra uma maneira de vencer o sistema, o sistema simplesmente deixe de funcionar
Pergunta de investigação
Em que medida a adoção massiva de sistemas algorítmicos e modelos de IA compartilhados pode reduzir a independência efetiva entre agentes, produzir erros e comportamentos correlacionados e transformar decisões individualmente racionais em falhas coletivas ou sistêmicas — especialmente em ambientes competitivos, adversariais e sujeitos à otimização estratégica?
☕ Um Café no Bellacosa Mainframe
Há perguntas que começam inocentes.
Você está tomando café, olhando distraidamente para algum assunto de tecnologia e pensa:
“Será que alguém poderia usar IA para trapacear num concurso público?”
Cinco minutos depois estamos discutindo teoria dos jogos.
Dez minutos depois aparece Dick Vigarista.
Muttley começa a exigir medalhas.
Quinze minutos depois chegamos à Black Monday de 1987.
Então entram dois ganhadores do Nobel, um hedge fund quase explode o sistema financeiro internacional, 2008 aparece carregando uma caixa de derivativos hipotecários, milhares de formigas começam a marchar em círculos e alguém percebe que talvez o maior perigo da Inteligência Artificial não seja uma máquina tomar uma decisão idiota.
Talvez seja:
milhões de máquinas inteligentes tomarem simultaneamente a mesma decisão perfeitamente racional e completamente desastrosa.
Bem-vindo.
O café já passou das cinco.
E ninguém pegou o maldito pombo.
🏁 CAPÍTULO I — A corrida começa
Imagine um concurso extremamente disputado.
Vinte mil candidatos.
Cem vagas.
Durante décadas, trapacear em uma situação dessas possuía um problema logístico colossal.
Não bastava transmitir clandestinamente uma questão.
Era necessário alguém recebê-la, entendê-la, encontrar um especialista capaz de resolvê-la, produzir a resposta e retornar a informação dentro de uma janela de tempo minúscula.
Se a prova misturasse:
Direito;
Português;
Matemática;
Contabilidade;
Informática;
administração pública;
conhecimentos específicos;
o esquema criminoso precisaria quase contratar uma faculdade inteira.
E ainda assim havia latência.
O professor de Matemática estava resolvendo a questão 14.
O advogado estava na 22.
O contador estava tomando café.
O sujeito responsável por Português havia ido ao banheiro.
Enquanto isso:
TIC-TAC. TIC-TAC. TIC-TAC.
A prova terminava.
Então apareceu a IA.
Não precisamos construir aqui qualquer manual de fraude. Nosso interesse é justamente o contrário: entender o que aconteceria com o sistema caso tecnologias hoje dispersas algum dia fossem integradas clandestinamente.
A mudança fundamental seria econômica.
O humano que antes precisava resolver cada questão poderia passar a apenas validar uma resposta produzida automaticamente.
O gargalo muda.
Antes:
captura → especialista → resolução → resposta
Agora, conceitualmente:
entrada → máquina → validação → saída
E imediatamente aparece Dick Vigarista.
🐶 “MEDALHA! MEDALHA! MEDALHA!”
— Muttley!
— Hehehehehehe.
Dick descobre uma ferramenta capaz de ajudar um candidato a conseguir desempenho extraordinário.
Fantástico.
Temos um produto.
Pacote Bronze
30% de vantagem.
Pacote Silver
50%.
Pacote Gold
70%.
Pacote Platinum Muttley Executive Supreme Edition
“Senhor, praticamente garantimos que o pombo vai começar a preencher o formulário de posse.”
É quando surge o primeiro problema.
O concurso possui 100 vagas.
Dick vende o Platinum para uma pessoa.
Excelente vantagem.
Vende para dez.
Ainda interessante.
Vende para cem.
Hmmmmm.
Vende para mil.
PARABÉNS, DICK.
Você acaba de vender a mesma vantagem exclusiva para mil pessoas disputando cem vagas.
O candidato liga:
— Dick, quantas pessoas compraram o Platinum?
— Informação comercial confidencial.
— MAS EU PAGUEI POR UMA VANTAGEM!
— Sim.
— E VENDEU A VANTAGEM PARA MAIS QUANTAS PESSOAS?
— Hehehehehehehe.
Muttley começa a rir.
☕ A primeira perversidade: nota não é o produto
Essa distinção é fundamental.
Num concurso competitivo, o candidato não compra — legalmente estudando ou hipoteticamente por alguma vantagem ilícita — simplesmente uma nota.
O que ele deseja é:
[
P(\text{classificação})
]
Se uma tecnologia aumentar minha nota de 60 para 90, parece extraordinária.
Mas se elevar simultaneamente outros 10 mil candidatos para 95...
ela me prejudicou.
Concursos são sistemas relativos.
Não importa somente quanto você sabe.
Importa onde você fica na distribuição dos participantes.
Portanto, uma ferramenta perfeita e universal possuiria uma característica quase cômica:
quanto mais pessoas a utilizassem, menos valiosa ela se tornaria para cada usuário.
Chegamos ao primeiro paradoxo.
Se ninguém possui a ferramenta, ela vale uma fortuna.
Se todo mundo possui a ferramenta, talvez não valha nada.
E pior.
Ela pode destruir o próprio mecanismo pelo qual deveria proporcionar vantagem.
🏆 Todo mundo tirou 100. Agora fazemos o quê?
Imagine uma prova na qual o desempenho normal historicamente produza determinada distribuição.
Então acontece algo extraordinário.
Milhares de candidatos começam a acertar quase tudo.
Não precisamos concluir automaticamente que houve fraude.
Talvez a prova estivesse fácil.
Talvez o conteúdo tivesse vazado por vias legítimas anteriormente.
Talvez a preparação tivesse melhorado.
Talvez existisse algum problema metodológico.
Mas certamente surgiria uma pergunta administrativa bastante desconfortável:
Por que o instrumento deixou de conseguir distinguir os candidatos?
Porque uma prova classificatória precisa produzir informação.
Se:
[
20.000\ candidatos \rightarrow 20.000\ notas\ praticamente\ iguais
]
a entropia classificatória despenca.
O concurso virou uma magnífica máquina caríssima para descobrir absolutamente nada.
Dick venceu.
Muttley ganhou medalha.
E ninguém pegou o pombo porque existem agora 20 mil Dick Vigaristas emparelhados na reta final.
🤖 CAPÍTULO II — A alucinação que entregou a quadrilha inteira
Agora mudemos uma variável.
A ferramenta não é perfeita.
Existe uma questão obscura.
Algo jurídico, matemático ou técnico extremamente peculiar.
A IA interpreta errado.
Mas não erra de maneira humana.
Produz uma resposta baseada numa interpretação estranha.
E 30% de determinado grupo entrega exatamente aquele mesmo erro extraordinário.
Agora temos algo fascinante.
Não necessariamente uma prova de fraude.
Mas potencialmente uma assinatura estatística.
Isso ocorre porque decisões que parecem independentes podem possuir um ancestral comum invisível.
Imagine:
Pessoa A → erro X
Pessoa B → erro X
Pessoa C → erro X
Coincidência.
Agora:
10.000 pessoas → exatamente o mesmo erro improvável.
A pergunta muda.
Por quê?
Talvez exista um cursinho comum.
Talvez determinada apostila tenha ensinado algo errado.
Talvez a própria questão induza naturalmente ao erro.
Ou talvez exista outra origem compartilhada.
Investigar significa procurar explicações concorrentes, não declarar culpa automaticamente.
Mas Dick Vigarista começa a suar.
🧠 Então Dick tem uma ideia brilhante
— Muttley!
— Hmmmm?
— Não podemos deixar todos acertarem igual!
Muttley cruza os braços.
— Então vamos mandar alguns errarem!
E chegamos a algo profundamente estranho.
A fraude hipotética mais sofisticada talvez precise deliberadamente parecer imperfeita.
O objetivo deixa de ser:
[
MAX(\text{nota})
]
e passa a ser algo parecido com:
[
MAX(\text{probabilidade de classificação})
]
sujeito a:
[
P(\text{detecção}) < limite
]
Agora Dick não quer produzir o candidato perfeito.
Quer produzir:
um candidato plausivelmente excelente.
Talvez Platinum faça 91.
Gold, 82.
Silver, 74.
Bronze...
— Senhor, o Bronze reprovou.
— EXCELENTE! PROVA QUE FUNCIONAMOS DE FORMA NATURAL!
Muttley:
— Hehehehehehehehehe.
💰 O concurso virou pay-to-win
E aqui nosso experimento deixa de ser simplesmente tecnológico.
Torna-se econômico.
Porque se existissem níveis de assistência clandestina associados ao poder aquisitivo, uma instituição construída para selecionar indivíduos segundo critérios públicos poderia ganhar uma camada secreta:
[
Poder\ econômico
\rightarrow
Qualidade\ da\ vantagem
\rightarrow
Probabilidade\ de\ aprovação
]
Seria uma espécie de videogame social perverso.
O candidato acredita que existe:
Conhecimento → Prova → Classificação
mas clandestinamente passaria a existir:
Capital → Tecnologia → Vantagem → Ranking
E aparece outro problema da teoria dos jogos.
O candidato Bronze sabe que existem honestos.
Mas sabe que talvez existam Silver.
O Silver teme o Gold.
O Gold ouviu falar do Platinum.
E o sujeito honesto olha para tudo isso e pensa:
“Se os outros estiverem usando alguma coisa e eu não estiver, estou condenado.”
Agora algo muito mais grave aconteceu.
☢️ Não precisamos de fraude universal. Basta acreditar nela.
Esta talvez seja uma das partes mais desconfortáveis de toda a discussão.
Uma instituição depende não somente de integridade objetiva.
Depende também de:
confiança percebida.
Imagine dois candidatos perfeitamente honestos.
A acredita que B está trapaceando.
B acredita que A está trapaceando.
Nenhum deles gostaria de infringir as regras.
Mas ambos raciocinam:
“Se eu continuar sozinho jogando limpo, serei o idiota da sala.”
Acabamos de construir uma corrida armamentista.
É a velha tragédia:
ninguém queria chegar ali.
Mas, dadas as crenças sobre o comportamento dos demais, trapacear começa a parecer racional individualmente.
Isso é teoria dos jogos.
É Dilema do Prisioneiro.
É ação coletiva.
É informação assimétrica.
E agora nosso concurso está deixando de ser apenas uma prova.
Virou um sistema adversarial adaptativo.
🕵️ CAPÍTULO III — A banca entra no Wacky Races
A banca também possui computadores.
A banca também possui estatística.
A banca também possui IA.
Portanto:
RED TEAM
“Como obtenho vantagem sem ser detectado?”
BLUE TEAM
“Como identifico comportamento artificial?”
Red:
“Como descubro quais sinais eles usam?”
Blue:
“Como escondo quais sinais usamos?”
Red:
“Como simulo comportamento normal?”
Blue:
“Como detecto alguém simulando normalidade?”
Dick olha para Muttley.
Muttley olha para Dick.
O pombo passa tranquilamente por cima.
🔐 E então aparece a Máquina Enigma
Agora chegamos a uma situação conhecida pela inteligência militar há muito tempo:
Descobrir o segredo do adversário é apenas metade do problema.
A outra metade é:
não deixar o adversário descobrir que você descobriu.
Suponhamos que a banca identifique uma característica extraordinariamente eficiente para investigar determinada modalidade de fraude.
Publicar exatamente como o detector funciona poderia ensinar o adversário a evitar aquela característica.
Por outro lado, concursos públicos exigem transparência, fundamentação e devido processo.
Surge uma tensão fascinante entre:
transparência institucional
e
proteção das capacidades antifraude.
O atacante não conhece completamente o detector.
O defensor não conhece completamente o atacante.
Cada lado possui crenças sobre as crenças do outro.
Estamos chegando aos jogos bayesianos.
— Eles sabem?
— Talvez.
— Eles sabem que sabemos?
— Talvez.
— Eles sabem que sabemos que eles sabem?
— Muttley, pare de rir.
🐜 CAPÍTULO IV — E então as formigas começaram a marchar
Aqui nossa conversa saiu do concurso.
E foi parar em Wall Street.
19 de outubro de 1987.
Black Monday.
O Dow Jones Industrial Average despencou 22,6% numa única sessão, a maior queda percentual diária de sua história. Estratégias conhecidas como portfolio insurance estiveram entre os mecanismos associados à dinâmica daquele dia, embora estudos posteriores deixem claro que elas não constituíram a única causa do crash.
O detalhe fascinante para nossa história é o feedback.
Certas estratégias procuravam reduzir exposição quando os mercados caíam.
Individualmente:
“O preço está caindo. Preciso me proteger.”
Perfeitamente racional.
Só que muitos participantes reagiam ao mesmo estímulo.
Então:
mercado cai
↓
estratégias vendem
↓
pressão vendedora aumenta
↓
mercado cai mais
↓
estratégias precisam vender mais
↓
🔥
O Federal Reserve posteriormente descreveu vulnerabilidades sistêmicas em termos de alavancagem, interconexão e mecanismos capazes de produzir fire sales e loops negativos de feedback.
E aqui aparece nossa formiga amazônica.
Uma formiga segue corretamente a formiga da frente.
A segunda segue corretamente a primeira.
A terceira segue corretamente a segunda.
Ninguém está “com defeito”.
O algoritmo local funciona.
Até todas formarem um círculo.
E marcharem até morrer.
🐜🐜🐜🐜🐜
Essa é uma das ideias mais importantes deste artigo:
Um sistema pode entrar em colapso sem nenhum participante individual precisar estar “burro”.
A regra local pode ser perfeitamente racional.
O resultado global pode ser catastrófico.
Voltamos imediatamente à IA.
Mil agentes:
“Estou tomando a melhor decisão baseada nas informações disponíveis.”
Mil agentes utilizando mecanismos semelhantes:
DECISÃO CORRELACIONADA.
Agora talvez você não tenha mil inteligências independentes.
Tem mil terminais ligados à mesma família de raciocínio.
🎓 CAPÍTULO V — O chá das cinco dos gênios
Então alguém pergunta:
— Bellacosa, mas se colocarmos gente realmente inteligente controlando os modelos?
Excelente pergunta.
Vamos para 1998.
Long-Term Capital Management.
LTCM.
Um hedge fund cercado por uma aura quase mitológica de sofisticação quantitativa.
Entre seus principais nomes estavam Robert C. Merton e Myron Scholes, laureados com o Nobel de Economia em 1997. O fundo empregava estratégias altamente sofisticadas e fortemente alavancadas. Quando entrou em crise em 1998, quatorze bancos e corretoras colocaram aproximadamente US$ 3,6 bilhões numa recapitalização privada organizada com participação facilitadora do Federal Reserve Bank de Nova York; o Fed não colocou seus próprios recursos na operação.
Imagine o chá.
17 horas.
Porcelana inglesa.
— Temos excelentes traders.
— Splendid.
— Matemáticos excepcionais.
— Wonderful.
— Modelos quantitativos sofisticadíssimos.
— Marvelous.
— Dois laureados com Nobel.
— Extraordinary.
— E uma quantidade respeitável de alavancagem.
Silêncio.
Alguém pega outro biscoito.
O default russo e a turbulência financeira de 1998 atingiram premissas e posições de maneira que ameaçava gerar vendas desordenadas e danos além do próprio fundo. O próprio Federal Reserve testemunhou posteriormente que uma liquidação desorganizada poderia ter afetado significativamente outros participantes e mercados.
A lição não é:
“Nobel não sabe nada.”
Seria uma conclusão infantil.
A lição é muito mais aterrorizante:
inteligência extraordinária não imuniza ninguém contra premissas erradas, interdependências escondidas ou acontecimentos fora da região confortável do modelo.
💻 O programa estava certo
Um COBOLzeiro reconheceria imediatamente o problema:
IF WORLD-BEHAVES-AS-MODELED
PERFORM PERFECT-CALCULATION
END-IF
A rotina PERFECT-CALCULATION pode estar impecável.
O problema está no IF.
E talvez ninguém tenha percebido que:
WORLD-BEHAVES-AS-MODELED = FALSE
🏚️ CAPÍTULO VI — 2008: quando todo mundo descobriu que estava conectado
Uma década depois, a crise financeira de 2007–2008 mostrou novamente como alavancagem, crédito, securitização, perdas imobiliárias, interdependência e desconfiança poderiam transformar problemas localizados em crise sistêmica. Ben Bernanke posteriormente apontou excesso de alavancagem, fragilidades regulatórias, securitização e outros fatores entre os elementos importantes para compreender a crise.
Instituições possuíam departamentos diferentes.
Modelos diferentes.
Prédios diferentes.
Executivos diferentes.
Servidores diferentes.
Logotipos diferentes.
Mas isso não significava necessariamente:
riscos independentes.
Quando ativos perdem valor...
quando liquidez desaparece...
quando contrapartes começam a desconfiar umas das outras...
quando todos precisam simultaneamente reduzir risco...
as correlações aparecem justamente onde os modelos desejavam encontrar diversificação.
O Federal Reserve descreveu naquele período instituições com capital consumido por perdas, balanços carregados de produtos complexos e ilíquidos e elevação do risco sistêmico acompanhada por forte contração do crédito.
A formiga voltou.
🤖 CAPÍTULO VII — Agora coloque IA em cima disso tudo
É aqui que meu café ficou frio.
Porque talvez estejamos repetindo uma velha história com uma diferença assustadora de escala.
Imagine:
10.000 advogados.
5.000 analistas financeiros.
20.000 médicos.
100.000 programadores.
30.000 gestores.
Todos acreditam utilizar assistentes diferentes.
Marca A.
Marca B.
Copilot C.
Fornecedor D.
Produto E.
Mas desça algumas camadas.
Talvez muitos utilizem poucas famílias de foundation models.
Talvez vários tenham sido treinados parcialmente em informações semelhantes.
Talvez compartilhem determinadas representações.
Talvez possuam pontos cegos correlacionados.
A aparência externa é:
[
100.000\ agentes
]
A diversidade cognitiva efetiva pode ser muito menor.
E surge um conceito importantíssimo:
monocultura algorítmica.
Na agricultura, monocultura facilita escala e eficiência.
Também pode aumentar a vulnerabilidade a uma única praga.
Na computação:
milhões de máquinas usando a mesma vulnerabilidade produzem um problema sistêmico.
Na IA:
milhares de organizações utilizando famílias de modelos semelhantes podem produzir um novo tipo de correlated failure.
😵 A IA não precisa dominar o mundo
Essa imagem cinematográfica talvez esteja nos distraindo.
Não precisamos de Skynet.
Não precisamos de HAL 9000.
Não precisamos de uma IA dizendo:
“Sinto muito, Dave.”
Talvez o cenário realmente perigoso seja muito mais banal.
A IA responde educadamente:
“Claro! Com base nas informações disponíveis, minha recomendação é X.”
Em outro banco:
“Minha recomendação é X.”
Outro:
“X.”
Outro:
“X.”
Outro:
“X.”
Milhares de sistemas diferentes.
A mesma conclusão.
Até descobrirmos que:
X estava errado.
💣 O problema não foi a IA alucinar
O problema foi todo mundo acreditar na mesma alucinação.
Voltemos ao concurso.
Um modelo erra uma questão.
Problema pequeno.
Cinquenta candidatos reproduzem o erro.
Interessante.
Cinco mil reproduzem.
Temos alguma dependência compartilhada para investigar.
Agora leve isso para um mercado financeiro.
Uma recomendação errada afeta um operador.
Pequeno.
Mil agentes financeiros recebem avaliações semelhantes.
Problema maior.
Todos possuem mecanismos automáticos de redução de exposição.
🐜
🐜
🐜
🐜
🐜
Você já sabe onde essa história termina.
🏁 CAPÍTULO VIII — Dick Vigarista percebe que também é uma formiga
Finalmente voltamos à pista.
Dick passou a história inteira tentando ganhar o concurso.
Comprou IA.
Criou Platinum.
Criou Silver.
Contratou Muttley.
Desenvolveu técnicas mirabolantes.
Tentou prever a banca.
A banca começou a prever Dick.
Dick passou a prever a previsão da banca.
A banca colocou IA.
Dick colocou outra IA.
Então existem cinquenta fornecedores clandestinos.
Todos descobriram estratégias semelhantes.
Todos começam a produzir candidatos estatisticamente parecidos.
Todos tentam simultaneamente evitar os mesmos detectores.
E ocorre algo maravilhoso:
Os fraudadores tornam-se correlacionados justamente porque estão tentando parecer independentes.
Muttley olha para Dick.
— Hehehehehehehe.
— Não ria, Muttley.
— Hehehehehehehehehehehe.
— MUTTLEY!
Enquanto isso...
o pombo cruza a linha de chegada.
🧩 CAPÍTULO IX — Goodhart estava escondido no porta-malas
Existe ainda outra possibilidade.
Talvez nenhuma fraude tenha acontecido.
Talvez todo o problema esteja no próprio instrumento.
Uma instituição quer selecionar:
“os profissionais mais capacitados.”
Como medir?
Cria uma prova.
Agora temos uma proxy:
[
Competência \rightarrow Nota
]
Mas milhares de pessoas começam a treinar especificamente para maximizar:
[
Nota
]
A indústria de preparação aprende a prova.
Os candidatos aprendem os padrões.
As estratégias melhoram.
Os bancos de questões crescem.
A proxy vira objetivo.
É o território da chamada Lei de Goodhart:
quando uma medida passa a ser perseguida como objetivo, pode perder parte de sua qualidade enquanto medida.
Em machine learning chamaríamos parte disso, informalmente, de algo parecido com:
overfitting humano.
Training set:
98%.
Produção:
— Explique seu raciocínio.
SYSTEM ABEND S0C4
😂
Isso não prova fraude.
Mostra outra coisa igualmente desconfortável:
Talvez passar brilhantemente pelo mecanismo de seleção não seja idêntico a possuir brilhantemente aquilo que imaginávamos estar selecionando.
🧠 E então aparece a pergunta proibida
Não sobre um candidato.
Não sobre uma banca.
Não sobre determinado concurso.
Sobre sistemas de seleção em geral:
Como sabemos que aquilo que estamos medindo ainda representa aquilo que desejávamos medir?
E depois:
O que acontece quando os participantes aprendem a otimizar o teste melhor do que o teste consegue medir os participantes?
E depois:
O que acontece quando IA acelera essa otimização?
E finalmente:
O que acontece quando tanto candidato quanto avaliador passam a utilizar algoritmos para modelar o comportamento do outro?
Pronto.
Não temos mais uma prova.
Temos um ecossistema adversarial.
🎮 CAPÍTULO X — O mundo vira pay-to-win?
Esta talvez seja a pergunta social mais desagradável.
Durante décadas, desigualdade de preparação sempre existiu.
Um candidato tem dinheiro para cursinho.
Outro não.
Um possui tempo integral para estudar.
Outro trabalha doze horas.
Um possui professores particulares.
Outro tem PDF encontrado na internet.
Mas IA pode introduzir novas camadas de assimetria.
Modelos premium.
Ferramentas especializadas.
Agentes privados.
Dados proprietários.
Infraestrutura exclusiva.
Consultorias.
Modelos locais.
Capacidade computacional.
No uso legítimo, isso já produz diferenças competitivas.
Agora imagine mercados clandestinos explorando diferenças semelhantes.
Teríamos potencialmente:
Bronze
Silver
Gold
Platinum
Platinum Black Dick Dastardly Founders Edition
E Muttley finalmente recebe sua medalha NFT.
⚠️ CAPÍTULO XI — A confiança é a infraestrutura que ninguém vê
Um mainframe possui componentes que todos reconhecem.
CPU.
Memória.
I/O.
DASD.
RACF.
JES.
CICS.
Db2.
Mas instituições sociais também possuem infraestrutura invisível.
Uma delas é:
confiança.
Dinheiro funciona porque existe confiança.
Mercados dependem de confiança.
Contratos dependem de confiança.
Eleições dependem de confiança.
Concursos dependem de confiança.
Não necessariamente confiança de que ninguém jamais trapaceará.
Isso seria infantil.
Mas confiança de que:
o sistema possui capacidade razoável de detectar, investigar, corrigir e punir desvios sem destruir os inocentes.
Se essa crença desaparecer, muda o comportamento dos participantes.
É aí que a fraude deixa de ser apenas um problema criminal.
Torna-se um problema sistêmico.
Porque pessoas honestas começam a alterar estratégias em resposta ao que acreditam que os desonestos estão fazendo.
E isso nos leva novamente a 1987.
O comportamento do outro modifica meu comportamento.
Meu comportamento modifica o mercado.
O mercado modifica o comportamento do outro.
Loop.
🐜 CAPÍTULO XII — A marcha da morte algorítmica
Talvez devêssemos colocar um pequeno quadro no CPD:
NÃO CONFUNDA DECISÕES DISTRIBUÍDAS COM DECISÕES INDEPENDENTES.
São coisas completamente diferentes.
Você pode ter:
10 mil usuários.
10 mil computadores.
10 mil contas.
10 mil organizações.
10 mil interfaces.
E ainda assim possuir uma gigantesca dependência compartilhada.
Se a decisão final vem de poucas famílias algorítmicas, talvez tenhamos construído apenas:
uma enorme ilusão de diversidade.
Este talvez seja um dos riscos mais interessantes da próxima década.
Não:
“IA versus humanos.”
Mas:
IA reduzindo silenciosamente a diversidade dos erros humanos.
Humanos erram de maneiras maravilhosamente diferentes.
João interpreta errado.
Maria calcula errado.
Pedro esquece algo.
Antônio possui viés político.
Josefina está com sono.
O conjunto desses erros possui alguma diversidade.
Agora damos a todos o mesmo copiloto.
Eles passam a cometer...
erros melhores.
Mais sofisticados.
Mais convincentes.
Mais elegantemente escritos.
E talvez...
os mesmos erros.
☕ EPÍLOGO — Muttley finalmente ganhou sua medalha
Nossa conversa começou com uma pergunta quase de desenho animado:
“E se alguém utilizasse IA para trapacear num concurso?”
Parecia uma história sobre fraude.
Não era.
Era uma porta.
Abrimos.
Atrás dela estava teoria dos jogos.
Depois economia.
Depois segurança.
Depois inteligência militar.
Depois Goodhart.
Depois Black Monday.
Depois LTCM.
Depois 2008.
Depois monocultura tecnológica.
Depois correlated failure.
E finalmente descobrimos algo profundamente desconfortável:
O problema mais perigoso de um sistema inteligente talvez não seja alguém encontrar uma forma de vencê-lo.
Pode ser todo mundo encontrar a mesma forma de vencê-lo simultaneamente.
Porque aí não existe vencedor.
O concurso não consegue selecionar.
O mercado não consegue precificar.
O detector não consegue distinguir.
Os agentes não conseguem confiar.
E o sistema começa a reagir ao próprio comportamento.
Dick acelera.
A banca acelera.
A IA acelera.
O mercado acelera.
As formigas aceleram.
Muttley ri.
🐜🐜🐜🐜🐜🐜🐜🐜🐜🐜
E ninguém pergunta:
“Por que diabos estamos todos correndo nesta direção?”
🏁 Algumas perguntas para levar para casa
Talvez a IA não destrua uma instituição trapaceando.
Talvez a destrua tornando a trapaça barata demais.
Talvez não precise haver fraude generalizada.
Talvez baste existir a crença plausível de que ela é generalizada.
Talvez o próximo problema de segurança não seja detectar comportamento perfeito.
Talvez seja detectar imperfeição artificial cuidadosamente fabricada.
Talvez modelos diferentes não sejam realmente tão diferentes.
Talvez milhares de agentes autônomos sejam, na prática, algumas poucas famílias cognitivas usando gravatas diferentes.
Talvez estejamos construindo sistemas mais inteligentes e simultaneamente diminuindo sua diversidade.
Talvez o próximo grande desastre algorítmico não venha de um software com bug.
Talvez venha de milhares de programas sem bug nenhum, obedecendo perfeitamente à mesma premissa errada.
Talvez a pergunta mais importante sobre IA não seja:
“Ela está certa?”
Talvez seja:
“Quantas outras máquinas chegaram exatamente à mesma conclusão?”
E existe uma última pergunta.
A pior.
Quando o sistema finalmente perceber que milhares de agentes estão marchando juntos em direção ao precipício...
quem será o primeiro a parar?
Porque Black Monday ensinou que estratégias semelhantes podem reforçar movimentos coletivos.
LTCM ensinou que genialidade individual não elimina fragilidade sistêmica.
A crise financeira ensinou novamente que alavancagem, interconexão, complexidade e perda de confiança podem transformar problemas individuais em crises sistêmicas.
E talvez a era da IA esteja preparando a próxima pergunta:
O que acontece quando não conectamos apenas computadores?
Conectamos decisões.
Muttley olha para Dick.
Dick olha para a pista.
O pombo desaparece no horizonte.
E, pela primeira vez desde o início da Corrida Maluca, Dick Vigarista não tenta acelerar.
Ele olha para o painel.
Depois para Muttley.
Depois para as outras centenas de carros seguindo exatamente a mesma rota indicada pelo algoritmo.
E pergunta:
“Muttley... quem calculou esse caminho?”
Muttley para de rir.
☕
P.S. — E então o Banco Master entrou no balaio de gatos
Eu estava quase fechando este artigo.
Dick Vigarista tinha ido embora.
Muttley finalmente conseguira sua medalha.
As formigas estavam cansadas.
O pessoal do LTCM já tinha terminado o chá das cinco.
Black Monday voltara para 1987.
2008 havia sido cuidadosamente guardado naquela gaveta do escritório marcada:
“COISAS QUE JURAMOS QUE NUNCA DEIXAREMOS ACONTECER NOVAMENTE.”
Fechei o terminal.
LOGOFF
Então alguém bateu na porta.
— Bellacosa...
— O quê?
— Tem um banco brasileiro querendo entrar no artigo.
LOGON
☕
🇧🇷 O Banco Master entra na sala
O caso do Banco Master merece cuidado porque ainda existem investigações, acusações contestadas e responsabilidades sendo apuradas.
Portanto não vamos transformar investigação em sentença.
Mas alguns fatos já são suficientemente sólidos para tornar o caso fascinante dentro da discussão deste artigo.
Em 18 de novembro de 2025, o Banco Central decretou a liquidação extrajudicial do Banco Master e de outras instituições do conglomerado.
Na comunicação oficial, o BC apontou:
grave crise de liquidez;
comprometimento significativo da situação econômico-financeira;
e
graves violações às normas que regem as instituições do Sistema Financeiro Nacional.
O Banco Central informou ainda que continuaria apurando responsabilidades administrativas e comunicando autoridades quando cabível.
Ou seja:
não estamos diante simplesmente de alguém que perdeu uma aposta no mercado.
Alguma coisa muito maior havia acontecido.
🐱 Bem-vindo ao balaio de gatos
E aqui o caso começa a conversar assustadoramente com nosso artigo.
Quando acontece um desastre financeiro grande, nossa cabeça procura naturalmente:
O culpado.
É confortável.
Existe um vilão.
Colocamos o sujeito numa caixa.
Fechamos.
PROBLEM SOLVED
Só que sistemas financeiros modernos não funcionam assim.
Existe:
banco;
regulador;
auditoria;
compliance;
controles internos;
contrapartes;
instituições compradoras;
gestores;
conselhos;
sistemas de risco;
fundos;
investidores;
garantias;
supervisão;
bases de dados;
documentação;
regras prudenciais;
e pessoas tomando decisões dentro de todas essas estruturas.
Portanto a pergunta interessante não é somente:
“Quem fez alguma coisa errada?”
A pergunta de engenharia é:
“Quantas barreiras existiam entre o início do problema e o desastre final?”
E depois:
“Por que elas não interromperam a sequência?”
🧀 O queijo suíço voltou
Quem trabalha com incidentes conhece o Swiss Cheese Model.
Imagine várias fatias de queijo.
Cada uma representa uma barreira:
controle interno
🧀
compliance
🧀
auditoria
🧀
contraparte
🧀
gestão de risco
🧀
supervisão
🧀
Cada fatia possui buracos.
Isso é normal.
Nenhum controle é perfeito.
O acidente grande acontece quando, temporariamente:
os buracos se alinham.
🔴 → 🧀 → 🧀 → 🧀 → 🧀 → 💥
E talvez essa seja uma maneira muito mais interessante de estudar o Master.
Não apenas:
“qual controle falhou?”
Mas:
“como tantos controles puderam deixar de impedir o mesmo resultado?”
💳 E havia uma máquina extraordinariamente poderosa no meio disso tudo: confiança
Um banco não vende apenas CDB.
Não vende apenas crédito.
Não vende somente taxas.
Ele vende:
confiança institucional.
Quando você olha para uma instituição autorizada a funcionar dentro do Sistema Financeiro Nacional, existe uma cadeia psicológica invisível.
O investidor pensa:
“Existe banco.”
Depois:
“Existe Banco Central.”
Depois:
“Existem regras.”
Depois:
“Existe auditoria.”
Depois:
“Existem controles.”
Depois:
“Existe o FGC em determinadas aplicações e limites.”
Cada camada reduz subjetivamente a sensação de risco.
O curioso é que exatamente a existência dessas proteções pode modificar comportamento.
Esse é território conhecido da economia:
moral hazard.
Se acredito que parte do meu risco está protegida, talvez aceite riscos que não aceitaria sem proteção.
Não significa que a proteção seja ruim.
Significa que:
proteções também alteram incentivos.
E sistemas inteligentes precisam considerar isso.
🏁 Dick Vigarista levanta a mão
— Bellacosa!
— Não, Dick.
— Tenho uma pergunta.
— Fale.
— Se o regulamento diz que existe uma barreira de segurança...
— Sim?
— ...posso estruturar meu comportamento sabendo que essa barreira existe?
Silêncio.
Muttley começa:
— Hehehehehe...
É exatamente aí que regras deixam de ser apenas barreiras.
Elas tornam-se parte do ambiente estratégico.
O participante não simplesmente obedece ou desobedece à regra.
Ele pode estudar:
onde ela começa;
onde termina;
quem fiscaliza;
quando fiscaliza;
qual informação utiliza;
quais incentivos cria;
quais exceções possui.
Isso acontece legalmente todos os dias.
Chama-se planejamento.
Arbitragem regulatória.
Otimização tributária.
Estruturação financeira.
Compliance estratégico.
O problema aparece quando alguém atravessa a fronteira entre:
explorar legitimamente a estrutura das regras
e
violar, manipular ou contornar fraudulentamente os controles.
E determinar onde essa fronteira foi atravessada é justamente trabalho de investigação, supervisão e Justiça.
🧠 Agora lembre do nosso concurso
O candidato não precisava destruir a banca.
Precisava entender o mecanismo.
A banca cria detector.
O candidato adapta comportamento.
A banca adapta detector.
O candidato adapta novamente.
No mercado financeiro acontece algo conceitualmente semelhante.
Regulador cria regra.
Mercado adapta produtos.
Regulador observa comportamento.
Mercado encontra novas estruturas.
Regulador fecha determinada possibilidade.
Mercado reorganiza.
Isso não significa necessariamente fraude.
É simplesmente um sistema adaptativo.
Mas quando participantes maliciosos entram no jogo, eles também recebem o manual das regras.
E aí surge um dos paradoxos fundamentais da segurança:
O atacante joga dentro do mesmo tabuleiro que o defensor construiu.
🚨 E então aparece uma anomalia
Segundo relatos recentes sobre depoimento do diretor de Fiscalização do Banco Central à Polícia Federal, uma das coisas que despertaram suspeitas no início de 2025 foi justamente uma aparente contradição:
um banco enfrentando problemas de liquidez...
mas realizando grandes cessões de crédito ao BRB.
Pare.
Leia novamente.
É exatamente o tipo de coisa que nosso programador COBOL deveria aprender a procurar.
Não necessariamente:
IF FRAUDE
Porque quase nunca existe uma variável chamada FRAUDE.
Existe:
IF COMPORTAMENTO-OBSERVADO
NOT = COMPORTAMENTO-ESPERADO
Aí acende uma luz.
🚨
Não significa automaticamente culpa.
Significa:
INVESTIGUE.
🔎 É o mesmo problema da alucinação no concurso
Lembra dos candidatos?
Milhares respondem normalmente.
Então aparece um grupo com um padrão extraordinariamente estranho.
A resposta correta não é:
“PRENDAM TODOS!”
A resposta correta é:
“Por que esse cluster existe?”
Talvez exista explicação inocente.
Talvez não.
No sistema financeiro é parecido.
Uma transação isolada pode ser perfeitamente normal.
Cem também.
Mas determinados padrões agregados podem produzir perguntas.
É por isso que antifraude moderno trabalha tanto com:
anomalias;
relacionamentos;
clusters;
sequências;
contrapartes;
temporalidade;
concentração;
comportamento histórico.
Não estamos procurando necessariamente uma transação com uma etiqueta:
FRAUDE.EXE
Estamos procurando:
comportamento que não combina com o restante do sistema.
🕸️ E o Master torna nossa conversa ainda mais desconfortável
Porque as investigações recentes não tratam somente de ativos.
Há também suspeitas envolvendo pessoas e funcionamento institucional.
Relatos publicados em agosto de 2026 descrevem depoimentos à Polícia Federal sobre suposta resistência interna a determinadas apurações e possíveis vazamentos de informações relacionadas ao caso.
Novamente:
investigação não é condenação.
Mas, para nosso estudo de sistemas, a hipótese é extraordinariamente importante.
Porque existe uma diferença gigantesca entre:
Controle que falha
e
Controle cuja independência é comprometida.
Um firewall com bug é um problema.
Um administrador do firewall colaborando com o atacante seria outro completamente diferente.
🔐 RACF entra na conversa
O mainframeiro imediatamente entende.
Você pode possuir:
RACF.
MFA.
Segregation of Duties.
Logs.
SMF.
Auditoria.
Perfis.
Least Privilege.
Alertas.
SIEM.
Mas existe uma pergunta anterior a todas:
Posso confiar nas identidades e nos papéis responsáveis pelos controles?
Porque:
CONTROLE + CONFLITO-DE-INTERESSE
pode produzir algo muito diferente de:
CONTROLE + INDEPENDENCIA
Segurança não é apenas tecnologia.
É também governança.
🐜 E finalmente encontramos novamente nossas formigas
1987 ensinou algo sobre feedback.
1998 ensinou algo sobre modelos, alavancagem e confiança excessiva.
2008 ensinou algo sobre interconexão.
Nosso concurso hipotético ensinou algo sobre sistemas adversariais.
E o Master acrescenta uma peça brasileira extremamente interessante:
as próprias proteções e instituições fazem parte do jogo estratégico.
Isso deveria incomodar qualquer arquiteto.
Porque significa que não basta perguntar:
“Tem controle?”
Precisamos perguntar:
“O controle continua funcionando quando alguém deliberadamente tenta modelá-lo?”
E depois:
“Os controles são realmente independentes?”
E:
“Quem controla o controlador?”
E:
“Quem observa quem observa?”
E finalmente:
“O que acontece quando cada camada presume que a camada anterior já verificou aquilo?”
☕ O café acabou novamente
Dick Vigarista está sentado no canto.
Muttley recebeu outra medalha.
O pombo está inexplicavelmente em cima do Banco Central.
As formigas continuam marchando.
E o velho programador COBOL escreve no quadro:
IDENTIFICATION DIVISION.
PROGRAM-ID. CONFIANCA.
PROCEDURE DIVISION.
PERFORM VALIDAR
THRU VALIDAR-EXIT
IF CONTROLE-EXISTE
DISPLAY "NAO SIGNIFICA QUE FUNCIONOU"
END-IF
IF TODOS-CONFIAM-NO-CONTROLE
DISPLAY "VERIFIQUE NOVAMENTE"
END-IF.
STOP RUN.
Porque talvez essa seja a verdadeira ligação entre o Banco Master, nosso concurso imaginário, Black Monday, LTCM, 2008 e a Inteligência Artificial:
Sistemas complexos raramente quebram porque simplesmente esqueceram de instalar uma proteção.
Às vezes quebram porque havia tantas proteções que cada participante começou a acreditar que alguma outra proteção certamente impediria o desastre.
E talvez exista uma pergunta ainda pior:
E se alguém perceber isso antes dos defensores?
Nesse momento, Dick Vigarista não precisa quebrar o sistema.
Ele precisa apenas descobrir...
como o sistema espera que alguém se comporte.
Muttley começa a rir.
HEHEHEHEHEHEHE.
E no console aparece:
SYSTEM STATUS: NORMAL
RISK STATUS: ACCEPTABLE
CONTROLS: ACTIVE
CONFIDENCE: HIGH
*** WARNING ***
NOBODY CHECKED WHETHER
THE ASSUMPTIONS WERE STILL TRUE.
☕
