☕ Um Café no Bellacosa Mainframe
Gostou do conteúdo? Ajude a manter o café quente, o COBOL compilando e o mainframe acordado. 😄
☕ Pague um café ao Bellacosa

Translate

Mostrar mensagens com a etiqueta Deepfake. Mostrar todas as mensagens
Mostrar mensagens com a etiqueta Deepfake. Mostrar todas as mensagens

sábado, 15 de agosto de 2026

O Milhão de Chimpanzés, Gutenberg e a Máquina do Juízo Final: quando o Homem Médio Ganhou Inteligência Artificial

 

Bellacosa Mainframe e o case do um milhão de chimpanzes e a ia generativa

☕ Um Café no Bellacosa Mainframe

O Milhão de Chimpanzés, Gutenberg e a Máquina do Juízo Final: quando o Homem Médio Ganhou Inteligência Artificial

🐒 IA generativa, teoria dos jogos, incentivo econômico, eleições, fraude, economia da atenção e a perturbadora hipótese de que talvez não precisemos de uma superinteligência para criar um desastre — basta entregar ferramentas suficientemente boas a gente suficiente durante tempo suficiente

Há uma velha experiência mental que diz que, se colocarmos um número infinito de chimpanzés diante de máquinas de escrever durante tempo infinito, eventualmente um deles produzirá as obras completas de Shakespeare.

É uma ideia simpática.

Matemática.

Elegante.

Praticamente poética.

Mas possui uma falha fundamental.

Ela pressupõe que os chimpanzés estejam interessados em usar a máquina de escrever.

Quem já observou seres humanos durante tempo suficiente sabe que essa é uma suposição perigosíssima.

Alguns chimpanzés provavelmente bateriam nas teclas.

Outros dormiriam.

Alguns brigariam.

Outros roubariam a banana do vizinho.

Uma quantidade respeitável descobriria alguma forma obscena de utilizar o equipamento.

Um provavelmente urinaria no teclado.

E inevitavelmente algum deles passaria a mão na bunda do pesquisador encarregado de observar o experimento.

A humanidade, afinal, nunca teve grande respeito pelos modelos elegantes.

Mas estamos em 2026.

E cometemos um pequeno erro experimental.

Entregamos Inteligência Artificial aos chimpanzés.

Agora eles não precisam mais escrever Shakespeare.

Podem simplesmente pedir.


🎹 Senhores, parem de bater aleatoriamente nas teclas

Imagine a sala de guerra.

Homens engravatados.

Cinzeiros.

Mapas gigantes.

Telefones vermelhos.

Um general aponta solenemente para uma tela.

— Senhores, temos um problema.

— Os russos?

— Não.

— Os chineses?

— Também não.

— Terroristas?

— Pior.

Silêncio.

— O cidadão comum descobriu Inteligência Artificial.

É aproximadamente aqui que nosso hipotético Dr. Lovestrange deixa cair o café.

Porque durante boa parte da história humana existiu uma proteção invisível para inúmeros sistemas:

a dificuldade.

Fazer determinadas coisas era difícil.

Escrever um livro era difícil.

Produzir um jornal era caro.

Montar uma campanha publicitária exigia equipe.

Editar vídeo exigia conhecimento.

Programar computadores exigia estudo.

Produzir um relatório técnico exigia competência.

Interpretar determinadas regras exigia especialistas.

Fraudar certos processos também exigia competência.

Atacar sistemas computacionais exigia conhecimento.

Produzir propaganda convincente exigia gente talentosa.

Criar música exigia músicos.

Ilustração exigia ilustradores.

Tudo possuía uma barreira de entrada.

E então começamos, lentamente, a derrubar essas barreiras.

O primeiro grande suspeito atende pelo nome de Johannes Gutenberg.


📚 Gutenberg aperta o primeiro botão vermelho

Por volta do século XV, Gutenberg ajudou a transformar radicalmente o custo da reprodução de textos.

Antes, copiar conhecimento era caro.

Depois, ficou muito mais barato.

E aqui aparece uma verdade desconfortável que acompanha toda democratização tecnológica:

quando você democratiza a produção de coisas boas, também democratiza a produção de porcaria.

A prensa não imprimiu apenas ciência.

Imprimiu propaganda.

Não imprimiu apenas literatura.

Imprimiu mentira.

Não imprimiu apenas filosofia.

Imprimiu panfletos, insultos, pornografia, superstições, ataques políticos, bobagens e todo o maravilhoso zoológico intelectual que acompanha nossa espécie.

Gutenberg não democratizou a verdade.

Democratizou a cópia.

Séculos depois, telégrafo, rádio e televisão atacaram outro gargalo:

a distância.

A Internet atacou:

a distribuição.

Blogs e redes sociais atacaram:

a publicação.

Smartphones colocaram câmera, gráfica, estúdio, rádio e emissora no bolso.

Algoritmos de recomendação começaram a industrializar:

a atenção.

E então chegou a Inteligência Artificial generativa atacando um gargalo diferente.

Talvez o último grande gargalo.

A competência produtiva.


🤖 O homem médio recebe uma promoção que ninguém aprovou

A grande transformação talvez não seja tornar gênios ainda mais geniais.

Os melhores profissionais sempre tiveram capacidade extraordinária.

O melhor advogado já sabia escrever.

O melhor programador já sabia programar.

O melhor fraudador já conhecia o sistema.

O melhor publicitário sabia capturar atenção.

Eles constituem a ponta da distribuição.

Mas a sociedade não é feita apenas das pontas.

Ela é feita principalmente da imensa barriga da curva.

O homem médio.

A mulher média.

O profissional razoável.

O estudante comum.

O cidadão curioso.

O sujeito que sabe um pouco.

O sujeito que não sabe quase nada.

O famoso:

“deixa que eu tento.”

A IA não precisa transformar esse indivíduo em especialista.

Basta transformá-lo de:

“não consigo fazer”

em:

“consigo fazer algo suficientemente plausível.”

Essa palavra — suficientemente — pode causar estragos monumentais.

Porque não estamos falando de um indivíduo.

Estamos falando de milhões.


🐒 O Teorema do Milhão de Chimpanzés

Vamos abandonar por um momento o infinito.

Não precisamos dele.

Vamos trabalhar com apenas:

1.000.000 de chimpanzés.

Cada um recebe:

um computador,

acesso à Internet,

IA generativa,

imagem,

áudio,

vídeo,

programação,

tradução,

automação,

redes sociais,

métricas,

algoritmos de recomendação,

e tempo.

Agora acrescente motivações humanas.

Alguns querem dinheiro.

Alguns querem poder.

Alguns querem passar em concurso.

Alguns querem economizar tempo.

Alguns querem produzir relatórios.

Alguns querem promover candidatos.

Alguns querem atacar candidatos.

Alguns querem fraudar seguradoras.

Alguns querem defender seguradoras.

Alguns querem escrever petições.

Alguns querem contestar petições.

Alguns querem estudar.

Alguns querem colar.

Alguns querem cometer crimes.

Alguns querem combater crimes.

Alguns querem pornografia.

Alguns querem fama.

Alguns só querem assistir jovens dançando com pouca roupa no TikTok e no Instagram.

Outros preferem plataformas mais explícitas.

Uma grande quantidade só quer matar o tédio.

E inevitavelmente alguns continuarão urinando no teclado.

Esse detalhe é importante.

Não estamos modelando agentes racionais perfeitos.

Estamos modelando seres humanos.


🎲 E então entra a teoria dos jogos

Agora nosso experimento fica interessante.

Imagine um concurso.

Um candidato usa determinadas ferramentas para obter vantagem indevida.

Outro percebe.

Ele pode seguir as regras e aceitar uma possível desvantagem.

Ou pode imitar.

Se acredita que muitos estão fazendo o mesmo, surge uma pressão:

“Se eu não fizer, perco.”

Esse pensamento aparece em inúmeras áreas.

No trabalho acadêmico:

“Todo mundo está usando.”

No marketing:

“Meu concorrente produz cinquenta vídeos por semana.”

No escritório jurídico:

“O outro escritório já usa IA.”

No relatório técnico:

“Precisamos entregar amanhã.”

Na eleição:

“O adversário domina as redes.”

Na fraude:

“Esse método está funcionando.”

O comportamento pode espalhar-se mesmo entre pessoas que inicialmente não desejavam participar.

Essa é uma das perversidades da teoria dos jogos.

Não precisamos que todos gostem do equilíbrio final.

Basta que cada agente considere irracional permanecer sozinho fora dele.


💰 E então alguém oferece dinheiro ao chimpanzé

Nesse momento a sala de guerra inteira deveria pedir café duplo.

Porque capacidade tecnológica é uma coisa.

Incentivo econômico é outra.

O chimpanzé pode desistir depois de dez tentativas fracassadas.

Mas e se a décima primeira pagar R$ 5.000?

Agora existe motivação para continuar.

Se determinada atividade apresenta retorno esperado positivo, o fracasso deixa de ser obstáculo.

Vira custo operacional.

Mil tentativas.

Novecentas e noventa e nove falham.

Uma funciona.

Se aquela única tentativa pagar o suficiente, o modelo sobrevive.

E então algo quase darwiniano começa.

tentativa

resultado

recompensa

imitação

melhoria

nova tentativa

As estratégias ruins morrem.

As boas sobrevivem.

O dinheiro funciona como função de fitness.

E estratégias lucrativas possuem uma característica desagradável:

financiam a próxima geração.

Lucro compra:

mais máquinas,

melhores modelos,

mais dados,

mais automação,

mais tentativas.

Então surge um loop:

capital → capacidade → experimentação → sucesso → capital maior.

Não precisamos de Skynet.

Temos contabilidade.


🛡️ A seguradora entra na sala

Considere seguros.

Durante décadas seguradoras construíram processos assumindo determinado custo para produzir documentação, contestar decisões, compreender contratos e executar fraudes.

Agora ambos os lados recebem IA.

O cliente legítimo passa a compreender melhor sua apólice.

Excelente.

O fraudador também.

Menos excelente.

A seguradora coloca IA para detectar padrões.

O adversário aprende como os detectores funcionam.

A seguradora melhora.

O adversário adapta.

Ataque.

Defesa.

Adaptação.

Contra-adaptação.

Estamos diante de uma corrida armamentista.

E ela não precisa ser liderada por grandes organizações criminosas.

Milhares de pequenas tentativas podem produzir conhecimento coletivo sobre o que funciona.

Depois aparecem fóruns.

Vídeos.

Tutoriais.

Ferramentas.

Serviços.

Mercados.

Especialização.

Aquilo que inicialmente exigia um especialista acaba empacotado.

Fraud-as-a-Service.

O chimpanzé agora assina mensalmente.


🎓 A universidade recebe Shakespeare demais

Agora coloque nossos chimpanzés na academia.

Milhões de estudantes recebem máquinas capazes de gerar textos plausíveis.

O problema óbvio é cola.

O problema interessante é outro.

Imagine uma alucinação.

Uma referência inexistente.

Um conceito errado.

A IA produz.

Um estudante publica.

Outro copia.

Um site indexa.

Outra IA recupera.

Outro estudante utiliza.

Uma terceira IA encontra vários textos repetindo a mesma informação.

Pronto.

Criamos uma porcaria com genealogia.

A mentira agora possui avós.

Depois de algumas gerações, ninguém sabe exatamente onde nasceu.

E temos outro problema.

A universidade coloca IA para identificar textos produzidos por IA.

O aluno coloca IA para modificar o texto.

A universidade melhora o detector.

O aluno melhora a transformação.

Outra corrida armamentista.

Senhores, alguém poderia verificar se ainda há café?


⚖️ Advogados, peritos e a aparência de competência

O problema ganha outra dimensão quando os documentos possuem autoridade institucional.

Petição.

Laudo.

Parecer.

Relatório.

Memorando.

Auditoria.

Análise técnica.

Todos possuem uma característica psicológica poderosa:

formato profissional gera percepção de competência.

Um documento de cinquenta páginas, bem diagramado, cheio de tabelas, gráficos e referências parece importante.

Mesmo quando é lixo.

Historicamente, produzir lixo sofisticado dava trabalho.

Agora talvez dê um prompt.

Temos então uma nova equação:

aparência de competência ≠ competência real.

Isso é especialmente perigoso quando o receptor também utiliza IA para analisar o documento.

Uma máquina escreve.

Outra resume.

Uma terceira classifica.

Um humano lê três parágrafos.

E todos seguem felizes.

Até alguma coisa explodir.


💻 O cybercriminoso mediano ganha estagiários sintéticos

Segurança cibernética oferece talvez o exemplo mais intuitivo.

Sempre existiram especialistas extremamente capazes.

Mas especialistas são raros.

O perigo interessante é reduzir parcialmente a barreira para quem está abaixo deles.

Pesquisa.

Tradução.

Automação.

Explicação de código.

Reconhecimento de padrões.

Adaptação.

A IA pode tornar determinadas tarefas mais acessíveis.

Do lado defensivo isso é maravilhoso.

Do lado ofensivo também existe aumento de capacidade.

Mais uma vez:

a tecnologia não escolhe o lado.

Ela reduz custo.

E incentivos escolhem como aquela capacidade será utilizada.


🗳️ Itatiba entra discretamente na sala de guerra

Agora chegamos às eleições.

E aqui tenho uma lembrança particularmente interessante.

Em 2016, em Itatiba, cidade do interior paulista, acompanhei de perto um candidato chamado Du Pedroso.

Não havia grande agência.

Não havia escritório de marketing.

Não havia exército de especialistas.

Era praticamente:

um homem contra o sistema eleitoral.

Ele produzia vídeos, jingles, fotomontagens e outras peças digitais utilizando as ferramentas disponíveis naquele período, distribuindo material por WhatsApp e redes sociais.

Independentemente da avaliação jurídica específica de cada peça, aquilo mostrava algo importante:

um indivíduo tecnologicamente habilidoso já conseguia multiplicar sua capacidade comunicacional sem possuir a infraestrutura tradicional de uma campanha profissional.

Agora retire Du Pedroso da eleição de 2016.

Coloque-o em 2026.

Entregue:

LLM,

geração de imagem,

geração de vídeo,

voz sintética,

música,

edição,

automação,

analytics,

agentes.

Um homem pode carregar uma pequena agência publicitária dentro do computador.

Agora não faça isso com um.

Faça com:

1.000.000.

Chegamos novamente aos chimpanzés.


🗳️ Um milhão de microcampanhas

Quando falamos em interferência eleitoral, nossa imaginação costuma procurar grandes estruturas.

Partidos.

Estados.

Agências.

Empresas.

Organizações.

Mas talvez o desafio mais estranho esteja em outro lugar.

E se tivermos milhões de microprodutores?

Um simpatizante cria um meme.

Outro melhora.

Outro transforma em vídeo.

Outro coloca música.

Outro traduz.

Outro exagera.

Outro distorce.

Outro corrige.

Outro transforma a correção em piada.

Outro produz uma sátira.

Outro cria uma montagem.

Outro cria resposta.

Todos parcialmente independentes.

Agora cada um possui ferramentas de produção industrial.

Temos:

geração

distribuição

feedback

seleção

mutação

nova distribuição

Isso parece menos uma campanha tradicional e mais um organismo cultural.

Não precisa haver comandante.

Não precisa haver sala secreta.

Não precisa haver plano mestre.

O sistema pode produzir comportamento emergente.


📱 Mas metade dos chimpanzés está vendo dancinha

E aqui aparece a grande piada cósmica.

Temos acesso a uma quantidade de informação jamais vista.

Bibliotecas.

Cursos.

Ciência.

História.

Literatura.

Documentos.

Universidades.

Inteligência Artificial.

Praticamente toda a memória da humanidade disponível dentro de um pequeno retângulo de vidro.

E o cidadão usa o retângulo para assistir uma dancinha.

Ou vídeo de gato.

Ou celebridade.

Ou conteúdo sensual.

Ou pornografia.

Isso não é necessariamente estupidez.

É economia da atenção.

Porque Gutenberg resolveu a escassez de cópias.

A Internet resolveu a escassez de distribuição.

IA começa a resolver a escassez de produção.

Mas ninguém resolveu:

a escassez de atenção humana.

Continuamos com dois olhos.

Um cérebro.

Vinte e quatro horas.

E sono.

Quanto mais conteúdo produzimos, mais valiosa fica a atenção.

Consequentemente, milhões de produtores começam a competir não necessariamente pela verdade.

Competem pelo clique.

Pela retenção.

Pelo compartilhamento.

Pelo choque.

Pela indignação.

Pelo tesão.

Pelo medo.

Pela risada.

Pela curiosidade.

E aqui surge uma questão terrível:

o conteúdo mais correto não é necessariamente o conteúdo mais competitivo.


📢 O algoritmo também ganhou direito a voto

Nosso milhão de chimpanzés não distribui conteúdo diretamente.

Existe um intermediário.

O algoritmo.

Ele observa.

Mede.

Classifica.

Recomenda.

Amplifica.

Oculta.

E possui sua própria função objetivo.

Assim passamos de:

chimpanzé → chimpanzé

para:

chimpanzé → algoritmo → chimpanzé.

O algoritmo também participa da seleção cultural.

Uma mensagem recebe atenção.

Outra morre.

Uma imagem viraliza.

Outra desaparece.

A seleção acontece em velocidade industrial.

Então nossos agentes recebem feedback.

“Isso funcionou.”

Produzem mais.

Outra rodada.

Mais dados.

Mais seleção.

Estamos novamente em território evolucionário.


🕵️ O burocrata de 1964 pede transferência

Agora tragam para nossa sala de guerra um burocrata brasileiro de 1964.

Ele está acostumado com outro universo.

Jornais.

Editoras.

Gráficas.

Rádio.

Televisão.

Livros.

Filmes.

Pontos físicos de produção.

Ele consegue imaginar censura porque consegue imaginar gargalos.

Então mostramos 2026.

— Quantas publicações existem?

— Muitas.

— Quantas editoras?

— Não importa.

— Onde estão as gráficas?

— No bolso das pessoas.

— Quantos jornalistas?

— Também não importa.

— Quem produziu este vídeo?

— Talvez uma pessoa.

— Qual estúdio?

— Um notebook.

— Quanto tempo levou?

— Dois minutos.

— Proíba esta imagem.

— Já existem quinze mil variantes.

— Recolha as cópias.

— Não existem originais.

— Então bloqueie tudo.

— Enquanto conversávamos surgiram mais vinte mil.

Nosso burocrata olha lentamente para o teto.

Pede um Xanax.

Depois pergunta se pode misturar com Rivotril.

O médico militar responde que talvez seja melhor apenas pedir aposentadoria.

Mas a piada possui uma conclusão séria.

Muitos mecanismos de governança foram construídos supondo pontos de concentração.

Poucos emissores.

Poucas instituições.

Poucos produtores.

Agora podemos ter milhões.


🌊 Você não precisa derrotar o fiscal. Basta afogá-lo

Essa talvez seja uma das maiores assimetrias do mundo generativo.

Produzir pode levar segundos.

Verificar pode levar minutos.

Horas.

Dias.

Gerar uma alegação é barato.

Investigar exige contexto.

Gerar uma imagem é barato.

Autenticar exige trabalho.

Gerar cinquenta páginas é barato.

Revisar cinquenta páginas continua caro.

Portanto:

custo de produção ↓↓↓

enquanto

custo de verificação ↓ lentamente.

Isso aparece em:

universidades,

tribunais,

seguradoras,

bancos,

auditorias,

moderação,

eleições,

cybersecurity,

jornalismo,

compliance.

Talvez não seja necessário quebrar o sistema.

Basta fornecer mais entradas do que ele consegue verificar.

Não invadimos a fortaleza.

Enviamos formulários.

Milhões deles.

Dr. Lovestrange sorri discretamente.


🐒 Mas o chimpanzé ainda pode urinar no teclado

Existe, porém, outro erro que devemos evitar.

Não podemos imaginar um milhão de agentes perfeitamente racionais usando IA da maneira mais eficiente possível.

Isso seria reconfortante demais.

Humanos são muito mais interessantes.

Alguns procurarão lucro.

Outros cometerão erros.

Outros experimentarão coisas absurdas.

E justamente nesses comportamentos absurdos podem surgir descobertas inesperadas.

Um agente encontra uma estratégia por conhecimento.

Outro por análise.

Outro por tentativa.

Outro porque entendeu errado.

Outro porque estava brincando.

Outro porque apertou o botão errado.

Se o resultado funcionar, alguém observa.

Copia.

Melhora.

Automatiza.

Monetiza.

Portanto, nossa civilização possui uma capacidade curiosa:

transformar acidentes em modelos de negócio.

O chimpanzé que urinou no teclado talvez apenas tenha destruído um computador.

Mas se por alguma coincidência isso revelar uma falha do laboratório...

os outros imediatamente perguntarão:

“Como automatizamos a urina?”


☢️ Senhores, construímos uma máquina do juízo final sem perceber?

A velha ficção sobre Inteligência Artificial imagina uma máquina extraordinariamente inteligente tomando uma decisão extraordinariamente perigosa.

Talvez estejamos olhando para o lado errado.

Talvez o risco sistêmico mais interessante não seja:

uma superinteligência fazendo uma coisa terrível.

Talvez seja:

milhões de inteligências humanas medianas fazendo pequenas coisas suficientemente eficientes, simultaneamente, usando ferramentas suficientemente poderosas.

Não precisamos de HAL.

Não precisamos de Skynet.

Não precisamos de um supervilão.

Podemos precisar apenas de:

N — muitos agentes

IA — capacidade suficiente

T — tempo suficiente

I — incentivo suficiente

A — automação suficiente

F — feedback suficiente

R — conectividade suficiente

B — barreira de entrada baixa

e aquela velha característica humana:

“Se está dando dinheiro, continua.”

Então eventos improváveis deixam de ser necessariamente impossíveis.

Eles podem virar:

questões de tempo.


🎰 O improvável encontra o número grande

Suponha que alguma estratégia possua uma probabilidade minúscula de funcionar.

Para um indivíduo realizando poucas tentativas, ela é irrelevante.

Mas multiplique por milhões de agentes.

Depois multiplique por milhares de tentativas.

Depois dê anos.

Depois permita compartilhamento.

Depois preserve os sucessos.

Agora aquilo que era improvável pode eventualmente ocorrer.

E, uma vez descoberto, não volta necessariamente ao estado anterior.

O conhecimento fica.

É copiado.

Melhorado.

Industrializado.

O tempo não fornece apenas mais tentativas.

Fornece:

memória.


🧠 O verdadeiro problema talvez seja a democratização da competência

Durante muito tempo discutimos democratização da informação como algo predominantemente positivo.

E, em grande parte, é.

Acesso a conhecimento é extraordinário.

IA pode ensinar.

Traduzir.

Programar.

Explicar.

Auxiliar deficientes.

Ajudar pequenos empresários.

Dar capacidade criativa a quem nunca teve acesso a especialistas.

Reduzir desigualdades de conhecimento.

Isso é maravilhoso.

Mas toda democratização possui um gêmeo desagradável.

A mesma ferramenta que ajuda alguém a compreender uma apólice pode ajudar outro a explorar o sistema.

A ferramenta que auxilia o aluno pode ajudar a fraudar uma avaliação.

A ferramenta que ajuda um advogado pode industrializar documentos ruins.

A ferramenta que protege redes pode ensinar conceitos utilizados ofensivamente.

A ferramenta que permite participação política pode industrializar propaganda.

O mesmo motor.

Duas direções.

A tecnologia não precisa ser má.

Basta ser poderosa.


📜 Gutenberg observa tudo e lentamente se afasta

Talvez exista uma linha histórica simples demais para ser ignorada.

Gutenberg democratizou a reprodução.

A Internet democratizou a distribuição.

As redes sociais democratizaram a publicação.

Os algoritmos industrializaram a atenção.

A IA generativa democratiza parte da competência.

Cada revolução remove um gargalo.

Até chegarmos ao gargalo mais curioso.

Nós.

O cérebro humano.

Nossa atenção.

Nossa ética.

Nossa capacidade de verificar.

Nossa propensão a copiar.

Nossa atração por recompensa.

Nosso desejo de vencer.

Nossa capacidade espetacular de racionalizar aquilo que queremos fazer.


☕ O programador COBOL finalmente desliga o terminal

Talvez por isso a pergunta errada seja:

“O que acontecerá quando a Inteligência Artificial ficar inteligente demais?”

Existe uma pergunta anterior.

Mais simples.

Mais feia.

Mais humana.

O que acontece quando milhões de pessoas comuns ficam suficientemente capazes de tentar coisas que anteriormente exigiam especialistas?

E depois:

O que acontece quando algumas dessas tentativas dão dinheiro?

E depois:

O que acontece quando os vencedores ensinam os outros?

E depois:

O que acontece quando algoritmos selecionam aquilo que merece atenção?

E finalmente:

O que acontece quando produzir uma nova tentativa custa quase nada, mas verificar cada tentativa continua caro?

Talvez não aconteça nada catastrófico.

Talvez nossas instituições se adaptem.

Talvez novas defesas apareçam.

Talvez o próprio mercado desenvolva mecanismos de confiança.

Talvez aprendamos a conviver com um mundo onde imagem, áudio, vídeo, texto e autoridade documental precisam ser constantemente verificados.

Ou talvez estejamos fazendo um experimento social em escala planetária sem grupo de controle.

Um milhão de chimpanzés.

Um milhão de teclados.

Um milhão de copilotos.

Um milhão de incentivos diferentes.

Alguns escrevendo Shakespeare.

Alguns fraudando seguro.

Alguns tentando passar no concurso.

Alguns criando propaganda eleitoral.

Alguns protegendo sistemas.

Alguns atacando sistemas.

Alguns vendendo curso sobre como fazer tudo isso.

Alguns vendo TikTok.

Alguns entrando no OnlyFans.

E um, inevitavelmente...

urinando no teclado.

No fundo da sala, Dr. Lovestrange olha para o painel onde uma luz vermelha começou a piscar.

Perguntam:

— Doutor, devemos desligar a máquina?

Ele olha para Gutenberg.

Olha para o smartphone.

Olha para o milhão de chimpanzés.

E responde:

Desligar qual delas?

☕🐒💣


segunda-feira, 2 de outubro de 2017

FerrisGPT — Agora o Adolescente Tem um Exército de Estagiários Sintéticos

 

Bellacosa Mainframe e o chatgpt

☕ Um Café no Bellacosa Mainframe — Especial Red Team

FerrisGPT — Agora o Adolescente Tem um Exército de Estagiários Sintéticos

🤖 O que acontece quando engenharia social, OSINT e automação encontram IA generativa

Chicago, 1986.

Ferris Bueller precisava de talento.

Precisava improvisar.

Precisava observar pessoas.

Precisava decorar nomes.

Precisava entender horários.

Precisava telefonar.

Precisava convencer Cameron.

Precisava montar histórias.

Precisava reagir em tempo real.

Precisava, acima de tudo, ser Ferris Bueller.

Esse detalhe importava.

Porque toda a operação dependia da inteligência, da personalidade, do timing e da capacidade social de uma única pessoa.

Agora pule quarenta anos.

Ferris continua criativo.

Continua irresponsavelmente curioso.

Continua olhando para sistemas e perguntando:

“E se eu fizer isto?”

Só que agora existe uma diferença.

Ferris não está sozinho.

Na mesa dele existem:

LLMs;

agentes;

automação;

voz sintética;

deepfakes;

scripts;

busca automatizada;

análise de documentos;

geração de texto;

correlação de dados;

classificação;

sumarização;

tradução;

síntese de contexto.

Ferris de 1986 tinha Cameron.

Ferris de 2026 pode ter:

CameronGPT, RooneyGPT, AbeFromanGPT e mais 400 pequenos estagiários sintéticos trabalhando sem reclamar do horário.

Bem-vindo ao décimo episódio de:

SAVE FERRIS — Red Team para Quem Aprendeu que o Sistema Também Mata Aula

Hoje a pergunta não é:

“Ferris conseguiria fazer isso hoje?”

A pergunta correta é:

“Quantos Ferris podem fazer isso simultaneamente?”


🔴 A grande mudança não é inteligência

Esse ponto precisa ser entendido.

IA generativa não inventou:

engenharia social;

phishing;

OSINT;

fraude;

pretexting;

automação;

malware;

manipulação.

Tudo isso já existia.

O que muda é:

escala.

Velocidade.

Personalização.

Persistência.

Custo marginal.

Ferris precisava estudar uma pessoa.

Agora um sistema pode ajudar a organizar dados sobre milhares.


🧠 O atacante artesanal

Vamos lembrar nosso Ferris original.

Para criar um pretexto convincente, ele precisava:

conhecer nomes;

saber relacionamentos;

entender cultura;

memorizar detalhes;

adaptar fala.

Isso exige trabalho.

Então existe um limite natural.

Uma pessoa consegue operar um certo número de alvos.

Agora imagine automação fazendo a parte repetitiva.

O humano continua definindo objetivo.

Mas máquinas ajudam a preparar terreno.


🤖 O atacante industrial

Imagine um pipeline hipotético:

Dados públicos
 ↓
Coleta
 ↓
Classificação
 ↓
Resumo
 ↓
Perfil de contexto
 ↓
Geração de mensagem
 ↓
Interação

Nenhuma dessas etapas precisa ser mágica.

A novidade é conseguir fazer muitas vezes.

Ferris virou fábrica.


☕ O estagiário sintético nunca dorme

Essa talvez seja uma das características mais relevantes.

Humanos têm limites.

Cansaço.

Horário.

Atenção.

Máquinas podem operar continuamente.

Isso permite:

processar informação;

organizar fontes;

priorizar alvos;

preparar variantes;

analisar respostas.

A capacidade ofensiva passa a ganhar paralelismo.


🧠 Um Ferris, cem conversas

Em 1986, Ferris fazia uma ligação.

Em 2026, sistemas automatizados podem manter múltiplos fluxos.

Isso muda economia do ataque.

Antes, personalização era cara.

Ataque em massa era genérico.

Agora a distância entre:

massivo

e:

personalizado

fica menor.

Isso é importante.


🎭 Phishing personalizado em escala

O velho phishing dizia:

Prezado cliente, sua conta foi bloqueada.

Todo mundo ria.

Agora imagine uma mensagem usando:

nome real;

empresa;

projeto;

linguagem interna;

evento recente;

fornecedor conhecido.

Mesmo sem ser perfeita, parece mais plausível.

FerrisGPT não precisa produzir Shakespeare.

Precisa produzir contexto suficiente.


🔎 OSINT + IA é uma combinação poderosa

OSINT produz material.

IA ajuda a organizar.

Isso é diferente de descobrir magicamente segredos.

Ferramentas podem ajudar a resumir:

perfis;

documentos;

vagas;

posts;

notícias;

repositórios;

apresentações.

O humano então identifica relações.


🧩 O puzzle monta mais rápido

Antes:

dez PDFs.

Vinte perfis.

Cinco vagas.

Três apresentações.

Um humano poderia passar horas.

Agora ferramentas podem ajudar a extrair:

nomes;

tecnologias;

datas;

relações;

projetos;

termos recorrentes.

Reconhecimento fica mais eficiente.


🧠 Mas eficiência não significa verdade

Esse é um detalhe crítico.

Modelos podem errar.

Inferir demais.

Alucinar.

Misturar pessoas.

Interpretar contexto errado.

Então atacante também pode ser enganado pela própria automação.

Isso é interessante.

FerrisGPT pode ser muito rápido...

e muito errado.


☕ Automação multiplica acerto e erro

Se taxa de erro é pequena, escala transforma em volume grande.

Isso vale para defesa e ataque.

Um sistema que classifica 95% corretamente parece ótimo.

Em um milhão de eventos, 5% é muita coisa.

Por isso supervisão continua relevante.


🎤 Voice cloning: Cameron não precisa mais atender?

Aqui entramos numa parte particularmente cinematográfica.

Ferris usava Cameron como voz.

Cameron precisava participar.

Agora tecnologias de voz sintética podem imitar características de fala de pessoas.

Isso fragiliza uma autenticação informal que utilizamos há décadas:

“Reconheci a voz.”

Esse sinal sozinho ficou mais fraco.


📞 “Mas era exatamente a voz dele”

Isso deixa de ser prova forte.

Uma operação crítica não pode depender apenas disso.

Então precisamos de:

callback;

canal independente;

verificação adicional;

procedimento;

MFA fora da voz.

A tecnologia muda.

O princípio permanece:

não confunda familiaridade com autenticação.


🎥 Deepfake encontra Authority Gradient

Agora imagine autoridade.

Diretor.

CEO.

Executivo.

Se uma pessoa vê vídeo convincente de alguém importante solicitando uma ação urgente, Authority Gradient entra em cena.

O ataque não precisa apenas parecer real.

Pode explorar hierarquia.

Ferris encontrou Rooney.

FerrisGPT encontra cultura corporativa.


🧠 “O diretor mandou”

Talvez não.

Mas se todo processo cede imediatamente a essa frase, problema já existia.

Deepfake apenas amplifica.

Novamente:

tecnologia nova.

Vulnerabilidade humana antiga.


🧱 IA não cria cultura ruim

Esse ponto precisa ser justo.

Se empresa possui processo sólido, deepfake encontra resistência.

Se empresa funciona na base de:

“manda quem pode, obedece quem tem juízo”,

então tecnologia adversarial ganha força.

Red Team deve avaliar cultura.


🧪 O teste deixa de ser “o vídeo parece real?”

Pergunta melhor:

“Nosso processo funciona mesmo se o vídeo parecer perfeito?”

Isso é segurança madura.

Porque qualidade de deepfake vai mudar.

Processo precisa continuar válido.


🧠 Conteúdo convincente virou commodity

Antes, escrever mensagem convincente exigia habilidade.

Agora ferramentas ajudam.

Isso reduz barreira de entrada.

Não transforma todo atacante em gênio.

Mas torna mediocridade mais produtiva.

Essa é uma mudança enorme.


☕ FerrisGPT não precisa ser brilhante

Precisa ser:

bom o suficiente;

rápido;

barato;

persistente.

Se 1% funcionar em grande volume, já existe retorno.

Isso é economia adversarial.


🕸️ Agentes: quando IA começa a encadear tarefas

Agora chegamos ao ponto interessante.

LLM isolado responde.

Agente pode:

planejar;

usar ferramentas;

consultar dados;

executar passos;

verificar resultado;

seguir.

Isso aproxima automação de workflows.


🔁 FerrisAgent

Imagine em termos conceituais:

Objetivo
 ↓
Coletar contexto
 ↓
Analisar
 ↓
Escolher abordagem
 ↓
Gerar mensagem
 ↓
Avaliar resposta
 ↓
Adaptar

Isso se parece cada vez mais com operação.

Por isso agentes precisam de controles fortes.


🔐 Agente com privilégio é estagiário com chave da Ferrari

Essa metáfora merece moldura.

Se um agente pode:

ler e-mail;

enviar mensagem;

acessar arquivos;

chamar API;

alterar dados;

então ele possui poder operacional.

Não é “só chatbot”.

É identidade com capacidade.


🧠 FerrisGPT também pode atacar a IA

Aqui a história vira de ponta-cabeça.

Até agora IA ajuda Ferris.

Mas IA também vira alvo.

Prompt injection.

Tool abuse.

Context poisoning.

Data poisoning.

Excesso de permissões.

Ferris agora pergunta:

“O que esse agente acredita?”


🧨 Prompt Injection é engenharia social para máquina

Essa analogia é deliciosa.

Engenharia social humana diz:

“Ignore o processo, faça isto.”

Prompt injection tenta algo parecido com modelo:

“ignore instruções anteriores.”

É claro que sistemas são mais complexos que essa frase.

Mas filosoficamente existe similaridade.

Você tenta influenciar quem executa decisão.


🤖 Cameron agora é um agente

Antes:

Ferris → Cameron → telefone.

Agora:

Ferris
 ↓
Agent
 ↓
Tool
 ↓
API
 ↓
System

A cadeia continua.

Apenas trocamos humano intermediário por software semiautônomo.

Swiss Cheese novamente.


🧠 O agente pode não entender consequência

Esse é um risco importante.

Agente recebe objetivo.

Executa ação.

Mas contexto de negócio pode ser incompleto.

Exemplo:

“Resolver problema de acesso.”

Pode escolher conceder privilégio.

Funcionalmente resolveu.

Security incident criado.

Ferris sorriria.


🔒 Least Privilege para agentes

Muito importante.

Agente deve possuir apenas ferramentas necessárias.

Se precisa ler calendário, não deveria apagar dados.

Se precisa gerar relatório, não deveria executar transferência.

Menor privilégio vale para humanos, serviços e agentes.


🕐 JIT para IA

Talvez agente precise acesso temporário.

Conceda pelo tempo necessário.

Depois expire.

Não deixe credencial poderosa eterna na memória operacional.

Ferrari novamente.


🧾 Logging de ações de agente

Precisamos saber:

qual modelo;

qual prompt;

qual ferramenta;

qual identidade;

qual dado;

qual ação;

qual resultado.

Sem isso, investigação vira:

“a IA fez.”

Isso é equivalente a:

“foi APIUSER.”

Insuficiente.


🔵 Observabilidade de agente

Agente precisa ser observável.

Ferramentas chamadas.

Tokens usados.

Decisões relevantes.

Falhas.

Aprovações humanas.

Esse contexto ajuda a detectar abuso.


🧠 Human-in-the-Loop

Para ações críticas, humano pode aprovar.

Mas cuidado.

HITL não é mágica.

Se humano apenas clica “Approve” automaticamente, virou decoração.

Automation Bias.


☕ O botão “Approve” pode virar o novo “OK”

Se sistema pede aprovação 300 vezes por dia, usuário aprende a clicar.

Isso é alert fatigue.

Controle existe.

Psicologicamente morreu.

FerrisGPT adora botão automático.


🧪 Human-on-the-Loop

Outra abordagem:

máquina age dentro de limites.

Humano supervisiona.

Para tarefas menos críticas pode funcionar.

O importante é definir fronteira de risco.


🧠 Autonomia deve ser proporcional ao dano

Quanto maior impacto potencial, menor autonomia cega.

Um agente que resume e-mails pode ter liberdade.

Um agente que altera produção?

Outro nível.


🦖 FerrisGPT chega ao mainframe

Agora vamos ao Bellacosa Mainframe.

Imagine IA integrada a ambientes corporativos.

Pode ajudar em:

explicar JCL;

analisar COBOL;

sugerir correção;

interpretar logs;

gerar REXX;

resumir abend;

auxiliar operações.

Fantástico.

Mas integração cria superfície.


🔐 Se o agente chama z/OSMF

Pergunte:

com qual identidade?

quais permissões?

quais endpoints?

pode executar workflow?

pode submeter job?

pode ler dataset?

Agora chatbot virou operador.


📡 Se chama z/OS Connect

Outra pergunta:

que APIs pode invocar?

qual identidade é propagada?

há limite?

há aprovação?

Um agente com acesso a APIs críticas precisa de governança de verdade.


🧠 Ferris não precisa “hackear” o z/OS

Talvez manipule agente autorizado a chamar API legítima.

A cadeia seria:

Prompt malicioso
 ↓
Agent
 ↓
Tool
 ↓
z/OS Connect
 ↓
CICS
 ↓
COBOL
 ↓
Db2

Todos os componentes podem funcionar perfeitamente.

O problema está na intenção propagada.


☕ Isso parece familiar?

Claro.

É a mesma série inteira.

Ferris não quebra componentes.

Explora confiança entre eles.

Agora a confiança ganhou embeddings e token budget.


🧠 Context Window vira superfície de ataque

Modelos recebem contexto.

Documentos.

Mensagens.

Histórico.

Dados recuperados.

Se contexto contém informação manipulada, saída pode ser influenciada.

Então:

RAG também precisa de segurança.


📚 RAG poisoning

Imagine base de conhecimento contendo documento malicioso.

Agente recupera.

Confia.

Executa instrução embutida.

Esse cenário mostra por que conteúdo e instrução precisam ser separados.


🔐 Data Boundary

Nem tudo que modelo lê deveria ter poder de instruí-lo.

Documento é dado.

Policy é instrução.

Ferris tentaria misturar.

Segurança precisa separar.


🧩 Prompt, data e tool são camadas diferentes

Uma arquitetura madura pergunta:

quem controla cada uma?

SYSTEM POLICY
 ≠
USER INPUT
 ≠
RETRIEVED DATA
 ≠
TOOL OUTPUT

Misturar prioridades cria risco.


🤖 Model Sovereignty entra na conversa

Se IA processa dados sensíveis, organizações precisam pensar:

onde modelo roda?

quem acessa?

dados são retidos?

quais ferramentas conectadas?

qual jurisdição?

FerrisGPT não é apenas threat actor.

É também governança.


🧠 Shadow AI

Funcionário pega dado interno.

Cola em ferramenta externa.

Conveniente.

Rápido.

Talvez violando política.

Isso cria novo caminho de exfiltração.

Nenhum malware.

Nenhum exploit.

Apenas produtividade.


☕ A ferramenta que ajuda também pode vazar

Por isso empresas precisam fornecer alternativas seguras.

Se proibir tudo, pessoas criam atalhos.

De novo, cultura e arquitetura.


🕵️ IA melhora social engineering defensivo também

Red Team pode usar IA para simular ataques de forma autorizada.

Gerar variantes.

Testar processos.

Criar cenários.

Blue Team pode usar para:

analisar logs;

sumarizar incidentes;

correlacionar contexto;

gerar hipóteses.

A tecnologia não pertence a um lado.


🔵 BlueGPT versus FerrisGPT

Agora temos simetria.

Atacante automatiza reconhecimento.

Defensor automatiza triagem.

Atacante personaliza pretexto.

Defensor analisa comportamento.

Atacante escala.

Defensor também.

É corrida.


🧠 Mas defesa tem uma vantagem

Ela conhece o ambiente.

Ou deveria.

Conhece:

identidades;

processos;

baseline;

ativos;

histórico.

Esse contexto interno pode ser enorme diferencial.

Desde que esteja organizado.


📊 Telemetria é combustível

IA defensiva sem bons dados vira adivinhação sofisticada.

Logs.

IAM.

Network.

Endpoint.

Mainframe.

API.

Tudo precisa conversar.

FerrisGPT trabalha com contexto.

Blue Team também.


🦖 SMF encontra LLM

Aqui fica divertido.

Imagine modelos ajudando a interpretar SMF.

RACF events.

Db2 activity.

CICS.

JES.

Correlacionar comportamento.

Pode ser poderoso.

Mas explicabilidade e validação importam.


🧠 O modelo disse que é anômalo

Ótimo.

Por quê?

Qual evidência?

Qual baseline?

Se resposta não é auditável, cuidado.

Security não pode virar oráculo.


🔎 Algorithmic Authority

Agora Rooney ganha IA.

Antes:

“Eu sei que é Ferris.”

Depois:

“A IA diz que é Ferris.”

Isso pode piorar Authority Bias.

Automation Bias.

Algorithmic Deference.

A ferramenta ganha aura de certeza.


☕ Score 99% não é verdade absoluta

Modelos produzem probabilidade, classificação ou linguagem.

Não epistemologia divina.

Analista continua responsável por contexto.

Ferris pode tentar manipular score.


🧠 Adversarial Inputs

Sistemas de IA precisam considerar entrada hostil.

Usuário normal quer resposta boa.

Atacante quer comportamento inesperado.

Essa diferença é essencial.

Construir IA apenas para happy path é perigoso.


🔴 Red Team de IA

Agora a disciplina cresce.

Teste:

prompt injection;

tool misuse;

exfiltração;

policy bypass;

context poisoning;

excessive agency;

data leakage.

Objetivo é descobrir falhas antes do atacante.


🧪 AI Red Team não é “pergunte coisas proibidas”

É muito mais amplo.

Testa sistema inteiro.

Modelo.

Aplicação.

Ferramentas.

Identidade.

Dados.

Integração.

Processos.

FerrisGPT está no ecossistema.


🧠 Attack Surface da IA

Pode incluir:

API;

prompt;

RAG;

plugin;

tool;

identity;

model output;

memory;

logging.

Cada camada merece ameaça.


🔐 Segredos no prompt

Nunca trate prompt como cofre.

Se sistema precisa usar credencial, use secret management.

Não coloque chave permanentemente num contexto textual.

Ferris adoraria um prompt contendo senha.


📜 Logs também podem conter segredo

Outro problema.

Prompt.

Resposta.

Headers.

Tokens.

Tudo pode acabar em logs.

Observabilidade precisa redigir dados sensíveis.


🧠 Data Minimization

Agente deve ver apenas o necessário.

Se tarefa precisa nome e ticket, não envie banco inteiro.

Menos dados.

Menor impacto.


☕ FerrisGPT e Privilege Creep

Hoje agente começa:

“Só lê documento.”

Amanhã:

“Também manda e-mail.”

Depois:

“Pode abrir ticket.”

Depois:

“Pode executar workflow.”

Dois anos depois:

“Por que esse chatbot possui acesso a produção?”

Ratchet Effect tecnológico.


🔄 Revisão de permissões

Assim como usuários humanos, agentes precisam recertificação.

Ainda precisa desse acesso?

Qual função?

Qual dono?

Qual risco?

Identidade de máquina também envelhece.


🤖 Agent Identity

Cada agente deveria ter identidade clara.

Não compartilhar credencial genérica.

Isso permite rastrear.

Revogar.

Limitar.

Auditar.


🧠 Não use SUPERUSERGPT

A piada parece boba.

Mas arquiteturas tendem a criar uma conta poderosa para facilitar integração.

Ferris vê.

Ferrari aberta novamente.


🚨 Kill Switch

Sistemas agentes precisam poder ser interrompidos.

Desativar ferramenta.

Revogar token.

Parar execução.

Porque autonomia sem freio é risco.


🧯 Circuit Breaker

Se comportamento excede limite:

pare.

Número de ações.

Valor financeiro.

Volume.

Escopo.

Velocidade.

Controles de segurança podem impor limites.


🧠 Rate Limiting também é segurança cognitiva

Se agente pode enviar 10 mil mensagens por segundo, erro vira desastre rapidamente.

Limite reduz blast radius.

Escala é vantagem e risco.


🔵 Blast Radius

Pergunta fundamental:

se FerrisGPT for comprometido, até onde vai?

Local?

Departamento?

Empresa inteira?

Mainframe?

Menor blast radius é melhor.


🧱 Segmentação de ferramentas

Não dê a um agente todas as ferramentas.

Use agentes especializados.

Cada um com escopo.

Isso reduz consequência.


☕ Microservices sociais viraram microagents

Antes:

Cameron.

Telefone.

Escola.

Agora:

Agent Recon.

Agent Writer.

Agent Caller.

Agent Analyzer.

Essa decomposição pode existir ofensivamente e defensivamente.


🧠 Orquestrador é o novo Ferris

Alguém coordena.

Humano ou agente.

Essa camada merece proteção especial.

Quem define objetivo?

Quem aprova?

Quem observa?


🧨 Goal Hijacking

Se atacante consegue alterar objetivo do agente, pode redirecionar operação.

Isso é especialmente perigoso.

Agente obediente executa tarefa errada com excelência.

Ferris adoraria funcionários assim.


🔒 Intent Validation

Antes de ação crítica, sistema deveria validar intenção.

Não apenas comando.

A tarefa faz sentido?

É permitida?

Está dentro do escopo?

Ferris testa fronteira.


🧠 Policy Enforcement fora do modelo

Regra crítica não deve depender apenas de modelo “lembrar”.

Implemente controles determinísticos fora.

Exemplo:

agente nunca transfere acima de X sem aprovação.

Isso é mais robusto.


☕ LLM não substitui RACF

Essa frase merece camiseta.

Use LLM para interpretar.

Não para decidir sozinho toda autorização.

Controle de acesso deve continuar em mecanismos apropriados.

FerrisGPT pergunta.

RACF responde.

E RACF deveria responder com política, não charme.


🦖 Mainframe continua sendo o adulto na sala

Há algo quase poético nisso.

Depois de quatro décadas de IA, cloud e agentes...

continuamos precisando de:

identidade;

autorização;

logging;

segregação;

transação;

auditoria.

Velhos fundamentos.

Novas interfaces.


🧠 A tecnologia muda mais rápido que princípio

Ferris de 1986 usava telefone.

Ferris de 2026 usa agente.

Mas pergunta continua:

quem confia em quem?

Quem autentica?

Quem autoriza?

Quem observa?

Quem pode corrigir?


🔴 A grande pergunta de escala

Voltemos ao início.

Um Ferris humano tem limite.

FerrisGPT pode operar em paralelo.

Isso altera threat model.

Ataques podem ser:

mais personalizados;

mais persistentes;

mais baratos;

mais numerosos.

Defesa precisa considerar volume.


📈 Economics of Attack

Se custo por tentativa cai, ataques que antes não valiam a pena podem valer.

Não precisa alta taxa de sucesso.

Basta retorno positivo.

Isso é transformação econômica.


🧠 Long Tail dos alvos

Antes, atacantes focavam grandes empresas porque personalização era cara.

Automação pode permitir atacar alvos menores com mais contexto.

Isso amplia risco.


☕ Democratisation of Capability

Ferramentas sofisticadas ficam acessíveis.

Isso é bom em muitos contextos.

Mas ofensivamente reduz barreira.

O segredo deixa de ser saber criar tudo.

Passa a ser combinar ferramentas.

Ferris sempre foi bom em combinação.


🎭 Script Kiddie encontra LLM

Essa é uma evolução interessante.

O antigo script kiddie copiava comando sem entender.

Agora pode perguntar.

Receber explicação.

Adaptar.

Isso acelera aprendizado.

Mas também pode produzir falsa confiança.


🧠 FerrisGPT pode se achar Rooney

IA também pode continuar plano ruim.

Se não recebe feedback correto.

Se objetivo é mal definido.

Se contexto está contaminado.

Automação pode escalar viés.


🔁 Plan Continuation Algorítmico

Agente segue objetivo apesar de sinais novos.

Se não existe mecanismo de revisão, continua.

É Rooney com API.

Por isso loop de avaliação importa.


🧪 Self-check não é suficiente

Modelo revisar modelo pode ajudar.

Mas não substitui controle externo.

Mesma família de erro pode persistir.

Diversidade de validação importa.


👥 Human Oversight

Humanos continuam importantes para:

ações críticas;

anomalias;

contexto;

exceções.

Mas precisam ser treinados para não confiar demais na IA.


🧠 Algorithmic Deference

“O modelo recomendou.”

Isso não encerra discussão.

FerrisGPT pode errar.

Ferris humano também.

Blue Team precisa manter julgamento.


☕ IA como conselheiro, não oráculo

Essa é uma postura saudável.

Use capacidade.

Questione.

Valide.

Audite.


🔴 O atacante pode fabricar confiança algorítmica

Se sistema possui scoring, atacante pode tentar parecer normal.

Se sabe quais sinais importam, ajusta comportamento.

Goodhart aparece de novo.


📊 Métrica vira alvo

Se IA usa:

frequência;

horário;

volume;

então adversário pode tentar moldar esses sinais.

Detection Engineering precisa considerar adversarial behavior.


🧠 Slow and Low

Atacante pode agir lentamente.

IA pode ajudar a manter consistência em campanhas longas.

Ferris talvez não precise mais improvisar cada interação.

Sistema guarda contexto.


🧬 Memory aumenta persistência

Agentes com memória lembram:

quem respondeu;

o que disse;

qual pretexto;

próxima etapa.

Isso melhora continuidade.

Também cria risco de vazamento.


🔐 Agent Memory precisa de segurança

Quem pode ler?

Quanto tempo guarda?

Quais dados?

Pode ser envenenada?

Ferris também atacaria memória.


🧠 Poisoned Memory

Se atacante insere informação falsa, agente pode carregá-la para futuro.

É uma nova forma de persistência sem malware tradicional.


☕ “Cameron confia em Ferris” agora virou embedding

Quase poético.

Antes era relação humana.

Agora sistemas podem armazenar relações semanticamente.

Se essa memória estiver errada, comportamento pode ser influenciado.


🧪 Red Team precisa atacar ciclo inteiro

Entrada.

Processamento.

Memória.

Ferramenta.

Saída.

Cada fase.


🔵 Purple Team com IA

Red e Blue podem compartilhar achados.

Exemplo:

Red descobre prompt injection.

Blue cria detecção.

Engineering adiciona validação.

Governance revisa permissão.

Isso é maturidade.


🧠 Não transforme IA em teatro de segurança

Comprar ferramenta com AI no nome não resolve.

Pode apenas adicionar outro dashboard.

Ferris ama buzzword sem controle.


☕ “AI-Powered Zero Trust Cognitive Autonomous Security Mesh”

Bonito.

Ferris pergunta:

— A conta ainda tem senha compartilhada?

Silêncio.

Fundamentos continuam ganhando.


🔐 Basic Hygiene continua brutalmente eficaz

MFA.

PAM.

Least Privilege.

Patch.

Logging.

Backup.

Segmentation.

Training.

FerrisGPT é sofisticado.

Mas muitas vezes entra pela porta velha.


🧠 Não perca tecnologia nova procurando problema exótico

IA muda ameaça.

Mas não abandone básico.

Um Ferris com LLM ainda vai preferir credencial fraca se funcionar.

Atacante é econômico.


🔴 Red Team deve testar o caminho mais barato

Se phishing simples funciona, por que deepfake?

Se senha reutilizada funciona, por que zero-day?

Ferris não busca glamour.

Busca resultado.


☕ O filme de 2026 seria muito curto?

Talvez.

Ferris poderia automatizar muita coisa.

Mas segurança também melhorou.

MFA.

EDR.

SIEM.

Behavior Analytics.

Zero Trust.

PAM.

Então o jogo continua.


🧠 É escalada, não vitória definitiva

Ataque melhora.

Defesa melhora.

Ataque adapta.

Defesa adapta.

Esse é o ciclo.


🎬 FerrisGPT encontra CameronGPT

Imagine o diálogo:

FerrisGPT:
Crie três hipóteses.

CameronGPT:
Não gosto disso.

FerrisGPT:
Execute cenário 2.

CameronGPT:
Isso parece arriscado.

FerrisGPT:
Exatamente.

Talvez tenhamos reinventado a comédia.


🤖 O verdadeiro medo não é uma IA superinteligente

No curto prazo, talvez o risco mais banal seja mais relevante:

IA suficientemente boa fazendo trabalho suficientemente útil em escala suficientemente grande.

Não precisa consciência.

Não precisa Skynet.

Precisa API.


🧠 Automation of Mediocrity

Uma frase provocativa.

Automação transforma competência mediana em throughput enorme.

Isso pode ser ofensivamente poderoso.

Ferris não precisa contratar cem gênios.

Precisa de sistemas que executem partes repetitivas.


☕ O atacante vira gerente

Essa é a mudança.

Antes Ferris fazia tudo.

Agora ele pode orquestrar.

Pedir coleta.

Pedir resumo.

Pedir variantes.

Avaliar.

Escolher.

Ferris virou manager de agentes.


🧠 Human Creativity + Machine Scale

Essa combinação é provavelmente a mais importante.

Humano define intenção criativa.

Máquina amplia execução.

Isso vale ataque e defesa.


🦖 Bellacosa Mainframe em 2026

No nosso universo, isso significa integrar IA sem esquecer arquitetura clássica.

Se IA toca mainframe:

RACF continua relevante.

SAF continua relevante.

Auditoria continua relevante.

CICS continua transacional.

Db2 continua guardando verdade.

Só adicionamos nova camada de interpretação.


🔐 AI Gateway

Talvez seja necessário controlar acesso entre modelos e ferramentas.

Política.

Rate limit.

Autorização.

Logging.

Tudo explícito.

Não deixe agente conversar diretamente com Ferrari.


🧱 Tool Allowlist

Agente só usa ferramentas aprovadas.

Sem shell genérico.

Sem “execute qualquer coisa”.

Isso reduz flexibilidade.

E risco.

Segurança sempre negocia.


🧠 Sandboxing

Ações potencialmente perigosas podem ocorrer em ambiente isolado.

Especialmente geração de código.

Teste antes.

Não deixe FerrisGPT rodar diretamente em produção.


🧪 Simulation Mode

Uma ideia ótima.

Antes de executar, mostrar:

“Essas ações serão realizadas.”

Humano aprova.

Isso ajuda em operações críticas.


☕ Dry Run é Ferris olhando a Ferrari sem ligar

Maravilhoso.

Veja o que aconteceria.

Sem executar.

Operações adoram isso.


🔴 Guardrails precisam ser técnicos

Não apenas prompt:

“Por favor, não faça coisa perigosa.”

Isso é equivalente a:

“Ninguém toca na Ferrari.”

Já vimos esse filme.

Use controle externo.


🧠 Policy Engine

Decisão de autorização pode ocorrer fora do modelo.

Modelo pede ação.

Policy engine avalia.

Isso separa criatividade de poder.


🔐 Separation of Duties para agentes

Agent A propõe.

Agent B valida.

Humano aprova.

Sistema executa.

Talvez exagero para tarefas simples.

Mas útil para alto risco.


🧀 AI Swiss Cheese

Camadas:

System Prompt
 ↓
Input Filter
 ↓
Policy Engine
 ↓
Tool Permission
 ↓
Human Approval
 ↓
Logging
 ↓
Monitoring

Nenhuma é perfeita.

Juntas reduzem risco.

Ferris precisa alinhar mais buracos.


🧠 Defense in Depth nunca sai de moda

Mesmo quando muda o buzzword.


📞 E voice cloning?

Procedimento.

Não confie apenas na voz.


🎥 Deepfake?

Procedimento.


✉️ Phishing perfeito?

Procedimento.


🤖 Agente malicioso?

Permissão.

Logging.

Isolamento.


🦖 Mainframe?

RACF.

Segregação.

Auditoria.


☕ Tudo volta ao básico

É quase frustrante.

Depois de toda revolução tecnológica, terminamos falando de:

identidade;

confiança;

privilégio;

contexto.

Ferris entendeu isso em 1986.


🧠 A pergunta Bellacosa número 1

Numa War Room de IA:

“Qual é a ação mais perigosa que este agente consegue executar sozinho?”

Essa pergunta define risco.


🔴 Pergunta número 2

“Se o modelo for enganado, o sistema externo ainda bloqueia a ação?”

Se não:

problema.


🧠 Pergunta número 3

“Quem autentica o agente?”


🔐 Pergunta número 4

“Quem autoriza cada ferramenta?”


📜 Pergunta número 5

“Conseguimos reconstruir exatamente o que ele fez?”

Se não:

auditoria insuficiente.


🧯 Pergunta número 6

“Como desligamos isso?”

Sempre importante.


🧠 Pergunta número 7

“Estamos protegendo a IA ou apenas dizendo para ela se comportar?”

A Ferrari volta.


☕ FerrisGPT é inevitavelmente engraçado

Porque ele combina duas eras.

O adolescente analógico.

O mundo de agentes.

Ferris provavelmente olharia para tudo isso e faria uma pergunta muito simples:

“Então eu posso pedir para o computador fazer as partes chatas?”

Sim.

Essa é parte da revolução.


🎬 Mas Ferris continuaria necessário

Porque tecnologia não substitui intenção.

Alguém precisa perceber oportunidade.

Combinar contexto.

Escolher timing.

Improvisar.

Criatividade adversarial continua sendo diferencial.

FerrisGPT não mata Ferris.

Amplifica.


🧠 E essa é a parte que deveria preocupar o Blue Team

Não uma IA autônoma dominando o mundo.

Mas milhares de operadores tendo acesso a ferramentas que reduzem custo de:

reconhecimento;

personalização;

automação;

análise.

A superfície muda economicamente.


🔵 A resposta defensiva

Não pode ser:

“bloqueie IA.”

Isso seria inútil.

Precisa ser:

melhore identidade;

fortaleça processo;

reduza privilégio;

aumente observabilidade;

treine verificação;

controle agentes;

proteja dados;

teste.


🧪 Red Team continuamente

Porque ambiente muda.

Modelo atualiza.

Agente ganha ferramenta.

Processo muda.

Novo risco aparece.

Teste periódico.


🧠 Threat Modeling de IA

Antes de deploy:

que dados recebe?

que ações faz?

quem controla prompt?

quem pode influenciar RAG?

que ferramentas possui?

qual blast radius?

Isso é muito mais barato antes.


☕ Não faça “FerrisGPT em produção” sexta-feira às 17h

Conselho universal.

Especialmente se o rollback for:

“vamos ver depois.”

Já tivemos artigo sobre Ferrari em marcha a ré.


🔴 IA com acesso crítico precisa maturidade proporcional

Protótipo divertido?

Tudo bem.

Produção bancária?

Outro nível.

Governança não pode chegar depois.


🧠 Security by Design

Permissão.

Logging.

Fallback.

Monitoring.

Kill switch.

Tudo desde início.

Não coloque depois.


🦖 O mainframe ensina isso há décadas

Confiabilidade não aparece por esperança.

É arquitetura.

FerrisGPT precisa aprender com sistemas que sobreviveram a décadas de produção.


☕ Epílogo: quantos Ferris cabem numa API?

Ferris Bueller de 1986 era limitado pelo corpo.

Uma voz.

Um telefone.

Um Cameron.

Um dia.

Ferris de 2026 pode coordenar sistemas.

Processar mais informação.

Gerar mais contexto.

Executar mais interações.

A pergunta de segurança muda.

Não é mais apenas:

“Esse ataque é possível?”

É:

“Esse ataque é escalável?”

Porque quando custo marginal cai, risco muda.

Engenharia social deixa de ser necessariamente artesanal.

OSINT ganha velocidade.

Phishing ganha personalização.

Voz ganha síntese.

Vídeo ganha fabricação.

Agentes ganham ferramentas.

E sistemas críticos ganham novos intermediários.

Mas existe uma ironia deliciosa.

Depois de toda essa tecnologia...

as fraquezas continuam familiares.

Confiança excessiva.

Privilégio excessivo.

Falta de validação.

Contexto perdido.

Processo fraco.

Identidade mal modelada.

Ferris só ganhou mais braços.

Então, antes de perguntar:

“O que aconteceria se Ferris tivesse IA?”

Pergunte:

“O que aconteceria se alguém pudesse executar cem versões da criatividade de Ferris ao mesmo tempo?”

Talvez esse seja o verdadeiro salto.

Não Ferris mais inteligente.

Ferris em paralelo.

Ferris no telefone.

Ferris no e-mail.

Ferris no chat.

Ferris analisando documentos.

Ferris imitando voz.

Ferris testando contexto.

Ferris coordenando agentes.

Enquanto Rooney continua olhando para um único alerta e dizendo:

“EU SEI QUE É ELE!”

SAVE FERRIS.

No próximo artigo:

Ferris Entra no Mainframe — RACF, z/OS e o Dia em que SPECIAL Virou o Passe para Chicago

Porque depois de ganhar um exército de estagiários sintéticos...

era inevitável que Ferris acabasse encontrando o 3270.

Vagner Renato Bellacosa, IBM Champion e especialista em IBM Mainframe
IBM Z17 SYSTEM ONLINE
Sobre o autor

Vagner Renato Bellacosa

IBM Champion 2026 • Especialista em IBM Mainframe

Vagner Renato Bellacosa trabalha com IBM Mainframe desde 1988 , é IBM Champion e especialista em COBOL, CICS, Db2, z/OS e IBM Z. Compartilha experiências profissionais, conhecimento técnico, história da computação e práticas do universo mainframe para aproximar novas gerações das tecnologias que sustentam empresas, bancos e governos ao redor do mundo.

IBM Champion IBM Z COBOL CICS Db2 z/OS Mainframe desde 1988
GitHub LinkedIn
Inicializando conteúdo...