☕ Um Café no Bellacosa Mainframe
Gattaca na Alfândega: Teoria dos Jogos e o Dia em que Aprendemos a Mentir para o Algoritmo Antes de Mostrar o Passaporte
🛂 Quando o viajante deixa de preparar apenas documentos e começa a preparar também a própria pegada digital
Existe uma cena que provavelmente ainda não aconteceu exatamente como vou descrevê-la.
Mas o desconfortável é que ela já parece perfeitamente plausível.
Você chega ao controle de imigração.
Entrega o passaporte.
A agente olha para você, olha para a tela, olha novamente para você.
— Senhor Bellacosa, qual o motivo da viagem?
— Turismo.
— Quanto tempo pretende permanecer nos Estados Unidos?
— Duas semanas.
Alguns segundos de silêncio.
Depois vem a pergunta que transforma uma viagem internacional em episódio de Black Mirror escrito por Franz Kafka:
— Poderia desbloquear seu telefone?
Pronto.
Nesse instante, tudo aquilo que parecia inocente dentro da intimidade caótica de um smartphone começa a adquirir uma nova interpretação.
Instagram.
YouTube.
Histórico de buscas.
Redes sociais.
Perfis seguidos.
Vídeos assistidos.
Talvez você seja apaixonado por teoria dos jogos.
Talvez tenha assistido a vários vídeos sobre imigração.
Talvez tenha pesquisado histórias de pessoas barradas na fronteira.
Talvez tenha lido artigos sobre engenharia social.
Talvez trabalhe com segurança cibernética.
Talvez tenha estudado Red Team.
Talvez seu algoritmo tenha decidido que você gosta de japonesas dançando.
A agente levanta uma sobrancelha.
Você pensa imediatamente na frase mais perigosa que poderia pronunciar naquele momento:
— É o algoritmo.
Ela responde:
— Aham.
E nasce o verdadeiro problema.
Porque talvez, no futuro, não seja mais suficiente preparar documentos para atravessar uma fronteira.
Talvez algumas pessoas tentem preparar também a interpretação algorítmica de quem elas são.
E nesse momento chegamos a Gattaca.
Só que sem exame de sangue.
🧬 Em Gattaca você preparava o DNA
No filme Gattaca, a sociedade organiza oportunidades a partir daquilo que acredita poder inferir biologicamente sobre cada indivíduo.
Genes viram destino.
O cidadão não precisa necessariamente cometer alguma coisa.
Basta possuir características associadas estatisticamente a determinado futuro.
O protagonista então aprende a manipular os sinais observados pelo sistema.
Sangue.
Urina.
Cabelos.
Pele.
Impressões biológicas.
Ele não altera seu DNA.
Ele altera aquilo que o sistema consegue observar sobre seu DNA.
Essa distinção é extraordinariamente importante.
Porque sistemas modernos de classificação digital funcionam de maneira conceitualmente semelhante.
Eles raramente conhecem você.
Eles conhecem sinais sobre você.
Likes.
Buscas.
Tempo de permanência.
Localização.
Compras.
Contatos.
Dispositivos.
Histórico.
Relacionamentos.
Padrões.
A máquina não observa diretamente sua intenção.
Ela tenta inferi-la.
E toda vez que existe inferência, existe possibilidade de jogo.
🎲 Então entra a teoria dos jogos
Imagine três participantes.
O primeiro é o Estado.
Ele quer identificar viajantes legítimos, reduzir riscos, detectar fraude, encontrar inconsistências e impedir determinadas entradas.
O segundo é o viajante.
Ele quer atravessar a fronteira.
O terceiro é o sistema de informação, cada vez mais composto por bancos de dados, mecanismos de busca, redes sociais, ferramentas analíticas e eventualmente modelos de inteligência artificial.
Enquanto o viajante desconhece completamente os critérios utilizados pelo Estado, existe forte assimetria de informação.
Mas basta parte dos critérios tornar-se conhecida para o comportamento mudar.
Suponha, apenas como experimento mental, que alguém acredite que determinados interesses digitais produzam uma impressão favorável.
Turismo.
Hotéis.
Parques nacionais.
Las Vegas.
Nova York.
Harley-Davidson.
Ford.
Grand Canyon.
Quatro de Julho.
Beisebol.
A partir daí surge uma ideia inevitável:
“E se eu modificar deliberadamente minha atividade digital antes da viagem?”
Não importa aqui se isso realmente produziria qualquer vantagem.
O ponto interessante é outro.
A simples crença de que produziria vantagem já seria suficiente para alterar o comportamento.
E quando as pessoas passam a modificar seu comportamento porque sabem que estão sendo observadas, o jogo muda completamente.
🇺🇸 God Bless the Recommendation Engine
Imagine o cidadão preparando sua viagem.
Sete dias antes:
segunda-feira:
“10 melhores lugares para conhecer na Flórida.”
terça-feira:
“História da Harley-Davidson.”
quarta-feira:
“Por que o Grand Canyon é incrível.”
quinta-feira:
“Melhores churrascarias do Texas.”
sexta-feira:
vídeos do Quatro de Julho.
sábado:
Ford Mustang clássico.
domingo:
National Parks of America.
Segunda-feira chega a entrevista.
O sistema hipotético abre o perfil.
Resultado:
PATRIOTISMO ESTATISTICAMENTE ANÔMALO: 97,4%.
🦅🇺🇸
O candidato sorri.
O agente também.
Então alguém percebe um pequeno detalhe:
esse intenso amor pela cultura norte-americana começou exatamente sete dias antes da entrevista.
Ops.
📉 Goodhart estava escondido na imigração
Existe uma frase atribuída à chamada Lei de Goodhart:
quando uma medida se transforma em alvo, ela deixa de ser uma boa medida.
Se determinado comportamento passa a ser interpretado como indicador de legitimidade, algumas pessoas começam a produzir deliberadamente aquele comportamento.
Então o indicador perde valor.
Esse fenômeno aparece em praticamente qualquer sistema baseado em métricas.
Escolas.
Empresas.
Hospitais.
Bancos.
Seguros.
Plataformas digitais.
Fraude.
Segurança.
E inevitavelmente poderia aparecer em sistemas de avaliação migratória.
O ciclo seria quase previsível.
Primeiro:
o sistema descobre padrões.
Depois:
as pessoas descobrem que o sistema descobriu padrões.
Depois:
as pessoas começam a imitar os padrões desejados.
Depois:
o sistema começa a procurar imitação dos padrões.
Depois:
as pessoas aprendem a imitar sem parecer que estão imitando.
Parabéns.
Acabamos de inventar uma corrida armamentista epistemológica.
🕵️ Primeiro ensinamos como parecer normal
No começo surgiriam vídeos.
“Cinco coisas que você deve fazer antes da entrevista.”
Depois canais especializados.
Depois cursos.
Depois consultorias.
Depois extensões de navegador.
Depois aplicativos.
Finalmente alguém fundaria uma startup.
BorderReady AI
Slogan:
“Otimize sua presença digital antes de viajar.”
Plano gratuito:
Digital Reputation Score: 64/100
Plano Premium:
Improve your Border Confidence™
O aplicativo analisaria:
redes sociais;
histórico público;
resultados de busca;
consistência de perfis;
conteúdo controverso;
sinais comportamentais;
exposição pública.
E então sugeriria:
“Seu perfil demonstra pouco interesse turístico.”
“Seu conteúdo técnico possui frequência anormal.”
“Recomendamos diversificação temática.”
Neste ponto alguém inevitavelmente criaria:
Border Optimization Masterclass
Módulo 1: Conheça seu adversário.
Módulo 2: Controle seus sinais.
Módulo 3: Calibre suas redes.
Módulo 4: Evite mudanças abruptas.
Módulo 5: Pareça espontâneo.
E no momento em que surge o módulo chamado “Pareça espontâneo”, sabemos que alguma coisa deu profundamente errado.
🤖 Então o algoritmo aprende que estamos tentando enganá-lo
Segunda geração do sistema.
Agora não basta observar aquilo que você consome.
Ele observa como seu consumo mudou.
O cidadão passou seis meses assistindo:
anime;
programação;
gatos;
culinária antiga;
games.
Subitamente:
🇺🇸 🇺🇸 🇺🇸 🇺🇸 🇺🇸
Harley-Davidson.
Grand Canyon.
Baseball.
Mount Rushmore.
Florida.
Las Vegas.
Quatro de Julho.
O sistema não precisa concluir:
“Este homem ama os Estados Unidos.”
Pode concluir:
“Este homem talvez queira que alguém conclua que ele ama os Estados Unidos.”
Essa pequena mudança é devastadora.
Porque agora o classificador não tenta apenas interpretar comportamento.
Ele tenta interpretar a intenção por trás da fabricação do comportamento.
🪞 E então começamos a representar uma pessoa para quem está olhando
Aqui entra um conceito muito antigo.
Nós sempre adaptamos comportamento ao observador.
Numa entrevista de emprego vestimos determinada roupa.
Num tribunal utilizamos determinada linguagem.
Num banco apresentamos documentos específicos.
Num encontro mostramos determinados aspectos da personalidade.
Isso não é necessariamente fraude.
É representação social.
O problema começa quando sistemas digitais tentam transformar essa representação em verdade objetiva.
Porque redes sociais nunca foram registros neutros da personalidade.
Meu Instagram pode passar uma semana cheio de gatos simplesmente porque parei alguns segundos diante de três gatos.
Depois games.
Depois anime.
Depois programação.
Depois culinária.
Depois, por alguma aberração estatística:
um obituário infinito.
Quem observar apenas meu feed pode acreditar estar fazendo arqueologia psicológica.
Na verdade está vendo:
eu + algoritmo + curiosidade + acaso + retenção + testes A/B + contexto ausente.
É uma fotografia extremamente ruim da alma humana.
👩💻 Conheça Beatriz Algoritma
Vamos dar um nome à nossa guia.
Beatriz Algoritma.
Beatriz é prestativa.
Educada.
Incansável.
E sabe que você gosta de gatos.
— Senhor Bellacosa, observei que permaneceu 12 segundos neste vídeo.
— Era um gato engraçado.
— Entendido.
Cinco minutos depois:
GATOS.
Mais gatos.
Gatos japoneses.
Gatos cozinhando.
Gatos dormindo.
Gatos programadores.
Você finalmente procura COBOL.
Beatriz reage:
— Excelente.
Agora aparecem mainframes.
Depois anime.
Depois receitas romanas.
Depois vídeos japoneses.
Um dia seu filho abre seu Instagram exatamente durante uma dessas temporadas.
Olha para você.
Olha para o celular.
Olha novamente para você.
— Pai... o que é isso?
Você pensa na resposta racional:
“Filho, sistemas de recomendação inferem preferências a partir de sinais comportamentais implícitos.”
Mas percebe que isso só pioraria tudo.
Então ri.
Beatriz registra:
ENGAGEMENT POSITIVO.
E entrega mais quinze vídeos iguais.
🛂 Agora coloque Beatriz diante de um agente
Voltamos à fronteira.
A agente observa seu telefone.
Ela não está necessariamente vendo você.
Está vendo o retrato que Beatriz produziu de você.
Talvez aquilo provoque nenhuma consequência.
Talvez provoque perguntas.
Talvez apenas uma sobrancelha levantada.
O problema conceitual permanece.
Quanto mais decisões forem tomadas a partir de perfis digitais, maior será o incentivo para que pessoas aprendam a manipular os sinais desses perfis.
E quanto maior a percepção de que os sinais são manipulados, maior será o incentivo institucional para buscar sinais mais profundos.
Então começamos a cavar.
Não basta saber o que alguém segue.
Queremos saber quando começou a seguir.
Não basta saber o que pesquisou.
Queremos saber quanto tempo permaneceu.
Não basta saber o comportamento.
Queremos saber se o comportamento mudou antes de um evento importante.
Não basta saber a mudança.
Queremos saber se a mudança parece estratégica.
Nesse momento, a atividade inocente também começa a adquirir aparência de estratégia.
🏍️ O paradoxo da Harley-Davidson
Imagine agora alguém que genuinamente começa a gostar de motocicletas americanas uma semana antes de viajar.
Talvez tenha assistido a um documentário.
Talvez um amigo tenha mostrado uma Harley.
Talvez simplesmente tenha descoberto algo novo.
Ele passa vários dias pesquisando motocicletas.
Sistema:
“Alteração temática significativa imediatamente antes da viagem.”
Homem:
— Mas eu realmente gosto de Harley-Davidson!
Sistema:
“Declaração consistente com tentativa de parecer alguém que realmente gosta de Harley-Davidson.”
Pronto.
Entramos numa estrutura quase kafkiana.
Se você não produz os sinais esperados, pode parecer estranho.
Se produz sinais demais, pode parecer estratégico.
Se explica a mudança, a explicação pode ser interpretada como preparação.
Essa é uma das grandes fragilidades de sistemas que tentam inferir intenção humana a partir de comportamento observado.
📸 A burocracia antiga trabalhava com fotografias
Durante grande parte do século XX, a burocracia funcionava como uma coleção de fotografias administrativas.
Você entregava:
uma declaração;
um comprovante;
um formulário;
uma certidão;
um extrato.
Cada instituição observava um retrato específico.
A Receita tinha um.
O banco tinha outro.
O consulado tinha outro.
O empregador tinha outro.
O cartório tinha outro.
Esses sistemas frequentemente conversavam pouco.
Por isso existiam situações quase cômicas nas quais uma pessoa possuía versões diferentes de sua realidade econômica dependendo do observador.
Diante de determinada instituição:
“Tenho pouco patrimônio.”
Diante de outra:
“Observe como sou financeiramente estável.”
O gato patrimonial aparecia e desaparecia dependendo da caixa burocrática aberta.
Schrödinger ficaria orgulhoso.
🎞️ O sistema moderno prefere filmes
A digitalização muda isso.
Em vez de observar apenas uma fotografia, podemos observar uma série temporal.
De repente surge uma pergunta poderosa:
“A história que você está contando hoje é consistente com a história que seus dados contam ao longo do tempo?”
Isso muda profundamente o jogo.
Não estamos mais verificando somente documentos.
Estamos verificando consistência.
E consistência é muito mais difícil de fabricar retroativamente.
É exatamente aqui que Gattaca reaparece.
O protagonista não precisava apenas produzir uma amostra perfeita.
Precisava manter uma identidade coerente continuamente.
Cada cabelo.
Cada gota.
Cada exame.
Cada interação.
Um erro poderia revelar a diferença entre pessoa e representação.
Na versão digital:
cada postagem;
cada busca;
cada registro;
cada transação;
cada login;
cada alteração.
🔐 O problema para o Red Team
Quem trabalha com segurança inevitavelmente olha para um sistema desses e pergunta:
“Como alguém tentaria enganá-lo?”
Essa pergunta não significa necessariamente desejar enganá-lo.
É exatamente aquilo que um Red Team deveria perguntar.
Se um sistema utiliza comportamento digital para inferir risco:
quais sinais são fáceis de falsificar?
quais são caros?
quais são independentes?
quais são correlacionados?
quais podem ser produzidos artificialmente?
quais podem gerar falsos positivos?
quais grupos são injustamente associados a determinados padrões?
quanto contexto é perdido?
como alguém inocente contestaria uma conclusão incorreta?
E talvez a pergunta mais importante:
o sistema consegue distinguir uma pessoa perigosa tentando parecer inocente de uma pessoa inocente que simplesmente possui comportamento incomum?
Essa é uma diferença gigantesca.
⚠️ O algoritmo não precisa estar certo para mudar nosso comportamento
Aqui está talvez a parte mais inquietante.
O sistema nem precisa realmente existir.
Basta acreditarmos que existe.
Se pessoas acreditam que autoridades observam determinados sinais, elas podem começar a ajustar comportamento preventivamente.
Isso produz autocensura.
Produz limpeza de perfis.
Produz performance.
Produz ansiedade.
Produz pessoas tentando imaginar aquilo que uma máquina imaginaria sobre elas.
É uma versão moderna do panóptico.
Jeremy Bentham imaginou uma prisão na qual o preso nunca sabe exatamente quando está sendo observado.
O poder surge da possibilidade constante de observação.
No panóptico algorítmico existe uma sofisticação adicional:
não sabemos apenas se estamos sendo observados.
Não sabemos como estamos sendo interpretados.
🧠 Tentando pensar como a máquina que pensa sobre você
E nasce uma atividade profundamente contemporânea:
metainferência.
Você tenta inferir aquilo que o sistema inferirá sobre aquilo que você fez.
Eu pesquisei isto.
O algoritmo viu aquilo.
Ele provavelmente classificou assim.
Se eu fizer isso agora, talvez altere aquela interpretação.
Esse é quase um jogo de pôquer contra um adversário invisível.
Você não conhece as cartas.
Não conhece completamente as regras.
Não conhece os pesos.
Talvez nem saiba se existe realmente um jogo.
Ainda assim começa a jogar.
🎭 A identidade vira superfície de ataque
Em segurança falamos continuamente de superfície de ataque.
Portas.
Serviços.
Credenciais.
APIs.
Dispositivos.
Usuários.
Mas uma sociedade baseada em classificação algorítmica cria uma nova superfície:
a identidade percebida.
Se a decisão depende da percepção, alguém tentará atacar a percepção.
Isso acontece em crédito.
Fraude.
Recrutamento.
Redes sociais.
Segurança.
Reputação.
Mercados.
E eventualmente pode aparecer em qualquer ambiente no qual comportamento humano seja transformado em score.
A pergunta deixa de ser:
“Quem é você?”
E passa a ser:
“Como alguém que é você deveria parecer nos dados?”
Depois:
“Como alguém tentando fingir que é você pareceria?”
Depois:
“Como alguém tentando fingir que não está fingindo pareceria?”
Neste ponto talvez devêssemos desligar o computador e tomar café.
☕ O programador COBOL observa a fronteira
O velho programador olha para tudo isso e sente uma estranha nostalgia.
No mainframe havia uma vantagem filosófica.
O registro dizia:
USERID X executou transação Y às 14:32:11.
Era auditável.
Concreto.
Tinha log.
Podíamos discutir autorização.
Podíamos discutir autenticação.
Podíamos discutir privilégios.
Agora estamos construindo sistemas capazes de dizer:
“USERID X apresenta padrões comportamentais similares a pessoas classificadas como categoria Y.”
Isso é outra espécie de conhecimento.
Probabilístico.
Inferencial.
Contextual.
E perigosamente sedutor.
Porque um número com duas casas decimais parece extraordinariamente objetivo.
Risk Score: 87,42%.
Quase ninguém pergunta:
87,42% de quê?
Com base em quais dados?
Comparado com quem?
Qual é a taxa de falso positivo?
Como contestamos isso?
🧬 Gattaca nunca foi apenas sobre genética
Talvez essa seja a razão pela qual Gattaca continua tão atual.
O DNA era apenas a tecnologia escolhida pela história.
O verdadeiro tema era outro:
o perigo de transformar sinais probabilísticos sobre uma pessoa em destino administrativo.
Troque DNA por:
histórico digital;
biometria;
rede social;
score comportamental;
modelo preditivo;
inteligência artificial.
A história continua funcionando perfeitamente.
E acrescentamos agora uma camada que o filme apenas insinuava:
quando indivíduos descobrem como são avaliados, começam a adaptar comportamento para sobreviver à avaliação.
🛂 Senhor Bellacosa, uma última pergunta
Voltamos finalmente à agente da fronteira.
Ela olha novamente para a tela.
— Senhor Bellacosa, vejo aqui que na semana anterior à viagem o senhor pesquisou parques nacionais, Harley-Davidson, história americana e turismo em Nova York.
Você sorri.
— Gosto muito dos Estados Unidos.
Ela faz outra pergunta:
— E nas três semanas anteriores?
Silêncio.
Beatriz Algoritma aparece metaforicamente atrás dela.
🐈 gatos.
🎌 anime.
💻 COBOL.
🍲 culinária medieval.
🎮 games.
A agente olha.
Você olha.
Beatriz olha.
Finalmente você responde:
— É complicado.
Ela carimba o passaporte.
Ou talvez não.
Porque no mundo de Gattaca, a verdadeira fronteira nunca esteve no aeroporto.
Estava na diferença entre quem somos e aquilo que os sistemas acreditam que somos.
E talvez a próxima grande disciplina de segurança não seja apenas proteger nossos dados.
Será compreender o que acontece quando nossos dados começam a contar histórias sobre nós para máquinas capazes de tomar decisões.
Porque, quando isso acontecer em escala, certamente haverá quem tente melhorar a história.
Depois haverá quem tente detectar quem melhorou a história.
Depois haverá quem tente parecer alguém que nunca tentou melhorar história alguma.
E em algum datacenter distante, Beatriz Algoritma observará tudo silenciosamente.
Calculando.
Classificando.
Recomendando.
Até que finalmente apareça aquela mensagem:
“Pessoas com um perfil semelhante ao seu também gostaram de: COMO PASSAR PELA ALFÂNDEGA SEM PARECER QUE VOCÊ PESQUISOU COMO PASSAR PELA ALFÂNDEGA.”
Nesse momento, definitivamente teremos chegado a Gattaca.
Só que com anúncios.
