 |
| Bellacosa Mainframe e os 12 macacos |
☕ Um Café no Bellacosa Mainframe
⚖️ Os 12 Macacos, COBOL e o Dia em que FREE SPEECH Encontrou o RETURN-CODE da Lei Brasileira
ARCO I — CAPÍTULO IV
ECA, liberdade e crime — quando BAN USER, ordem judicial e prisão deixaram de parecer o mesmo comando
A Internet pode ser global. O usuário pode usar um nickname. O servidor pode estar do outro lado do planeta. Mas, em algum momento, alguém continua sujeito a uma lei em algum lugar.
🕰️ 00:03 — LOADING LEGAL MODULE...
No capítulo anterior, nosso COBOLzeiro atravessou quase quarenta anos de arqueologia digital.
BBS.
Usenet.
IRC.
mIRC.
ICQ.
Fóruns.
eMule.
P2P.
Facebook.
Instagram.
WhatsApp.
Twitter/X.
Reddit.
Twitch.
Telegram.
Discord.
Depois de tudo aquilo, ele finalmente descobriu algo importantíssimo:
PLATFORM != COMMUNITY
Plataformas desaparecem.
Comunidades migram.
A infraestrutura muda.
As relações humanas podem sobreviver.
Parecia uma conclusão elegante.
Até o terminal detectar:
USER TYPE........ MINOR
JURISDICTION..... BRAZIL
A tela ficou vermelha.
Depois:
LOADING LEGAL MODULE...
CONSTITUTION......... FOUND
ECA.................. FOUND
MARCO CIVIL.......... FOUND
CRIMINAL LAW......... FOUND
PLATFORM RULES....... FOUND
Nosso programador olhou para Bruce Willis.
— Agora basta verificar se o conteúdo é permitido.
Bruce respondeu:
— Permitido por quem?
Silêncio.
— Pelo Discord.
— Não perguntei isso.
— Pela lei?
— Qual lei?
— Brasileira.
— E onde está o usuário?
O COBOLzeiro tomou café.
— Isso vai ficar complicado, não vai?
O terminal respondeu antes de Bruce:
YES.
⚖️ 1. Finalmente encontramos um sistema mais antigo que COBOL
Existe uma piada recorrente entre profissionais de tecnologia:
sistemas legados são complicados porque carregam décadas de decisões.
Então conhecemos o Direito.
Constituição.
Leis.
Códigos.
Regulamentos.
Tratados.
Jurisprudência.
Decisões.
Competências.
Exceções.
Alterações legislativas.
Interpretações.
Conflitos entre direitos.
Nosso COBOLzeiro observa aquilo e sorri.
— Eu conheço essa arquitetura.
Bruce Willis estranha.
— Conhece?
— Claro.
BASE SYSTEM
+
40 YEARS OF MAINTENANCE
+
BUSINESS RULES
+
EXCEPTIONS
+
PATCHES
+
INTERFACES
+
DEPENDENCIES
— Isso é Direito?
— Isso é qualquer sistema bancário grande.
Bruce começa a suspeitar que trazer um programador COBOL para o futuro foi um erro.
🇧🇷 2. Comecemos pela Constituição
Quando alguém fala em censura e liberdade de expressão no Brasil, nossa primeira parada precisa ser a Constituição Federal de 1988.
Ela protege a manifestação do pensamento, a expressão intelectual, artística, científica e de comunicação e estabelece importantes garantias relacionadas à informação e à liberdade de comunicação.
Mas existe um detalhe que desaparece frequentemente das guerras de comentários:
direitos fundamentais não vivem sozinhos.
No mesmo sistema jurídico encontramos proteção à:
honra;
imagem;
intimidade;
vida privada;
dignidade;
segurança;
direitos de crianças e adolescentes.
Portanto, nosso programa não pode ser:
IF FREEDOM-OF-EXPRESSION = TRUE
PERFORM ANYTHING
END-IF
Não compila juridicamente.
🚫 3. Liberdade de expressão não é ACCESS(ALTER) para a sociedade inteira
Aqui a analogia com RACF fica maravilhosa.
Ter autorização para acessar um recurso não significa possuir autorização irrestrita sobre todos os recursos.
Da mesma maneira, possuir liberdade de expressão não significa:
USER(*) ACCESS(ALTER)
sobre reputação, intimidade, imagem, segurança ou direitos de outras pessoas.
A liberdade é enorme.
Importantíssima.
Essencial para democracia.
Inclusive para dizer coisas desagradáveis.
Impulares.
Incômodas.
Satíricas.
Provocativas.
O Estado democrático precisa tolerar enorme quantidade de discurso que alguém gostaria de proibir.
Mas liberdade não significa automaticamente imunidade pelas consequências jurídicas de qualquer conduta.
🧨 4. Falar também pode fazer parte de uma conduta
Esse é outro erro comum da discussão online.
"Mas eram apenas palavras."
Palavras podem ser simplesmente palavras.
Mas palavras também podem integrar condutas juridicamente relevantes dependendo do contexto.
Uma ameaça é composta de quê?
Frequentemente palavras.
Uma fraude pode envolver o quê?
Comunicação.
Uma perseguição pode utilizar o quê?
Mensagens.
Uma extorsão pode incluir?
Palavras.
Então:
TEXT != AUTOMATICALLY CRIME
mas também:
TEXT != AUTOMATICALLY HARMLESS
Contexto.
Sempre ele.
O inimigo mortal das respostas fáceis.
🧱 5. Primeiro grande IF: censura não é moderação
Chegamos à palavra explosiva:
CENSURA.
Na Internet, ela é utilizada para descrever praticamente qualquer experiência envolvendo desaparecimento de conteúdo.
Post removido?
Censura.
Comentário apagado?
Censura.
Banido de fórum?
Censura.
Canal fechado?
Censura.
Conta suspensa?
Censura.
Mas juridicamente e politicamente precisamos separar fenômenos diferentes.
Imagine:
EVENT = CONTENT REMOVED
Pergunta número um:
WHO REMOVED IT?
Porque:
STATE ACTION
!=
PRIVATE PLATFORM MODERATION
!=
COMMUNITY MODERATION
!=
USER BLOCKING ANOTHER USER
Para quem perdeu acesso, tudo pode parecer:
ACCESS DENIED
Mas a origem do ACCESS DENIED muda completamente a análise.
🏠 6. Você não possui liberdade irrestrita dentro da casa digital dos outros
Imagine uma comunidade dedicada a COBOL.
Regra:
"Discussões exclusivamente sobre mainframe."
Alguém entra e publica receitas de lasanha vinte vezes por dia.
Moderador remove.
O usuário grita:
CENSURA!
Talvez exista uma questão de moderação.
Mas dificilmente estamos diante da mesma discussão constitucional de um governo proibindo crítica política.
A comunidade possui regras.
A plataforma possui termos.
O moderador possui competências dentro daquele espaço.
Isso não significa que plataformas privadas devam ser imunes a críticas.
Muito pelo contrário.
Quando plataformas atingem escala gigantesca, suas decisões podem influenciar profundamente o debate público.
Transparência, proporcionalidade, recurso e consistência tornam-se discussões legítimas.
Mas precisamos chamar cada fenômeno pelo nome correto antes de analisá-lo.
🏢 7. A plataforma não é o Estado — mas também não é apenas uma padaria
Aqui começa uma discussão fascinante.
Facebook, Instagram, X, Reddit, Discord, Twitch, Telegram e outras plataformas são empresas ou serviços privados.
Mas algumas operam espaços frequentados por centenas de milhões de pessoas.
Então surge uma tensão.
De um lado:
PRIVATE SERVICE
Do outro:
PUBLIC SOCIAL IMPORTANCE
Uma empresa possui regras.
Mas quando uma infraestrutura privada passa a mediar grande parte do discurso público, decisões internas podem produzir efeitos sociais enormes.
É por isso que o debate não pode ser reduzido a:
"É empresa privada, faz o que quiser."
Nem a:
"É praça pública, portanto não pode moderar nada."
A realidade é muito mais complicada.
📜 8. Termos de serviço: o contrato que ninguém lê
Nosso COBOLzeiro pergunta:
— Onde estão as regras?
Bruce entrega os Terms of Service.
Ele começa a rolar.
E rolar.
E rolar.
Depois de quinze minutos:
— Quantas páginas tem isso?
Bruce responde:
— Você marcou "I agree".
— Mas eu não li.
— Exatamente.
Bem-vindo a uma das maiores ficções operacionais da Internet moderna:
USER HAS READ TERMS AND CONDITIONS
É provavelmente uma das variáveis booleanas mais otimistas da história da computação.
🚦 9. Legal não significa permitido pela plataforma
Agora chegamos a uma distinção fundamental.
Uma plataforma pode proibir coisas que não constituem crime.
Por exemplo, determinadas formas de:
spam;
comportamento repetitivo;
conteúdo comercial;
assédio segundo políticas internas;
material considerado inadequado para aquela comunidade;
determinadas práticas de automação.
Portanto:
LEGAL
+
PLATFORM PROHIBITED
é uma combinação possível.
Você pode não ter cometido crime algum.
Mesmo assim pode perder acesso.
🚔 10. E permitido tecnicamente não significa legal
Agora o inverso.
Imagine que uma plataforma não detectou determinada conduta.
Ou que tecnicamente permitiu o upload.
Isso não significa:
UPLOAD SUCCESSFUL
RETURN-CODE = LEGAL
Absolutamente não.
Software não concede imunidade jurídica.
O botão funcionar não transforma automaticamente a ação em lícita.
É como descobrir que um sistema bancário possui uma falha permitindo transferir dinheiro que não pertence a você e concluir:
"Se o botão deixou, então podia."
Experimente explicar isso depois.
🧒 11. Então aparece o ECA
Agora chegamos ao ponto que fez nosso terminal ficar vermelho.
Estatuto da Criança e do Adolescente — Lei nº 8.069/1990.
O ECA estabelece um sistema especial de proteção para crianças e adolescentes.
E isso é crucial para nossa discussão.
Porque menores não são simplesmente:
ADULT USER
WITH AGE < 18
A legislação reconhece uma condição especial de desenvolvimento e estabelece proteção específica.
Quando uma comunidade digital possui menores, determinadas situações precisam ser analisadas com atenção muito maior.
🛡️ 12. Proteção integral muda o modelo
A lógica do ECA não é simplesmente:
PUNISH BAD PERSON
Existe uma ideia muito maior de proteção.
Família.
Sociedade.
Estado.
Direitos.
Dignidade.
Desenvolvimento.
Prevenção.
Proteção contra exploração e violência.
Isso significa que a discussão digital não começa apenas depois que ocorre um crime.
Também existe uma pergunta anterior:
Como construímos ambientes que reduzam riscos para crianças e adolescentes?
Essa é uma pergunta de arquitetura.
E arquitetos de sistemas deveriam prestar atenção.
🏗️ 13. Safety by design
Imagine uma plataforma sendo projetada.
Perguntas tradicionais:
HOW MANY USERS?
HOW MUCH STORAGE?
HOW MUCH CPU?
WHAT DATABASE?
WHAT LATENCY?
Agora acrescente:
CAN MINORS USE IT?
WHO CAN CONTACT THEM?
WHAT IS PUBLIC?
WHAT IS PRIVATE?
HOW ARE REPORTS HANDLED?
HOW ARE PERMISSIONS DEFINED?
WHAT HAPPENS AFTER A BLOCK?
WHAT CAN MODERATORS SEE?
Isso é safety by design.
Segurança não deveria ser apenas:
ADD MODERATION AFTER PRODUCTION
Da mesma maneira que segurança de mainframe não deveria começar depois da primeira invasão.
🎧 14. Discord e a arquitetura das salas
Voltemos ao Discord.
Um servidor pode possuir:
canais;
roles;
permissões;
mensagens;
voz;
bots;
administradores;
moderadores;
membros.
Imagine:
SERVER
|
+-- PUBLIC CHANNEL
|
+-- MEMBER CHANNEL
|
+-- STAFF CHANNEL
|
+-- VOICE
|
+-- DIRECT INTERACTIONS
A arquitetura cria fronteiras.
Mas fronteiras técnicas não resolvem automaticamente problemas humanos.
Uma sala privada pode aumentar privacidade.
Também pode reduzir visibilidade para moderadores.
Uma mensagem direta pode permitir amizade.
Também pode permitir abordagem indesejada.
Dualidade novamente.
🚨 15. BAN USER não é sentença judicial
Este talvez seja o conceito mais importante do capítulo.
Um moderador executa:
BAN USER
Resultado:
o usuário perde acesso à comunidade.
Isso não significa:
USER = CRIMINAL
O moderador não precisa necessariamente estar declarando que houve crime.
Pode estar apenas aplicando uma regra comunitária.
Agora imagine uma investigação policial.
É outra camada.
Depois uma acusação.
Outra.
Depois decisão judicial.
Outra.
Temos:
MODERATION
|
!=
INVESTIGATION
|
!=
PROSECUTION
|
!=
CONVICTION
Misturar essas etapas é perigosíssimo.
👮 16. Moderador não é policial
Nosso jovem administrador de Discord recebe uma denúncia.
Ele olha para Bruce Willis.
— Preciso investigar?
Depende.
Ele pode precisar preservar informações disponíveis dentro de suas competências, aplicar regras, encaminhar denúncias à plataforma ou, em situações apropriadas, buscar autoridades.
Mas moderador não deveria brincar de polícia.
Não possui necessariamente:
treinamento;
autoridade;
ferramentas;
competência jurídica;
proteção;
capacidade investigativa.
Tentar "investigar" por conta própria pode inclusive atrapalhar.
Há uma enorme diferença entre:
DOCUMENT WHAT HAPPENED
e:
BECOME BATMAN
Escolha a primeira opção.
🦇 17. Batman não possui cadeia de custódia
Nosso COBOLzeiro protesta:
— Mas eu posso tirar screenshots!
Sim.
Screenshots podem ser úteis.
Mas evidência digital envolve questões mais complexas:
contexto;
origem;
integridade;
data;
autoria;
preservação;
metadados;
cadeia de custódia.
Uma imagem isolada pode não contar toda a história.
É exatamente o problema que discutimos no Capítulo I:
informação sofre mutação quando é removida do contexto.
Isso também vale para evidências.
📸 18. Screenshot é fotografia, não máquina do tempo
Considere:
ALICE: Não faça isso.
BOB: Por quê?
CAROL: [mensagem anterior removida]
Agora alguém captura apenas:
BOB: Por quê?
Sem contexto, praticamente nada sabemos.
Screenshots são poderosos.
Mas não são mágicos.
Podem documentar.
Também podem omitir.
Editar.
Recortar.
Reorganizar.
Por isso investigações sérias precisam de metodologia.
🌍 19. "Mas o servidor está nos Estados Unidos!"
Nosso programador acha que encontrou uma saída.
— O servidor físico está fora do Brasil. Então acabou a lei brasileira.
Bruce Willis olha como quem acabou de encontrar um MOVE SPACES TO COMP-3.
Não.
Internet transnacional produz questões de jurisdição extremamente complexas.
Localização de:
usuário;
vítima;
empresa;
infraestrutura;
efeito da conduta;
dados;
pode importar de maneiras diferentes conforme o caso.
Não existe:
SERVER NOT IN BRAZIL
THEREFORE BRAZILIAN LAW = OFF
Seria conveniente.
Mas o Direito raramente foi projetado para nossa conveniência.
🕵️ 20. Nickname não é capa de invisibilidade
Outro mito antigo:
"Estou usando apelido, portanto sou anônimo."
Pseudônimo não significa necessariamente anonimato técnico absoluto.
Serviços podem manter determinados registros.
Provedores podem possuir informações.
Investigações legalmente autorizadas podem buscar elementos de identificação conforme os mecanismos jurídicos aplicáveis.
Isso não significa que qualquer pessoa consiga descobrir qualquer usuário.
Nem deveria.
Privacidade continua sendo valor importante.
Mas:
NICKNAME
!=
MAGIC INVISIBILITY CLOAK
Harry Potter não trabalha no NOC.
🏛️ 21. Marco Civil entra no terminal
Nosso sistema carrega outra peça:
Marco Civil da Internet — Lei nº 12.965/2014.
O Marco Civil tornou-se referência central na disciplina brasileira da Internet, tratando de princípios, direitos, deveres e temas relacionados ao uso da rede.
Para nosso COBOLzeiro, pense nele como uma camada importante da arquitetura jurídica da Internet brasileira.
Não é:
LAW THAT EXPLAINS EVERYTHING
Mas é peça fundamental do sistema.
A Internet brasileira não funciona juridicamente apenas com:
IF BAD THING
CALL POLICE
END-IF
Existem regras sobre direitos, registros, privacidade, responsabilidade e procedimentos.
🔐 22. Privacidade não é proteção ao crime
Outra guerra semântica.
Defender privacidade não significa defender criminosos.
Privacidade protege:
cidadãos;
famílias;
empresas;
jornalistas;
advogados;
médicos;
pesquisadores;
crianças;
vítimas;
todos nós.
Ao mesmo tempo, sistemas jurídicos estabelecem mecanismos para investigações legítimas.
A pergunta democrática não deveria ser:
"Privacidade ou segurança?"
Como se só pudéssemos escolher uma.
A pergunta melhor é:
Quais mecanismos permitem investigação legítima com necessidade, proporcionalidade, controle e garantias?
Isso é arquitetura institucional.
🔒 23. Criptografia entra na War Room
Nosso COBOLzeiro gosta de criptografia.
Finalmente matemática.
Mas descobre rapidamente a guerra política.
De um lado:
"Precisamos proteger comunicações."
Do outro:
"Precisamos investigar crimes."
Alguém propõe:
"Então criamos uma porta que só os mocinhos conseguem abrir."
O criptógrafo começa a passar mal.
Porque uma vulnerabilidade deliberada não possui consciência moral.
Ela é uma capacidade técnica.
E capacidades podem escapar do uso originalmente pretendido.
Nosso mainframeiro reconhece imediatamente:
BACKDOOR
+
GOOD INTENTIONS
=
STILL A BACKDOOR
🧒 24. Quando o conteúdo envolve menores, o sinal fica vermelho
Agora precisamos falar com clareza.
A legislação brasileira trata com especial gravidade determinadas condutas relacionadas à exploração sexual de crianças e adolescentes, inclusive em ambiente digital.
Aqui não estamos falando simplesmente de:
"conteúdo que alguém achou ofensivo."
Estamos falando de situações que podem envolver crimes e vítimas reais.
A retórica:
"Internet livre!"
não transforma exploração em liberdade de expressão.
Do mesmo modo, combater crimes contra menores não exige tratar toda conversa adolescente, toda subcultura ou toda expressão estranha como criminosa.
Precisamos ser simultaneamente:
rigorosos contra crimes e rigorosos contra acusações irresponsáveis.
⚠️ 25. A acusação também pode destruir uma vida
Esse ponto merece destaque.
Imagine alguém publicar:
"FULANO É CRIMINOSO."
Milhares compartilham.
Depois descobrimos que a informação estava errada.
O que fazemos?
DELETE POST
Ótimo.
E as cópias?
Screenshots?
Reposts?
Buscas?
Memória?
Voltamos ao Capítulo I.
DELETE INTERNET
continua indisponível.
Por isso acusações graves exigem responsabilidade.
Proteger vítimas e evitar linchamento digital não são objetivos incompatíveis.
🔥 26. O tribunal da timeline
As redes sociais criaram uma instituição extraordinária:
INTERNET COURT
Procedimento:
SCREENSHOT
|
v
OUTRAGE
|
v
THREAD
|
v
VERDICT
|
v
INVESTIGATION?
Observe a ordem.
Às vezes o veredicto vem antes da investigação.
Isso deveria assustar qualquer pessoa que trabalhou com incidentes.
Imagine uma War Room:
— Qual foi a causa?
— Não sabemos.
— Então quem foi o culpado?
— Já demitimos.
— Mas não sabemos a causa.
— Exatamente.
Seria absurdo.
Na Internet acontece diariamente.
🧪 27. Primeiro evidência, depois hipótese
O método técnico pode ensinar alguma coisa ao debate público.
Quando um sistema falha:
coletamos evidências;
preservamos logs;
construímos timeline;
formulamos hipóteses;
testamos;
descartamos hipóteses;
encontramos causa provável;
documentamos.
Não:
I DISLIKE USER
THEREFORE ROOT CAUSE = USER
O mesmo princípio de cautela deveria acompanhar acusações digitais.
🧠 28. Conteúdo estranho não é automaticamente ilegal
Subculturas produzem coisas estranhas.
Muito estranhas.
Às vezes incompreensíveis para quem está fora.
Humor negro.
Memes.
Roleplay.
Ficção.
Gírias.
Provocações.
Performances.
Isso pode ser desagradável.
Pode violar regras de uma plataforma.
Pode ser moralmente criticável.
Mas não podemos transformar:
WEIRD
automaticamente em:
CRIMINAL
Da mesma forma, algo parecer banal não garante:
HARMLESS
Novamente:
contexto.
🗣️ 29. "Foi brincadeira" não é ON ERROR CONTINUE
Outro clássico:
"Era só brincadeira."
Brincadeira pode ser brincadeira.
Mas a frase não é um comando mágico que elimina consequências.
O contexto determina.
Quem participou?
Qual era a relação?
Houve consentimento relevante para aquela situação?
Houve ameaça?
Houve perseguição?
Houve exploração?
Havia menor?
Houve divulgação?
Houve dano?
O Direito não possui:
IF USER SAYS "JUST A JOKE"
MOVE ZERO TO LIABILITY
END-IF
Seria um sistema extremamente fácil de explorar.
📣 30. "Liberdade de expressão!" também não é HANDLE CONDITION
Programadores CICS conhecem a tentação:
algo deu errado?
HANDLE CONDITION.
Na Internet algumas pessoas usam:
FREE SPEECH
como se fosse:
HANDLE ALL POSSIBLE CONSEQUENCES
Não funciona assim.
Liberdade de expressão protege algo profundamente importante.
Justamente por isso não deveríamos banalizar o conceito usando-o como desculpa universal para qualquer comportamento.
Defender liberdade seriamente exige compreender seus limites e os direitos com os quais ela convive.
🚧 31. A fronteira difícil: moderação excessiva
Mas agora precisamos virar a câmera.
Plataformas também erram.
Muito.
Moderação automática pode produzir falsos positivos.
Ironia pode ser mal interpretada.
Contexto cultural pode desaparecer.
Palavras legítimas podem ser bloqueadas.
Discussões acadêmicas podem ser classificadas incorretamente.
Conteúdo jornalístico pode ser confundido com promoção daquilo que denuncia.
Então temos:
SAFETY SYSTEM
|
v
FALSE POSITIVE
|
v
LEGITIMATE CONTENT REMOVED
É aqui que usuários começam a sentir:
censura.
Mesmo quando tecnicamente estamos falando de moderação privada.
A experiência subjetiva continua real.
🤖 32. O algoritmo virou moderador
Imagine moderar bilhões de publicações manualmente.
Impossível.
Então entram:
filtros;
classificadores;
reputação;
denúncias;
heurísticas;
machine learning;
IA.
O sistema tenta decidir:
SAFE?
UNSAFE?
LEGAL?
ILLEGAL?
ALLOW?
REVIEW?
BLOCK?
Só existe um pequeno problema.
A linguagem humana foi projetada por seres humanos.
Consequentemente é completamente insana.
😈 33. Sarcasmo entra no dataset
Considere:
"Nossa, excelente ideia."
Pode significar:
excelente ideia.
Ou:
essa é a pior ideia que ouvi na vida.
Agora acrescente:
dialeto;
regionalismo;
meme;
ironia;
contexto histórico;
relação entre usuários;
piada interna.
O classificador olha para tudo isso e pergunta:
RETURN TRUE OR FALSE?
Boa sorte.
Nosso COBOLzeiro finalmente sente pena da IA.
🧬 34. E os usuários aprendem a contornar o filtro
Lembra do Capítulo I?
A informação sofre mutação.
A plataforma bloqueia uma palavra.
Usuários mudam grafia.
Bloqueia a nova grafia.
Entram símbolos.
Depois números.
Depois emojis.
Depois memes.
Depois referências internas.
FILTER
|
v
ADAPTATION
|
v
FILTER UPDATE
|
v
NEW ADAPTATION
Estamos novamente diante dos 12 Macacos.
A tentativa de controlar o fenômeno modifica o fenômeno.
Esse será exatamente o assunto do Capítulo V.
☕ 35. O COBOLzeiro finalmente desenha a tabela certa
Depois de horas, nosso programador percebe que precisa organizar o problema.
Ele desenha:
| Evento | Quem decide? | Resultado |
|---|---|---|
| Bloqueio pessoal | Usuário | Outro usuário deixa de interagir diretamente |
| Moderação comunitária | Moderador/admin | Conteúdo ou membro pode ser removido da comunidade |
| Moderação da plataforma | Plataforma | Conteúdo, recursos ou conta podem ser restringidos |
| Investigação | Autoridade competente | Fatos e evidências são apurados |
| Processo judicial | Sistema de Justiça | Direitos, responsabilidades e fatos são examinados |
| Condenação | Poder Judiciário | Consequência jurídica após o devido processo aplicável |
Ele olha.
Bruce Willis olha.
Finalmente alguma coisa organizada.
Nosso programador sorri.
— Agora ficou fácil.
O terminal imediatamente mostra:
NEW VARIABLE DETECTED:
ARTIFICIAL INTELLIGENCE
Ele joga a caneta na mesa.
🐒 36. O Exército dos 12 Macacos pede revisão humana
04:23.
O Bellacosa Information Control Facility recebe uma denúncia.
REPORT RECEIVED
Sistema automático analisa.
CONTENT RISK SCORE: 0.87
Nosso programador pergunta:
— Crime?
UNKNOWN.
— Violação dos termos?
PROBABLE.
— Então bloqueia.
Bruce Willis interrompe:
— E se for uma reportagem denunciando o próprio conteúdo?
Silêncio.
— Então libera.
— E se for uma reportagem usada como pretexto para divulgar o conteúdo?
Silêncio maior.
— Manda para humano.
HUMAN REVIEW QUEUE:
8,741,228 ITEMS
O COBOLzeiro olha para o café.
— Tem uma cafeteira maior?
⚖️ 37. O sistema jurídico também possui HUMAN IN THE LOOP
Aqui existe uma analogia importante.
Direito possui procedimentos justamente porque decisões graves não deveriam ser reduzidas a:
SCORE > 0.80
THEREFORE GUILTY
Investigação.
Contraditório.
Defesa.
Provas.
Competência.
Decisão.
Recursos.
Não são "bugs burocráticos" simplesmente porque tornam tudo mais lento.
São, entre outras coisas, mecanismos destinados a reduzir arbitrariedade e erro.
O equivalente jurídico de:
HUMAN REVIEW REQUIRED
pode ser frustrante.
Mas imagine o contrário.
🚨 38. Um mundo sem moderação também possui censores
Parece paradoxal.
Imagine uma comunidade sem qualquer moderação.
Teoricamente:
liberdade absoluta.
Então chegam:
spam;
ameaças;
assédio;
perseguição;
flood;
golpes;
intimidação.
Usuários comuns começam a sair.
Quem permanece?
Frequentemente quem tolera melhor o ambiente hostil.
A ausência de moderação pode produzir uma espécie de expulsão informal.
A pessoa não foi:
BANNED
Mas foi:
DRIVEN AWAY
Portanto, moderação também pode proteger condições necessárias para que outras pessoas consigam falar.
O paradoxo fica ainda melhor.
🏛️ 39. Liberdade precisa de arquitetura
Uma praça pública não funciona apenas porque ninguém possui botão BAN.
Existem leis.
Normas sociais.
Polícia.
Tribunais.
Direitos.
Infraestrutura.
A Internet também precisa de arquitetura institucional.
A pergunta madura não é:
"Moderação sim ou não?"
É:
Qual moderação, por quem, segundo quais regras, com qual transparência, quais garantias e quais possibilidades de revisão?
Isso é uma pergunta muito mais difícil.
Consequentemente, é provavelmente a pergunta correta.
🧒 40. E quando existem menores, errar custa mais
Se uma plataforma remove excessivamente, pode restringir expressão legítima.
Se remove pouco, pode deixar usuários vulneráveis expostos.
Quando crianças e adolescentes estão presentes, o custo de determinados falsos negativos pode ser enorme.
Então temos um problema clássico de classificação:
REALIDADE
SAFE UNSAFE
ALLOW TRUE FALSE
NEG? NEGATIVE
BLOCK FALSE TRUE
POSITIVE POSITIVE
O sistema precisa equilibrar erros.
Mas não existe configuração mágica:
FALSE POSITIVES = 0
FALSE NEGATIVES = 0
Quem já trabalhou com sistemas sabe:
quando alguém pede isso, a reunião vai demorar.
🐒 41. Easter egg: a Constituição entra no RACF
Nosso COBOLzeiro tem uma ideia.
RDEFINE LAW FREEDOM.OF.EXPRESSION
O terminal responde:
INVALID RESOURCE CLASS.
Ele tenta:
PERMIT FREEDOM.OF.EXPRESSION CLASS(LAW)
ID(*) ACCESS(ALTER)
Resposta:
COMMAND REJECTED.
CONFLICTING RIGHTS DETECTED.
— Quais?
HONOR
PRIVACY
IMAGE
DIGNITY
SAFETY
CHILD PROTECTION
DUE PROCESS
Ele respira fundo.
RESOLVE CONFLICT
Resposta:
HUMAN JUDGMENT REQUIRED.
— Droga.
Bruce Willis sorri.
— Bem-vindo ao Direito.
🖥️ 42. O terminal finalmente explica o problema
A tela muda.
BELLACOSA INFORMATION CONTROL FACILITY
---------------------------------------
LEGAL ANALYSIS SUMMARY
FREEDOM OF EXPRESSION
IS NOT THE SAME AS
IMMUNITY FROM LAW.
PLATFORM MODERATION
IS NOT AUTOMATICALLY
STATE CENSORSHIP.
PLATFORM RULE VIOLATION
IS NOT AUTOMATICALLY
A CRIME.
SUCCESSFUL UPLOAD
DOES NOT MEAN
LEGAL CONDUCT.
BAN USER
DOES NOT MEAN
CRIMINAL CONVICTION.
SCREENSHOT
DOES NOT MEAN
COMPLETE EVIDENCE.
NICKNAME
DOES NOT GUARANTEE
ABSOLUTE ANONYMITY.
MINOR PRESENT
DOES NOT MEAN
EVERY INTERACTION IS CRIMINAL.
BUT:
CHILDREN AND ADOLESCENTS
HAVE SPECIAL LEGAL PROTECTION.
---------------------------------------
Nosso programador lê novamente.
Agora entende.
O problema nunca foi encontrar um botão chamado:
CENSORSHIP = ON/OFF
O problema é distinguir camadas.
🧩 43. As cinco camadas do Bellacosa Mainframe
Ele finalmente desenha:
+----------------------------------+
| 1. INDIVIDUAL |
| bloquear / denunciar |
+----------------------------------+
|
v
+----------------------------------+
| 2. COMUNIDADE |
| moderador / administrador |
+----------------------------------+
|
v
+----------------------------------+
| 3. PLATAFORMA |
| políticas / termos / sistemas |
+----------------------------------+
|
v
+----------------------------------+
| 4. ESTADO / INVESTIGAÇÃO |
| autoridades / procedimentos |
+----------------------------------+
|
v
+----------------------------------+
| 5. JUDICIÁRIO |
| decisões / direitos / sanções |
+----------------------------------+
Cada camada possui:
poderes diferentes;
limites diferentes;
responsabilidades diferentes.
O usuário pode enxergar apenas:
CONTENT UNAVAILABLE
Mas por trás dessa mensagem podem existir histórias completamente diferentes.
🕰️ 44. E Terry Gilliam aparece novamente
Por que Os 12 Macacos continua funcionando como metáfora?
Porque estamos tentando controlar algo enquanto nossas próprias intervenções modificam aquilo que tentamos controlar.
Criamos filtro.
A linguagem muda.
Criamos regra.
Comunidades migram.
Proibimos palavra.
Nasce código.
Fechamos servidor.
Surge outro.
A mídia denuncia.
A curiosidade aumenta.
A plataforma automatiza.
Usuários aprendem o algoritmo.
O algoritmo aprende os usuários.
Não estamos observando um sistema estático.
Estamos dentro dele.
🧬 45. O próximo vírus fala emoji
O terminal começa a receber mensagens.
Primeiro:
PALAVRA-X
Filtro bloqueia.
Depois:
P4L4VR4-X
Bloqueia.
Depois:
P∆L∆VR∆
Bloqueia.
Depois aparece um emoji.
Nosso COBOLzeiro pergunta:
— O que significa isso?
Bruce responde:
— Depende.
— De quê?
— Da comunidade.
— Então olha o dicionário.
— Não existe.
— Pergunta para a IA.
A IA responde:
CONFIDENCE: 54%
— Cinquenta e quatro?
— Sim.
— E vamos moderar alguém com isso?
Silêncio.
O terminal mostra:
WELCOME TO CHAPTER V.
🐒 46. O verdadeiro RETURN-CODE
Nosso programador finalmente pergunta:
— Então qual é o RETURN-CODE da liberdade?
Bruce Willis pensa.
O terminal responde:
NOT BINARY.
— E da censura?
CONTEXT REQUIRED.
— Moderação?
POLICY + CONTEXT.
— Crime?
LAW + FACTS + EVIDENCE + PROCEDURE.
— E ECA?
SPECIAL PROTECTION REQUIRED.
Finalmente:
— Existe alguma resposta simples nesse sistema?
O terminal demora alguns segundos.
NO.
Ele sorri.
— Agora sim parece produção.
🖥️ FINAL DO CAPÍTULO IV
BELLACOSA MAINFRAME
INFORMATION CONTROL FACILITY
---------------------------------------
ARC I STATUS
CHAPTER I
INFORMATION OUTBREAK......... COMPLETE
CHAPTER II
DISCOVERY PATH............... COMPLETE
CHAPTER III
DIGITAL TRIBES............... COMPLETE
CHAPTER IV
LAW AND FREEDOM.............. COMPLETE
---------------------------------------
LESSONS LOADED:
FREE SPEECH............. FUNDAMENTAL
CENSORSHIP.............. CONTEXTUAL
MODERATION.............. NECESSARY / FALLIBLE
PLATFORM RULES.......... NOT CRIMINAL LAW
CRIMINAL LAW............ NOT PLATFORM POLICY
ECA..................... SPECIAL PROTECTION
PRIVACY................. FUNDAMENTAL
INVESTIGATION........... PROCEDURAL
DUE PROCESS............. REQUIRED
---------------------------------------
NEW ANOMALY DETECTED:
FILTERED WORD............ PALAVRA-X
USER RESPONSE............ CODE-X
FILTER UPDATED........... YES
USER RESPONSE............ EMOJI
FILTER UPDATED........... YES
USER RESPONSE............ MEME
AI CLASSIFICATION........ UNCERTAIN
NEW LANGUAGE DETECTED.
---------------------------------------
WARNING:
THE USERS HAVE LEARNED
HOW THE FILTER WORKS.
THE FILTER IS NOW LEARNING
HOW THE USERS WORK.
---------------------------------------
NEXT MODULE:
SEMANTIC ARMS RACE
LOAD? Y/N
===> Y
Enter.
A última mensagem aparece:
YOU CAN BAN A WORD.
YOU CANNOT BAN
THE HUMAN ABILITY
TO INVENT ANOTHER ONE.
Bruce Willis olha para o COBOLzeiro.
— Preparado?
Ele pega a caneca.
— Para quê?
Bruce aponta para a tela.
Um emoji de macaco aparece.
Depois outro.
Depois doze.
🐒 🐒 🐒 🐒 🐒 🐒
🐒 🐒 🐒 🐒 🐒 🐒
O programador franze a testa.
— O que isso significa?
Bruce Willis responde:
— Esse é exatamente o problema.
