 |
| Bellacosa Mainframe e o abend da reciprocidade |
☕💣🤖 O ABEND DA RECIPROCIDADE — QUANDO A INDÚSTRIA TENTOU SUBSTITUIR RELACIONAMENTOS HUMANOS POR SOFTWARE AFETIVO
Em 19 de fevereiro de 2020, a BBC News Brasil publicou a reportagem "A indústria de robôs sexuais é uma ameaça à sociedade?", assinada pelo jornalista científico Pallab Ghosh, correspondente da BBC em Seattle.
A matéria trazia alertas de pesquisadores, especialistas em ética e estudiosos da inteligência artificial sobre o crescimento acelerado da indústria dos robôs sexuais dotados de IA, levantando questões que iam muito além da tecnologia.
À primeira vista, parecia uma discussão sobre bonecas eletrônicas.
Mas, observando com os óculos Bellacosa Mainframe, a reportagem tratava de algo muito maior:
a tentativa de virtualizar um dos componentes mais complexos da experiência humana: a reciprocidade.
O QUE OS FABRICANTES ESTÃO VENDENDO?
A reportagem cita a empresa Realbotix e seu robô Harmony.
Tecnicamente falando, Harmony não é revolucionária por causa dos motores, sensores ou atuadores.
O diferencial está em outro lugar.
Ela lembra preferências.
Memoriza informações.
Simula conversas.
Adapta respostas.
Cria a sensação de continuidade.
Em linguagem Mainframe:
não estão vendendo hardware.
Estão vendendo uma camada de software emocional.
O PRIMEIRO CRM AFETIVO DA HISTÓRIA
Durante décadas empresas armazenaram:
nome do cliente;
endereço;
hábitos de consumo;
histórico de compras.
Agora imagine um sistema armazenando:
medos;
desejos;
preferências emocionais;
padrões de comportamento;
vulnerabilidades afetivas.
É exatamente isso que a nova geração de companhias artificiais pretende fazer.
Não estamos falando apenas de inteligência artificial.
Estamos falando de gerenciamento de relacionamento emocional.
O ALERTA DOS PESQUISADORES
A reportagem apresenta preocupações levantadas por pesquisadores como Christine Hendren e Kathleen Richardson.
O ponto central não era o robô.
Era o comportamento que poderia ser normalizado através dele.
Algumas preocupações citadas incluíam:
objetificação humana;
dependência emocional;
isolamento social;
normalização de comportamentos problemáticos;
substituição de vínculos humanos por interações artificiais.
Observe algo importante.
Nenhuma dessas preocupações é técnica.
Todas são sociais.
O PROBLEMA NÃO É A MÁQUINA
Profissionais de Mainframe aprendem cedo uma regra.
O problema raramente está no computador.
O problema está na forma como ele é utilizado.
O mesmo vale aqui.
Um robô não cria sozinho uma crise social.
Mas uma tecnologia amplamente adotada pode alterar comportamentos coletivos.
E é justamente isso que preocupa os pesquisadores.
O ERRO DE ARQUITETURA QUE NINGUÉM DISCUTE
Existe um conceito fundamental em sistemas distribuídos.
Chamado sincronização bidirecional.
As duas partes influenciam uma à outra.
Relacionamentos humanos funcionam assim.
Ambas as pessoas:
aprendem;
cedem;
mudam;
negociam;
evoluem.
Agora compare isso com um parceiro artificial.
O sistema foi projetado para adaptar-se ao usuário.
Mas o usuário não precisa adaptar-se ao sistema.
E aqui surge um problema gigantesco.
O crescimento emocional humano normalmente acontece através do atrito.
O ABEND DA RECIPROCIDADE
A professora Kathleen Richardson faz um ponto extremamente interessante na reportagem.
Ela afirma que intimidade, apego e reciprocidade não podem ser reproduzidos por máquinas.
E isso nos leva a uma analogia perfeita.
Imagine um sistema que recebe transações.
Processa dados.
Entrega respostas.
Mas nunca gera uma transação própria.
Nunca possui objetivos próprios.
Nunca possui sentimentos próprios.
Nunca possui desejos próprios.
Tecnicamente ele funciona.
Mas não existe reciprocidade.
Existe apenas processamento.
O SURGIMENTO DO "USUÁRIO ÚNICO"
Os grandes sistemas corporativos são projetados para múltiplos usuários.
A vida humana também.
Família.
Amigos.
Colegas.
Comunidade.
Mas a companhia artificial opera em outro modelo.
Ela gira em torno de um único usuário.
Tudo é personalizado.
Tudo é adaptado.
Tudo é otimizado.
Tudo é centrado em você.
Parece perfeito.
Mas existe um risco.
Sistemas excessivamente personalizados tendem a criar bolhas.
O QUE A BBC REGISTROU EM 2020
O mais fascinante é perceber o momento histórico da matéria.
Ela foi publicada poucos anos antes da explosão global dos modelos de linguagem avançados.
Naquele momento, os especialistas já demonstravam preocupação.
Mas o cenário atual é ainda mais complexo.
Porque agora não precisamos de um robô físico para criar apego emocional.
Basta uma interface.
Uma voz.
Uma conversa.
Um algoritmo suficientemente sofisticado.
O IPL DA ERA DOS RELACIONAMENTOS SINTÉTICOS
A reportagem pergunta:
"A indústria de robôs sexuais é uma ameaça à sociedade?"
Talvez a resposta não esteja nos robôs.
Talvez esteja na tentativa de transformar relacionamentos em produtos.
Porque um relacionamento humano não é apenas:
atenção;
memória;
disponibilidade;
conversa.
Ele também envolve:
conflito;
crescimento;
negociação;
reciprocidade.
E justamente essa última palavra pode ser o maior desafio tecnológico do século.
As máquinas conseguem simular carinho.
Conseguem simular atenção.
Conseguem simular interesse.
Mas ainda não conseguem sentir.
E quando começarmos a confundir simulação com reciprocidade...
talvez estejamos diante do maior ABEND emocional da história da computação social.
☕💣🤖
Fonte original: BBC News Brasil
Reportagem: "A indústria de robôs sexuais é uma ameaça à sociedade?"
Autor: Pallab Ghosh
Data de publicação: 19 de fevereiro de 2020.
https://www.bbc.com/portuguese/geral-51557875
☕💣🤖 TABOO — A Cronologia do Afeto Artificial
Do robô Roxxxy aos companheiros digitais alimentados por inteligência artificial, esta experiência interativa reúne análises sobre robótica social, ética da IA, solidão digital, relacionamentos sintéticos e o futuro da intimidade humana.
