Algoritmos do Adoecimento - Como a tecnologia explora a biologia para criar bolhas e ameaçar a democracia

Confesso que a Nina de muitos anos atrás, na qual se aventurava pelas humanidades, não imaginaria que quase duas décadas depois ela encontraria tantas conexões entre áreas que decidiu seguir como carreira e as que ela “abandonou”.

De forma resumida, hoje sou mercadóloga e cientista de dados, especialista em neurociências, biotecnologia e IoT. Mas lá no passado, a minha versão jovem já chegou a cursar faculdade de história, economia e física. Flertava fortemente com filosofia e fazia do seu centro acadêmico um refúgio e lugar de conforto. Sim, sei que para muitos eu pareço uma pessoa completamente perdida, mas sempre soube que conhecimentos estavam interligados. Para mim, era um desperdício focar somente em uma direção e não aproveitar tudo que o mundo oferecia. Mudar de opinião nunca foi hipocrisia e estava aberta a novas verdades que passavam diante dos meus olhos.

É aqui o ponto que quero chegar: vivemos um momento de inflexibilidade de opiniões, pessoas vivendo em bolhas e novas tecnologias impulsionando um adoecimento e ameaçando a democracia. E será sobre isso que irei discorrer.

Mas antes de tudo, para entendermos o impacto tecnológico na sociedade contemporânea, a gente precisa desconstruir um mito de origem: a ideia de que o ser humano é um agente perfeitamente racional.

Na economia clássica, criaram um personagem perfeito chamado Homo economicus — ou “Econs”, como diz o Prêmio Nobel Richard Thaler. Mas no livro Misbehaving, ele mostra que a gente não é nada parecido com esses robôs. Na vida real, o ser humano é “irracional de carteirinha”: a gente decide as coisas na base da emoção e cai direto em armadilhas mentais, como o medo de perder e a mania de só enxergar o que a gente já acredita.

E acredite: essa irracionalidade econômica possui raízes bem profundas. A psicologia evolucionista mostra que a nossa mente foi “projetada” durante milênios para um mundo onde o desafio era sobreviver à fome e aos perigos imediatos. O problema é que o nosso cérebro não está preparado para esse bombardeio de notificações e curtidas das redes sociais. Esse “curto-circuito” entre o nosso corpo antigo e o mundo digital é o que os especialistas chamam de descompasso evolutivo. Quem já assistiu minha palestra DARWIN, DOPAMINA E DEPLOY, sabe do que estou falando.

Esses avanços tecnológicos das últimas décadas apropriaram-se dessa irracionalidade e são usados hoje como combustão. Os sistemas digitais não são mais ferramentas passivas, são verdadeiras arquiteturas de escolhas ativas onde exploram nossas vulnerabilidades cognitivas em proveito de engajamento e conversão.

Essas plataformas funcionam “pelas costas” da nossa consciência. Elas focam no nosso sistema de recompensa, que reage muito forte ao que é incerto. É o famoso “esquema de cassino”: como você recebe curtidas e notificações de forma imprevisível, seu cérebro fica sempre em alerta esperando a próxima. Isso cria um hábito tão forte que é quase impossível de quebrar. Tenho certeza que se você ainda não foi fisgado, alguém bem próximo foi.

Em loops algorítmicos, o sistema observa o comportamento do usuário, deduz suas preferências, entrega estímulos personalizados, mede a resposta e atualiza seus modelos preditivos em tempo real. A previsão e a persuasão passam a operar juntamente, transformando desenvolvedores em verdadeiros arquitetos de ambientes decisórios.

Segundo Byung-Chul Han em Psicopolítica, vivemos na era do “poder inteligente”. No passado, as regras eram impostas na força e no “não pode”. Agora, o controle é mais sutil: ele te ganha pela vontade e pelo prazer. Ninguém te obriga a ficar quieto; na verdade, o sistema quer que você se exponha o tempo todo, compartilhando sua vida e consumindo sem parar.

O humano contemporâneo, acreditando ser um “projeto livre”, se submete voluntariamente a coações internas de desempenho e otimização. Ainda de acordo com Byung-Chul, o ato de “curtir” torna-se o “amém digital”, marcando a submissão a um contexto de dominação onde a própria liberdade é explorada como ferramenta de controle.

Acredito que agora seja o clímax do meu ponto de vista: essa personalização extrema, impulsionada por esses loops algorítmicos está devastando o tecido social. Agora em seu livro Infocracia — inclusive recomendo a todos a leitura — o filósofo Byung-Chul Han diz que o sistema parou de explorar o nosso esforço físico para explorar nossos dados e nossa mente. A vigilância mudou: antes a gente era controlado pelo isolamento — ideia central de Foucault — agora é pela conexão total. O tempo todo online, o tempo todo vigiado.

O pior é que isso acaba com o debate público. Os algoritmos só nos mostram o que a gente já gosta, criando as famosas “bolhas”. Os usuários são envolvidos em um “looping-do-eu” permanente, onde recebem apenas informações que corroboram suas visões de mundo preexistentes. Ficamos presos num eco de nós mesmos, ouvindo só o que concorda com a nossa opinião. Mas a democracia só funciona de verdade quando a gente ouve quem pensa diferente. Ela, como práxis discursiva, depende fundamentalmente da ação comunicativa e da presença do “outro”. Nas redes, isso morreu: agora é cada um fazendo propaganda de si mesmo.

A sociedade acabou se dividindo em tribos que vivem em realidades paralelas. A informação não serve mais para aprender, mas só para mostrar de que lado você está. A briga política, a polarização extrema e as teorias da conspiração não são erros do sistema; elas são o motor de um modelo que lucra com a nossa raiva e com a desunião.

E digo mais: o resultado dessa exploração biológica, juntamente com esse isolamento social acaba sendo uma crise de saúde pública sem precedentes: ansiedade, burnout e depressão. Tudo isso fruto de tais arquiteturas dos sistemas digitais.

O esforço constante para dar atenção a tudo o que acontece online esgota nossa capacidade de julgamento, nos tornando mais impulsivos. Ao mesmo tempo, o uso de gatilhos de urgência pelas plataformas nos mantém em um estado de alerta constante.

Para Han, problemas como a depressão e o burnout são sinais desse estilo de vida, fruto da crise da liberdade neoliberal. Adoecemos por causa de uma pressão interna para sermos sempre produtivos e estarmos sempre consumindo. Esse esgotamento não é um acidente, mas o resultado de um modelo econômico que lucra com o nosso cansaço mental.

Olhando para o cenário global, a capacidade de moldar o comportamento de populações inteiras representa uma mudança profunda no poder mundial. Em Nexus, Yuval Noah Harari afirma que as redes de informação sempre foram a base do poder humano. No entanto, o objetivo principal dessas redes nunca foi espalhar a verdade, mas sim unir as pessoas em torno de objetivos comuns.

A grande diferença hoje é que, pela primeira vez, o controle dessas redes está nas mãos de máquinas. Os modelos de inteligência artificial não apenas repassam dados; eles decidem o que aparece na nossa tela e como nos relacionamos. Harari alerta que isso pode criar realidades tão fechadas que até mesmo os governantes podem perder a noção do que é fato.

Outro autor que contribui para o meu raciocínio, Mustafa Suleyman em A Próxima Onda, amplia essa preocupação. Ele argumenta que estamos enfrentando um desafio inédito: como controlar tecnologias que avançam rápido demais. O cenário atual é contraditório, pois concentra um poder enorme nas poucas empresas que dominam os algoritmos, enquanto espalha ferramentas perigosas que antes eram restritas.

Isso acaba enfraquecendo as instituições democráticas e o papel do Estado. Quando os algoritmos de grandes empresas influenciam mais o comportamento dos cidadãos do que as próprias leis ou a política, a autonomia de um país e a sua democracia perdem a força.

Ao unir o que sabemos sobre o cérebro, a economia e a filosofia, percebemos que a crise atual não é por acaso, mas sim um problema de sistema. Os algoritmos criam bolhas e geram adoecimento porque foram feitos para nos manter conectados a qualquer custo, aproveitando-se das fraquezas da nossa biologia.

Longe de mim parecer alarmista ou “anti-tecnologia”. A solução não é abandoná-la, mas mudar a forma como ela é construída. Quem trabalha com dados e marketing precisa entender que não está apenas usando ferramentas neutras; estamos desenhando os ambientes onde as pessoas tomam suas decisões.

É urgente criar uma ética para os algoritmos que vá além da proteção básica de dados. Precisamos falar em “segurança comportamental”: criar sistemas que protejam nossa capacidade de pensar por conta própria e que ajudem as pessoas a conversar de verdade, em vez de isolá-las em bolhas lucrativas.

Como Harari avisa, não devemos dar vida a um poder que não conseguimos controlar. Para conter os riscos dessa nova onda tecnológica, não basta apenas criar leis; precisamos mudar as regras do jogo econômico e os princípios de design que movem a internet. O futuro da nossa saúde mental e da democracia depende de usarmos a inteligência artificial para o bem-estar humano, e não para explorar nossas vulnerabilidades.

Referências

Thaler, R. H. (2015). Misbehaving: The Making of Behavioral Economics. W. W. Norton & Company.

Pires, N. S. O. Darwin, Dopamina e Deploy: Psicologia evolucionista, neurociência do consumo e ética na engenharia de sistemas digitais persuasivos.

Han, B.-C. (2014). Psicopolítica: O neoliberalismo e as novas técnicas de poder. Editora Âyiné.

Han, B.-C. (2022). Infocracia: Digitalização e a crise da democracia. Editora Vozes.

Harari, Y. N. (2024). Nexus: A Brief History of Information Networks from the Stone Age to AI. Random House.

Suleyman, M., & Bhaskar, M. (2023). The Coming Wave: Technology, Power, and the Twenty-first Century’s Greatest Dilemma. Crown.