Ainda somos nós? A vida na era dos algoritmos e LLMs

E se você acordasse amanhã e descobrisse que seu celular conhece você melhor que a sua mãe? Que o algoritmo do Instagram já escolheu o seu próximo crush? Que a Siri tem opinião sobre sua vida amorosa e que o ChatGPT sugeriu um novo cardápio para sua dieta alimentar?
Pois então, seja bem-vindo ao hoje. Estamos vivendo isso agora, só que fingindo acreditar que ainda somos os protagonistas desta história.

A pergunta que nos persegue não é mais “quando as máquinas vão pensar?”, pois elas já pensam (sim, mesmo que não seja o nosso pensar, elas inegavelmente pensam), decidem e, pasmem, nos julgam. A questão urgente é: quando deixaremos de ser a gente como somos para virar a versão 5.0 de nós mesmos? E se isso já começou, que tipo de upgrade queremos ser? Estaremos nos tornando neohumanos? Metahumanos? Seremos eternos no modo update?
Faço algumas ponderações que compartilho com vocês.

O espelho que não mente

Você pega o celular 150 vezes por dia (acredite, tem app que conta!), seus dados circulam por mais servidores do que fofoca em grupo de WhatsApp da família e algoritmos decidem desde o que você vê no feed até quem você “acidentalmente” encontra no Bumble. Seus gostos, medos, desejos e até seus padrões de sono viram produtos. Não somos mais usuários — somos o produto. Bem-vindos à economia da atenção, onde sua capacidade de focar virou a commodity mais valiosa do planeta.

A sua concentração e tempo se tornaram aquela hottie que todo mundo quer conquistar: Google, Meta, TikTok, Netflix, todos disputam a sua atenção com um assédio quase imoral. Lembrando que tal medição tecnológica não tem nada de neutra. Ela nos seduz, nos convence, nos vicia, bem como aquele relacionamento tóxico que muitos sabem que faz mal, mas não conseguem largar. A hiperconectividade virou nossa droga de escolha, e a abstinência dura não mais que 3 minutos. Somos o espelho de como a hiperconexão nos desenhou: controlados, documentados e dopaminados digitalmente.

Ray Kurzweil e o sonho da imortalidade digital

Ray Kurzweil, o profeta otimista da Singularidade, aposta que em 2045 seremos meio gente, meio máquina — e 100% felizes. Nanobots circulando nas veias, cérebro conectado na nuvem, inteligência multiplicada por bilhões. É a fantasia suprema: nunca mais morrer, nunca mais esquecer, nunca mais ser burro.

Lindo no papel e na fantasia humana. Trata-se da ideia de atingirmos a pós-humanidade, ou estarmos mais próximos de atingi-la. Mas quais seriam os pré-requisitos para oficialmente deixarmos de ser humanos? A lista é curiosa: (1) fusão cognitiva irreversível com IA; (2) controle total sobre a biologia (adeus, envelhecimento); (3) capacidades físicas e mentais que superem drasticamente os limites naturais; e (4) consciência expandida que transcenda a experiência individual.

Mas será que a Singularidade é tudo o que precisamos para deixar de ser humanos? E se a imperfeição é exatamente o que nos torna únicos? Kurzweil vende a promessa de que seremos deuses digitais, mas não avisa que deuses não choram em comédias românticas nem criam memes incríveis com agilidade e deboche.

Bernard Stiegler e a visão incômoda

Num contraponto ao otimismo exacerbado de Kurzweil, Bernard Stiegler chega para estragar a festa. Para ele, a tecnologia é “farmakon” — remédio e veneno ao mesmo tempo. Cada vez que terceirizamos uma função mental para um app, perdemos um pedacinho da nossa autonomia cognitiva. GPS viciou e você não lembra mais como chegar a lugar nenhum? Calculadora do celular e você esqueceu a tabuada? Google e você não consegue mais ter uma conversa sem “checar se é verdade”?

Stiegler diria: estamos nos proletarizando cognitivamente. Virando operários da própria mente. E o pior: achando que é evolução.
Sem a tão inconveniente fricção, perdemos agência e visão.

O medo que faz todo o sentido

Para Nick Bostrom, o problema não é a IA ficar má, como nos filmes de ficção ou nos quadrinhos da Marvel ou DC. O problema é ela ficar desalinhada. Imagine uma superinteligência com o objetivo de “maximizar a produção de papel cartão”! Ela poderia transformar todo o planeta em papel cartão, não por maldade, mas por eficiência. Pensar nisso hipoteticamente é assustador, porque não dá para negociar com uma inteligência que processa informação milhões de vezes mais rápido que você.

O capitalismo da alma

Shoshana Zuboff trouxe o conceito mais perturbador dos últimos tempos: o capitalismo de vigilância. As big techs não vendem produtos — elas vendem você. Seus dados comportamentais viram matéria-prima para prever e modificar comportamentos. Não é só sobre mostrar publicidade, é sobre moldar desejos antes mesmo de você saber que os tem.

É a diferença entre “essa pessoa vai comprar um carro” e “vamos fazer essa pessoa querer comprar um carro”.
Tão sutil quanto aterrorizante.

Yuval Harari e os novos hiperconectados humanos

Yuval Harari foi direto num ponto sensível: os algoritmos podem hackear seres humanos. Eles leem nossas emoções, antecipam decisões e manipulam escolhas — políticas, amorosas, existenciais. O liberalismo sempre se baseou na ideia de que cada um sabe o que é melhor para si. E se a IA souber melhor?

Para Harari, já estamos vivendo a transição para o que ele chama de “Homo Deus” — uma espécie que transcende as limitações biológicas através da tecnologia. Mas aqui está o plot twist: não precisamos esperar nanobots nas veias para nos tornarmos pós-humanos. Já somos uma versão beta dos “novos humanos hiperconectados”. Pensem: vocês conseguem realizar escolhas sem consultar o Google? Lembram de alguma coisa sem checar o celular? Confiam mais na memória ou no histórico do WhatsApp? Têm certeza de alguma informação sem perguntar ao ChatGPT?

Harari alerta que estamos criando uma “classe inútil” — não no sentido moral, mas econômico. Quando a IA dominar desde cirurgias até jornalismo, o que sobra para nós? E pior: quando os algoritmos nos conhecerem melhor que nós mesmos, quem realmente está no controle das nossas vidas?

O risco não é apenas político. É íntimo. É sobre quem você ama, o que você quer, como você se vê. Se a máquina praticamente decide por você, você ainda é você?

O amor em tempos já quase gasosos

E aqui chegamos ao coração da questão — literalmente. O amor, essa coisa tão humana, tão imperfeita, tão irracional, virou marketplace.

Bauman já previa: vivemos tempos líquidos, onde relacionamentos escorrem pelos dedos. E os apps de namoro potencializam essa liquidez. Nada é construído para durar muito. O amor é casa pré-fabricada — tem que ser fácil e, assim, acaba por chegar ao fim muito rápido. Porque, afinal, a vida e o scrolling de nossos dedos continuam.

Existe a sensação de que o arsenal de possibilidades e possíveis pares é infinito. Inesgotável. O amor virou swipe, match, porcentagem de compatibilidade. Avaliamos parceiros como carteiras de investimento: aparência (ROI visual), formação (ROI intelectual), renda (ROI financeiro).

Lucy, a protagonista do mais novo filme de Celine Song, Amores Materialistas, é a metáfora perfeita: ela pesa prós e contras de cada relacionamento como quem analisa ações na bolsa. O problema é que, quando você reduz amor à planilha, perde exatamente o que faz o amor valer a pena: o acaso, a vulnerabilidade, a ilogicidade completa de gostar de alguém que no papel não “faz sentido”.

Um voluntariado

E cá estou eu, ruminando e digerindo tudo o que observo, leio e assisto. Compartilhei algumas angústias e palpites de “pensadeira” que sou (não ousaria me chamar de pensadora, mas confesso que penso muito, o tempo todo, no chuveiro e no travesseiro) e confesso que encerro aqui com poucas certezas e alguma esperança. Um olhar solar talvez sobre a humanidade e seu presente travestido de futuro.

Vivemos hoje uma pandemia de dopamina digital, de compulsão 5G e de perda de arbítrio, e temos dificuldades em nos reconhecer nessa pintura do nosso tempo. O pescoço entorta, dói, os dedos sofrem lesões, o celular alonga os dedos, sofremos com nomofobia (aquele pânico de ficar sem celular!) e com a pressão que fazemos sobre nós mesmos por performance, por “autossucesso”.

Não poderia deixar de lembrar aqui de Byung-Chul Han e sua lúcida análise sobre a sociedade do cansaço. O filósofo sul-coreano nos mostra como transitamos de uma sociedade disciplinar para uma sociedade do desempenho, onde nos tornamos nossos próprios algozes. Se antes éramos explorados por outros, hoje nos autoexploramos acreditando sermos livres.

Han descreve com precisão essa fadiga existencial que experimentamos: não é mais o cansaço do trabalhador explorado, mas o esgotamento de quem se cobra constantemente para ser mais produtivo, mais criativo, mais bem-sucedido. É o burnout de uma época que transformou a vida em performance permanente, onde cada gesto, cada momento deve ser otimizado e compartilhado.

Essa sociedade do cansaço que Han descreve encontra na tecnologia digital seu catalisador perfeito: somos simultaneamente empresário e trabalhador de nós mesmos, numa busca incessante por euforia algorítmica que nos deixa mais vazios a cada like, mais ansiosos a cada notificação.

Postamos histórias de relacionamentos felizes enquanto brigamos por DM, checamos se o ex viu nosso stories, se tocamos quem queríamos com nossa postagem, se incomodamos a quem de direito em nossas redes. Criamos personas digitais que nem nós mesmos reconhecemos.

Truman sem saber

Vivemos como Truman, mas sem perceber. Nossa realidade é curada por algoritmos invisíveis que decidem o que vemos, com quem interagimos, sobre o que pensamos. A diferença é que, no filme, a audiência sabia que Truman estava sendo manipulado. Aqui, nós somos Truman e audiência, e ainda achamos que escolhemos o programa.

Enganamo-nos com uma relevância que inexiste.
Somos todos irrelevantes no mundo real e palpável.

A tecnologia não criou esses problemas: a verdade é que eles sempre existiram. Ela os ampliou de forma exponencial. Antes, você sabia de uma fofoca no ambiente de trabalho ou no bar da esquina e ela não se afastava muitos quilômetros dali. Hoje, a novidade corre por espaços longínquos nunca antes percorridos. Pessoas amavam e se sentiam muitas vezes divididas entre dois amores. Nada mais humano.

Hoje, quem ama, ama em frações. A divisão não é mais entre duas pessoas, mas entre uma infinidade que lhe é apresentada nas redes sociais. Ninguém consegue impedir parceiros e parceiras de interagirem, muitas vezes freneticamente, nas redes.

Virtualmente presencial. Ou presencialmente virtual.

E assim nascem conceitos como os de relação aberta ética, microtraição, DADT, entre outros. É a hiperconexão amplificando comportamentos e sentimentos humanos.

E eu não duvido nada que hoje os humanos estejam mais ciumentos que nunca antes. Talvez até mesmo mais inseguros em suas relações.
Somos ansiosos interativos.

Donna Haraway e a saída possível

Donna Haraway oferece um respiro no meio dessa angústia. Para ela, a fusão com a tecnologia pode ser libertadora — rompendo velhas dicotomias e criando identidades híbridas mais fluidas. O ciborgue descrito por ela não é ameaça, é possibilidade.

Talvez o caminho não seja resistir à tecnologia, mas aprender a dançar com ela sem deixar que ela conduza sempre. Ser cyborg consciente, não cyborg acidental.
Tá aí uma luz, ainda que oscilante, no fim do túnel.

Orwell imaginou controle pela força e Huxley, pelo prazer. Conseguimos os dois. Vigilância massiva disfarçada de conveniência (“é só para melhorar sua experiência!”) e distração infinita disfarçada de liberdade (“você pode assistir a qualquer coisa!”).

Entre otimismo e pessimismo

Eu? Não, não sou tão otimista quanto Ray e sua Singularidade, nem tão pessimista quanto Bernard. Sempre fui corajosa ao olhar para frente. Não tenho medo das alucinações da IA, nem acho que nos tornaremos inúteis completamente. Mais uma vez, nos reinventaremos.

A pós-humanidade é mais do que a vida eterna ou a superinteligência — ela deve se tratar de mais evoluídos soft skills, mais empatia e menos voracidade materialista.

Mas acredito que tenhamos que ser vigilantes, conscientizarmo-nos mutuamente e brigarmos por nossa agência, nosso arbítrio.

Fomos alertados por Orwell e Huxley, profundos conhecedores da raça humana.
É uma questão de luta. Luta por liberdade, pensamento crítico e livre-arbítrio. Lutas cansam, lutas doem, lutas pagam preços.
Consideremos pagá-lo.

Menos conveniência e mais fricção.
Menos distração voluntária e mais foco consciente.

A pós-humanidade imperceptível

A tão falada pós-humanidade não chegará como revolução, mas como evolução imperceptível. Um dia acordamos sendo uma versão ligeiramente alterada de nós mesmos. E depois outra. E depois outra. Até que olhamos no espelho e não reconhecemos quem está olhando de volta.

A questão é: queremos nos adaptar ao novo mundo mantendo a nossa essência ou abriremos mão dessa reconstrução humana para sermos sedutoramente substituídos?

Acredito que o ato mais revolucionário dos próximos anos será radicalmente analógico: preservar silêncio em mundo ruidoso. Manter imperfeição em era de produtividade e otimização. Escolher lentidão em tempos de velocidade. Não como negação da tecnologia, mas como equilíbrio necessário para saúde e sobrevivência.

Porque, no final das contas, se virarmos ciborgues mesmo, que pelo menos sejamos emocionados, afiados, que amemos fora dos algoritmos, usemos humor e, no fim do dia, encontremos beleza no caos. Afinal, o melhor do ser humano não é a perfeição nem a perspectiva de vida eterna ou superinteligência: é exatamente a gloriosa bagunça de ser imperfeito, às vezes irracional e ainda assim, inexplicavelmente único e irreplicável.

E se isso é wishful thinking, que seja. Alguém precisa defender a utopia de que dá para ser tecnológico e humano ao mesmo tempo.
Eu me voluntario.