Este artigo explora como a inteligência artificial está transformando o pensamento humano, refletindo sobre a ‘mente mecanizada’ e os alertas de Jiddu Krishnamurti sobre a perda de formas mais profundas de consciência.
Enquanto estamos ocupados imaginando se as máquinas algum dia se tornarão conscientes, raramente paramos para perguntar: o que acontecerá conosco?
Desde a década de 1950, as discussões sobre IA têm girado em torno de uma grande e tentadora questão: O que as máquinas podem fazer e onde elas podem chegar? Será que algum dia elas realmente pensarão, entenderão ou talvez até se tornem conscientes? Será que elas poderão alcançar os chamados “patamares da inteligência humana”? E ainda há aquela pergunta sombria que paira no fundo: Será que eles se voltariam contra nós se pudessem, tornando-se um tipo de espécie rival? Esse medo tem alimentado a imaginação há anos. O filósofo Nick Bostrom, por exemplo, prevê um futuro em que a superinteligência das máquinas poderia controlar nosso destino, da mesma forma que o poder humano agora controla a sobrevivência dos gorilas.
Indicação de Leitura
Com o surgimento da IA generativa em 2022, a perspectiva de uma mente artificial parece subitamente próxima de você. Como observa o historiador Yuval Noah Harari, a IA generativa “hackeou o sistema operacional de nossa civilização” – a linguagem. E se, nesse novo mundo, a IA começar a gerar não apenas palavras, mas crenças, mitos e talvez até um novo tipo de cultura que poderia mudar completamente o curso da história humana? Por outro lado, a maioria dos filósofos de IA tem sido rápida em interromper essa parada, apontando que, embora a IA possa fazer um grande show imitando e simulando mentes humanas (o que o famoso filósofo John Searle chamou de “IA fraca”), ela simplesmente não tem – e não pode ter – uma mente própria (“IA forte”).
Entretanto, esse foco intenso no que as máquinas podem ou não fazer nos levou a ignorar uma questão igualmente urgente. Enquanto estamos ocupados imaginando se as máquinas algum dia se tornarão conscientes, raramente paramos para perguntar: o que acontece conosco? Como isso nos muda quando percebemos que até mesmo a “IA fraca” que imita a mente de hoje já pode assumir tarefas e habilidades cognitivas que antes pensávamos ser exclusivamente humanas?
Esse tipo de encontro próximo aconteceu com o filósofo Sven Nyholm. Um dia, enquanto fazia experiências com o ChatGPT, ele digitou: “O que Martin Heidegger pensaria sobre a ética da IA?” Para sua surpresa, o software produziu rapidamente um “pequeno ensaio bastante impressionante sobre o assunto”. Nyholm admitiu sinceramente, com uma pitada de diversão, que “o ChatGPT fez um trabalho melhor do que pelo menos alguns – talvez até muitos – dos alunos em minhas aulas”. Ele até mesmo confessou que a resposta da IA pode ter sido melhor do que a que ele poderia dar na hora.
Essa piada, publicada em 2023, ocorreu em um estágio muito inicial da evolução dos modelos de linguagem ampla (LLMs). Em apenas um ou dois anos, talvez seja quase impossível distinguir entre um artigo escrito por um professor universitário e outro elaborado por uma IA habilidosa e irracional. Se as máquinas puderem rapidamente entrelaçar ideias complexas de diversas escolas de pensamento para descobrir conexões conceituais, esse tipo de atividade acadêmica ainda será considerado inteligente e o conhecimento que nos gabamos de ter – nossa orgulhosa capacidade de ativar a rede de associações e comparações do nosso cérebro – manterá algum significado?
Leia também ...
Esse é apenas um vislumbre de como a IA da mitologia grega Prometeu modelou os seres humanos a partir do barro e depois lhes ensinou a agricultura e todas as artes da civilização, está tirando o fogo dos deuses da humanidade, apontando para um abalo filosófico, psicológico e existencial que todos nós estamos felizes demais em ignorar. Mas será que essa crise só nos atingiria se uma “IA forte” reinasse suprema? É pouco provável. Até mesmo as chamadas IAs fracas de hoje – que podem fazer estatisticamente o que fazemos semanticamente, obtendo os mesmos resultados sem inteligência real ou autoconsciência – já estão agitando o suficiente. Imagine um pintor humano insistindo que sentiu profundamente cada pincelada: Isso importa se o software pode produzir algo igualmente emocionante sem um pingo de sentimento?
Um desafio para o pensamento humano
Felizmente, nos últimos anos, alguns filósofos começaram a perceber o terremoto que se aproxima dessa crise de significado. As discussões sobre como a IA pode influenciar nossa capacidade de viver uma vida boa e experimentar a realização pessoal estão apenas começando a dar os primeiros passos. A ética da IA se expandiu para além da simples descoberta de como usar essas tecnologias de forma moral ou valiosa.
No entanto, mesmo essas conversas emergentes muitas vezes perdem o panorama geral, concentrando-se principalmente em saber se a IA tornará obsoletas as atividades humanas significativas, como o trabalho, ou se ela poderá trazer novos caminhos de significado, como as realidades virtuais. Mas há uma pergunta mais profunda e não feita que permanece em segundo plano, introduzida pelo pensador não convencional Jiddu Krishnamurti no início da década de 1980: “Se a máquina pode assumir tudo o que o homem pode fazer, e fazê-lo ainda melhor do que nós, então o que é um ser humano, o que é você?”
Quando Krishnamurti (1895-1986) fez essa pergunta, ele era um sábio de 85 anos que havia passado quase 60 anos investigando os mistérios da mente, da consciência e a necessidade de uma revolução psicológica. Ele não era um filósofo típico; nascido na Índia, Krishnamurti trilhou seu próprio caminho como pensador intransigente. Ele deu as costas à religião organizada e aos sistemas ideológicos, acreditando que a verdadeira liberdade só poderia vir de dentro.
Para ele, a chave para uma vida significativa estava na autoinvestigação e em um tipo de educação que estimulasse o pensamento independente e a autoconsciência profunda. A filosofia de Krishnamurti não se tratava de seguir um conjunto de crenças – tratava-se do mergulho destemido de cada pessoa nas grandes e inquietantes questões da vida.
O ano de 1980 foi um ponto de inflexão para a filosofia da inteligência artificial, mesmo quando a própria IA ainda estava se desenvolvendo. O filósofo John Searle apresentou seu agora famoso experimento de pensamento da Sala Chinesa, argumentando que as máquinas poderiam produzir resultados impressionantes sem um pingo de compreensão genuína.
Por volta dessa época, Krishnamurti também se deparou com o mundo da IA por meio de conversas com cientistas da computação. Mas o que o impressionou não foram as maravilhas da tecnologia; foi o desafio perturbador que ela representava para a mente humana – a ideia de que as máquinas poderiam um dia assumir seus processos e faculdades exclusivas. Essa questão o incomodou e se tornou uma de suas maiores preocupações em sua última década. Ele sentiu uma forte necessidade de levar essa questão ao seu público, vendo nela uma crise urgente que exigia atenção cuidadosa.
Krishnamurti, sempre visionário, apresentou uma série de previsões ousadas – quase advertências proféticas – sobre um futuro em que os seres humanos poderiam cair na obsolescência. Com sua intensidade característica, ele esboçou uma cena vívida de um mundo não tão distante – “em cerca de dez, quinze anos” – em que a IA eclipsaria totalmente a inteligência humana, reduzindo-nos a uma sociedade de zumbis ociosos, fixados no lazer e no entretenimento.
As máquinas, ele previu, ditariam como viveríamos, nos diagnosticariam melhor do que qualquer médico, traduziriam livros, comporiam sinfonias que rivalizariam com Beethoven, criariam filosofias inovadoras e até mesmo invocariam novos gurus e deuses para seguirmos.
Embora essa visão não tenha se concretizado totalmente e a cultura humana continue viva e atuante 44 anos depois, os recentes saltos no aprendizado de máquina – especialmente com o aprendizado profundo – refletem algumas das projeções de Krishnamurti.
Grandes modelos de linguagem agora produzem textos, ensaios, poemas e até mesmo arte e música semelhantes aos humanos, enquanto a IA se aventura no design de medicamentos e na descoberta científica. De muitas maneiras, o mundo que ele previu está começando a parecer familiar demais.
Indicação de Leitura
A mente mecanizada
A visão apocalíptica de Krishnamurti tem ecos surpreendentes na ideia de Yuval Noah Harari sobre a IA como criadora de cultura. Mas há uma grande diferença: Krishnamurti não estava tão envolvido em preocupações sociais como a desinformação. A missão de sua vida consistia em desmascarar os hábitos mecânicos da mente.
Para ele, a ideia de que as máquinas poderiam imitar o pensamento humano não era apenas intrigante – era uma revelação com profundo impacto psicológico e espiritual. Se nossas mentes podem ser recriadas por uma máquina, então talvez nosso pensamento seja mais robótico do que gostaríamos de admitir. E essa é uma realidade que nos abala até o âmago de nosso ser humano.
Não é que Krishnamurti visse a mente como algo próximo a um computador. Enquanto um funcionalista computacional poderia argumentar que construir uma mente é tão simples quanto construir uma máquina, Krishnamurti acreditava que nossa mente é muito mais do que isso. Mas ele temia que estivéssemos nos subestimando, permitindo que nossas mentes ficassem presas a rotinas mecânicas como memória e processamento de conhecimento.
Ele advertia que uma mente que funcionasse apenas dessa forma seria facilmente copiada e até mesmo substituída por uma máquina. Portanto, a verdadeira questão não é se a IA desenvolverá mentes semelhantes às humanas, mas sim se nós mesmos estamos nos tornando mentes semelhantes às das máquinas. “Os computadores estão desafiando você”, disse ele, ‘e você tem que enfrentar o desafio’.
Para ele, enfrentar o desafio significa fazer tudo o que pudermos para tornar nossas mentes diferentes da inteligência artificial – um chamado para nos elevarmos acima das rotinas que correm o risco de nos transformar em reflexos de nossas próprias máquinas.
Krishnamurti não via as máquinas inteligentes como uma espécie estranha e rival, pronta para nos substituir. Para ele, as máquinas eram apenas uma extensão da mente humana – um cérebro construído à nossa própria imagem, com o pensamento humano e artificial como reflexos no espelho.
Se você pensar bem, os desenvolvedores de IA não estão tirando ideias do nada; eles estão criando IA com base em suposições sobre o pensamento, a inteligência e a criatividade humana. Portanto, quando olhamos para esse espelho artificial e encontramos nossos próprios padrões de pensamento nos encarando, é um sinal de alerta: Muitas das habilidades que antes pensávamos que precisavam de consciência, inteligência ou criatividade podem, na verdade, ser transferidas para as máquinas. A consciência em si não nos diferencia se reduzirmos a mente à computação.
Na verdade, a linha entre cérebros e computadores fica mais tênue a cada dia.
De certa forma, Krishnamurti vira o famoso “jogo da imitação” de Alan Turing de cabeça para baixo. Em seu artigo de 1950, Turing propôs um experimento mental para verificar se uma máquina poderia imitar o comportamento verbal humano, respondendo de forma significativa ao que lhe fosse perguntado. Imagine o seguinte: uma mulher e um computador, cada um escondido em salas separadas, enquanto um juiz humano, sem saber quem está onde, faz perguntas por e-mail (ou, na época de Turing, por teletipo). Se o juiz não conseguir fazer melhor do que jogar uma moeda ao adivinhar quem é o humano, o computador passou no teste.
Mas o interesse de Krishnamurti não é saber se as máquinas podem falar como os humanos; ele está muito mais preocupado com o fato de os humanos falarem como as máquinas. Em outras palavras, se as máquinas pudessem de fato passar no teste de Turing, Krishnamurti não via isso como uma prova da inteligência da máquina, mas como um reflexo da natureza mecânica do próprio pensamento humano.
Gostamos de imaginar que nosso pensamento é, pelo menos às vezes, inteligente e criativo. Mas Krishnamurti não via o pensamento sob essa luz lisonjeira. Ele argumentou que nossa vulnerabilidade à imitação decorre de nossa forte dependência do próprio pensamento.
Para ele, o pensamento era o hábito computacional da mente – um ciclo mecânico que “começa com a experiência, que se torna conhecimento armazenado nas células do cérebro como memória; depois, da memória, vem o pensamento”. Essa reação em cadeia de experiência, memória e conhecimento é reforçada pela repetição: Agimos e reagimos com base nesse estoque interno, aprendemos com essas ações e reações e acumulamos mais experiência, memória e conhecimento.
É um ciclo puramente mecânico, impulsionado pela repetição. Na visão de Krishnamurti, o pensamento se resume a “respostas de memória”, um tipo de programação interna que é muito semelhante ao funcionamento dos computadores. Os computadores, afinal, são como armazéns de informações semelhantes ao cérebro, aprendendo e se autocorrigindo à medida que avançam. Eles executam esse ciclo sem realmente “pensar” e podem acabar nos superando nisso.
Então, podemos pelo menos nos confortar em saber que nossas experiências reais e físicas são únicas? Afinal, nenhuma máquina ultra inteligente pode assumir a forma humana, apaixonar-se ou olhar para as estrelas e dizer: “Que noite maravilhosa!” Mas se você acha que nossa consciência encarnada nos dá uma vantagem, Krishnamurti rapidamente estouraria essa bolha.
Ele argumentou que até mesmo nossas experiências são obscurecidas por reações enraizadas na memória. Imagine o seguinte: Ao admirar uma bela estrela da noite, minha mente imediatamente salta para imagens familiares, comparando e rotulando o momento em vez de me permitir vivenciá-los como algo novo. O pensamento cria símbolos e mentais instantâneos – um momento perfeito para o Instagram, talvez – e fica preso, vendo o presente apenas pelas lentes de ontem.
Essa “criação de imagens”, como Krishnamurti a chamou, aparece em todos os cantos da vida, transformando nossas reações em rotinas. Não são apenas nossas convicções políticas ou religiosas que nos levam de volta a velhos padrões; elas também estão presentes em nossos desejos por comida, sexo e entretenimento.
Por exemplo, a pornografia – as pessoas podem ser atraídas por ela devido a imagens agradáveis de experiências passadas, mas cada exposição apenas aumenta a biblioteca mental, alimentando um ciclo de respostas condicionadas. Portanto, Krishnamurti nos adverte contra encontrar conforto nas limitações sensoriais das máquinas porque, na verdade, a mente mecânica está em toda parte, drenando silenciosamente a profundidade da experiência humana.
Krishnamurti adverte que nossa capacidade de experimentar verdadeiramente a vida só vai diminuir ainda mais. À medida que as máquinas inteligentes e os robôs assumem mais o controle de nosso pensamento, o cérebro corre o risco de se tornar preguiçoso, sem estímulo e, francamente, entediado.
Em um mundo em que o trabalho e a luta são coisas do passado, nossas experiências podem se reduzir a nada mais do que uma busca por entretenimento e prazer – um ciclo de reação a uma distração brilhante após a outra. Quando chegarmos a esse ponto, diz Krishnamurti, você terá de enfrentar dois caminhos: Ou nos rendemos à diversão incessante e caímos em uma existência semelhante à de um zumbi, ou decidimos manter a mente afiada despertando para uma consciência mais elevada.
O alerta de Krishnamurti: o impacto oculto da IA no pensamento
O conselho de Krishnamurti para você enfrentar o desafio da IA é simples, mas profundo: Resista à tentação da mente entretida e mantenha suas engrenagens mentais girando, mergulhando nos “vastos recessos do seu ser”. Os otimistas entre nós podem pensar que o cérebro naturalmente saltará para atividades mais elevadas uma vez liberado da rotina.
Mas Krishnamurti é menos esperançoso. Ele duvida que um cérebro condicionado ao pensamento mecânico ganharia vida de repente sem um esforço sério. É por isso que ele insiste que engajemos ativamente nossas mentes, uma prática que nos diferencia das máquinas, e exploremos atividades e capacidades que vão além do mero pensamento.
Para Krishnamurti, a mente e o pensamento mecânico são mundos diferentes. E quando ele fala em exercitar o cérebro, não está se referindo a palavras cruzadas ou sudoku. Ele está apontando para uma mente humana com uma capacidade imensa, até mesmo infinita – que permanece desconhecida enquanto estiver atolada em conhecimento, especialização e preocupações materiais.
Esse é o alarme de Krishnamurti: em um mundo governado por IA, qualquer habilidade humana que negligenciarmos começará a murchar. Muitos filósofos apresentaram argumentos ousados para preservar o status especial da mente, a consciência inigualável e a inteligência natural. Mas Krishnamurti não estava interessado em ver a consciência como uma característica fixa e inabalável.
Em vez disso, ele via o surgimento da IA como um desafio para ver a consciência como uma habilidade – um potencial que raramente exercitamos. Para ele, a verdadeira tarefa não é proteger a mente como ela é, mas ampliá-la, cultivar certas faculdades ocultas. A consciência, insistiu ele, não é apenas um dado adquirido; é uma possibilidade que está esperando para ser realizada.
Essa mudança inverte o debate usual: Em vez de perguntar se as máquinas algum dia se tornarão conscientes, podemos perguntar se os seres humanos podem se tornar conscientes o suficiente para superar a “inteligência artificial” tanto dentro deles quanto nas máquinas ao seu redor.
Krishnamurti também questionou se o pensamento, em sua natureza inerentemente mecânica, poderia produzir inteligência real. Afinal, se nosso pensamento funciona como uma máquina, ele pode ser realmente chamado de inteligente? Para Krishnamurti, a IA exige um novo olhar sobre a própria inteligência. Se concordarmos que a verdadeira inteligência não pode ser mecânica, então talvez seja hora de definir a inteligência como algo além do que qualquer computador poderia imitar ou simular.
De acordo com Krishnamurti, a resposta definitiva para as máquinas superinteligentes é o cultivo de uma mente genuinamente inteligente – uma mente guiada por uma inteligência não pensante. Ele imagina essa mente como uma mente que não está enraizada na memória.
Enquanto a maioria de nós se envolve com o mundo por meio de camadas de experiências passadas e conhecimento armazenado, a mente inteligente usa o conhecimento somente “quando necessário” e, na maioria das vezes, não depende do que é familiar. Ela dá pouco valor aos processos mecânicos da memória – os pensamentos de ontem ou os planos de amanhã – e se esforça para permanecer o mais aberta e organizada possível.
Além do conhecimento prático essencial, essa mente libera o peso do dia todas as noites, limpando o quadro “como se estivesse morrendo no final do dia”. O resultado é uma mente que é espontânea e viva. Para Krishnamurti, esse indivíduo não mecânico se veria como “algo que está mudando o tempo todo”, descobrindo um novo eu a cada amanhecer.
O primeiro passo crucial para cultivar uma mente verdadeiramente inteligente – e afastar-se do pensamento automatizado das máquinas – é envolver-se no que os filósofos chamam de “cognição de segunda ordem” ou autoconsciência reflexiva, reconhecendo os padrões programados da mente.
Felizmente, a mente e o pensamento mecânico não são a mesma coisa, o que significa que temos a capacidade de perceber quando nossa mente está presa em ciclos de experiência-memória-conhecimento. Embora possa parecer desconfortável, Krishnamurti considera esse reconhecimento essencial: Compreender a qualidade maquinal do pensamento, diz ele, é a “própria fonte da inteligência”, a centelha de uma consciência única e mais profunda.
Krishnamurti não oferece um conjunto completo de respostas, mas o que ele sugere é suficientemente intrigante para nos levar a fazer as perguntas certas. Para ele, a pergunta em si é mais poderosa do que qualquer resposta. Ele acreditava que, simplesmente contemplando o que realmente é a verdadeira inteligência, começamos a despertá-la. E esse despertar, segundo ele, é o que, em última análise, nos permite distinguir nossa própria mente da inteligência artificial que nos cerca.
Autor: Shai Tubali
Fonte: Big Think
Artigo original: https://bit.ly/3Z50tVh
