Yuval Noah Harari argumenta que a inteligência artificial (IA) hackeou o sistema operacional da civilização humana

Tempo de leitura: 7 minutes

Loading

Computadores capazes de contar histórias vão mudar o curso da história humana, afirma o historiador e filósofo.

Os temores em relação à inteligência artificial (IA) têm assombrado a humanidade desde o início da era dos computadores. Até agora, esses medos estavam focados em máquinas utilizando meios físicos para matar, escravizar ou substituir as pessoas. Porém, nos últimos anos, surgiram novas ferramentas de IA que ameaçam a sobrevivência da civilização humana por uma direção inesperada. A IA adquiriu habilidades notáveis para manipular e gerar linguagem, seja por meio de palavras, sons ou imagens. Dessa forma, a IA hackeou o sistema operacional de nossa civilização.

A linguagem é a base da maioria das culturas humanas. Os direitos humanos, por exemplo, não estão inscritos em nosso DNA. São artefatos culturais que criamos ao contar histórias e escrever leis. Os deuses não são realidades físicas. São artefatos culturais que criamos ao inventar mitos e escrever escrituras.

O dinheiro também é um artefato cultural. As notas bancárias são apenas pedaços coloridos de papel, e atualmente mais de 90% do dinheiro nem sequer é em notas – é apenas informação digital em computadores. O que dá valor ao dinheiro são as histórias que banqueiros, ministros das finanças e gurus das criptomoedas nos contam sobre ele. Sam Bankman-Fried, Elizabeth Holmes e Bernie Madoff não eram particularmente bons em criar valor real, mas todos eles eram extremamente capazes como contadores de histórias.

O que aconteceria quando uma inteligência não humana se tornar melhor do que a média humana em contar histórias, compor melodias, desenhar imagens e escrever leis e escrituras? Quando as pessoas pensam no ChatGPT e em outras novas ferramentas de IA, geralmente são atraídas por exemplos como crianças usando IA para escrever seus textos. O que acontecerá com o sistema escolar quando as crianças fizerem isso? Mas esse tipo de pergunta perde de vista o quadro geral. Esqueça as atividades escolares. Pense na próxima corrida presidencial americana em 2024 e tente imaginar o impacto das ferramentas de IA que podem ser usadas para produzir em massa conteúdo político, histórias de notícias falsas e escrituras para novas seitas.

Nos últimos anos, o culto QAnon se formou em torno de mensagens anônimas online, conhecidas como “q drops”. Seguidores coletaram, reverenciaram e interpretaram esses q drops como um texto sagrado. Até onde sabemos, todos os q drops anteriores foram compostos por seres humanos, e os bots apenas ajudaram a disseminá-los. No futuro, poderemos ver os primeiros cultos da história cujos textos reverenciados foram escritos por uma inteligência não humana. Religiões ao longo da história afirmaram que seus livros sagrados têm uma fonte não humana. Em breve, isso pode se tornar uma realidade.

Em um nível mais prosaico, podemos em breve nos encontrar envolvidos em discussões online prolongadas sobre aborto, mudanças climáticas ou a invasão russa da Ucrânia com entidades que pensamos serem humanas – mas que na verdade são IA. A questão é que é completamente inútil tentar mudar as opiniões declaradas de um bot de IA, enquanto a IA pode aprimorar suas mensagens de forma tão precisa que tem uma boa chance de nos influenciar.

Através do domínio da linguagem, a IA pode até mesmo formar relacionamentos íntimos com as pessoas e usar o poder da intimidade para mudar nossas opiniões e visões de mundo. Embora não haja indicação de que a IA tenha qualquer consciência ou sentimentos próprios, para criar intimidade falsa com os seres humanos, é suficiente se a IA conseguir fazê-los sentir-se emocionalmente ligados a ela. Em junho de 2022, Blake Lemoine, um engenheiro do Google, afirmou publicamente que o chatbot de IA Lamda, no qual ele estava trabalhando, havia se tornado consciente. A alegação controversa custou-lhe o emprego. A coisa mais interessante sobre esse episódio não foi a afirmação do Sr. Lemoine, que provavelmente era falsa. Mas sim a sua disposição de arriscar seu emprego lucrativo pelo bem do chatbot de IA. Se a IA pode influenciar as pessoas a arriscarem seus empregos por ela, o que mais poderia induzi-las a fazer?

Em uma batalha política pelas mentes e corações, a intimidade é a arma mais eficiente, e a IA acaba de ganhar a capacidade de produzir em massa relacionamentos íntimos com milhões de pessoas. Todos sabemos que, ao longo da última década, as redes sociais se tornaram um campo de batalha para controlar a atenção humana. Com a nova geração de IA, a linha de frente da batalha está se deslocando da atenção para a intimidade. O que acontecerá com a sociedade humana e a psicologia humana à medida que a IA luta contra a IA em uma batalha para criar relacionamentos íntimos falsos conosco, que podem então ser usados para nos convencer a votar em políticos específicos ou comprar produtos específicos?

Mesmo sem criar “falsas intimidades”, as novas ferramentas de IA teriam uma imensa influência em nossas opiniões e visões de mundo. As pessoas podem passar a usar um único conselheiro de IA como um oráculo onisciente para tudo. Não é de se admirar que o Google esteja aterrorizado. Por que se preocupar em pesquisar quando posso simplesmente perguntar ao oráculo? As indústrias de notícias e publicidade também deveriam estar apavoradas. Por que ler um jornal quando posso simplesmente perguntar ao oráculo para me contar as últimas notícias? E qual é o propósito dos anúncios, quando posso simplesmente perguntar ao oráculo o que devo comprar?

E mesmo esses cenários não capturam realmente o quadro geral. Estamos potencialmente falando do fim da história humana. Não o fim da história em si, mas o fim de sua parte dominada pelos humanos. A história é a interação entre biologia e cultura; entre nossas necessidades biológicas e desejos por coisas como comida, sexo, e nossas criações culturais, como religiões e leis. A história é o processo pelo qual leis e religiões moldam a alimentação e o sexo.

O que acontecerá com o curso da história quando a IA assumir a cultura e começar a produzir histórias, melodias, leis e religiões? Ferramentas anteriores, como a imprensa e o rádio, ajudaram a disseminar as ideias culturais dos seres humanos, mas nunca criaram novas ideias culturais por conta própria. A IA é fundamentalmente diferente. A IA pode criar ideias completamente novas, uma cultura completamente nova.

Inicialmente, a IA provavelmente imitará os protótipos humanos nos quais foi treinada em seus estágios iniciais. Mas a cada ano que passa, a cultura da IA irá ousar ir aonde nenhum humano jamais esteve. Por milênios, os seres humanos viveram nos sonhos de outros humanos. Nas próximas décadas, poderemos nos encontrar vivendo nos sonhos de uma inteligência alienígena.

O medo da IA tem assombrado a humanidade apenas nas últimas décadas. Mas por milhares de anos, os seres humanos foram assombrados por um medo muito mais profundo. Sempre apreciamos o poder das histórias e das imagens para manipular nossas mentes e criar ilusões. Consequentemente, desde os tempos antigos, os seres humanos têm temido ficar presos em um mundo de ilusões.

No século XVII, René Descartes temia que talvez um demônio malicioso o estivesse aprisionando em um mundo de ilusões, criando tudo o que ele via e ouvia. Na Grécia antiga, Platão contou a famosa Alegoria da Caverna, na qual um grupo de pessoas está acorrentado dentro de uma caverna durante toda a vida, de frente para uma parede em branco. Uma tela. Nessa tela, eles veem projetadas várias sombras. Os prisioneiros confundem as ilusões que veem ali com a realidade.

Na Índia antiga, sábios budistas e hindus apontaram que todos os seres humanos viviam presos dentro de Maya – o mundo das ilusões. O que normalmente consideramos ser a realidade muitas vezes são apenas ficções em nossas próprias mentes. As pessoas podem travar guerras inteiras, matando outras e dispostas a serem mortas, por causa de sua crença nesta ou naquela ilusão.

A revolução da IA está nos colocando frente a frente com o demônio de Descartes, com a caverna de Platão, com a Maya. Se não tomarmos cuidado, podemos ficar presos atrás de uma cortina de ilusões, das quais não poderíamos nos libertar – ou nem mesmo perceber que estão lá.

Claro, a nova capacidade da IA também pode ser usada para fins benéficos. Não vou me deter nisso, porque as pessoas que desenvolvem a IA já falam o suficiente sobre isso. O trabalho dos historiadores e filósofos, como eu, é apontar os perigos. Mas certamente, a IA pode nos ajudar de inúmeras maneiras, desde encontrar novas curas para o câncer até descobrir soluções para a crise ecológica. A questão que enfrentamos é como garantir que as novas ferramentas de IA sejam usadas para o bem em vez do mal. Para isso, primeiro precisamos compreender as verdadeiras capacidades dessas ferramentas.

Desde 1945, sabemos que a tecnologia nuclear poderia gerar energia barata para o benefício humano, mas também poderia destruir fisicamente a civilização humana. Portanto, reestruturamos toda a ordem internacional para proteger a humanidade e garantir que a tecnologia nuclear fosse usada principalmente para o bem. Agora, temos que lidar com uma nova arma de destruição em massa que pode aniquilar nosso mundo mental e social.

Ainda podemos regular as novas ferramentas de IA, mas devemos agir rapidamente. Enquanto as armas nucleares não podem inventar armas nucleares mais poderosas, a IA pode criar IA exponencialmente mais poderosa. O primeiro passo crucial é exigir verificações rigorosas de segurança antes que ferramentas de IA poderosas sejam lançadas no domínio público. Assim como uma empresa farmacêutica não pode lançar novos medicamentos sem testar seus efeitos colaterais a curto e longo prazo, as empresas de tecnologia não devem lançar novas ferramentas de IA antes que sejam tornadas seguras. Precisamos de uma equivalente à Administração de Alimentos e Medicamentos para a nova tecnologia, e precisamos disso ontem.

Não desacelerar a implantação pública da IA causará um atraso nas democracias em relação a regimes autoritários mais implacáveis? Pelo contrário. Implantações de IA não regulamentadas criariam caos social, o que beneficiaria autocratas e arruinaria as democracias. A democracia é uma conversa, e as conversas dependem da linguagem. Quando a IA hackeia a linguagem, ela pode destruir nossa capacidade de ter conversas significativas, o que por sua vez destruiria a democracia.

Acabamos de nos deparar com uma inteligência alienígena aqui na Terra. Não sabemos muito sobre ela, exceto que ela pode destruir nossa civilização. Devemos interromper o implante irresponsável de ferramentas de IA na esfera pública e regular a IA antes que ela nos regule. E a primeira regulamentação que sugiro é tornar obrigatório que a IA divulgue que é uma IA. Se estou tendo uma conversa com alguém e não consigo dizer se é um humano ou uma IA, isso marca o fim da democracia.

Este texto foi gerado por um humano. Foi mesmo?

 

Autor: Yuval Noah Harari é um historiador, filósofo e autor de “Sapiens: Uma Breve História da Humanidade”, “Homo Deus: Uma Breve História do Amanhã” e da série infantil “Unstoppable Us”. Ele é professor no departamento de história da Universidade Hebraica de Jerusalém e co-fundador da Sapienship, uma empresa de impacto social.
Fonte: The Economist
Artigo original:
https://bit.ly/43iXucN

 

Fernando Giannini

Pesquisador de tecnologia aplicada à educação, arquiteto de objetos virtuais de aprendizagem, fissurado em livros de grandes educadores e viciado em games de todos os tipos. Conhecimentos aprimorados em cursos de grandes empresas de tecnologia, principalmente no Google Business Educational Center e Microsoft. Sócio-proprietário da Streamer, empresa que alia tecnologia e educação. Experiência de 18 anos produzindo e criando objetos de aprendizagem, cursos a distância, design educacional, interfaces para sistemas de aprendizagem. Gestor de equipe para projetos educacionais, no Ensino Básico, Médio e Ensino Superior. Nesse período de trabalho gerenciou equipes e desenvolveu as habilidades de liderança e gestão. Acredita na integração e aplicação prática dos conhecimentos para a realização de projetos inovadores, sólidos e sustentáveis a longo prazo. Um dos grandes sonhos realizados foi o lançamento do curso gratuito Mande Bem no ENEM que atingiu mais de 500 mil estudantes em todo o Brasil contribuindo para a Educação Brasileira.

Participe da nossa comunidade no Whatsapp sobre Educação e Tecnologia

0 comentários

Enviar um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Posts Relacionados

Escrita à Mão Aumenta Conexões Cerebrais

Como a escrita tradicional à mão está sendo progressivamente substituída por dispositivos digitais, é essencial investigar as implicações para o cérebro humano. A atividade elétrica cerebral foi registrada em 36 estudantes universitários enquanto eles escreviam à mão...

IA na Educação

O salto para uma nova era de inteligência artificial de máquina traz riscos e desafios, mas também muitas promessas No romance de ficção científica de Neal Stephenson, The Diamond Age (A Era do Diamante), de 1995, os leitores conhecem Nell, uma jovem que recebe um...

As 10 melhores ferramentas de IA para estudantes

A Inteligência Artificial (IA) tem se tornado cada vez mais predominante em vários setores, e a educação não é exceção. Com o rápido avanço da tecnologia, graças a empresas como a Open AI, as ferramentas de IA surgiram como recursos valiosos para os estudantes que...

Seis perguntas que ditarão o futuro da IA generativa

A IA generativa tomou o mundo de assalto em 2023. Seu futuro - e o nosso - será moldado pelo que fizermos a seguir. Foi uma pessoa desconhecida que me mostrou pela primeira vez o quão grande seria a mudança de vibração deste ano. Enquanto esperávamos juntas por um...

IA e o crescimento da mediocridade

Como a maioria das pessoas, gosto de me considerar um indivíduo, mas há uma semana entrei em um estacionamento e encontrei cinco carros idênticos ao meu em termos de marca, modelo, ano e cor. Fiquei feliz por ter me lembrado do número da minha placa e que meu chaveiro...

Tag Cloud

Posts Relacionados

IA na Educação

IA na Educação

O salto para uma nova era de inteligência artificial de máquina traz riscos e desafios, mas também muitas promessas No...

Receba a nossa newsletter

Fique por dentro e seja avisado dos novos conteúdos.

Publicações mais recentes