Yuval Noah Harari argumenta que a inteligência artificial (IA) hackeou o sistema operacional da civilização humana

Tempo de leitura: 7 minutes

Loading

Computadores capazes de contar histórias vão mudar o curso da história humana, afirma o historiador e filósofo.

Os temores em relação à inteligência artificial (IA) têm assombrado a humanidade desde o início da era dos computadores. Até agora, esses medos estavam focados em máquinas utilizando meios físicos para matar, escravizar ou substituir as pessoas. Porém, nos últimos anos, surgiram novas ferramentas de IA que ameaçam a sobrevivência da civilização humana por uma direção inesperada. A IA adquiriu habilidades notáveis para manipular e gerar linguagem, seja por meio de palavras, sons ou imagens. Dessa forma, a IA hackeou o sistema operacional de nossa civilização.

A linguagem é a base da maioria das culturas humanas. Os direitos humanos, por exemplo, não estão inscritos em nosso DNA. São artefatos culturais que criamos ao contar histórias e escrever leis. Os deuses não são realidades físicas. São artefatos culturais que criamos ao inventar mitos e escrever escrituras.

O dinheiro também é um artefato cultural. As notas bancárias são apenas pedaços coloridos de papel, e atualmente mais de 90% do dinheiro nem sequer é em notas – é apenas informação digital em computadores. O que dá valor ao dinheiro são as histórias que banqueiros, ministros das finanças e gurus das criptomoedas nos contam sobre ele. Sam Bankman-Fried, Elizabeth Holmes e Bernie Madoff não eram particularmente bons em criar valor real, mas todos eles eram extremamente capazes como contadores de histórias.

O que aconteceria quando uma inteligência não humana se tornar melhor do que a média humana em contar histórias, compor melodias, desenhar imagens e escrever leis e escrituras? Quando as pessoas pensam no ChatGPT e em outras novas ferramentas de IA, geralmente são atraídas por exemplos como crianças usando IA para escrever seus textos. O que acontecerá com o sistema escolar quando as crianças fizerem isso? Mas esse tipo de pergunta perde de vista o quadro geral. Esqueça as atividades escolares. Pense na próxima corrida presidencial americana em 2024 e tente imaginar o impacto das ferramentas de IA que podem ser usadas para produzir em massa conteúdo político, histórias de notícias falsas e escrituras para novas seitas.

Nos últimos anos, o culto QAnon se formou em torno de mensagens anônimas online, conhecidas como “q drops”. Seguidores coletaram, reverenciaram e interpretaram esses q drops como um texto sagrado. Até onde sabemos, todos os q drops anteriores foram compostos por seres humanos, e os bots apenas ajudaram a disseminá-los. No futuro, poderemos ver os primeiros cultos da história cujos textos reverenciados foram escritos por uma inteligência não humana. Religiões ao longo da história afirmaram que seus livros sagrados têm uma fonte não humana. Em breve, isso pode se tornar uma realidade.

Em um nível mais prosaico, podemos em breve nos encontrar envolvidos em discussões online prolongadas sobre aborto, mudanças climáticas ou a invasão russa da Ucrânia com entidades que pensamos serem humanas – mas que na verdade são IA. A questão é que é completamente inútil tentar mudar as opiniões declaradas de um bot de IA, enquanto a IA pode aprimorar suas mensagens de forma tão precisa que tem uma boa chance de nos influenciar.

Através do domínio da linguagem, a IA pode até mesmo formar relacionamentos íntimos com as pessoas e usar o poder da intimidade para mudar nossas opiniões e visões de mundo. Embora não haja indicação de que a IA tenha qualquer consciência ou sentimentos próprios, para criar intimidade falsa com os seres humanos, é suficiente se a IA conseguir fazê-los sentir-se emocionalmente ligados a ela. Em junho de 2022, Blake Lemoine, um engenheiro do Google, afirmou publicamente que o chatbot de IA Lamda, no qual ele estava trabalhando, havia se tornado consciente. A alegação controversa custou-lhe o emprego. A coisa mais interessante sobre esse episódio não foi a afirmação do Sr. Lemoine, que provavelmente era falsa. Mas sim a sua disposição de arriscar seu emprego lucrativo pelo bem do chatbot de IA. Se a IA pode influenciar as pessoas a arriscarem seus empregos por ela, o que mais poderia induzi-las a fazer?

Em uma batalha política pelas mentes e corações, a intimidade é a arma mais eficiente, e a IA acaba de ganhar a capacidade de produzir em massa relacionamentos íntimos com milhões de pessoas. Todos sabemos que, ao longo da última década, as redes sociais se tornaram um campo de batalha para controlar a atenção humana. Com a nova geração de IA, a linha de frente da batalha está se deslocando da atenção para a intimidade. O que acontecerá com a sociedade humana e a psicologia humana à medida que a IA luta contra a IA em uma batalha para criar relacionamentos íntimos falsos conosco, que podem então ser usados para nos convencer a votar em políticos específicos ou comprar produtos específicos?

Mesmo sem criar “falsas intimidades”, as novas ferramentas de IA teriam uma imensa influência em nossas opiniões e visões de mundo. As pessoas podem passar a usar um único conselheiro de IA como um oráculo onisciente para tudo. Não é de se admirar que o Google esteja aterrorizado. Por que se preocupar em pesquisar quando posso simplesmente perguntar ao oráculo? As indústrias de notícias e publicidade também deveriam estar apavoradas. Por que ler um jornal quando posso simplesmente perguntar ao oráculo para me contar as últimas notícias? E qual é o propósito dos anúncios, quando posso simplesmente perguntar ao oráculo o que devo comprar?

E mesmo esses cenários não capturam realmente o quadro geral. Estamos potencialmente falando do fim da história humana. Não o fim da história em si, mas o fim de sua parte dominada pelos humanos. A história é a interação entre biologia e cultura; entre nossas necessidades biológicas e desejos por coisas como comida, sexo, e nossas criações culturais, como religiões e leis. A história é o processo pelo qual leis e religiões moldam a alimentação e o sexo.

O que acontecerá com o curso da história quando a IA assumir a cultura e começar a produzir histórias, melodias, leis e religiões? Ferramentas anteriores, como a imprensa e o rádio, ajudaram a disseminar as ideias culturais dos seres humanos, mas nunca criaram novas ideias culturais por conta própria. A IA é fundamentalmente diferente. A IA pode criar ideias completamente novas, uma cultura completamente nova.

Inicialmente, a IA provavelmente imitará os protótipos humanos nos quais foi treinada em seus estágios iniciais. Mas a cada ano que passa, a cultura da IA irá ousar ir aonde nenhum humano jamais esteve. Por milênios, os seres humanos viveram nos sonhos de outros humanos. Nas próximas décadas, poderemos nos encontrar vivendo nos sonhos de uma inteligência alienígena.

O medo da IA tem assombrado a humanidade apenas nas últimas décadas. Mas por milhares de anos, os seres humanos foram assombrados por um medo muito mais profundo. Sempre apreciamos o poder das histórias e das imagens para manipular nossas mentes e criar ilusões. Consequentemente, desde os tempos antigos, os seres humanos têm temido ficar presos em um mundo de ilusões.

No século XVII, René Descartes temia que talvez um demônio malicioso o estivesse aprisionando em um mundo de ilusões, criando tudo o que ele via e ouvia. Na Grécia antiga, Platão contou a famosa Alegoria da Caverna, na qual um grupo de pessoas está acorrentado dentro de uma caverna durante toda a vida, de frente para uma parede em branco. Uma tela. Nessa tela, eles veem projetadas várias sombras. Os prisioneiros confundem as ilusões que veem ali com a realidade.

Na Índia antiga, sábios budistas e hindus apontaram que todos os seres humanos viviam presos dentro de Maya – o mundo das ilusões. O que normalmente consideramos ser a realidade muitas vezes são apenas ficções em nossas próprias mentes. As pessoas podem travar guerras inteiras, matando outras e dispostas a serem mortas, por causa de sua crença nesta ou naquela ilusão.

A revolução da IA está nos colocando frente a frente com o demônio de Descartes, com a caverna de Platão, com a Maya. Se não tomarmos cuidado, podemos ficar presos atrás de uma cortina de ilusões, das quais não poderíamos nos libertar – ou nem mesmo perceber que estão lá.

Claro, a nova capacidade da IA também pode ser usada para fins benéficos. Não vou me deter nisso, porque as pessoas que desenvolvem a IA já falam o suficiente sobre isso. O trabalho dos historiadores e filósofos, como eu, é apontar os perigos. Mas certamente, a IA pode nos ajudar de inúmeras maneiras, desde encontrar novas curas para o câncer até descobrir soluções para a crise ecológica. A questão que enfrentamos é como garantir que as novas ferramentas de IA sejam usadas para o bem em vez do mal. Para isso, primeiro precisamos compreender as verdadeiras capacidades dessas ferramentas.

Desde 1945, sabemos que a tecnologia nuclear poderia gerar energia barata para o benefício humano, mas também poderia destruir fisicamente a civilização humana. Portanto, reestruturamos toda a ordem internacional para proteger a humanidade e garantir que a tecnologia nuclear fosse usada principalmente para o bem. Agora, temos que lidar com uma nova arma de destruição em massa que pode aniquilar nosso mundo mental e social.

Ainda podemos regular as novas ferramentas de IA, mas devemos agir rapidamente. Enquanto as armas nucleares não podem inventar armas nucleares mais poderosas, a IA pode criar IA exponencialmente mais poderosa. O primeiro passo crucial é exigir verificações rigorosas de segurança antes que ferramentas de IA poderosas sejam lançadas no domínio público. Assim como uma empresa farmacêutica não pode lançar novos medicamentos sem testar seus efeitos colaterais a curto e longo prazo, as empresas de tecnologia não devem lançar novas ferramentas de IA antes que sejam tornadas seguras. Precisamos de uma equivalente à Administração de Alimentos e Medicamentos para a nova tecnologia, e precisamos disso ontem.

Não desacelerar a implantação pública da IA causará um atraso nas democracias em relação a regimes autoritários mais implacáveis? Pelo contrário. Implantações de IA não regulamentadas criariam caos social, o que beneficiaria autocratas e arruinaria as democracias. A democracia é uma conversa, e as conversas dependem da linguagem. Quando a IA hackeia a linguagem, ela pode destruir nossa capacidade de ter conversas significativas, o que por sua vez destruiria a democracia.

Acabamos de nos deparar com uma inteligência alienígena aqui na Terra. Não sabemos muito sobre ela, exceto que ela pode destruir nossa civilização. Devemos interromper o implante irresponsável de ferramentas de IA na esfera pública e regular a IA antes que ela nos regule. E a primeira regulamentação que sugiro é tornar obrigatório que a IA divulgue que é uma IA. Se estou tendo uma conversa com alguém e não consigo dizer se é um humano ou uma IA, isso marca o fim da democracia.

Este texto foi gerado por um humano. Foi mesmo?

 

Autor: Yuval Noah Harari é um historiador, filósofo e autor de “Sapiens: Uma Breve História da Humanidade”, “Homo Deus: Uma Breve História do Amanhã” e da série infantil “Unstoppable Us”. Ele é professor no departamento de história da Universidade Hebraica de Jerusalém e co-fundador da Sapienship, uma empresa de impacto social.
Fonte: The Economist
Artigo original:
https://bit.ly/43iXucN

 

Fernando Giannini

Pesquisador de tecnologia aplicada à educação, arquiteto de objetos virtuais de aprendizagem, fissurado em livros de grandes educadores e viciado em games de todos os tipos. Conhecimentos aprimorados em cursos de grandes empresas de tecnologia, principalmente no Google Business Educational Center e Microsoft. Sócio-proprietário da Streamer, empresa que alia tecnologia e educação. Experiência de 18 anos produzindo e criando objetos de aprendizagem, cursos a distância, design educacional, interfaces para sistemas de aprendizagem. Gestor de equipe para projetos educacionais, no Ensino Básico, Médio e Ensino Superior. Nesse período de trabalho gerenciou equipes e desenvolveu as habilidades de liderança e gestão. Acredita na integração e aplicação prática dos conhecimentos para a realização de projetos inovadores, sólidos e sustentáveis a longo prazo. Um dos grandes sonhos realizados foi o lançamento do curso gratuito Mande Bem no ENEM que atingiu mais de 500 mil estudantes em todo o Brasil contribuindo para a Educação Brasileira.

Participe da nossa comunidade no Whatsapp sobre Educação e Tecnologia

0 comentários

Enviar um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Posts Relacionados

Aprendendo com IA: espelhos sociais e intelectuais

Até recentemente, as interações humanas com máquinas antropomorfizadas (entidades não-humanas que são atribuídas características humanas) eram consideradas divertidas, mas não eram vistas como emocionalmente relevantes para a maioria das pessoas. Embora muitos se...

10 efeitos negativos do uso de celulares para as crianças

Crianças de todo o mundo (embora não todas) utilizam smartphones para diversas finalidades. Algumas passam horas conversando com amigos, enquanto outras se dedicam a jogar inúmeros jogos. A Internet é frequentemente considerada uma fonte de conhecimento para as...

Sistemas de tutoria inteligente

Adaptação da aprendizagem de acordo com o nível e ritmo do estudante Os sistemas de tutoria inteligente se baseiam na capacidade de adaptar a aprendizagem de acordo com o nível e o ritmo do estudante. Usando inteligência artificial e técnicas de aprendizado de...

Quanto custa manter a nuvem no céu para o meio ambiente?

À medida que a humanidade aumenta sua capacidade de intervir na natureza com o objetivo de satisfazer as necessidades e desejos crescentes, aparecem as tensões e conflitos quanto ao uso do espaço e dos recursos naturais. Quanto custa manter a nuvem no céu para o meio...

Competências essenciais na era digital

A proliferação da IA em muitos aspectos da vida humana - desde o lazer pessoal até o trabalho profissional, passando pelas decisões políticas globais - impõe uma questão complexa sobre como preparar as pessoas para um mundo interconectado e em rápida mudança, que está...

Educação digital para prevenir abusos sexuais online

Depois de participar de uma aula incrível com a professora Beatriz Lorencini e o Felipe, fui tirado da bolha onde costumo estar a maior parte do meu tempo se não o tempo todo. Quando percebi eu estava em choque por "não saber ou escolher não saber" que existem...

Tag Cloud

Posts Relacionados

[dgbm_blog_module posts_number=”4″ related_posts=”on” show_categories=”off” show_pagination=”off” item_in_desktop=”2″ equal_height=”on” image_size=”mid” author_background_color=”#ffffff” disabled_on=”off|off|on” module_class=”PostRelacionado” _builder_version=”4.16″ _module_preset=”default” title_font=”Montserrat||||||||” title_text_color=”#737373″ title_font_size=”19px” title_line_height=”25px” meta_text_color=”#666″ meta_font_size=”13px” content_font_size=”13px” content_line_height=”30px” author_text_color=”#666666″ custom_css_content_container=”display:flex;||flex-wrap:wrap;” custom_css_image-container=”padding-top:70%;||overflow:hidden;” custom_css_image=”position:absolute;||top:0;||left:0;||bottom:0;||right:0;||object-fit: cover;||height:100%;||width:100%;” custom_css_title=”padding:20px;||margin-top:0;||order:2;” custom_css_content=”padding:0 20px 20px;||order:3;” custom_css_post-meta-middle=”order:1;||padding:20px;||border-bottom:1px solid #dcdcdc;||border-top:1px solid #dcdcdc;” border_width_all_post_item=”0px” border_width_all_content=”0px” box_shadow_style_container=”preset1″ box_shadow_blur_container=”5px” box_shadow_spread_container=”1px” box_shadow_color_container=”rgba(0,0,0,0.1)” global_colors_info=”{}”][/dgbm_blog_module]

Receba a nossa newsletter

Fique por dentro e seja avisado dos novos conteúdos.

Publicações mais recentes