O Que é Inteligência Artificial? Esse artigo explora a definição e implicações da AI, uma das tecnologias mais transformadoras e debatidas da atualidade. Descubra como a AI está moldando o futuro e os desafios éticos envolvidos.
Todos acham que sabem, mas ninguém concorda. E isso é um problema.
Maldade na Internet, xingamentos e outras discordâncias não tão mesquinhas que alteram o mundo
A IA é sexy, a IA é legal. A IA está entrincheirando a desigualdade, derrubando o mercado de trabalho e destruindo a educação. A IA é um passeio em um parque temático, a IA é um truque de mágica. A IA é nossa última invenção, a IA é uma obrigação moral. IA é a palavra da moda da década, IA é um jargão de marketing de 1955. A IA é semelhante ao ser humano, a IA é um alienígena. A IA é superinteligente e burra. O boom da IA impulsionará a economia, a bolha da IA está prestes a estourar. A IA aumentará a abundância e capacitará a humanidade a se desenvolver ao máximo no universo. A IA matará a todos nós.
O Que é Inteligência Artificial? Esse artigo explora a definição e implicações da AI, uma das tecnologias mais transformadoras e debatidas da atualidade. Descubra como a AI está moldando o futuro e os desafios éticos envolvidos.
Do que diabos todo mundo está falando?
A inteligência artificial é a tecnologia mais quente do nosso tempo. Mas o que é isso? Parece uma pergunta estúpida, mas é uma pergunta que nunca foi tão urgente. Aqui está a resposta curta: IA é um termo genérico para um conjunto de tecnologias que faz com que os computadores façam coisas que, acredita-se, requerem inteligência quando feitas por pessoas. Pense em reconhecer rostos, entender a fala, dirigir carros, escrever frases, responder a perguntas, criar imagens. Até uma definição clara pode ter muitos significados diferentes.
E é aí que está o problema. O que significa para as máquinas entender a fala ou escrever uma frase? Que tipos de tarefas poderíamos solicitar que essas máquinas realizassem? E até que ponto devemos confiar nas máquinas para realizá-las?
Como essa tecnologia passa do protótipo para o produto cada vez mais rápido, essas perguntas se tornaram frequentes para todos nós. Eu não tenho as respostas. Não posso nem dizer o que é IA. As pessoas que estão fazendo isso também não sabem o que é IA. Não é bem assim. “Esses são os tipos de perguntas que são importantes o suficiente para que todos sintam que podem ter uma opinião”, diz Chris Olah, cientista-chefe do laboratório de IA Anthropic, com sede em São Francisco.
“Também acho que você pode argumentar sobre isso o quanto quiser e não há nenhuma evidência que o contradiga neste momento.”
Mas se você estiver disposto a apertar o cinto e vir dar uma volta, posso lhe dizer por que ninguém realmente sabe, por que todos parecem discordar e por que você tem razão em se preocupar com isso.
Vamos começar com uma piada de improviso.
Em 2022, no meio do primeiro episódio do Mystery AI Hype Theater 3000, um podcast festivo no qual os co-apresentadores Alex Hanna e Emily Bender se divertem muito enfiando “as agulhas mais afiadas” em algumas das vacas sagradas mais infladas do Vale do Silício, eles fazem uma sugestão ridícula. Eles estão lendo em voz alta um post de 12.500 palavras no Medium de um vice-presidente de engenharia do Google, Blaise Agüera y Arcas, intitulado “Can machines learn how to behave?” (As máquinas podem aprender a se comportar?). Agüera y Arcas defende a ideia de que a IA pode entender conceitos de forma análoga à maneira como os seres humanos entendem conceitos – como valores morais. Em resumo, talvez as máquinas possam ser ensinadas a se comportar.
Hanna e Bender não estão gostando disso. Eles decidem substituir o termo “IA” por “mathy math” (matemática) – você sabe, muita e muita matemática.
A frase irreverente tem o objetivo de acabar com o que eles consideram um exagero e antropomorfismo nas frases que estão sendo citadas. Em pouco tempo, Hanna, socióloga e diretora de pesquisa do Distributed AI Research Institute, e Bender, linguista computacional da Universidade de Washington (e crítico famoso na Internet da propaganda exagerada do setor de tecnologia), abrem um abismo entre o que Agüera y Arcas quer dizer e a forma como eles decidem ouvir.
“Como as IAs, seus criadores e seus usuários devem ser considerados moralmente responsáveis?”, pergunta Agüera y Arcas.
Como a matemática deve ser considerada moralmente responsável? pergunta Bender.
“Há um erro de categoria aqui”, diz ela. Hanna e Bender não apenas rejeitam o que Agüera y Arcas diz; eles afirmam que não faz sentido. “Podemos, por favor, parar com o ‘uma IA’ ou ‘as IAs’ como se elas fossem, por exemplo, indivíduos no mundo?” diz Bender.
Pode parecer que elas estão falando de coisas diferentes, mas não estão. Ambos os lados estão falando sobre modelos de linguagem grandes, a tecnologia por trás do atual boom da IA. O que acontece é que a maneira como falamos sobre IA está mais polarizada do que nunca. Em maio, o CEO da OpenAI, Sam Altman, provocou a mais recente atualização do GPT-4, o principal modelo de sua empresa, ao twittar: “Parece mágica para mim”.
“Qualquer tecnologia suficientemente avançada é indistinguível da magia” Arthur Clark
Há uma grande distância entre a matemática e a mágica.
A IA tem auxiliado, com uma crença semelhante à fé no poder atual da tecnologia e no inevitável aprimoramento futuro. A inteligência artificial geral está à vista, dizem eles; a superinteligência está vindo atrás dela. E tem os hereges, que desdenham de tais afirmações como sendo místicas.
A narrativa popular e agitada é moldada por um panteão de grandes nomes, desde os chefes de marketing da Big Tech, como Sundar Pichai e Satya Nadella, até os grandes nomes do setor, como Elon Musk e Altman, e cientistas da computação famosos, como Geoffrey Hinton. Às vezes, esses defensores e condenadores são a mesma pessoa, dizendo-nos que a tecnologia é tão boa que chega a ser ruim.
À medida que o hype da IA aumentou, um lobby anti-hype se ergueu em oposição, pronto para derrubar suas afirmações ambiciosas e, muitas vezes, selvagens. Nessa direção, há uma série de pesquisadores, incluindo Hanna e Bender, e também críticos declarados do setor, como o influente cientista da computação e ex-Googler Timnit Gebru e o cientista cognitivo da NYU Gary Marcus. Todos eles têm um coro de seguidores que discutem em suas respostas.
Em suma, a IA passou a significar tudo para todas as pessoas, dividindo o campo em fandoms (fãs). Pode parecer que os diferentes campos estão falando uns com os outros, nem sempre de boa fé.
Talvez você ache tudo isso bobo ou cansativo. Mas dado o poder e a complexidade dessas tecnologias – que já são usadas para determinar quanto pagamos pelo seguro, como procuramos informações, como fazemos nosso trabalho, etc. etc. etc. – já é hora de concordarmos sobre o que estamos falando.
No entanto, em todas as conversas que tive com pessoas que estão na vanguarda dessa tecnologia, ninguém deu uma resposta direta sobre o que exatamente está construindo. (Uma observação rápida: este artigo se concentra no debate sobre IA nos EUA e na Europa, em grande parte porque muitos dos laboratórios de IA mais bem financiados e de ponta estão lá. Mas é claro que há pesquisas importantes acontecendo em outros lugares também, em países com suas próprias perspectivas variadas sobre IA, especialmente a China). Em parte, é o ritmo do desenvolvimento. Mas a ciência também é muito aberta. Os grandes modelos de linguagem atuais podem fazer coisas incríveis. O campo simplesmente não consegue encontrar um ponto em comum sobre o que realmente está acontecendo sob o capô.
Esses modelos são treinados para completar frases. Eles parecem ser capazes de fazer muito mais – desde resolver problemas de matemática no ensino médio até escrever códigos de computador, passar em exames de direito e compor poemas. Quando uma pessoa faz essas coisas, consideramos isso um sinal de inteligência. E quando um computador faz isso? A aparência de inteligência é suficiente?
Essas perguntas estão no cerne do que queremos dizer com “inteligência artificial”, um termo sobre o qual as pessoas vêm discutindo há décadas. Mas o discurso em torno da IA tornou-se mais acrimonioso com o surgimento de grandes modelos de linguagem que podem imitar a maneira como falamos e escrevemos com realismo emocionante/arrepiante.
Construímos máquinas com comportamento semelhante ao humano, mas ainda não nos livramos do hábito de imaginar uma mente humana por trás delas. Isso leva a avaliações exageradas sobre o que a IA pode fazer; endurece as reações instintivas em posições dogmáticas e contribui para as guerras culturais mais amplas entre os tecno-otimistas e os tecno-céticos.
Acrescente a esse caldo de incertezas um caminhão de bagagem cultural, desde a ficção científica, com a qual aposto que muitos no setor foram criados, até ideologias muito mais malignas que influenciam a maneira como pensamos sobre o futuro. Dada essa mistura inebriante, as discussões sobre IA não são mais simplesmente acadêmicas (e talvez nunca tenham sido). A IA inflama as paixões das pessoas e faz com que os adultos xinguem uns aos outros.
“Não está em um lugar intelectualmente saudável no momento”, diz Marcus sobre o debate. Durante anos, Marcus apontou as falhas e limitações da aprendizagem profunda, a tecnologia que lançou a IA no mainstream, impulsionando tudo, de LLMs a reconhecimento de imagens e carros autônomos. Seu livro de 2001, The Algebraic Mind, argumentou que as redes neurais, a base sobre a qual a aprendizagem profunda é construída, são incapazes de raciocinar por si mesmas. (Vamos pular esse assunto por enquanto, mas voltarei a ele mais tarde e veremos o quanto uma palavra como “raciocínio” é importante em uma frase como esta).
Marcus diz que tentou envolver Hinton – que no ano passado veio a público com temores existenciais sobre a tecnologia que ajudou a inventar – em um debate adequado sobre a qualidade dos modelos de linguagem de grande porte. “Ele simplesmente não o faz”, diz Marcus. “Ele me chama de idiota”. (Tendo conversado com Hinton sobre Marcus no passado, posso confirmar isso. “O ChatGPT claramente entende de redes neurais melhor do que ele”, disse-me Hinton no ano passado). Marcus também ficou furioso quando escreveu um ensaio intitulado “Deep learning is hitting a wall”. Altman respondeu a ele com um tweet: “Dê-me a confiança de um cético medíocre da aprendizagem profunda”.
Ao mesmo tempo, o fato de tocar seu tambor fez de Marcus uma marca de um homem só e lhe rendeu um convite para sentar-se ao lado de Altman e prestar depoimento no ano passado perante o comitê de supervisão de IA do Senado dos EUA.
E é por isso que todas essas brigas são mais importantes do que a grosseria comum da Internet. Claro, há grandes egos e grandes somas de dinheiro em jogo. Mas, mais do que isso, essas disputas são importantes quando líderes do setor e cientistas de opinião são convocados por chefes de estado e legisladores para explicar o que é essa tecnologia e o que ela pode fazer (e como devemos ficar assustados). Elas são importantes quando essa tecnologia está sendo incorporada ao software que usamos todos os dias, desde mecanismos de pesquisa até aplicativos de processamento de texto e assistentes em seu telefone. A IA não vai desaparecer. Mas se não soubermos o que está sendo vendido, quem é o enganado?
“É difícil pensar em outra tecnologia na história sobre a qual se possa ter esse tipo de debate – um debate sobre se ela está em toda parte ou em lugar nenhum”, escrevem Stephen Cave e Kanta Dihal em Imagining AI, uma coletânea de ensaios de 2023 sobre como diferentes crenças culturais moldam a visão das pessoas sobre a inteligência artificial. “O fato de podermos falar sobre IA é uma prova de sua qualidade mítica.”
Acima de tudo, a IA é uma ideia – um ideal – moldada por visões de mundo e tropos de ficção científica, tanto quanto por matemática e ciência da computação. Descobrir sobre o que estamos falando quando falamos de IA esclarecerá muitas coisas. Não concordaremos com elas, mas uma base comum sobre o que é IA seria um ótimo ponto de partida para começar a falar sobre o que a IA deveria ser.
Afinal, por que todos estão realmente brigando?
No final de 2022, logo depois que a OpenAI lançou o ChatGPT, um novo meme começou a circular on-line que capturou a estranheza dessa tecnologia melhor do que qualquer outra coisa. Na maioria das versões, um monstro Lovecraftiano chamado Shoggoth, cheio de tentáculos e globos oculares, segura um emoji de rosto sorridente, como se quisesse disfarçar sua verdadeira natureza. O ChatGPT se apresenta como humano e acessível em seu jogo de palavras, mas, por trás dessa fachada, há complexidades e horrores insondáveis. (“Era uma coisa terrível e indescritível, maior do que qualquer trem de metrô – um conglomerado disforme de bolhas protoplasmáticas”, escreveu H.P. Lovecraft sobre o Shoggoth em seu romance de 1936, At the Mountains of Madness).
Durante anos, um dos marcos mais conhecidos da IA na cultura pop foi O Exterminador do Futuro, diz Dihal. Mas, ao colocar o ChatGPT on-line gratuitamente, a OpenAI proporcionou a milhões de pessoas uma experiência em primeira mão de algo diferente. “A IA sempre foi uma espécie de conceito muito vago que pode se expandir infinitamente para abranger todos os tipos de ideias”, diz ela. Mas o ChatGPT tornou essas ideias tangíveis: “De repente, todo mundo tem uma coisa concreta a que se referir.” O que é IA? Para milhões de pessoas, a resposta é agora: ChatGPT.
O setor de IA está vendendo essa carinha sorridente com força. Considere como o The Daily Show recentemente criticou o hype, conforme expresso pelos líderes do setor. O chefe de capital de risco do Vale do Silício, Marc Andreessen: “Isso tem o potencial de tornar a vida muito melhor… Acho que, honestamente, é uma aposta”. Altman: “Detesto soar como um técnico utópico, mas o aumento da qualidade de vida que a IA pode proporcionar é extraordinário.” Pichai: “A IA é a tecnologia mais profunda na qual a humanidade está trabalhando. Mais profunda do que o fogo”.
Jon Stewart: “Sim, chupe um pau, fogo!”
Jon Stewart sobre as falsas promessas da IA | The Daily Show
Mas, como o meme aponta, o ChatGPT é uma máscara amigável. Por trás dele há um monstro chamado GPT-4, um grande modelo de linguagem criado a partir de uma vasta rede neural que ingeriu mais palavras do que a maioria de nós poderia ler em mil vidas. Durante o treinamento, que pode durar meses e custar dezenas de milhões de dólares, esses modelos recebem a tarefa de preencher espaços em branco em frases retiradas de milhões de livros e de uma fração significativa da Internet. Eles realizam essa tarefa repetidas vezes. De certa forma, eles são treinados para serem máquinas de autocompletar superalimentadas. O resultado é um modelo que transformou grande parte das informações escritas do mundo em uma representação estatística de quais palavras têm maior probabilidade de seguir outras palavras, capturadas em bilhões e bilhões de valores numéricos.
É matemática – muita matemática. Ninguém contesta isso. Mas será que é apenas isso ou essa matemática complexa codifica algoritmos capazes de algo semelhante ao raciocínio humano ou à formação de conceitos?
Muitas das pessoas que respondem sim a essa pergunta acreditam que estamos próximos de desbloquear algo chamado inteligência geral artificial, ou AGI, uma tecnologia hipotética do futuro que pode realizar uma ampla gama de tarefas tão bem quanto os humanos. Alguns deles até já estão de olho no que chamam de superinteligência, uma tecnologia de ficção científica que pode fazer coisas muito melhores do que os humanos. Esse grupo acredita que a AGI mudará drasticamente o mundo, mas com que finalidade? Esse é mais um ponto de tensão. Ela poderia resolver todos os problemas do mundo – ou causar sua ruína.
Atualmente, a AGI aparece nas declarações de missão dos principais laboratórios de IA do mundo. No entanto, o termo foi inventado em 2007 como uma tentativa de injetar um pouco de dinamismo em um campo que, na época, era mais conhecido por aplicativos que liam a caligrafia em boletos bancários ou recomendavam a compra do próximo livro. A ideia era recuperar a visão original de uma inteligência artificial que pudesse fazer coisas semelhantes às humanas (mais sobre isso em breve).
Na verdade, era mais uma aspiração do que qualquer outra coisa, me disse no ano passado o cofundador do Google DeepMind, Shane Legg, que criou o termo: “Eu não tinha uma definição especialmente clara”.
A AGI tornou-se a ideia mais controversa em IA. Alguns falaram dela como a próxima grande novidade: AGI era IA, mas, você sabe, muito melhor. Outros afirmaram que o termo era tão vago que não fazia sentido.
“A AGI costumava ser um palavrão”, disse-me Ilya Sutskever, antes de se demitir do cargo de cientista-chefe da OpenAI.
Mas os grandes modelos de linguagem, e o ChatGPT em particular, mudaram tudo. A AGI passou de palavrão ao sonho de marketing.
Isso nos leva ao que considero uma das disputas mais ilustrativas do momento – uma disputa que define os lados da discussão e os riscos em jogo.
Vendo magia na máquina
Alguns meses antes do lançamento público do grande modelo de linguagem GPT-4 da OpenAI em março de 2023, a empresa compartilhou uma versão de pré-lançamento com a Microsoft, que queria usar o novo modelo para renovar seu mecanismo de busca Bing.
Na época, Sebastian Bubeck estava estudando as limitações dos LLMs e era um tanto cético em relação às suas capacidades. Em particular, Bubeck – o vice-presidente de pesquisa de IA generativa da Microsoft Research em Redmond, Washington – estava tentando e não conseguindo fazer com que a tecnologia resolvesse problemas de matemática do ensino médio. Coisas como: x – y = 0; o que são x e y? “Minha crença era de que o raciocínio era um gargalo, um obstáculo”, diz ele. “Eu achava que você teria que fazer algo realmente fundamentalmente diferente para superar esse obstáculo.”
Então ele colocou as mãos no GPT-4. A primeira coisa que fez foi testar os problemas matemáticos. “O modelo acertou em cheio”, diz ele. “Aqui sentado em 2024, é claro que o GPT-4 pode resolver equações lineares. Mas naquela época, isso era uma loucura. O GPT-3 não podia fazer isso.”
Mas o verdadeiro momento da estrada para Damasco de Bubeck ocorreu quando ele o pressionou a fazer algo novo.
O problema dos problemas de matemática do ensino médio é que eles estão em toda a Internet, e o GPT-4 pode simplesmente tê-los memorizado. “Como você estuda um modelo que pode ter visto tudo o que os seres humanos escreveram?”, pergunta Bubeck. Sua resposta foi testar o GPT-4 em uma série de problemas que ele e seus colegas acreditavam ser novos.
Em uma brincadeira com Ronen Eldan, matemático da Microsoft Research, Bubeck pediu ao GPT-4 que apresentasse, em um verso, uma prova matemática de que há um número infinito de números primos.
Aqui está um trecho da resposta do GPT-4: “Se pegarmos o menor número em S que não está em P / E o chamarmos de p, podemos adicioná-lo ao nosso conjunto, não está vendo? / Mas esse processo pode ser repetido indefinidamente. / Assim, nosso conjunto P também deve ser infinito, você concorda.”
Bonitinho, não é? Mas Bubeck e Eldan achavam que era muito mais do que isso. “Estávamos neste escritório”, diz Bubeck, acenando para a sala atrás dele via Zoom. “Nós dois caímos de nossas cadeiras. Não podíamos acreditar no que estávamos vendo. Era tão criativo e tão, tipo, você sabe, diferente.”
A equipe da Microsoft também conseguiu que o GPT-4 gerasse o código para adicionar um chifre a um desenho animado de um unicórnio desenhado no Latex, um programa de processamento de texto. Bubeck acredita que isso mostra que o modelo pode ler o código Latex existente, entender o que ele representa e identificar onde o chifre deve ser colocado.
“Há muitos exemplos, mas alguns deles são armas fumegantes de raciocínio”, diz ele – o raciocínio é um componente essencial da inteligência humana.
Bubeck, Eldan e uma equipe de outros pesquisadores da Microsoft descreveram suas descobertas em um artigo que eles chamaram de “Sparks of artificial general intelligence” (Faiscas de inteligência geral artificial): “Acreditamos que a inteligência do GPT-4 sinaliza uma verdadeira mudança de paradigma no campo da ciência da computação e além”. Quando Bubeck compartilhou o artigo on-line, ele tuitou: “É hora de encarar isso, as faíscas da #AGI foram acesas”.
O artigo Sparks rapidamente se tornou infame e uma pedra de toque para os defensores da IA. Agüera y Arcas e Peter Norvig, ex-diretor de pesquisa do Google e coautor de Artificial Intelligence: A Modern Approach (Inteligência Artificial: Uma Abordagem Moderna), talvez o livro didático de IA mais popular do mundo, escreveram um artigo chamado “Artificial General Intelligence Is Already Here” (A Inteligência Artificial Geral Já Está Aqui). Publicado na Noema, uma revista apoiada por um think tank de Los Angeles chamado Berggruen Institute, o argumento deles usa o artigo de Sparks como ponto de partida: “Inteligência Artificial Geral (AGI) significa muitas coisas diferentes para pessoas diferentes, mas as partes mais importantes dela já foram alcançadas pela geração atual de modelos avançados de linguagem grande de IA”, escreveram eles. “Daqui a algumas décadas, eles serão reconhecidos como os primeiros exemplos reais de AGI.”
Desde então, o entusiasmo continuou crescendo. Leopold Aschenbrenner, que na época era pesquisador da OpenAI com foco em superinteligência, me disse no ano passado: “O progresso da IA nos últimos anos tem sido extraordinariamente rápido. Estamos esmagando todos os benchmarks, e esse progresso continua inabalável. Mas ele não vai parar por aí. Teremos modelos sobre-humanos, modelos que são muito mais inteligentes do que nós.” (Ele foi demitido da OpenAI em abril porque, segundo ele, levantou questões de segurança sobre a tecnologia que estava desenvolvendo e “irritou algumas pessoas”. Desde então, ele criou um fundo de investimento no Vale do Silício).
Em junho, Aschenbrenner publicou um manifesto de 165 páginas argumentando que a IA ultrapassará os graduados universitários até “2025/2026” e que “teremos superinteligência, no verdadeiro sentido da palavra” até o final da década. Mas outras pessoas do setor zombam de tais afirmações. Quando Aschenbrenner tuitou um gráfico para mostrar a rapidez com que ele achava que a IA continuaria a melhorar, dada a rapidez com que ela havia melhorado nos últimos anos, o investidor em tecnologia Christian Keil respondeu que, pela mesma lógica, seu filho bebê, que havia dobrado de tamanho desde que nasceu, pesaria 7,5 trilhões de toneladas quando tivesse 10 anos.
Não é de se surpreender que “faíscas de AGI” também tenha se tornado uma palavra de ordem para um burburinho exagerado. “Acho que eles se empolgaram”, diz Marcus, falando sobre a equipe da Microsoft. “Eles ficaram empolgados, tipo ‘Ei, descobrimos algo! Isso é incrível! Eles não examinaram o assunto com a comunidade científica.” Bender se refere ao artigo do Sparks como uma “novela de ficção de fã”.
Além de ser provocativo afirmar que o comportamento do GPT-4 mostrava sinais de AGI, a Microsoft, que usa o GPT-4 em seus próprios produtos, tem um interesse claro em promover os recursos da tecnologia. “Esse documento é um material de marketing disfarçado de pesquisa”, publicou um COO de tecnologia no LinkedIn.
Alguns também acharam que a metodologia do documento era falha. Suas evidências são difíceis de verificar porque são provenientes de interações com uma versão do GPT-4 que não foi disponibilizada fora da OpenAI e da Microsoft. A versão pública tem barreiras que restringem os recursos do modelo, admite Bubeck. Isso impossibilitou que outros pesquisadores recriassem seus experimentos.
Um grupo tentou recriar o exemplo do unicórnio com uma linguagem de codificação chamada Processing, que o GPT-4 também pode usar para gerar imagens. Eles descobriram que a versão pública do GPT-4 poderia produzir um unicórnio aceitável, mas não poderia inverter ou girar essa imagem em 90 graus. Pode parecer uma diferença pequena, mas essas coisas realmente importam quando se afirma que a capacidade de desenhar um unicórnio é um sinal de AGI.
O principal aspecto dos exemplos do artigo do Sparks, incluindo o unicórnio, é que Bubeck e seus colegas acreditam que eles são exemplos genuínos de raciocínio criativo. Isso significa que a equipe precisou ter certeza de que os exemplos dessas tarefas, ou de outras muito parecidas com elas, não estavam incluídos em nenhum dos vastos conjuntos de dados que a OpenAI reuniu para treinar seu modelo. Caso contrário, os resultados poderiam ser interpretados como instâncias em que o GPT-4 reproduziu padrões que já havia visto.
Bubeck insiste que eles definiram para o modelo apenas tarefas que não poderiam ser encontradas na Internet. Desenhar um unicórnio de desenho animado em látex foi certamente uma dessas tarefas. Mas a Internet é um lugar grande. Outros pesquisadores logo apontaram que há, de fato, fóruns on-line dedicados a desenhar animais em látex. “Para sua informação, nós sabíamos disso”, respondeu Bubeck no X. “Todas as perguntas do artigo do Sparks foram pesquisadas minuciosamente na Internet.”
(Isso não impediu os xingamentos: “Ben Recht, um cientista da computação da Universidade da Califórnia, em Berkeley, respondeu com um tweet antes de acusar Bubeck de “ser pego mentindo descaradamente”.)
Bubeck insiste que o trabalho foi feito de boa fé, mas ele e seus coautores admitem no próprio artigo que sua abordagem não foi rigorosa – observações de caderno em vez de experimentos infalíveis.
Ainda assim, ele não se arrepende: “O artigo foi publicado há mais de um ano e ainda não vi ninguém me apresentar um argumento convincente de que o unicórnio, por exemplo, não é um exemplo real de raciocínio”.
Isso não quer dizer que ele possa me dar uma resposta direta à grande questão – embora sua resposta revele o tipo de resposta que ele gostaria de dar. “O que é IA?” Bubeck repete para mim. “Quero ser claro com você. A pergunta pode ser simples, mas a resposta pode ser complexa.”
“Há muitas perguntas simples para as quais ainda não sabemos a resposta. E algumas dessas perguntas simples são as mais profundas”, diz ele. “Estou colocando isso no mesmo patamar que, por exemplo, Qual é a origem da vida? Qual é a origem do universo? De onde viemos? Grandes, grandes perguntas como essa.”
Vendo apenas a matemática na máquina
Antes de Bender se tornar uma das principais antagonistas dos defensores da IA, ela deixou sua marca no mundo da IA como coautora de dois artigos influentes. (Ambos revisados por pares, como ela gosta de salientar, ao contrário do artigo Sparks e de muitos outros que recebem grande parte da atenção). O primeiro, escrito com Alexander Koller, um colega linguista computacional da Universidade de Saarland, na Alemanha, e publicado em 2020, foi chamado de “Climbing towards NLU” (NLU é a compreensão da linguagem natural).
“O início de tudo isso para mim foi discutir com outras pessoas da linguística computacional se os modelos de linguagem entendiam ou não alguma coisa”, diz ela. (A compreensão, assim como o raciocínio, é geralmente considerada um ingrediente básico da inteligência humana).
Bender e Koller argumentam que um modelo treinado exclusivamente em texto só aprenderá a forma de um idioma, não seu significado. O significado, segundo eles, consiste em duas partes: as palavras (que podem ser marcas ou sons) e o motivo pelo qual essas palavras foram pronunciadas. As pessoas usam a linguagem por vários motivos, como compartilhar informações, contar piadas, flertar, avisar alguém para se afastar e assim por diante. Sem esse contexto, o texto usado para treinar LLMs, como o GPT-4, permite que eles imitem os padrões da linguagem bem o suficiente para que muitas frases geradas pelo LLM se pareçam exatamente com frases escritas por um ser humano. Mas não há nenhum significado por trás delas, nenhuma centelha. É um truque estatístico notável, mas completamente sem sentido.
Eles ilustram seu argumento com um experimento mental. Imagine duas pessoas que falam inglês presas em ilhas desertas vizinhas. Há um cabo subaquático que permite que elas enviem mensagens de texto uma para a outra. Agora imagine que um polvo, que não sabe nada de inglês, mas é um gênio em correspondência de padrões estatísticos, enrole suas ventosas no cabo e comece a ouvir as mensagens. O polvo se torna muito bom em adivinhar quais palavras seguem outras palavras. Tão bom que, quando ele rompe o cabo e começa a responder às mensagens de um dos habitantes da ilha, ela acredita que ainda está conversando com seu vizinho. (Caso você não tenha percebido, o polvo desta história é um chatbot).
A pessoa que está conversando com o polvo permaneceria enganada por um tempo razoável, mas será que isso duraria muito tempo? Será que o polvo entende o que está acontecendo?
Imagine que a ilhéu agora diz que construiu uma catapulta de côco e pede ao polvo que construa uma também e lhe diga o que acha. O polvo não pode fazer isso. Sem saber o que as palavras nas mensagens se referem no mundo, ele não pode seguir as instruções da ilhéu. Talvez ele adivinhe uma resposta: “Ok, ideia legal!” O ilhéu provavelmente entenderá que isso significa que a pessoa com quem ele está falando entendeu a mensagem. Mas, nesse caso, ela está vendo significado onde não há nenhum. Por fim, imagine que o ilhéu é atacado por um urso e envia um pedido de ajuda para o resto da linha. O que o polvo deve fazer com essas palavras?
Bender e Koller acreditam que é assim que os grandes modelos de linguagem aprendem e por que eles são limitados. “O experimento mental mostra por que esse caminho não nos levará a uma máquina que entenda qualquer coisa”, diz Bender. “O problema com o polvo é que fornecemos a ele seus dados de treinamento, as conversas entre essas duas pessoas, e é isso. Mas aí vem algo que surge do nada e ele não consegue lidar com isso porque não entendeu.”
O outro artigo pelo qual Bender é conhecida, “On the Dangers of Stochastic Parrots” (Sobre os perigos dos papagaios estocásticos), destaca uma série de danos que ela e seus coautores acreditam que as empresas que criam grandes modelos de linguagem estão ignorando. Entre eles, estão os enormes custos computacionais da criação dos modelos e seu impacto ambiental; a linguagem racista, sexista e outros tipos de abuso que os modelos enraízam; e os perigos da criação de um sistema que poderia enganar as pessoas “costurando ao acaso sequências de formas linguísticas (…) de acordo com informações probabilísticas sobre como elas se combinam, mas sem qualquer referência ao significado: um papagaio estocástico”.
A gerência sênior do Google não ficou satisfeita com o artigo, e o conflito resultante fez com que dois dos coautores de Bender, Timnit Gebru e Margaret Mitchell, fossem forçados a sair da empresa, onde lideravam a equipe de Ética em IA. Isso também fez com que a expressão “papagaio estocástico” se tornasse um termo popular para modelos de linguagem de grande porte – e colocou Bender bem no meio do carrossel de xingamentos.
O ponto principal para Bender e para muitos pesquisadores que pensam da mesma forma é que o campo foi enganado por fumaça e espelhos: “Acho que eles são levados a imaginar entidades pensantes autônomas que podem tomar decisões por si mesmas e, em última análise, ser o tipo de coisa que poderia realmente ser responsável por essas decisões.”
Sempre linguista, Bender agora não quer nem usar o termo IA “sem aspas”, ela me diz. No final das contas, para ela, trata-se de uma palavra da moda da Big Tech que distrai dos muitos danos associados. “Agora estou envolvida no jogo”, diz ela. “Eu me preocupo com essas questões, e o exagero está atrapalhando.”
Evidências extraordinárias?
Agüera y Arcas chama pessoas como Bender de “negacionistas da IA”, o que implica que elas nunca aceitarão o que ele considera certo. A posição de Bender é que afirmações extraordinárias exigem evidências extraordinárias, que não temos.
Mas há pessoas procurando por elas e, até que encontrem algo claro – faíscas ou papagaios estocásticos ou algo intermediário -, elas preferem ficar de fora da briga. Chamamos isso de “esperar para ver”.
Ellie Pavlick, que estuda redes neurais na Brown University, me disse: “É ofensivo para algumas pessoas sugerir que a inteligência humana poderia ser recriada por meio desses tipos de mecanismos”.
Ela acrescenta: “As pessoas têm crenças muito arraigadas sobre esse assunto – parece quase religioso. Por outro lado, há pessoas que têm um pouco de complexo de Deus. Portanto, também é ofensivo para elas sugerir que simplesmente não conseguem fazer isso.”
Em última análise, Pavlick é agnóstica. Ela é uma cientista, insiste, e seguirá o que a ciência lhe indicar. Ela revira os olhos para as afirmações mais ousadas, mas acredita que há algo interessante acontecendo. “É nesse ponto que eu discordo de Bender e Koller”, ela me diz. “Acho que há de fato algumas faíscas – talvez não de AGI, mas há algumas coisas que não esperávamos encontrar.”
O problema é chegar a um consenso sobre o que são essas coisas interessantes e por que elas são interessantes. Com tanta propaganda, é fácil ser cínico.
Pesquisadores como Bubeck parecem muito mais tranquilos quando você os ouve. Ele acha que as brigas internas deixam passar a nuance de seu trabalho. “Não vejo nenhum problema em ter opiniões simultâneas”, diz ele. “Existe a repetição estocástica; existe o raciocínio – é um espectro. É muito complexo. Não temos todas as respostas.”
“Precisamos de um vocabulário completamente novo para descrever o que está acontecendo”, diz ele. “Um dos motivos pelos quais as pessoas se opõem quando falo sobre raciocínio em grandes modelos de linguagem é porque não é o mesmo raciocínio dos seres humanos. Mas acho que não há como não chamar isso de raciocínio. É raciocínio.”
Olah, da Anthropic, não se intimida quando é pressionado a falar sobre o que estamos vendo nos LLMs, embora sua empresa, um dos laboratórios de IA mais badalados do mundo no momento, tenha criado o Claude 3, um LLM que recebeu tantos elogios hiperbólicos quanto o GPT-4 (se não mais) desde seu lançamento no início deste ano.
“Sinto que muitas dessas conversas sobre os recursos desses modelos são muito triviais”, diz ele. “As pessoas têm opiniões pré-existentes e não são muito informadas por evidências de nenhum dos lados. Então, tudo se torna baseado em vibrações, e acho que argumentos baseados em vibrações na Internet tendem a tomar um rumo ruim.”
Olah me disse que tem seus próprios palpites. “Minha impressão subjetiva é que essas coisas estão rastreando ideias bastante sofisticadas”, diz ele. “Não temos uma história abrangente de como modelos muito grandes funcionam, mas acho difícil conciliar o que estamos vendo com a imagem extrema dos ‘papagaios estocásticos’.”
Isso é o mais longe que ele vai: “Não quero ir muito além do que pode ser fortemente inferido a partir das evidências que temos.”
No mês passado, a Anthropic divulgou os resultados de um estudo em que os pesquisadores deram ao Claude 3 o equivalente em rede neural a uma ressonância magnética. Ao monitorar quais partes do modelo eram ativadas e desativadas durante a execução, eles identificaram padrões específicos de neurônios que eram ativados quando o modelo recebia entradas específicas.
A Anthropic também relatou padrões que, segundo ela, se correlacionam com entradas que tentam descrever ou mostrar conceitos abstratos. “Vemos características relacionadas à fraude e à honestidade, à bajulação, às vulnerabilidades de segurança, à parcialidade”, diz Olah. “Encontramos características relacionadas à busca de poder, à manipulação e à traição.”
Esses resultados fornecem uma das visões mais claras até o momento sobre o que está dentro de um grande modelo de linguagem. É um vislumbre tentador do que parecem ser traços humanos indescritíveis. Mas o que isso realmente nos diz? Como Olah admite, eles não sabem o que o modelo faz com esses padrões. “É um quadro relativamente limitado, e a análise é bastante difícil”, diz ele.
Mesmo que Olah não explique exatamente o que ele acha que acontece dentro de um modelo de linguagem grande como o Claude 3, fica claro por que a questão é importante para ele. A Anthropic é conhecida por seu trabalho em segurança de IA – garantindo que os modelos poderosos do futuro se comportem da maneira que desejamos e não da maneira que não desejamos (conhecido como “alinhamento” no jargão do setor). Descobrir como os modelos atuais funcionam não é apenas um primeiro passo necessário se você quiser controlar os modelos futuros; ele também informa o quanto você precisa se preocupar com os cenários doomers em primeiro lugar. “Se você não acha que os modelos serão muito capazes”, diz Olah, “então eles provavelmente não serão muito perigosos”.
Por que não podemos nos dar bem
Em uma entrevista de 2014 à BBC, que fez uma retrospectiva de sua carreira, perguntaram à influente cientista cognitiva Margaret Boden, hoje com 87 anos, se ela achava que havia algum limite que impedisse os computadores (ou “latas”, como ela os chamava) de fazer o que os humanos podem fazer.
“Certamente não acho que exista algo em princípio”, disse ela. “Porque negar isso é dizer que [o pensamento humano] acontece por mágica, e eu não acredito que isso aconteça por mágica.”
Mas, advertiu ela, computadores potentes não serão suficientes para chegarmos lá: o campo da IA também precisará de “ideias poderosas” – novas teorias sobre como o pensamento acontece, novos algoritmos que possam reproduzi-lo. “Mas essas coisas são muito, muito difíceis e não vejo razão para supor que um dia conseguiremos responder a todas essas perguntas. Talvez sim, talvez não.”
Boden estava refletindo sobre os primeiros dias do atual boom, mas essa oscilação entre o “vamos” e o “não vamos” remete a décadas em que ela e seus colegas enfrentaram as mesmas questões difíceis com as quais os pesquisadores lutam hoje. A IA começou como uma aspiração ambiciosa há cerca de 70 anos e ainda estamos discordando sobre o que é ou não alcançável e como saberemos se a alcançamos. A maioria – se não todas – dessas disputas se resume a isso: Não temos uma boa noção do que é inteligência ou de como reconhecê-la. O campo está cheio de palpites, mas ninguém pode dizer com certeza.
Estamos presos a esse ponto desde que as pessoas começaram a levar a sério a ideia de IA. Ou mesmo antes disso, quando as histórias que consumimos começaram a plantar a ideia de máquinas semelhantes a humanos em nossa imaginação coletiva. O longo histórico dessas disputas significa que as brigas de hoje geralmente reforçam as divisões que existem desde o início, tornando ainda mais difícil para as pessoas encontrarem um terreno comum.
Para entender como chegamos até aqui, precisamos entender onde estivemos. Então, vamos mergulhar na história da origem da IA – uma história que também foi muito exagerada em uma tentativa de ganhar dinheiro.
Uma breve história do giro da IA
Atribui-se ao cientista da computação John McCarthy a criação do termo “inteligência artificial” em 1955, ao escrever um pedido de financiamento para um programa de pesquisa de verão no Dartmouth College, em New Hampshire.
O plano era que McCarthy e um pequeno grupo de colegas pesquisadores, um quem-é-quem de matemáticos e cientistas da computação dos EUA do pós-guerra – ou “John McCarthy e os rapazes”, como diz Harry Law, pesquisador que estuda a história da IA na Universidade de Cambridge e ética e política no Google DeepMind – se reunissem por dois meses (não é um erro de digitação) e fizessem um grande progresso nesse novo desafio de pesquisa que eles haviam se proposto.
“O estudo deve prosseguir com base na conjectura de que cada aspecto do aprendizado ou qualquer outro recurso da inteligência pode, em princípio, ser descrito com tanta precisão que uma máquina pode ser criada para simulá-lo”, escreveram McCarthy e seus coautores. “Será feita uma tentativa de descobrir como fazer com que as máquinas usem a linguagem, formem abstrações e conceitos, resolvam tipos de problemas hoje reservados aos seres humanos e melhorem a si mesmas.”
Essa lista de coisas que eles queriam fazer com que as máquinas fizessem – o que Bender chama de “o sonho estrelado” – não mudou muito. Usar a linguagem, formar conceitos e resolver problemas são as metas que definem a IA atualmente. A arrogância também não mudou muito: “Acreditamos que um avanço significativo pode ser feito em um ou mais desses problemas se um grupo cuidadosamente selecionado de cientistas trabalhar nele durante um verão”, escreveram eles. Esse verão, é claro, se estendeu por sete décadas. E a extensão em que esses problemas estão de fato resolvidos é algo que as pessoas ainda comentam na Internet.
Mas o que geralmente é deixado de fora dessa história canônica é que a inteligência artificial quase não foi chamada de “inteligência artificial”.
Mais de um dos colegas de McCarthy detestava o termo que ele havia criado. “A palavra ‘artificial’ faz você pensar que há algo meio falso nisso”, disse Arthur Samuel, participante de Dartmouth e criador do primeiro computador que jogava damas, no livro de 2004 da historiadora Pamela McCorduck, Machines Who Think. O matemático Claude Shannon, um coautor da proposta de Dartmouth que às vezes é chamado de “o pai da era da informação”, preferia o termo “estudos de autômatos”. Herbert Simon e Allen Newell, dois outros pioneiros da IA, continuaram a chamar seu próprio trabalho de “processamento de informações complexas” por muitos anos.
Na verdade, “inteligência artificial” era apenas um dos vários rótulos que poderiam ter capturado a miscelânea de ideias que o grupo de Dartmouth estava usando. O historiador Jonnie Penn identificou possíveis alternativas que estavam em jogo na época, incluindo “psicologia de engenharia”, “epistemologia aplicada”, “cibernética neural”, “computação não numérica”, “dinâmica neural”, “programação automática avançada” e “autômatos hipotéticos”. Essa lista de nomes revela a diversidade da inspiração para seu novo campo, que veio da biologia, da neurociência, da estatística e muito mais. Marvin Minsky, outro participante de Dartmouth, descreveu a IA como uma “palavra mala” porque ela pode conter muitas interpretações divergentes.
Mas McCarthy queria um nome que capturasse o escopo ambicioso de sua visão. O fato de chamar esse novo campo de “inteligência artificial” atraiu a atenção das pessoas e o dinheiro. Não se esqueça: IA é sexy, IA é legal.
Além da terminologia, a proposta de Dartmouth codificou uma divisão entre as abordagens rivais da inteligência artificial que tem dividido o campo desde então – uma divisão que Law chama de “tensão central da IA”.
McCarthy e seus colegas queriam descrever em código de computador “todos os aspectos do aprendizado ou qualquer outro recurso da inteligência” para que as máquinas pudessem imitá-los. Em outras palavras, se eles conseguissem descobrir como o pensamento funcionava – as regras do raciocínio – e escrevessem a receita, poderiam programar os computadores para segui-la. Isso lançou as bases do que veio a ser conhecido como IA simbólica ou baseada em regras (às vezes chamada agora de GOFAI, “good old-fashioned AI”). No entanto, foi muito difícil criar regras codificadas que capturassem os processos de solução de problemas reais e não triviais.
O outro caminho favoreceu as redes neurais, programas de computador que tentariam aprender essas regras por conta própria na forma de padrões estatísticos. A proposta de Dartmouth menciona isso quase como um aparte (referindo-se a “redes de neurônios” e “redes de nervos”). Embora a ideia parecesse menos promissora no início, alguns pesquisadores continuaram a trabalhar em versões de redes neurais juntamente com a IA simbólica. Mas levaria décadas – além de grandes quantidades de poder de computação e grande parte dos dados na Internet – até que elas realmente decolassem. Hoje, essa abordagem é a base de todo o boom da IA.
A grande conclusão aqui é que, assim como os pesquisadores de hoje, os inovadores da IA brigaram por conceitos fundamentais e se envolveram em suas próprias ações promocionais. Até mesmo a equipe GOFAI foi atormentada por disputas. Aaron Sloman, filósofo e colega pioneiro da IA, hoje com 80 e poucos anos, lembra como os “velhos amigos” Minsky e McCarthy “discordavam fortemente” quando ele os conheceu nos anos 70: “Minsky achava que as afirmações de McCarthy sobre lógica não funcionavam e McCarthy achava que os mecanismos de Minsky não podiam fazer o que poderia ser feito usando a lógica. Eu me dava bem com os dois, mas dizia: ‘Nenhum de vocês entendeu direito'”. (Sloman ainda acha que ninguém pode explicar a maneira como o raciocínio humano usa a intuição tanto quanto a lógica, mas isso é outra tangente!)
Conforme a sorte da tecnologia aumentava e diminuía, o termo “IA” entrava e saía de moda. No início dos anos 70, as duas linhas de pesquisa foram efetivamente paralisadas depois que o governo do Reino Unido publicou um relatório argumentando que o sonho da IA não tinha ido a lugar algum e não valia a pena ser financiado. Todo aquele alarde, na verdade, não havia levado a nada. Os projetos de pesquisa foram encerrados e os cientistas da computação retiraram as palavras “inteligência artificial” de suas propostas de financiamento.
Quando eu estava terminando o doutorado em ciência da computação em 2008, apenas uma pessoa no departamento estava trabalhando com redes neurais. Bender tem uma lembrança semelhante: “Quando eu estava na faculdade, uma piada corrente era que IA é qualquer coisa que ainda não descobrimos como fazer com computadores. Por exemplo, assim que você descobria como fazer, não era mais mágica, então não era IA.”
Mas essa mágica – a grande visão apresentada na proposta de Dartmouth – permaneceu viva e, como podemos ver agora, lançou as bases para o sonho da AGI.
Comportamento bom e ruim
Em 1950, cinco anos antes de McCarthy começar a falar sobre inteligência artificial, Alan Turing publicou um artigo que perguntava: As máquinas podem pensar? Para responder a essa pergunta, o famoso matemático propôs um teste hipotético, que ele chamou de jogo de imitação. A configuração imagina um ser humano e um computador atrás de uma tela e um segundo ser humano que digita perguntas para cada um. Se o autor da pergunta não puder dizer quais respostas vêm do ser humano e quais vêm do computador, Turing afirmou que o computador também pode pensar.
O que Turing viu – ao contrário da equipe de McCarthy – foi que pensar é algo realmente difícil de descrever. O teste de Turing foi uma maneira de contornar esse problema. “Ele basicamente disse: Em vez de me concentrar na natureza da inteligência em si, vou procurar sua manifestação no mundo. Vou procurar sua sombra”, diz Law.
Em 1952, a BBC Radio convocou um painel para explorar melhor as ideias de Turing. Turing foi acompanhado no estúdio por dois de seus colegas da Universidade de Manchester – o professor de matemática Maxwell Newman e o professor de neurocirurgia Geoffrey Jefferson – e Richard Braithwaite, filósofo da ciência, ética e religião da Universidade de Cambridge.
Braithwaite deu o pontapé inicial: “O pensamento é normalmente considerado uma especialidade do homem, e talvez de outros animais superiores, e a questão pode parecer absurda demais para ser discutida. Mas, é claro, tudo depende do que deve ser incluído em ‘pensar'”.
Os participantes do painel discutiram a questão de Turing, mas nunca conseguiram defini-la.
Quando tentaram definir o que envolvia o pensamento, quais eram seus mecanismos, os objetivos mudaram. “Assim que se pode ver a causa e o efeito funcionando no cérebro, considera-se que não se trata de pensamento, mas de uma espécie de trabalho de burro sem imaginação”, disse Turing.
O problema era o seguinte: quando um membro do painel propunha algum comportamento que poderia ser considerado evidência de pensamento – reagir a uma nova ideia com indignação, por exemplo – outro apontava que um computador poderia fazer isso.
Como disse Newman, seria bastante fácil programar um computador para imprimir “Não gosto desse novo programa”. Mas ele admitiu que isso seria um truque.
Exatamente, disse Jefferson: Ele queria um computador que imprimisse “Eu não gosto desse novo programa” porque não gostava do novo programa. Em outras palavras, para Jefferson, o comportamento não era suficiente. O que importava era o processo que levava ao comportamento.
Mas Turing discordava. Como ele havia observado, a descoberta de um processo específico – o trabalho de burro, para usar sua frase – também não indicava o que era pensar. Então, o que restava?
“Desse ponto de vista, pode-se ficar tentado a definir o pensamento como consistindo nos processos mentais que não entendemos”, disse Turing. “Se isso estiver certo, então criar uma máquina pensante é criar uma máquina que faz coisas interessantes sem que nós realmente entendamos como isso é feito.”
É estranho ouvir as pessoas se debruçarem sobre essas ideias pela primeira vez. “O debate é presciente”, diz Tomer Ullman, cientista cognitivo da Universidade de Harvard. “Alguns dos pontos ainda estão vivos, talvez até mais. O que eles parecem estar fazendo é que o teste de Turing é, antes de tudo, um teste comportamental.”
Para Turing, a inteligência era difícil de definir, mas fácil de reconhecer. Ele propôs que a aparência de inteligência era suficiente – e não disse nada sobre como esse comportamento deveria ocorrer.
E, no entanto, a maioria das pessoas, quando pressionada, terá um instinto sobre o que é ou não inteligente. Há maneiras idiotas e maneiras inteligentes de parecer inteligente. Em 1981, Ned Block, filósofo da Universidade de Nova York, demonstrou que a proposta de Turing não atendia a esses instintos. Como ela não dizia nada sobre o que causava o comportamento, o teste de Turing pode ser vencido por meio de truques (como Newman havia observado na transmissão da BBC).
“Será que a questão de saber se uma máquina de fato pensa ou é inteligente depende de quão crédulos tendem a ser os interrogadores humanos?”, perguntou Block. (Ou como o cientista da computação Mark Reidl observou: “O teste de Turing não é para a IA passar, mas para os humanos falharem.”)
Imagine, disse Block, uma vasta tabela de consulta na qual os programadores humanos tenham inserido todas as respostas possíveis para todas as perguntas possíveis. Digite uma pergunta nessa máquina, e ela procuraria uma resposta correspondente em seu banco de dados e a enviaria de volta. Block argumentou que qualquer pessoa que usasse essa máquina julgaria seu comportamento como inteligente: “Mas, na verdade, a máquina tem a inteligência de uma torradeira”, escreveu ele. “Toda a inteligência que ela exibe é a de seus programadores.”
Block concluiu que o fato de um comportamento ser inteligente é uma questão de como ele é produzido, não de como ele aparece. As torradeiras de Block, que ficaram conhecidas como Blockheads, são um dos mais fortes contraexemplos às suposições por trás da proposta de Turing.
Olhando sob o capô
O teste de Turing não foi concebido para ser uma métrica prática, mas suas implicações estão profundamente arraigadas na maneira como pensamos sobre inteligência artificial atualmente. Isso se tornou particularmente relevante com a explosão de LLMs nos últimos anos. Esses modelos são classificados de acordo com seus comportamentos externos, especificamente quanto ao seu desempenho em uma série de testes. Quando a OpenAI anunciou o GPT-4, ela publicou um quadro de resultados de aparência impressionante que detalhava o desempenho do modelo em vários exames profissionais e do ensino médio. Quase ninguém fala sobre como esses modelos obtêm esses resultados.
Isso se deve ao fato de não sabermos. Os grandes modelos de linguagem atuais são complexos demais para que alguém possa dizer exatamente como seu comportamento é produzido. Pesquisadores de fora do pequeno grupo de empresas que criam esses modelos não sabem o que há em seus dados de treinamento; nenhum dos criadores de modelos compartilhou detalhes. Isso torna difícil dizer o que é e o que não é um tipo de memorização – uma repetição estocástica. Mas mesmo os pesquisadores que estão por dentro do assunto, como Olah, não sabem o que realmente está acontecendo quando se deparam com um bot obcecado por pontes.
Isso deixa a questão em aberto: Sim, os grandes modelos de linguagem são baseados em matemática, mas será que eles estão fazendo algo inteligente com isso?
E os argumentos começam novamente.
“A maioria das pessoas está tentando se virar na poltrona”, diz Pavlick, da Universidade de Brown, o que significa que elas estão discutindo sobre teorias sem ver o que realmente está acontecendo. Algumas pessoas dizem: “Eu acho que é assim”, e outras dizem: “Bem, eu não acho”. Ficamos meio que presos e todos ficam insatisfeitos.”
Bender acha que esse senso de mistério faz parte da criação de mitos. (“Os mágicos não explicam seus truques”, diz ela.) Sem uma apreciação adequada da origem das palavras do LLM, recorremos a suposições familiares sobre os seres humanos, já que esse é nosso único ponto de referência real. Quando conversamos com outra pessoa, tentamos entender o que ela está tentando nos dizer. “Esse processo implica necessariamente em imaginar uma vida por trás das palavras”, diz Bender. É assim que a linguagem funciona.
“O truque de salão do ChatGPT é tão impressionante que, quando vemos essas palavras saindo dele, fazemos a mesma coisa instintivamente”, diz ela. “Ele é muito bom em imitar a forma da linguagem. O problema é que não somos nada bons em encontrar a forma da linguagem e não imaginar o resto dela.”
Para alguns pesquisadores, não importa realmente se não conseguimos entender o “como”. Bubeck costumava estudar grandes modelos de linguagem para tentar descobrir como eles funcionavam, mas o GPT-4 mudou a maneira como ele pensava sobre eles. “Parece que essas questões não são mais tão relevantes”, diz ele. “O modelo é tão grande, tão complexo, que não podemos esperar abri-lo e entender o que realmente está acontecendo.”
Mas Pavlick, assim como Olah, está tentando fazer exatamente isso. Sua equipe descobriu que os modelos parecem codificar relações abstratas entre objetos, como a relação entre um país e sua capital. Ao estudar um grande modelo de linguagem, Pavlick e seus colegas descobriram que ele usava a mesma codificação para mapear a França como Paris e a Polônia como Varsóvia. Isso quase parece inteligente, eu disse a ela. “Não, é literalmente uma tabela de pesquisa”, diz ela.
Mas o que chamou a atenção de Pavlick foi o fato de que, ao contrário de um Blockhead, o modelo aprendeu essa tabela de pesquisa por conta própria. Em outras palavras, o LLM descobriu sozinho que Paris está para a França assim como Varsóvia está para a Polônia. Mas o que isso mostra? Codificar sua própria tabela de pesquisa em vez de usar uma tabela codificada é um sinal de inteligência? Onde se traça o limite?
“Basicamente, o problema é que o comportamento é a única coisa que sabemos como medir de forma confiável”, diz Pavlick. “Qualquer outra coisa requer um compromisso teórico, e as pessoas não gostam de ter que fazer um compromisso teórico porque é muito carregado.”
Nem todas as pessoas. Muitos cientistas influentes não se importam com o compromisso teórico. Hinton, por exemplo, insiste que as redes neurais são tudo o que você precisa para recriar uma inteligência semelhante à humana. “A aprendizagem profunda será capaz de fazer tudo”, disse ele à MIT Technology Review em 2020.
Esse é um compromisso que Hinton parece ter mantido desde o início. Sloman, que se lembra das discussões entre os dois quando Hinton era estudante de pós-graduação em seu laboratório, lembra-se de não ter conseguido persuadi-lo de que as redes neurais não podem aprender certos conceitos abstratos cruciais que os seres humanos e alguns outros animais parecem ter uma compreensão intuitiva, como, por exemplo, se algo é impossível. Podemos simplesmente ver quando algo é descartado, diz Sloman. “Apesar da inteligência excepcional de Hinton, ele nunca pareceu entender esse ponto. Não sei por que, mas há um grande número de pesquisadores de redes neurais que compartilham essa falha.”
E ainda há Marcus, cuja visão das redes neurais é exatamente o oposto da de Hinton. Seu caso se baseia no que ele diz que os cientistas descobriram sobre os cérebros.
Marcus ressalta que os cérebros não são quadros em branco que aprendem totalmente do zero – eles vêm prontos com estruturas e processos inatos que orientam o aprendizado. É assim que os bebês podem aprender coisas que as melhores redes neurais ainda não conseguem, argumenta ele.
“O pessoal das redes neurais tem esse martelo, e agora tudo é um prego”, diz Marcus. “Eles querem fazer tudo isso com aprendizado, o que muitos cientistas cognitivos considerariam irrealista e bobo. Você não vai aprender tudo do zero.”
Não que Marcus – um cientista cognitivo – esteja menos seguro de si. “Se alguém realmente analisar quem previu bem a situação atual, acho que eu estaria no topo da lista”, ele me diz do banco de trás de um Uber, a caminho de pegar um voo para uma palestra na Europa. “Sei que isso não parece muito modesto, mas tenho essa perspectiva que acaba sendo muito importante se o que você está tentando estudar é inteligência artificial.”
Considerando seus ataques bem divulgados ao campo, talvez você se surpreenda com o fato de Marcus ainda acreditar que a AGI está no horizonte. Ele só acha que a fixação atual em redes neurais é um erro. “Provavelmente, precisamos de um ou dois ou quatro avanços”, diz ele. “Talvez você e eu não vivamos tanto tempo, lamento dizer. Mas acho que isso acontecerá neste século. Talvez tenhamos uma chance para isso.”
O poder de um sonho tecnicolor
Por cima do ombro de Dor Skuler na chamada do Zoom de sua casa em Ramat Gan, Israel, um pequeno robô parecido com uma lâmpada está piscando enquanto conversamos sobre isso. “Você pode ver o ElliQ atrás de mim aqui”, diz ele. A empresa de Skuler, a Intuition Robotics, desenvolve esses dispositivos para pessoas idosas, e o design – parte Amazon Alexa, parte R2-D2 – deve deixar bem claro que o ElliQ é um computador. Se algum de seus clientes mostrar sinais de confusão com relação a isso, a Intuition Robotics retira o dispositivo, diz Skuler.
O ElliQ não tem rosto, nem forma humana. Pergunte a ele sobre esportes e ele dirá uma piada sobre não ter coordenação olho-mão porque não tem mãos nem olhos. “Não consigo entender por que o setor está tentando realizar o teste de Turing”, diz Skuler. “Por que é do interesse da humanidade que desenvolvamos tecnologia cujo objetivo é nos enganar?”
Em vez disso, a empresa de Skuler está apostando que as pessoas podem estabelecer relacionamentos com máquinas que se apresentam como máquinas. “Assim como temos a capacidade de construir um relacionamento real com um cachorro”, diz ele. “Os cães proporcionam muita alegria às pessoas. Eles proporcionam companheirismo. As pessoas amam seu cachorro, mas nunca o confundem com um ser humano.”
Os usuários do ElliQ, muitos na faixa dos 80 e 90 anos, referem-se ao robô como uma entidade ou uma presença – às vezes, um colega de quarto. “Eles conseguem criar um espaço para esse relacionamento intermediário, algo entre um dispositivo ou um computador e algo que está vivo”, diz Skuler.
Mas, por mais que os designers do ElliQ tentem controlar a maneira como as pessoas veem o dispositivo, eles estão competindo com décadas de cultura pop que moldaram nossas expectativas. Por que estamos tão obcecados por uma IA que seja semelhante à humana? “Porque é difícil para nós imaginar outra coisa”, diz Skuler (que de fato se refere ao ElliQ como “ela” durante toda a nossa conversa). “E porque muitas pessoas do setor de tecnologia são fãs de ficção científica. Elas tentam transformar seus sonhos em realidade.”
Quantos desenvolvedores cresceram hoje pensando que construir uma máquina inteligente era realmente a coisa mais legal – se não a coisa mais importante – que eles poderiam fazer?
Não faz muito tempo que a OpenAI lançou sua nova versão do ChatGPT controlada por voz com uma voz parecida com a de Scarlett Johansson, o que fez com que muitas pessoas – inclusive Altman – identificassem a conexão com o filme Her, de Spike Jonze, de 2013.
A ficção científica reinventa o que se entende por IA. Como Cave e Dihal escrevem em Imagining AI: “A IA foi um fenômeno cultural muito antes de ser um fenômeno tecnológico”.
Histórias e mitos sobre a transformação de humanos em máquinas existem há séculos. As pessoas sonham com humanos artificiais provavelmente há tanto tempo quanto sonham em voar, diz Dihal. Ela observa que Dédalo, a figura da mitologia grega famosa por construir um par de asas para si e para seu filho Ícaro, também construiu o que era efetivamente um robô gigante de bronze chamado Talos, que atirava pedras nos piratas que passavam.
A palavra robô vem de robota, um termo para “trabalho forçado” cunhado pelo dramaturgo tcheco Karel Čapek em sua peça de 1920 Rossum’s Universal Robots. As “leis da robótica” descritas na ficção científica de Isaac Asimov, que proíbem as máquinas de prejudicar os seres humanos, são invertidas por filmes como O Exterminador do Futuro, que é um ponto de referência icônico para os temores populares sobre a tecnologia do mundo real. O filme Ex Machina, de 2014, é uma versão dramática do teste de Turing. O sucesso de bilheteria do ano passado, The Creator, imagina um mundo futuro no qual a IA foi banida porque detonou uma bomba nuclear, um evento que alguns condenadores consideram, pelo menos, uma possibilidade remota.
Cave e Dihal relatam como outro filme, Transcendence, de 2014, no qual um especialista em IA interpretado por Johnny Depp tem sua mente transferida para um computador, serviu a uma narrativa promovida pelos ur-doomers Stephen Hawking, o físico Max Tegmark e o pesquisador de IA Stuart Russell. Em um artigo publicado no Huffington Post no fim de semana de estreia do filme, o trio escreveu: “Como o sucesso de bilheteria de Hollywood Transcendence estreia neste fim de semana com … visões conflitantes para o futuro da humanidade, é tentador descartar a noção de máquinas altamente inteligentes como mera ficção científica. Mas isso seria um erro e, possivelmente, nosso pior erro de todos os tempos.”
Na mesma época, Tegmark fundou o Future of Life Institute, com a missão de estudar e promover a segurança da IA. O colega de Depp no filme, Morgan Freeman, fazia parte da diretoria do instituto, e Elon Musk, que fez uma participação especial no filme, doou US$ 10 milhões no primeiro ano. Para Cave e Dihal, Transcendence é um exemplo perfeito dos múltiplos envolvimentos entre cultura popular, pesquisa acadêmica, produção industrial e “a luta financiada por bilionários para moldar o futuro”.
Na etapa de Londres de sua turnê mundial no ano passado, perguntaram a Altman o que ele queria dizer quando tuitou: “A IA é a tecnologia que o mundo sempre quis”. Naquele dia, de pé no fundo da sala, atrás de um público de centenas de pessoas, eu o ouvi contar seu próprio tipo de história de origem: “Eu era um garoto muito nervoso. Eu lia muito ficção científica. Passava muitas noites de sexta-feira em casa, jogando no computador. Mas sempre me interessei muito por IA e achei que seria muito legal.” Ele foi para a faculdade, ficou rico e observou como as redes neurais se tornavam cada vez melhores. “Isso pode ser tremendamente bom, mas também pode ser muito ruim. O que vamos fazer a respeito disso?”, ele se lembra de ter pensado em 2015. “Acabei criando a OpenAI.”
Por que você deve se importar com o fato de um grupo de nerds estar discutindo sobre IA
Ok, você entendeu: Ninguém concorda com o que é IA. Mas o que todos parecem concordar é que o debate atual sobre IA foi muito além do acadêmico e do científico. Há componentes políticos e morais em jogo – o que não ajuda o fato de todos acharem que os outros estão errados.
É difícil desvendar isso. Pode ser difícil ver o que está acontecendo quando algumas dessas visões morais consideram todo o futuro da humanidade e as ancoram em uma tecnologia que ninguém consegue definir.
Mas não podemos simplesmente levantar as mãos e ir embora. Porque não importa qual seja essa tecnologia, ela está chegando e, a menos que você viva debaixo de uma pedra, você a usará de uma forma ou de outra. E a forma que a tecnologia assumir – e os problemas que ela resolver e criar – será moldada pelo pensamento e pelas motivações de pessoas como aquelas sobre as quais você acabou de ler. Em particular, pelas pessoas com mais poder, mais dinheiro e os maiores megafones.
O que me leva aos TESCREALISTAS. Espere, volte! Sei que é injusto introduzir mais um novo conceito tão tarde no jogo. Mas para entender como as pessoas no poder podem moldar as tecnologias que constroem e como as explicam aos reguladores e legisladores do mundo, você precisa realmente entender a mentalidade delas.
Gebru, que fundou o Distributed AI Research Institute depois de deixar o Google, e Émile Torres, filósofo e historiador da Case Western Reserve University, rastrearam a influência de vários sistemas de crenças tecno-utópicas no Vale do Silício. A dupla argumenta que, para entender o que está acontecendo com a IA no momento – tanto por que empresas como a Google DeepMind e a OpenAI estão em uma corrida para desenvolver a AGI quanto por que condenados como Tegmark e Hinton alertam para uma catástrofe iminente -, o campo deve ser visto pelas lentes do que Torres chamou de estrutura TESCREAL.
O acrônimo desajeitado (pronuncia-se tes-cree-all) substitui uma lista ainda mais desajeitada de rótulos: transhumanismo, extropianismo, singularitarismo, cosmismo, racionalismo, altruísmo efetivo e longtermismo. Muito já foi escrito (e ainda será escrito) sobre cada uma dessas visões de mundo, portanto, vou poupá-lo aqui. (Há tocas de coelho dentro de tocas de coelho para quem quiser se aprofundar. Escolha seu fórum e prepare seu equipamento de espeleologia).
Essa constelação de ideologias que se sobrepõem é atraente para um certo tipo de mentalidade de cérebro de galáxia comum no mundo tecnológico ocidental. Alguns preveem a imortalidade humana; outros preveem a colonização das estrelas pela humanidade. O princípio comum é que uma tecnologia todo-poderosa – AGI ou superinteligência, escolha sua equipe – não está apenas ao alcance, mas é inevitável. Você pode ver isso na atitude de fazer ou morrer que é onipresente em laboratórios de ponta como o OpenAI: se não criarmos a AGI, alguém o fará.
Além disso, os TESCREAListas acreditam que a AGI poderia não apenas resolver os problemas do mundo, mas também elevar o nível da humanidade. “O desenvolvimento e a proliferação da IA – longe de ser um risco que devemos temer – é uma obrigação moral que temos para conosco, com nossos filhos e com o nosso futuro”, escreveu Andreessen em um manifesto muito discutido no ano passado. Demis Hassabis, CEO e cofundador da Google DeepMind, Mustafa Suleyman, CEO da recém-criada Microsoft AI e outro cofundador da DeepMind, Sutskever, Altman e outros me disseram várias vezes que a AGI é a maneira de tornar o mundo um lugar melhor.
Mas, como observou Andreessen, trata-se de uma mentalidade yin-yang. O outro lado da tecno-utopia é o tecno-hell. Se você acredita que está criando uma tecnologia tão poderosa que resolverá todos os problemas do mundo, provavelmente também acredita que há uma chance diferente de zero de que tudo dê muito errado. Quando perguntado na Cúpula Mundial de Governos, em fevereiro, o que o mantém acordado à noite, Altman respondeu: “São todas as coisas de ficção científica”.
É uma tensão sobre a qual Hinton tem falado no último ano. É o que empresas como a Anthropic pretendem resolver. É nisso que Sutskever está se concentrando em seu novo laboratório e no que ele queria que uma equipe interna especial da OpenAI se concentrasse no ano passado, antes que os desentendimentos sobre a forma como a empresa equilibrava risco e recompensa levassem a maioria dos membros dessa equipe a sair.
É claro que o doomerismo faz parte do giro. (“Afirmar que você criou algo superinteligente é bom para os números de vendas”, diz Dihal. “É como se disséssemos: ‘Por favor, alguém me impeça de ser tão bom e tão poderoso’.”) Mas, seja para o bem ou para o mal, que problemas exatamente (e de quem) esses caras estão supostamente resolvendo? Espera-se realmente que confiemos no que eles constroem e no que dizem aos nossos líderes?
Gebru e Torres (e outros) são inflexíveis: Não, não deveríamos. Eles são extremamente críticos em relação a essas ideologias e como elas podem influenciar o desenvolvimento de tecnologias futuras, especialmente a IA. Basicamente, eles vinculam várias dessas visões de mundo – com seu foco comum em “melhorar” a humanidade – aos movimentos racistas de eugenia do século XX.
Um perigo, segundo eles, é que uma mudança de recursos para o tipo de inovações tecnológicas exigidas por essas ideologias, desde a criação de AGI até a ampliação da expectativa de vida e a colonização de outros planetas, acabará beneficiando as pessoas ocidentais e brancas à custa de bilhões de pessoas que não são. Se sua visão estiver voltada para futuros fantásticos, é fácil ignorar os custos atuais da inovação, como a exploração do trabalho, o enraizamento de preconceitos racistas e sexistas e os danos ambientais.
“Estamos tentando construir uma ferramenta que seja útil para nós de alguma forma?”, pergunta Bender, refletindo sobre as vítimas dessa corrida para a AGI. Em caso afirmativo, para quem ela serve, como a testamos, quão bem ela funciona? “Mas se estivermos construindo o sistema apenas para podermos dizer que o fizemos, essa não é uma meta que eu possa apoiar. Essa não é uma meta que valha bilhões de dólares.”
Bender diz que ver as conexões entre as ideologias da TESCREAL foi o que a fez perceber que havia algo mais nesses debates. “Conviver com essas pessoas foi -” ela para. “Ok, há mais aqui do que apenas ideias acadêmicas. Há um código moral ligado a isso também.”
É claro que, exposto dessa forma sem nuances, não parece que nós – como sociedade, como indivíduos – estamos obtendo o melhor negócio. Tudo isso também parece um pouco bobo. Quando Gebru descreveu partes do pacote TESCREAL em uma palestra no ano passado, seu público riu. Também é verdade que poucas pessoas se identificariam como estudantes de carteirinha dessas escolas de pensamento, pelo menos em seus extremos.
Mas se não entendermos como os criadores dessa tecnologia a abordam, como poderemos decidir quais negócios queremos fazer? Quais aplicativos decidimos usar, a quais chatbots queremos fornecer informações pessoais, quais data centers apoiamos em nossos bairros, em quais políticos queremos votar?
Costumava ser assim: Havia um problema no mundo, e nós construímos algo para resolvê-lo. Aqui, tudo está ao contrário: O objetivo parece ser construir uma máquina que possa fazer tudo e pular o trabalho lento e árduo que é necessário para descobrir qual é o problema antes de construir a solução.
E, como Gebru disse na mesma palestra, “Uma máquina que resolve todos os problemas: se isso não é mágica, o que é?”
Semântica, semântica… semântica?
Quando questionadas sobre o que é IA, muitas pessoas se esquivam da pergunta. Suleyman, não. Em abril, o CEO da Microsoft AI subiu ao palco do TED e contou ao público o que havia dito a seu sobrinho de seis anos em resposta a essa pergunta. A melhor resposta que ele poderia dar, explicou Suleyman, era que a IA era “um novo tipo de espécie digital” – uma tecnologia tão universal, tão poderosa, que chamá-la de ferramenta não mais captava o que ela poderia fazer por nós.
“Em nossa trajetória atual, estamos caminhando para o surgimento de algo que todos nós estamos lutando para descrever e, ainda assim, não podemos controlar o que não entendemos”, disse ele. “Portanto, as metáforas, os modelos mentais, os nomes, tudo isso é importante se quisermos tirar o máximo proveito da IA e, ao mesmo tempo, limitar suas possíveis desvantagens.”
O idioma é importante! Espero que isso tenha ficado claro com as reviravoltas e birras pelas quais passamos para chegar a este ponto. Mas também espero que você esteja se perguntando: De quem é o idioma? E de quem são as desvantagens? Suleyman é líder do setor em uma gigante da tecnologia que pretende ganhar bilhões com seus produtos de IA. Descrever a tecnologia por trás desses produtos como um novo tipo de espécie evoca algo totalmente sem precedentes, algo com agência e capacidades que nunca vimos antes. Isso faz meu sentido de aranha vibrar. E você?
Não posso lhe dizer se há mágica aqui (ironicamente ou não). E não posso lhe dizer como a matemática pode realizar o que Bubeck e muitos outros veem nessa tecnologia (ninguém pode ainda). Você terá que decidir por si mesmo. Mas posso abrir a cortina de meu próprio ponto de vista.
Ao escrever sobre a GPT-3 em 2020, eu disse que o maior truque que a IA já fez foi convencer o mundo de que ela existe. Ainda penso assim: Somos programados para ver inteligência em coisas que se comportam de determinadas maneiras, quer ela exista ou não. Nos últimos anos, o setor de tecnologia encontrou seus próprios motivos para nos convencer de que a IA também existe. Isso me torna cético em relação a muitas das afirmações feitas sobre essa tecnologia.
Com os grandes modelos de linguagem – por meio de suas máscaras de rosto sorridente – somos confrontados com algo sobre o qual nunca tivemos que pensar antes. “É pegar essa coisa hipotética e torná-la realmente concreta”, diz Pavlick. “Nunca precisei pensar se um trecho de linguagem exigia inteligência para ser gerado, porque nunca lidei com uma linguagem que não exigisse.”
A IA é muitas coisas. Mas não acho que seja humana. Não acho que seja a solução para todos (ou mesmo para a maioria) de nossos problemas. Não é o ChatGPT, o Gemini ou o Copilot. Não são redes neurais. É uma ideia, uma visão, uma espécie de realização de desejo. E as ideias são moldadas por outras ideias, pela moral, por convicções quase religiosas, por visões de mundo, pela política e pelo instinto. “Inteligência artificial” é uma abreviação útil para descrever uma série de tecnologias diferentes. Mas IA não é uma coisa só; nunca foi, não importa quantas vezes a marca seja gravada na parte externa da caixa.
“A verdade é que essas palavras” – inteligência, raciocínio, compreensão e outras – “foram definidas antes que houvesse a necessidade de ser realmente preciso”, diz Pavlick. Não gosto muito quando a pergunta se torna “O modelo compreende – sim ou não?” porque, bem, eu não sei. As palavras são redefinidas e os conceitos evoluem o tempo todo.”
Acho que é isso mesmo. E quanto mais cedo pudermos dar um passo para trás, concordar com o que não sabemos e aceitar que nada disso ainda é um negócio fechado, mais cedo poderemos – não sei, acho que nem todos darão as mãos e cantarão kumbaya. Mas podemos parar de xingar uns aos outros.
Autor: Will Douglas Heaven
Fonte: MIT Technology Review
Artigo original: https://bit.ly/3zSylLU
