Por que a IA não entende linguagem humana? Essa pergunta, embora pareça simples, revela uma das limitações mais profundas das tecnologias atuais de inteligência artificial. Apesar de sistemas como ChatGPT, Gemini, DeepSeek, Claude, Siri, Alexa, parecerem manter conversas inteligentes, eles operam apenas sobre padrões estatísticos, sem qualquer compreensão real do que estão dizendo. A linguagem, para os humanos, é carregada de contexto, intenção e experiência, elementos que as máquinas ainda não são capazes de captar ou reproduzir de forma genuína.
O nome “Processamento de Linguagem Natural” é bem errado assim como Inteligência Artificial, pois sugere que as máquinas entendem a linguagem como nós entendemos, o que não é verdade, longe disso.
Embora os chatbots que utilizam NLP (como ChatGPT, Gemini, Claude, Deepseek, etc) sejam capazes de interpretar comandos 0 e 1, manter diálogos coerentes e até gerar respostas que parecem inteligentes, eles não têm consciência, intenção ou entendimento real do conteúdo.
Eles simulam compreensão com base em padrões estatísticos aprendidos a partir de enormes volumes de texto.
Como criadores de significado, usamos a linguagem falada ou sinalizada para compreender nossas experiências no mundo ao nosso redor. O surgimento da inteligência artificial generativa, como o ChatGPT (que usa grandes modelos de linguagem), questiona a própria noção de como definir “significado”.
Uma caracterização popular das ferramentas de IA é que elas “compreendem” o que estão fazendo. O ganhador do Prêmio Nobel e pioneiro em IA Geoffrey Hinton disse: “O que realmente me surpreendeu é como as redes neurais são boas em compreender a linguagem natural — isso aconteceu muito mais rápido do que eu imaginava… E ainda estou impressionado com o fato de que elas realmente compreendem o que estão dizendo”.
Hinton repetiu essa afirmação em uma entrevista com Adam Smith, diretor científico da Nobel Prize Outreach. Nela, Hinton afirmou que “as redes neurais são muito melhores no processamento da linguagem do que qualquer coisa já produzida pela escola chomskiana de linguística”.
A linguística chomskiana refere-se às teorias do linguista americano Noam Chomsky sobre a natureza da linguagem humana e seu desenvolvimento. Chomsky propõe que existe uma gramática universal inata nos seres humanos, que permite a aquisição de qualquer idioma desde o nascimento.
A pesquisadora Veena D. Dwivedi vem pesquisado como os seres humanos entendem a linguagem desde a década de 1990, incluindo mais de 20 anos de estudos sobre a neurociência da linguagem. Isso incluiu a medição da atividade das ondas cerebrais enquanto as pessoas leem ou ouvem frases. Dada a minha experiência, tenho que discordar respeitosamente da ideia de que a IA pode “entender”, apesar da crescente popularidade dessa crença.
Resposta de Geoffrey Hinton ao receber o Prêmio Nobel de Física por seu trabalho em IA.
Geração de texto
Em primeiro lugar, é lamentável que a maioria das pessoas confunda o texto em uma tela com a linguagem natural. O texto escrito está relacionado à linguagem, mas não é a mesma coisa. Por exemplo, a mesma linguagem pode ser representada por símbolos visuais muito diferentes.
Veja o hindi e o urdu, por exemplo. Em níveis conversacionais, eles são mutuamente inteligíveis e, portanto, considerados a mesma língua pelos linguistas. No entanto, eles usam escritas totalmente diferentes. O mesmo se aplica ao sérvio e ao croata. O texto escrito não é a mesma coisa que “língua”.
A seguir, vamos analisar a afirmação de que os algoritmos de aprendizado de máquina “compreendem” a linguagem natural. A comunicação linguística ocorre principalmente face a face, em um contexto ambiental específico compartilhado entre o falante e o ouvinte, juntamente com pistas como tom e entonação da voz, contato visual e expressões faciais e emocionais.
A importância do contexto
Entender o que uma pessoa está dizendo é muito mais do que simplesmente compreender suas palavras. Mesmo bebês, que ainda não são especialistas em linguagem, conseguem compreender pistas contextuais.
Veja, por exemplo, a frase simples: “Estou grávida” e suas interpretações em diferentes contextos. Se eu dissesse isso, na minha idade, provavelmente meu marido morreria de choque. Compare esse nível de compreensão e resposta com uma adolescente contando ao namorado sobre uma gravidez não planejada ou uma esposa contando ao marido a notícia após anos de tratamentos de fertilidade.
Em cada caso, o destinatário da mensagem atribui um tipo diferente de significado, e compreensão à mesma frase.
Em minha recente pesquisa, mostrei que até mesmo o estado emocional de um indivíduo pode alterar os padrões das ondas cerebrais ao processar o significado de uma frase. Nossos cérebros (e, portanto, nossos pensamentos e processos mentais) nunca estão isentos de contexto emocional, como outros neurocientistas também apontaram.
Portanto, embora alguns códigos de computador possam responder à linguagem humana na forma de texto, eles não chegam nem perto de capturar o que os seres humanos, e seus cérebros realizam em sua compreensão.
Vale lembrar que, quando os profissionais de IA falam sobre redes neurais, eles se referem a algoritmos de computador, não às redes cerebrais biológicas reais que caracterizam a estrutura e a função do cérebro. Imagine confundir constantemente a palavra “voo” (como em aves migrando) com “voo” (como em rotas aéreas), isso poderia levar a sérios mal-entendidos!
Nova pesquisa revela como a IA “pensa” (ela não pensa)
Por fim, vamos examinar a afirmação de que as redes neurais processam a linguagem melhor do que as teorias produzidas pela linguística chomskiana. Este campo pressupõe que todas as línguas humanas podem ser compreendidas através de sistemas gramaticais (além do contexto) e que esses sistemas estão relacionados a alguma gramática universal.
Chomsky conduziu pesquisas sobre teoria sintática como um teórico do papel e lápis. Ele não conduziu experimentos sobre as bases psicológicas ou neurais da compreensão da linguagem. Suas ideias em linguística são absolutamente silenciosas sobre os mecanismos subjacentes ao processamento e compreensão de frases.
O que a escola linguística de Chomsky faz, no entanto, é questionar como bebês e crianças pequenas podem aprender a linguagem com tanta facilidade, sem qualquer déficit neurobiológico ou trauma físico.
Existem pelo menos 7.000 línguas no planeta, e ninguém pode escolher onde nascer. Isso significa que o cérebro humano deve estar pronto para compreender e aprender a língua de sua comunidade ao nascer.
A partir desse fato sobre o desenvolvimento da linguagem, Chomsky postulou um módulo inato (abstrato) para a aprendizagem da linguagem não para o processamento. Do ponto de vista neurobiológico, o cérebro precisa estar pronto para compreender a linguagem desde o nascimento.
Embora existam muitos exemplos de especialização linguística em bebês, os mecanismos neurais precisos ainda são desconhecidos, mas não impossíveis de serem descobertos. No entanto, os objetos de estudo tornam-se impossíveis de serem conhecidos quando os termos científicos são mal utilizados ou mal aplicados. E esse é precisamente o perigo: confundir IA com compreensão humana pode levar a consequências perigosas.
Autora: Veena D. Dwivedi
Fonte: The Conversation
Artigo original: https://bit.ly/4e9lNjC
