Grandes modelos de linguagem podem gerar texto, imagem, vídeos, sons, código sofisticado com pouca entrada de dados de um usuário, o que tem o potencial de empobrecer nossas próprias habilidades de escrita e raciocínio. Precisamos entender o efeito dessa tecnologia em nossa cognição e decidir se é isso que queremos. Os LLMs estão transformando a escrita e a cognição humana, ao utilizarmos LLMs com frequência, corremos o risco de perdermos algumas das nossas habilidades cognitivas.
A cognição humana frequentemente utiliza objetos tecnológicos para ajudá-los na realização de suas tarefas cognitivas, denominados objetos cognitivos. Os críticos expressaram preocupação com os efeitos de alguns desses objetos cognitivos em nossas habilidades cognitivas a bordo. Em alguns contextos e para algumas pessoas, as calculadoras, sistemas de navegação, e aplicativos como a Wikipédia e os mecanismos de busca transformam nossas habilidades cognitivas de maneiras talvez indesejáveis. Os críticos apontaram que o uso de calculadoras reduziu nossa capacidade de realizar cálculos em nossa cabeça; os sistemas de navegação de reduziram nossa capacidade de navegar; e ter acesso à Internet resulta no armazenamento de menos informações em nosso cérebro. Essas preocupações remontam Sócrates, que argumentou que a escrita “produzirá esquecimento na nas mentes daqueles que aprenderem a usá-la, porque não praticarão sua memória”. O argumento de Sócrates pode ser generalizado para além da escrita e da memória. Se os objetos cognitivos realizam tarefas de armazenamento de informações ou computacionais para nós, os sistemas do cérebro que, de outra forma, realizariam ou executariam essas tarefas tendem a perder sua força ou capacidade.
A inteligência artificial geradora sustentada por grandes modelos de linguagem modelos de linguagem (LLMs), como o ChatGPT da OpenAI e o Gemini do Google, são exemplos recentes de objetos cognitivos. Eles se distinguem em pelo menos duas formas: (1) são altamente multifuncionais (ou seja, podem executar executar vários tipos de tarefas computacionais) e (2) têm uma forte agência computacional (ou seja, podem gerar resultados sofisticados e elaborados com pouquíssima entrada do usuário). Parece muito provável que esses chatbots (e seus sucessores aprimorados) continuarão a ser usados no futuro por um grupo cada vez maior de pessoas em todo o mundo.
Uma vez que o gênio tecnológico sai da garrafa, é difícil colocá-lo de volta de volta. Surge a dúvida se, quando se formarem e entrarem no mercado de trabalho, os alunos de graduação que usam LLMs em seus estudos serão menos capazes cognitivamente do que seus colegas que não o fazem, e se escritores, jornalistas, criadores de conteúdo, acadêmicos e outros que usam extensivamente LLMs em suas tarefas relacionadas ao trabalho se tornarão menos competentes na redação de textos, com o tempo.
Para entender melhor os efeitos dos LLMs em nossas habilidades cognitivas, é útil distinguir entre dois modelos de divisão do trabalho computacional entre humanos e objetos cognitivos. No primeiro
modelo, os artefatos cognitivos executam tarefas menores e rotineiras em uma tarefa cognitiva maior. Por exemplo, ao escrever um e-mail, uma redação ou algum outro texto, os corretores ortográficos e a correção automática garantem que você não cometa nenhum erro de ortografia. O fato de não precisar pensar (muito) sobre a grafia exata das palavras garante que a tarefa seja feita mais rapidamente e que o escritor possa
se concentrar na estrutura geral do texto, e não nos detalhes de ortografia.
Esses dois modelos sugerem dois riscos potenciais relacionados que estão envolvidos na terceirização de tarefas computacionais inteiras para LLMs. Primeiro, por falta de prática, as pessoas que usam muito os LLMs podem perder algumas de suas habilidades de escrita. Escrever um texto envolve vários tipos de tarefas cognitivas, incluindo ortografia, formulação de frases gramatical e a expressividade da linguagem correta, desenvolvimento de relações lógicas entre conceitos, avaliar afirmações e fazer inferências, entre outras tarefas cognitivas.
Portanto, se nossas habilidades de escrita são de fato reduzidas por falta de prática, é possível que essas outras habilidades cognitivas também sejam reduzidas. Em segundo lugar, alguns filósofos argumentam que a escrita é uma forma pela qual nossas mentes e sistemas cognitivos são ampliados. Nessa visão, criar e manipular palavras e frases escritas faz parte de nosso processamento cognitivo. Quando escrevemos, os processos de pensamento ocorrem não apenas no cérebro, mas também no papel. Uma das principais vantagens da escrita para fins cognitivos é que ela nos permite manipular veículos de representação externos (ou seja, palavras e frases) de uma forma que não é possível em nossas cabeças.
Por exemplo, depois de escrever uma frase, podemos lê-la, avaliá-la e reescrevê-la, se necessário. O texto escrito oferece um espaço de trabalho cognitivo com propriedades informativas que são complementares às propriedades de nosso espaço de trabalho cognitivo interno. Por esse motivo, o processo de escrita também gera insights e pensamentos que, de outra forma, não teríamos e, assim aprimora nossa cognição. Essa é uma das razões pelas quais as pessoas escrevem em diários, fazem anotações e escrevem ensaios (inclusive ensaios filosóficos).
Quando passamos muito menos tempo escrevendo (seja com caneta e papel ou com computador), esse local para ampliar nossas mentes e sistemas cognitivos fica menos desenvolvido, o que pode empobrecer nossas habilidades cognitivas gerais.
Para estarmos em uma posição melhor para avaliar esses riscos potenciais, primeiro precisamos de evidências empíricas longitudinais robustas de como as pessoas em diferentes grupos demográficos (em termos de idade, gênero, nível socioeconômico e socioeconômico e cultural) usam os LLMs para suas tarefas educacionais e e relacionadas ao trabalho e o que isso significa para suas habilidades cognitivas. No momento de escrever este artigo, esse tipo de pesquisa empírica ainda não está disponível. Mas, se os dados empíricos de fato mostrarem que o uso extensivo de LLMs para gerar texto reduz nossas habilidades de escrita e algumas de nossas habilidades cognitivas, precisaremos nos perguntar, como indivíduos e como a sociedade da informação se esses efeitos são consistentes com nossos valores pessoais e sociais valores pessoais e sociais.
Se não quisermos que nossas habilidades cognitivas sejam transformadas dessa forma, precisamos de estratégias e políticas para lidar com isso.
Referências
1. Heersmink, R. Rev. Phil. Psychol. 4, 465-481 (2013).
2. Carr, N. The Shallows: O que a Internet está fazendo com nossos cérebros (W. W. Norton & Co., 2010).
3. Mao, Y., White, T., Sadler, P. & Sonnert, G. Educ. Stud. Math. 94, 69-83 (2017).
4. Hejtmánek, L., Oravcová, I., Motýl, J., Horáček, J. & Fajnerová, I. Int. J. Hum. Comput. Stud.
116, 15-24 (2018).
5. Sparrow, B., Liu, J. & Wegner, D. M. Science 333, 776-778 (2011).
6. Menary, R. Lang. Sci. 29, 621-632 (2007).
7. Clark, A. Supersizing the Mind: Embodiment, Action, and Cognitive Extension (Oxford Univ.
Press, 2008).
8. Heersmink, R. Phenomenol. Cogn. Sci. 14, 577-598 (2015).
9. Sutton, J. em The Extended Mind (ed. Menary, R.) 189-225 (MIT Press, 2010).
10. Heersmink, R. Minds Mach. 26, 389-407 (2016).
Autor: Richard Heersmink – Departamento de Filosofia, Escola de Humanidades e Ciências Digitais, Universidade de Tilburg, Tilburg, Países Baixos.
Fonte: Nature
Artigo Original: https://go.nature.com/3IVf0uR
