LLMs: transformando a escrita e a cognição humana

Tempo de leitura: 5 minutes

Loading

Grandes modelos de linguagem podem gerar texto, imagem, vídeos, sons, código sofisticado com pouca entrada de dados de um usuário, o que tem o potencial de empobrecer nossas próprias habilidades de escrita e raciocínio. Precisamos entender o efeito dessa tecnologia em nossa cognição e decidir se é isso que queremos. Os LLMs estão transformando a escrita e a cognição humana, ao utilizarmos LLMs com frequência, corremos o risco de perdermos algumas das nossas habilidades cognitivas.

A cognição humana frequentemente utiliza objetos tecnológicos para ajudá-los na realização de suas tarefas cognitivas, denominados objetos cognitivos. Os críticos expressaram preocupação com os efeitos de alguns desses objetos cognitivos em nossas habilidades cognitivas a bordo. Em alguns contextos e para algumas pessoas, as calculadoras, sistemas de navegação, e aplicativos como a Wikipédia e os mecanismos de busca transformam nossas habilidades cognitivas de maneiras talvez indesejáveis. Os críticos apontaram que o uso de calculadoras reduziu nossa capacidade de realizar cálculos em nossa cabeça; os sistemas de navegação de reduziram nossa capacidade de navegar; e ter acesso à Internet resulta no armazenamento de menos informações em nosso cérebro. Essas preocupações remontam Sócrates, que argumentou que a escrita “produzirá esquecimento na nas mentes daqueles que aprenderem a usá-la, porque não praticarão sua memória”. O argumento de Sócrates pode ser generalizado para além da escrita e da memória. Se os objetos cognitivos realizam tarefas de armazenamento de informações ou computacionais para nós, os sistemas do cérebro que, de outra forma, realizariam ou executariam essas tarefas tendem a perder sua força ou capacidade.

A inteligência artificial geradora sustentada por grandes modelos de linguagem modelos de linguagem (LLMs), como o ChatGPT da OpenAI e o Gemini do Google, são exemplos recentes de objetos cognitivos. Eles se distinguem em pelo menos duas formas: (1) são altamente multifuncionais (ou seja, podem executar executar vários tipos de tarefas computacionais) e (2) têm uma forte agência computacional (ou seja, podem gerar resultados sofisticados e elaborados com pouquíssima entrada do usuário). Parece muito provável que esses chatbots (e seus sucessores aprimorados) continuarão a ser usados no futuro por um grupo cada vez maior de pessoas em todo o mundo.

Uma vez que o gênio tecnológico sai da garrafa, é difícil colocá-lo de volta de volta. Surge a dúvida se, quando se formarem e entrarem no mercado de trabalho, os alunos de graduação que usam LLMs em seus estudos serão menos capazes cognitivamente do que seus colegas que não o fazem, e se escritores, jornalistas, criadores de conteúdo, acadêmicos e outros que usam extensivamente LLMs em suas tarefas relacionadas ao trabalho se tornarão menos competentes na redação de textos, com o tempo.

Para entender melhor os efeitos dos LLMs em nossas habilidades cognitivas, é útil distinguir entre dois modelos de divisão do trabalho computacional entre humanos e objetos cognitivos. No primeiro
modelo, os artefatos cognitivos executam tarefas menores e rotineiras em uma tarefa cognitiva maior. Por exemplo, ao escrever um e-mail, uma redação ou algum outro texto, os corretores ortográficos e a correção automática garantem que você não cometa nenhum erro de ortografia. O fato de não precisar pensar (muito) sobre a grafia exata das palavras garante que a tarefa seja feita mais rapidamente e que o escritor possa
se concentrar na estrutura geral do texto, e não nos detalhes de ortografia.

Uma ilustração conceitual cativante de um modelo avançado de linguagem (LLM) que redefine a escrita e as habilidades cognitivas humanas. O LLM é representado como uma rede neural colossal e luminescente, estendendo seus tentáculos a uma infinidade de indivíduos, cada um com seus próprios pensamentos e perspectivas distintas. O pano de fundo mescla os reinos digital e físico, incorporando a fusão da tecnologia e da engenhosidade humana. A atmosfera exala um senso de progresso, evocando admiração e admiração pelo potencial transformador da IA na formação do nosso futuro.No segundo modelo, os artefatos cognitivos executam a maior parte ou toda a da tarefa cognitiva maior. Esse é o modelo que se aplica aos LLMs. A função do ser humano na tarefa geral é projetar o prompt ou a pergunta, editar o texto e verificar os fatos e verificar os fatos nele contidos. Em relação ao primeiro modelo, os papéis funcionais do objeto e do ser humano são invertidos. Os humanos agora realizam as tarefas relativamente menores, enquanto o objeto cognitivo realiza a maior tarefa.

Esses dois modelos sugerem dois riscos potenciais relacionados que estão envolvidos na terceirização de tarefas computacionais inteiras para LLMs. Primeiro, por falta de prática, as pessoas que usam muito os LLMs podem perder algumas de suas habilidades de escrita. Escrever um texto envolve vários tipos de tarefas cognitivas, incluindo ortografia, formulação de frases gramatical e a expressividade da linguagem correta, desenvolvimento de relações lógicas entre conceitos, avaliar afirmações e fazer inferências, entre outras tarefas cognitivas.

Portanto, se nossas habilidades de escrita são de fato reduzidas por falta de prática, é possível que essas outras habilidades cognitivas também sejam reduzidas. Em segundo lugar, alguns filósofos argumentam que a escrita é uma forma pela qual nossas mentes e sistemas cognitivos são ampliados. Nessa visão, criar e manipular palavras e frases escritas faz parte de nosso processamento cognitivo. Quando escrevemos, os processos de pensamento ocorrem não apenas no cérebro, mas também no papel. Uma das principais vantagens da escrita para fins cognitivos é que ela nos permite manipular veículos de representação externos (ou seja, palavras e frases) de uma forma que não é possível em nossas cabeças.

Por exemplo, depois de escrever uma frase, podemos lê-la, avaliá-la e reescrevê-la, se necessário. O texto escrito oferece um espaço de trabalho cognitivo com propriedades informativas que são complementares às propriedades de nosso espaço de trabalho cognitivo interno. Por esse motivo, o processo de escrita também gera insights e pensamentos que, de outra forma, não teríamos e, assim aprimora nossa cognição. Essa é uma das razões pelas quais as pessoas escrevem em diários, fazem anotações e escrevem ensaios (inclusive ensaios filosóficos).

Quando passamos muito menos tempo escrevendo (seja com caneta e papel ou com computador), esse local para ampliar nossas mentes e sistemas cognitivos fica menos desenvolvido, o que pode empobrecer nossas habilidades cognitivas gerais.

Para estarmos em uma posição melhor para avaliar esses riscos potenciais, primeiro precisamos de evidências empíricas longitudinais robustas de como as pessoas em diferentes grupos demográficos (em termos de idade, gênero, nível socioeconômico e socioeconômico e cultural) usam os LLMs para suas tarefas educacionais e e relacionadas ao trabalho e o que isso significa para suas habilidades cognitivas. No momento de escrever este artigo, esse tipo de pesquisa empírica ainda não está disponível. Mas, se os dados empíricos de fato mostrarem que o uso extensivo de LLMs para gerar texto reduz nossas habilidades de escrita e algumas de nossas habilidades cognitivas, precisaremos nos perguntar, como indivíduos e como a sociedade da informação se esses efeitos são consistentes com nossos valores pessoais e sociais valores pessoais e sociais.

Se não quisermos que nossas habilidades cognitivas sejam transformadas dessa forma, precisamos de estratégias e políticas para lidar com isso.


Referências

1. Heersmink, R. Rev. Phil. Psychol. 4, 465-481 (2013).
2. Carr, N. The Shallows: O que a Internet está fazendo com nossos cérebros (W. W. Norton & Co., 2010).
3. Mao, Y., White, T., Sadler, P. & Sonnert, G. Educ. Stud. Math. 94, 69-83 (2017).
4. Hejtmánek, L., Oravcová, I., Motýl, J., Horáček, J. & Fajnerová, I. Int. J. Hum. Comput. Stud.
116, 15-24 (2018).
5. Sparrow, B., Liu, J. & Wegner, D. M. Science 333, 776-778 (2011).
6. Menary, R. Lang. Sci. 29, 621-632 (2007).
7. Clark, A. Supersizing the Mind: Embodiment, Action, and Cognitive Extension (Oxford Univ.
Press, 2008).
8. Heersmink, R. Phenomenol. Cogn. Sci. 14, 577-598 (2015).
9. Sutton, J. em The Extended Mind (ed. Menary, R.) 189-225 (MIT Press, 2010).
10. Heersmink, R. Minds Mach. 26, 389-407 (2016).

 

 

Autor: Richard Heersmink – Departamento de Filosofia, Escola de Humanidades e Ciências Digitais, Universidade de Tilburg, Tilburg, Países Baixos.
Fonte: Nature
Artigo Original: https://go.nature.com/3IVf0uR

Fernando Giannini

Pesquisador de tecnologia aplicada à educação, arquiteto de objetos virtuais de aprendizagem, fissurado em livros de grandes educadores e viciado em games de todos os tipos. Conhecimentos aprimorados em cursos de grandes empresas de tecnologia, principalmente no Google Business Educational Center e Microsoft. Sócio-proprietário da Streamer, empresa que alia tecnologia e educação. Experiência de 18 anos produzindo e criando objetos de aprendizagem, cursos a distância, design educacional, interfaces para sistemas de aprendizagem. Gestor de equipe para projetos educacionais, no Ensino Básico, Médio e Ensino Superior. Nesse período de trabalho gerenciou equipes e desenvolveu as habilidades de liderança e gestão. Acredita na integração e aplicação prática dos conhecimentos para a realização de projetos inovadores, sólidos e sustentáveis a longo prazo. Um dos grandes sonhos realizados foi o lançamento do curso gratuito Mande Bem no ENEM que atingiu mais de 500 mil estudantes em todo o Brasil contribuindo para a Educação Brasileira.

Participe da nossa comunidade no Whatsapp sobre Educação e Tecnologia

0 comentários

Enviar um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Posts Relacionados

Tutoria com IA: reformulando o dia a dia dos professores

Quando o ChatGPT e o advento da inteligência artificial não estão sugando todo o oxigênio da sala onde os educadores se encontram, o próximo maior candidato a receber atenção deve ser a tutoria. Em particular, muito tem sido escrito recentemente sobre as lições...

Pensando o poder da IA para a aprendizagem do futuro

Nos últimos anos, observamos uma corrida para o estudo e o desenvolvimento de ferramentas tecnológicas de aprendizagem eletrônica que aprimoram o ensino e a aprendizagem. A literatura científica mostra claramente que essas ferramentas podem desempenhar um papel...

Aprendendo com IA: espelhos sociais e intelectuais

Até recentemente, as interações humanas com máquinas antropomorfizadas (entidades não-humanas que são atribuídas características humanas) eram consideradas divertidas, mas não eram vistas como emocionalmente relevantes para a maioria das pessoas. Embora muitos se...

10 efeitos negativos do uso de celulares para as crianças

Crianças de todo o mundo (embora não todas) utilizam smartphones para diversas finalidades. Algumas passam horas conversando com amigos, enquanto outras se dedicam a jogar inúmeros jogos. A Internet é frequentemente considerada uma fonte de conhecimento para as...

Tag Cloud

Posts Relacionados

[dgbm_blog_module posts_number=”4″ related_posts=”on” show_categories=”off” show_pagination=”off” item_in_desktop=”2″ equal_height=”on” image_size=”mid” author_background_color=”#ffffff” disabled_on=”off|off|on” module_class=”PostRelacionado” _builder_version=”4.16″ _module_preset=”default” title_font=”Montserrat||||||||” title_text_color=”#737373″ title_font_size=”19px” title_line_height=”25px” meta_text_color=”#666″ meta_font_size=”13px” content_font_size=”13px” content_line_height=”30px” author_text_color=”#666666″ custom_css_content_container=”display:flex;||flex-wrap:wrap;” custom_css_image-container=”padding-top:70%;||overflow:hidden;” custom_css_image=”position:absolute;||top:0;||left:0;||bottom:0;||right:0;||object-fit: cover;||height:100%;||width:100%;” custom_css_title=”padding:20px;||margin-top:0;||order:2;” custom_css_content=”padding:0 20px 20px;||order:3;” custom_css_post-meta-middle=”order:1;||padding:20px;||border-bottom:1px solid #dcdcdc;||border-top:1px solid #dcdcdc;” border_width_all_post_item=”0px” border_width_all_content=”0px” box_shadow_style_container=”preset1″ box_shadow_blur_container=”5px” box_shadow_spread_container=”1px” box_shadow_color_container=”rgba(0,0,0,0.1)” global_colors_info=”{}”][/dgbm_blog_module]

Receba a nossa newsletter

Fique por dentro e seja avisado dos novos conteúdos.

Publicações mais recentes