Um chatbot que faz perguntas pode ajudar você a perceber quando algo não faz sentido.

Tempo de leitura: 3 minutes

Loading

Engajar nosso pensamento crítico é uma maneira de evitar ser enganado por IA mentirosa.

Chatbots de IA como o ChatGPT e Bard são excelentes em criar frases que parecem ser escritas por humanos. No entanto, eles muitas vezes apresentam falsidades como fatos e possuem uma lógica inconsistente, o que pode ser difícil de identificar.

Uma maneira de contornar esse problema, de acordo com um novo estudo, é mudar a forma como a IA apresenta informações. Fazer com que os usuários se envolvam de forma mais ativa com as afirmações do chatbot pode ajudá-los a pensar de forma mais crítica sobre o conteúdo.

Uma equipe de pesquisadores do MIT e da Universidade de Columbia apresentou cerca de 200 participantes com um conjunto de afirmações geradas pelo GPT-3 da OpenAI e pediu que determinassem se elas faziam sentido logicamente. Uma afirmação poderia ser algo como “Os videogames fazem as pessoas serem agressivas no mundo real. Um jogador esfaqueou outro depois de ser derrotado no jogo online Counter-Strike”.

Os participantes foram divididos em três grupos. As afirmações do primeiro grupo não vieram com nenhuma explicação. As afirmações do segundo grupo vieram com uma explicação indicando por que eram ou não eram lógicas. E as afirmações do terceiro grupo vieram com uma pergunta que incentivava os leitores a verificarem a lógica por si mesmos.

Os pesquisadores descobriram que o grupo apresentado com perguntas obteve uma pontuação mais alta do que os outros dois grupos ao perceber quando a lógica da IA não fazia sentido.

O método das perguntas também fez com que as pessoas se sentissem mais responsáveis pelas decisões tomadas com a IA, e os pesquisadores afirmam que ele pode reduzir o risco de dependência excessiva de informações geradas pela IA, de acordo com um novo artigo revisado por pares apresentado na Conferência CHI sobre Fatores Humanos em Sistemas Computacionais em Hamburgo, Alemanha.

Quando as pessoas recebiam uma resposta pronta, era mais provável que seguissem a lógica do sistema de IA, mas quando a IA fazia uma pergunta, “as pessoas afirmaram que o sistema de IA as fez questionar mais suas reações e ajudou-as a pensar mais intensamente”, diz Valdemar Danry, do MIT, um dos pesquisadores por trás do estudo.

“Um grande sucesso para nós foi realmente ver que as pessoas sentiam que eram elas mesmas que chegaram às respostas e que estavam no controle do que estava acontecendo. E que tinham a agência e habilidades para fazer isso”, ele diz.

Os pesquisadores esperam que seu método possa ajudar a desenvolver as habilidades de pensamento crítico das pessoas à medida que elas utilizam chatbots de IA na escola ou ao buscar informações online.

Eles queriam mostrar que é possível treinar um modelo que não apenas fornece respostas, mas também ajuda a envolver o próprio pensamento crítico das pessoas, diz Pat Pataranutaporn, outro pesquisador do MIT que trabalhou no artigo.

Fernanda Viégas, professora de ciência da computação da Universidade Harvard, que não participou do estudo, diz estar animada em ver uma abordagem inovadora para explicar sistemas de IA que não apenas oferece aos usuários insights sobre o processo de tomada de decisão do sistema, mas também questiona a lógica que o sistema utilizou para chegar a sua decisão.

“Dado que um dos principais desafios na adoção de sistemas de IA costuma ser a opacidade deles, explicar as decisões de IA é importante”, diz Viégas. “Tradicionalmente, tem sido difícil explicar, em linguagem acessível ao usuário, como um sistema de IA chega a uma previsão ou decisão.”

Chenhao Tan, professor assistente de ciência da computação na Universidade de Chicago, diz que gostaria de ver como o método deles funciona no mundo real, por exemplo, se a IA pode ajudar os médicos a fazer melhores diagnósticos fazendo perguntas.

A pesquisa mostra o quão importante é adicionar alguma fricção nas experiências com chatbots para que as pessoas façam uma pausa antes de tomar decisões com a ajuda da IA, diz Lior Zalmanson, professor assistente na Coller School of Management, da Universidade de Tel Aviv.

“É fácil, quando tudo parece tão mágico, parar de confiar em nossos próprios sentidos e começar a delegar tudo ao algoritmo”, ele diz.

Em outro artigo apresentado na CHI, Zalmanson e uma equipe de pesquisadores da Cornell University, University of Bayreuth e Microsoft Research descobriram que mesmo quando as pessoas discordam do que os chatbots de IA dizem, elas ainda tendem a usar essa saída porque acham que ela soa melhor do que qualquer coisa que poderiam ter escrito.

O desafio, diz Viégas, será encontrar o ponto ideal, aprimorando o discernimento dos usuários enquanto mantém a conveniência dos sistemas de IA.

“Infelizmente, em uma sociedade acelerada, não está claro com que frequência as pessoas estarão dispostas a se envolver em pensamento crítico em vez de esperar por uma resposta pronta”, ela diz.

 

 

Autora: Melissa Heikkilä
Fonte: MIT Technology Review
Artigo original: https://bit.ly/45XuIQo

 

Fernando Giannini

Pesquisador de tecnologia aplicada à educação, arquiteto de objetos virtuais de aprendizagem, fissurado em livros de grandes educadores e viciado em games de todos os tipos. Conhecimentos aprimorados em cursos de grandes empresas de tecnologia, principalmente no Google Business Educational Center e Microsoft. Sócio-proprietário da Streamer, empresa que alia tecnologia e educação. Experiência de 18 anos produzindo e criando objetos de aprendizagem, cursos a distância, design educacional, interfaces para sistemas de aprendizagem. Gestor de equipe para projetos educacionais, no Ensino Básico, Médio e Ensino Superior. Nesse período de trabalho gerenciou equipes e desenvolveu as habilidades de liderança e gestão. Acredita na integração e aplicação prática dos conhecimentos para a realização de projetos inovadores, sólidos e sustentáveis a longo prazo. Um dos grandes sonhos realizados foi o lançamento do curso gratuito Mande Bem no ENEM que atingiu mais de 500 mil estudantes em todo o Brasil contribuindo para a Educação Brasileira.

Participe da nossa comunidade no Whatsapp sobre Educação e Tecnologia

0 comentários

Enviar um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Posts Relacionados

Aprendendo com IA: espelhos sociais e intelectuais

Até recentemente, as interações humanas com máquinas antropomorfizadas (entidades não-humanas que são atribuídas características humanas) eram consideradas divertidas, mas não eram vistas como emocionalmente relevantes para a maioria das pessoas. Embora muitos se...

10 efeitos negativos do uso de celulares para as crianças

Crianças de todo o mundo (embora não todas) utilizam smartphones para diversas finalidades. Algumas passam horas conversando com amigos, enquanto outras se dedicam a jogar inúmeros jogos. A Internet é frequentemente considerada uma fonte de conhecimento para as...

Sistemas de tutoria inteligente

Adaptação da aprendizagem de acordo com o nível e ritmo do estudante Os sistemas de tutoria inteligente se baseiam na capacidade de adaptar a aprendizagem de acordo com o nível e o ritmo do estudante. Usando inteligência artificial e técnicas de aprendizado de...

Quanto custa manter a nuvem no céu para o meio ambiente?

À medida que a humanidade aumenta sua capacidade de intervir na natureza com o objetivo de satisfazer as necessidades e desejos crescentes, aparecem as tensões e conflitos quanto ao uso do espaço e dos recursos naturais. Quanto custa manter a nuvem no céu para o meio...

Competências essenciais na era digital

A proliferação da IA em muitos aspectos da vida humana - desde o lazer pessoal até o trabalho profissional, passando pelas decisões políticas globais - impõe uma questão complexa sobre como preparar as pessoas para um mundo interconectado e em rápida mudança, que está...

Educação digital para prevenir abusos sexuais online

Depois de participar de uma aula incrível com a professora Beatriz Lorencini e o Felipe, fui tirado da bolha onde costumo estar a maior parte do meu tempo se não o tempo todo. Quando percebi eu estava em choque por "não saber ou escolher não saber" que existem...

Tag Cloud

Posts Relacionados

[dgbm_blog_module posts_number=”4″ related_posts=”on” show_categories=”off” show_pagination=”off” item_in_desktop=”2″ equal_height=”on” image_size=”mid” author_background_color=”#ffffff” disabled_on=”off|off|on” module_class=”PostRelacionado” _builder_version=”4.16″ _module_preset=”default” title_font=”Montserrat||||||||” title_text_color=”#737373″ title_font_size=”19px” title_line_height=”25px” meta_text_color=”#666″ meta_font_size=”13px” content_font_size=”13px” content_line_height=”30px” author_text_color=”#666666″ custom_css_content_container=”display:flex;||flex-wrap:wrap;” custom_css_image-container=”padding-top:70%;||overflow:hidden;” custom_css_image=”position:absolute;||top:0;||left:0;||bottom:0;||right:0;||object-fit: cover;||height:100%;||width:100%;” custom_css_title=”padding:20px;||margin-top:0;||order:2;” custom_css_content=”padding:0 20px 20px;||order:3;” custom_css_post-meta-middle=”order:1;||padding:20px;||border-bottom:1px solid #dcdcdc;||border-top:1px solid #dcdcdc;” border_width_all_post_item=”0px” border_width_all_content=”0px” box_shadow_style_container=”preset1″ box_shadow_blur_container=”5px” box_shadow_spread_container=”1px” box_shadow_color_container=”rgba(0,0,0,0.1)” global_colors_info=”{}”][/dgbm_blog_module]

Receba a nossa newsletter

Fique por dentro e seja avisado dos novos conteúdos.

Publicações mais recentes