Professores usam mais ferramentas de detecção de IA: entenda os problemas

Tempo de leitura: 7 minutes

Como o ChatGPT e tecnologias semelhantes ganharam destaque nas salas de aula do ensino fundamental e médio, o mesmo aconteceu com as ferramentas de detecção de IA. A maioria dos professores já usou um programa de detecção de IA para avaliar se o trabalho de um aluno foi concluído com a ajuda de IA generativa, de acordo com uma nova pesquisa com educadores realizada pelo Center for Democracy & Technology. E os alunos estão sendo cada vez mais punidos por usar IA generativa. Vamos analisar neste artigo porque os Professores usam mais ferramentas de detecção de IA: entenda os problemas.

Mas, embora o software de detecção possa ajudar professores sobrecarregados a sentir que estão um passo à frente de seus alunos, há um problema: As ferramentas de detecção de IA são imperfeitas, disse Victor Lee, professor associado de ciências da aprendizagem, design de tecnologia e educação STEM na Stanford Graduate School of Education.

“Elas são falíveis, você pode contorná-las”, disse ele. “E há um sério risco de dano associado ao fato de que uma acusação incorreta é uma acusação muito séria a ser feita.”

Um falso positivo de uma ferramenta de detecção de IA é uma perspectiva assustadora para muitos alunos, disse Soumil Goyal, aluno do último ano de uma escola de ensino médio do International Baccalaureate em Houston.

“Por exemplo, meu professor pode dizer: ‘Na minha aula anterior, seis alunos passaram no teste de detecção de IA'”, disse ele, embora não tenha certeza se isso é verdade ou se seus professores podem estar usando isso como uma tática de intimidação. “Se eu fosse confrontado com um professor e ele tivesse 100% de certeza de que eu usei IA, embora não tenha usado, seria um cenário difícil. […] Isso pode ser muito prejudicial para o aluno.”

As escolas estão se adaptando ao crescente uso da IA, mas ainda há preocupações

Em geral, a pesquisa do Center for Democracy & Technology, uma organização sem fins lucrativos que tem como objetivo moldar a política de tecnologia, com ênfase na proteção dos direitos do consumidor, conclui que os produtos de IA generativa estão se tornando cada vez mais parte da vida diária de professores e alunos, e as escolas estão se adaptando a essa nova realidade. A pesquisa incluiu uma amostra nacionalmente representativa de 460 professores de escolas públicas do 6º ao 12º ano em dezembro do ano passado.

A maioria dos professores – 59% – acredita que seus alunos estão usando produtos de IA generativa para fins escolares. Enquanto isso, 83% dos professores afirmam que já usaram o ChatGPT ou produtos semelhantes para uso pessoal ou escolar, o que representa um aumento de 32 pontos percentuais desde que o Center for Democracy & Technology pesquisou os professores no ano passado.

A pesquisa também constatou que as escolas estão se adaptando a essa nova tecnologia. Mais de 8 em cada 10 professores afirmam que suas escolas agora têm políticas que definem se as ferramentas de IA generativa são permitidas ou proibidas e que eles receberam treinamento sobre essas políticas, uma mudança drástica em relação ao ano passado, quando muitas escolas ainda estavam lutando para encontrar uma resposta para uma tecnologia que pode escrever redações e resolver problemas complexos de matemática para os alunos.

E quase três quartos dos professores afirmam que suas escolas lhes pediram informações sobre o desenvolvimento de políticas e procedimentos relacionados ao uso da IA generativa pelos alunos.

De modo geral, os professores deram boas notas às suas escolas quando se trata de responder aos desafios criados pelos alunos que usam IA generativa – 73% dos professores disseram que suas escolas e distritos estão fazendo um bom trabalho.

Essa é a boa notícia, mas os dados da pesquisa também revelam algumas tendências preocupantes.

Um número muito menor de professores relatou ter recebido treinamento sobre o uso adequado da IA pelos alunos e como os professores devem reagir se acharem que os alunos estão abusando da tecnologia.

  • Vinte e oito por cento dos professores disseram ter recebido orientação sobre como reagir se acharem que um aluno está usando o ChatGPT;
  • Trinta e sete por cento disseram ter recebido orientação sobre como é o uso responsável de tecnologias de IA generativas pelos alunos;
  • Trinta e sete por cento também disseram que não receberam orientação sobre como detectar se os alunos estão usando IA generativa em suas tarefas escolares;
  • E 78% disseram que sua escola sanciona o uso de ferramentas de detecção de IA.

Apenas um quarto dos professores disse ser “muito eficiente” em discernir se as tarefas foram escritas por seus alunos ou por uma ferramenta de IA. Metade dos professores afirma que a IA generativa os deixou mais desconfiados de que o trabalho escolar dos alunos seja realmente deles.

A falta de treinamento, juntamente com a falta de confiança nos produtos de trabalho dos alunos, pode explicar por que os professores estão relatando que os alunos estão sendo cada vez mais punidos por usar IA generativa em suas tarefas, mesmo que as escolas estejam permitindo mais o uso de IA pelos alunos, segundo o relatório.

Em conjunto, isso torna preocupante o fato de tantos professores estarem usando software de detecção de IA – 68%, um aumento substancial em relação ao ano passado -, segundo o relatório.

“Os professores estão se tornando dependentes de ferramentas de detecção de conteúdo de IA, o que é problemático, já que as pesquisas mostram que essas ferramentas não são consistentemente eficazes na diferenciação entre texto gerado por IA e texto escrito por humanos”, disse o relatório. “Isso é especialmente preocupante, dado o aumento simultâneo das ações disciplinares dos alunos.”

O simples fato de confrontar os alunos com a acusação de que eles usaram IA pode levar a punições, segundo o relatório. Quarenta por cento dos professores disseram que um aluno teve problemas por sua reação quando um professor ou diretor os abordou sobre o uso indevido de IA.

Que papel os detectores de IA devem desempenhar na luta das escolas contra a trapaça?

As escolas devem examinar criticamente o papel do software de detecção de IA no policiamento do uso da IA generativa pelos alunos, disse Lee, professor de Stanford.

“O nível de conforto que temos sobre o que é uma taxa de erro aceitável é uma pergunta carregada – aceitaríamos que 1% dos alunos fossem incorretamente rotulados ou acusados? Isso ainda é um grande número de alunos”, disse ele.

Uma acusação falsa pode ter consequências abrangentes.

“Ela pode colocar um estigma em um aluno que pode ter efeitos de longo prazo sobre a posição ou o registro disciplinar do aluno”, disse ele. “Também pode afastá-los da escola, porque se o texto não foi produzido por IA, e eles o escreveram e disseram que era ruim, essa não é uma mensagem muito positiva.”

Além disso, algumas pesquisas descobriram que as ferramentas de detecção de IA têm maior probabilidade de identificar falsamente a escrita dos alunos de inglês como produzida por IA.

Segundo o relatório do CDT, os alunos de baixa renda também podem ter mais chances de se meter em problemas por usar IA, pois é mais provável que eles usem dispositivos fornecidos pela escola. Quase metade dos professores da pesquisa concorda que os alunos que usam dispositivos fornecidos pela escola têm maior probabilidade de ter problemas por usar IA generativa.

O relatório observa que os alunos de educação especial usam IA generativa com mais frequência do que seus colegas e que os professores de educação especial têm maior probabilidade de dizer que usam ferramentas de detecção de IA regularmente.

A pesquisa também está descobrindo que há maneiras de enganar os sistemas de detecção de IA, disse Lee. E as escolas precisam pensar nas compensações em termos de tempo e recursos para se manterem atualizadas com os inevitáveis desenvolvimentos da IA, das ferramentas de detecção de IA e das habilidades dos alunos para contornar essas ferramentas.

Lee disse que entende por que as ferramentas de detecção seriam atraentes para professores sobrecarregados. Mas ele não acha que as ferramentas de detecção de IA devam determinar sozinhas se um aluno está usando indevidamente a IA para fazer seus trabalhos escolares. Ela poderia ser um ponto de dados entre vários usados para determinar se os alunos estão violando alguma regra – que deveria ser claramente definida.

Na Polônia, Maine, Shawn Vincent é o diretor da escola de ensino médio Bruce Whittier, que atende a cerca de 200 alunos. Ele disse que não teve muitos problemas com alunos que usaram programas de IA generativa para enganar. Os professores têm usado ferramentas de detecção de IA como uma verificação de seus instintos quando suspeitam que um aluno usou indevidamente a IA generativa.

“Por exemplo, tivemos recentemente um professor que tinha alunos escrevendo parágrafos sobre casos da Suprema Corte, e um aluno usou a IA para gerar respostas às perguntas”, disse ele. “Para ela, isso não correspondia ao que ela havia visto do aluno no passado, então ela entrou na Internet para usar uma das ferramentas disponíveis para verificar o uso de IA. Foi isso que ela usou como critério de decisão.”

Quando a professora abordou o aluno, disse Vincent, ele admitiu ter usado uma ferramenta de IA generativa para escrever as respostas.

Os professores também estão enfrentando o desafio mudando suas abordagens para atribuir trabalhos escolares, como exigir que os alunos escrevam redações à mão em sala de aula, disse Vincent. E, embora ele não tenha certeza de como formular políticas para lidar com o uso de IA pelos alunos, ele quer abordar a questão primeiro como uma oportunidade de aprendizado.

“São crianças do ensino médio. Eles estão aprendendo sobre muitas coisas nessa época da vida. Portanto, tentamos usar isso como uma oportunidade educacional”, disse ele. “Acho que todos nós estamos aprendendo sobre IA juntos.”

Falando de uma competição de robótica em Houston, Goyal, o estudante do ensino médio de Houston, disse que às vezes ele e seus amigos trocam ideias para enganar os sistemas de detecção de IA, embora ele tenha dito que não usa o ChatGPT para fazer a maior parte de suas tarefas. Quando ele o usa, é para gerar ideias ou verificar a gramática, disse ele.

Goyal, que quer trabalhar com robótica quando se formar na faculdade, teme que alguns de seus professores não entendam realmente como funcionam as ferramentas de detecção de IA e que possam estar confiando demais na tecnologia.

“Os sistemas escolares devem instruir seus professores que a ferramenta de detecção de IA não é um detector de plágio […] que pode fornecer um link direto para o que foi plagiado”, disse ele. “Também é um pouco como uma hipocrisia: Os professores dirão: Não usem a IA porque ela é muito imprecisa e inventa coisas. Mas então eles usam a IA para detectar a IA.”

 

 

Autora: Arianna Prothero
Fonte: Education Week
Artigo Orginal: https://bit.ly/4bzlZWg

Participe da nossa comunidade no Whatsapp sobre Educação e Tecnologia

0 comentários

Enviar um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Posts Relacionados

As ferramentas de transcrição de IA também “alucinam”

Estudo encontra fabricações surpreendentemente prejudiciais no algoritmo de fala para texto da OpenAI Até o momento, a tendência dos chatbots alimentados por inteligência artificial (IA) de ocasionalmente inventar coisas, ou "alucinar", está bem documentada. Os...

Estrutura para a aprendizagem de IA

Essa proposta de estrutura busca fornecer a elaboração de programas de estudo e o planejamento de atividades de aprendizagem que promovam uma compreensão profunda da IA e desenvolvam as competências para que cada estudante seja capaz de analisar, projetar e resolver...

O que é inteligência artificial?

O Que é Inteligência Artificial? Esse artigo explora a definição e implicações da AI, uma das tecnologias mais transformadoras e debatidas da atualidade. Descubra como a AI está moldando o futuro e os desafios éticos envolvidos. Todos acham que sabem, mas ninguém...

Tutoria com IA: reformulando o dia a dia dos professores

Quando o ChatGPT e o advento da inteligência artificial não estão sugando todo o oxigênio da sala onde os educadores se encontram, o próximo maior candidato a receber atenção deve ser a tutoria. Em particular, muito tem sido escrito recentemente sobre as lições...

Pensando o poder da IA para a aprendizagem do futuro

Nos últimos anos, observamos uma corrida para o estudo e o desenvolvimento de ferramentas tecnológicas de aprendizagem eletrônica que aprimoram o ensino e a aprendizagem. A literatura científica mostra claramente que essas ferramentas podem desempenhar um papel...

Tag Cloud

Posts Relacionados

[dgbm_blog_module posts_number=”4″ related_posts=”on” show_categories=”off” show_pagination=”off” item_in_desktop=”2″ equal_height=”on” image_size=”mid” author_background_color=”#ffffff” disabled_on=”off|off|on” module_class=”PostRelacionado” _builder_version=”4.16″ _module_preset=”default” title_font=”Montserrat||||||||” title_text_color=”#737373″ title_font_size=”19px” title_line_height=”25px” meta_text_color=”#666″ meta_font_size=”13px” content_font_size=”13px” content_line_height=”30px” author_text_color=”#666666″ custom_css_content_container=”display:flex;||flex-wrap:wrap;” custom_css_image-container=”padding-top:70%;||overflow:hidden;” custom_css_image=”position:absolute;||top:0;||left:0;||bottom:0;||right:0;||object-fit: cover;||height:100%;||width:100%;” custom_css_title=”padding:20px;||margin-top:0;||order:2;” custom_css_content=”padding:0 20px 20px;||order:3;” custom_css_post-meta-middle=”order:1;||padding:20px;||border-bottom:1px solid #dcdcdc;||border-top:1px solid #dcdcdc;” border_width_all_post_item=”0px” border_width_all_content=”0px” box_shadow_style_container=”preset1″ box_shadow_blur_container=”5px” box_shadow_spread_container=”1px” box_shadow_color_container=”rgba(0,0,0,0.1)” global_colors_info=”{}”][/dgbm_blog_module]

Receba a nossa newsletter

Fique por dentro e seja avisado dos novos conteúdos.

Publicações mais recentes