O artigo escrito pela pesquisadora Mariya Stoilova e pela doutora em Filosofia Sonia Livingstone apresenta os desafios e a importância do letramento em inteligência artificial, especialmente nos contextos de desigualdade social. As autoras destacam como países com desvantagens estruturais, como acesso limitado a tecnologia e a educação digital, enfrentam barreiras significativas para preparar crianças e jovens para um mundo mediado por IA.
A pesquisa discutida no artigo está vinculada ao projeto RIGHTS.AI: Children’s Experiences of Generative Artificial Intelligence in Brazil, com base no relatório produzido por Ivelise Fortim e Stella Daré Zandavalli. O estudo revela como crianças brasileiras estão expostas à IA generativa sem o suporte necessário para compreender ou questionar seus impactos, o que acentua riscos como viés algorítmico, vigilância e desinformação.
A rápida integração da IA na vida das crianças desperta tanto entusiasmo quanto inquietação: a curiosidade das crianças sobre novas possibilidades se mistura com preocupações sobre segurança, justiça e preconceitos. Políticos, educadores e pais esperam que educar as crianças sobre IA possa capacitá-las a usar de forma significativa e segura. Mas será que o conhecimento sobre IA pode realmente cumprir essa promessa? Para marcar a Semana Global de Alfabetização em Mídia e Informação 2025, Mariya Stoilova e Sonia Livingstone discutem suas últimas descobertas do projeto DFC sobre IA e direitos das crianças.
Nossa pesquisa RIGHTS.AI realizada em quatro países do Sul global (Brasil, Índia, Quênia e Tailândia) mostra que as crianças estão encontrando IA generativa em casa e na escola, nas plataformas que usam diariamente. De chatbots como ChatGPT e Copilot à IA incorporada no Snapchat, WhatsApp e Google Search, a IA generativa agora alimenta ferramentas de aprendizagem, aplicativos de entretenimento e até mesmo serviços experimentais de saúde mental. Ela responde a perguntas e cria conteúdo às vezes de forma problemática, e molda silenciosamente o que as crianças veem e fazem online.
As crianças adotam rapidamente as tecnologias de IA, mas muitas vezes não têm compreensão suficiente de como esses sistemas funcionam, capacidade para garantir seu uso benéfico e competência para compreender as implicações. A educação sobre IA pode facilitar oportunidades gerativas de IA para as crianças e mitigar seus desafios e riscos?
Por meio da colaboração com parceiros no Brasil, Índia, Quênia e Tailândia, nossos métodos de pesquisa identificaram três desafios urgentes para as políticas e programas de alfabetização em IA, que complementam as conclusões da pesquisa da UNICEF sobre como a IA se relaciona com o melhor interesse da criança. Os profissionais de mídia e alfabetização digital os acharão familiares!
1° Desafio: É provável que a IA amplie as disparidades em matéria de literacia, em vez de as atenuar
O uso da IA generativa reflete e amplifica as desigualdades estruturais no acesso digital, na alfabetização e nas oportunidades. Nos quatro países, as diferenças entre o uso e a compreensão crítica das crianças eram substanciais, e muitas crianças precisavam da orientação de professores e pais.
Descobrimos que as crianças de origens socioeconômicas mais elevadas, especialmente aquelas que frequentavam escolas particulares ou com bons recursos, geralmente tinham acesso a uma infraestrutura digital melhor, habilidades de alfabetização crítica mais sólidas e uma compreensão mais ampla das possibilidades e limitações da IA generativa.
Em contrapartida, seus colegas de áreas rurais, famílias de baixa renda ou escolas públicas muitas vezes dependiam de dispositivos compartilhados e aplicativos gratuitos com funcionalidades limitadas, e recebiam pouca ou nenhuma instrução ou orientação formal. A adoção foi limitada por barreiras linguísticas e pelas atitudes dos professores e pais, alguns incentivando a experimentação, outros proibindo-a.
Portanto, os esforços para melhorar a alfabetização digital e em IA devem apoiar o entusiasmo das crianças pelo aprendizado com IA generativa com recursos educacionais direcionados para compensar as desigualdades pré-existentes, e devem ouvir o apelo das crianças por serviços que falem suas línguas, reflitam suas culturas e atendam às suas necessidades de desenvolvimento, de modo a não ampliar as lacunas de conhecimento prévio.
2° Desafio: O envolvimento das crianças com oportunidades de IA traz múltiplos riscos de danos
Os riscos à segurança identificados pelas crianças incluíram desinformação, cyberbullying, violência de gênero e a circulação de deepfakes sexualizados. Crianças brasileiras e quenianas relataram incidentes de imagens manipuladas sendo compartilhadas em ambientes escolares. Crianças indianas expressaram preocupação com informações falsas ou enganosas que afetam tanto o contexto acadêmico quanto o relacionado à saúde. Crianças tailandesas destacaram como preconceitos ou “alucinações” nos resultados da IA podem prejudicar seu bem-estar ou criar barreiras às oportunidades.
Embora a IA generativa possa facilitar a aprendizagem, o desenvolvimento de habilidades e a criatividade, as crianças estavam preocupadas que a dependência excessiva dela pudesse limitar suas oportunidades de desenvolver habilidades sociais críticas e inteligência emocional. Por exemplo, crianças brasileiras e indianas alertaram contra a cópia passiva de respostas geradas por IA, enquanto crianças tailandesas apontaram que o domínio do inglês em muitas ferramentas de IA restringia sua capacidade de aprofundar o conhecimento do assunto. Crianças quenianas expressaram preocupações sobre o potencial uso indevido da IA para bullying ou manipulação por meio de deepfakes e exposição a desinformação.
Assim como os riscos offline e online anteriores, o terreno incerto e desigual dos benefícios facilitados pela IA significa que os riscos associados podem impedir ou superar quaisquer ganhos, especialmente para crianças vulneráveis.
A ânsia das crianças em elaborar estratégias de autoproteção para mitigar os riscos é um bom sinal para sua abertura à educação que aprimora o uso agente e reflexivo, atividades criativas e conhecimento crítico do ecossistema de IA. Os currículos de IA devem apoiar isso. Mas a alfabetização em IA deve andar de mãos dadas com a segurança desde a concepção dos sistemas de IA, para limitar a carga educacional sobre os indivíduos. Muitos problemas precisam de uma abordagem mais sistêmica por meio de regulamentação e design – conforme desenvolvido no Código de Design para Crianças e IA da 5Rights.
3° Desafio: Os sistemas de IA são complexos, opacos e tendenciosos por natureza.
A RIGHTS.AI descobriu que a capacidade das crianças de usar a IA generativa era moldada, e muitas vezes limitada pelo design dos sistemas com os quais elas interagiam. Muitos sistemas de IA eram altamente persuasivos, levando as crianças a confiar em seus resultados e até mesmo a formar “amizades” pessoais com eles, o que poderia reforçar a dependência da IA em vez do julgamento independente. A IA que obscurecia suas limitações restringia ainda mais a capacidade das crianças de fazer escolhas totalmente informadas.
As crianças do Sul Global são particularmente prejudicadas pelos sistemas de IA generativa que são predominantemente projetados e treinados com dados do Norte Global. A exclusão linguística e a falta de diversidade cultural foram as principais preocupações das crianças na Índia, Quênia e Tailândia, que consideravam que suas línguas e contextos de vida cotidiana estavam mal representados nos resultados da IA generativa. Em contrapartida, as crianças brasileiras relataram menos problemas e estavam geralmente satisfeitas com os resultados em português.
As crianças valorizavam sua privacidade, mas a transparência limitada levou muitas a acreditar erroneamente que a IA não compartilha seus dados. Embora algumas temessem que suas informações pudessem ser “vazadas”, a maioria confiava nas empresas que desenvolvem ferramentas de IA generativa. Algumas crianças expressaram resignação, tratando a perda de privacidade como inevitável no uso da IA generativa.
Em todos os contextos, esses exemplos mostram como os recursos de design podem restringir as oportunidades das crianças de se envolverem de forma crítica e autônoma, de maneiras que não podem ser abordadas apenas pela alfabetização. Ainda assim, as crianças tinham muitas ideias sobre como esses sistemas podem ser melhorados e estavam ansiosas para serem consultadas sobre os desenvolvimentos futuros da IA. Os esforços de alfabetização devem ensiná-las a participar de forma significativa nesses processos.
O caminho a seguir para a alfabetização digital e a IA
Dada a rapidez da inovação em IA, os formuladores de políticas e educadores estão reavaliando as estruturas de alfabetização digital. A alfabetização em IA pode se basear nas conceituações existentes – reconhecendo que a alfabetização em plataformas e a alfabetização em algoritmos já abordam dados, algoritmos e design de modelos? Se sim, os educadores poderiam acompanhar mais rapidamente a rapidez da inovação em IA. O conhecimento prévio já está orientando as duas estruturas proeminentes do etramento em IA: as estruturas de competências em IA para alunos e professores da UNESCO e a Estrutura de Literacia em IA da OCDE e da Comissão Europeia, que define o letramento em IA como:
o conhecimento técnico, as habilidades duradouras e as atitudes preparadas para o futuro necessárias para prosperar em um mundo influenciado pela IA. Permite que os alunos se envolvam, criem, gerenciem e projetem IA, ao mesmo tempo em que avaliam criticamente seus benefícios, riscos e implicações éticas.
Ambos adotam uma abordagem baseada em competências para a alfabetização em IA, com o objetivo de equipar os alunos com as habilidades técnicas, cognitivas e sociais necessárias para se envolverem de forma crítica e criativa com a IA. Ambos reconhecem a importância de compreender o design da IA, como os dados, algoritmos e escolhas de modelos moldam os resultados, como base para o desenvolvimento de usuários e criadores de sistemas de IA informados e capacitados.
Como estruturas “globais”, ambas também chamam a atenção para a importância de recursos para adaptação local, capacidade dos professores, benchmarking e avaliação, e as tarefas institucionais adicionais necessárias para combater as desigualdades persistentes.
Simplificando, não há maneiras baratas e fáceis de enfrentar os desafios práticos relacionados à alfabetização em IA, mas construir sobre o conhecimento prévio é um começo prático. Isso é vital para todas as crianças, incluindo aquelas de países de baixa e média renda, onde vivem quase dois terços das crianças do mundo, pois suas experiências merecem reconhecimento, suas necessidades devem ser atendidas e suas vozes devem ser ouvidas.
Autoras: Mariya Stoilova e Sonia Livingstone
Fonte: London School of Economics and Political Science
Artigo original: https://bit.ly/4nnke4n
