O que Sócrates pode nos ensinar sobre IA

Tempo de leitura: 4 minutes

Loading

Se Sócrates era a pessoa mais sábia da Grécia Antiga, então os modelos de linguagem grandes devem ser os sistemas mais ignorantes do mundo moderno, por isso a pergunta, o que Sócrates pode nos ensinar sobre IA?

Em sua Apologia, Platão conta a história de como o amigo de Sócrates, Chaerephon, foi visitar o oráculo em Delfos. Chaerephon pergunta ao oráculo se há alguém mais sábio do que Sócrates. A sacerdotisa responde que não: Sócrates é o mais sábio de todos.

Em um primeiro momento, Sócrates parece perplexo. Como ele poderia ser o mais sábio, se havia tantas outras pessoas conhecidas por seu conhecimento e sabedoria e, no entanto, Sócrates afirma que lhe faltam ambos?

Ele se propõe a resolver o mistério. Ele sai por aí interrogando uma série de políticos, poetas e artesãos (como fazem os filósofos). E o que ele descobre? A investigação de Sócrates revela que aqueles que afirmam ter conhecimento ou não sabem realmente o que pensam que sabem, ou sabem muito menos do que dizem saber.

Sócrates é o mais sábio, porque está ciente dos limites de seu próprio conhecimento. Ele não acha que sabe mais do que sabe e não afirma saber mais do que sabe.

O que Sócrates pode nos ensinar sobre IA

O que Sócrates pode nos ensinar sobre IA

Ao contrário de Sócrates, os grandes modelos de linguagem não sabem o que não sabem. Esses sistemas não foram criados para rastrear a verdade. Eles não se baseiam em evidências empíricas ou na lógica. Eles fazem suposições estatísticas que muitas vezes estão erradas.

Os modelos de linguagem grandes não informam aos usuários que eles estão fazendo suposições estatísticas. Eles apresentam suposições incorretas com a mesma confiança que apresentam fatos.

Seja qual for a sua pergunta, eles darão uma resposta convincente, que nunca é “Não sei”, embora devesse ser. Se você perguntar ao ChatGPT sobre eventos atuais, ele lembrará que só tem acesso a informações até setembro de 2021 e não pode navegar na Internet.

Para quase qualquer outro tipo de pergunta, ele dará uma resposta que, muitas vezes, misturará fatos com confabulações.

O filósofo Harry Frankfurt argumentou que besteira é um discurso que é tipicamente persuasivo, mas que não se preocupa com a verdade. Os grandes modelos de linguagem são os maiores mentirosos, pois são projetados para serem plausíveis (e, portanto, convincentes) sem nenhuma preocupação com a verdade. As besteiras não precisam ser falsas. Às vezes, os picaretas descrevem as coisas como elas são, mas se não estiverem buscando a verdade, o que dizem ainda é besteira.

E a besteira é perigosa, alertou Frankfurt. A besteira é uma ameaça maior à verdade do que a mentira. A pessoa que mente acha que sabe o que é a verdade e, portanto, está preocupada com a verdade. Ela pode ser desafiada e responsabilizada; sua agenda pode ser inferida. O contador da verdade e o mentiroso jogam em lados opostos do mesmo jogo, como diz Frankfurt. O mentiroso não presta atenção ao jogo. A verdade nem sequer é confrontada; ela é ignorada; torna-se irrelevante.

A besteira é mais perigosa quanto mais persuasiva for, e os grandes modelos de linguagem são persuasivos por duas razões. Em primeiro lugar, eles analisaram enormes quantidades de texto, o que lhes permite fazer uma estimativa estatística da provável resposta adequada à solicitação dada. Em outras palavras, ele imita os padrões que detectou nos textos que analisou. Em segundo lugar, esses sistemas são refinados por meio de um processo de aprendizagem por reforço a partir de feedback humano (RLHF). O modelo de recompensa foi treinado diretamente com base no feedback humano. Os humanos ensinaram a ele quais tipos de respostas eles preferem. Por meio de várias repetições, o sistema aprende a satisfazer as preferências dos seres humanos, tornando-se assim cada vez mais persuasivo.

Como a proliferação de notícias falsas nos ensinou, os seres humanos nem sempre preferem a verdade. A falsidade costuma ser muito mais atraente do que as verdades sem graça. Gostamos muito mais de histórias boas e empolgantes do que da verdade. Os grandes modelos de linguagem são análogos a um estudante, professor ou jornalista de pesadelo; aqueles que, em vez de reconhecerem os limites de seu conhecimento, tentam enganar você.

A Apologia de Platão sugere que devemos desenvolver a IA para que ela seja mais parecida com Sócrates e menos com os mentirosos. Não devemos esperar que as empresas de tecnologia projetem eticamente por sua própria boa vontade.

O Vale do Silício é bem conhecido por sua capacidade de fazer besteira, e as empresas podem até se sentir obrigadas a fazer besteira para se manterem competitivas nesse ambiente. O fato de as empresas que trabalham em um ambiente corporativo de mentiras criarem produtos de mentiras não deveria ser surpreendente.

Uma das coisas que as duas últimas décadas nos ensinaram é que a tecnologia precisa de tanta regulamentação quanto qualquer outro setor, e nenhum setor pode se regulamentar sozinho. Nós regulamentamos alimentos, medicamentos, telecomunicações, finanças, transporte; por que a tecnologia não seria a próxima?

Platão nos deixa com uma advertência final. Uma das lições de sua obra é tomar cuidado com as falhas da democracia. A democracia ateniense matou Sócrates. Ela condenou seu cidadão mais comprometido, seu professor mais valioso, ao mesmo tempo em que permitiu que os sofistas – os mentirosos da época – prosperassem.

Nossas democracias parecem igualmente vulneráveis aos charlatães. No passado recente, nós os transformamos em primeiros-ministros e presidentes. E agora estamos alimentando o poder de grandes modelos de linguagem, considerando usá-los em todas as esferas da vida – mesmo em contextos como jornalismo, política e medicina, nos quais a verdade é vital para a saúde de nossas instituições. Isso é sensato?

 

Autora: CARISSA VÉLIZ
Fonte:
Time
Artigo Original:
https://bit.ly/499zufz

Fernando Giannini

Pesquisador de tecnologia aplicada à educação, arquiteto de objetos virtuais de aprendizagem, fissurado em livros de grandes educadores e viciado em games de todos os tipos. Conhecimentos aprimorados em cursos de grandes empresas de tecnologia, principalmente no Google Business Educational Center e Microsoft. Sócio-proprietário da Streamer, empresa que alia tecnologia e educação. Experiência de 18 anos produzindo e criando objetos de aprendizagem, cursos a distância, design educacional, interfaces para sistemas de aprendizagem. Gestor de equipe para projetos educacionais, no Ensino Básico, Médio e Ensino Superior. Nesse período de trabalho gerenciou equipes e desenvolveu as habilidades de liderança e gestão. Acredita na integração e aplicação prática dos conhecimentos para a realização de projetos inovadores, sólidos e sustentáveis a longo prazo. Um dos grandes sonhos realizados foi o lançamento do curso gratuito Mande Bem no ENEM que atingiu mais de 500 mil estudantes em todo o Brasil contribuindo para a Educação Brasileira.

Participe da nossa comunidade no Whatsapp sobre Educação e Tecnologia

0 comentários

Enviar um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Posts Relacionados

Escrita à Mão Aumenta Conexões Cerebrais

Como a escrita tradicional à mão está sendo progressivamente substituída por dispositivos digitais, é essencial investigar as implicações para o cérebro humano. A atividade elétrica cerebral foi registrada em 36 estudantes universitários enquanto eles escreviam à mão...

IA na Educação

O salto para uma nova era de inteligência artificial de máquina traz riscos e desafios, mas também muitas promessas No romance de ficção científica de Neal Stephenson, The Diamond Age (A Era do Diamante), de 1995, os leitores conhecem Nell, uma jovem que recebe um...

As 10 melhores ferramentas de IA para estudantes

A Inteligência Artificial (IA) tem se tornado cada vez mais predominante em vários setores, e a educação não é exceção. Com o rápido avanço da tecnologia, graças a empresas como a Open AI, as ferramentas de IA surgiram como recursos valiosos para os estudantes que...

Seis perguntas que ditarão o futuro da IA generativa

A IA generativa tomou o mundo de assalto em 2023. Seu futuro - e o nosso - será moldado pelo que fizermos a seguir. Foi uma pessoa desconhecida que me mostrou pela primeira vez o quão grande seria a mudança de vibração deste ano. Enquanto esperávamos juntas por um...

IA e o crescimento da mediocridade

Como a maioria das pessoas, gosto de me considerar um indivíduo, mas há uma semana entrei em um estacionamento e encontrei cinco carros idênticos ao meu em termos de marca, modelo, ano e cor. Fiquei feliz por ter me lembrado do número da minha placa e que meu chaveiro...

Tag Cloud

Posts Relacionados

IA na Educação

IA na Educação

O salto para uma nova era de inteligência artificial de máquina traz riscos e desafios, mas também muitas promessas No...

Receba a nossa newsletter

Fique por dentro e seja avisado dos novos conteúdos.

Publicações mais recentes