O artigo discute a necessidade das ciências sociais reconhecerem máquinas inteligentes e IA como atores sociais, destacando a importância de compreender suas interações e impactos nas dinâmicas sociais contemporâneas.
Às 14h32 de 6 de maio de 2010, a Média Industrial Dow Jones despencou quase mil pontos e eliminou temporariamente US$ 1 trilhão do mercado de ações, causando o primeiro “flash crash” financeiro. No início da manhã de domingo, em 17 de setembro de 2023, vinte veículos que passavam pelo West Campus em Austin, Texas, pararam repentinamente, causando um congestionamento enorme. Nas seis semanas que antecederam as eleições gerais de 2024 no Reino Unido, dez usuários publicaram tweets que obtiveram 150 milhões de visualizações no X.
O elemento comum entre esses eventos é que todos eles envolvem máquinas inteligentes – algoritmos, bots ou robôs. Os traders que responderam imediatamente a uma ordem de venda grande e errônea e causaram o flash crash eram algoritmos de negociação de alta frequência, os veículos que não conseguiram se comunicar e manobrar entre si, acabando em um engarrafamento, eram de condução autônoma, e as contas X que inundaram as conversas on-line do Reino Unido com tweets odiosos e controversos eram bots.
Esses relatos lembram que as máquinas inteligentes permeiam nossa vida cotidiana, moldando maliciosamente nossa realidade social, às vezes de maneiras indesejáveis. Recentemente, começamos a ouvir mais e mais avisos sobre o aumento repentino da superinteligência, que trará o fim da humanidade como a conhecemos. Grande parte desse temor prevê a IA como uma entidade divina singular, onisciente e onipotente. Mas o fato é que a IA é uma multidão – plural, diversa e, sejamos honestos, ainda não tão inteligente.
Os cientistas sociais devem abordar as máquinas inteligentes como atores sociais em pé de igualdade com os seres humanos.
Em uma contribuição recente, uma equipe de pesquisadores, propôs uma ideia radical: os cientistas sociais devem abordar as máquinas inteligentes como atores sociais iguais aos humanos (versão aberta disponível aqui). Nós, cientistas sociais, podemos então adaptar e reaplicar as teorias das ciências sociais e os métodos de pesquisa empírica para estudar a sociedade atual de humanos e máquinas. Em vez de imaginar cenários apocalípticos para um futuro distante, devemos trabalhar para entender e resolver os problemas sociais reais que estamos enfrentando agora.
Teorias estabelecidas da psicologia social e da sociologia, como preconceito de grupo, preconceito de autoridade e personificação, que descrevem o relacionamento entre dois indivíduos ou dois grupos, podem ser adaptadas para modelar o relacionamento entre um humano e um bot, ou um grupo de humanos e vários bots. Por exemplo, descobriu-se que, quando em grupos, em vez de interagir como indivíduos, as pessoas têm maior probabilidade de sentir o efeito “nós contra eles” e de competir e intimidar os robôs mais do que outros humanos.
Da mesma forma, os cientistas sociais podem adaptar e ampliar os métodos da ciência de redes e o estudo de sistemas complexos para examinar a dinâmica coletiva e os padrões que surgem em redes e comunidades compostas por humanos e robôs. Juntamente com colaboradores, isso para investigar a frequência e as consequências de interações não planejadas entre bots de edição na Wikipédia. Outros estudaram o impacto dos bots na disseminação de desinformação política e conteúdo inflamatório em redes de mídia social.
Os cientistas sociais podem adaptar e ampliar os métodos da ciência de redes e do estudo de sistemas complexos para examinar a dinâmica coletiva e os padrões que surgem em redes e comunidades compostas por humanos e bots ou robôs
Há muito mais trabalho a ser feito. Os cientistas sociais, devem desenvolver uma nova ciência social de humanos e máquinas, incremental e cumulativa, teoricamente informada e empiricamente fundamentada. O momento para isso é agora, enquanto os bots e robôs existentes ainda são relativamente simples, porque até mesmo comportamentos simples podem produzir consequências não intencionais. Peço aos cientistas sociais que acompanhem os avanços recentes e contínuos da IA, que já resultaram em algoritmos que se comportam de maneiras inesperadas e inexplicáveis.
O que deve ser feito? Em primeiro lugar, precisamos melhorar o treinamento em computação e métodos computacionais para os cientistas sociais. Algoritmos, bots e robôs tornaram-se uma parte importante da sociedade e os cientistas sociais devem ser capazes de falar “a língua deles” para estudá-los e entendê-los. Em segundo lugar, precisamos de novos tipos de pesquisa e pesquisadores interdisciplinares. Susan Calvin, a famosa robopsicóloga de Isaac Asimov, pode ser uma aspiração aqui: também nos beneficiaríamos com robosociólogos, roboantropólogos, robodemógrafos, roboeconomistas, robogeógrafos, robohistoriadores e cientistas robo-políticos.
Uma ciência social que aborda as máquinas inteligentes como atores autônomos semelhantes aos humanos não só melhorará nossa compreensão do mundo social, mas também informará o projeto e a política de IA. Os veículos autônomos são treinados com base em dados de direção humana e tráfego humano e, portanto, não é surpreendente que eles acabem em paralisia mútua quando aparecem em grande número; o treinamento de algoritmos com base em dados de interações homem-máquina e máquina-máquina os ajudará a se integrarem nas estradas com mais facilidade.
Uma ciência social que aborde as máquinas inteligentes como atores autônomos semelhantes aos humanos não só melhorará nossa compreensão do mundo social, mas também informará o projeto e a política de IA.
A cultura também deve desempenhar um papel importante ao projetar carros autônomos e bots assistentes pessoais, entre muitas outras aplicações dessa tecnologia. A percepção e o julgamento que as pessoas fazem das máquinas dependem de sua idade, ambiente e traços de personalidade, além da nacionalidade. As máquinas também possuem cultura: a tomada de decisões e o comportamento das máquinas refletem a cultura de seus projetistas; a tomada de decisões e o comportamento das máquinas também sempre ocorrem em um contexto cultural específico. Os cientistas sociais devem estar à altura da ocasião, moldar e liderar a conversa sobre cultura no design de IA.
O aumento da conectividade social e a aceleração dos desenvolvimentos em IA tornam o estudo dos sistemas sociais de seres humanos e máquinas inteligentes um empreendimento desafiador. A abordagem positivista, no entanto, será de importância crucial para um futuro humano melhor. Para evitar colapsos financeiros, melhorar a segurança nas estradas e reduzir a desinformação política… PROCURA-SE CIENTISTAS SOCIAIS.
Autora: Milena Tsvetkova
Fonte: London School of Economics
Artigo original: https://bit.ly/3PcbEGX
