Perspectivas sobre o Humanismo Digital
Manifesto de Viena sobre o Humanismo Digital
Parte IV Tecnologia da Informação e as Artes
[97]Ficcionalizando o Robô e a Inteligência Artificial
por Nathalie Weidenfeld
Resumo Este texto explora a fascinação contemporânea com robôs e digitalidade, e assinala como isso distorce a nossa visão sobre o que a digitalização pode fazer por nós. Ele advoga uma visão realista e não ficcionalizada sobre robôs e inteligência artificial.
Nada em nossa cultura popular contemporânea, assim parece, tem sido mais fascinante do que a fantasia dos robôs e a ideia de uma vindoura digitalização total da nossa sociedade. Hollywood está cheia de filmes de grande sucesso (blockbuster) cheios de robôs malignos e, algumas vezes, belos robôs e sonhos de vidas eternas ou, pelo menos, alternativas possibilitadas através de meios digitais.
Contudo, filmes não são apenas expressões de medos e esperanças profundamente arraigados, eles também criam um imaginário cultural que se alimenta desses medos e esperanças, por esse meio criando um ciclo que é melhor descrito como um círculo mais ou menos fechado. Agora, criações artísticas são, ou deveriam ser, livres para fazerem muitas coisas; elas podem criar cenários irrealistas e inventar premissas dramáticas que nos fazem refletir. Os problemas apenas surgem quando os leitores ou espectadores se esquecem de interpretar esses filmes corretamente, quer dizer, metaforicamente. Tome-se um filme sobre uma sociedade na qual os robôs sejam usados como escravos pessoais para trabalhos domésticos, onde o protagonista tem de aprender a superar o prejuízo dele com relação a eles. Esse filme nos estimula a pensar sobre as nossas relações com futuros robôs? Não! Porque este não é um filme sobre robôs, mas um conto metafórico sobre humanos lidando com humanos, no qual os robôs representam humanos desprivilegiados.
Digitalização e inteligência artificial colocam muitos problemas para a sociedade e cultura. Portanto, é da maior importância interpretá-las pelo que elas são a fim de julgar os seus potenciais e perigos realisticamente. Uma “importação” inadequada da ficção para a realidade é inútil e improdutiva.
Para vermos mais claramente o que exatamente tem sido importado da ficção para a realidade, examinemos mais de perto as narrativas focadas em IA. Quando nós examinamos os filmes – particularmente aqueles nos últimos 20 anos – lidando com o tema (topos) do robô nós podemos [98]discenir dois tipos: o robô bom, inocente e, algumas vezes, até espiritual e o robô mau, demoníaco, malvado. Esses dois estereótipos são uma expressão de um paradigma que pode ser chamado de “primitivista.” O paradigma primitivista é um “reflexo cultural” da sociedade ocidental, a qual tem de construir um “Outro” que, então, pode ser usado como um espelho (Torgovnick 1990): um espelho no qual alguém pode projetar as suas próprias propriedades amadas ou odiadas. Os indígenas americanos há muito têm servido como o Outro no interior da ordem primitivista – não apenas na época do iluminismo europeu, mas também na cultura americana dos EUA: durante séculos os indígenas ou foram retratados como selvagens demoníacos sanguinários ou como povo inocente e espiritualmente superior. O indígena americano, como um tema, permanece uma obssessão para romances e filmes americanos dos EUA, começando com as narrativas do século XVII, lidando com colonos puritanos capturados por indígenas sanguinários, durante todo o século XIX, onde as narrativas do indígena nobre tornam-se populares, até a imagem de Nova Era do indígena espiritual e moralmente idealizado.
As sociedades não apenas criam um Outro imaginário a partir de pessoas existentes reais, mas também criam-no de tempos em tempos. O melhor exemplo para isso é o alienígena, quem se tornou um tema primitivista nos anos de 1980. Os alienígenas eram retratados ao longo das mesmas linhas que os indígenas anteriormente; eles eram ou malignos e sangunários ou bons e espiritualmente altamente avançados (Weidenfeld 2007a, b). Hoje em dia, os robôs tomaram o papel dos alienígenas. O modo primitivista de conceitualização dos robôs tem uma influência profunda sobre a sociedade presente. Se Elon Musk ou até Stephen Hawking advertem-nos e falam dos perigos e ameaças ocultos que os robôs colocam para a humanidade – eles servem ao mesmo cliché primitivista do Outro maligno. O que eles estão fazendo não é uma descrição adequada e realista, mas antes uma inscrição dentro de uma narrativa já existente, a qual é, ao mesmo tempo, reintroduzida no mundo.
Quando alguém olha as narrativas e imagens da digitalização, ele encontra mecanismos similares. A digitalização ou é vista como um modo de causar um paraíso ou um inferno digital. A ideia de um paraíso digital frequentemente é invocada através de imagens de claridade, um céu azul e um universo irresistível de conectividade total. O paraíso digital é um paraíso puritano: ele está baseado na ideia de transparência, clareza e pureza. Em um paraíso digital, as coisas são ou “0” ou “1”; não há ambiguidade. Também, a ideia de um desenvolvimento teleológico “natural,” frequentemente sugerida no imaginário visual que nos conta que o homem evoluiu a partir do macaco, para homo sapiens, para homo digitais – frequentemente representado como o homem portando um telefone móvel na mão. O futuro digital torna-se uma profecia milenarista cheia de esperanças e desejos utópicos, tais como o desejo de salvação e vida eterna.
Nos séculos passados, desenvolvimentos tecnológicos frequentemente têm sido acompanhados por visões utópicas irrealistas. Quando Henry Ford foi pioneiro na produção em massa do automóvel, ele estava convencido de que essa nova tecnologia causaria a paz e prosperidade para todos. “Nós estamos prestes a entrar em uma nova era, pois, quando nós tivermos tudo, a liberdade e o paraíso na terra chegarão. A nossa nova maneira de pensar trará um novo mundo para nós, um novo paraíso e uma nova terra, como profetas têm ansiado por tanto tempo desde as épocas antigas” (Ford 1919). Aproximadamente cem anos após o automóvel, é a digitalização que, supostamente, trará a salvação. CEOs no Vale do Silício carregam suas apresentações com imagens que sugerem isso..
[99]O inferno digital é representado principalmente de três maneiras possíveis: ou é um inferno digitalmente economizado, como o mundo de Bladerunner ou Minority Report, onde os meios digitais são usados para propaganda; ou um mundo facista, onde um governante usou meios digitais para erigir não apenas o seu reino, mas também uniformidade e sincronicidade absoluta; ou, pelo menos, um mundo digital de pesadelo, tal como no filme Matrix, onde os humanos perderam toda autonomia e aiutodeterminação.
Fantasias utópicas e distópicas moveram-se do reino dos filmes e romances para as nossas perspectivas diárias. Essas expectativas religiosamente motivadas tomam muita energia daquilo que é importante: discussões sobre e clarificações de problemas éticos concretos que a digitalização coloca.
Por último, há um aspecto psicológico que Rudolf Dux denominou de o “complexo de Frankenstein” (Dux 1999): o sonho de criar um ser de aspecto vivo (lifelike) que possa sentir e pensar como nós. Esse sonho animista, o qual Freud descreveu tão bem em Totem and Taboo (Freud 1974), é parte de uma fantasia regressiva, similar ao desejo de uma criança para encher de vida uma boneca a fim de se sentir poderoso e/ou não mais tão sozinho.
Desde o estudante Nathanael no conto “Der Sandmann,” de E.T.A. Hofmann, até as visões de robôs femme fatale, tais como AVA em Ex Machina, o sonho permanece o mesmo: um sonho regressivo de uma companhia semelhante à humana que nunca é completamente humana, mas que é suficientemente similar à humana para nos fazer desejar seja o que for que nós desejamos: amor total, comunhão total ou amizade total.
“Consiga um relacionamento” é o slogan da crítica de robôs sexuais profa. Kathleen Richardson, quem argumenta contra o desenvolvimento de robôs femininos de aspecto vivo mais e mais sofisticados, os quais tiram a atenção dos humanos daquilo que é realmente importante, a saber, relacionamentos uns com os outros (Richardson 2022).
O humanismo digital coloca os relacionamentos humanos principais e tem como objetivo pensar e usar as tecnologias digitais instrumentalmente (Nida-Rümelin e Weidenfeld 2018). Ferramentas digitais não foram criadas nem por demônios nem por anjos, mas por humanos para humanos. É hora de manter isso em mente e parar de introduzir imaginário e temas (topoi) ficcionais em nossa linguagem e discurso cotidianos. Nós precisamos de julgamento claro e realista, desanuviado de sonhos, projeções e fantasias regressivas.
Referências
Dux, R. (eds.) (1999). Der Frankenstein-Komplex. Frankfurt: Suhrkamp.
Ford, H. (1919) Philosophie der Arbeit. Dresden, p. 47.
Freud, S. (1974). Totem und Tabu. Frankfurt: Fischer Verlag.
Nida-Rümelin, J. e Weidenfeld, N. (2018) Digitaler Humanismus: Eine Ethik für das Zeitalter der Künstlichen Intelligenz. Munich: Piper.
Richardson, K. (2022) Sex Robots: The End of Love. Cambridge: Polity Press.
Torgovnick, M. (1990). Gone Primitive. University of Chicago Press, 1990.
Weidenfeld, N.. (2007a) Entführt von Außerirdischen: Abduction Narrative als moderne.
Weidenfeld, N. (2007b) Entführt von Außerirdischen: Abduction Narrative als moderne n: Abduction Narrative als moderne Erscheinungsform puritanischer Kultur. Saarbrücken: Südwestdeutscher Verlag.
ORIGINAL:
WEIDENFELD, N. Fictionalizing the Robot and Artificial Intelligence. In: GHEZZI, C. et al. (eds.). Perspective on Digital Humanism. Springer Cham: 2022. p.97-100. Disponível em: <https://link.springer.com/book/10.1007/978-3-030-86144-5>
TRADUÇÃO:
EderNB do Blog Mathesis
Licença: CC BY 4.0
Nenhum comentário:
Postar um comentário