Perspectivas sobre o Humanismo Digital
Manifesto de Viena sobre o Humanismo Digital
Parte III Ética e Filosofia da Tecnologia
[89]Nosso Espelho Digital
por Erich Prem
Resumo O mundo digital tem uma forte tendência a deixar que tudo em seu reino apareça como recursos. Isso inclui o discurso público digital e os seus principais criadores, os humanos. No reino digital, os humanos constituem o fim econômico e, ao mesmo tempo, fornecem os meios para satisfazer esse fim. Um bom exemplo é o caso do discurso público online. Ele exemplifica uma gama de desafios, desde o abuso do usuário à acumulação de poder, dificuldades em regulamentação e tomada de decisão algorítmica. Em sua raiz jaz a percepção natural dos humanos como recursos econômicos e de informação. Dessa maneira, a tecnologia fornece a nós um espelho do que nós somos como humanos. Ela também fornece um ponto de partida para discutir questões tais como; quem nós gostaríamos de ser – incluindo digitalmente, qual próposito nós deveríamos perseguir e como nós deveríamos viver a boa vida digital?
Para Antoine de Saint-Exupery (1939), os aviões podem tornar-se uma ferramenta para conhecimento e para o autoconhecimento humano. O mesmo é verdadeiro para as tecnologias digitais. Nós podemos usar o digital como um espelho que reflete uma imagem do que nós somos como humanos. E, quando nós olhamos de perto, ele pode torna-se uma oportunidade para dar forma a quem nós somos de maneiras que nos tornam mais atrativos.
Talvez seja surpreendente falar sobre atração no contexto do humanismo digital. Muito do seu discurso até agora é sobre as desvantagens das tecnologias digitiais: estranhamento humano, poder monopolista, vigilância sem precedentes, ataques a segurança e outras formas de abusos. Contudo, o discuro do humanismo digital não é inteiramente negativo. Os seus proponentes acreditam em progresso através da inlusão dos meios tecnológicos. Ele é um empreendimento construtivo e reconhece que muitas coisas boas vieram de tecnologias digitais. Ainda assim, o humanismo digital demanda melhor tecnologia e uma forma aperfeiçoada de dar forma ao nosso futuro com a ajuda de ferramentas digitais. Ele demanda tecnologias que deem forma de acordo com valores e necessidades huamnos em vez de permitir às tecnologias darem forma aos humanos de maneiras frequentemente imprevisíveis e indesejáveis.
[90]Contudo, relativo ao humanismo digital, um programa de avanço apenas técnico falharia em sua ambição real. Embora tecnologicamente dirigido e prosseguindo com a intenção de melhorar a tecnologia, o humanismo digital, mais frequentemente, problematiza as relações ciência-tecnologia, as atitudes humanas e os conceitos fundamentais que viemos a aceitar como garantidos. No humanismo digital, o digital torna-se o espelho que imprime em nós mesmos um retrato de quem nós somos e permite que nós compreendamos o que nós deveríamos mudar - sobre nós, sobre a tecnologia e sobre as vidas que nós vivemos.
A pervasividade e ubiquidade da tecnologia digital significa que quase exatamente tudo que está sujeito à digitalização também está sujeito aos seus poderes transformacionais. Conceitos centrais das nossas vidas – tanto privadas quanto profissionais – tornaram-se transformados quando, aparentemente, eles foram apenas digitalizados. A colaboração agora está acontecendo em diretórios compartilhados, encontrar pessoas novas é mediado por aplicativos e configurações de preferência, notícias tornam-se janelas pop-up e museus organizam dados. A inteligência é alguma coisa que as máquinas exibem, e o xadrez tornou-se uma tarefa de cálculo formal, em vez de um jogo de mesa, desde aproximadamente os anos de 1970. É como se nós tivessemos de reinventar o mundo inteiro no digital novamente e examinar os seus valores e implicações para as nossas vidas. Um bom exemplo é o caso do discurso público, certamente, também, uma característica da nova esfera digital.
1 O Exemplo do Discurso Online
O advento da internet impactou signficativamente a maneira como nós falamos em público. Desde os grupos de notíciais (newsgroups) iniciais até as redes sociais online de hoje em dia, esse desenvolvimento merece a sua própria investigação mais minuciosa. Hoje em dia, o discurso público sem o digital se tornou bastante impensável. Ao mesmo tempo, o fenômendo do discurso online agora é uma preocupação principal de legisladores, assim como de pensadores críticos, pesquisadores e muitos cidadãos. As suas desvantagens, desde notícias falsas (fake news) até câmaras de eco (echo chambers), desde influência política estrangeira à pentração de conteúdo ilegal, devem ser censuradas em sua forma digital, consequentemente, na tecnologia. Alguns desafios-chave incluem os seguintes:
Plataformas exploram o discurso para guiarem o comportamento do usuário. Elas podem priorizar conteúdo emocional em vez de fatos, cutucar (nudge) usuários para permanecerem online, e tornar-se maneiras viáveis para influenciarem o comportamento do usuário, incluindo decisões políticas.
Algoritmos supervisionam e policiam o conteúdo online contribuído por usuários com o objetivo de detectarem matéria ilegal, identificarem infrações de propriedade intelectual, remover o que pode ser considereado prejudicial, etc.
Há um massivo deslocamento de poder sobre o controle do discurso, dos tradicionais administradores do discurso público, tais como meios de comunicação (media), políticos e pensadores, para as plataformas digitais.
O discurso público tem se provado enormemente difícil de regular por qualquer país sozinho. As únicas exceções são através de investimentos massivos em vigilância, censura, e limitações severas da liberdade de expressão, por exemplo, na China.
[91]O discurso gerado por usuário fornece às plataformas grandes montantes de dados para aprenderem, construirem modelos, predizerem comportamento e gerarem lucro de várias maneiras, incluindo publicidade direcionada baseada em predição comportamental.
De forma alguma esses desafios são únicos ao discurso público online. Nós encontramos desolcamentos massivos na direção de plataformas por todo o mundo dos negócios de internet; geralmente, as plataformas têm se provado difíceis de regular – não apenas com discurso público; a tomada de decisão algorítmica afetando humanos acontece através de uma ampla gama de aplicação; a coleta de dados de todos os tipos por dispositivos eletrônicos jaz na raíz do capitalismo de vigilância; e a atração de usuários para permanecerem online através de direcionamento emocional acontece através de uma gama de mídias online hoje em dia. O discurso público online é realmente apenas um exemplo, embora um que é pervasivo em todas as sociedades por todo o mundo.
Além das preocupações listadas, o discurso público online parece afetar os membros de sociedades em seu senso de pertencimento. A natureza individual do discurso direcionado a pessoas, a sua caracterísita de entretenimento, e a qualidade autorrealizável do comportilhamento e da criação do conteúdo opnativo enfraqueceu severamente visões compartilhadas, narrativas coletivas e percepções comunitárias. Foi sugerido que o discurso digital apenas envolve um público “simulado.” Análises anteriores da cultura digital focaram-se mais sobre a criação de novas comunidades assim como sobre a referencialidade e algoritmidade (Stalder 2016) como formas de criação de um entendimento compartilhado. Contudo, hoje em dia, os algoritmos de moderação do discurso reforçam o monólogo individualizado no qual as referências servem para propagar as opiniões de um indivíduo e conduzem à frequentemente diagnosticada fragmentação da sociedade. Dessa maneira, o discurso no mundo digital corre o risco de colocar em perigo o bem comum (common good), não porque ele ataca qualquer bem especificamente, mas poque enfraquece o conceito dos bens comuns (commons). Ele limita o que é compartilhado entre as pessoas e, dessa maneira, o que contribui para a formação de um coletivo social. Esse ainda é outro caso das tecnologias não apenas mudando o comportamento humano, mas mudando a essência mesma de conceitos-chave de maneiras frequentemente inesperadas e imprevistas.
Um tópico recorrente no humanismo digital é aquele da primazia da ação ou quem dá forma a quem: a tecnologia está dando forma aos humanos ou deveriam as tecnologias serem projetadas de acordo com necessidade e valores humanos? Infelizmente, questões em tecnologias digitais nunca são tão simples, e há uma influência mútua das duas esferas. No humanismo digital, esse fenômeno é chamado de coevolução. Quando a coevolução afeta conceitos básicos, tais como o discurso, parece fútil reparar esses deslizes de conceitos e os desafios que eles criam apenas pela correção de tecnologias. Muito além da coevolução, há uma questão mais profunda, mais filosófica a perguntar. Ela diz respeito a uma questão de escolha e decisão: como nós queremos ser como humanos? Ela diz respeito a escolhas éticas sobre a boa vida digital tanto quanto diz respeito ao design da nossa tecnosfera. Para permanecer com o exemplo do discurso online, o digital então coloca a questão de qual tipo de discurso nós queremos, ou talvez, mais ontologicamente, qual discurso deveria ser?
Por exemplo, alguns legisladores e proprietários de plataforma sugerem usar algoritmos para melhorar o discurso online. A ideia é que a inteligência artificial remova conteúdo [92]ilegal e muito parece sugerir que qualquer conteúdo que seja potencialmente prejudicial deveria ser removido. Entquanto o primeiro é usualmente definido em textos e na prática legais, o segundo é tipicamente mal definido e jaz ao arbítrio das redes. As discussões resultantes de parlamentos democráticos e think-tanks não governamentais, então, dizem respeito à liberdade de expressão como um direito básico ou humano, à censura, à regulação, etc. (Cowls et al. 2020). Embora essas sejam discussões importantes e difíceis, uma linha mais essencial de pensamento é requerida, a saber, a questão de quais deveriam ser as qualidades essenciais do discurso online? É outra característica típica das tecnologias digitais que nós raramente podemos eliminá-las uma vez que elas tenham sido lançadas. Portanto, nós temos de ter discussões produtivas, olhando para o futuro. Isso pode incluir um debate sobre quanto “prejuízo” um discurso pode ter de incluir para ser produtivo, para estimular ou para provocar. Nós temos de discutir não apenas as qualidades formais do discurso, mas qual deveria ser o seu propósito, quem deveria tomar parte e a quem ele deveria servir?
2 Discourso em Andaimes
As razões para os desafios das tecnologias digitais não se enraízam exclusivamente no fato de que elas são digitais enquanto opostas a analógicas, nem elas jazem em sua natureza ubíqua e na facilidade com a qual as tecnologias digitais podem manejar grandes números. Os desafios enraízam-se em como elas afetam as nossas concepções básicas do mundo. Embora as características técnicas sejam importantes, correntemente, há uma escala sem precedentes de como o digital facilita ganhos comerciais de um caráter específico. Nós mencionamos como o discurso online fornece uma base para propaganda direcionada, para coleta de dados e para a construção de modelos comportamentais predizíveis. Essa exploração do discurso online deixa as discussões aparecerem como um recurso na esfera digital. Dessa maneira, a perspectiva digital (da plataforma) considera a linguagem humana a partir do ponto de vista da observabilidade e previsibilidade. A esfera online digital resultante consiste em (principalmente) humanos que fornecem recursos linguísticos e em sua presença online, e dos negócios requerendo que os humanos deveriam preditos e tidos como alvo na publicidade. Nesse discurso, os humanos tornam-se um recurso no reino digital.
Uma semelhante perspectiva focada em recursos não é única à tecnologia digital. Tão cedo quanto 1945, Heidegger sugeriu que essa maneira de deixar que tudo apareça como um recurso jaz na natureza mesma da tecnologia moderna (Heidegger 1954). Na terminologia dele, a tecnologia deixa tudo se tornar parte de um enquadramento (enframing) (“Ge-stell”) como recurso (“Bestand”). Heidegger usa o exemplo do rio que aparece como uma fonte de energia, uma vez que nós começamos a construir estações elétricas. A digitalização não apena fornece tal enquadramento para vários objetos e fenômenos em nosso ambiente; adicionalmente e muito mais do que antes, tecnologias mais antigas nos enquadram (enframes) como humanos. É perplexo que no reino digital o humano é igualmente a fonte e a fossa (sink). Os humanos constituem o fim econômico e, ao mesmo tempo, fornecem os meios para satisfazerem esse fim. Os humanos equivalem a reserva na extensão que eles são simplesmente ou dados ou geradores de dinheiro. A partir de um ponto de vista econômico, Zuboff (2019) identificou um conceito similar à deriva subjazendo ao capitalismo de vigilância. É um entendimento [93]forte e impactante de humanos dirigidos pelo mundo online comercial. É comecialmente atrativo e promissor com a sua dupla tomada sobre os humanos como um recurso.
A engenharia pode sempre implicar “uma certa concepção do humano” (Doridot 2008), mas nós temos escolhas. Por exemplo, nem todo discurso público tem de aceitar uma virada tão instrumentalista. Como outras atividades humanas, nós podemos escolher o propósito do nosso discurso. Algumas formas de discussões públicas online são projetadas para facilitarem diálogos entre grupos de falantes altamente engajados de uma comunidade local (por exemplo, Rede de Vozes Locais do MIT – https://lvn.org/). Outros são orientados a solução e objetivo e vivem uma prática de contribuições focadas (por exemplo, a rede orientada a negócios e a empregabilidade do LinkedIn). Tais exemplos sugerem que há maneiras de facilitar o discurso online menos inclinadas a bolhas de filtro, câmaras de eco, notícias falsas, etc, e talvez mesmo em cenários de negócios. E também revela como propósitos podem ser projetados em linha com as necessidades humanas; de fato, propósitos são inteiramente criados por humanos.
Nós ainda temos de nos focar na tecnologia, ocasionalmente recuar diante de mídias sociais, reformar seu modo de funcionamento, e exercer restrição como Deibert (2020) sugere. Contudo, entender que alguns tipos de discurso emergem a partir da instrumentalização de usuários, transformando-os em alvos e explorando-os como recursos, significa entender não apenas a tecnologia, mas a nós mesmos. Portanto, a tecnologia é o espelho que nos apresenta uma imagem de nós mesmos que nós podemos considerar não inteiramente atraente. Nós também podemos encontrar algum alívio em Heidegger, quem cita Hölderlin: “Mas onde o perigo está, cresce também o poder salvador.” Isso sugere que o enquadramento também revela a verdade sobre a qual nós podemos construir se nós desejamos superar o perigo presente. E erguidas de volta ao nível do humanismo digital, as questões então se tornam quem nós gostaríamos de incluir digitalmente, qual o propósito que nós perseguimos, e como nós podemos viver a boa vida digital? Finalmente, nós também temos de encontrar boas respostas para a questão; quem somos “nós”?
Referências
Cowls J., Darius P., Golunova V., Mendis S., Prem E., Santistevan D., Wang W. (2020). Freedom of Expression in the Digital Public Sphere [Policy Brief]. Research Sprint on AI and Content Moderation. Recuperado de https://graphite.page/policy-brief-values
De Saint-Exúpery A. (1939) Wind, Sand und Sterne (Terre des hommes.) Düsseldorf: Karl Rauch. Deibert R.J. (2020) Reset. Toronto: House of Anansi Press.
Doridot F. (2008) Towards an ‘engineered epistemology’? Interdisciplinary Science Reviews, 33:3, 254-262, DOI: https://doi.org/10.1179/174327908X366941.
Heidegger M. (1954) Die Frage nach der Technik. (The question concerning technology.) Vorträge und Aufsätze. (1990), Pfullingen: Neske.
Stalder F. (2016) Kultur der Digitalisierung. (Culture of digitization.) Frankfurt/Main: Suhrkamp.
Zuboff S. (2019) Surveillance capitalism. London: Profile books.
ORIGINAL:
PREM, E. Our Digital Mirror. In: GHEZZI, C. et al. (eds.). Perspective on Digital Humanism. Springer Cham: 2022. p.89-94. Disponível em: <https://link.springer.com/book/10.1007/978-3-030-86144-5>
TRADUÇÃO:
EderNB do Blog Mathesis
Licença: CC BY 4.0
Nenhum comentário:
Postar um comentário