Perspectivas sobre o Humanismo Digital
Manifesto de Viena sobre o Humanismo Digital
Parte II Participação e Democracia
[33]O Real Custo do Capitalismo de Vigilância: Humanismo Digital nos Estados Unidos e na Europa
por Allison Stanger
Resumo O livro de sucesso internacional The Age of Surveillance Capitalism: The Fight for a Human Future at the Frontier of Power, de Shoshana Zuboff, corretamente alarmou os cidadãos das sociedades livres sobre os usos e abusos dos seus dados pessoais. Contudo, o conceito de capitalismo de vigilância, a partir de uma perspectiva global, em última instância, mais obscurece do que revela. A ameaça real para as democracias liberais não é o capitalismo, mas as desigualdades crescentes que a vigilância corporativa, em sua forma sem restrições, tanto revela quanto exacerba. Ao não especificar não claramente os mecanismos causais dos custos negativos muito reais, Zuboff cria a impressão de que o capitalismo mesmo é o culpado (culprit), quando a fonte real do problema é a ausência de boa governança.
Embora frequentemente retratada de outra maneira, a vigilância (surveillance) em e de si mesma não é nem inerentemente boa nem má. Vigilância legal por razões de segurança nacional é essencial na proteção da pátria. A vigilância em vídeo construiu o caso contra os atacantes incendiários de 6 de Janeiro do Congresso, exatamente como as mídias sociais desempenharam um papel significante na organização daquele assédio. As mesmas mídias sociais que abastecem a publicidade microdirigida também desempenham um papel crítico na habilidade do movimento Black Lives Matter para mudar a opinião mundial sobre a importância da justiça social em um curto período de tempo de tirar o fôlego.
As grandes empresas de tecnologia não criaram o extermismo e a polarização nos Estados Unidos e na Europa, mas a coleta sem restrições de dados certamente enfraqueceu os valores humanos. O livro de sucesso internacional The Age of Surveillance Capitalism: The Fight for a Human Future at the Frontier of Power, de Shoshana Zuboff, corretamente alarmou os cidadãos das sociedades livres sobre os usos e abusos dos seus dados pessoais. À frente da curva, a Europa já deu passos inovadores com a General Data Protecion Regulation (GDPR) e o Digital Services Act (DSA) para conter as repercussões negativas de mercados não regulados. Contudo, o conceito de capitalismo de vigilância, a partir de uma perspectiva global, em última instância, mais obscure do que revela. O capitalismo não é [34]a causa da vigilância, uma vez que o mesmo movimento insaciável por dados existe em economias planejadas. A China atualmente lidera o mundo em aplicações de IA, porque ela também lidera o mundo em espionagem comercial e de segurança. A ameça real às democracias não é o capitalismo, como o título do livro de Zuboff parece implicar, mas as desigualdades crescentes que a vigilância corporativa, em sua forma presente não regulada, tanto revela como exacerba.
1 O Argumento de Zuboff
É impossível resumir facilmente o argumento complicado do livro de Zuboff. Uma longa peça de opinião de 29 de janeiro de 2021 no New York Times sugere que o pensamento de Zuboff evoliu desde de o escrever. O adjetivo “epistêmico” aparece proeminentemente nesse ensaio incomumente longo (ela usa-o 36 vezes em sua peça de 5000 palavras), contudo, a palavra “epistêmico” não aparece nenhuma vez em seu livro de 702 páginas.1 Dessa maneira, esse ensaio parece vital para o entendimento das suas visões correntes, após decadas de pesquisa, sobre alguns dos aprendizados de sua magnum opus (Zuboff 2019, 2021).
Na peça do New York Times, Zuboff argumenta que o mundo atualmente está experienciando tanto “caos epistêmico” quanto um “golpe epistêmico.” As grandes companhias de tecnologia (Big Tech) executaram um silencioso golpe epistêmciao, Zuboff adverte, no qual nós temos prestar muita atenção se nós devemos sustentar a democracia. “Em uma civilização da informação, as sociedades são definidas por questões de conhecimento – como ele é destribuído, a autoridade que governa a sua distribuição e o poder que protege essa autoridade,” Zuboff escreve. “Quem conhece? Quem decide quem conhece? Quem decide quem decide quem conhece? Os capitalistas de vigilância agora guardam as respostas para cada questão, embora nós nunca elegemos eles para governar. Essa é a essência do golpe epistêmico” (Zuboff 2021).
O golpe epistêmico de Zuboff procede em quatro estágios. O primeiro é a “apropriação dos direitos epistêmicos.” O segundo envolve uma ascenção na desigualdade epistêmica, “A diferença entre o que eu conheço e o que pode ser conhecido sobre mim.” O terceiro e atual estágio é um de “caos epistêmico”, que é o resultado de manipulação coordenada anterior; esse é o estágio onde há desacordo sobre a verdade que não pode ser superado. O quarto é a dominância epistêmica, efetivamente a institucionalização de governo computacional pelo “capital de vigilância privada.” O caos epistêmico refletido no assédio à capital no 6 de janeiro, de acordo com Zuboff, foi um tiro de alerta (Zuboff 2021).
Quem ou o que está conduzindo esse pesadelo epistêmico sequencial? Presumivelmente, os apropriadores são capitalistas de vigilância privada, e a implicação é que Zuboff está montando um argumento marxista, visto que ela parece apontar um dedo diretamente para o capitalismo mesmo. Ela também vê a CIA e NAS – ou seja, o governo – como parte do capitalismo de vigilância. É esse o estado profundo (deep state) como o comitê executivo da burguesia (bourgeoisie)? Embora referências a Marx apareçam proeminentemente no livro de Zuboff, elas não [35]são mencionadas no ensaio do New York Times, sugerindo que o capitalismo mesmo não é o problema. Mas se o motivo do lucro capitalista não é o problema, qual é? O que qualquer coisa dessas tem a ver com epistemologia? Dados massivos (Big data) em e de si mesmos não são conhecimento. A interpretação dos dados produz conhecimeno em vez de mero ruído. Quem são esses criadores de conhecimento? É Zuboff um deles?
2 O que a Metáfora do Capitalismo de Vigilância obscurece
Os conceitos de Zuboff de capitalismo de vigilância e de um relacionado golpe epistêmico colocam obstáculos ao entendimento, pelo menos por quatro razões. Primeiro, golpes (coups), os quais envolvem as forças armadas, têm objetivos claros em mente. Eles envolvem uma intenção de capturar o poder. As forças armadas não sancionaram o poder ascendente do Facebook e do Google. Sim, o Facebook conhece mais sobre nós do que conhecemos sobre nós mesmos e uns sobre os outros, e ele interrompeu as comunicações de Donald Trump exatamente como as forças armadas fecharão aeroportos e todas as comunicações nas repercussões de um golpe. Mas não apenas as forças armadas não estão envolvidas em nada disso, não há nada para impedir Donald Trump ou qualquer um de nós, de nos comunicarmos por meios alternativos. Trump ainda pode enviar um e-mail em massa (mass email), e nós ainda podemos deletar e bloquear, ou simplesmente migrar para outra plataforma. Facebook e Twitter parecem ter total domínio da informação apenas quando nós os permitimos fazer isso. Nós estamos escolhendo permitir às empressas mercantilizar os nossos dados pessoais e usar-nos dessa maneira.
Segundo, há uma diferença entre vigilância voluntária e involuntária, entre se o cidadão voluntaria a informação ou se a tem capturada por uma empresa ou agência governamental. A partir de uma perspectiva estrangeiro, a NSA conduz vigilância involuntária quando ela explora a interpretação da Corte da Quarta Emenda, a qual proíbe buscas e apreensões sem justa causa, como não se estendendo a estrangeiros. De acordo com a existente intepretação constitucional americana, cidadãos americanos têm direito à privacidade; cidadãos não americanos, não. Talvez estendendo as proteções da Quarta Emenda a europeus seja uma mudança promissora a considerar, mas então, a questão que corretamente surge é porque os europeus deveriam receber um privilégio que não europeus não recebem. A jurisprudência do status quo tem a virtude de ser não discriminatória, visto que ela se aplica a todos os não cidadãos. Adicionalmente, consumidores podem voluntariar os seus dados pessoais ao Facebook em troca do uso da plataforma, mas o consentimento inicial, no futuro, poderia ser julgado involuntário, quando o Facebook vende os dados a terceiros ou permanece como um porteiro (gatekeeper) para o uso de outras aplicações requerendo um login do Facebook.
Terceiro, em vez dos governos e das empresas serem coconspiradores no capitalismo de vigilância, como Zuboff sugere, é possível encontrar numerosas instâncias onde grandes empresas de tecnologia e governos têm estado em desacordo, tanto dentro dos Estados Unidos quanto, especialmente, quando alguém estende a sua visão além das fronteiras americanas. Twitter e Facebook banindo o presidente americano anterior das suas plataformas é o exemplo [36]mais recente do primeiro caso. A miríade de maneiras que as economias capitalistas da Europa continental e da União Europeia têm desafiado os excessos do capitalismo de vigilância através de legislação nacional e da UE são evidência contra uma conspiração governamental-empresarial. Se houve um golpe epistêmico, como Zuboff argumenta, os governos democráticos claramente não estão inteiramente participando.
Finalmente, o capitalismo de vigilância sugere que há alguma coisa intrínseca ao capitalismo que está animando a coleta de dados, quando esse não é o caso. Embora a sua economia certamente tenha algumas características capitalistas, as intervenções do Partido Comunista Chinês na vida econômica são incompatíveis com o capitalismo. A reestruturação do império corporativo do cofundador do Alibaba, Jack Ma, por Beijing, é um caso relevante (Zhong 2021). O Brain Project chinês, o qual envolve as forças armadas chinesas, coleta dados do Baidu que abastecem o controverso Sistema de Crédito Social da China, projetado para recompensar o comportamento “pró-social” e punir o “antissocial.” A China também aparentemente está interessada em aumentar experiência em modificação do comportamento americano, e os americanos têm voluntariado de bom grado os seus dados pessoais para o uso chinês em troca do uso do aplicativo popular TikTok, o qual foi banido da Índia por razões de segurança nacional. Contudo, pode ser o caso de que assegurar dados americanos para treinar algoritmos para manipular ou vender melhor para americanos seja necessário. Um estudo multinacional de 2007 descobriu que o inventório de personalidade dos Cinco Grandes OCEAN, o qual foi explorado tão brilhantemente pela Cambridge Analytica para interferir na eleição presidencial americana de 2016, é “robusto através das áreas principais do mundo” (Schmitt et al. 2007).
Portanto, ao mal caracterizar a natureza do problema, Zuboff deixar escapar a história real. Golpes são intencionais, e, se alguma coisa, as empresas de tecnologia não desejam o poder político que inadivertidamente foi acumulado para elas através do seu monopólio da informação. Mark Zuckerberg e outros titãs da tecnologia, repetidamente, têm afirmado que eles querem se apropriar da regulamentação governamental, mas têm sido forçados a fazer o melhor que eles podem com autorregulação até que o governo assuma novamente o seu papel apropriado como superintendente e promotor do bem maior. Os problemas inerentes com autorregulação são óbvios. Mas não é difícil ver que o governo tem sido lento para chegar a um acordo com a transformação dramática da esfera pública da democracia através de inovação tecnológica.
Para resumir, as grandes empresas de tecnologia não orquestraram um golpe; elas são miopicamente otimizadas para o valor dos acionistas às custas da vida cívica. Elas têm criado produtos para os filhos dos outros que elas não não querem que os seus próprios filhos usem (The Social Dilemma 2020). Adicionalmente, essas empresas não encurralaram o mercado do conhecimento, como a palavra epistêmico sugere, mas dos dados, e dados podem enganar tão facilmente quando eles podem informar.
[37]3 Sociedades Abertas versus Fechada: Considerar a China
Ao falhar em especificar os mecanismos causais dos custos negativos muito reais que ela idenitifica, Zuboff cria a impressão de que o capitalismo mesmo é a causa para o problema, quando a fonte real do problema é a ausência de boa governança. Culpar o capitalismo em si mesmo está mal colocado, porque nós estamos no meio de uma transformação que desafia a nossa capacidade cognitiva existente, com ou sem IA. O movimento para a nuvem, um mercado no qual a Amazon está apostando pesadamente, apenas exacerba as tendências antidemocráticas às quais os governos democráticos têm sido lentos para reagir – mas são capazes de o fazer.
Contudo, a linha base de Zuboff sublinha um desafio eminente para as sociedades abertas e a democracia: a aceleração da competição entre os Estados Unidos e a China em aplicações de IA e as implicações potenciais que a disputa tem para os direitos inalienáveis em uma democracia liberal. O regime chinês é um exemplo do que a filósofa Elizabeth Anderson chamado de governo privado. A característica distintiva do governo privado é que ele não reconhece uma esfera pública, protegida e livre de sanção ou supervisão da elite (Anderson 2017, p.37). O governo privado é sempre autoritário, uma vez que ele não valoriza noções liberais de responsabilização democrática. “Governo privado,” Anderson escreve, “é governo que tem poder arbitrário, não responsabilizável, sobre aqueles que ele governa” (Anderson 2017, p.45). Os fins do governo comunista, Anderson continua, não são nem a liberdade nem a igualdade, mas “o progresso utilitarista e a perfectibilidade de seres humanos sob a força do governo privado” (Anderson 2017, p.62).
Para Anderson, a única maneira de preservar e proteger tanto a igualdade quanto a liberdade é tornar o governo um assunto público, responsabilizável, para o governado. Nessa visão, a transição da monarquia para a democracia liberal envolveu gradualmente a substituição do governo privado pelo governo público. O governo público utiliza o governo da lei e direitos constitucionais substantivos para avançar e proteger as liberdades e interesses dos governados em vez dos governantes (Anderoson 2017, pp. 65-66).
Em contraste, o governo é fechado na China, porque a liderança chinesa rejeita a ideia mesma de que a invasão nos direitos indivíduais pelo Partido possa ser inapropriada ou indesejável. Falando na Kennedy School em fevereiro de 2020, o antigo direitor do FBI James Comey identificou essa diferença como o lugar onde as negociações com a China sobre a transferência de tecnologia tipicamente colapsam. Os chineses não entendem a distinção americana entre tecnologia para usos privados e para usos públicos (o último sendo o espaço potencial regulável, a partir de uma perspectiva america)(Comey 2020). A mesma recusa para distinguir entre os reinos privado e público subjaz à política de um filho e os correntes esforços do governo para encorajar mulheres solteiras a casarem e terem filhos da China. Uma vez que a ideia mesma de um direito à privacidade pressupõe uma distinção público-privada, a privacidade na China é facilmente sacrificada no altar da segurança nacional e dos objetivos sociais. Dessa maneira, há um problema de alinhamento de valores para as aplicações de IA em sociedades abertas, o qual não existe na China (Lanier e Weyl 2020; Stanger 2021).
[38]A adoção chinesa de um munto automatizado possibilitado por aprendizagem estatística de máquina está em desacordo com a ideia mesma de governo baseado em direitos públicos e individuais, onde todos são iguais diante da lei. Em outras palavras, o Ocidente não pode fazer o que a China está fazendo com IA sem comprometer valores democráticos liberais centrais. Em sua primeira Twon Hall, o Presidente Biden sugeriu que tanto ele quanto Xi entendem a significância dessa separação de valores: “O princípio central de Xi Jinping é que tem de haver uma China unida, rigidamente controlada. E ele usa sua justificativa para as coisas que ele faz baseadas sobre ela. Eu aponto isso para ele, nenhum Presidente americano pode ser sustentado como um presidente se ele não refletir os valores dos Estados Unidos. E assim a ideia de que eu não vou falar contra o que ele está fazendo em Hong Kong, o que ele está fazendo com os Uyghurs nas montanhas ocidentais da China, e Taiwan, tentando findar a política de Uma-China ao torná-la forçada, eu disse – a propósito, ele disse que ele entende” (Biden 2021).
4 O que as Sociedades Abertas têm de fazer para permanecerem assim
Certamente é verdadeiro que as pessoas não podem governar a si mesmas se incapazes de distinguir fato de ficção. Por causa da possibilidade de democracia iliberal (Trump é uma exibição), nós deveríamos não estar interessados apenas na democracia, mas na qualidade da democracia. Há uma ligação real entre democracia liberal e educação, a habilidade de distinguir verdade de mentiras, para respeitar a ciência e investigação livre. O problema é a exploração de dados pessoais para mudar o comportamento, não os dados massivos em si mesmos, os quais pode ser dispostos igualmente para fins positivos e negativos (Guszcza et al. 2014).
O custo real do conjunto de tendências em movimento que Zuboff chama de capitalismo de sobrevivência é a crescente desigualdade de conhecimento que desestabiliza a democraia liberal. Essas crescentes lacunas de poder existem igualmente em níveis nacional e global. Elas existem entre os povos e as elites, entre as mais poderosas empresas de tecnologia e os governos que buscam regulá-las, e entre as empresas e o produto delas, que é você. Com a GDPR e a DSA, a Europa fornece um laboratório para a promoção de maior igualdade em uma economia global transformada. Ao pensar sobre o futuro da seção 230 do Communications Decency Act de 1996, a América faria bem em analisar os dados europeus já disponíveis.
O poder desproporcional do Vale do Silício não é imperial, porque ele não é manejado via Washington; em vez disso, recentemente, o Vale do Silício silenciou um presidente dos EUA. Tanto a Europa quanto os Estados Unidos têm um interesse compartilhado na educação dos cidadãos para votarem com ações quanto a planificar o campo de jogo naqueles países onde o impacto das grandes empresas de tecnologia é superdimensionado e abafa a inovação nativa. Mercados de terceiros (third-party markets) de dados pessoais podem ser regulados. Com a nova administração Biden no comando, há uma séria oportunidade para colaboração europeio-americana sobre inovação em IA para reprimir o ascendente autoritarismo digital. Tem de haver espaço para maior colaboração sobre produtos que podem ser customizados para satisfazer às diferentes necessidades locais. O atual processo legal americano contra o Facebook, que o acusa de ilegalmente comprar os seus rivais (Instagram e WhatsApp), também é alguma coisa para observar. Quarenta estados dos EUA impetraram o processo, e o bem sucedido caso antitruste contra a Microsoft nos anos de 1990 também foi um produto do [39]envolvimento extensivo dos advogados-gerais dos estaso no processo de litígio (Kang e Isaac 2020).
A redução da desigualdade social que tem como premissa a desigualdade de conhecimento diante da mudança tecnológica acelerada é um desafio compartilhado. Os nossos mais urgentes problemas têm dimensões globais, os quais fornecem solo fértil para cooperação em vez de confrontação.2 Para os Estados Unidos, a propriedade pessoal dos dados, o direito a ser esquecido, educação liberal e insistência em maior transparência em julgamentos algorítmicos são lugares promissores para começar (Lanier 2014; Post 2018). Tanto a Europa quanto os Estados Unidos têm de reimaginar o governo democrático baseado em direitos, no qual cada ser humano é digno de educação, trabalho e saúde, para a era de informação global. Como o Relatório Final de março de 2020 da Comissão de Segurança Nacional sobre Inteligência Artificial dos EUA escreve, “Nós queremos que os Estados Unidos e seus aliados existam em um mundo com um conjunto diverso de escolhas em infraestrutura digital, comércio eletrônico e mídias sociais que não será vulnerável a coerção autoritária e que suporte liberdade de expressão (free speech), direitos individuais, privacidade e tolerância com visões diferentes” (Schmidt et al. p.28). Esse é um formidável empreendimento educacional e político, um melhor enfrentado colaborativamente com outras sociedades abertas, mas é essencial se nós devemos construir um futuro que promova o florescimento humano de todso, não apenas das elites do conhecimento.
Referências
Anderson, E. (2017) Private government. Princeton: Princeton University Press.
Biden, J. (2021) CNN Town Hall Meeting, 16 de fevereiro de 2021. Transcrição disponível em: https://www.newsweek.com/joe-biden-cnn-town-hall-transcript-full-trump-vaccines-1569872 (Acessado em: 13 de abril de 2021)
Comey, J. (2020) Speech at Harvard Kennedy School Forum, 24 de fevereiro de 2020.
Guszcza, J., Schweidel, D. e Dutta, S. (2014) “The personalized and the personal: Socially responsible innovation through big data,” Deloitte Review (14), 18 de janeiro de 2014. Disponível em: https://www2.deloitte.com/us/en/insights/deloitte-review/issue-14/dr14-personalized-and-personal.html (Acessado em: 13 de abril de 2021)
Kang, C and Isaac, M. (2020) “US and states say Facebook illegally crushed competition,” New York Times, 9 de dezembro. Available at: https://www.nytimes.com/2020/12/09/technology/facebook-antitrust-monopoly.html?referringSource=articleShare (Acessado em: 13 de abril de 2021)
Lanier, J. (2014) Who owns the future? New York: Simon and Schuster.
Lanier, J. and Weyl, G. (2020). “AI is an ideology not a technology,” Wired, 15 de março. Disponível em: https://www.wired.com/story/opinion-ai-is-an-ideology-not-a-technology/ (Acessado em: 13 April 2021)
[40]Post, R. (2018) “Data privacy and dignitary privacy: Google Spain, the right to be forgotten, and the construction of the public sphere,” Duke Law Journal (67), pp. 981-1072.
Schmidt, E. et al. (2021) Final report, National Security Commission on Artificial Intelligence. Disponível em: https://www.nscai.gov/wp-content/uploads/2021/03/Full-Report-Digital-1.pdf (Acessado em: 13 de abril 2021)
Schmitt, D. et al. (2007) “The geographic distribution of big five personality traits,” Journal of Cross-Cultural Psychology, vol. 38 (2), pp. 173-212. Disponível em: https://www.toddkshackelford.com/downloads/Schmitt-JCCP-2007.pdf (Accessed: 13 April 2021)
The Social Dilemma (2020) Dirigido por Jeff Orlowski (documentário). Documentátio orginal da Netflix.
Stanger, A. (2021) “Ethical challenges of machine learning in the US-China AI rivalry,” manuscripto não publicado.
Zhong, R. (2021) “Ant Group announces overhaul as China tightens its grip,” New York Times, 12 de abril. Disponível em: https://www.nytimes.com/2021/04/12/technology/ant-group-alibaba-china.html (Acessado em: 13 de abril de 2021)
Zuboff, S. (2019) The age of surveillance capitalism: The fight for a human future at the frontier of power. New York: Public Affairs.
Zuboff, S. (2021) “The coup we are not talking about,” New York Times, January 29. Disponível em: https://www.nytimes.com/2021/01/29/opinion/sunday/facebook-surveillance-society-technology.html (Acessado em: 13 de abril de 2021)
ORIGINAL:
STANGER, A. The Real Cost of Surveillance Capitalism: Digital Humanism in the United States and Europe. In: GHEZZI, C. et al. (eds.). Perspective on Digital Humanism. Springer Cham: 2022. p.33-40. Disponível em: <https://link.springer.com/book/10.1007/978-3-030-86144-5>
TRADUÇÃO:
EderNB do Blog Mathesis
Licença: CC BY 4.0
1 [34]Aparentemente, esses direitos epistêmicos são autoevidentes, uma vez que eles nunca são definidos.
2 [39]Zuboff escreveu outra peça de opinião no New York Times, a qual foi publicada em 24 de janeiro de 2021. Ela identifica a desigualdade epistêmica como o dano social e político de maior preocupação. Cinco dias depois, ela publicou sua segunda peça de opinião, analisada acima, tendo como alvo o golpe epistêmico. Tomadas juntas, as duas peças sugerem remédios políticos muito diferentes. Ver https://www.nytimes.com/2020/01/24/opinion/sunday/surveillance-capitalism.html.
Nenhum comentário:
Postar um comentário