Perspectivas sobre o Humanismo Digital - A Construção Tecnológica da Soberania

Perspectivas sobre o Humanismo Digital

Manifesto de Viena sobre o Humanismo Digital

Parte VIII Geopolítica e Soberania Digitais

Ensaio anterior

[213]A Construção Tecnológica da Soberania

por Paul Timmers

Resumo Para legisladores, sempre foi um grande esforço fazer justiça a uma diversidade de perspectivas quando tratando de questões desafiadoras tais como regulação de acesso a mercados, investimento público em PD, desemprego de longo duração, etc. Nesse grande esforço, a tecnologia, como uma força que dá forma à economia, sociedade e democracia, na melhor das hipóteses, costumava ser considerada como um fator exógeno e, na pior, era simplesmente esquecida. Contudo, hoje em dia nós vivemos em um mundo diferente. A tecnologia é reconhecida como um motor principal. A tecnologia digital agora está nas veias, no coração e no cérebro da nossa sociedade. Contudo, a ideia de que nós podemos colocar a tecnologia em nossas mãos para dar forma à realidade, em vez de tomarmos a tecnologia como um dado, ainda não foi adotado por legisladores. Este capítulo argumenta que nós poderíamos e deveríamos dar uma sugestão mais forte sobre a tecnologia para construirmos o tipo de realidade e, em particular, o tipo de soberania ao qual nos aspiramos.

1 O Código é o Direito; o Direito é o Código

Por volta do ano 2000, Lawrence Lessig, um professor de direito de Harvard, propôs a sua famosa declaração de que “o código é o direito (code is law).” Em resumo, à época, isso foi sobre a observação de que, em uma grande medida, a maneira como a internet é tecnologicamente construída (“código” no sentido de código de software) determina as regras de comportamento na internet. O código age como direito.

Contudo, recentemente, ele antes diria: “o direito é o código (law is code).” “Direito” é aqui entendido como os requerimentos que os governos gostariam de impor ao mundo digital. Hoje em dia, esses requerimentos são sempre movidos por preocupações sobre soberania. Os governos querem mais controle sobre a segurança cibernética em 5G e abrem acesso para [214]plataformas digitais porteiras (gatekeeper).¹ Os estados sentem que eles têm de agir para proteger o seu ecossistema econômico nacional e estão preocupados sobre a erosão dos valores da sociedade, tais como a privacidade. Eles temem que a autoridade mesma do governo esteja sendo enfraquecida. Claramente, a tecnologia como dada não salvaguarda a soberania e até se tornou uma ameaça. Soberania e autonomia estratégica tornaram-se Chefsache.²

2 A Construção Social e Tecnológica da Realidade

O que está acontecendo aqui, a partir de um ponto de vista conceitual? Eu enfatizarei duas ideias, sem reivindicar nenhuma originalidade ao fazê-lo.³ A primeira é que a construção tecnológica da realidade é uma noção tão válida quanto é a construção social da realidade. A segunda é que há uma forte interação entre construção social e tecnológica (Fig. 1)

[214]Fig. 1 Construção social e tecnológica da realidade

O corolário é que o design de construtos sociais, tais como o direito, e o design de construtos tecnológicos, são capazes e podem andar de mão dadas. Ainda mais forte: ignorando essa interação, poderes explorativos (ditadores, populistas, criminosos, companhias inescrupulosas) agirão no vazio e apostarão nossas economias, sociedades e democracia.

[215]A ideia de construção social da realidade ascendeu à proeminência de 1966 a diante, graças a Peter Berger e Thomas Luckmann (1967). Desde aquela época, nós aceitamos que muito do que nós consideramos real na vida cotidiana, tais como dinheiro, valores, cidadãos ou estado, é um construto social. Isso também vale para a soberania do estado. De fato, 30 anos depois de The Social Construction of Reality de Berger e Luckman, o excelente livro State Sovereignty as a Social Construct (Biersteker e Weber 1996) foi publicado.

A realidade também pode ser tecnologicamente construída?⁴ Muito obviamente, “sim”, quando nós consideramos apenas os muitos artefatos tecnológicos a nossa volta. Esses são a realidade tecnológica tangível “como nós a conhecemos.”

Semelhante realidade social pode mesmo dar forma aos artefatos em nossa mente, tais como a nossa percepção da realidade. Jean Baudrillard, um filósofo e sociólogo francês, argumentou em seu provocativo conjunto de ensaios “The Gulf War Did Not Take Place” que essa guerra foi apresentada a nós através de tecnologia com um imaginário específico (Baudrillard 1991). Lembra-se das imagens de cabine de alvos bombardeados na mira? Para muitos elas se tornaram a realidade da Guerra do Golfo (enquanto você não estivesse no chão…). A percepção gerada tecnologicamente torna-se para sempre parte da realidade. Alguns jovens têm uma obsessão não saudável com sua imagem em mídias sociais (McCrory et al. 2020).

Mas a realidade social, os artefatos sociais, também podem ser tecnologicamente construídos? Considere “o código é o direito” de Lessig, como mencionado antes. Lessig focou-se na interação entre tecnologia e direito. É claro, o direito é uma construção social par excellence. Julie Cohen, em seu livro Between Truth and Power (2017), construiu sobre Lessig e o conceito de governamentabilidade, dos anos de 1970, de Michel Foucault (Cohen 2019). Ela analisou a interação da construção tecnológica e social na governança do desenvolvimento da lei por governos e companhias de tecnologia. Uma conclusão: a tecnologia pode ser maleável, mas tais construtos sociais são igualmente maleáveis.

3 A Construção Tecnológica da Soberania

Portanto, o que é a construção tecnológica da soberania? Soberania está falando vagamente sobre território e fronteiras, povos, “nossos” valores e recursos que “pertencem a nós.” A soberania requer legitimidade interna da autoridade em relação ao povo. A soberania também requer legitimidade externa, quer dizer, reconhecimento por outros estados (Biersteker 2012; Timmers 2019).

Primeiramente, a soberania inclui ativos que “pertencem a nós.” Esses não são apenas terra ou rios, mas cada vez mais ativos construídos tecnologicamente, notavelmente os digitais, tais como os nossos dados de saúde ou o nome do domínio de internet do país.

[216]Secundariamente, a tecnologia pode redefinir privilégios centrais do estado, tais como a identificação de cidadãos (o francês chama isso de une fonction régalienne). A identidade eletrônica ou eID levanta a questão de controle. Apenas uma identidade emitida pelo governo pode ser um eID oficial? Ela também poderia ser uma identidade autossoberana? Ou mesmo uma identidade possuída por uma plataforma como o Facebook ou Google? A fonction régalienne deveria perder a sua âncora estatal? A escolha tecnológica, em combinação com construtos sociais tais como o direito e poder de mercado, pode redefinir um aspecto central da soberania.

Em terceiro lugar, a tecnologia, em seu sentido segundo Baudrillard de intermediador para a realidade, desbloqueia a herança cultural, a qual é claramente um ativo soberano. A tecnologia, apropriadamente projetada, protege e fortalece nossos valores. A privacidade por design é uma ilustração.

E quanto às tecnologias digitais dando forma à legitimidade interna e externa, aquelas qualidades centrais da soberania? A legitimidade interna implica responsabilização e transparência da autoridade legitima. Como cidadão nós podemos ponderar: o meu processo judicial é tratado justamente? Por que eu estou sendo selecionado para escrutínio de imposto de renda? Qual servidor público está examinando meus dados pessoais?

Por um lado, a transparência pode ser possibilitada por uma arquitetura apropriada de tecnologia. A Estônia escolheu basear a sua plataforma para e-governo sobre blockchain – a qual não pode ser adulterada – por esse propósito. Por outro lado, a legitimidade interna pode ser enfraquecida pela tecnologia que, intencional ou não involuntariamente, não respeita direitos fundamentais ou humanos. Na Holanda, recentemente tecnologia “inteligente (smart),” mas discriminatória, para a detecção do uso indevido de pensão alimentícia (child support) em combinação com burocracia estrita e política cega levou a injustiça séria para milhares de cidadãos. O governo holandês falhou no caso. Ele perdeu a sua legitimidade interna.

A contraparte do controle definido por tecnologia do governo é o controle definido por tecnologia dos cidadãos. Já hoje em dia, mesmo nas sociedades livres, câmeras cada vez mais inteligentes são ubíquias. Aplicativos de COVID-19 levantaram questões sobre transbordamento de vigilância (surveillance creep) (Harari 2020). Processos democráticos em todos os lugares são intensamente formados por mídias sociais, as quais estimulam, pelo seu próprio design, a formação de câmeras de eco (echo chambers) e, por esse meio, dão origem a polarização. Estado hostis buscam enfraquecer a legitimidade mesma dos governos incumbentes fazendo uso da arquitetura da mídias sociais para espalharem desinformação. Alternativamente, as mídias sociais são colocadas sobre controle do governo para suprimir qualquer movimento de cidadãos que possa contestar o estado. Essa é a motivação principal para a censura online na China (King et al. 2014).

A legitimidade externa pode igualmente ser dada forma por tecnologia. Os reis e castelos caíram na mãos de novas tecnologias tais como a catapulta (trebuchet) e bolas de canhão. A bomba nuclear levou a França a desenvolver a sua própria capacidade atômica para salvaguardar a sua soberania. A afirmação da soberania no ciberespaço tornou-se uma guerra tecnológica onde o poder de uma nação em relação a outras está sendo definido cada vez mais pela militarização da inteligência artificial. Contudo, alguém poderia ponderar sobre qual é a natureza de uma tal IA. Como ela interpretará a agressão, e ela contra-atacará autonomamente ou não? A IA é uma tecnologia que pode assumir o controle do estado, dando forma à legitimidade externa e interna e, por esse meio, redefinir a soberania na era digital.

A construção tecnológica começa a remodelar construtos sociais tais como a soberania. O desastre é iminente. A ascensão das criptomoedas desafia os bancos centrais como uma instituição soberana. A ascensão de espaços de dados interoperáveis preocupa alguns [217]dos proprietários de dados que temem que a sua autonomia seja ameaçada. A acumulação de dados (data hoarding) por plataformas digitais faz os governos compreenderem que a sua pressuposta soberania está sempre nas mãos de corporações globais e governos estrangeiros. A tecnologia está realocando a legitimidade entre os extremos da descentralização massiva – tais como blockchain e conjuntos de dados personalizados – e a centralização massiva nas mãos de uns poucos atores que escapam do controle democrático.

4 Conclusões

O leitor, por fim tendo chegado até aqui para ler sobre alguma coisa que ela ou ele já conhecia ou, pelo menos, intuía, pode ser deixado com a questão: “então o quê?” A resposta é que a tecnologia fundamentalmente dá forma à soberania e somos nós quem podemos influenciar a formação de tal tecnologia.

Legisladores que estão preocupados com autonomia estratégica não necessitam aceitar a tecnologia “como é.” A tecnologia não é nem uma força da natureza nem apenas para ser deixada ao mercado bem para ser aceita como certa, como um fator exógeno. Legisladores podem insistir que a tecnologia (digital) seja projetada de uma maneira tal que as legitimidades interna e externa sejam fortalecidas. Pode ser requerido que a tecnologia digital seja projetada tal como para produzir ativos “que pertençam a nós” e protejam nossos valores, direitos humanos e o humanismo (TU Wien 2019).

É claro, nós então sacrificamos uma vaca sagrada, visto que nós temos de concluir que a tecnologia não é neutra. Certo. Mas há uma proposição mais radical aqui, a saber, que durante o design do direito os legisladores sentar-se-iam com os designers de tecnologia. Eles se engajariam em um diálogo sobre requerimentos de tecnologia tais como salvaguardas para soberania. Eles não ficariam satisfeitos até que houvesse uma nova garantia mútua da compatibilidade de tecnológica e direito (ou política).

Também não há necessidade de tomar o direito e a organização do governo e da administração como um dado. É claro, nós queremos estabilidade no direito. Mas se a tecnologia pode fazer um trabalho melhor, o direito-como-é não deveria ficar no caminho. Isso então conduz a uma segunda proposição radical: considerar, no design de qualquer lei, se a promoção da disrupção tecnológica deveria ser incluída nessa mesma lei. A intenção seria permitir a substituição de construtos sociais por construtos tecnológicos nessa lei. É claro, apenas com a condição de que o resultado final seja melhor.

Um exemplo seria incluir nas leis futuras que buscam salvaguardar a soberania (tais como sobre dados ou IA ou nuvem) um capítulo sobre P&D para a tecnologia respeitante da soberania, com orçamento e objetivos correspondentes. Então a mesma lei deveria prever reduzir de volta à supervisão humana seguindo a avaliação própria e exitosa da tecnologia resultante.

Design conjunto do direito e da tecnologia da maneira proposta aqui ainda não é encontrado em nenhum lugar, até onde o autor está ciente. Provavelmente ele seria visto como uma mudança radical. Mas, felizmente, este capítulo convenceu ao leitor que essa mudança é pensável, iluminante e, acima de tudo, necessária hoje em dia a fim de construir a soberania a qual nós aspiramos. Nós temos uma escolha.

[218]Referências

Baudrillard, J. (1991) La Guerre du Golfe n’a pas eu lieu. Paris: Galilée.

Berger, P. e Luckmann, T. (1967) The Social Construction of Reality. Anchor.

Biersteker, T. J. (2012) ‘State, Sovereignty and Territory’, in Carlsnaes, W. (et al.) (ed.) Handbook of International Relations. SAGE Publications Ltd.

Biersteker, T. J. e Weber, C. (1996) State Sovereignty as Social Construct, Cambridge Studies in International Relations. Cambridge: Cambridge University Press. DOI: https://doi.org/10.1017/CBO9780511598685.

Cohen J. (2019) Between Truth and Power: The Legal Constructions of Informational Capitalism. Oxford University Press.

Harari Y. (2020) ‘The world after coronavirus’, Financial Times. Disponível em: https://www.ft.com/content/19d90308-6858-11ea-a3c9-1fe6fedcca75.

King, G., Pan, J. e Roberts, M. E. (2014) ‘Reverse-engineering censorship in China: Randomized experimentation and participant observation’, Science, 345(6199), p. 1251722. doi: https://doi.org/10.1126/science.1251722.

Lessig L. (2000) ‘Code Is Law’, Harvard Magazine, (1 de janeiro de 2000). Disponível em: https://www.harvardmagazine.com/2000/01/code-is-law-html.

McCrory, A., Best, P. e Maddock, A. (2020) ‘The relationship between highly visual social media and young people’s mental health: A scoping review’, Children and Youth Services Review, 115, p. 105053. doi: https://doi.org/10.1016/j.childyouth.2020.105053.

Timmers, P. (2019) ‘Strategic Autonomy and Cybersecurity’, EU Cyber Direct, (setembro de 2017), pp. 1 – 10.

TU Wien (2019) Vienna Manifesto on Digital Humanism. Disponível em: https://dighum.ec.tuwien.ac.at/dighum-manifesto/.

Próximo ensaio

ORIGINAL:

TIMMERS, P. The Unbearable Disembodiedness of Cognitive Machines. In: GHEZZI, C. et al. (eds.). Perspective on Digital Humanism. Springer Cham: 2022. p. 213-218. Disponível em: <https://link.springer.com/book/10.1007/978-3-030-86144-5>

TRADUÇÃO:

EderNB do Blog Mathesis

Licença: CC BY 4.0

1 [214]Por exemplo, como a UE refletiu na Recomendação de Cibersegurança 5G e no Ato de Mercados Digitais.

2 GAIA-X, a iniciativa de nuvem europeia, adota (dados) soberanos por design como um princípio orientador para o desenvolvimento de software e serviço; ver Posição Franco-Alemã sobre GAIA-X, 18 de fevereiro de 2020.

3 Para as origens da ideia subjacente de construtivismo, ver Immanuel Kant, Critique of Pure Reason (1781).

4 [215]Quer dizer, a realidade dos artefatos tecnológicos, da tecnologia mediando a realidade, e da tecnologia dando forma a ou condicionando a realidade social.