Perspectivas sobre o Humanismo Digital
Manifesto de Viena sobre o Humanismo Digital
Parte XI Realizando o Humanismo Digital
[317]Humanismo Digital: Navegando através das Tensões à Frente
por Helga Nowotny
Resumo A suposição por parte do humanismo digital de que uma abordagem centrada no humano é possível no design, uso e desenvolvimento adicional da IA implica um alinhamento com valores humanos. Se o objetivo mais ambicioso de construir uma boa sociedade digital ao longo do caminho coevolucionário entre humanos e as máquinas digitais inventadas por eles deve ser alcançado, tensões inerentes devem ser confrontadas. Algumas delas são o resultado de desigualdades já existentes e interesses econômicos, sociais e políticas divergentes, exacerbados pelo impado de tecnologias digitais. Outras surgem a partir da questão do que nos torna humanos e como a nossa interação com máquinas digitais muda a nossa identidade e relações uns com os outros. Se o humanismo digital deve suceder, um conjunto amplamente compartilhado de práticas e atitudes é necessário para nos sensibilizar para a diversidade de contextos sociais nos quais as tecnologias digitais são implantadas e como lidar com sistemas complexos, não lineares.
A disponibilidade de massas de dados, algoritmos eficientes e poder computacional sem precedentes impulsionou humanos para um caminho coevolucionário com as máquinas digitais que nós criamos. Visto a partir de uma perspectiva evolucionária, isso poderia parecer como outra das muitas tentativas e erros evolucionários que ou levam a um beco sem saída ou na direção de novas formas de vida. Embora seja impossível de predizer, nós deveríamos lembrar a nós mesmos que a nossa evolução cultural, liderada por ciência e tecnologia, ultrapassou a evolução biológica. Ela equipou a espécie humana com capacidades cognitivas que têm possibilitado que ela gere entidades, artifícios e infraestruturas digitais com os quais os humanos interagem de maneiras sempre mais intrincadas e íntimas. Nós deveríamos conhecê-las melhor do que elas nos conhecem – contudo, nós somos repetidamente afligidos pela ansiedade de que no fim elas poderiam dominar-nos.
Dessa forma, nós oscilamos entre desconfiança com as tecnologias digitais que se tornaram nossas companhias cotidianas enquanto estando cientes de que há muitas razões para desconfiança e cautela. Preocupações sobre privacidade e medo de vigilância coexistem com o conluio [318]da entrega voluntária dos nossos dados para as grandes corporações (Zuboff 2018). As possibilidades de abuso e mau funcionamento de vulnerabilidades a hacking e outras formas de insegurança cibernética persistem, enquanto cenários otimistas de novas oportunidades continuam a ser aclamados. Nós corretamente insistimos que, em situações críticas, os humanos deveriam ser aqueles cujos julgamentos superam a resposta e as decisões automatizadas e que a responsabilização (accountability) tem de estar incorporada no processo no caso das coisas darem errado (Christian 2020; Russell 2019). Nessa jornada coevolucionária, a despeito da incerteza do seu resultado, nós nos sentimos encorajados pelo que pode se revelar ser uma ilusão: que nós compramos as cartas levemente melhores no jogo coevolucionário e que a ingenuidade humana prevalecerá. Essa é uma das premissas sobre as quais o humanismo digital descansa, a crença de que valores humanos possam ser instilados nas tecnologias digitais e que uma abordagem centrada no humano guiará o design, uso e desenvolvimento futuros delas (Werthner et al. 2019).
Para os humanistas digitais, tais aspirações servem como as precondições necessárias para se ganhar impulso, mas não deveriam obscurecer as dificuldades que se estendem à frente. Na longa história das invenções e inovações tecnológicas, os humanos sempre tentaram estar no controle. O que começou como a implementação de ferramentas há milhares de anos para escavar uma vida precária a partir do ambiente natural, transformou-se em intervenção massiva e mudança em larga escala do meio ambiente natural durante a industrialização, com consequências devastadoras para o primeiro, do qual nós dependemos. O auge da crença de que os humanos estavam em controle completo da tecnologia e dominando seu futuro veio durante a modernidade (Scott 1999). Um ponto de virada foi alcançado no meio do século XX, quando se tornou claro que nós não mais estávamos no controle do lixo radioativo deixado para traz na produção da bomba atômica. Depois do fim da guerra, a população mundial começou a crescer dramaticamente e, da mesma maneira, o PIB e os padrões de vida. Ao mesmo tempo, o impacto da intervenção humana no sistema da terra e nos seus serviços começou a ser visivelmente sentido. Chamada de “a Grande Aceleração,” a convergência desses desenvolvimentos de larga escala não diminuiu desde então (Steffen et al. 2015; McNeill e Engelke 2015). Hoje, nós nos deparamos com uma grande crise de sustentabilidade, enquanto a digitalização está adquirindo impulso rapidamente, com implicações profundas e de longo alcance para o que significa ser humano e o que deveria ser uma boa sociedade digital. Nós chegamos ao antropoceno, e será um antropoceno digital.
Dessa maneira, o humanismo digital emerge em um momento crucial, na intersecção da crise de sustentabilidade e nas oportunidades oferecidas pela digitalização. Para medir os desafios que ele encara, nós deveríamos lembrar a nós mesmos das continuidades e rupturas que ela implica. Ele aspira a construir sobre algumas das grandes transformações culturais que são parte da herança europeia, explorando a natureza humana e adotando uma abordagem centrada no humano sob circunstâncias globais rapidamente mudando. Mas o humanismo digital também abriga uma ruptura menos visível. Ele marca a transição da linearidade no pensamento e entendimento do mundo, que foi uma das marcas da modernidade, para lidar com processos não lineares de sistemas adaptativos complexos. Exatamente como não é mais possível confiar que a linearidade no progresso tecnológico inevitavelmente levará a um futuro sendo melhor do que o passado e o presente, o humanismo [319]digital tem de nos guiar no pensamento em termos não lineares quando nós cada vez mais encaramos incerteza e complexidade (Nowotny 2015).
Portanto, o humanismo digital tem de navegar as tensões diferentes da nossa existência que emergem a partir da tensão inerente entre humanos e máquinas. Em termos filosóficos, nós falamos sobre vida e não vida, sobre matéria orgânica e inorgânica, sobre diferentes taxas de conversão de energia necessárias para manter a nós e as máquinas movendo-se, e, em última instância, sobre a consciência e sua ausência em máquinas (Lee 2021). Mas, visto que há pouco acordo sobre a definição desses termos e o seu significado, a interação emaranhada entre humanos e as máquinas digitais continua na prática como um processo borrado e bagunçado. O humanismo digital, se ele deve ser promulgado, tem de estar preparado para navegar através das tensões manifestas e ocultas que vêm à frente de maneiras esperadas e inesperadas e em diferentes constelações.
A digitalização exacerba tensões já existentes e familiares entre interesses econômicos, políticos e sociais diferentes, como amplamente demonstrado durante a pandemia de COVID-19, quando fissuras e desigualdades sociais foram reveladas. Notícias falsas e teorias da conspiração continuam a circular livremente nas mídias sociais, transformando ciência em mera opinião e arriscando a desestabilizar ainda mais as já frágeis democracias liberais. Mais conflitos não resolvidos estão ligados às desigualdades ascendentes. Conforme a exclusão digital aprofunda-se, persiste o medo de que a digitalização substituirá empregos mais rapidamente do que novos serão gerados (Susskind 2020). Essas tensões manifestas podem inflamar grandes conflitos e dilacerar ainda mais o tecido social já sob estresse considerável. O humanismo digital não pode se abster de entrar nessa arena disputada. Ele não pode se retirar para perseguir o ideal de um indivíduo humanista e digitalmente sofisticado sem considerar a sociedade digital que dá forma a como nós vivemos. O humanismo digital terá de imaginar designs para novos métodos de governança digital que podem satisfazer aos desafios do que uma boa sociedade digital adequada para o século XXI deveria ser.
Outras tensões são menos visíveis; algumas são latentes ou emergentes. Elas pairam sobre a questão que constitui o centro do humanismo digital: o que nos torna humanos e como a interação com máquinas digitais nos muda? Algumas dessas tensões abastecem ansiedades de identidades que estão direta ou indiretamente relacionados com mídias sociais ou o sentimento de que um algoritmo nos conhece melhor do que nós conhecemos a nós mesmos. Se a experiência da aceleração dominou a modernidade, a experiência prevalente na era digital é a sobrecarga informacional e superextensão emocional. Enquanto o passado estende-se ao presente e o futuro já chegou, pelo menos na forma visível dos últimos aparelhos digitais, o presente torna-se densificado e mais comprimido. O humanismo digital é desafiado a criar novos espaços nessa atmosfera superaquecida e hiper-reativa nos quais a presença física tem de ser reconciliada com o espaço virtual de maneiras que ainda têm de ser inventadas. O vírus ensinou-nos muito sobre as necessidades dos nossos corpos em um mundo digital. Quaisquer que sejam as lições que extraímos, o humanismo digital terá de abrir novos caminhos para as implementar.
A estranha eficiência dos algoritmos preditivos e o seu domínio prático sobre a tomada de decisão permeando nossa vida individual e coletiva marcam outro domínio cheio de tensão para o humanismo digital navegar. Seja ele o setor inteiro de saúde ou estilos de vida individuais, nosso comportamento de consumo, ou o funcionamento das [320]nossas instituições, algoritmos preditivos extrapolam a partir do passado para nos permitir enxergar mais adiante no futuro. Contudo, ao fazê-lo, eles atraem-nos para transferir agência para eles. Uma vez que nós começamos a acreditar que um algoritmo pode predizer o que acontecerá no futuro, e sistemas digitais de suporte à tomada de decisão sejam amplamente adotados, pode-se ter alcançado o ponto onde o julgamento humano pareça supérfluo e predições algorítmicas tornem-se em profecias autorrealizantes (Nowotny 2021).
Dessa maneira, os riscos para o humanismo digital são altos. Para navegar através dessas tensões, ele terá que conceber proposições concretas que incluam as camadas humanistas mais profundas, indo além de soluções tecnológicas. Importante enquanto apelam para princípios éticos são, elas não serão suficientes, a menos que possam se basear em termos muito práticos sobre um amplo conjunto de atitudes e práticas que são inspirados e guiados por um ideal humanista como uma maneira de viver juntos. Isso envolve divisar nossas maneiras de enfrentar problemas que vão além de dificuldades tecnológicas e reconhecer que “problemas insolúveis (wicked problems)” existem para os quais não há nenhuma solução em vista, contudo, eles também devem ser confrontados. O humanismo digital extrai sua força da convicção de que uma sociedade digital melhor é possível, reunindo a coragem para experimentar com o que é necessário para dar forma a ela.
Na prática isso significa cultivar uma sensibilidade humanista para a diversidade de contextos sociais nos quais as tecnologias digitais são implementadas e eficazes. Correntemente, nem os algoritmos preditivos nem os dados sobre os quais eles treinam são suficientemente sensíveis ao contexto. O humanismo digital pode permitir-nos descobrir características até então desconhecidas de quem nós somos sem determinar o que nós seremos. Ele pode ensinar-nos o valor inestimável do julgamento crítico humano quando nós encaramos a promessa ilusória dos algoritmos preditivos de que eles conhecem o futuro, o qual não é determinado por nenhuma tecnologia, mas permanece incerto e aberto. Os benefícios principais dos processos digitais não consistem apenas em serem “inteligentes (smart),” mas outros benefícios potenciais esperam para ser explorados com uma mente aberta e curiosa. O humanismo digital pode sensibilizar-nos para como lidar com a complexidade que está mais próxima do nosso entendimento intuitivo do que significa ser humano do que uma maneira linear, de causa e efeito, de pensar. Ela pode sintonizar-nos com propriedades emergentes e com o que resta de imprevisível – o sinal final da vida que continua evoluindo.
Referências
Christian, B. (2020) The Alignment Problem. Machine Learning and Human Values. New York: Norton & Company.
Lee, E. A. (2020) The Coevolution: The Entwined Futures of Humans and Machines. Cambridge, MA: MIT Press.
McNeill, J. R. and Engelke, P. (2015) The Great Acceleration: An Environmental History of the Anthropocene since 1945. Cambridge, MA: Harvard University Press.
Nowotny, H. (2015) The Cunning of Uncertainty. Cambridge, UK: Polity Press.
Nowotny, H. (2021) In AI We Trust. Power, Illusion and Control of Predictive Algorithms. Cambridge, UK: Polity Press.
Russell, S. (2019) Human Compatible: AI and the Problem of Control. London: Allen Lane.
Scott, J 1999, Seeing Like a State: How Certain Schemes to Improve the Human Condition Have Failed, Yale University Press, New Haven.
[321]Steffen, W. et al. (2015) ‘The Trajectory of the Anthropocene: The Great Acceleration’, The Anthropocene Review 2:1, pp. 81 – 98.
Susskind, D. (2020) A World Without Work: Technology, Automation, and How We Should Respond. London: Allen Lane.
Werthner, H et al. (2019) Vienna Manifesto on Digital Humanism, visto em 20 de junho de 2019, <www.informatik.tuwien.ac.at/dighum/>.
Zuboff, S. (2018) The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, New York: Hachette Book Group.
ORIGINAL:
NOWOTNY, H. Digital Humanism: Navigating the Tensions Ahead. In: GHEZZI, C. et al. (eds.). Perspective on Digital Humanism. Springer Cham: 2022. p. 317-321. Disponível em: <https://link.springer.com/book/10.1007/978-3-030-86144-5>
TRADUÇÃO:
EderNB do Blog Mathesis
Licença: CC BY 4.0
Nenhum comentário:
Postar um comentário