Perspectivas sobre o Humanismo Digital
Manifesto de Viena sobre o Humanismo Digital
Parte X Aprendendo com a Crise
[309]A Necessidade de Tecnologias Respeitosas: Indo além da Privacidade
por Elissa M. Redmiles
Resumo As tecnologias digitais, os dados que elas coletam e as maneiras pelas quais esses dados são usados afetam cada vez mais o nosso bem-estar psicológico, social, econômico, médico e relacionado à segurança. Embora a tecnologia possa ser usada para melhorar o nosso bem-estar em todos esses eixos, ele também pode causar dano. Todavia, a privacidade é apenas uma das muitas considerações que os usuários têm quando adotando uma tecnologia. Neste capítulo, eu uso o estudo de caso de aplicativos de COVID-19 para argumentar que essa visão reducionista sobre dano tecnológico tem evitado a adoção efetiva de tecnologia benéfica. Além disso, um foco apenas na privacidade arrisca perpetuar e ampliar desigualdades existentes relacionadas a tecnologia. Para realizarmos o potencial da tecnologia de bem-estar, nós temos de criar tecnologias que sejam respeitosas não apenas da privacidade de usuário mas das expectativas dos usuários para o uso das suas tecnologias e o contexto no qual esse uso ocorre.
As tecnologias digitais estão cada vez mais entrelaçadas com experiências vívidas de bem-estar. As maneiras pelas quais nós usamos tecnologias, e as maneiras pelas quais as tecnologias usam os nossos dados, afetam o nosso bem-estar psicológico, social, econômico, médico e relacionado a segurança. Por exemplo, ser capaz de verificar o bem-estar de outros durante desastres naturais pode reforçar a força das nossas comunidades e intensificar os nossos sentimentos pessoais de segurança (Redmiles et al. 2019). No espaço da saúde, há uma excitação crescente e evidência promissora para tecnologias de prescrição auxiliarem no manejo de doenças crônicas (Byambasuren et al. 2018).
A despeito do potencial delas para aperfeiçoarem o nosso bem-estar, essas mesmas tecnologias também podem causar dano. Muito do diálogo relativo aos prejuízos tecnológicos das tecnologias de bem-estar foca-se principalmente em riscos para a privacidade de dados: como o abuso dos dados do usuário pode criar prejuízos psicológicos, sociais, econômicos ou relacionados a segurança (Vitak et al. 2018; Redmiles et al. 2019).
[310]A privacidade também se revelou ser uma preocupação-chave, e crescente, para usuários quando considerando se adotar novas tecnologias, incluindo tecnologias relacionadas a bem-estar. Contudo, a privacidade está longe de ser a única consideração que tem efeito em se um usuário adotará uma nova tecnologia. Aqui, eu argumento que nós desenvolvemos um foco reducionista sobre a privacidade considerando se as pessoas adotarão uma nova tecnologia. Esse foco nos impediu de alcançar efetivamente a adoção de tecnologias benéficas e arrisca perpetuar e ampliar as iniquidades em acesso, uso e prejuízos tecnológicos.
Ao focarmos exclusivamente sobre privacidade de dados, nós falhamos em apreender completamente o desejo do usuário por tecnologias respeitosas: sistemas que respeitem as expectativas do usuário de como seus dados serão usados e as expectativas de um usuário para como o sistema influenciará sua vida e os contextos circundando-as. Eu argumento que as decisões do usuário para adotar uma nova tecnologia são dirigidas por sua percepção de se essa tecnologia será respeitosa.
Um grande corpo de pesquisa revela que o comportamento de adoção de tecnologia do usuário frequentemente está mal alinhado com suas preocupações expressas de privacidade. Embora esse fenômeno, o paradoxo da privacidade, seja explicado em parte pelo efeito de muitos vieses cognitivos incluindo efeitos de dotação (endowment) e compras (ordering) (Acquisti et al. 2013), talvez não deveria ser uma surpresa tão grande que a decisão da pessoa para adotar ou rejeitar uma tecnologia seja baseada em mais do que apenas a privacidade dessa tecnologia.
A teoria do cálculo de privacidade (TCP) concorda, indo além de considerar apenas a privacidade para considerar os benefícios, argumenta que “indivíduos fazem escolhas nas quais eles entregam um certo grau de privacidade em troca de resultados que são percebidos serem dignos do risco da revelação de informação” (Dinev e Hart 2006). Contudo, como eu ilustro abaixo, colocar a privacidade como a única detratora da adoção de uma tecnologia e dos resultados (ou benefícios) sobre os outros permanece reducionista demais para capturar completamente o comportamento do usuário, especialmente em cenários relacionados a bem-estar.
A incompletude de uma visão de apenas privacidade direcionada para o projeto de tecnologias respeitosas foi exemplificada na pressa para criar tecnologias para a COVID-19. No fim de 2020 e começo de 2021, as companhias e pesquisadores de tecnologia desenvolveram aplicações para notificação de exposição que foram projetadas para detectar exposição ao coronavírus e notificar os usuários do aplicativo dessas exposições. Esses aplicativos foram criados para substituir e/ou aumentar o rastreamento manual de contatos, o qual requer que as pessoas convoquem aqueles que foram expostos para rastrear suas redes de contato.
Em conjunto com o impulso para projetar essas tecnologias havia um impulso para assegurar que esse projetos fossem preservadores de privacidade (Troncoso et al. 2020). Embora assegurar a privacidade dessas tecnologias fosse criticamente importante para a prevenção de mau uso do governo e violações de direitos humanos, e o tratamento das preocupações do usuário, as pessoas raramente adotam tecnologias apenas porque elas são privadas (Abu-Salma et al. 2017). De fato, após muitos anos desses aplicativos sendo lançados, uma minoria de pessoas adotou-os. Faltando da discussão foi uma discussão das outras expectativas do usuário para os aplicativos de COVID-19.
A teoria do cálculo de privacidade postula que os usuários trocam a privacidade por benefícios e, ao fazê-lo, tomam decisões sobre quais tecnologias adotar. Contudo, pesquisa empírica sobre as considerações de adoção dos aplicativos de COVID-19 pelas pessoas descobre uma história mais complexa (Li et al. 2020; Redmiles 2020; Simko et al. 2020). As pessoas consideram [311]não apenas os benefícios dos aplicativos da COVID-19 – se o aplicativo pode notificá-los de uma exposição à COVID, por exemplo – mas também como a eficácia do aplicativo, quantas exposições ele pode detectar, poderia erodir esses benefícios. De fato, pesquisa preliminar mostra que considerações de eficácia podem ser muito mais importante nas decisões de adoção do aplicativo da COVID-19 pelo usuário do que considerações de benefícios (Learning from the People: Responsibly Encouraging Adoption of Contact Tracing Apps 2020). Por outro lado, considerações de privacidade não são as únicas detratoras potenciais; as pessoas também consideram custos de uso do sistema, tanto monetário (por exemplo, custo de dados móveis usados pelo aplicativo) quando relacionado à usabilidade (por exemplo, erosão da vida de bateria do telefone devido ao uso do aplicativo).
As considerações de adoção de aplicativos de COVID-19 pelas pessoas exemplificam a ideia de tecnologias respeitosas: aquelas que fornecem um benefício com um nível suficiente de garantia (eficácia) em troca do uso dos dados de usuário – com os riscos potenciais de privacidade resultando a partir de tal uso – a um custo monetário e de usabilidade apropriado. Embora os aplicativos de COVID-19 ofereceram benefícios e protegeram a privacidade do usuário, os desenvolvedores do aplicativo e as jurisdições falharam em avaliar a eficácia e o custo do que eles tinham construído e falharam em ser transparentes com usuários tanto sobre a eficácia quanto sobre os custos desses aplicativo. Como um resultado, as pessoas foram incapazes de avaliar se essas tecnologias foram respeitosas e a taxa de adoção de uma tecnologia que tinha o potencial para beneficiar significativamente o bem-estar individual e social durante a pandemia globa permaneceu baixo.
Examinar o espectro completo das considerações relacionadas a tecnologia respeitosa das pessoas é especialmente crítico para aplicativos relacionados a bem-estar por duas razões.
Primeiro, há uma multidão de tipos de bem-estar que cada vez mais são abordados por tecnologia – desde soluções de check-in em desastres naturais através de sistemas de tratamento de saúde – cada uma com uma variedade correspondente de prejuízos, custos e riscos diferentes que os usuários podem considerar, Se nos focarmos estritamente sobre os compromissos dos benefícios de privacidade de tais tecnologias, nós podemos deixar passar considerações de adoção tais como se o usuário suspeita de se ele poderia ser ameaçado enquanto usando, ou por usar, uma tecnologia particular (Redmiles et al. 2019). Falha em projetar para e examinar essas considerações de adoção adicionais pode ser uma barreira significante para intensificar a adoção de tecnologias comercialmente lucrativas e individualmente, ou socialmente, benéficas.
Segundo, aspectos diferentes de tecnologias respeitosas são priorizados por grupos sociodemográficos diferentes (Learning from the People: Responsibly Encouraging Adoption of Contact Tracing Apps 2020). Por exemplo, adultos mais velhos se focam mais nos custos dos aplicativos da COVID-19 do que os adultos mais jovens; adultos mais jovens se focam mais na eficácia desses aplicativos do que os adultos mais velhos. Ignorar considerações ao lado da privacidade, e dos benefícios, pode perpetuar iniquidades em cujas necessidade são projetadas para tecnologias de bem-estar e, por fim, quem adota essas tecnologias. Tais considerações de equidade são especialmente importantes para tecnologias de bem-estar, para as quais o acesso equitativo é crítico e para as quais a distribuição desigual dos prejuízos pode ser especialmente prejudicial.
Dessa forma, para assegurar a viabilidade e adoção comerciais das tecnologias de bem-estar, e evitar a perpetuação e ampliação das iniquidades de bem-estar através da criação [312]de tais tecnologias, é crítico construir tecnologias de bem-estar respeitosas. Criadores e pesquisadores de tecnologia não apenas consideram os riscos de privacidade e proteções de tais tecnologias – e os benefícios de tecnologia – mas também as considerações contextuais, de custo e de eficácia, que juntas formam a visão potencial de um usuário de se uma tecnologia é respeitosa com eles e seus dados. Para o fazer, duas abordagens são necessárias: primeiro, mensuração direta do custo e da eficácia das tecnologias produzidas, em linha com expectativas para evidência a partir de outros campos, tais como a saúde (Burns et al. 2011), e segundo, investigação direta com usuários potenciais, para entender custos contextuais e qualitativos. Combinando essas duas abordagens para mensuração empírica, nós podemos criar melhores tecnologias de bem-estar que são tanto efetivas quanto respeitosas.
Referências
Abu-Salma, R., Sasse, M. A., Bonneau, J., Danilova, A., Naiakshina, A., e Smith, M. (2017). Obstacles to the Adoption of Secure Communication Tools. In: Security and Privacy (SP), 2017 IEEE Symposium on (SP17). IEEE Computer Society.
Acquisti, A., John, L. K., e Loewenstein, G. (2013). What Is Privacy Worth? The Journal of Legal Studies, 42 (2), 249 – 274.
Burns, P. B., Rohrich, R. J., e Chung, K. C. (2011). The levels of evidence and their role in evidence-based medicine. Plastic and reconstructive surgery, 128 (1), 305.
Byambasuren, O., Sanders, S., Beller, E., e Glasziou, P. (2018). Prescribable mHealth apps identi fi ed from an overview of systematic reviews. npj Digital Medicine, 1 (1), 1 – 12.
Dinev, T. and Hart, P. (2006). An Extended Privacy Calculus Model for E-Commerce Transactions.
Information Systems Research, 17 (1), 61 – 80.
Learning from the People: Responsibly Encouraging Adoption of Contact Tracing Apps (2020). Disponível a partir de: https://www.youtube.com/watch?v=my_Sm7C_Jt4&t=366s [Acessado em 17 de março 2021].
Li, T., Cobb, C., Jackie, Yang, Baviskar, S., Agarwal, Y., Li, B., Bauer, L., e Hong, J. I. (2020). What Makes People Install a COVID-19 Contact-Tracing App? Understanding the Influence of App Design and Individual Difference on Contact-Tracing App Adoption Intention. arXiv:2012.12415 [cs] [online]. Disponível a partir de: http://arxiv.org/abs/2012.12415 [Acessado em 17 de março 2021].
Redmiles, E. M. (2020). User Concerns 8 Tradeoffs in Technology-facilitated COVID-19 Response. Digital Government: Research and Practice, 2 (1), 6:1 – 6:12.
Redmiles, E. M., Bodford, J., and Blackwell, L. (2019). “I Just Want to Feel Safe”: A Diary Study of Safety Perceptions on Social Media. Proceedings of the International AAAI Conference on Web and Social Media, 13, 405 – 416.
Simko, L., Chang, J. L., Jiang, M., Calo, R., Roesner, F., and Kohno, T. (2020). COVID-19 Contact
Tracing and Privacy: A Longitudinal Study of Public Opinion. arXiv:2012.01553 [cs] [online]. Disponível a partir de: http://arxiv.org/abs/2012.01553 [Acessado em 17 de março 2021].
Troncoso, C., Payer, M., Hubaux, J.-P., Salathé, M., Larus, J., Bugnion, E., Lueks, W., Stadler, T., Pyrgelis, A., Antonioli, D., Barman, L., Chatel, S., Paterson, K., Č apkun, S., Basin, D., Beutel, J., Jackson, D., Roeschlin, M., Leu, P., Preneel, B., Smart, N., Abidin, A., Gürses, S., Veale, M., Cremers, C., Backes, M., Tippenhauer, N. O., Binns, R., Cattuto, C., Barrat, A., Fiore, D., Barbosa, M., Oliveira, R., e Pereira, J. (2020). Decentralized Privacy-Preserving Proximity Tracing. arXiv:2005.12273 [cs] [online]. Disponível a partir de: http://arxiv.org/abs/2005.12273 [Acessado em 17 de março 2021].
[313]Vitak, J., Liao, Y., Kumar, P., Zimmer, M., and Kritikos, K. (2018). Privacy attitudes and data valuation among fitness tracker users. In: International Conference on Information. Springer, 229 – 239.
ORIGINAL:
REDMILES, E. M. The Need for Respectful Technologies: Going Beyond Privacy. In: GHEZZI, C. et al. (eds.). Perspective on Digital Humanism. Springer Cham: 2022. p. 309-313. Disponível em: <https://link.springer.com/book/10.1007/978-3-030-86144-5>
TRADUÇÃO:
EderNB do Blog Mathesis
Licença: CC BY 4.0
Nenhum comentário:
Postar um comentário