Perspectivas sobre o Humanismo Digital
Manifesto de Viena sobre o Humanismo Digital
Parte III Ética e Filosofia da Tecnologia
[77]Experimentos Explorativos e Humanismo Digital: Adicionando uma Dimensão Epistêmica ao Debate Ético
por Viola Schiaffonati
Resumo A ascensão do humanismo digital demanda a formação de tecnologias digitais de acordo com os valores e as necessidades humanas. Eu argumento que, para alcançar esse objetivo, uma dimensão epistêmica e metodológica deveria ser adicionada às reflexões éticas desenvolvidas nos últimos anos. Em particular, eu proponho a estrutura de experimentação explorativa em ciência da computação e engenharia para estabelecer uma agenda para a reflexão sobre questões éticas de tecnologias digitais, a qual seriamente considere as suas peculiaridades a partir de um ponto de vista epistêmico. Como as tradicionais categorias epistêmicas das ciências naturais não podem ser diretamente adotados pela ciência da computação e engenharia, os tradicionais princípios morais orientando a experimentação nas ciências naturais deveriam ser reconsiderados no caso de tecnologias digitais, onde a incerteza sobre os seus impactos e riscos é muito elevada.
1 Introdução
A ascensão do humanismo digital demanda a formação de tecnologias digitais de acordo com valores e necessidades humanas para possivelmente resolver as questões críticas do desenvolvimento tecnológico corrente. No interior dessa estrutura, a ética desempenha um papel cada mais maior tanto no âmbito descritivo quanto no normativo, e, consequentemente, vários resultados importantes têm sido atingidos nós últimos anos. Por um lado, abordagens tais como o Design Senstivo a Valor deslocaram a atenção para a ideia de responsabilidade ativa, quer dizer, o design de tecnolocia para incorporar valores positivos (van den Hoven 2007). Por outro lado, várias estruturas regulatórias têm sido propostas para tratar de questões éticas relacionadas a tecnologias digitais, tais como IA e suas aplicações no interior da nossa sociedade.
A despeito da importância dessas iniciativas, eu argumento que uma dimensão adicional deveria ser adicionada a esse debate. Essa dimensão diz respeito à análise do status disciplinar e metodológico da ciência da computação e engenharia para melhor [78]entender o deslocamento radical de paradigma promovido por tecnologias digitais. Em vez de considerar essa dimensão como alternativa às outras, eu alego que ela deveria ser integrada com elas para tratar dos desafios correntes das tecnologias digitais de uma maneira compreensiva. Neste capítulo, eu foco em particular sobre a natureza e o papel de experimentos em IA e robótica autônoma. O resultado principal dessa dimensão adicional é estabelecer uma agenda para a reflexão sobre questões éticas de tecnologias digitais que seriamente considere as suas peculiaridades a partir de uma ponto de vista disciplinar e metodológico. Construindo sobre alguns dos meus trabalhos anteriores, eu argumento que as categorias epistêmicas tradicionais das ciências naturias não podem ser diretamente adotadas pela ciência da computação e engenharia como uma disciplina artificial. Consequentemente, os princípios morais tradicionais orientando a experimentação nas ciências naturais deveriam ser reconsiderados no caso das tecnologias digitais, onde a incerteza sobre os seus impactos e riscos é muito alta.
Este capítulo é organizado como se segue. A seção 2 discute a natureza e o papel de experimentos na ciência da computação e engenharia, e como experimentos são percebidos como maneiras para aumentar a maturidade científica do campo. A seção 3 apresenta a nova noção de experimentação explorativa surgindo a partir da análise da prática de IA e robótica autônoma. A seção 4 conecta a incerteza epistêmica, típica de experimentos explorativos, ao design das estruturas éticas baseado em abordagem incremental. Finalmente, a seção 5 conclui o capítulo enfatizando como experimentos explorativos podem impactar a formação atual do humanismo digital.
2 Método Experimental e Computação
Nos últimos anos, o debate sobre a natureza e o papel de experimentos em ciência da computação e engenharia tem surgido como alguma coisa sobre a maneira de enfatizar o seu status científico: adotar os mesmos padrões experimentais das ciências naturais pode tornar a ciência da computação e a engenharia mais maduras e confiáveis.
IA e robótica autônoma não são exceção. Por exemplo, a IA está encarando uma crise de reprodutibilidade na qual a importância da reprodutibilidade é dada como certa: a especifidade da reprodutibilidade na IA não é investigada, e, no fim, apenas os benefícios práticos são evidenciados (Gundersen et al. 2018). A robótica autônoma apresenta duas tendências diferentes (Amigonu et al. 2014). Por um lado, os princípios tradicionais do método experimental (reproducibilidade, repetibilidade, generalização, etc.) são vistos como padrões dourados, aos quais a prática de pesquisa deveria conformar-se. Por exemplo, a distribuição pública de código é promovida para se alcançar a reprodutibilidade. Por outro lado, abordagens rigorosas para experimentação ainda não são parte das práticas correntes. Por exemplo, o uso de configurações (settings) que podem ser aplicadas a ambientes diferentes é limitado, colocando em risco a possibilidade de generalização de resultados experimentais.
Apenas algumas exceções têm enfatizado a peculiaridade da experimentação na ciência da computação e engenharia, de modo que o termo experimento pode ser usado de maneiras diferentes (Tedre 2015). Além disso, a questão de se faz sentido [79]aplicar os mesmos padrões das ciências naturais às artificiais raramente tem sido perguntada. A ideia de que a ciência da computação e engenharia são uma ciência experimental de um tipo muito especial foi proposta por Allen Newell e Herbert Simon já nos anos de 1970 (Newell e Simon 1976). Mesmo se o convite para ver cada nova máquina como um experimento permaneceu amplamente ignorado, algumas expectativas existem: elas indicam que a experimentação é mais multifacetada do que usualmente retratada na ciência da computação e engenharia.
Dois elementos são particularmente importantes. Primeiro, muitos experimentos têm o objetivo de testar artefatos técnicos em vez de teorias. Artefatos técnicos são objetos físicos com uma função técnica e plano de uso projetados por humanos para satisfazerem a algumas funções práticas (Veermas et al. 2011). Segundo, em vários casos, os experimentadores são os designers, dessa forma, perdendo a independência do experimentador no protocolo experimental clássico. É por isso que eu propus a noção de experimentação explorativa para dar razão de uma parte da prática experimental na computação que não pode se subsumida sob as categoriais tradicionais da experimentação epistêmcia e controlada típica das ciências naturais (Schiaffonati 2020).
3 Uma Noção Diferente de Experimentação: Experimentos Explorativos
Experimentos explorativos são uma forma tecnológica de experimentação dedicada ao teste de artefatos técnicos. Eles podem ser vistos em continuidade com a tradição dos assim chamados de experimentos diretamente guiados pela ação, quer dizer, aqueles experimentos dedicados a ação e contrapostos aos tradicionais experimentos epistêmicos dedicados ao conhecimento (Hansson 2015). Por exemplo, um teste sistemático sobre um robô autônomo empregado para assisir uma pessoa idosa na casa dela é uma forma tecnológica de experimentação, onde o resultado buscado é a interação apropriada do robô com a pessoa e a intervenção é a afinação (tuning) cuidadosa das habilidades do robô para alcançar o objetivo.
Além disso, experimentos explorativos têm um componente normativo que os epistêmicos não possuem. Eles são levados a cabo para verificar se os artefatos técnicos satisfazem às especificações desejadas através de sua produção tecnológica. O elemento normativo consiste na determinação de quanto o artefato tecnológico testado se conforma com o seu design. Por exemplo, um sistema de robô pode ser avaliado como melhor ou pior com respeito a uma dada função que funcione como um modelo de referência. Pelo contrário, um fenômeno natural (o qual, usualmente, é o que é investigado em um experimento em ciências naturais), tais como um elétron, não pode ser bom ou mau: o elétron no experimento é avaliado sem nenhuma referência a sua suposta função técnica, consequentemente, sem nenhuma restrição normativa com respeito ao seu funcionamento correto.
Para resumir, experimentos explorativos são dedicados a testar artefatos técnicos sem as fronteiras de controle típicas de um experimento epistêmico controlado. O objetivo deles é investigar as possibilidades e limites do artefato técnico e sua interação com o ambiente circundante. O desígnio dessa investigação não é [80]conduzido sobre a base de uma teoria bem formada ou um contexto teórico sistemático. Antes, as hipóteses iniciais nem sempre podem ser formuladas de uma maneira clara, e o tipo de conhecimento que é o objetivo dessa experimentação é orientado para avaliar a performance do artefato técnico com respeito a sua função técnica. Frequentemente, o experimentador é o mesmo designer do artefato, e, dessa maneira, a independência dele a partir do contexto experimental, como na tradicional experimentação epistêmica, não está garantida. Em conclusão, os experimentos explorativos não são dedicados a rejeitar ou aceitar uma teoria geral, mas a examinar (iterativamente) as possibilidades e limites da intervenção. Isso os torna similares a algumas das reflexões metodológicas desenvolvidas no campo do design da pesquisa científica, onde a natureza iterativa e evolucionária dos aperfeiçoamentos do design através de exploração é enfatizada (Gil e Hevner 2013).
4 Da Incerteza Epistêmica ao Incrementalismo Ético
A estrutura do experimento explorativo ressalta como a incerteza desempenha um papel essencial em um âmbito teórico e como isso tem um impacto sobre os procedimentos experimentais, os quais precisam renunciar a uma parte do controle experimental tradicionalmente associado com experimentos epistêmicos. Quando considerando a IA e robótica autônoma, a incerteza diz respeito igualmente ao comportamento dos sistemas complexos mesmos e às interações deles com humanos e ambientes complexo. Por essa razão, elas podem ser classificadas como tecnologias experimentais: a experiência operacional relativa ao seu efetivo comportamento efetivo é limitada, e, portanto, as tentativas para avaliar precisamente os seus riscos e benefícios sociais são incertas: isso significa que o impacta delas sobre humanos e sociedades é principalmente desconhecido e difícil de predizer (van de Poel 2016). Reconhecer a incerteza no desenvolvimento de tecnologias experimentais significa reconhecer que eventos inesperados sempre podem ocorrer e que uma abordagem diferente é requerida para lidar com o seu desenvolvimento e gerenciamento. Essa abordagem é uma forma de incrementalismo, onde as tecnologias digitais são gradualmente introduzidas dentro da sociedade para se monitorar os efeitos sociais que surgem e, iterativamente, aperfeiçoar o seu design de acordo. Em outras palavras, a incerteza epistêmica emergindo a partir de uma perspectiva epistemológica no caso da experimentação explorativa pode ser traduzida em uma forma de incrementalismo a partir da perspectiva ética. Portanto, experimentos explorativos, dedicados à aquisição de conhecimento sobre o comportamento desses sistemas éticos no mundo real, são cruciais para tratarem das questões éticas relacionadas ao impacto de tais sistemas sobre a sociedade.
Algumas estruturas éticas já foram propostas para lidar com essas tecnologias experimentais. Por exemplo, van de Poel (2016) incorpora os princípios tradicionais da bioética (beneficência, não maleficência, respeito pela autonomia, respeito pela justiça) e declina-os em uma estrutura ética incremental. Em outro lugar, eu argumentei que esse é um ponto de partida promissor, em particular quando integrado com experimentos explorativos (Amigoni e Schiaffonati 2018). Isso significa que, para se minimizarem concretamente os riscos associados com tecnologias experimentais, o primeiro passo é entender [81]o que realmente equivale aos experimentos de artefatos técnicos. Dessa maneira, a estrutura de experimentos explorativos tem um impacto não apenas sobre nível metodológico, mas também sobre o ético, onde as tradicionais categorias morais têm de ser revisadas para lidar com tecnologias experimentais.
5 Conclusão
Neste capítulo, eu sugeri que, para tratar de algumas das questões conectadas com as tecnologias digitais, o desenvolvimento de técnicas apropriadas não é suficiente. Em vez disso, eu mostrei que alguns problemas têm de ser tratados com métodos tendo uma natureza filosófica.
Para concluir, eu enfatizo como a estrutura da experimentação explorativa está conectada com a questão mais ampla do impacto social das tecnologias digitais. O problema de como essa abordagem pode ser melhor adaptada na prática permanece aberto. Contudo, eu argumento que o deslocamento na conceitualização tem, pelo menos, dois papéis importantes. O primeiro diz respeito à influência de novas categorias epistêmicas, tais como experimentos explorativos, sobre ética, como eu discuti na seção 4. O segundo nível diz respeito ao desenvolvimento das disciplinas do artificial, às quais a ciência da computação e engenharia pertencem, começando a partir de reflexões metodológicas. Isso não é apenas uma questão disciplinar, mas tem um impacto sobre como os humanos, as tecnologias digitais e as suas interações são conceitualizadas na discussão corrente o humanismo digital. Se um dos objetivos do humanismo digital é “dar forma às tecnologias de acordo com valores e necessidades humanas, em vez de permitir que as tecnologias deem forma aos humanos,” é essencial reconhecer a centralidade dos artefatos técnicos e sistemas sociotécnicos nas disciplinas do artificial. Sistemas sociotécnicos são compostos por objetos físicos, pessoas, organizações, instituições, condições e regras. Dessa maneira, eles têm um caráter híbrido visto que eles consistem em componentes que pertencer a muitos “mundos” diferentes: não apenas aqueles requerendo uma descrição física, mas também aqueles requerendo uma social (Veermas et al. 2011). Até agora, os componentes requerendo uma descrição física têm sido tratados pelas disciplinas científicas e de engenharia. Agora é hora de considerar todos os componentes requerendo uma descrição social, tais como aqueles promovidos pelas humanidades e as ciências sociais e, consequentemente, desenvolver o novo campo das disciplinas artificiais, o qual deveria incluir e integrar ambas de maneira criativa.
Referências
Amigoni, F., Schiaffonati, V., Verdicchio, M. (2014) ‘Good Experimental Methodologies for Autonomous Robotics: From Theory to Practice ’, in F. Amigoni, V. Schiaffonati (eds.), Methods and Experimental Techniques in Computer Engineering, SpringerBriefs in Applied Sciences and Technology, Springer, pp. 37-53.
[82]Amigoni, F. e Schiaffonati, V. (2018) ‘Ethics for Robots as Experimental Technologies: Pairing Anticipation with Exploration to Evaluate the Social Impact of Robotics’, in IEEE Robotics and Automation Magazine, 25, n. 1, pp. 30-36.
Gil, T. G. e Hevner, A. N. (2013) ‘A Fitness-Utility Model for Design Science Research’, in ACM Transactions on Management Information Systems, 4 (2): 5-24.
Gundersen, O. E., Aha, D., Gil, Y. (2018) ‘On Reproducible AI: Towards Reproducible Research, Open Science, and Digital Scholarship in AI Publications’, in AI Magazine, 39, n. 3, pp. 56-68.
Hansson, S.O. (2015) ‘Experiments before Science? – What Science Learned from Technological Experiments’, in Sven Ove Hansson (ed.) The Role of Technology in Science, Springer.
Newell, A. e Simon, H. (1976) ‘Computer Science as Empirical Inquiry: Symbols and Search’, Communications of the ACM 19 (3): 113-126.
Schiaffonati, V. (2020). Computer, robot ed esperimenti, Milano: Meltemi.
Tedre, M. (2015) The Science of Computing. Boca Raton: CRC Press, Taylor & Francis Group.
van de Poel, I. (2016) ‘An Ethical Framework for Evaluating Experimental Technology’, in Science and Engineering Ethics, 22, pp. 667-686.
van den Hoven J. (2007) ‘ICT and Value Sensitive Design’, In Goujon P., Lavelle S., Duquenoy P., Kimppa K., Laurent V. (eds.) The Information Society: Innovation, Legitimacy, Ethics and Democracy In honor of Professor Jacques Berleur s.j, IFIP International Federation for Information Processing, vol 233, Boston: Springer.
Veermas, P., Kroes, P., van de Poel, I., Franssen, M., Houkes, W. (2011) A Philosophy of Technology: From Technical Artefacts to Sociotechnical Systems, Morgan & Claypool Publishers.
ORIGINAL:
SCHIAFFONATI, V. Explorative Experiments and Digital Humanism: Adding an Epistemic Dimension to the Ethical Debate. In: GHEZZI, C. et al. (eds.). Perspective on Digital Humanism. Springer Cham: 2022. p.77-82. Disponível em: <https://link.springer.com/book/10.1007/978-3-030-86144-5>
TRADUÇÃO:
EderNB do Blog Mathesis
Licença: CC BY 4.0
Nenhum comentário:
Postar um comentário