Uma Introdução aos Princípios da Moral e Legislação - I Do Principio de Utilidade

Uma Introdução aos Princípios da Moral e Legislação

Por Jeremy Bentham

Prefácio

[1]I Do Principio de Utilidade

I. A natureza colocou a humanidade sob o governo de dois mestres soberanos, a dor e o prazer. Apenas eles devem indicar o que nós deveríamos fazer, assim como determinar o que fazer. Por um lado, o padrão de certo e errado, por outro lado, a cadeia de causas e efeitos estão amarrados ao seu trono. Eles governam-nos em tudo que nós fazemos, em tudo que nós dizemos, em tudo que nós pensamos: todo esforço que nós fazemos para rejeitar a nossa sujeição apenas servirá para a demonstrar e confirmar. Nas palavras, um homem pode pretender abjurar o império deles; mas, na realidade, ele permanecerá sujeito a ele o tempo todo. O princípio de utilidade¹ reconhece [2]essa sujeição, e assume-a como fundamento desse sistema, o objeto do qual é erigir a fábrica da felicidade pelas mãos da razão e do direito. Sistemas que a tentam questionar, lidam com sons em vez de significado, com capricho em vez de razão, com escuridão em vez de luz.

Mas basta de metáfora e declamação: não é através de tais meios que a ciência moral deve ser aperfeiçoada.

II. O princípio de utilidade é o fundamento da obra presente: portanto, será adequado, desde o começo, fornecer uma explicação explícita e determinada do que é significado por ele. Pelo princípio² de utilidade é significado aquele princípio que aprova ou desaprova qualquer ação que seja, de acordo com a tendência que ela parece ter para aumentar ou diminuir a felicidade da parte cujo interesse está em questão: ou, o que é a mesma coisa em outras palavras, promover ou se opor àquela felicidade. Eu digo qualquer ação que seja, e, portanto, não apenas cada ação de um indivíduo privado, mas cada medida de governo.

III. Por utilidade deve-se entender aquela propriedade de qualquer objeto pela qual ele tende a produzir benefício, vantagem, prazer, bem ou felicidade, (no caso presente, tudo diz respeito à mesma coisa) ou (o que, novamente, diz respeito à mesma coisa) evitar o acontecimento de prejuízo, dor, mal ou infelicidade para a parte cujo interesse é considerado: se essa parte for a comunidade no geral, então, a felicidade da comunidade; se um indivíduo particular, então, a felicidade desse indivíduo.

[3]IV. O interesse da comunidade é uma das expressões mais gerais que podem ocorrer na fraseologia da moral: não surpreende que o significado dela seja frequentemente perdido. Quando ele tem um significado, é este. A comunidade é um corpo fictício, composto por pessoas individuais que, por assim dizer, são consideradas como seus membros. Então, qual é o interesse da comunidade? - a soma dos interesses dos vários membros que a compõem.

V. É em vão falar no interesse da comunidade sem o entendimento de qual é o interesse do indivíduo.³ Diz-se que uma coisa promove o interesse, ou é pelo interesse, de um indivíduo, quando ela tende a adicionar à soma total dos seus prazeres; ou, o que diz respeito à mesma coisa, a diminuir a soma total das suas dores.

VI. Portanto, uma ação pode ser dita ser conformável com o princípio da utilidade, ou, em prol da brevidade, a utilidade, (significando com respeito à comunidade no geral) quando a tendência que ela tem para aumentar a felicidade da comunidade é maior do que qualquer um que ela tem para a diminuir.

VII. Uma medida de governo (a qual é apenas um tipo particular de ação, realizada por uma pessoa ou pessoas particulares) pode ser dita ser conformável com ou ditada pelo princípio de utilidade, quando, de uma maneira geral, a tendência que ela tem para aumentar a felicidade da comunidade é maior do que qualquer tendência que ela tem para a diminuir.

VIII. Quando uma ação, ou, em particular, uma medida de governo, é suposta por um homem ser conformável com o princípio de utilidade, pode ser conveniente, para os propósitos do discurso, imaginar um tipo de lei ou ditames, chamado de uma lei ou um ditame de utilidade: e falar da ação em questão como sendo conformável com tal lei ou ditame.

IX. Um homem pode ser dito ser partidário do princípio de utilidade quando a aprovação ou desaprovação que ele anexa a qualquer ação, ou a qualquer medida, é determinada pela e é proporcional [4]à tendência que ele a concebe ter para aumentar ou para diminuir a felicidade da comunidade; ou, em outras palavras, com a sua conformidade ou inconformidade com as leis ou os ditames da utilidade.

X. De uma ação que é conformável com o princípio de utilidade alguém sempre pode dizer ou que ela é uma que deveria ser realizada, ou, pelo menos, que é uma que não deveria ser realizada. Alguém também pode dizer que é correto que ela deveria ser realizada; ou, pelo menos, que não é errado que ela deveria ser realizada: que é uma ação correta; pelo menos que não é uma ação errada. Quando interpretadas dessa maneira, as palavras deveria (ought), e certo (right) e errado (wrong), e outros dessa estampa, têm um significado: quando de outra maneira, elas não têm nenhum.

XI. A retidão desse princípio alguma vez foi formalmente contestada? Deveria parecer que ela foi, por aqueles que não conheciam o que eles estavam querendo dizer. Ela é suscetível a alguma prova direta? Deveria parecer que não; pois aquilo que é usado para provar qualquer outra coisa não pode ser provado: uma cadeia de provas deve ter o seu início em algum lugar. Fornecer uma semelhante prova é tão impossível quando desnecessário.

XII. Não que haja, ou que alguma vez tenha havido, criatura humana respirando, por mais estúpida ou perversa, que, em muitas ou talvez na maioria das ocasiões da sua vida, deferiu a ele. Pela constituição natural da essência humana, na maioria das ocasiões das suas vidas, os homens no geral adotam esse princípio, sem pensar nele: se não para a ordenação das suas próprias ações, contudo, para o teste das suas próprias ações, assim como aquelas de outros homens. Ao mesmo tempo, tem de haver não muitos, talvez, mesmo dos mais inteligentes, quem têm estado dispostos a adotá-lo puramente e sem reserva. Até há alguns poucos que não tiraram vantagem de ou criaram desavença com ele, quer em consideração de eles nem sempre entenderem como o aplicar, quer em consideração de algum prejuízo ou outro que eles estavam temerosos de examinar, ou do qual não puderam suportar se separar. Pois tal é a substância da qual o homem é produzido: em princípio e em prática, em um caminho correto e em um errado, a mais rara de todas as qualidades humanas é a consistência.

XIII. Quando um homem tenta combater o princípio de utilidade, é com razões extraídas, sem estar ciente disso, desse princípio mesmo⁴. Os argumentos dele, se eles provam alguma coisa, não provam que o princípio é errado, mas que, de acordo com as aplicações que ele supõe ser feitas dele, ele é mal aplicado. É possível para um homem mover a terra? Sim; mas, primeiro, ele tem de encontrar outra terra sobre a qual se erguer.

XIV. Refutar a propriedade dele por argumentos é [6]impossível; mas, a partir das causas que nós mencionamos, ou a partir de alguma visão confusa ou parcial dela, pode acontecer de um homem não estar disposto a apreciá-la. Onde esse é o caso, se ele considera o estabelecimento dessas opiniões sobre tal assunto digna da dificuldade, que ele dê os passos seguintes, e finalmente, talvez, ele possa chegar a reconciliar-se com ela.

1 Que ele se resolva, se ele desejaria descartar completamente esse princípio; se for assim, que ele considere ao que todos os raciocínios deles (especialmente em questões de política) podem equivaler?

2 Se ele desejar, que ele se resolva, se ele julgaria e agiria sem nenhum princípio, ou se há algum outro pelo qual ele julgaria ou agiria?

3 Se houve, que ele examine e satisfaça-se consigo mesmo se o princípio que ele considera que encontrou é realmente algum princípio inteligível separado; ou se ele não é um mero princípio em palavras, um tipo de frase, o qual, no fundo, não expressa nem mais nem menos do que a mera afirmação de seus próprios sentimentos infundados; quer dizer, o que em outra pessoa ele poderia estar inclinado a chamar de capricho?

4 Se ele está inclinado a considerar que a sua própria aprovação ou desaprovação, anexada à ideia de um ato, sem nenhuma consideração pelas suas consequências, é um fundamento suficiente para ele julgar e em consequência da qual agir, que ele pergunte a si mesmo se seu sentimento deve ser um padrão de certo e errado, com respeito a qualquer outro homem, ou se o sentimento de qualquer homem tem o mesmo privilégio de ser o padrão para si mesmo?

5 No primeiro caso, que ele pergunte a si mesmo se o princípio dele não é despótico e hostil a todo resto da raça humana?

6 No segundo caso, se ele não é anárquico, e se nesse ritmo não há tantos padrões diferentes de certo e errado quanto há homens? E se até para o mesmo homem, a mesma coisa, a qual é certa hoje, não pode (sem a menor mudança na sua natureza) ser errada amanhã? E se a mesma coisa não é certa e errada no mesmo lugar ao mesmo tempo? E, em cada caso, se todo o argumento não [7]sem saída? E se, quando dois homens dizem, ‘Eu gosto disso,’ e ‘Eu não gosto disso,’ eles podem (em consequência de um semelhante princípio) ter algo a mais a dizer?

7 Se ele deveria ter dito para si mesmo, Não: pois esse sentimento que ele propõe como um padrão tem de estar fundamentado sobre a reflexão, que ele diga sobre quais particulares a reflexão deve voltar-se? Se sobre particulares tendo relação com a utilidade do ato, então que ele diga se isso não é deserção do seu próprio princípio, e tomar assistência emprestada exatamente daquele em oposição àquele ao qual ele o estabelece: ou se não sobre aqueles particulares, sobre que outros particulares?

8 Se ele deveria ser pela composição do assunto, e adoção do seu próprio princípio em parte, e do princípio de utilidade em parte, que ele diga até onde ele o adotará?

9 Quando ele resolveu consigo mesmo onde ele parará, então, que ele pergunte a si mesmo como ele justifica para si mesmo a adoção dele ponto? E por que ele não o adotará mais longe?

10 Admitir qualquer outro princípio além do princípio de utilidade ser um princípio correto, um princípio que é correto para um homem perseguir; admitir (o que não é verdadeiro) que a palavra correto pode ter um significado sem referência à utilidade, que ele diga se há tal coisa como um motivo que um homem possa ter para perseguir os ditames dele: se há, que ele diga qual é esse motivo, e como ele deve ser distinguido daqueles que aplicam os ditames da utilidade; se não, então, por fim, que ele diga para que esse outro princípio é bom?

Próximo capítulo

ORIGINAL:

BENTHAM, J. An Introduction to the Principles of Morals and Legislation. Oxford: At the Clarendon Pressa, 1907. pp. 1-7. Disponível em: <https://archive.org/details/introductiontoth033476mbp/page/n38/mode/1up>

TRADUÇÃO:

EderNB do Blog Mathesis

Licença: CC BY-NC-SA 4.0

1 [1]Nota pelo autor, julho de 1822.

 A esta denominação foi posteriormente adicionada, ou substituída, o princípio da maior felicidade (greatest happiness) ou maior alegria (greatest felicity): isso por brevidade, em vez de dizer finalmente aquele princípio que declara a maior felicidade de todos aqueles cujo interesse está em questão, como sendo o correto e apropriado, e o único fim correto e apropriado e universalmente desejável da ação humana: da ação humana em cada situação e, em particular, naquela de um exercício oficial ou conjunto de oficiais dos poderes de governo. A palavra utilidade (utility) não aponta tão claramente para as ideias de prazer e dor como o fazem as palavras de felicidade e alegria: nem ela nos conduz ao número dos interesses afetados; ao número, como sendo a circunstância que contribui na maior proporção para a formação do padrão aqui em questão; o padrão de certo e errado; apenas pelo qual a propriedade da conduta humana, em cada situação, pode ser testada com propriedade. Essa carência de uma conexão suficientemente manifesta entre as ideias de felicidade e prazer, por um lado, e a ideia de utilidade, pelo outro, eu tenho encontrado de vez em quando operante, e apenas com eficiência demais, como uma barreira para a aceitação que, de outra maneira, poderia ter sido concedida a esse princípio.

2 [2]A palavra princípio é derivada a partir do latim principium: o qual parece ser composto pelas duas palavras primus, primeiro ou principal, e cipium, uma terminação que parece ser derivada a partir de capio, tomar (to take), como em mancipium, municipium; aos quais são análogos, auceps, forceps and outros. É um termo de significação muito vaga e extensa; ele é aplicado a qualquer coisa que é concebida para servir como um fundamento ou começo para qualquer série de operações: em alguns casos, de operações físicas; mas de operações mentais no caso presente.

 O princípio aqui em questão pode ser entendido como um ato da mente; um sentimento; um sentimento de aprovação; um sentimento que, quando aplicado a uma ação, aprova a sua utilidade, como aquela qualidade dela pela qual a medida de uma aprovação ou desaprovação concedida a ela deveria ser governada.

3 [3]Interesse é uma daquelas palavras que, não tendo nenhum genus superior, não pode ser definida da maneira tradicional.

4 [5]‘O princípio de utilidade, (Eu tenho ouvido ser dito) é um princípio perigoso: é perigoso consultá-lo em certas ocasiões.’ Isso é o mesmo que dizer, o quê? Que não é conforme ao princípio de utilidade consultar a utilidade: em resumo, que não é a consultar consultá-la.

 Adição pelo autor, julho de 1822.

 Não muito depois da publicação do Fragment on Government, ano de 1776, no qual, como um princípio universal e dominante, o princípio de utilidade foi trazido à vista, uma pessoa por quem a observação do efeito acima foi feita foi Alexander Wedderburn, àquela época Advogado ou Procurador geral, depois sucessivamente Juiz-chefe dos Apelos Comuns e Chanceler da Inglaterra, sob os títulos sucessivos de Lorde Loughborough e Conde de Rosslyn. Ela foi feita – de fato, não em minha audiência, mas na audiência de uma pessoa por quem quase imediatamente ela foi comunicada a mim. Muito longe de ser autocontraditório, ele foi um perspicaz e perfeitamente verdadeiro. Por aquele distinto funcionário público, o estado do governo foi completamente entendido: pelo indivíduo obscuro, àquela época não tanto suposto ser assim: as suas investigações ainda não tinham sido aplicadas, com qualquer coisa similar a uma visão compreensiva, ao campo do direito constitucional, nem, portanto, àquelas características do governo inglês, pelas quais a maior felicidade do governante, com ou sem aquela de uns poucos favorecidos, é agora tão evidentemente vista ser o único fim para o qual, em qualquer momento, o curso dele tem sido dirigido. O princípio da utilidade foi um apelativo, àquela época empregado – empregado por mim, como tem sido por outros, para designar aquilo que, de uma maneira mais perspicaz e instrutiva, pode, como acima, ser designado pelo nome do princípio da maior felicidade. ‘Esse princípio (disse Wedderbun) é algo perigoso.’ Dizendo isso, ele diz aquilo que, a uma certa extensão, é estritamente verdadeiro: um princípio que estabelece como o único fim correto e justificável do governo a maior felicidade do maior número – como se pode negar que ele é algo perigoso? Inquestionavelmente ele é perigoso, para todo governo que tenha por seu fim ou objeto atual, a maior felicidade de um certo alguém, com ou sem a adição de algum número comparativamente pequeno de outros, a quem é uma questão de prazer ou acomodação para ele admitir, cada um deles, para uma parte no interesse, no posicionamento de tantos parceiros juniores. Portanto, perigoso ele realmente era, para o interesse – o interesse sinistro – de todos aqueles funcionários públicos, ele mesmo incluso, para quem o interesse era maximizar a demora, o aborrecimento e o custo, em procedimentos judiciais e de outros tipos, em prol do lucro, extraível do custo. Em um governo que tivesse por seu fim a visão da maior felicidade do maior número, Alexander Wedderburn poderia ter sido Advogado geral e posteriormente Chanceler: mas ele não teria sido Advogado geral com £15,000 por ano, nem Chanceler, com um pariato com um veto sobre toda justiça, com £25,000 por ano e com sinecuras a sua disposição, sobre o nome de benefícios eclesiásticos, além de et cæteras.

Perspectivas sobre o Humanismo Digital - A Insustentável Desincorporação das Máquinas Cognitivas

Perspectivas sobre o Humanismo Digital

Manifesto de Viena sobre o Humanismo Digital

Parte VII Educação e Habilidades do Futuro

Ensaio anterior

[201]A Insustentável Desincorporação das Máquinas Cognitivas

por Enrico Nardelli

Resumo Hoje em dia, os sistemas digitais formam a infraestrutura de comunicação e social e ocupam cada parcela de espaço e tempo, afetando nossas vidas tanto profissional quanto pessoalmente. Contudo, essas “máquinas cognitivas” estão completamente separadas da natureza humana, a compreensão da qual está além das capacidades delas. Portanto, é nosso dever assegurar que as ações delas respeitem os direitos e valores humanos de uma sociedade democrática. A educação é uma das principais ferramentas para atingir esse objetivo, e uma preparação geral na base científica das tecnologias digitais é um elemento requerido. Além disso, é fundamental entender porque a transformação digital tem uma natureza completamente diferente da industrial tradicional e desenvolver uma apreciação pelos pontos de vista humano e social no desenvolvimento e lançamento de sistemas digitais. Essas são as questões-chave consideradas neste capítulo.

Este capítulo discute o tema da educação informática na perspectiva do humanismo digital. Dada a extensão do impacto da transformação digital sobre a nossa sociedade, é importante assumir um ponto de vista histórico a fim de entender entender melhor como desenvolver a abordagem educacional mais apropriada para acompanhar essa mudança histórica.

Todo o mundo está ciente de viver no meio de uma revolução. Isso não é o que comumente é identificado como a Quarta Revolução Industrial (Schwab 2015), mas que tem sido chamado da terceira “revolução de poder”: essa ideia foi primeiramente sugerida em Nardelli (2010), em seguida esboçada em Nardelli (2014, 2016) e discutida em maior detalhe em Nardelli (2018), também em referência à educação. A sociedade industrial (a qual, entre os séculos XVIII e XIX, substituiu a sociedade agrícola anterior) está rapidamente se tornando uma sociedade cada vez mais digital. Essa revolução, tornada possível pela tecnologia do computador digital, e explicada e abastecida pelas realizações científicas de informática, tem possibilitado a construção, pela primeira vez na história da humanidade, de aparelhos que têm sido definidos como “máquinas cognitivas” em Nardelli (2018). [202]Aqueles sistemas automáticos que – manipulando os sinais dos quais o significado eles ignoram, de acordo com as instruções das quais o significado eles ignoram – transformam os dados que têm um sentido para seres humanos de uma maneira que é significante para eles.

A compreensão deste aspecto é crucial para educar adequadamente para o humanismo digital. A informática pode ser aptamente definida como a ciência do processamento automatizado de representações, uma vez que ela não lida com objetos “concretos” mas com suas representações, as quais são construídas através de um conjunto de caracteres tomados de um alfabeto finito. Quando seres humanos examinam uma representação, eles usualmente tendem a associa-la a um significado, o qual muito frequentemente depende de um sujeito e é formado por convenções sociais e culturais compartilhadas. Por exemplo, a sequência de caracteres “camera” evocará um significado para falantes ingleses e um diferente para italianos. Em vez disso, os aparelhos produzidos pelos desenvolvimentos tecnológicos da informática lidam com representações sem nenhuma compreensão do seu significado. Além disso, eles produzem essas representações, quer dizer, elas recebem representações de entrada e produzem representações de saída (talvez através da produção de uma série muito longa de representações intermediárias ou auxiliares) agindo de uma maneira puramente automática (ou mecânica) (Denning 2017; Nardelli 2019). Novamente, eles não têm nenhuma compreensão do significado dos processos de transformação que elas executam. Contudo, no final, essas máquinas levam a cabo operações que, consideradas a partir do ponto de vista dos seres humanos, são de uma natureza cognitiva e significante para eles.

Essas máquinas agora estão impregnando a sociedade inteira, e isso representa uma revolução real, a “revolução informática” – chamada de a terceira “revolução das relações de poder” (Nardelli 2018), porque, pela primeira vez na história da humanidade, funções cognitivas são realizadas (carried out) por máquinas. Essa terceira revolução “invalida” o poder da inteligência humana, criando artefatos que podem replicar mecanicamente ações cognitivas, as quais, até agora, foram uma característica de pessoas.

Todo pesquisador no nosso campo de estudo está ciente de que essas máquinas cognitivas são caracterizadas por um processo sem sentido de transformação (sem sentido a partir do ponto de vista do sujeito mecânico realizando a transformação), o qual produz um resultado significativo (significativo aos olhos do observador humano da transformação). Contudo, pessoas leigas e comuns usualmente negligenciam isso. Para entender apropriadamente os desafios que a educação para o humanismo digital encara, uma compreensão completa e profunda desse aspecto é absolutamente requerida. É por isso que é importante discutir essa revolução na perspectiva histórica de outras revoluções igualmente disruptivas na história da humanidade, para entender similaridades e diferenças entre elas.

1 As Três Revoluções

Consideremos o que aconteceu anteriormente: as duas primeiras revoluções nas relações de poder, trazendo mudanças radicais tanto na esfera técnica quanto na social, foram a da imprensa (printing press) e a industrial.

A invenção da impressão de tipo móvel (movable type printing) no século XV causou tanto uma revolução técnica quando social na sociedade: uma técnica, porque ela tornou possível [203]produzir textos de uma maneira mais rápida e barata, e uma social, porque ela tornou possível uma circulação mais difundida de conhecimento. Em última análise, o que aconteceu foi a primeira revolução em relações de poder: a autoridade não estava mais restrita à palavra falada; não era mais necessária estar em um certo lugar em um certo tempo a fim de conhecer e aprender da voz viva do mestre. O conhecimento sempre permanece um grande poder, mas agora esse poder não está mais confinado às pessoas que o possuem ou àqueles que são capazes de estar próximos delas no tempo e espaço. A replicabilidade do texto implica a replicabilidade a uma distância, no tempo e no espaço, do conhecimento contido nele. Todos aqueles que podem ler agora podem ter acesso ao conhecimento. Isso colocou em movimento mudanças sociais históricas: a difusão de conhecimento científico, legal e literário deu um impacto imenso à evolução da sociedade, a qual se tornava cada vez mais democrática.

De fato, no espaço de dois séculos e meio, quase 800 milhões de livros impressos na Europa causaram um processo irreversível de evolução social. O conhecimento científico, revolucionado pelo método galileano, graças à imprensa, espalhou-se por toda a Europa e constituiu um dos possibilitadores da revolução subsequente, a industrial, identificada como a segunda revolução nas relações de poder.

Iniciada no século XVIII, ela foi igualmente disruptiva: a disponibilidade das máquinas industriais tornou o trabalho físico das pessoas replicável. Braços humanos agora não eram mais necessários porque máquinas operam em seu lugar. Uma revolução técnica é alcançada, porque os artefatos são replicados muito mais rapidamente e na ausência de seres humanas. Máquinas podem produzir dia e noite sem se cansarem, e elas até podem produzir outras máquinas. Elas são amplificadoras e intensificadoras das capacidades físicas de seres humanos. Uma revolução social é obtida: limitações físicas ao movimento e à ação são demolidas. Uma única possível pode mover quantidades imensas de barro com uma escavadeira, viajar rapidamente com um carro, e falar com qualquer um no mundo através de um telefone. Portanto, a evolução e o progresso são acelerados mais pela possibilidade de produzir objetos físicos mais rapida e efetivamente, para não mencionar as consequências em termos do transporte de pessoas e coisas. Neste caso, a relação de poder que é revolucionada é aquela entre homem e natureza: a humanidade subjuga a natureza e supera os seus limites. Alguém pode cruzar rapidamente os mares navegar os céus, utilizar água e fogo, e mover montanhas.

A revolução impressa concedera à humanidade um mecanismo extra no nível imaterial de informação: a Revolução Industrial fez o mesmo pela esfera material. O mundo está cheio de “artefatos físicos” (as máquinas industriais) que começaram a afetar a natureza do planeta de uma maneira extensa e profunda.

Portanto, no meio do século XX, após a realização de aproximadamente de 800 bilhões de máquinas industriais,¹ a terceira revolução nas relações de poder, aquela da tecnologia da informação (TI), lentamente começou. Inicialmente, ela parece ser nada mais do que uma variação evoluída da automação do trabalho físico e dos processos de produção causados pela Revolução Industrial, mas, após umas poucas décadas, nós começamos a entender [204]que é muito mais do que isso, porque ela afeta o nível cognitivo e não o físico. Nós não estamos mais replicando o conhecimento estático trazido pelas palavras escritas e pela força física de pessoas e animais, mas aquele “conhecimento acionável” que é o motor real do desenvolvimento e progresso. Essa expressão denota aquele tipo de conhecimento que não é apenas uma representação estática de fatos e relações, mas também um processamento contínuo de dados trocados dinamica e interativamente entre um sujeito e o contexto circundante.

Por causa da revolução informática, esse conhecimento acionável (ou seja, conhecimento pronto a ser colocado em ação) é reproduzido e disseminado na forma de programas de software, os quais, em seguida, pode ser adaptados, combinados, e modificados de acordo com necessidades locais específicas. A natureza dos artefatos, das máquinas que nós produzimos, mudou. Nós não mais necessitamos de máquinas concretas, criadas por muitas substâncias físicas: nós agora produzimos máquinas imateriais, criadas por conceitos abstratos, em última instância reduzindo-se a configurações de zeros e uns. Nós temos as “máquinas digitais,” nascidas – devido ao trabalho seminal de Alan Turing (Turing 1936) – como puros objetos matemáticos, capazes de computarem qualquer função que uma pessoa pode computar, e as quais podem ser tornadas concretas ao representá-las fisicamente sob alguma forma, não importa qual. De fato, além da implementação padrão de máquinas digitais usando níveis de voltagem que, em alguns circuitos físicos elétricos, dão substância às suas configurações abstratas, nós também temos implementações puramente mecânicas, com alavancas e engrenagem, ou hidráulicas.

Mesmo se essas máquinas digitais claramente requeiram algum substrato físico para serem capazes de operar, elas não são mais artefatos físicos. Elas são “artefatos cognitivos dinâmicos,” ação congelada que é desbloqueada pela sua execução em um computador e gera conhecimento como um resultado dessa execução. O conhecimento estático de livros torna-se conhecimento dinâmico em programas. Conhecimento capaz de produzir automaticamente conhecimento novo sem a intervenção humana. Portanto, mais apropriadamente, elas têm sido definidas como “máquinas cognitivas” (Nardelli 2018).

2 Máquinas Cognitivas

Essas máquinas são uma reminiscência daquelas que, no curso da Revolução Industrial, tornaram possível a transformação da sociedade agrícola em uma industrial. Efetivamente, elas são diferentes e muito mais poderosas. As máquinas industriais eram amplificadoras da força física do homem; as máquinas digitais produzidas pela revolução informática são máquinas cognitivas (ou “máquinas de conhecimento”), amplificadoras e intensificadoras das funções cognitivas das pessoas. Elas são instrumentos que impulsionam as capacidades daquele órgão cuja função é o traço distintivo do ser humano.

Por um lado, nós temos uma revolução técnica, quer dizer, processamento de dados mais rápido; por outro lado, nós também temos uma revolução social, quer dizer, a geração de conhecimento novo. Nesse cenário, o que muda é a relação de poder entre a inteligência [205]humana e as máquinas. O gênero humano sempre tem sido, por toda a história, o mestre das suas máquinas. Pela primeira vez, essa supremacia é desafiada.

Atividades cognitivas que apenas humanos, até recentemente, eram capazes de realizar estão agora dentro do alcance de máquinas cognitivas. Elas começaram com coisas simples, por exemplos, ordenando listas de nomes, mas agora elas podem reconhecer se uma fruta está madura ou se um tecido tem defeitos, apenas para citar alguns exemplos possibilitados por aquela parte da informática que é conhecida pelo nome de inteligência artificial. Certas atividades cognitivas não são mais domínios exclusivos dos seres humanos: isso já aconteceu em um grande conjunto de jogos de tabuleiro (damas (checkers), xadrez (chess), go, etc.), campos padrões para a mensuração de inteligência, onde agora o computador regulamente derrota campeões mundiais. Isso está acontecendo em muitas atividades profissionais que uma vez foram a prerrogativa exclusiva das pessoas e onde agora os assim chamados de bots, sistemas de computador baseados em técnicas de inteligência artificial, são amplamente usados.

Contudo, há, pelo menos, duas questões, cuja análise é essencial à luz do ponto de vista educacional discutido neste capítulo.

A primeira questão é que essas máquinas cognitivas não têm nem a flexibilidade nem a adaptabilidade para mudarem a sua forma de operação quando o contexto no qual elas operam muda. É verdadeiro que modernas abordagens baseadas em “aprendizagem de máquina” concedem alguma possibilidade para elas “sentirem” mudanças em seus ambientes e para “adaptarem” as suas ações. Contudo, esse espaço de adaptação tem os seus próprios limites. De alguma maneira, os designers devem ter previsto todos os possíveis cenários futuros de mudança, de uma maneira ou de outra. Pessoas são inerentemente capazes de aprender o que elas não sabem (ao passo que máquinas cognitivas apenas podem aprender o que elas foram projetados para) e têm aprendido, através de milhões de anos de evolução, a adaptarem-se flexivelmente a mudanças de natureza imprevista no ambiente (enquanto máquinas de conhecimento – mais uma vez – apenas se adaptam a mudanças de tipos previstos). Portanto, nós não podemos as deixar funcionarem por si mesmas, a menos que elas operem em contextos onde nós estejamos completamente certos de que tudo foi levado em consideração. Jogos são um exemplo paradigmático desses cenários. Essas máquinas cognitivas são mecanismos automáticos, relógios gigantes que tendem a comportarem-se sempre mais ou menos da mesma maneira (ou no interior de diretrizes projetadas para a “aprendizagem” de novos comportamentos). É por isto que a transformação digital frequentemente falha; porque as pessoas pensam que, uma vez que elas tenham construído um sistema baseado em computador, o trabalho está completo. Em vez disso, uma vez que nenhum contexto é estático e imutável, sistemas de TI não acompanhados por pessoas capazes de os adaptarem à evolução de cenários operacionais estão condenados a falhar.

O segundo problema é que essas máquinas cognitivas estão completamente separadas do que significa ser seres humanos. Alguém pode ver isso como uma virtude, embora, pelo contrário, seja uma falha imensa. Aqueles que pensam que algoritmos podem governar a sociedade humana de uma maneira que é melhor para todos estão iludidos (ou têm interesses ocultos). Desde o nascimento das primeiras formas de sociedade humana, a tarefa da política tem sido encontrar uma síntese entre as necessidades conflitantes que sempre existe em qualquer grupo de pessoas. Além disso, a produção dessa síntese requer uma consideração completa da nossa natureza humana. A única inteligência que pode tomar decisões apropriadas para esse contexto é a inteligência incorporada das pessoas, não a inteligência incorpórea das máquinas inteligentes. Isso não implica que não haja um papel para as máquinas cognitivas. [206]O uso delas deveria permanecer confinado àquele de poderosos assistentes pessoais, livrando-nos do trabalho intelectual mais repetitivo, ajudando-nos a não cometermos erros devido a fadiga ou descuido, e sem vazar nossos dados pessoais no ermos. As pessoas sempre têm de permanecer no controle, e as decisões finais, acima de tudo aquelas afetando direta ou indiretamente outros indivíduos e suas relações, sempre deveriam ser tomadas por seres humanos. Para discutir um tópico corrente, é compreensível pensar que, em alguns graus, a decisão final de juízes em casos rotineiros pode ser afetada por elementos extrajudiciais, viés inconsciente e situações e emoções contingentes. Afinal, mesmo juízes bem treinados são de alguma maneira seres humanos falíveis. Contudo, especular sobre a base de correlação de dados, como feito em Danziger et al. (2011), que após o almoço juízes tendem a ser mais benevolentes é errado. Uma análise mais cuidadosa ressalta outras causas organizacionais desse efeito (Weinshall-Margel e Shapard 2011). Uma máquina cognitiva apenas aprendendo a partir dos dados, sem um entendimento completo do processo inteiro, teria deixado passar completamente o detalhe. É por isso que a decisão na França de proibir analíticas sobre atividades de juízes está bem tomada (Artificial Lawyer 2019). porque sistemas desincorporados de decisão convertem uma descrição parcial do que aconteceu no passado em uma prescrição rígida de como se comportar no futuro, roubando seres humanos das suas qualidades mais preciosas e mais características, o livre-arbítrio (free will).

Máquinas cognitivas certamente são úteis para o desenvolvimento da sociedade humana. Elas se espalharão cada vez mais, mudando o tipo de trabalho executado pelas pessoas. Isso já aconteceu no passado: no século XIX, mais de 90% da força de trabalho era empregada na agricultura; agora ela é de menos de 10%. Portanto, é da máxima importância que cada pessoa seja apropriadamente educada e treinada nos fundamentos conceituais da disciplina científica que torna possível a construção de tais máquinas cognitivas. Apenas dessa maneira todos serão capazes de entender a diferença entre o que eles podem fazer e o que eles não podem e não deveriam fazer.

3 Um Horizonte Educacional mais Amplo

A educação sobre os princípios da informática deveria começar desde os anos iniciais na escola (Caspersen et al. 2019). A visão-chave de que um sistema de computação digital opera sem nenhuma compreensão, pelo sistema mesmo, do que é processado e como ele é processado, tem de acompanhar o inteiro processo de educação. Além disso, isso sempre deveria seguir de mãos dadas com a reflexão de que o processo de modelagem da realidade em termos de dados digitais e processamento deles através de algoritmos é uma atividade humana. Como tal, ela pode ser afetada por prejuízo e ignorância, tanto de quem pode, às vezes, ser inconsciente ou desconhecido.

De fato, apenas de uma tal maneira será possível entender que qualquer escolha, desde exatamente as primeiras relativas a que elementos representar e como os representar, àquelas decidindo as regras para o processamento mesmo, é o resultado de um processo humano de decisão e, portanto, é destituído da objetividade absoluta que frequentemente está associada com processos algorítmicos de decisão.

[207]Além disso, como Giueseppe Longo tem observado, a distinção fundamental introduzida por Turing entre hardware e software é uma “loucura computacional” quando aplicada a entidades vivas e à sociedade (Longo 2018). Primeiro, porque no mundo biológico não há uma semelhante distinção entre hardware e software. O DNA, o código da vida, constitui o seu próprio hardware. A re-escritura de representações digitais acontecendo em máquinas digitais é diferente da transcrição do DNA para o RNA. Segundo, porque flutuações estão completamente ausentes no mundo discreto onde as máquinas de Turing operam, enquanto elas desempenham um papel essencial em sistemas dinâmicos complexos em todo o nosso entorno. Como primeiro notado por Henri Poincaré, isso possivelmente resulta na imprevisibilidade da nossa evolução, mesmo se nós formos deterministicamente definidos (Poincaré 1892). Terceiro, porque todo software apenas é capaz de representar uma abstração de um fenômeno real. Embora essa abstração possa fornecer indicações valiosas a respeito da sua dinâmica, considerar a representação como o fenômeno mesmo – como acontece com cientistas como Stephen Wolfram, quem diz: “O Universo é uma imensa Máquina de Turing” (Wolfram 2013) – é tão errado quanto confundir o mapa com o território. E finalmente, os sistemas digitais, uma vez estabelecidos nas mesmas condições iniciais no interior de um mesmo contexto, computarão identicamente o mesmo resultado, mesmo para aqueles sistemas onde (como Poincaré provou) isso é fisicamente absurdo. “Redes de computadores e bancos de dados, se considerados como uma ferramenta última para o conhecimento, ou como uma imagem do mundo,” escreve Longo, “vivem no pesadelo do conhecimento exato por pura contagem, da certeza inabalável por iteração exata, e de uma ‘solução final’ de todos os problemas científicos.”

Para completar essa discussão, observe que os mais recentes desenvolvimentos na teoria da computação (van Leeuwen e Wiedermann 2012) têm revelado que modelos mais poderosos do que a máquina de Turing² são necessários para modelar a interatividade com agentes externos, a a evolução do programa inicial da máquina e as operações irrestritas através do tempo, três aspectos que caracterizam modernos sistemas de computação. Contudo, note que, enquanto essas abordagens oferecem modelos formais mais apropriados para descreverem o que acontece no mundo moderno de instrumentos digitais continuamente executando interagindo com pessoas, elas requerem a introdução de componentes que são incomputáveis segundo Turing (Turing-uncomputable). Portanto, o entendimento da diferença entre o papel (mecânico) desempenhado por sistemas digitais de computação e o comportamento (incomputável) exibido pelos seres humanos é essencial para ser capaz de usar máquinas cognitivas para intensificar o bem-estar dos seres humanos e não para os oprimir.

Por outro lado, nós movemos uma grande parte da nossa vida para o reino onde essas máquinas cognitivas desincomporadas dominam. Consequentemente, a nossa existência agora se desenvolve não apenas ao longo das dimensões relacionais usuais (econômicas, jurídicas, culturais, etc) mas também se articula nessa dimensão incorpórea de “representações” que é mais ou menos relevante, a partir de um ponto de vista social. A humanidade tem estado registrando dados sobre o mundo por milhares, se não dezenas de milhares de anos. Contudo, de serem um componente completamente negligenciável da nossa existência, as representações de dados [208]têm se tornado uma parte relevante e importante dela. Como a emergência de saúde de 2020 infelizmente nos ensinou, nós mais podemos ignorá-la. Elas tornaram-se um componente integral e constitutivo da nossa vida social e pessoal. Consequentemente, a necessidade de conceder proteção aos direitos das pessoas não apenas no que se relaciona ao ser corpo e espírito, mas também de suas projeções digitais (Nardelli 2020).

Como uma nota lateral, observe que a desincorporação das máquinas cognitivas tem uma contraparte dual no fato de que essa dimensão digital da nossa existência é povoada por “formas de vida” das quais nós não temos o sensor para estarmos ciente. Vírus e vermes digitais, os quais não são benignos em relação ao nosso “eu digital,” muito como as suas contrapartes digitais não são benevolente para os nossos corpos físicos, continuam a espalharem-se a um ritmo alarmante sem nós sermos capazes de as contra-atacar efetivamente. De fato, nós necessitaríamos da contraparte digital daquelas regras de higiene que tiveram um papel tão grande na melhoria das condições de vida no século XX (Corradini e Nardelli 2017). Mais uma vez, é apenas através da educação que nós podemos produzir a diferença, e ela tem de começar tão cedo quando possível.

Embora a educação geral de cidadãos acontecendo na escola deveria ser focada nos princípios acima, quando considerando a educação ao nível terciário, algo mais é necessário.

Nós temos de preparar os nossos estudantes de uma maneira similar a como nós treinamos médicos. Nos anos iniciais, eles estudam as bases científicas do seu campo: física, química e biologia. Nesse contexto, leis universais e deterministas aplicam-se. Em seguida, conforme eles progridem em seu caminho educacional, aspirantes a médicos começam o estudo dos “sistemas” que formam seres humanos (motor, nervoso, circulatório, etc), dessa maneira aprendendo a temperar e combinar determinismo matemático com evidência empírica. Finalmente, quando eles “entram em campo,” eles encaram a complexidade de um ser humano em sua inteireza, para quem, como os praticantes gerais bem sabem, um sintoma poder ser a manifestação não apenas de uma doença específica, mas também de um desequilíbrio mais geral. Nesse momento, o médico não mais será capaz de aplicar simplesmente uma daquelas leis universais que ele aprendeu nos anos iniciais. Isso não significa abdicar dos fundamentos científicos para retornar a ritos mágicos ou fórmulas apotropaicas, mas agir para resolver o problema específico do paciente específico que ele está encarando, à luz da ciência que ele introjetou. O informático, como o médico, precisa ter esse pé firmemente plantado na ciência, mas a sua cabeça claramente visando a fazer as pessoas e a sociedade sentirem-se melhores (exatamente como o médico faz).

Mas especificamente, estudantes de informática deveriam ser preparados para ter boas bases em matemática, algorítmica, semântica, sistemas e redes, mas então eles deveriam ser capazes de resolver problemas de automação relativos ao processamento de dados (intencionados em sua acepção mais ampla) sem tornar as pessoas apêndices para sistemas de TI. Para suportar os objetivos do humanismo digital, eles deveriam mesclar suas capacidades de design “de engenharia” com atenção às necessidades centradas no humano. Eles deveriam ser educados para desenvolverem uma apreciação pelos pontos de vista humano e social relativos a sistemas digitais. Eles têm de encarar os desafios da transformação digital enquanto melhorando o bem-estar social das pessoas e não apenas enriquecendo o “proprietário do vapor,” quem tem todo direito a uma remuneração adequada do seu capital, mas não ao preço da desumanização dos usuários finais de sistemas digitais.

[209]É por isso que nós temos de alargar o horizonte educacional dos nossos cursos de estudo, complementando as áreas tradicionais de estudo com educação interdisciplinar e multidisciplinar, vindo acima de tudo das áreas humanista e social. Apenas dessa maneira será possível recuperar a visão holista de cenários tecnológicos que é característico de uma abordagem baseada no humanismo, onde o respeito por pessoas e valores de uma sociedade democrática são as forças guias.

Reconhecimentos O autor agradece aos revisores anônimos por seus comentários perspicazes, os quais possibilitaram o melhorar a apresentação deste capítulo.

Referências

Caspersen, M.E., Gal-Ezer, J., McGettrick, A., e Nardelli, E. (2019) ‘Informatics as a fundamental discipline for the 21st century’. Communication of the ACM, 62(4).

Corradini, I. e Nardelli, E. (2017) Digital hygiene: basic rules of prevention. Link&Think, [Online]. https://link-and-think.blogspot.com/2017/11/digital-hygiene-basic-rules-of.html

Danziger, S., Levav, J., e Avnaim-Pesso, L. (2011) ‘Extraneous factors in judicial decisions’, Proceedings of the National Academy of Sciences, 108 (17).

Denning, P.J. (2017) ‘Remaining trouble spots with computational thinking’, Communication of the ACM, 60(6).

France Bans Judge Analytics, 5 Years In Prison For Rule Breakers, (2019) Artificial Lawyer, [Online]. https://www.artificiallawyer.com/2019/06/04/france-bans-judge-analytics-5-years-in-prison-for-rule-breakers/

van Leeuwen, J. e Wiedermann, J. (2012) ‘Computation as an unbounded process’, Theoretical Computer Science, 429:202-212, 2012.

Longo, G. (2018) ‘Letter to Alan Turing’, Theory, Culture & Society, Número especial sobre “Transversal Posthumanities” (M. Fuller, R.Braidotti, eds.), 2018

Nardelli, E. (2010) The maintenance is the implementation OR Why people misunderstand IT systems, 6th European Computer Science Summit, [Online]. https://www.informatics-europe.org/ecss/about/past-summits/ecss-2010/conference-program.html

Nardelli, E. (2014) Senza la cultura informatica non bastano le tecnologie, (em italiano) [Online]. https://www.ilfattoquotidiano.it/2014/02/01/senza-la-cultura-informatica-non-bastano-le-tecnologie

Nardelli, E. (2016) La RAI che vorrei: diffondere la “conoscenza in azione” per far crescere l’Italia, (em italiano), Key4Biz, [Online]. https://www.key4biz.it/la-rai-che-vorrei-e-nardelli-contribuisca-allalfabetizzazione-digitale/156540/

Nardelli, E. (2018) The third “power revolution”, Link & Think, [Online]. https://link-and-think.blogspot.com/2018/05/informatics-third-power-revolution.html

Nardelli, E. (2019) ‘Do we really need computational thinking?’, Communication of the ACM, 62 (2).

Nardelli, E. (2020) Does our “digital double” need constitutional rights? Link&Think, [Online]. https://link-and-think.blogspot.com/2020/12/does-our-digital-double-need-constitutional-rights.html

Poincaré, H. (1892) Méthodes Nouvelles. (em francês), Paris, 1892.

[210]Schwab, K. (2015) The Fourth Industrial Revolution. Foreign Affairs, [Online]. https://www.foreignaffairs.com/articles/2015-12-12/fourth-industrial-revolution

Turing, A. (1936) ‘On computable Numbers, with an application to the Entscheidungsproblem’. Proc. London Mathematical Society, 42, 1936.

Weinshall-Margel, K. e Shapard, J. (2011) ‘Overlooked factors in the analysis of parole decisions’, Proceedings of the National Academy of Science, 108 (42), outubro de 2011.

Wolfram, S. (2013) ‘The Importance of Universal Computation’. In Alain Turing, his work and impact (B. Cooper, ed.), Elsevier, Amsterdam, 2013.

Próximo ensaio

ORIGINAL:

NARDELLI, E. The Unbearable Disembodiedness of Cognitive Machines. In: GHEZZI, C. et al. (eds.). Perspective on Digital Humanism. Springer Cham: 2022. p. 201-210. Disponível em: <https://link.springer.com/book/10.1007/978-3-030-86144-5>

TRADUÇÃO:

EderNB do Blog Mathesis

Licença: CC BY 4.0

1 [203]Estimativa pelo autor do número total de máquinas industriais dos vários tipos produzidas desde por volta de 1700 até mais ou menos 1950.

2 [207]Essas são as assim chamadas de máquinas verde-vermelhas de Turing. Ver van Leeuwen e Wiedermann (2012) para a descrição delas e uma lista de outros modelos equivalentes.