No Caminho para a IA 10 Conclusão

No Caminho para a IA: Profecias do Direito e os Fundamentos Conceituais da Era da Aprendizagem de Máquina

Por Thomas D. Grant & Damon J. Wischik

Capítulo anterior

[113]Capítulo 10 Conclusão

Em cada departamento de conhecimento, que coisas maravilhosas foram realizadas para solicitar o interesse e agitar as esperanças de novos investigadores! Cada coisa é interessante quando você a entende, quando você vê a conexão dela com outras coisas e, no fim, com todas as coisas.

Oliver Wendell Holmes, Jr. Observações no Jantar de Iniciação

em Harvard (22 de junho de 1880)¹

Este livro postulou uma conexão entre duas coisas aparentemente distantes: entre uma revolução no direito, no final de século XIX, e uma revolução na computação, no começo do século XXI. O jurista na obra de quem nos baseamos, se ele tivesse sido transportado para o dia presente, nós pensamos, teria ficado estado aberto à conexão. O meio social inicial de Homes tinha sido um de ciência, medicina e letras, esses sendo campos nos quais o pai dele tinha mantido uma posição proeminente e no qual a cidade dele, na juventude de Holmes, tinha mantido um lugar proeminente na América.² Luminares da filosofia e ciência no século XIX contavam-se entre os amigos e interlocutores de Holmes, em casa e no estrangeiro, nos anos imediatamente posteriores à Guerra Civil. Do começo ao fim da sua vida, Holmes continuou a engajar-se com pessoas a quem hoje em dia nós chamaríamos de tecnólogo. Os interesses dele em estatística e nas ciências naturais eram amplos, profundos e visíveis na vasta produção (output) de Holmes como um estudioso e um juiz. Para Holmes, advocadia (lawyering) e judicatura (judging) eram trabalhos, mas também objetos a serem pesquisados para entendimento profundo.

[114]Nós esperamos que, nos capítulos precedentes, considerando “a conexão dela com outras coisas,” nós tenhamos contribuido para um entendimento de onde a aprendizagem de máquina pertence nas tendências mais amplas do pensamento moderno. A tendência comum que tem dado forma tanto ao pensamento legal quanto à ciência da computação é a probabilidade. Ela é um conceito surpreendentemente modeno. Como nós lembramos, as origens dela não são menos recentes que o meio do século XVII. O seu impacto tem sido sentido em um campo após o outro, embora dificilmente todos de uma vez. O direito esteve presente em suas origens, embora requereram-se mais de dois séculos antes que uma nova jursiprudência tomasse forma sob a sua influência. Também a computação não começou como uma operação em probabilidade e estatística, mas agora, probabilidade e estatística são o centro indispensável da aprendizagem de máquina. Dessa forma, tanto o direito quanto a computação passaram por uma mudança a partir de sua fundamentação inicial em lógica dedutiva: eles tomaram uma virada indutiva, baseados na descoberta de padrões e predição.

Mas, para concluir, afastemo-nos da história intelectual e, em vez disso, olhemos para o futuro.

10.1 Holmes como Futurista

Holmes, a despeito das variedades de fatalismo evidentes em suas palavras, era fascinado pelo potencial de mudança, em particular mudança como movida por ciência e tecnologia. Falando em 1895, em honra a C. C. Langdell, aquele expoente principal do formalismo legal, Holmes afirmou como confiança moderada que uma marcha estava em progresso na direção de uma base científica para o direito e que isso continuaria: “Os italianos começaram a trabalhar sobre a noção de que os fundamentos do direito deveriam ser científicos, e, se nossa civilização não colapsar, eu tenho bastante certeza de que o regimento ou divisão que nos segue carregará essa bandeira.”³ Com referência a “os italianos” Holmes parece ter tido em mente o positivismo que era predominante na teoria legal na Itália do final do século XIX⁴; quanto à possibilidade de colapso civilizacional, o pessimismo prevalecia de maneira geral na filosofia europeia à época. Em 1897, em Law in Science and Science in Law, Holmes restringiu a sua posição, mas ele continuou a ver os avanços contemporâneos em ciência e tecnolgia como pertinentes para a organização da vida pública no sentido mais amplo: “Muito provavelmente pode ser que, com toda a ajuda que a estatística e cada aplicação moderna pode conduzir-nos para lá, nunca haverá uma comunidade política (commonwealth) na qual a ciência seja suprema em toda parte.”⁵ Conceber a possibilidade de uma supremacia tecnológica surgindo sobre o direito, mesmo se para [115]duvidar de que uma revolução científica no direito alguma vez seja completa, ainda era colocar a questão em alto relevo.

A mudança tecnológica tinha afetado a sociedade no geral por gerações, pela época que Holmes escreveu Law in Science and Science in Law. Contudo, os avanços estavam acelerando-se e, além disso, em domínios técnicos específicos, a tecnologia estava entrelaçando-se com a ordem pública de maneiras nunca vistas. Essa foi a época na qual a Agência de Censo dos EUA primeiro usou uma máquina de cartão perfurado com circuitos elétricos para processar dados. A máquina, conhecida como tabulador Hollerith, segundo o seu inventor, Herman Hollerith,⁶ foi a precursora do moderno processamento de dados. A companhia de Hollerith, a Tabulating Machine Company, foi uma das várias posteriormente amalgamadas para formar a companhia que eventualmente foi renomeada como IBM. O conceito básico da máquina permaneceu a pedra angular do processamento de dados até os anos de 1950.⁷ Por volta de 1911 (quando Hollerith vendeu a Tabulating Machine Company), os tabuladores Hollerith já tinha sido usados para processarem dados de censos nos Estados Unidos, no Reino Unido, na Noruega, na Dinamarca, no Canadá, e os impérios austriaco e russo. Ferrovias, companhias de seguro, lojas de departamentos, companhias famacêuticas e industriais (manufacturers) também empregavam máquinas Hollerith.⁸ O tabulador de Hollerith baixou o custo de manejar grandes quantidades de dados e acelerou o trabalho; a Scientific American, a qual publicou um artigo sobre a máquina na sua edição de 30 de agosto de 1890, atribuiu “a conclusão antecipada da contagem [do censo]… às ferramentas aprimoradas pelas quais ela foi executada.”⁹

Contudo, as máquinas de Hollerith fizeram mais do que aumentar a eficiência no desempenho das tarefas existentes. Porque elas possibilitam aos usuários interrogarem conjuntos de dados de maneiras que anterioremente eram proibitivamente demoradas – por exemplo, perguntar quantas pessoas no ano de 1900 em Cincinnati eram ferreiros masculinos nascidos na Itália – as máquinas Hollerith abriram a porta para novos usos para dados, não apenas contagem de pessoas (head counts) mais eficiente. A Scientific American referiu-se à “elasticidade de função” que as máquinas possibilitavam.¹⁰ Hollerith mesmo era referido como o primeiro “engenherio estatístico.”¹¹

Holmes não estava excitado em colocar suas mãos nas várias inovações que os tecnólogos estavam trazendo ao mercado; ele duvidava de que sua casa teria tido eletricidade ou um telefone

se a esposa dele não os tivesse instalado.¹² Contudo, seria surpreendente que Holmes não tivesse conhecimento da máquina de Hollerith.¹³ A edição da Scientific American contendo o artigo sobre Hollerith e o censo exibiram ilustrações do tabulador funcionando em sua capa. O mesmo períodico publicou [116]um artigo quatro anos antes sobre o pai de Holmes.¹⁴ Holmes era um assinante pago.¹⁵ Ele também encontrou inovações tecnológicas no curso do seu emprego principal: Holmes foi autor de um número de decisões da Suprema Corte em questão de patente¹⁶ (nenhum, parece, relativo a Hollerith, embora o “engenheiro estatístico” não fosse estranho a disputas de propriedade intelectual¹⁷). Suficientemente curioso, a matriz e oficina da Hollerith estava em um prédio na parte de Georgetown de Washington, DC, não muitos blocos de onde Holmes viveu após se mudar para a capital,¹⁸ e o prédio no qual o censo empregava um grande conjunto das máquinas era um bloco curto fora da rota mais direta (2,2 milhas) entre o Capitólio (o qual então abrigava a Suprema Corte) e a casa de Holmes em 1720 I Street, NW. Contemporâneos observavam os distintos carrilhões que bramiam nas máquinas produzidas, um barulho que se elevava em um clamor no prédio e que podia ser ouvido na rua abaixo.¹⁹ Holmes era um caminhante perspicaz, cujas peregrinações em Boston Washington e em outros lugares levavam-no em busca de coisas interessantes.²⁰ Se ou não o tabulador Hollerith era a ferramenta que Holmes tinha em mente em Law in Science and Science in Law, a tecnologia estava no ar. A emergência da moderna burocracia no início do século XIX tinha estado associada com uma ambição para colocar a administração pública em uma base científica;²¹ a emergência, no final do século XIX, das máquinas que processam dados inspirou nova confiança de que uma semelhante ambição fosse alcançável.²² Associar a comunidade política e sua administração com estatística e “ferramenta moderna,” como Holmes fez, era uma peça muito da época.

O interesse de Holmes em tecnologia induziu-o a manter contatos abrangentes, alguns deles bastante idiossincráticos. Uma figura à margem denominada de Franklin Ford²³, por um número de anos, correspondeu-se com Holmes sobre as teorias do primeiro relativas aos meios de comunicação (news media) e às instituições de crédito. Ford imaginava um mecanismo de tiragem (cleaning mechanism) centralizado que daria acesso universal a todas as novidades e informações de crédito, uma ideia hoje em dia estranhamente evocativa da world wide web; e ele dizia que esse mecanismo suplantaria o estado e as suas instituições legais, uma predição da mesma forma evocativa dos futuristas que, hoje em dia, por exemplo, dizem que a blockchain causará o fim das moedas emitidas sob decreto do governo. Holmes continuou a correspondência por anos, dizendo a Ford, em um ponto, que ele (Ford) estava “engajado com os grandes problemas do sociólogo, para quem todas as forças sociais devem ser igualmente consideradas e quem, é claro, pode encontrar e encontrará forças e necessidades mais potentes do que a onipotência teórica do legislador técnico.”²⁴ Evidentemente, Holmes continuou a especular que, [117]com o tempo, o direito poderia abrir caminho para a experiência corporificada em “todas as forças sociais” as quais, no contexto da correspondência, sugeriam “forças sociais” de alguma maneira mediadas pela tecnologia. Em sua correspondência com Franklin Ford, cujos esquemas tinham como alvo a disseminação e o uso de dados, Holmes parecia intuir que, se as máquinas chegassem a dados marciais mesmo de maneiras “mais potentes,” efeitos de mudança civilizacional poderiam seguir-se.

Escritório da residência em Washington, DC, do juiz da Suprema Corte e da Sra. Oliver Wendell Holmes (Harris & Ewing, Washington, DC, United States [fotógrafo] 1935; Harvard Law School Library, Historical & Special Collections; original at Library of Congress, Prints & Photographs Division, Lot 10304)

[118]Em um voo de imaginação, em um discurso de 1913, Holmes foi tão longe quanto a especular sobre a evolução da espécie:

“Eu penso que não é improvável que o homem, como a larva (grub) que prepara uma câmara para a coisa alada que nunca foi vista mas que deve ser – esse homem pode ter destinos cósmicos que ele não entende … Eu estava caminhando na direção de casa na avenida Pensilvânia próximo ao Tesouro, e, enquanto eu olhava além da estátua da Sherman para o oeste, o céu estava em chamas com escarlate carmesim do sol poente. Mas, como a nota de queda da ópera de Wagner, abaixo da linha do horizonte, ali surgiam pequenos globos da discórdia pálida das luzes elétricas. E eu pensei para mim mesmo que o Götterdämmerung acabará, e, a partir daqueles globos agrupados como ovos malignos surgirão os novos mestres do céu. É como o tempo no qual nós vivemos. Mas então eu lembrei-me da fé que, em parte, eu expressei, fé em um universo não medido pelos nossos medos, um universo que tem pensamento e mais do que pensamento dentro dele, e, enquanto eu encarava fixamente, após o pôr do sol e acima das luzes elétricas, ali brilharam as estrelas.”²⁵

Nessa passagem, Holmes revelou-se como o mais imaginativo – e o mais pressagiador – dos transhumanistas do século XXI. A referência operística, com uma pequena esticada, é ainda mais evocativa da mudança operada pela ciência do que inicialmente parece. Verdadeiro, os personagens da ópera de Wagner não usam circuitos elétricos para processamento de dados.²⁶ Mas não é tão alheio às especulações de Holmes sobre o potencial para mudar o mundo da estatística – ou para os fundamentos conceituais da era da aprendizagem de máquina – que, no Prólogo à última das óperas do Ciclo do Anel, as Parcas (Fates), cuja vocação é dar profecias, estão tecendo (weaving): e a corda com a qual elas tecem é feita do conhecimento de todas as coisas passadas, presentes e ainda por vir. A corda quebra e, dessa forma, o palco é posto para o fim de um mundo e o começo de outro.²⁷ Mitológicos cientistas de dados prevendo as mudanças epocais que a ciência deles em breve efetuará!

Em um teor menos imaginativo, em Law in Science, Holmes sugeriu que a ciência poderia auxiliar o direito e, possivelmente, substitui-lo:

“Eu tenho tido em mente uma dependência derradeira da ciência, porque, em última instância, é para ciência determinar, até onde ela pode, o valor relativo dos nossos diferentes fins sociais, e, como eu tenho tentado insinuar, é a nossa estimativa da proporção entre esses, agora frequentemente cega e inconsciente, que nos conduz a insistir em e a alargar a esfera de um princípio [legal] e permitir a outro, gradualmente, decair em atrofia.”²⁸

[119]Na visão de Holmes, a ciência seria colocada em arreios para o direito; ou ela substituiria o direito, assumindo o controle das funções sociais que o direito, por enquanto, serve. Richard Posner, juiz-chefe da Corte de Recursos dos EUA para o Sétimo Circuito à época, no 100º aniversário de The Path of the Law leu Holmes para contemplar que o direito seria “sucedido, em algum momento no futuro, por formas de controle social que realizam as funções essenciais do direito mas não são direito em uma acepção reconhecível.”²⁹ O mais habilidoso estudioso de Holmes a ter servido em uma corte americana no século presente, Posner também considerou a passagem sobre Götterdämmerung e “destinos cósmicos” digna de nota.³⁰ Qualquer que seja o papel preciso que Holmes contemplou para a ciência, e onde quer que ele considerasse que a ciência nos conduziria, é evidente que a filosofia de Holmes não se iguala a presentismo estreito. Holmes estava profundamente interessado no futuro, incluindo o impacto futuro da ciência sobre o direito.

Escritores têm advertido contra o “cientificismo (scientism),”³¹ a confiança injustificada no potencial da ciência para resolver os problemas da sociedade. O nosso foco aqui não tem sido repetir críticas bem-conhecidas de entusiasmo não examinado por mudança tecnológica. O reconhecimento da correlação entre novas tecnologias e risco moderou os impulsos cientificistas³²; advertências têm sido soadas em relação as ideias de Holmes sobre a ciência.³³ Não obstante, é oportuno alertar os praticantes da ciência da computação que eles ignoram as lições sanguinárias da história das ideias se eles colocam fé cega no poder de sua arte. Talvez Holmes possa ser lido para notas cautelosas a esse respeito.

Mas o nosso propósito principal neste livro foi o uso da analogia a partir da jurisprudência de Holmes, para lançar luz sobre a aprendizagem de máquina. Portanto, perguntemos quais lições, se alguma, para o futuro da ciência da computação poderiam ser encontradas nas especulações de Holmes sobre o futuro do direito.

10.2 Para onde Holmes pensa que o Direito está indo, e poderia a Ciência da Computação seguir?

Pensando sobre o direito, Holmes encontrou interesse nas tendências mais amplas a partir das quais o direito tanto nasce quanto dirige. Holmes considerou a possibilidade de que a ciência substituirá o direito – mais precisamente, de que o método científico e os avanços tecnológicos revelerão as regras e os princípios que o direito adotará e, dessa maneira, concederá ao direito um fundamento confiável. Uma ironia curiosa seria se isso ocorresse no sentido oposto. Um sistema autorreferencial – a predição igualmente como saída e entrada do sistema – o que quer dizer o conceito de Holmes [120]do direito como ele pensava que o direito efetivamente é – é no que os cientistas da computação, nós especulamos, poderiam procurar tornar a aprendizagem de máquina. Verdadeiramente, a aprendizagem de máquina moveu-se para além da lógica e assim é agora um processo indutivo de descoberta de padrões em dados de entrada para obter uma saída. Contudo, até agora, esse é o fim da estrada. Se a aprendizagem de máquina avança, ela chega a corporificar mecanismos autorreferenciais tais como Gödel e Turing conceberam na matemática e computação, portanto, a aprendizagem de máquina chegará a parecer-se mais com o direito de Holmes – um sistema indutivo de produção de predição (prediction-making) e formador de predição (prediction-shaping) autorreferencial. O direito, como Holmes o entendeu, portanto, teria pressagiado o futuro da ciência da computação.

Não é assim como Holmes parece ter imaginado que as coisas seguiriam. Nós discernimos em sua veia futurista e cientificista que Holmes considerava que o direito, como ele o entendia ser, daria espaço a alguma outra coisa. Não está claro ao quê ele pensava que o direito como predição daria espaço, como o juiz Posner sugeriu, Holmes parece ter contemplado que ciência e tecnologia findariam a dependência do direito pela sociedade e causariam novos mecanismos de controle. Os novos mecanismos seriam baseados na lógica, em vez de na experiência, e dessa forma, na visão aparente de Holmes, retornariam, em um círculo completo, a um tipo de formalismo – não um formalismo baseado em doutrinas e regras arbitrárias, mas, em vez disso, baseado em proposições derivadas a partir do que os pensadores do século XIX concebiam como ciência.

As especulações de Holmes sobre a ciência substituindo o direito pareceriam ter uma genealogia que retrocede a Leibniz, embora nós não estejamos cientes de a que extensão, se qualquer uma, Holmes estava pensando sobre esse antecedente quando ele escreveu sobre um futuro “científico” para o direito. Leibniz escreveu sobre o uso possível de modelos matemáticos para descrever o direito e a filosofia em detalhe e escopo suficientes (nas palavras de Leibniz), “se controvérias devessem surgir, não haveria mais necessidade de disputa entre dois filósofos do que entre dois contadores (accountants). Pois seria suficiente para eles tomarem seus lápis em suas mãos e sentarem-se perto do ábaco e dizer um para o outro (com um amigo se eles desejarem): Calculemos.”³⁴ De fato, é esse ramo do pensamento de Leibniz que interessa a pessoas como Michael Livermore, quem está considerando como colocar o estado de arte em computação para trabalhar em problemas legais.³⁵ Contudo, como nós sugerimos é o pensamento de Leibniz sobre probabilidade, não sua especulação que regras fixas um dia poderiam responder a questões legais, que tem ressonância especial com a era da aprendizagem de máquina. Dessa forma, possivelmente, Leibniz pressagiou Holmes, tanto na aplicação da teoria da probabilidade ao direito quanto na especulação de que tal aplicação, por fim, poderia [121]ser posta de lado em favor de um corpo universal de regras. E mais, ele pode ter pressagiado Holmes também pensando além daquela parte do seu pensamento que tem saliência real para a aprendizagem de máquina.

Portanto, a ironia seria de se a computação seguiu as descrições de Holmes do direito como ele pensava que o direito é – não as especulações dele sobre para onde ele pensava que o direito estava indo. Hoje em dia, a aprendizagem de máquina encontra-se no caminho que Holmes entendia que o direito efetivamente atravessa em seu próprio dia. A aprendizagem de máquina deslocou a ciência da computação da dedução lógica para um processo indutivo de descoberta de padrões em grandes corpos de dados. A concepção do direito por Holmes deslocou o direito do formalismo baseado em regras para uma busca por padrões na experiência coletada da sociedade. Lendo Holmes como ele entendia que o direito é, não as suas especulações sobre para onde o direito poderia ir, nós discernimos um caminho do direito que se assemelha muito àquele tomado pela aprendizagem de máquina até agora.

Ao longo desse caminho, Holmes forneceu uma descrição completa do direito. Holmes descreveu o direito como profecia – significando que todas as instâncias do direito, todas as suas expressões, são profecia, e cada predição sucessiva, qualquer que seja a sua fonte formal, por sua vez, dá forma, a um grau maior ou menor, a todas as profecias do por vir. Dessa forma, há um caráter autorreferencial nas entradas e saídas do direito. Em uma semelhante autorreferência, o direito talvez até antecipe um caminho adiante para a aprendizagem de máquina: a experiência fornece a entrada a partir da qual decisões presentes são alcançadas; e, por sua vez, aquelas saídas se tornam entradas para decisões futuras. Para resumir, embora Holmes pudesse ter estado esperando para a tecnologia informar o direito, poderia revelar-se que é o direito que informa a tecnologia. Os advogados poderiam ter alguma coisa para ensinar aos cientistas da computação.

10.3 Lições para Advogados e outros Leigos

Através de uma leitura de Gödel, Turing e Holmes no capítulo 9, nós identificamos um caminho autorreferencial que a aprendizagem de máquina poderia seguir. Contudo, independentemente de para onde a tecnologia vai a partir daqui, ela já é importante demais para os leigos, incluindo advogados, ignorarem. Dessa forma, nós lembramos da nossa tarefa inicial: explicar a aprendizagem de máquina em termos que transmitem os seus fundamentos (essentials) para os não especialistas.

Nós capítulos acima, nós objetivamos transmitir os fundamentos. Nós fizemos isso com o auxílio e no interior dos limites de uma analogia entre duas revoluções – uma na jurisprudência, uma na computação. Embora uma audiência muito mais ampla precise se confrontar diretamente com a aprendizagem de máquina, os advogados, [122]na visão de sua função na sociedade, encontram-se envolvidos de maneiras distintas nas questões que ela apresenta. Chegar à aprendizagem de máquina através de uma analogia legal, felizmente, estabeleceu algumas novas conexões que auxiliarão não especialistas no geral. As conexões provavelmente terão saliência particular para os advogados.

Advogados, quer por inclinação, quer por hábito, são conservadores. O direito tem muito a ver com autoridade, e o argumento legal raramente conquista elogios por inovação notável. Além disso, mentes legais são céticas; o entusiamso por novas máquinas que anima um tecnólogo não é predominante entre advogados. E todavia, advogados, de tempos em tempos, têm estado envolvidos em revoluções. Como nós notamos no começo desta exploração dos fundamentos conceituais da aprendizagem de máquina, a teoria da probabilidade – a tendência comum sobre a qual as duas revoluções tratadas nos capítulos acima têm sido levadas a cabo – deve muito a pensadores que foram educados no direito. Assim, também, muito depois, ideias influentes no direito surgiram a partir de advogados a quem ciência e tecnologia têm interessado.

H.L.A Hart, tendo dedicado sua Preleção Inaugural em 1952 como professor de jurisprudência em Oxford a Definition and Theory in Jurisprudence,³⁶ uns poucos anos depois endereçou sua preleção Holmes em Harvard para o desafio que surge quando o sistema legal é convocado para classificar os tipos de “coisas maravilhosas” que solicitavam o interesse de Holmes repetidamente através da carreira dele. “A invenção humana e os processos naturais,” Hart escreveu...

“continuamente jogam semelhantes variantes sobre o familiar, e, se nós devemos dizer que essas variações de fatos classificam-se ou não sob as regras existentes, então o classificador tem de tomar uma decisão que não está ditada para ele, pois os fatos e fenômenos aos quais nós adequamos nossas palavras e aplicamos nossas regras são, por assim dizer, estúpidos (dumb)… as situações de fato não nos aguardam ordenadamente etiquetadas, vincadas e dobradas, nem está a classificação legal delas escrita sobre elas para ser simplesmente lida pelo juiz.”³⁷

O impacto da aprendizagem de máquina, compreendido e antecipado, identifica-se como um fenômeno que Hart teria reconhecido como requerendo classificação legal. Advogados e juízes são requisitados a endereçarem-no com as regras que eles têm à mão. Legislação nova tem tentado endereçá-lo em novos termos. A explicabilidade, um objetivo que nós consideramos acima, motivou uma variedade de nova legislação, tal como a GDPR, a qual entrou em força em 2018 na UE.³⁸ Promulgações em outros lugares perseguem um objetivo [123]similar, tal como o California Consumer Privacy Act (CCPA), o qual entrou em força em 2020,³⁹ como o fazem muito mais.⁴⁰ Tanto está muito cedo quanto está fora do escopo do presente breve livro fazer balanço da produção legislativa. Não está muito cedo para observar a necessidade para um entendimento mais amplo, mais intuitivos, do que o legislador é convocado para endereçar. Legisladores e praticantes necessitam entender o deslocamento a partir dos algoritmos para a aprendizagem de máquina, se eles devem produzir boa lei e praticá-la efetivamente. Tentar etiquetar, vincar e dobrar a aprendizagem de máquina em uma forma algorítmica familiar é um erro que Hart teria nos acautelado a evitar.

Suficientemente interessante, Turing, uma figura tão influente na linhagem da ingenuidade humana que nos interessou nos capítulos anteriores, parece não estar tão distante Holmes. A proximidade era via Hart. Considerado por alguns o principal filósofo legal desde Holmes, Hart chamou Holmes de um “figura heroica na jurisprudência.”⁴¹ Hart tratou da ideia do jurista anterior do direito em detalhe, parcialmente em riposta aos críticos de Holmes.⁴² Hart não escreve sobre Turing, mas eles foram contemporâneos – e estiveram ligados. Durante a Segunda Guerra Mundial, o que foi antes de Hart embarcar em uma carreira como um acadêmico legal, ele foi designado para o MI5, o agência de inteligência doméstica britânica. A responsabilidade de Hart foi liderar a cooperação entre o MI5 e o projeto ULTRA, o segundo tendo estado sob a jurisdição do MI6, a agência de inteligência externa. Foi sob o projeto ULTRA, em uma casa de campo em Bletcheley Park, na Iinglaterra, que Turing realizou sua quebra de códigos (codebreaking) e desenvolveu as estratégias computacionais que forneceram o ponto de partida da computação moderna. O trabalho de Turing em Bletchley Park possibilitou o MI6 a decifrar as comunicações alemãs criptografadas. Contudo, tão cautelosamente o MI6 guardou o ULTRA, que não era claro, no princípio, se a unidade de cooperação pela qual Hart era responsável serviria para algum propósito. Parece que as relações pessoais de Hart com pessoas-chave no ULTRA desempenharam um papel em fazer a cooperação funcionar – e, dessa maneira, ajudando a assegurar que as realizações técnicas de Turing adicionassem valor prático ao esforço de guerra.⁴³ Um eminente antigo estudante e colega, John Finnis, observa que Hart nunca divulgou detalhes adicionais sobre os seus deveres do tempo de guerra.⁴⁴ Anos após a guerrra – mas ainda algum tempo antes da ascensão de Turing a renome geral – Hart mencionou Turing: ele mencionou para a família que o admirava muito.⁴⁵

Que o renome de Turing agora se extende bem além da ciência da computação,⁴⁶ evidencia o reconhecimento mais amplo da computação para a sociedade moderna. A aprendizagem de máquina, como o ramo da computação que agora tanto influencia [124]o campo de estudo, requer uma vastidão equivalente de conhecimento. Contudo, o impacto da aprendizagem de máquina estende-se bem além da profissão legal. Cada ocupação é provável de sentir o seu impacto nos anos por virem. Regras existentes poderiam ajudar com alguns dos problemas aos quais a nova tecnologia dará origem, mas advogados e juízes não encontrarão as respostas prontas para “ler (read off)” nas regras existentes. Nós esperamos que, tendo apresentado as ideias e maneiras de pensar por trás da aprendizagem de máquina através de uma analogia com a jurisprudência, isso ajudará os advogados a abraçarem a nova tecnologia dentro do direito – e ajudará os leigos a abraçá-la dentro da experiência humana mais geral através da qual o impacto da aprendizagem de máquina agora é sentido.

Pelo menos, nós esperamos que os legisladores e as pessoas no geral pararão de usar a palavra “algoritmo” para descrever a aprendizagem de máquina, e que eles demandarão “a história por trás dos dados de treinamento” em vez de “a lógica por trás da decisão.”

Epílogo

ORIGINAL:

GRANT, T. D.; WISCHIK, D. J. On the path to AI: Law’s prophecies and the conceptual foundations of the machine learning age. Palgrave Macmillian Cham: 2020. pp.113-128. Disponível em: <https://link.springer.com/book/10.1007/978-3-030-43582-0>

TRADUÇÃO:

EderNB do Blog Mathesis

Licença: CC BY 4.0

1 [124]The Occasional Speeches Of Justice Oliver Wendell Holmes, compiled by Mark De Wolfe Howe, Cambridge, MA: The Belknap Press of Harvard University Press, Copyright © 1962 pelos President and Fellows of Harvard College. Copyright © renovado em 1990 por Molly M. Adams.

2 Foi o pai de Holmes que se referiu a Boston como o “eixo do universo,” em parte para zombar da vaidade dos seus habitantes, mas também para observar a importância da cidade para as artes e as ciências à época: Budiansky 23-27.

3 Learning and Science, Discurso em um Jantar da Associação da Faculdade de Direito de Harvard em Honra ao Professor C.C. Langdell (25 de junho de 1895), De Wolfe Howe (ed.)(1962) 84, 85.

4 Para uma visão geral, ver Faralli, Legal Philosophy in Italy in the Twentieth Century in Pattaro & Roversi (eds.), A Treatise of Legal Philosophy and General Jurisprudence (2016) 369 ff.

5 12 Harv. L. Rev. at 462.

6 Ver https://www.census.gov/history/www/innovations/technology/the_hollerith_tabulator.html.

7 Ver https://www.ibm.com/ibm/history/ibm100/us/en/icons/tabulator/.

8 Ver https://www.ibm.com/ibm/history/ibm100/us/en/icons/tabulator/. Os usos potenciais das máquinas em indústrias diferentes eram refletidos nas patentes que Hollerith submeteu para elas: “minha invenção não está limitada para um tal sistema [para o censo] mas pode ser aplicada na [125]realização de compilações de qualquer série ou sistema de itens representando características de pessoas, assuntos ou objetos.” Citado em Geoffrey D. Austrian, Herman Hollerith: Forgotten Giant of Information Processing (1982) 83. Um avanço comercial para Hollerith veio quando os gerentes reconheceram que a máquina melhorava vastamente a contabilidade de custos em fábricas: id. em 200-203. e outro quando as lojas de departamento começaram a usá-la para analisar dados de vendas: id. em 203-205.

9 The Census of the United States, 63(9) Scientific American 132 col. 2 (30 de agosto de 1890).

10 Id. A versatilidade da máquina foi reconhecida desde o início. Robert P. Porter, superintendente do Censo dos EUA para 1890, relatou ao secretário do interior que a máquina permitia “os fatos serem apresentados em uma variedade maior de formas” do que até então era prático: Porter para o secretário do interior, 3 de julho de 1889, como citado por Austrian em 49. Cf. id. Em 64-65, 69. Enfatizando a mudança qualitativa que a máquina de Hollerith causou, ver Norberg (1990). Quanto à pura velocidade da máquina, essa foi demonstrada nos testes da agência do Censo nos quais ela derrotou com folga os dois melhores rivais contemporâneos: Austrian em p. 51.

11 Austrian at 124.

12 Holmes to Pollock (10 de junho de 1923), reimpresso De Wolfe Howe (ed.) (1942) 118.

13 O crítico posterior de Holmes, Lon Fuller, quem entendia que o realismo legal falha como filosofia do direito por causa de sua tendência de identificar uma força normativa nos fatos, escolheu a máquina de Hollerith como um emblema dos realistas:

Os fatos mais relevantes para o estudo legal geralmente serão descobertos serem os que podem ser chamados de fatos morais. Els não existem em padrões de comportamento, mas em atitudes e concepções de retidão (rightness), nos tabus obscuros e reciprocidades ocultas que permeiam relações sociais e profissionais. Eles são fatos de um tipo que não passarão prontamente através de uma máquina de ordenação estatística Hollerith…

Lon Fuller, Lecture II, Julius Rosenthal Lectures, Northwestern University: The Law in Quest of Itself (1940) 45, 65.

14 Dr. Oliver Wendell Holmes at Cambridge University, 22(551) Scientific American 8806 col. 2 (24 de julho de 1886).

15 Os materiais de Holmes na Harvard Law School Library Digital Suite incluem um recibo para assinatura da Scientific American por Homes em 1927; e parece, a partir do inventório em sua propriedade, que ele estava recortando artigos do jornal em 1922 e recebendo-o em sua biblioteca em 1913. Ver 3:HLS.Libr:7678129 seq. 151; 3:HLS.Libr:8582493 seq. 37; HLS.Libr:8268117 seq. 39.

16 Quanto a isso, ver Smith Rinehart, Holmes on Patents, 98 J. Pat. Trademark Off. Soc’y 896 (2016).

17 [126]Por exemplo, considere a disputa envolvendo o Escritório do Censo mesmo, antigo consumidor de Hollerith: Austrian at 264.

18 A Tabulating Machine Company de Hollerith teve a sua matriz e oficinas, entre 1892 e 1911, em 1054 31st Street, NW: Austrian, pp. 97-99; ver a fotografia id. entre pp. 182 e 183. Ao primeiro chegar em Washington em dezembro de 1902 para começar no serviço como juiz associado da Suprema Corte, Holmes e sua esposa viveram em 10 Lafayette Square: Catherine Drinker Brown, Yankee from Olympus: Justice Holmes and His Family (1945) 353. Posteriormente, ele mudaram-se para 1720 I Street, a qual Holmes adquiriu e reformou em 1902: Budiansky 286. O senador Henry Cabot Lodge, Jr., escrevendo após a morte de Holmes para Edward J. Holmes, sobrinho de Holmes, pensou que a casa em I Street, a qual Holmes tinha legado ao governo, poderia ser usada como um “santuário à memória [de Holmes]” (carta datada de 6 de junho de 1939): 3:HLS.Libr:8582488 seq. 53. Edward disse que a ideia não teria agradado a Holmes: carta para Lordge, datada de 16 de junho de 1939, HLS.Libr:8582488 seq. 55. Nada resultou dos planos para preservar a casa. Um indeterminado prédio de escritórios agora ocupa o lugar. As paredes exteriores do antigo armázem no a Tabulating Machines Company realizava o seu trabalho ainda existem. A IBM colocou uma placa lá em 1984, para notar a conexão.

19 Austrian, pp. 60–62.

20 Cararacterística era a excitação dele, expressa em uma carta à senhora Pollock, sobre sair para ver uma trupe de malabaristas (jugglers): Holmes to Lady Pollock (13 de maio de 1898), reimpresso De Wolfe Howe (ed.) (1942) 87.E ele caminhava para e a partir do trabalho (pelo menos tão adiantado quanto os seus 70 anos, o que quer dizer que ele ainda estava viajando diariamente (commuting) a pé quando o censo de 1910 era contado). Ver, por exemplo, a referência de Holmes a caminhar para casa passado o Tesouro: Holmes, Law and the Court, Speech at a Dinner of the Harvard Law School Association of New York (15 de fevereiro de 1913), in Posner (ed.) (1992) 145, 148. também parece que Holmes e a esposa dele tiveram uma saída ao longo do canal C&O, o canal (waterway) sobre o qual o prédio Hollerith estava localizado: Budiansky 281.

21 Ver, como exemplo, a respeito da ciência e burocracia na França do meio do século XIX, Fox, The Savant and the State: Science and Cultural Politics in Nineteenth-Century France (2012) 94–137; a respeito da análise sistematizada de suas novas fronteiras após as partições da Polônia, ver Olesko, The Information Order of the Prussian Frontier, 1772–1806 (Max-Planck-Institut für Wissenschaftsgeschichte, 2019).

22 Naturalmente, Hollerith surge em conexão com o crescimento e intensificação da burocracia pública. Ver, por exemplo: Biography of an Ideal: A History of the Federal Civil Service (U.S. Civil Service Commission, Office of Public Affairs, 1973) 176. Ver também, Beniger, The Control Revolution: Technological and Economic Origins of the Information Society (1986) 399–400 e em outros pontos.

23 [127]Não ser confundido com o eminente historiador da Europa moderna, Franklin L. Ford (1920–2003).

24 Holmes to Ford (26 de abril de 1907), citado em Burton (1980) 204.

25 Holmes, Law and the Court, Speech at a Dinner of the Harvard Law School Association of New York (15 de fevereiro de 1913), in Posner (ed.) (1992) 145, 148. Em outro local, Holmes sugeriu que ele não era fã de Wagner: ver Budiansky 194–95, 424.

26 Pelo menos em qualquer representação da ópera como organizada até a data.

27 Os personagens que estão tecendo no começo de Götterdämmerung eram chamados de Nornas, nórdico antigo para as Parcas (Fates). Ver Richard Wagner, Götterdämmerung (Twilight of the Gods) (Stewart Robb, trad.) (London: Scribner, 1960) 1–2.

28 12 Harv. L. Rev. em 462–63.

29 Posner, 110 Harv. L. Rev. 1039, 1040 (1997).

30 O juiz Posner cita a passagem aqui: 110 Harv. L. Rev. 1040 n 3; e (1997) 63 Brook. L. Rev. 7, 14–15 (1997).

31 Ver, por exemplo, Voegelin The New Science of Politics (originalmente as Walgreen Foundation Lectures de 1951), republicado em Modernity Without Restraint, Collected Works, vol. 5 (2000); The Origins of Scientism, 15 Soc. Res. 473–476 (1948).

32 Ver, por exemplo, Bostrom, Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards, 9 J. Evol. Tech. (2002).

33 Para um arquicrítico, ver Alschuler (1997). Um admirador quem, mesmo assim, crítica Holmes sobre e esse ponto é Posner: ver 110 Harv. L. Rev. em 1042 (1997).

34 Gottfried Wilhelm Leibniz, Dissertatio de Arte Combinaoria (1666), citado por Livermore em Rule by Rules, capítulo em Whalen (ed.) (2019) 3.

35 Livermore (2019).

36 Reimpresso em H.L.A. Hart, Essays in Jurisprudence and Philosophy (1983) 22.

37 Hart, Positivism and the Separation of Law and Morals, 71 Harv. L. Rev. 593, 607 (1958).

38 Adotado em 27 de abril de 2016, aplicável a partir de 25 de maio de 2018.

39 AB375, Title 1.81.5 (assinado em lei em 28 de junho de 2018, para ser operativo a partir de 1 de janeiro de 2020).

40 Para uma análise, ver U.S. Library of Congress, Regulation of Artificial Intelligence in Selected Jurisdictions (janeiro de 2019).

41 71 Harv. L. Rev. 593.

42 Lon Fuller foi um dos críticos principais. Ver a Preleção Holmes (1957) de Hart, Positivism and the Separation of Law and Morals, 71 Harv. L. Rev. 593–629 (1958). Ver também Sebok (2009).

43 Nicola Lacey, em seu A Life of H.L.A. Hart: The Nightmare and the Noble Dream (2006), observa o envolvimento próximo de Hart com [128]Bletchley Park durante a Segunda Guerra Mundial, mas ela não observa nenhuma ligação pessoal entre Hart e Turing: Lacey 90-93. Uma conexão pessoal é sugerida, de passagem, em Gavaghan, Defending the Genetic Supermarket: The Law and Ethics of Selecting the Next Generation (London: Routledge, 2007) 37. Lacey, quem trabalhou de perto com os artigos pessoais de Hart, não está ciente de nenhuma ligação mais próxima entre Hart e Turing a parte de uma circunstancial do papel de Hart como cooperação ULTRA do MI5: correspondência do professor Lacey para T.D. Grant (9 de agosto de 2019).

44 Finnis observa que Hart “patrioticamente manteve o segredo ordenado sobre essas atividades [para o MI5 durante a guerra] até o fim da vida dele.” John Finnis, H.L.A. Hart: A Twentieth Century Oxford Political Philosopher: Reflections by a Former Student and Colleague, 54 Am. J. Jurisprud. 161 (2009).

45 Correspondência de Adam Hart para T.D. Grant (15 de agosto de 2019).

46 Lembre-se do capítulo 9, p. 111, n. 17.