No Caminho para a IA 7 Júris e Outros Preditores Confiáveis

No Caminho para a IA: Profecias do Direito e os Fundamentos Conceituais da Era da Aprendizagem de Máquina

Por Thomas D. Grant & Damon J. Wischik

Capítulo anterior

[81]Capítulo 7 Júris e Outros Preditores Confiáveis

Na consideração formalista, um júri decide questões factuais; apenas o juiz decide questões de direito.¹ Holmes considerava que os júris exercem uma influência mais ampla do que essa.² “Eu não gosto que me digam que eu estou usurpando as funções do júri se eu aventuro-me a estabelecer o padrão de conduta eu mesmo em um caso evidente,” Holmes escreveu em uma veia secamente humorosa para o seu amigo de longa data Frederick Pollock. “É claro, eu admito que qualquer questão de direito realmente difícil é para o júri, mas eu também não gosto de ouvir que ela é chamada de uma questão de fato…”³ Qualquer que seja a maneira apropriada de descrever a divisão de responsabilidades entre juiz e júri, Holmes entendia a segunda ser um tipo de conduíte, para dentro tribunal (courtroom), dos entendimentos - e sentimentos – gerais predominantes na comunidade. Em seu melhor aspecto, o júri trouxe a experiência coletiva da comunidade para questões que são melhor decididas através da aplicação de senso comum. O júri, como uma encarnação da experiência da comunidade, é requerido quando o que importa é “a natureza do ato, e o tipo e o grau de dano causado, considerado à luz da conveniência e do costume.”⁴ Contudo, o júri está envolvido em vários problemas vexatórios. Problemas análogos surge com a aprendizagem de máquina.

7.1 Problemas com Júris, Problemas com Máquinas

Os júris, escreveu Holme, “introduzirão em seu veredito uma certa quantidade – uma quantidade muito grande, até onde eu observei – de preconceito popular.”⁵ Verdadeiro, os júris “dessa forma, mantêm a administração do direito de acordo com [82]os desejos e sentimentos da comunidade.”⁶ Lendo essa claúsula “de acordo com (accord with)” por si mesma, alguém poderia a considerar lisonja. Lendo-a em contexto, alguém percebe que Holmes não tinha nenhuma intenção de bajular júris. Tratando de porque, em absoluto, nós temos júris, Holmes acrescentou,

“Uma tal justificação é um pouco como aquela que um eminente barrister inglês deu-me muitos anos atrás como a distinção entre barristers e solicitadores (solicitors). Em substância, era que, se o direito devia ser praticado, alguém tinha de ser condenado (damned), e ele preferia que devesse ser outra pessoa.”⁷

Holmes, ao afirmar que os júris produzem resultados “de acordo com os desejos e sentimentos da comunidade,” estava afirmando um fato sobre o comportamento dos júris como ele tinha observado muitas vezes os júris comportarem-se. Ele não estava lhes concedendo uma benção por se comportarem daquela forma.

Três problemas particulares com júris sugeriram a Holmes uma necessidade de cautela. Em cada um, um problema similar pode ser discernido com a aprendizagem de máquina.

Primeiro, há o problema da responsabilização (accountability). Holmes, ao referir-se ao barrister que preferia que “outra pessoa (somebody else)” arcasse com a culpa, estava referindo-se à prática dos advogados ingleses não para argumentar sobre a advocacia, mas para argumentar sobre tomada de decisão. Se um juiz encara uma questão intratável sobre a qual ele realmente prefereria não tomar uma decisão, apenas, para propósitos de decidir o caso, ele busca uma forma de enviar a questão para o júri. É improvável que algumas decisões agradem todas as partes interessadas. Se uma autoridade, tal como uma juiz, tem o abrítrio para delegar tais decisões para outro ator, então existe a tentação para o fazer, porque, se outro ator toma a decisão, então a autoridade remove a si mesma da culpa.

Uma tendência para delegar decisões existe com a aprendizagem de máquina. O papel dos sistemas de aprendizagem de máquina em efetiva prática de decisão cresce rapidamente. O crescimento é visível, ou previsível, em bancos,⁸ em rodovias,⁹ no campo de batalha,¹⁰ no tribunal.¹¹ Em vez de uma ser humano tomando a decisão – tal como um agente de empréstimo bancário ou um juiz de condenação – a decisão é dada a uma máquina. Uma certa distância agora separa o ser humano da decisão e das suas consequências. Se “alguém teve de ser condenado,” por exemplo, por negar hipotecas de casas (home mortgages) ou dar longas sentenças de prisão (jail sentences) sobre critérios desagradáveis, então as autoridades e suas instituições bem gostarão de ver essa distância aumentar. Dada distância suficiente, a máquina toma [83]a decisão e, talvez, deva ser condenada; mas o ser humano levanta suas mãos e declara, Não olhe para mim.

Até agora, a tomada de decisão por máquinas não libertou os seres humanos do dever, onde o direito o impõe, de dar explicações pelas ações que eles colocaram em sucessão. Todavia, isso tem começado a levantar questões de causação.¹² Essas são prováveis de se multiplicarem se a separação continuar a aumentar (como provavelmente irá) entre um ser humano colocando um processo de máquina em sucessão e o impacto prático da decisão da máquina. Propostas, tais como aquela no Parlamento Europeu em 2017 para conferirem personalidade legal a máquinas,¹³ pavimentariam o caminho para separação ainda maior (e por essa razão, entre outras, são uma má ideia).¹⁴ Nós encontramos uma mensagem oportuna na cautela de Holmes com relação à delegação de decisões para júris.

Segundo, há propagação de “preconceito popular.” Exatamente como o júri é fiel à experiência que ele traz ao tribunal e, dessa maneira, profere um veredito que reflete os padrões nessa experiência, assim a máquna será fiel à aos seus dados de treinamento. Se os dados de treinamento expressam um padrão de preconceito de comunidade que nós não desejamos seguir, então, nós não ficaremos satisfeitos com a decisão que a máquina profere.¹⁵ Holmes via júris como um mecanismo para transmitir a experiência da comunidade para a decisão legal. Afirmar que eles são confiáveis nesse função é conceder uma certa admiração, mas é tanto como soar um aviso. Não menos confiável é o sistema de aprendizagem de máquina na produção de uma saída usando os dados (data) que são dados (given). Ambos são mecanismos que dependem de seus dados (givens) – sua experiência e os dados (data). As suas saídas necessariamente refletirão os padrões que eles descobrem ali.¹⁶

Finalmente, há o problema de como nós examinamos a tomada de decisão de caixa-preta. Quando legisladores requisitam que a tomada de decisão por máquina seja examinada, eles encontram uma dificuldade semelhante àquela que surge quando nós tentamos descobrir como um júri chegou a sua decisão; é difícil ver dentro do mecanismo de tomada de decisão. No capítulo 2,¹⁷ nós tratamos dos desafios envolvidos em explicar as saídas de sistemas de caixa-preta. Holmes observou os desafios ao testar júris e corpos similares. Consideradno uma decisão por um tribunal estadual de impostos, o qual, porque o tribunal era constituído por pessoas leigas (laypersons), era como um júri de maneira relevante, Holmes escreveu, “quão incertos são os elementos da evidência, e que maneiras não usuais ela se move”¹⁸; um tribunal de apelação deve “fazer concessão a uma certa vagueza de ideias a ser esperada na mente leiga.”¹⁹ Mesmo o juiz, pensava Holmes, tendia, “onde há dúvida…” a produzir decisões derivadas de razões que estão “disfarçadas e inconscientes.”²⁰ Mesmo [84]o juiz, educado nas formalidades da lógica, produz saídas que são inescrutáveis. O júri é ainda menos provável de fornecer um traço claro do que o conduziu a decidir como ele o fez. Aqui, novamente, está o fenômeno do raciocínio ocluso, as camadas ocultas do processo legal. Explicar a saída da aprendizagem de máquina apresenta em um novo cenário um problema familiar ao direito desde, pelo menos, os dias de Holmes.

7.2 O que fazer com Preditores?

Holmes, após ele ter sido escalado no papel de progenitor do realismo legal, foi amplamente descrito como complacente sobre os problemas sociais, insensível até, diante de injustiça. Observadores dos dias atuais foram tão longe quanto a chamar Holmes de “corrosivo” porque ele parecia aceitar o estado de coisas como ele era.²¹ Em um julgamento, o qual os críticos dele frequentemente citam, Holmes manteve um estatuo da Virginia sob o qual a Comunidade (Commonwealth) esterelizava certas pessoas consideradas de “mente fraca (feebleminded).”²² Holmes também forneceu material, que observadores posteriores usariam para o caracterizar como frio ou resignado. Escrevendo em 1927 em uma carta ao seu amigo Harold Laski, Holmes disse “Eu aceito ‘uma equação grosseira’ entre ser (isness) e dever-ser (ought-ness).”²³ A Morris Cohen, ele escreveu em 1921, “Em uma acepção, eu adoro o inevitável.”²⁴ Escrevendo aproximadamente na mesma época a outro correspondente, Holmes duvidava de que melhorais racionais seriam realizadas no mundo, pelo menos, no futuro imediato:

“Todos nós tentamos criar um tipo de mundo do qual nós deveríamos gostar. Do que nós gostamos jaz muito profundamente para argumentos e pode ser mudado apenas gradualmente, frequentemente, através da experiência de muitas gerações.”²⁵

Alguém poderia ler Holmes aconselhar a aceitação do o que quer que a predição dos padrões na experiência passada sugere. E, contudo, Holmes levou em consideração o desejo por mudança – o desejo de todos para “criar um tipo de mundo do qual nós deveríamos gostar.” Ele também mostrou interesse pessoal em membros da geração mais nova que buscavam mudança; o correspondente ao qual ele escreve sobre criar um tipo de mundo do qual nós deveríamos gostar foi John C. H. Wu, um estudante de direito de 22 anos à época e muito preocupado em erguer a China, sua terra natal, de seu então mal-estar secular.²⁶ O relato padrão – de Holmes com fatalista – não é suportado pelo seu registro de encorajar pessoas tais como Wu em seus esforços para escapar dos limites da experiência.²⁷

[85]Além disso, a respeito da experiência e da sua influência sobre a decisão, Holmes não pensava que todos os mecanismos para o discernimento de padrões na experiência mereçam deferência igual. A legislatura era o mecanismo, no entendimento de Holmes, que uma corte menos devia questionar; deferência à legislatura era um preceito que Holmes aplicava fielmente. Era essa deferência que estava visível em seu julgamento no caso de esterilização da Virginia. Alguém percebe isso também em suas opiniões discordantes em Lochner e casos similares, onde ele condenava a Corte por palpitar (second-guessing) sobre leis que foram promulgadas sob apropriados procedimentos legislativos e que tinham como objetivo os vários propósitos que hoje em dias nós chamaríamos de socialmente progressivos.

Em um número de apelos a vereditos de júris, Holmes teve uma resposta muito diferente da que ele teve para desafios contra estatutos. Ele invalidou vereditos de júris ou teve opiniões contrárias contra maiorias que não o fizeram. Moore v. Dempsey é o caso mais proeminente no qual Holmes considerou como um júri, perfeitamente “de acordo com os desejos e sentimentos da comunidade,” produziu um resultado que requeria correção. Cinco réus, todos afro-americanos, tinham sido presos. O grande júri que retornou acusações (indictments) contra eles tinha sido composto apenas por brancos, incluindo membros de um tentado linchamento por multidão (lynch mob). A evidência contra eles era escassa; os advogados de defesa deles, indicados pela corte, não tinham feito nada em sua defesa; e a “Corte e vizinhança estavam lotadas com uma multidão adversa que ameaçava as mais perigosas consequências para qualquer um que interferisse com o resultado desejado.”²⁸ O júri em julgamento considerou os réus culpados; a sentença foi a morte. Nas palavras de Holmes “conselho, júri e juiz foram varridos para o fim fatal por uma onda irresístivel de paixão pública.”²⁹ Verdadeiro, a situação em Moore v. Dempsey tinha sido de que os fato “se verdadeiros como alegados… [tornavam] o julgamento absolutamente vazio.”³⁰ O corpo reunido para funcionar como júri absolutamente não funcionou como um júri. Ao mesmo tempo, as transcrições no tribunal (courthouse) exemplificavam, in extremis, o júri como tomador de decisão. Embora esse fosse um exemplo extremo, o caso reluziu uma luz sobre como o júri funciona, e os júris funcionam dessa forma mesmo quando todas as pessoas envolvidas agiram em boa fé: os júris encontram os seus padrões na experiência em torno deles. Um corretivo é requerido, quando essa experiência discorda do nosso melhor entendimento do mundo que nós desejamos ter.

Como os dados que treinam o sistema de aprendizagem de máquina são um dado (given), tanto na gramática latina quanto no processo de aprendizagem de máquina, assim também é a experiência que Holmes entendia ser a principal influência sobre o direito. A perspectiva pessoal de Holmes era própria à aceitação de dados (givens). Contudo, Holmes [86]estava alera para o perigo que os dados (givens) apresentam para certos tipos de tomada de decisão que dependem deles como entradas. Ele não sugere que o júri poderia agir de qualquer forma diferente. Ele colocava o corretivo em algum outro lugar, a saber, nas mãos da corte de recurso. Nós nos voltaremos no próximo capítulo para considerar mais de perto como Holmes entendia o corretivo funcionar em uma situação particular – aquela onde as autoridades públicas acumularam evidência em violação ao direito constitucional de um réu – e como uma prática que chamaremos de restrição inferencial (inferential restrain) foi necessária em procedimentos legais e tambêm é provável de o ser em aprendizagem de máquina.

Próximo capítulo

ORIGINAL:

GRANT, T. D.; WISCHIK, D. J. On the path to AI: Law’s prophecies and the conceptual foundations of the machine learning age. Palgrave Macmillian Cham: 2020. pp.81-88. Disponível em: <https://link.springer.com/book/10.1007/978-3-030-43582-0>

TRADUÇÃO:

EderNB do Blog Mathesis

Licença: CC BY 4.0

1 [86]Para uma consideração clássica, ver Leonard (ed.), The New Wigmore (2010) § 1.2 pp. 3–5.

2 Holmes tinha experiência com júris. Ele julgou muitos recursos de julgamentos nos quais eles foram alistados (empaneled). Além disso, pela maior parte do tempo quando Holmes serviu na Corte Judicial Suprema de Massachusetts, os seus membros também se sentaram em juízes de primeira instância (trial judges) (em divórcios, assassinatos, certas disputas contratuais, disputas sobre testamentos (wills) e custódias (trusts), processos judiciais em equidade (equity). Budiansly 183-184. Mais sobre os julgamentos por júri (jury trials) de Holmes, ver Zobel, 8 Massachusetts Legal History 35–47 (2002); 36 Boston Bar J. 25–28 (1992).

3 Letter of Holmes to Pollock (13 de maio de 1898): reimpresso De Wolfe Howe (ed.) (1942) 85–86 (reticências no original). Vinte e dois escritores também têm dúvidas da distinção clássica: ver, por exemplo, Allen & Pardo, The Myth of the Law-Fact Distinction, 97 Nw. U. L. Rev. 1769–1807 (2003). Ver também Zuckerman, Law, Fact or Justice? 66 Boston U. L. Rev. 487 (1986).

4 Middlesex v. McCue, 149 Mass. 103; 21 N.E. 230 (1889). Cf. Commonwealth v. Perry, 139 Mass. 198, 29 N.E. 356 (1885).

5 Law in Science and Science in Law, 12 Harv. L. Rev. at 460.

6 Id.

7 Id. Na Inglaterra e no País de Gales e em outros países da Commonwealth, a prática do direito está dividida entre solicitadores (solicitors) e barristers. Amplamente falando, a divisão é entre advogados (lawyers) que não argumenta em corte (solicitadores) e aquels que o fazem (barristers). A exclusividade dos direitos dos barristers de aparecerem em corte, que prevalecia nos dias de Holmes tem sido qualificada desde então, mas a divisão básica permanece a mesma. Para um relato da relação por uma firma de direito no Reino Unido em 2016, ver https://www.slatergordon.co.uk/media-centre/blog/2016/09/difference-between-a-lawyer-a-solicitor-and-a-barrister-explained/.

8 Bartlett, Morse, Stanton & Wallace, Consumer-Lending Discrimination in the Era of FinTech (outubro de 2018). [87]http://faculty.haas.berkeley.edu/morse/research/papers/discrim.pdf. Cf., considerando um problema diferente de responsabilização (accountability), Ji, Are Robots Good Fiduciaries: Regulating Robo-Advisors Under the Investment Advisers Act of 1940, 117 Col. L. Rev. 1543 (2017).

9 Quanto à solução em direito penal (tort law), ver Geistfeld, A Roadmap for Autonomous Vehicles: State Tort Liability, Automobile Insurance, and Federal Safety Regulation, 105 Cal. L. Rev. 1611 (2017). Cf. Kowert, Note: The Foreseeability of Human-Artificial Intelligence Interactions, 96 Tex. L. Rev. 181 (2017).

10 Ver Ford, AI, Human-Machine Interaction, and Autonomous Weapons: Thinking Carefully About Taking ‘Killer Robots’ Seriously, Arms Control and International Security Papers, 1(2) (April 20, 2020). Cf. Feickert et al., U.S. Ground Forces Robotics and Autonomous Systems (RAS) and Artificial Intelligence (AI) (Congressional Research Service Reports, 1 de novembro de 2018).

11 Ver, por exemplo, Roth, Trial by Machine, 104 Geo. L. J. 1243 (2016). Cf. Rolnick Borchetta, Curbing Collateral Punishment in the Big Data Age: How Lawyers and Advocates Can Use Criminal Record Sealing Statutes to Protect Privacy and the Presumption of Innocence, 98 B.U. L. Rev. 915 (2018).

12 Quanto à causação e aos desafios para se lidar com a resposabilidade legal (legal liability) para saídas de máquina, ver capítulo 8, p. 97 n.12.

13 Civil Law Rules on Robotics, Resolução do Parlamento Europeu (16 de fevereiro de 2017).

14 Para objeções às propostas de conferir personalidade legal a sistemas de aprendizagem de máquina e semelhantes, Bryson, Diamantis & Grant (2017). Ver também Brozek & Jakubiec (2017).

15 Um argumento feito por Kroll et al. supra n. 76 em 687.

16 Considerando essa similaridade, alguém poderia ser cauteloso sobre usar um sistema de aprendizagem de máquina para “desinfluenciar (debias)” um júri. Aqui nós não estamos falando sobre o uso de máquinas tais como polígrafos como suplementos à tomada de decisão por um júri; nós não expressamos nenhuma visão sobre tais máquinas. Quanto a “desinfluenciar (debiasing) júris” com máquinas, Roth op. cit. at 1292–94.

17 Ver Capítulo 2, pp. 24-27.

18 Coulter et al. v. Louisville & Nashville Railroad Company, 196 U.S. 599, 609 25 S.Ct. 342, 344 (Holmes, J.) (1905).

19 196 U.S. at 610, 25 S.Ct. at 345.

20 12 Harv. L. Rev. at 461.

21 Jackson, op. cit. 130 Harv. L. Rev. at 2368 (2017).

22 Buck v. Bell, 274 U.S. 200 (Holmes, J., 1927). Quanto às circunstâncias do caso e ao esboço do julgamento por Holmes, ver Budiansky 428–430.

23 Carta de Holmes para Laski (1 de junho de 1927), reimpressa em 2 Holmes-Laski Letters 948 (Mark De Wolfe Howe ed., 1953).

24 [88]Carta de Holmes para Morris Cohen (30 de janeiro de 1921), em Felix S. Cohen, The Holmes-Cohen Correspondence (1948) 9 J. Hist. Ideas 3, 27.

25 Carta de Holmes para Wu, 12 de dezembro de 1921, reimpressa em Justice Holmes to Doctor Wu: An Intimate Correspondence, 1921–1932 (1947) 2–3.

26 Wu, quem estava estudando na Universidade de Michigan e abordou o juiz associado de 80 anos de idade em autointrodução, manteve uma longa correspondência com Holmes. Wu prosseguiu para ter uma carreira distinta como acadêmico, advogado e diplomata.

27 Houve outros notados por seu ativismo e a quem Holmes, mesmo assim, admirava e com os quais teve longas amizades. Felix Frankfurter e Loius Brandeis (quem ambos em tempo serviram como juízes associados da Suprema Corte dos EUA, Brandeis coincidindo com o mandato (tenure) de Holmes, Frankfurter tomando assento posteriormente) eram exemplos proeminentes. Ver Budiansky 328–29, 387–90; 356–59, 362–63.

28 Moore v. Dempsey, 261 U.S. 86, 89 (Holmes, J., 1923).

29 261 U.S. at 91.

30 261 U.S. at 92.