No Caminho para a IA: Profecias do Direito e os Fundamentos Conceituais da Era da Aprendizagem de Máquina
Por Thomas D. Grant & Damon J. Wischik
[1]Capítulo 1 Duas Revoluções
O que constitui o direito? Você encontrará alguns escritores de texto dizendo a você que é alguma coisa diferente daquilo que é decidido nos tribunais de Massachusetts ou da Inglaterra, que é um sistema da razão, que é uma dedução a partir de princípios de ética ou admitidos ou sei lá, o qual pode ou não pode coincidir com as decisões. Mas se nós aceitarmos a visão do nosso amigo, o homem desagradável, nós deveremos descobrir que ele não se importa com duas ninharias pelos axiomas ou deduções, mas que ele quer saber o que os tribunais de Massachusetts ou ingleses provavelmente fazem de fato. Eu estou muito de acordo com ele. As profecias do que os tribunais de fato farão, e nada mais pretensioso, são o que eu quero dizer por direito.
Oliver Wendell Holmes, Jr. The Path of the Law (1897)
Em meados dos anos de 1980, dois poderosos novos algoritmos para ajuste de dados (fitting data) tornaram-se disponíveis: redes neurais (neural nets) e árvores de decisão (decision tree). Uma nova comunidade de pesquisa usando esses métodos surgiu. O objetivo dela era a precisão preditiva. A comunidade consistia de jovens cientistas da computação, físicos e engenheiros mais uns poucos estatísticos idosos. Eles começaram usando as novas ferramentas no trabalho com complexos problemas de previsão, onde era óbvio que modelos de dados não eram aplicáveis: reconhecimento de fala (speech recognition), reconhecimento de imagem, predição de séries temporais não lineares (nonlinear time series prediction), reconhecimento de escrita manual (handwriting recognition), predição em mercados financeiros.
Leo Breiman, Statistical Modeling: The Two Cultures (2001)
A aprendizagem de máquina, o método por trás da revolução corrente na inteligência artificial,1 pode servir a uma vasta gama de propósitos. Pessoas através de praticamente todos os estilos de vida sentirão seus efeitos nos anos vindouros. Contudo, não muitos deles têm qualquer ideia clara de como a aprendizagem de máquina funciona. [2]O presente breve livro descreve como a aprendizagem de máquina funciona. Ele faz isso com uma supreendente analogia.
Oliver Wendell Holmes, Jr., um das mais influentes figuras do direito nos tempos modernos, alternativamente, tem sido abraçado pela qualidade aforística de sua escrita e acusado com a acusação de se reconciliar muito prontamente como as injustiças de sua época. Contudo, seria um erro aceitar que Holmes não foi mais do que um artesão de beaux mots, ou não ver mais que o julgamento de alguns de que ele carecia de bússola moral. Isso omitiria o papel de Holmes em uma revolução no pensamento legal – e a notável importância das ideias dele para uma revolução na ciência da computação que agora está em andamento.
Holmes, nos anos imediatamente posteriores à Guerra Civil Americana, engajou-se com os principais pensadores do século XIX, intelectuais que estavam dando uma nova olhada no raciocínio científico e na lógica, e cujas intuições influenciariam uma variedade de disciplinas no século vindouro. O engajamento deixou uma impressão em Holmes e, através do seu trabalho como estudioso e como juiz, prosseguiria para dar forma a uma nova perspectiva sobre o direito. Holmes desempenhou um papel central no que recentemente tem sido referido como uma “virada indutiva (inductive turn)” no direito,2 baseada sobre um entendimento de que o direito na prática não é um sistema de silogismo ou de prova formal, mas, em vez disso, é um processo de discernimento de padrões na experiência. Sob a influência dele, a teoria legal passou por uma mudança da dedução para a indução, do formalismo para o realismo. Essa mudança afetou o direito na teoria e na prática. Ela é frequentemente recontada na moderna escrita legal. Uma visão formalista dos textos legais – ver o direito como uma fórmula que pode ser aplicada às situações factuais que o legislador promulgou o direito para tratar – permanece indispensável para o entendimento do direito; mas o formalismo, para melhor ou pior, não é mais suficiente se alguém deseja entender como advogados, juízes e outros envolvidos no direito efetivamente operam.
Na ciênca da computação, uma mudança tem ocorrido, a qual hoje está tendo pelo menos impacto igual, mas, na maioria das áreas, permanecer desconhecida ou, pelo menos, imprecisamente apreendida. A nova abordagem é uma abordagem dirigida por dados, na qual computadores são “treinados” para fazerem previsões. Ela teve suas raízes nos anos de 1950 e chegou à proeminência desde 2012. A visão clássica da computação, como contraste, é de que os computadores executam uma série de passos lógicos que, aplicados a uma dada situação, conduzem à realização de uma tarefa requerida; é o trabalho do programador compor os passos como um algoritmo para realizar a tarefa requerida. A aprendizagem de máquina ainda é construída sobre computadores que executam código como uma série de passos lógicos, da maneira que eles têm sido construídos desde o começo da computação moderna3 - mas essa não é uma explicação adequada do que torna a aprendizagem de máquina uma ferramenta tão poderosa, tão poderosa [3]que as pessoas que falam dela como o ponto de partida na direção de uma genuína inteligência artificial.
1.1 Uma Analogia e Porquê Nós a estamos fazendo
Neste livro, nós descrevemos, no sentido mais amplo, como a aprendizagem de máquina faz o que ela faz. Nós argumentamos que o terreno novo e não familiar da aprendizagem de máquina espelha com proximidade notável a concepção de direito de Holmes. Exatamente como o direito é um sistema de “profetizar a partir da experiência,” como Holmes o coloca, assim também a aprendizagem de máquina é um processo indutivo de predição baseado em dados. Nós consideramos os dois, lado a lado, nos capítulos que se seguem pelos dois propósitos mutuamente suportantes: para transmitir um melhor entendimento da aprendizagem de máquina; e para mostrar que os conceitos por trás da aprendizagem não são uma chegada súbita, mas, antes disso, pertencem a uma tradição intelectual cujos antecedentes estendem-se de volta através de disciplinas e gerações.
Nós descreveremos como a aprendizagem de máquina difere da tradicional programação algorítmica – e como a diferença entre as duas é surpreendentemente similar à diferença entre a abordagem indutiva, baseada na experiência para o direito, tão memoravelmente articulada por Holmes, e a abordagem formalista, baseada em texto, que aquele jurista contrastava com a sua própria. Dessa forma, o direito e a computação informam um ao outro na estrutura de duas revoluções no pensamento e no método. Nós sugerimos porque a semelhança entre essas duas revoluções não é acaso (happenstance). As mudanças das quais nós estamos tratando têm sua origem compartilhada na emergência moderna de ideias sobre probabilidade e estatística.
Essas ideias deveriam interessar às pessoas hoje em dia porque elas têm impacto prático. Advogados têm estado preocupados com o impacto da revolução em seu próprio campo desde a época de Holmes. Não é claro se a preocupação dos tecnólogos alcançou as mudanças que a aprendizagem de máquina causou. Tecnólogos deveriam preocupar-se com a aprendizagem de máquina não apenas como um projeto técnico, mas também como uma revolução em como nós tentamos e fazemos sentido do mundo, porque, se eles não o fizerem, então as pessoas melhor situadas para entenderem a tecnologia não estariam pensando tanto quanto elas poderiam sobre as suas implicações mais amplas. Entrementes, atores sociais, econômicos e políticos também teriam de estar pensando mais claramente sobre a aprendizagem de máquina. Essas são as pessoas que requisitam que as nossas instituições e regras se adaptem à aprendizagem de máquina; algumas das adaptações propostas até a presente data não são particularmente bem concebidas.4
[4]É claro, novas tecnologias têm desafiado a sociedade antes da era da aprendizagem de máquina. Holmes mesmo era curioso e entusiasta sobre a mudança tecnológica que, há uma centena de anos, já estava perturbando tantas das expectativas que há muito emprestaram estabilidade às relações humanas. Ele não parecia preocupado com as desvantagens das inovações que animavam o interesse dele. Nós retornamos a Holmes, o futurista, na parte conclusiva deste livro via pós-escrito5; a cientificismo (scientism) – uma crença não examinada de que ciência e tecnologia podem resolver qualquer problema – não é novo para época presente de tecnoutopistas.
Contudo, o nosso principal interesse é encorajar um melhor entendimento da aprendizagem de máquina e localizar essa revolução em seu cenário mais amplo através de uma analogia com uma revolução anteiror no direito. Nós tratamos da aprendizagem de máquina porque aqueles que tomam decisões sobre essa tecnologia, quer eles estejam preocupados com suas implicações filosóficas, seus potenciais práticos, quer com as salvaguardas para mitigarem os seus riscos, necessitam conhecer sobre o que eles estão tomando decisões. Nós tratamos isso da maneira como nós o fazemos porque o conhecimento de uma coisa cresce quando alguém percebe como ela se conecta com outras coisas no mundo ao redor dela.
1.2 O que a Analogia entre um Jurista do Século XIX e a Aprendizagem de Máquina pode contar-nos
A alegação com a qual nós começamos, na qual nós baseamos o nosso entendimento dos dois campos de estudo que o resto deste livro considerará, é esta: a concepção de direito de Holmes, a qual influenciou o pensamento legal por quase um século e meio, comporta uma forma e estrutura conceitual similares àquela que a computação adquiriu com os avanços recentes em aprendizagem de máquina. Um propósito ao fazer essa alegação é postular uma analogia entre a mudança em como as pessoas pensam sobre o direito e uma mudança que as pessoas precisam abraçar no pensamento delas sobre como computadores funcionam – se elas devem entender como computadores funcionam na presente era de aprendizagem máquina. Os paralelos entre essas duas áreas conforme elas passam por profunda transformação fornecem a ideia organizadora deste livro.
A despeito da miríade de usos para a aprendizagem de máquina e da atenção considerável que ela recebe, poucas pessoas fora das especialidades imediatas da ciência da computação e estatística evitam equívocos básicos sobre o que ela é. Mesmo no interior das especialidades, poucos especialistas têm perspectiva sobre o redirecionamento conceitual que a ciência da computação tomou, muito menos uma consciência de seu parentesco com as mudanças revolucionárias que têm dado forma a outro [5]campo socialmente vital. A analogia que nós desenvolvemos aqui entre o direito e a aprendizagem de máquina fornece uma nova maneira de olhar para a segunda. Ao fazê-lo, isso ajuda a explicar o que é aprendizagem de máquina. Isso também ajuda a explicar de onde a aprendizagem de máquina origina-se: os avanços recentes em aprendizagem de máquina têm raízes que alcançam muito profundamente através do pensamento moderno. A identificação dessas raízes é o primeiro passo na direção de uma história intelectual da aprendizagem de máquina. Isso também é vital para o entendimento de porque a aprendizagem de máquina está tendo um impacto tão grande e porque é provavel de ainda ter mais nos anos à frente.
O impacto da aprendizagem de máquina, compreendido e antecipado, indentifica-a como um fenômeno que requer uma resposta social. Em hipótese nenhuma, a resposta está limitada ao direito e às instituições legais, mas a chegada a uma classificação legal do fenômeno está atrasada. Advogados e juízes já são requisitados a tratarem da aprendizagem de máquina com regras.6 E, contudo, as autoridades legislativas e regulatórias estão perdidas por uma definição satisfatória. Nós acreditamos que uma analogia entre a aprendizagem de máquina e o direito ajudará.
Mas o que uma analogia nos diz, que uma explicação direta não diz?
Uma maneira de obter o entendimento sobre o que é a aprendizagem de máquina é através da enumeração do que ela faz. Por exemplo, aqui está uma lista de áreas de aplicação fornecida por um website que visa a pessoas considerando carreiras em ciência de dados:
Jogar jogos (Game-playing)
Transporte (veículos automatizados)
Aumentando caapacidades humanas físicas e mentais (tecnologia “ciborgue”)
Controlando robôs para que eles possam realizar trabalhos perigosos
Protegendo o meio-ambiente
Emulando emoções humanas para o propósito de fornecerem robôs companheiros convincentes
Melhorando o cuidado para os idosos
Aplicações gerais de cuidados com a saúde (health care)
Serviços bancários e financeiros
Mídia digital personalisada
Segurança
Logística e distribuição (gerência de cadeia de suprimentos)
Assistentes digitais pessoais
Comércio eletrônico
Customização de notícias e relatórios de mercado.7
[6]Legisladores (policy makers) e políticos que se debatem com como regular e promover a IA também fazem listas como essas. Por exemplo, a Casa dos Lordes do Reino Unido, tendo estabelecido um Select Commitee on Artificial Intelligence em 2017, publicou um relatório o qual, entre outras coisas, listou um número de campos específicos que estão usando IA.8 Uma Ordem Executiva do Presidente dos Estados Unidos, adotada em 2019, ressaltou a aplicação de IA através dos diversos aspectos da economia nacional.9 O Ministério da Indústria e Tecnologia da Informação da República Popular da China adotou um Plano de Ação para a IA, em 2017, o qual identificou uma variedade de domínios específicos nos quais se espera que as aplicações de IA cresçam.10 Mas, embora listas de aplicação possam refletir onde a tecnologia é usada hoje em dia, elas não indicam onde ela poderia ou não poderia ser usada no futuro. Nem semelhantes listas transmitem um entendimento mais claro de como a IA funciona, do qual nós necessitamos se nós devemos tratar dela, quer nosso propósito seja localizar a IA no curso mais amplo do desenvolvimento humano ao qual ela pertence, quer para ajustar nossas instituições e leis de maneira que elas estejam preparadas pelo seu impacto, propósitos os quais, nós sugerimos, estão entrelaçadas. A IA é uma ferramenta, e dar o nome de ferramenta às coisas funciona melhor apenas como uma rota desviada para as definir.
Sugerindo os limites nessa abordagem, outras tentativas para definir a inteligência articial não recorreram à enumeração. Para dar um exemplo importante, a Comissão Europeia, em sua Comunicação Artificial Intelligence for Europe (em 2018), definiu a IA como “sistemas que exibem comportamento inteligente analisando os seus ambientes e agindo (taking actions) – com algum grau de autonomia – para alcançar objetivos específicos.”11 Essa definição refere-se à IA como tecnologia “para alcançar objetivos específicos”; ela não lista quais aqueles objetivos podem ser. Dessa forma, ela é uma definiçãao que coloca peso não sobre as aplicações (não oferecendo nenhuma dela) mas antes sobre as características gerais do que ela define. Contudo, definir a IA como “sistemas que exibem comportamento inteligente” tampouco é adequado; ela é circular. Tentativas de definir a aprendizagem de máquina e inteligência artificial tendem a depender de sinônimos que adicionam pouco ao entendimento de um leigo do processo computacional envolvido.12 Em uma época de aprendizagem de máquina, mais é necessário se alguém tanto deve apreender a definição técnica quanto intuir a sua forma.
Neste livro, nós não continuamos a pesquisa por sinônimos ou compilamos um índice de definições existentes. Nem nos ocupamos em estudar como a IA poderia ser aplicada em problemas práticos particules no direito ou outras disciplinas. Em vez disso, nós objetivamos desenvolver e explorar uma analogia que ajudará as pessoas a entenderem a aprendizagem de máquina.
[7]O valor da analogia como um meio para entendere ess tópico é sugerido quando alguém considera como definições de termos não familiares funcionam. Carl Hemper, um dos princípais pensadores sobre filosofia da ciência no século XX, é conhecido por advogados americanos pela definição de “ciência” que a Suprema Corte do EUA adotou em Daubert, um marco na jurisprudência americana no século XX.13 Hempel estava igualmente preocupado com a definição de “definição.” Ele argumentou que definição “requer o estabelecimento de conexões diversas … entre aspectos diferentes do mundo empírico.”14 É a partir da ideia de conexões diversas que nós tomamos inspiração. Nós postulamos uma analogia entre dois campos aparentemente não relacionados e, com essa analogia, elucidamos as características salientes de uma tecnologia emergente que é provável de ter efeitos significantes sobre muitos campos nos anos vindouros.15 Com este pequeno livro, nós objetivamos acrescentar a, e diversificar, as conexões entre advogados, cientistas da computação e outros igualmente, quem deveria estar pensando sobre como pensar sobre a era da aprendizafem de máquina que agora se iniciou.
Nós tocaremos nas consequências da mudança de forma tanto no direito quanto na computação, mas o nosso interesse principal jaz em outro lugar – a saber, suprir o leitor com um entendimento de como precisamente sob uma influência intelectual compartilhada aqueles campos mudam de forma e, além disso, com um entendimento do que é a aprendizagem de máquina – o campo mais novo e menos familiar.
1.3. Aplicações de Aprendizagem de Máquino no Direito – e em Todos os Outros Lugares
Escritores nos anos iniciais da assim chamada de inteligência artificial, antes que a aprendizagem de máquina começasse a realizar o seu potencial maior, estavam interessados em como os computadores poderiam afetar a prática legal.16 Muitos deles estavam estavam tentando descobrir maneiras para usar a IA para realizar tarefas particulares relacionadas ao direito. Alguns notaram a divisão formalista-realista que entrara no moderno pensamento legal.17 Estudiosos e praticantes que consideravam o direito e a IA estavam interessados nos contornos do primeiro porque eles desejavam ver como alguém poderia obter uma compreensão sobre ele usando a segunda, como um fazendeiro contemplando uma pedra que ele precisa mover e reconhecendo suas irregularidades, peso, posição, etc, antes de a enganchar em correias e polias. Dessa maneira, na extensão em que eles estavam interessados no direito, era porque eles estavam interessados no direito como um possível objeto ao qual aplicarem a IA, não como uma fonte de discernimento da emergência da aprendizagem de máquina como uma maneira distinta que os computaroes poderiam ser usados.
[8]Investigação em aplicações práticas de IA, incluindo no direito, tem sido revigorada pelos avanços pelos quais a aprendizagem de máquina passou nos anos recentes. Os avanços ocorreram largamente a partir de 2012.18 Nos vários anos passados, escassamente se passa um dia sem alguém sugerindo que a inteligência artificial poderia suplementar, ou até substituir, pessoas em funções que advogados, júris e juízes realizaram por séculos.19 Com respeito às funções que a nova tecnologia já amplamente realiza, pergunta-se o que os “dados massivos (big data)” e a inteligência artificial implicam para a privacidade, a discrição, o devido processo (due process) e outroas áreas de interesse do direito. Uma literatura em expansão trata das tarefas para as quais as instituições e as pessoas que as constituem usam a IA ou poderiam vir a usar no futuro, assim como das estratégias que os engenheiros de software usam, ou poderiam usar no futuro, para trazerem a IA a ser relevante em tarefas semelhantes.20 Em outras palavras, muito tem sido escrito hoje em dia sobre a IA e o direito como tais. Certamente, a aplicação da IA ao direito provocou fermento intelectual, certas mudanças práticas e especulação quanto a que mudanças adcionais poderiam surgir.
Mas a necessidade de uma perspectiva bem informada sobre aprendizagem de máquina não está restrita ao direito. Não nos propomos aqui a tratar, muito menos a resolver, os desafios técnicos de colocar a IA para trabalhar problemas particulares, relacionados ao direito ou de outros tipos. Não é nosso objetivo aqui compilar outra lista de exemplos do que a IA realiza, não mais do que é nosso propósito listar exemplos do assunto que as leis regulam. Blogs técnicos e documentos de política, como aqueles aos quais nós há pouco nos referimos acima, estão cheiso de sugestões quanto aos primeiros; livres de estatutos (statute books) e códigos administrativos contêm os segundos. Nem é nosso propósito aqui inventar estratégias de programação para a aplicação da IA a tarefas em campos particulares; empreendedores tecnológicos (tech entrepreneurs) e engenheiros de software estão fazendo isso no direito e em muitos campos além dele.
Há problemas relacionados ao direito – e outros – nos quais as pessoas buscam empregar a aprendizagem de máquina para resolver, mas a catalogação de problemas, em si mesma, não concede muito conhecimento sobre o que é aprendizagem de máquina. Os conceitos com os quais nós lidamos aqui se interessam por como os mecanismos funcionam, não (ou não primariamente) pelo que eles podem fazer (ou em quais problemas eles poderiam estar envolvidos) quando eles funcionam. Compreender esses conceitos é necessário, se as pessoas que devem entender a IA hoje em dia, advogados inclusos, devem efetivamente a entender. Alcançar um entendimento de como os seus mecanismos funcionam posicionará essa nova tecnologia em correntes mais amplas de pensamento. É em grande parte nas mesmas correntes mais amplas que a mudança no pensamento sobre o direito que nós tratarmos neste livro ocorreu. Isso nos conduz ao ancestral comum das duas revoluções.
[9]1.4 Duas Revoluções com um Ancestral Comum
Conexões entre duas coisas em sequência não necessariamente significam que a coisa posterior seja causada por aquela que veio antes, e, certamente, um jurista que morreu em 1935 não foi o ímpeto por trás dos avanços recentes na ciência da computação. Nós não estamos postulando uma conexão entre a jurisprudência de Holmes e a aprendizagem de máquina nesse sentido, nem é nosso objetivo oferecer uma consideração histórica, quer do direito, quer da ciência da computação em grande escala. O nosso objetivo neste livro é explicar como a aprendizagem de máquina funciona ao fazer uma analogia com o direito – seguindo a sugestão de Hempel, de que conexões através de domínios diferentes podem ajudar pessoas a entenderem conceitos não familiares.
Mesmo assim, é interessante notar uma ligação histórica entre o direito e as ciências matemáticas: o desenvolvimento do pensamento probabilístico. De acordo com o filósofo da ciência Ian Hacking,
“Por volta de 1600, muitas pessoas independentemente flertaram com as ideias basicas sobre probabilidade. Levou algum tempo para juntar esses eventos, mas eles todos aconteceram concorrentemente. Nós podemos encontrar umas poucas antecipações não exitosas no século XVI, mas apenas com em retrospectiva nós podemos reconhecê-las absolutamente. Eles são como nada comparadas com o florescimento por volta de 1660. Aparentemente, a época estava madura para a probabilidade.21”
Talvez seja surpreendente ler sobre a ligação entre teoria da probabilidade e direito. De fato, os originadores da probabilidade matemática eram todos ou advogados profissionais (Fermat, Huygens, de Witt) ou os filhos de advogados (Cardano e Pascal).22 Aproximadamente na época que Pascal formulou a sua famosa aposta (wager) sobre a crença em Deus,23 Leibniz pensava na aplicação de probabilidades numéricas a problemas legais; posteriormente, ele chamou a sua teoria da probabilidade de “jurisprudência natural.”24 Leibniz era um estudante de direito na época, embora agora ele seja mais conhecido por sua coinvenção do cálculo diferencial do que por seu direito.25 Leibniz desenvolveu a sua jurisprundência natural para raciocinar matematicamente sobre o peso da evidência no argumento legal, por esse meio, sistematizando ideias que começaram com os glossadores de direito romano no século XII.26 O direito e a teoria da probabilidade igualmente lidam com a evidência; o campo acadêmico da estatística é a ciência do raciocínio sobre a evidencia usando a teoria da probabilidade. A teoria estatística para o cálculo do peso da evidência é agora bem entendida.27 Leibniz, se estivesse vivo hoje em dia, poderia considerar interessante que os juizes algumas vezes são céticos sobre a estatística; mas, mesmo onde (como no caso do assassinato considerado pelo Court of Appeal of England and Wales em 2010) os tribunais excluíram a teoria [10]estatística por alguns propósitos, eles permaneceram abertos a ela por outros.28 Quer ou não um dado tribunal em um dado caso admita a teoria estatística em suas deliberações, o vínculo histórico entre advogados e probabilidade permanece.
Todavia, como dissemos, o nosso interesse aqui não é com a história como tal. O pensamento probabilístico não e apenas um vínculo histórico entre o direito e as ciências matemáticas. Ele também serve como força motriz por trás das duas revoluções modernas das quais nós estamos tratando. A aprendizagem de máquina (como qualquer campo de estudo exitoso) tem muitos pais, mas está claro que, a partir de qualquer número de livros-texto, a teoria das probabilidades está entre os mais importantes. Quanto a Holmes, os seus interesses particulares em seus anos de formação foram estatística, lógica e a distinçao entre os métodos dedutivo e indutivo de prova na ciência; ele posteriormente escreveu que “o homem do futuro e o homem da estatistica.”29 Que o ambiente social de Holmes era um da ciência e dos interesses intelectuais de amplo alcance é um fato bem conhecido de biografia; o pai dele foi um eminente doutor e pesquisador em medicina, e a família pertencia a uma vívida comunidade de pensandores em Boston e Cambridge, o centro acadêmico e científico da América na época.
Menos apreciado até recentemente é quão amplo e profundo foi o engajamento de Holmes com aquela comunidade e suas ideias. Frederick R. Kellogg, em um estudo magistral publicado em 2018 entitulado de Oliver Wendell Holmes Jr. and Legal Logic, trouxe à luz em detalhes intrincados os fundamentos que Holmes adquiriu em ciência e lógica antes de sua ascensao à fama como um advogado. Os interlocutores de Holmes incluíam, por exemplo, seus amigos Ralph Waldo Emerson, Chauncey Wright e os irmaos James, William e Henry.30 A frequentação por Holmes das Lowell Lectures sobre lógica e indução científica apresentadas por Charles Peirce em 1866 exerceram uma influência particular e duradoura sobre o pensamento de Holmes.31 Igualmente, Holmes despendeu uma grande quantidade de tempo com os escritos de John Stuart Mill, incluindo A System of Logic, Ratiotinative and Inductive de Mill. (Ele encontrou-se com Mill em Londres em 1866; eles jantaram juntos com o engenheiro e inventor do relógio elétrico Alexander Bain.32) Diários e cartas dessa época registram Holmes absorvido em conversação com esses e outros pensadores e inovadores. Holmes eventualmente concedeu que seu “Excesso em Filosofia” teria de diminuir de alguma vez ele devesse tornar-se um advogado praticante.33
Holme claramente esteve interessado em estatística, e a estatística pode ser usada para avaliar evidência no tribunal. Mas o famoso dito de Holmes, ao qual nos retornaremos abaixo, de que o direito nada mais é senão “profecias do que os tribunais farão,” aponta para um uso diferente da teorias das probabilidades: ele aponta para [11]predição. O tradicional pensamento estatístico está principalmente interessado em fazer inferencias sobre a verdade das leis e dos modelos cientificos, pelo menos até onde se pode dizer que os modelos científicos são “verdadeiros.” Por exemplo, um especialista poderia propor uma equação para a probabilidade de que um prisioneiro reincidirá, ou que um réu seja culpado de um assassinato, e o estatístico pode estimar os termos na equaçao e quantificar a confiança deles. Um tipo diferente de pensamento foi descrito por Leo Breiman em um convocação para a disciplina nascente de aprendizagem de máquina: ele argumentou que a predição sobre casos individuais é um objetivo mais útil do que a inferência sobre regras gerais, e que os modelos deveriam ser avaliados puramente sobre a precisão de suas predições antes que sobre outras considerações científicas tais como a parcimônia ou intepretabilidade ou consonância com a teoria.34 Por exemplo, um programador de aprendizagem de máquina poderia construir um instrumento (device) que prediga se ou não um prisioneiro reincidirá. Um instrumento semelhante pode ser avaliado sobre a precisão de suas predições. Verdadeiro, a sociedade no geral poderia insistir que escrutínio seja colocado sobre o instrumento para ver se as predições dele originam-se a partir de considerações corretas, se usá-lo é compatível com os valores da sociedade, etc. Mas, nos termos de Breiman, o programador que o construiu deveria deixar tudo isso de lado: a precisão preditiva do instrumento, nesses termos, é a única medida do seu sucesso. Nós discutiremos o papel central da predição, tanto no pensamento de Holmes quanto na moderana aprendizagem de máquina nos capítulso 5 e 6.
Repetidas vezes, revoluções no pensamento e método têm coincidido. Thomas Kuhn, entre outros exemplos em sua The Structure of Scientific Revolutions, notou que uma mudança (shift) no pensamento sobre o que é a eletricidade conduziu os cientistas a mudarem a abordagem experimental para explorarem esse fenômeno natural.35 Posteriormente, em um cenário bastante diferente, Peter Bernstein notou que mudanças no pensamento sobre risco estiveram envolvidas na emergência da indústria moderna de seguros.36 David Landes considerou os meios através dos quais as sociedades mensuravam o tempo, como a sua mensuração afetava como as sociedades pensavam sobre o tempo, e, por sua vez, como eles pensavam sobre o tempo afetava o seu comportamento e instituições.37 As relações que interessavam a esses e a outros pensadores têm existido em campos diversos e têm sido de diferentes tipos e graus de proximidade. Uma mudança na teoria científica bem pode ter impacto direto sobre o programa de investigação científica; a transmissao de uma ideia da teoria para o mercado poderia ser menos direta; os efeitos culturais e civilizacionais das novas concepções do universo (por exemplo, concepções de tempo) ainda menos.38
[12]Novamente, não é o nosso objetivo neste livro oferecer uma explicação histórica, nem um tour d’horizon de questões em filosofia da ciência ou filosofia do direito. Nem é nosso objetivo identificar as virtudes ou faltas nas transformações das quais nós tratamos. Na ciência da computação seria irrelevante “tomar lados” quanto a entre as abordagens algorítmicas tradicionais para a programação e a aprendizagem de máquina. A mudança na tecnologia é uma questão de fato, não para ser elogiada ou criticada antes que os seus contornos sejam precisamente percebidos. Nem, no direito, deve-se apresentar o ponto de dizer se é bom ou ruim que muitos juristas, especialmente desde a época de Holmes, não tenham mantido a fé na maneira formalista de pensarem sobre o direito. Batalhas continuam a serem travadas sobre essa revolução. Não nos juntamos a essas batalhas aqui.
Em vez disso, o que nós propomos é que Holmes, em particular em seu entendimento do direito como predição formada a partir da busca por padrões na experiência, supri-nos com analogias notavelmente poderosas para aprendizagem de máquina. O nosso objetivo com analogias é explicar a essência de como a aprendizagem de máquina funciona. Nós acreditamos que pensar o direito dessa maneira pode ajudar as pessoas a entender como a aprendizagem de máquina é agora – e ajuda-las a pensar onde a aprendizagem de máquina poderia chegar a partir daqui. As pessoas precisam tanto compreenderem o estado da arte quanto pensarem sobre o seu futuro, porque a aprendizagem de máquina dá origem a desafios legais e éticos que são dificeis de reconhecer, ainda mais de tratar, a menos que elas o façam. Lendo Holmes com a aprendizagem de máquina em mente, nos discernimos lições sobre os desafios. A aprendizagem de máquina e uma revolução no pensamento, e ela deve ser entendida muito mais amplamente e colocada em um cenário mais amplo.
ORIGINAL:
GRANT, T. D.; WISCHIK, D. J. On the path to AI: Law’s prophecies and the conceptual foundations of the machine learning age. Palgrave Macmillian Cham: 2020. pp.1-17. Disponível em: <https://link.springer.com/book/10.1007/978-3-030-43582-0>
TRADUÇÃO:
EderNB do Blog Mathesis
Licença: CC BY 4.0
1 [12]Quanto a diferença entre “inteligência artificial” e “aprendizagem de máquina,” ver o Prologo, pp. ix-x.
2 Kellogg (2018) 35, 72–87.
3 De acordo com Brian Randell, um cientista da computação escrevendo nos anos de 1970, os computadores digitais eletrônicos tiveram sua origem no final dos anos de 1940, mas “na maioria dos casos os seus desenvolvedores eram ignorantes de quase todas as importantes características funcionais desses computadores que tinham sido inventadas ao longo dos últimos cem anos anteriores por Charles Babbage,” um matemático inglês quem estivera “interessada na possibilidade de mecanização da computação e impressão de tabelas (tables) matemáticas.” Randell, The History of Digital Computers, 12(11–12) IMA Bull. 335 (1976). Babbage (1791-1871) projetou sua “máquina diferencial (difference engine)” por volta de 1821, para mais sobre isso, ver Swade, Difference Engine: Charles Babbage and [13]the Quest to Build the First Computer (2001). Ver também a linha do tempo fornecida pelo Museu da História do Computador (Mountain View, California, USA): https://www.computerhistory.org/timeline/computers/. Para uma ótima visão geral que localiza esses desenvolvimentos mecânicos na história das ideias, ver Historicizing the Self-Evident: An Interview with Lorraine Daston (25 de janeiro de 2000): https://lareviewofbooks.org/article/historicizing-the-self-evident-an-interview-with-lorraine-daston/.
4 Tomem-se como exemplos as propostas para que o direito confira personalidade legal a “robôs”: Parlamento Europeu: resolução Civil Law Rules on Robotics (16 de fevereiro de 2017): P8_TA(2017)0051, para uma crítica da qual ver Bryson, Diamantis & Grant (2017) 25 Art. Intel. Law 273. Deficiências na resposta à aprendizagem de máquina na esfera política devem-se, em parte não pequena, a deficiências no entendimento e perspectiva relativas ao que a aprendizagem de máquina é.
5 Chapter 10, pp. 114–119.
6 A Biblioteca de Direito do Congresso, Global Legal Research Directorate (EUA), fornece um exame global, por jurisdição, da legislação tratando da IA, assim como visões globais do trabalho sobre o tópico em organizações internacionais e regionais: Regulation of Artificial Intelligence in Selected Jurisdictions (Janeiro de 2019).
7 https://elitedatascience.com/machine-learning-impact (acessado em 27 de julho de 2019).
8 House of Lords Select Committee on Artificial Intelligence, Relatório (16 de abril de 2018) pp. 63-94.
9 Ordem Executiva 13859 de 11 de fevereiro de 2019, Maintaining American Leadership in Artificial Intelligence.
10 Ministério da Indústria e Tecnologia da Informação, Three-Year Action Plan for Promoting Development of a New Generation Artificial Intelligence Industry (2018–2020) (publicado em 14 de dezembro de 2017), disponível em tradução inglesa (tradutores Paul Triolo, Elsa Kania & Graham Webster) em https://perma.cc/68CA-G3HL.
11 Comunicação da Comissão: Artificial Intelligence for Europe, COM (2018) 237 final (25 de abril de 2018).
12 Compare estes dois subparágrafos as Seçao 238 no U.S. National Defense Authorization Act for Fiscal Year 2019:
Qualquer sistema artificial que realiza tarefas sob circunstâncias variáveis e imprevisíveis sem significante supervisão, ou que pode aprender a partir da experiênacia e aperfeiçoar performance quando exposta a conjuntos de dados (data sets).
[14]Um sistema artificial desenvolvido em software de computador, hardware físico, ou outro contexto que resolve tarefas requerendo percepção, cognição, planejamento, aprendizagem, comunicação ou ação física semelhantes a humana.
6 P.L. 115–232, Seção 2, Divisão A, Título II, §238. O segundo parágrafo revela a deficiência de outras definições circulares, mas a primeira identifica, mais utilmente, a relevância dos dados e da aprendizagem a partir da experiência para a IA. Ver também a perspectiva inicial do Secretário-Geral da Nações Unidas sobre o tópico:
Não há definição universalmente aceita de inteligência artificial. O termo tem sido aplicado em contextos nos quais sistemas de computador imitam o pensamento ou comportamento que as pessoas associam com a inteligência humana, tais como aprendizagem, resolução de problemas e tomada de decisão.
Relatório do Secretário-Geral, Current developments in science and technology and their potential impact on international security and disarmament efforts (17 de julho de 2018), A/73/177 p. 3 (¶5).
13 Daubert v. Merrell Dow Pharmaceuticals, Inc., 509 U.S. 579, 593, 113 S.Ct. 2786, 2797 (1993) (Blackmun J), citando Hempel, Philosophy of Natural Science 49 (1966): “As afirmações constituindo uma explicação científica devem ser capazes de teste empírico.” Para crítica, ver Note, Admitting Doubt: A New Standard for Scientific Evidence, 123 Harv. L. Rev. 2012, 2027 (2010); Susan Haack, Of Truth, in Science and in Law, 73 Brook. L. Rev. 985, 989–90 (2008). Hempel não é tão proeminentemente invocado em outras jurisdições, mas, mesmo assim, tem feito o aparecimento ocasional. Ver, por exemplo, Fuss v. Repatriation Commission [2001] FCA 1529 (Federal Court of Australia) (Wilcox J.) ¶42.
14 Hempel com 94 (ênfases acrescentadas). Para uma visão geral das contribuições de Hempel, ver capítulos em Fetzer (ed.)(2001).
15 Nós não tentamos justificar adicionalmente a analogia como um modo de argumento ou de explicação. É com a compreensão de Hempel sobre conexões diversas que nós amparamos o nosso caso em defesa da analogia entre temas aparentemente diferentes. Para uma defesa entusiasmada de analogias no interior do direito, ver Frederick Schauer & Barbara A. Spellman, Analogy, Expertise, and Experience, 84 U. Chi. L. Rev. 249 (2017) e especialmente id. At 264–65 (sobre experiência, perícia (expertise) e analogia).
16 Uma geração anterior de desenvolvimentos em IA inspirou uma geração anterior de trabalho sobre como advogados poderiam usá-la. Ver, por exemplo, Zeleznikow & Hunter, Building Intelligent Legal Information Systems: Representation and Reasoning in Law (1994); artigos datando de 1987 a 2012, resumidos em Bench-Capon et al, A History of AI and Law in 50 Papers: 25 Years of the International Conference on AI and Law, 20(3) Art. Intel. Law 215–310 (2012).
17 [15]Para exemplo, Zeleznikow & Hunter, 55 ff, 177–97.
18 Ver Prólogo, p. x.
19 Ver, por exemplo, Neil Sahota, Will A.I. Put Lawyers Out of Business? Forbes (9 de fevereiro de 2019). Para uma análise moderada, ver a avaliação pela Law Society of England and Wales, Six Ways the Legal Sector Is Using AI Right Now (13 de dezembro de 2018): https://www.lawsociety.org.uk/news/stories/six-ways-the-legal-sector-is-using-ai/; e o relatório de exploração de horizonte da Society, Artificial Intelligence and the Legal Profession (Maio de 2018). Ver também o exame detalhado, tarefa por tarefa, da IA e prática legal por Remus & Levy: Can Robots Be Lawyers? Computers, Lawyers, and the Practice of Law (2016). Para um estudo sofisticado do uso de um sistema de aprendizagem de máquina para pesquisar materiais legais, ver Livermore et al., Law Search as Prediction (5 de novembro de 2018), Virginia Public Law and Legal Theory Research Paper No. 2018-61: https://ssrn.com/abstract=3278398.
20 Ver especialmente, tratando de modelagem computacional para específicas tarefas da prática legal, Ashley (2017). Ver também muitos dos artigos no jornal Art. Intel. Law (Springer); ver também artigos apresentados na bienal International Conference on Artificial Intelligence and Law (mais recentemente, 17-21 de junho de 2029, Montréal, Québec, Canadá): https://icail2019-cyberjustice.com/. O jornalismo sobre aplicações práticas da IA na prática legal é vasto. Ver, por exemplo, Bernard Marr, How AI and Machine Learning Are Transforming Law Firms and the Legal Sector, Forbes (May 23, 2018).
21 Hacking, The Emergence of Probability (1975) 11. Ver também Daston (1988) xi, 3-33.
22 Franklin, Pre-history of Probability, em Hájak & Hitchcock (eds.), Oxford Handbook of Probability and Philosophy (2016) 33–49.
23 Blaise Pascal, Pensées, Parte II, especialmente §233. Traduzido por W. F. Trotter; introdução por T. S. Eliot (1908) pp. 65-69. Pascal (1632-1662) formulou sua aposta em notas que foram publicadas após a sua morte. Hájek, em sua entrada sobre a Pascal’s Wager em Zalta (ed.), Stanford Encyclopedia of Philosophy (2018), descreve-a como exibindo “a confluência extraordinária de várias importantes linhas (strands) de pensamento” incluindo “teoria da probabilidade e teoria da decisão, usadas aqui quase pela primeira mesma na história…”.
24 Hacking, 11, 86. Ver adicionalmente, Artosi & Sartor, Leibniz as Jurist (2018) 641–63.
25 Richard T. W. Arthur, The Labyrinth of the Continuum em Antognazza (ed.) 275, 279–82. Contudo, recentemente, tem havido algum interesse nas ideias de Leibniz sobre o direito; quanto a isso, ver Livermore, Rules by Rules (prestes a ser publicado 2019) 2-4.
26 Ver Franklin (2001) 15-17, 26-27. Lorraine considera que problemas legais foram pelo menos tão importantes quanto os problemas envolvendo jogos de azar para dar forma ao pensamento inicial sobre probabilidade: Daston (1988) xvi, 6–7, 14–15.
27 [16]Ver Fienberg & Kadane, The Presentation of Bayesian Statistical Analyses in Legal Proceedings, The Statistician 32 (1983); Dawid, Probability and Statistics in the Law, Relatório de Pesquisa 243, Departmento de Ciência Estatística, University College London (Maio de 2004).
28 Regina v. T. (2010) EWCA Crim 2439. Um especialista testemunhara sobre a probabilidade de uma equivalência entre um padrão incomum em uma pegada em uma cena de assassinato e o calçado de um réu criminal. A Court of Appeal disse que “não há uma base suficientemente confiável para um especialista ser capaz de expressar uma opinião baseada no uso de uma fórmula matemática” Id. At [86]. A Court disse adicionalmente que “um examinador especialista em marcas de calçado pode … em casos apropriados, usar sua experiência para expressar uma opinião avaliativa mais definitiva onde a conclusão seja de que a marca ‘poderia ter sido produzida’ pelo calçado. Contudo, nenhuma razão de probabilidade (likelihood ratios) ou outras fórmulas matemáticas deveriam ser usadas no alcance desse julgamento” Id. At [95]. Redmayne et al., notam que a Court of Appeal cuidadosamente limita sua determinação (holding) ao calçado, reconhecendo que cálculos probabilísticos em relação a perfis de DNA (DNA profiling) e “possivelmente, a outras áreas nas quais haja uma firme base estatística” poderiam ser admissíveis em julgamentos criminais: Redmayne, Roberts, Aitken & Jackson, Forensic Science Evidence in Question, 5 Crim. L. Rev. 347, 351 (2011).
29 10 Harv. L. Rev. at 469.
30 Kellogg (2018), 48–49 e passim.
31 Id.
32 Id. 29, 46.
33 Id. 32.
34 Leon Breiman, Statistical Modeling: The Two Cultures, 16(3) Stat. Sci. 199–215 (2001). Ver também David Donoho, 50 Years of Data Science (18 de setembro de 2015), a partir de uma apresentação no Tukey Centennial Workshop, Princeton, NJ.
35 Kuhn, The Structure of Scientific Revolutions: II. The Route to Normal Science, in (1962) 2(2) International Encyclopedia of Unified Science at 17–18.
36 Bernstein estava interessado especialmente com mudanças no pensamento sobre risco em jogos de azar (games of chance): Bernstein, Against the Gods: The Remarkable Story of Risk (1996) 11–22.
37 Landes, Revolution in Time: Clocks and the Making of the Modern World (1983).
38 O que não quer dizer que mudanças relativamente abstratas em concepção tenham menos impacto; elas bem podem ter mais. Como Landes o descreve, o relógio mecânico foi “uma das grandes invenções na história da humanidade – não em uma categoria com o fogo e a roda, mas comparável ao tipo móvel (movable type) em suas implicações revolucionárias para os valores culturais, a mudança tecnológica, a organização social e política e a personalidade … é o relógio mecânico que [17]tornou possível, para melhor ou pior, uma civilização atenta à passagem do tempo, consequentemente à produtividade e performance” Id. em 6-7.
