No Caminho para a IA - Epílogo: Lições nas Duas Direções - Final

No Caminho para a IA: Profecias do Direito e os Fundamentos Conceituais da Era da Aprendizagem de Máquina

Por Thomas D. Grant & Damon J. Wischik

Conclusão

[129]Epílogo: Lições nas Duas Direções

Para uma analogia valer a pena, ela deveria dizer a um lado ou ao outro – o advogado ou o cientista da computação aqui – alguma coisa, sobre a disciplina do outro lado, que ele (i) não conheça ou entenda; e (ii) deseje conhecer ou entender, ou deveria. O que nós, os dois autores, aprendemos a partir desta analogia?

Uma Visão de Cientista de Dados

Nesta data no último ano, eu não conhecia nada sobre Holmes. Eu fiquei surpreendido de descobrir que o grande debate entre inferência estatística e aprendizagem de máquina, correntemente ocorrendo nos departamentos de universidade e jornais acadêmicos, foi prefigurado por um advogado do século XIX. É suficientemente impressionante que Holmes argumentasse em favor da descoberta de padrões a partir da experiência em vez da lógica bem antes do nascimento da estatística moderna nos anos de 1920. É ainda mais impressionante que ele deu o salto adicional a partir da predição em estilo da inferência em regras científicas para o estilo de predição da aprendizagem-maquiníca.

Holmes, quando ele abriu a porta para a experiência, descoberta de padrões e predição, parece não ter sido perturbado pelas implicações. Parece que ele tinha uma confiança vitoriana inebriante na ciência, e ele estava bastante certo de que poderia construir perfeitamente bem uma página de história que valesse tanto quanto um volume de lógica. Mas os argumentos que Holmes deixou entrar quando ele abriu aquela porta – argumentos sobre viés, validade, explicação, e assim por diante – ainda estão ressoando, mesmo embora o pensamento legal tenha tido 120 anos para lidar com eles.

[130]A aprendizagem de máquina ainda lidará com esses argumentos no ano de 2140? Até o momento, ela nem mesmo alcançou algumas das ideias sofisticadas que o pensamento legal gerou até agora. E talvez esses pensamentos nunca possam ser resolvidos: talvez seja impossível entregar a responsabilidade a um sistema formal, e o fardo esteja sobre cada um de nós para aprender como pensar melhor com dados e experiência. Mesmo assim, a aprendizagem de máquina tem uma brusquidão útil: ideias que conduzem a código funcionando são levadas adiante, outras ideias, mais cedo ou mais tarde, são deixadas à beira do caminho. Ela também tem conjuntos de dados e poder computacional exponencialmente crescentes, os quais dão a ela uma habilidade para aumentar a camada de abstração de uma maneira que o direito não pode. Assim, eu estou otimista de que a aprendizagem de máquina conduzirá a avanços intelectuais, não apenas a melhores detectores de gatinhos.

Holmes certamente consideraria os dias de hoje uma época muito excitante para estar vivo.

DJW, Agosto de 2019

Uma Visão de Advogado

Eu estive em um seminário no começo dos anos de 1990 em Yale, ensinado pelo então decano da faculdade de direito Guido Calabresi, onde um colega estudante sugeriu uma comparação entre software e texto estatutório. Eu não me lembro do detalhe, exceto que a comparação foi bastante elaborada, e Calabresi, impaciente com ele porque ele não estava indo a lugar nenhum, tentou avançar com a conversa, mas o estudante persitiu – pausando apenas para dizer, “Não, espere, eu estou com sorte.” Vendo uma abertura, o decano simulou uma pausa dramática; virou-se para o resto de nós; e, ao estudante, quem, de outra maneira, não mostrou sinais de que pararia, pleiteou em um tom trêmulo: “Você está com sorte?” A cena ficou comigo pelo seu valor admonitório: não tente descrever o direito com analogias de computação.

Contudo, no último quarto de século desde então, nem o direito nem a ciência da computação deixou o outro lado sozinho. Os debates correntes sobre explicabilidade, responsabilidade e transparência das saídas computacionais apontam para um emaranhamento mútuo. Fazer alguma coisa sobre as decisões alcançadas com aprendizagem de máquina entrou na agenda legislativa, e os litigantes têm a aprendizagem de máquina e “os dados massivos (big data)” em seu radar. Entrementes, engenheiros e investidores estão procurando maneiras de fazer a aprendizagem de máquina fazer coisas ainda mais impressionantes. O resto de nós, advogados inclusos, por sua vez, lutam para responder às fricções resultantes e descobrir, em termos diários, o que [131]a aprendizagem de máquina significa para nós. Nós poderíamos estar perdendo alguma coisa básica na urgência do momento?

Ouvindo de pessoas em Cambridge e em outros lugares que trabalham com IA e aprendizagem de máquina, eu obtive um sentido intuitivo de que não é útil falar sobre computadores tornando-se mais inteligentes. Não soa suficientemente detalhado para transmitir o que eu, uma pessoa considerada leiga, deveria saber sobre o tópico, nem soa bastante no ponto. Explicações de diferentes especialistas ao longo de um tanto de anos acrescenteram ao retrato para mim, mas eu não pude sacudir o sentimento de que alguma coisa básica poderia faltar mesmo na apreciação dos especialistas do que eles estão descrevendo.

Por nenhum propósito consciente tendo alguma coisa a ver com aprendizagem de máquina, durante os feriados de dezembro de 2018, eu comecei a reler uma parte da obra de Holmes, incluindo The Path of the Law. Uma conexão aparente excitou a minha curiosidade: entre a ideia de Holmes da experiência prevalecendo sobre a lógica e a dependência da aprendizagem de máquina de dados em vez de código de software. Talvez fosse um belo ponto, mas, provavelmente, não mais do que isso.

Contudo, considerando Holmes mais de perto, eu comecei a ponderar se poderia haver alguma coisa de útil na comparação. Quanto mais longe eu olhava, mais as ideias de Holmes sobre direito pareciam pressagiar problemas na aprendizagem de máquina, incluindo, como eu cheguei a aprender, alguns que não eram amplamente conhecidos. Para tomar um problema relativamente familiar, há o risco para os valores sociais de quando um tomador de decisão é obscuro sobre como ele ou ela (ou a coisa (it)) alcançou uma decisão. Estudiosos ao longo dos anos têm notado uma aparente despreocupação sobre valores na obra de Holmes. Notado às vezes, mas não tão frequentemente, tem sido a preocupação de Holmes sobre como explicar decisões. Como eu pensei, Holmes ressoava sobre o debate corrente sobre a explicabilidade das saídas da IA.

Algumas vezes completamente perdido, quando as pessoas leem Holmes é a plenitude, em sua progressividade, da ideia de que o direito é profecia. Eu vim a entender que a aprendizagem de máquina não é apenas uma maneira melhor de escrever código de software; é uma maneira de reformular questões para as tornar em problemas de predição, e, como nós argumentamos, os vínculos com a ideia de profécia de Holmes são notáveis. Aventurando-se a ver aonde a analogia de Homes poderia chegar, e testando-a como o meu coautor, eu cheguei a apreciar o que a aprendizagem de máquina faz hoje de tão notável – e, também, o que ainda não foi feito.

A “virada na direção da indução” de Holmes é um antecedente para uma situação no direito que os advogados nos Estados Unidos chamam de uma crise. Todavia, uma virada na direção de Holmes [132]poderia ser útil, seja qual for a filosofia legal de alguém, por alguma luz que ela lança sobre a aprendizagem de máquina.

TDG, Agosto de 2019

FIM

ORIGINAL:

GRANT, T. D.; WISCHIK, D. J. On the path to AI: Law’s prophecies and the conceptual foundations of the machine learning age. Palgrave Macmillian Cham: 2020. pp.129-132. Disponível em: <https://link.springer.com/book/10.1007/978-3-030-43582-0>

TRADUÇÃO:

EderNB do Blog Mathesis

Licença: CC BY 4.0