O crescente emprego de sistemas digitais inteligentes para a tomada de decisões traz uma série de desafios e questões acerca da interação homem-máquina.
Sistemas que empregam machine learning apoiam-se em modelos matemáticos (estatísticos, redes neurais, etc.) para estabelecer classificações sobre enormes quantidades de dados (Big Data Analysis), encontrando padrões e correlações que determinam o output do sistema. A escala de dados e os modelos empregados muitas vezes tornam difícil a explicação do resultado de uma forma compreensível para o homem, com premissas, critérios acessíveis, argumentos e conclusões.

Como tais sistemas têm sido utilizados para tomada de decisões com impacto significativo sobre direitos e o patrimônio dos indivíduos (por exemplo, classificação de riscos para seguros, empréstimos bancários, risco de reincidência para concessão de liberdade condicional, contratação de força de trabalho, etc.) a capacidade de explicação das decisões automatizadas é fundamental para o exercício de direitos. Por esse motivo, hoje tornou-se foco de atenção em pesquisa em Inteligência Artificial o desenvolvimento de sistemas inteligíveis (Explainable Artificial Intelligence — XAI) capazes de integrar a extração de informação e classificação de dados pelos métodos de machine learning aos métodos de representação de conhecimento, nos mais diferentes domínios.

No campo do Direito, a IA inteligível é de particular importância, uma vez que qualquer ato ou decisão judicial ou administrativa somente é juridicamente válido na medida em que possa ser
juridicamente justificada. Nesse domínio, o processo e conteúdo de justificação é tão relevante quanto o resultado.
Por outro lado, essa característica faz com que predições eficazes sobre o resultado de decisões dependam da avaliação dos argumentos ou fatores presentes no caso. Ou seja, a predição é normativa.
A partir da lei ou um conjunto de precedentes, prediz-se o que as autoridades devem decidir, pressupondo-se que decisões devem ser justificadas.

Recentemente, observa-se o crescimento do emprego de Data Systems para aumentar a e ciência dos operadores do Direito, tanto em escritórios de advocacia quanto em tribunais. Os sistemas são usados para a extração de informações relevantes de bases de dados de precedentes judiciais ou contratos (com emprego de machine learning e natural language processing), tomada de decisões processuais, com a classificação de demandas repetitivas, por exemplo, e para a análise de riscos, com a predição do resultado de eventual ação judicial.
Esses métodos de predição são empíricos, ou seja, extraem os resultados de uma série decisões judiciais e as correlacionam com o tipo de demanda, valor envolvido, tribunal, tempo, etc.
Não levam em consideração qualquer predição normativa sobre como deve ser a decisão a partir das características e argumentos do caso.

Assim, o simples estabelecimento de predições pela correlação entre decisão e tipo de demanda (por exemplo, pedido de verba indenizatória trabalhista versus média de valor das indenizações) é pobre do ponto de vista da análise jurídica, pois não avalia os argumentos relevantes disponíveis no caso (se houve justa causa para demissão, qual o tempo do contrato de trabalho, etc.).
Por essa razão, os sistemas de predição de risco judicial em direito hoje disponíveis são bastante limitados. Basicamente, as tecnologias empregadas são as mesmas usadas para extração de informações de qualquer tipo de texto e não envolvem qualquer representação específica de inferências e conhecimento jurídico.

O desenvolvimento de ferramentas nesse sentido é de fundamental importância não só para aumentar a e cácia e aplicabilidade de sistemas inteligentes ao direito, como também para propiciar métodos de geração automatizadas de explicações de decisões, que as legitimem. Como esse é um tema recente de pesquisa em IA, é importante que as lawtechs e investidores em tecnologia aproximem-se das universidades. A aliança entre os métodos empíricos de predição e o método normativo de justificação de decisões é o verdadeiro graal da IA aplicada ao direito.

Publicado originalmente em JOTA.