Tese de Doutorado Acadêmico

Programa de Pós-graduação em Direito

DEMOCRACIA, CONSTITUIÇÃO E INTERNACIONALIZAÇÃO

14/06/2023

Transparência e Explicabilidade para um Direito Processual Permeado por Inteligências Artificiais

Esta tese discute a imprescindibilidade da transparência e explicabilidade da inteligência artificial, enquanto princípio ético-jurídico, para o adimplemento do princípio do contraditório e assim, o seu uso legítimo e idôneo no processo jurisdicional. Partimos da discussão acerca do panorama regulatório acerca da utilização de inteligências artificiais em Juízo, abordando iniciativas nacionais e internacionais, e de modo mais significativo, o caso State vs. Loomis, no Estado de Wisconsin, EUA, indicando os problemas decorrentes da opacidade algorítmica. A interdisciplinaridade do tema e a maneira peculiar pela qual a regulação das inteligências artificiais vêm sendo demandadas sugerem a leitura do tema a partir da Teoria dos Sistemas Sociais, em Niklas Luhmann. Se procede assim a uma investigação multidisciplinar, que percorre a ciência computacional, o estudo da cognição e percepção coletiva sobre o que vem a ser inteligência artificial, para extrair conclusões significativas acerca do escopo daquilo que realmente se pretende ver regulado quando se fala em “inteligência artificial”, e das expectativas que se tem quanto a tal tecnologia computacional – nitidamente se pretende uma regulação para além da mera categoria “inteligência artificial”, um conceito difícil até mesmo de estabelecer no campo computacional. Após as discussões dos princípios éticos e jurídicos de inteligência artificial, conforme discutidos por diversas entidades, em especial a Organização para a Cooperação e Desenvolvimento Econômico (OCDE) e pelo Instituto de Engenheiros Elétricos e Eletrônicos (IEEE), em especial do princípio da transparência e explicabilidade, recorremos à noção de processo estruturado em contraditório, a partir de Elio Fazzalari, para compreender de que maneiras e em que posições é admissível ou não o uso da inteligência artificial no processo jurisdicional, verificando-se a existência de uma relação direta de proporcionalidade entre a contribuição/risco que a inteligência artificial oferece para a formação do provimento e o grau de transparência e explicabilidade que devem ser atendidos para que se repute viável o exercício do contraditório, e portanto, legítimo o seu uso no âmbito da jurisdição.

Transparency and Explainability for a Procedural Law Powered by Artificial Intelligences

This thesis discusses the indispensability of transparency and explainability of artificial intelligence as an ethical-legal principle for fulfilling the adversarial principle and, thus, its legitimate and adequate use in the jurisdictional process. We begin with a discussion of the regulatory panorama regarding the use of artificial intelligence in courts, addressing national and international initiatives, and, more significantly, the State vs. Loomis case in Wisconsin, USA, indicating the problems arising from algorithmic opacity. The interdisciplinary nature of the topic and the peculiar way in which the regulation of artificial intelligence is being demanded suggest reading the topic from the Theory of Social Systems point of view, as proposed by Niklas Luhmann. It’s then carried out a multidisciplinary investigation that covers computational science, the study of cognition and the collective perception about what really is AI, to extract meaningful conclusions about the scope of what is intended to be regulated when one speaks of "artificial intelligence," and the expectations one has for such computational technology – society is clearly aiming for a regulation beyond the mere category of "artificial intelligence", a concept that is even difficult to establish in the computational field. After discussing the ethical and legal principles of artificial intelligence, as proposed by various entities, especially the Organization for Economic Cooperation and Development (OECD) and the Institute of Electrical and Electronics Engineers (IEEE), particularly the principle of transparency and explainability, we turn to the notion of a process structured on the adversarial principle, based on Elio Fazzalari, to understand in what ways and in which positions the use of artificial intelligence in the jurisdictional process is admissible or not. We verify the existence of a direct relationship of proportionality between the contribution/risk that artificial intelligence offers for the formation of the provision and the degree of transparency and explainability that must be met for the adversarial principle to be feasibly exercised, and therefore, for its use in the jurisdictional context to be legitimate.