O direito fundamental à explicabilidade da inteligência artificial utilizada em decisões estatais

Resumo

O presente trabalho analisa o direito à explicabilidade da Inteligência  Artificial utilizada como apoio às decisões estatais (da Administração Pública e do Judiciário). A pesquisa foi multidisciplinar, pois foram objeto de análise normas nacionais, documentos internacionais que vêm sendo produzidos sobre o tema (recomendações da OCDE e da UNESCO, normativas da União Europeia e Resolução da ONU), categorias teóricas do pensamento jurídico e de estudos científicos sobre os limites e as possibilidades da explicabilidade da IA. Este estudo se pauta em pesquisa qualitativa de métodos bibliográfico e descritivo-exploratório, mediante análise bibliográfica e documental inerente ao Direito e à Ciência da Computação. Os resultados demonstram: a) a necessária interseção entre a teoria da justificação das decisões estatais tomadas na esfera pública e as técnicas de inteligência artificial explicável (xAI), a fim de se garantir à accountability da decisões estatais auxiliadas por inteligência artificial; e b) a definição de direito fundamental à explicabilidade estrita das decisões estatais tomadas com auxílio de IA (na condição de um limite ético e normativo), de maneira de diferenciá-lo da explicabilidade em sentido amplo (engloba também a interpretabilidade dos processos computacionais necessários ao funcionamento da IA). As conclusões são: a) a explicabilidade não é um impedimento ao desenvolvimento científico da IA no campo das decisões públicas; b) a explicabilidade em sentido amplo pode ser subdividida em interpretabilidade e explicabilidade em sentido estrito; c) o direito fundamental à explicabilidade da IA aplicada às decisões estatais (na Administração Pública e no Judiciário) tem grande relevância no sistema de accountability.