Direito à explicação em decisões automatizadas e opacidade algorítmica

Abstract

Um dos maiores problemas da sociedade da informação, atualmente, é a opacidade algorítmica inerente aos sistemas de inteligência artificial utilizados em decisões automatizadas. Esse aspecto engendra não apenas insegurança jurídica, mas também impacta diretamente na vida dos titulares de dados, em geral, ameaçando converter o ser humano em mero objeto destituído de agência e autonomia. A inescrutabilidade das chamadas "caixas-pretas", além de ferir o direito à informação, reflete em afronta a diversos outros direitos humanos e fundamentais, como a dignidade da pessoa humana, a igualdade e o devido processo legal. A Lei Geral de Proteção de Dados (LGPD) e o Regulamento Geral sobre a Proteção de Dados (GDPR) preveem princípios de transparência e direitos de revisão adotados com o fito de sanar a problemática em comento. Dentre as salvaguardas possíveis, o Direito à Explicação foi eleito para exemplificar a discussão sobre o controle democrático da tecnologia. Nesse ínterim, a indagação que se faz é se existe um direito de explicação positivado nesses ordenamentos e como esse direito é interpretado e utilizado para garantir a inteligibilidade das decisões. Com isso demonstra-se que a explicação atua como um princípio instrumental indispensável para a efetivação da autodeterminação informativa e da não discriminação. Partindo desse ponto central, pretende-se discutir a natureza jurídica deste direito - se autônomo ou derivado -, suas limitações frente ao segredo industrial e à complexidade técnica, além dos desafios regulatórios de sua implementação. Para tanto, adotou-se o método do Direito Comparado, observando os parâmetros metodológicos de análise contextual, alinhado a técnicas de pesquisa bibliográfico-documental e exploratória qualitativa, para uma melhor compreensão das assimetrias entre o modelo brasileiro e o europeu. Conclui-se pela insuficiência da mera transparência (falácia da transparência) e pela necessidade de estruturar uma Governança de IA robusta, capaz de traduzir a opacidade técnica em transparência qualificada, mantendo a observância aos direitos humanos. Abstract One of the biggest problems in today's information society is the algorithmic opacity inherent in the artificial intelligence systems used in automated decisions. This aspect not only creates legal uncertainty, but also directly impacts the lives of data subjects in general, threatening to turn human beings into mere objects devoid of agency and autonomy. The inscrutability of so-called “black boxes,” in addition to violating the right to information, reflects an affront to various other human and fundamental rights, such as human dignity, equality, and due process of law. The General Data Protection Law (LGPD) and the General Data Protection Regulation (GDPR) provide for principles of transparency and rights of review adopted in order to address the problem in question. Among the possible safeguards, the Right to Explanation was chosen to exemplify the discussion on democratic control of technology. In the meantime, the question that arises is whether there is a right to explanation enshrined in these legal systems and how this right is interpreted and used to ensure the intelligibility of decisions. This demonstrates that explanation acts as an indispensable instrumental principle for the realization of informational self-determination and non-discrimination. Starting from this central point, we intend to discuss the legal nature of this right—whether autonomous or derivative—its limitations in relation to trade secrets and technical complexity, as well as the regulatory challenges of its implementation. To this end, the Comparative Law method was adopted, observing the methodological parameters of contextual analysis, aligned with bibliographic-documentary and qualitative exploratory research techniques, for a better understanding of the asymmetries between the Brazilian and European models. It concludes that mere transparency is insufficient (transparency fallacy) and that there is a need to structure robust AI governance capable of translating technical opacity into qualified transparency, while maintaining respect for human rights.