Transparência algorítmica como um direito fundamental no estado democrático de direito: uma abordagem comparativa à regulamentação nos contextos europeu, norte-americano e brasileiro

Resumo

Este artigo examina as crescentes preocupações em torno da transparência algorítmica, colocando-a como um componente crucial para a ética e responsabilidade no desenvolvimento e implementação de sistemas de inteligência artificial (IA). Ao investigar iniciativas legislativas e regulatórias em várias jurisdições, o artigo observa como diferentes países e regiões buscam instituir diretrizes para promover sistemas de IA éticos e responsáveis. Nos Estados Unidos, tanto a Lei de Responsabilidade Algorítmica dos EUA de 2022 quanto o Ato Europeu de Inteligência Artificial compartilham o objetivo comum de estabelecer estruturas de governança para responsabilizar entidades transgressoras, garantindo a implementação ética, legal e segura de sistemas de IA. Ambas as legislações enfatizam a transparência algorítmica e a elucidação das funcionalidades do sistema, com o objetivo geral de instilar responsabilidade nas operações de IA. Essa análise se estende ao Brasil, onde propostas legislativas como o PL 2.338/2023 lidam com as complexidades da implementação de IA e transparência algorítmica. Além disso, a PEC 29/2023 busca consagrar a transparência algorítmica como um direito fundamental, reconhecendo seu papel crucial na proteção da integridade mental dos usuários diante do avanço da neurotecnologia e do uso de algoritmos. Para avaliar as abordagens adotadas por Europa, Estados Unidos e Brasil na concretização do conceito de Transparência Algorítmica em sistemas de IA usados para tomada de decisões, é empregada uma metodologia comparativa e dedutiva. Essa metodologia está alinhada com a análise bibliográfica, incorporando doutrinas jurídicas, textos legislativos e considerações jurisprudenciais dos respectivos sistemas legais. A análise abrange Transparência Algorítmica, Processo Digital Adequado e Responsabilidade como construtos legais inerentes, oferecendo uma perspectiva comparativa abrangente. No entanto, a mera acessibilidade aos códigos-fonte é considerada insuficiente para garantir compreensão e escrutínio eficazes pelos usuários finais. Reconhecendo isso, a imperatividade da explicabilidade na elucidação de como os sistemas de IA funcionam torna-se evidente, permitindo que os cidadãos compreendam a lógica por trás das decisões tomadas por esses sistemas. Iniciativas legislativas, exemplificadas pela Resolução nº 332/2020 do Conselho Nacional de Justiça (CNJ), destacam o reconhecimento da imperatividade da transparência e responsabilidade nos sistemas de IA utilizados no Judiciário.