OBSCURIDADE EM ALGORITMOS E ASPECTOS ÉTICOS NA BUSCA PELA INTELIGÊNCIA ARTIFICIAL EXPLICÁVEL

INTRODUÇÃO: A crescente delegação de decisões a sistemas automatizados baseados em Inteligência Artificial (IA) tem revelado um problema estrutural: a opacidade dos mecanismos algorítmicos, dificultando a compreensão técnica, ética, jurídica e democrática dos processos de tomada de decisão. Introdução: Partindo da premissa de que algoritmos incorporam valores humanos e não são neutros, o estudo investiga a obscuridade algorítmica e sua relação com a explicabilidade em sistemas de IA dialogando com a tipologia de modelos de sistemas: black-box, white-box e grey-box; e com o campo emergente da Algorética. OBJETIVOS: Compreender os aspectos tecnológicos e jurídicos da aplicação da IA para se alcançar a explicabilidade em sistemas de IA, passando por responsabilidade, complexidade, verificabilidade, transparência e ética, relacionando tais conceitos à Algorética e à regulação de sistemas de IA na União Europeia e no Brasil. MATERIAIS E MÉTODO: Adotou-se o método dedutivo, de natureza bibliográfica, com base principal no livro “Direito e Não-Coisas”, complementada por revisões bibliográficas sobre IA Explicável e por normas técnicas de gestão de risco. RESULTADOS: Os conceitos de responsabilidade, complexidade, verificabilidade, transparência e ética foram sistematizados a partir de premissas de que sistemas de IA são não-coisa, da distinção entre métodos ante-hoc e post-hoc de explicabilidade, dos quatro princípios do NIST para IA Explicável e da relação entre o direito à explicação (art. 22 do GDPR e art. 20 da LGPD) sob a perspectiva da revisão de decisões automatizadas. CONSIDERAÇÕES FINAIS: A explicabilidade revela-se pilar técnico-jurídico indispensável para a transição da lógica da “caixa-preta” para a “caixa de vidro”, de modo a se concluir que tanto o AI Act europeu e o PL 2.338/2023 brasileiro necessitam avançar e compreender muito mais sobre IA Explicável e sua efetiva aplicação nas realidades europeia e brasileira. Conclui-se que a efetivação da explicabilidade em sistemas de IA no contexto da sociedade de algoritmos não depende apenas da existência formal de direitos à informação, à explicação e à revisão, mas da capacidade concreta de fiscalização, auditoria e atualização contínua dessas garantias.

PALAVRAS-CHAVE: Direito e tecnologia; Inteligência artificial explicável; Algorética; Transparência algorítmica; Regulação de sistemas de IA.