TOMADA DE DECISÃO ADMINISTRATIVA ASSISTIDA POR INTELIGÊNCIA ARTIFICIAL E VIESES DISCRIMINATÓRIOS RACISTAS: ANÁLISE DA ADOÇÃO PELO ESTADO DE MODELOS PREDITIVOS NA PRESTAÇÃO DA SEGURANÇA PÚBLICA

INTRODUÇÃO: No século XX, surgiu a ideia da inteligência artificial, iniciada por Alan Turing, que idealizou que a formação de uma IA à semelhança da forma de pensar do ser humano. Entretanto, foi apenas no século XXI que a inteligência artificial se fez presente no cotidiano das populações do mundo, facilitada pelo desenvolvimento da internet e a grande quantidade de dados produzidos, desenvolvendo a big data. Para além do uso comercial, a IA impacta também o Estado Democrático de Direito, com a utilização de tal inteligência pela Administração Pública, como o Projeto VICTOR, do STF, sempre respeitando os princípios constitucionais. Entretanto, há programas desenvolvidos, como o estadunidense COMPAS, que apresentam vieses discriminatórios racistas, o que aumenta a desigualdade social e auxilia na perpetuação de práticas discriminatórias, como o racismo. OBJETIVOS: No presente trabalho, produziu-se a análise sobre os riscos de vieses discriminatórios que a tomada de decisão assistida por inteligência artificial pode apresentar. MATERIAIS E MÉTODO: A metodologia implementada consistiu na pesquisa bibliográficas de livros, artigos, dissertações e teses que poderiam auxiliar a responder à questão acima. Em um primeiro momento, estudou inteligência artificial, os conceitos e possibilidades de implementação, assim como a incorporação da IA no exercício da função pública e a opacidade da decisão algorítmica. Posteriormente, analisou-se modelos preditivos na implementação de políticas públicas, assim como as definições e possibilidades de uso da IA na segurança pública e os sistemas de polícia preditiva em desenvolvimento. Por fim, foi feito perspectiva histórica do racismo na segurança pública, expondo os preconceitos e o problema da contaminação de bases e análise dos vieses racistas da polícia preditiva norte-americana por meio do programa COMPAS e o risco no Brasil. RESULTADOS: O resultado é que o viés racista na tomada de decisão assistida por inteligência artificial na adoção pelo Estado de modelos preditivos na prestação de segurança pública, pode ocorrer, sendo exposto o caso emblemático do software COMPAS, assim como a perspectiva histórica da segurança pública brasileira que, mesmo sem um programa, discrimina. CONSIDERAÇÕES FINAIS: Por fim, a produção de um software como o COMPAS, no Brasil, em decorrência do histórico racista da segurança pública, assim como de suas políticas, e a formação do programa por meio de uma empresa privada, pode comprometer a implementação de tal modelo preditivo de segurança pública. Entretanto, caso a Administração Pública se comprometa na produção de algo semelhante, visando os princípios constitucionais, pode ser bem-vindo tal modelo preditivo.

PALAVRAS-CHAVE: 1. Inteligência Artificial; 2. COMPAS; 3. Administração Pública; 4. Viés; 5 Discriminatório.