IMPLEMENTAÇÃO DE INTELIGÊNCIA ARTIFICIAL RESPONSÁVEL PARA A TOMADA DE DECISÕES JUSTAS EM CONTEXTO REAL

INTRODUÇÃO: Algoritmos de inteligência artificial possuem um impacto direto na vida das pessoas e nas indústrias. Por outro lado, o desenvolvimento destes algoritmos pode se focar somente na sua acurácia e não necessariamente em decisões que sejam justas. Ainda, estes dois objetivos são conflitantes: algoritmos mais justos não necessariamente são aqueles com maior acurácia, e vice-versa. OBJETIVOS: Por isso, esta pesquisa propõe desenvolver algoritmos que combinem técnicas de aprendizagem de máquina, justiça (fairness) e otimização multi-objetivo para equilibrar, ao mesmo tempo, justiça e acurácia. MATERIAIS E MÉTODO: Esta pesquisa usou a linguagem de programação Python e uma base de dados real para um problema de regressão. Assim, se desenvolveu um comitê (ensemble) de votação de algoritmos de aprendizagem de máquina de regressão. Este comitê é composto por algoritmos que foram treinados previamente. A predição de cada um destes modelos é sumarizada como uma média ponderada a partir de um conjunto de pesos. Normalmente, o conjunto de pesos é um valor padronizado a ser empregado para todas as predições. Nesta proposta, dois conjuntos de pesos são apresentados e atribuídos separadamente para a inferência de instâncias privilegiadas e não-privilegiadas. Um algoritmo de otimização multi-objetivo é responsável por encontrar estes pesos com a finalidade de maximizar, ao mesmo tempo, a acurácia e a justiça das predições. RESULTADOS: O algoritmo encontrou uma aproximação da frente de Pareto contendo múltiplas combinações de pesos. Estes pesos possuíam necessariamente resultados melhores do que um comitê com pesos iguais a partir de duas métricas: uma de acurácia (erro quadrático médio) e uma de justiça (justiça contrafactual). CONSIDERAÇÕES FINAIS: Dessa forma, a proposta de desenvolvimento de uma nova variação de algoritmo de aprendizagem de máquina justo para problemas de regressão foi implementado e testado visando o seu uso em aplicações reais como, por exemplo, em problemas comuns na indústria

PALAVRAS-CHAVE: Inteligência artificial; Fairness; Otimização multi-objetivo.