Explainable Artificial Intelligence - uma análise dos trade-offs entre desempenho e explicabilidade

Abstract

A explicabilidade é essencial para que os usuários entendam, confiem e gerenciem com eficiência sistemas computacionais que utilizam inteligência artificial. Desta forma, assim como a assertividade, entender como se deu o processo decisório dos modelos é fundamental. Embora existam trabalhos que se concentrem na explicabilidade de algoritmos de inteligência artificial, é importante destacar que, até onde sabemos, nenhum deles analisou os trade-offs entre desempenho e explicabilidade de forma abrangente. Nesse sentido, esta pesquisa tem como objetivo preencher essa lacuna, investigando tanto algoritmos transparentes, como Arvore de Decisão e Regressão Logística, quanto algoritmos opacos, como Floresta Aleatória e Máquina de Vetores de Suporte, a fim de avaliar os trade-offs entre desempenho e explicabilidade. Os resultados revelam que os algoritmos opacos apresentam uma baixa explicabilidade e não têm uma boa performance quanto ao tempo de resposta devido á sua complexidade, contudo são mais assertivos. Em contra partida, os algoritmos transparentes possuem uma explicabilidade mais efetiva e uma melhor performance quanto ao tempo de resposta, porém, em nossos experimentos, observamos que a acurácia obtida foi menor do que a acurácia dos modelos opacos.