Using Shapley value for Interpretive artificial intelligence based on feature interactions graph

Abstract

С увеличением вычислительной мощности компьютеров ИИ широко используется в различных областях жизни, но в то же время все больше случаев показывают нам неинтерпретируемость алгоритмов ИИ. Поэтому интерпретируемость ИИ особенно важна. В последние годы все больше ученых предлагают работать над интерпретируемостью моделей машинного обучения по значениям Шапли в теории кооперативных игр, но когда в наборе данных больше особенностей, вычисление значений Шапли становится сложной задачей. Некоторые авторы ввели методы приближенного вычисления по Шэпли. Однако при увеличении числа игроков остается сложной задачей найти баланс между размером выборки и временными затратами. Метод выборки для расчета значений Шапли - это метод, при котором выборка самих признаков осуществляется путем имитации болезни случайной перестановки, а затем оценивается вклад каждого признака в результат предсказания на основе каждого результата выборки, но при использовании мы обнаружили, что процесс случайной перестановки все еще длителен при большом количестве участников. Поэтому мы предлагаем новый подход, используя коалицию "высокоэффективных" участников. Значения Шапли вычисляются за меньшее время, и предлагается более значимый способ измерения правдоподобности интерпретации результатов.

With the increase of computer computing power, AI has been widely used in various fields of life, but at the same time, more and more cases show us the uninterpretability of AI algorithms. Therefore, the interpretability of AI is particularly important. In recent years, more scholars have proposed to work on the interpretability of machine learning models by Shapley values in cooperative game theory, but when there are more features in the dataset, calculating Shapley values becomes a challenge. Some authors have introduced approximate Shapley calculation techniques. However, as the number of players increases, it remains a challenge to strike a balance between sample size and time cost. The sampling method to calculate shapley values is a method that samples the features themselves by simulating random permutation disease and then estimates the contribution of each feature to the prediction result based on each sampling result, but in use, we found that the random permutation process is still long when the number of participants is large. Therefore, we propose a new approach by using a coalition of "high impact" participants. Shapley values are calculated in less time and a more meaningful way to measure the plausibility of the interpretation of the results is proposed.