Applying Shapley vector to interpret machine learning models

Abstract

В рамках данной работы были рассмотрены локальные и глобальные методы интерпретации моделей машинного обучения. Для класса методов с аддитивными значимостями признаков была формализована кооперативная игра и выведены значимости признаков как компоненты вектора Шепли. Была произведена программная реализация описанных подходов, основывающихся как на разложении локальных прогнозов модели, так и на разложении общей точности предсказания модели. Результат работы программы проиллюстрирован на конкретной модели машинного обучения.

In this paper, were considered local and global explanation methods for machine learning models. For the set of methods with additive feature attributions, the cooperative game was formalized and features importance were derived as components of the Shapley value. The implementation of the described approaches was carried out, based both on the decomposition of the local predictions and on the decomposition of the overall model prediction accuracy. The result of the work is illustrated on the specific machine learning model.