Clustering robustness investigation using statistical and imitation modeling

Abstract

В работе исследована одна из задач кластерного анализа - обнаружение естественной кластеризации данных методами статистического и имитационного моделирования. Основным предположением предлагаемого подхода определения "правильной" кластеризации является статистическая устойчивость такой кластеризации к незначительным изменениям в данных. Сформулированы два критерия определения устойчивой кластеризации (основанных на использовании Value at Risk и ожидаемой сменяемости кластеризаций) на множестве рассматриваемых алгоритмов кластеризации, значений числа кластеров, метрик сравнения, а также разработаны вспомогательные процедуры моделирования данных для введенных критериев. Проведен численный эксперимент на искусственных выборках данных и на трех выборках данных из репозитория машинного обучения UCI, также представлены результаты сравнения с другими методами определения "правильной" кластеризации, основанных на статистической устойчивости. Введенные критерии применены к решению задачи об устойчивом размещении хабов, где метод оценки устойчивой кластеризации адаптирован к решению задачи об устойчивой сети хабов, и проведен численный эксперимент на реальных данных.

In the work the cluster analysis subtask - the natural clustering detection using statistical and imitational modeling procedures is investigated. The main assumption of this work is the “correct” clustering statistical stability under the minor data changes. Two criteria (based on Value at Risk and expected variety of clustering) of stable clustering validation on finite set of clustering algorithms, numbers of clusters, distance functions between objects are proposed. The special auxiliary procedures of data imitation are introduced. The numerical experiment on synthetic data and on three real data sets from machine learning repository UCI is conducted, besides, the result comparison with existed clustering validation methods based on stability is carried out. The clustering stability criteria application to hub location problem is presented, where steady clustering evaluation algorithm is adapted to stable hub network problem and the real case study is discussed.