Explainable solution in high dimentional AI system

Abstract

Развитие технологий машинного обучения внесло большой вклад в быстрое развитие ИИ. Для машинного обучения, особенно для глубокого обучения, объяснимый ИИ — большой вызов. Глубокие нейронные сети — это <<черный ящик>> для всех нас. Алгоритмы ИИ обычно не могут объяснить логику принятия решения. Такие непрозрачные решения недостаточно убедительны, особенно в сферах военной, медицинской и финансовой безопасности, где ставки высоки. Данная диссертация посвящена изучению объяснимых решений в системах искусственного интеллекта большой размерности. Анализируя системы обнаружения аномалий, мы успешно строим объяснимые модели с высокой способностью к обобщению. Мы также изучаем различные методы с разных точек зрения, такие как сэмплирование, кластеризация, иерархические и графические методы, чтобы повысить эффективность объяснимого решения и добиться создания более эффективной объяснимой системы ИИ для многомерных задач.

Development of Machine learning technology has made great contributions toward the rapid development of AI. For machine learning, especially deep learning, explainable AI is a big challenge. Deep neural networks are a black box for us all. AI algorithms usually cannot explain the logic of each decision when providing a solution. Such opaque decisions are not adequately persuasive, especially in the fields of military, medical and financial security where stakes are high. The thesis is devoted to studying explainable solutions in high-dimensional AI systems. By analyzing anomaly detection systems, we successfully construct explainable models with strong generalization abilities. We also explore various methods from different perspectives, such as sampling, clustering, hierarchical and graph-based methods, to improve the efficiency of explainable solutions and aimed to achieve build more efficient explainable AI systems for high-dimensional problems.