Отзыв научного руководителя на выпускную квалификационную работу
Белякова Артема Алексеевича
на тему:
«Полиномиальный лукэхед. Переформулировка задач выпуклой
оптимизации в терминах гессиана»
Направление: 01.03.01 “Математикa”
Основная образовательная программа: СВ.5000.2018 “Математика”

Работа Артема посвящена изучению стохастических методов поиска минимума выпуклой функции. Решение оптимизационных задач является популярной и широко развивающейся областью прикладной математики, находящей применения во многих прикладных областях от методов оптимального управления до машинного обучения и искусственного интеллекта. В последнее время, в связи с увеличением размера задач и объема необходимых вычислительных мощностей, особо актуальны стали не детерминистические, а стохастические методы поиска минимума функции. Так одним из самых известных, простых и широко используемых методов является Стохастический Градиентный Спуск (SGD), который представляет собой модификацию классического метода спуска, история которого связана еще с Коши и Ньютоном. SGD, как и его многочисленные усовершенствования, несмотря на вычислительную простоту, обладает недостатком по сравнению с детерминистическими методами – сходимостью к окрестности решения. Действительно, при фиксированном шаге метода, алгоритм перестает сходиться к решению, а начинает осциллировать вокруг точки оптимума. Борьба с этими осцилляциями играет ключевую роль в понимании стохастических методов и занимает важное место в работах исследователей из оптимизационного комьюнити.

Артем решал задачу поиска метода на основе SGD, который может  быть более эффективен с точки зрения пары критериев: скорости сходимости + предельного радиуса сходимости (осцилляций). В работе представлен новый алгоритм, который превосходит представленные в литературе аналоги. Результаты Артем подал на самую известную конференцию по машинному обучению и искусственному интеллекту – NeurIPS.

В процессе совместной работы Артем проявил трудолюбие, аналитические
способности и самостоятельность. Изначально Артему предлагалось абсолютно другое направление для исследований, но после изучения литературы, Артем самостоятельно сформулировал задачу и выбрал не менее актуальное направление. Более того, Артем решил не следовать принятым и классическим подходам в исследовании методов оптимизации, а самостоятельно придумал свой собственный подход к анализу сходимости алгоритмов. Проявленный Артемом творческий подход, как в постановке задачи, так и в методах ее решения, является важным достижением его дипломной работы наравне с полученным математическим результатом.

Считаю, что выпускная квалификационная работа Артема выполнена на хорошем математическом уровне и заслуживает отличной оценки, а сам Артем – присвоения степени бакалавра по направлению «Математика».

Авдюшенко А.Ю.

Дата: 07.06.2022