Entropy of distributions of random processes

Abstract

Для широкого класса банаховых пространств с гауссовской мерой мы показываем, что их энтропия в смысле Шеннона (mm-энтропия) тесно связана с энтропией соответствующего эллипсоида рассеяния и в определённом диапазоне ведёт себя так же, как логарифм меры малых шаров. Полученные оценки обобщают недавние результаты работы А.М. Вершика и М.А. Лифшица.

For a wide class of Banach spaces with Gaussian measure, we show that their Shannon entropy (mm-entropy) is closely related to the entropy of the corresponding kernel's ball and behaves in a certain range in the same way as the logarithm of the measure of small balls. The obtained results generalize recent results of A.M. Vershik and M.A. Lifshits.