Метод разделения смеси наблюдений

Приложение.  Метод разделения смеси наблюдений.

      Пусть на рынке в каждый торговый день t контролируется n показателей x₁(t), x₂(t), ... , x_n(t), которые удобно представить в виде n-мерного вектора x(t). Предполагается, что вектор x(t) подчиняется многомерному нормальному распределению, характеризуемому вектором математического ожидания x_ср(t) и ковариационной матрицей С. В разные торговые дни эти параметры могут быть разными. Принимается допущение, что эти параметры могут принимать только два возможных значения и, следовательно, каждый вектор x(t) может подчиняться нормальному закону либо f₁(x) с параметрами x_1ср, C₁ (наблюдение  класса K₁), либо f₂(x) с параметрами x_2ср, C₂ (наблюдение класса K₂).

      Если собрать наблюдения x(t₁), x(t₂), ... , x(t_m) на некотором интервале времени [t₁,t_m], то среди них будут находиться векторы разных классов. Можно рассмотреть частости представительства разных классов в этой выборке.  В пределе эти частости стремятся к вероятностям P₁, P₂ (P₁ + P₂ = 1), задающими смесь распределений вероятностей наблюдений

                 f(x) = P₁* f₁(x) + P₂* f₂(x) .

Таким образом, общее распределение полученной совокупности наблюдений представляется функцией f(x), которая полностью характеризуется параметрами x_1ср, C₁, x_2ср, C₂, P₁ (с учетом симметричности матриц - всего n²+3n+1 параметр). Цель обработки данных состоит в получении оценок этих параметров по наблюдениям

Для упрощения задачи принимаются следующие допущения:

1)  вектор математических ожиданий одинаков для обоих нормальных распределений

               x_1ср = x_2ср = x_ср ,

2) ковариационные матрицы пропорциональны с коэффициентом a

              C₂ = a*C₁ .

Обозначим через C ковариационную матрицу распределения f(x), которая связана с C₁ и C₂ соотношениями

C₁ = [P₁ + a * (1-P₁)]^-1 * C ,      C₂ = a * [P₁ + a * (1-P₁)]^-1 * C .

Обозначим

            h = P₁ + a * (1-P₁) .

Определители матриц C₁ и C₂ связаны с определителем матрицы C соотношениями

            d₁ = [P₁ + a * (1-P₁)]^-n * d ,        d₂ = aⁿ * [P₁ +a * (1-P₁)]^-n * d .

При этом закон распределения характеризуется параметрами x_ср, C , a, P₁  (всего 0.5*(n²+3n+4) параметров, то есть примерно вдвое меньше, чем раньше).

Параметры x_ср, C легко рассчитываются по всем наблюдениям на заданном интервале наблюдений [t₁,t_m]. Для нахождения двух оставшихся скалярных параметров a и P₁ используем метод максимального правдоподобия.

    Пусть общее число наблюдений на рассматриваемом интервале равно m.  Считая эти наблюдения статистически независимыми, запишем вероятность получения данной совокупности наблюдений

   Как обычно, вместо вероятности P(x(t₁), x(t₂), ... , x(t_m)) рассмотрим ее логарифм

который зависит от наблюдений, вектора средних значений, ковариационной матрицы и параметров смеси  a и P₁. Отметим, что первое слагаемое не зависит от a и P₁ . Оценки этих параметров в соответствии с методом максимального правдоподобия находятся из решения экстремальной задачи

     (a, P₁)_опт = Arg    Max  ln[ P(x(t₁), x(t₂), ... , x(t_m)) ] .

                              (a, P₁)

Поскольку матрица C - общая, то она вычисляется только один раз и ее обращение также производится однократно. Заметим также, что квадратичная форма

               z = (x(t_j)-x_ср)^TC^-1(x(t_j)-x_ср ),

входящая в выражение для расчета, называется дискриминантной функцией для смешанных наблюдений.

      После нахождения параметров (a, P₁) и с использованием ранее рассчитанных оценок x_ср  и C по приведенным выше формулам рассчитываются оценки матриц C₁ и C₂. Таким образом, найдены оценки всех параметров смеси распределений и задача обработки данных решена.