Ответы на экзаменационные вопросы (теория информации, линейные системы), страница 36

Регрессионный анализ – это осн. ср-во построение моделей по экспериментальным данным.

y = f(x₁,…….x_n) + e, e - ошибка случайная, обусловлена наличием шумов и погрешностей в результате измерения.

Мe = 0 – математическое ожидание от e.

Му=f(x₁…..x_n)=h(x) – функция регрессии, h(х)= h(b,х)                      х-факторы, воздействующие на вх. сис-мы.

В регрессионном анализе рассматриваются системы, которые линейны относительно параметров b

-линейная модель относительно b

Ù-означает оценки, которые должны приближаться к истинным значениям

Пример: у=е^-ах , логарифмируем, получаем: z=ln(y)=-ax – к ней можно применить регрессивный анализ.

х₁    Варьируем  на два уровня так как модель линейная.

Производится серия экспериментов при различных факторах входных сигналов.

Варьируем на три уровня, так как модель квадратичная, то есть варьируем на n+1 уровни, где n–степень модели

, где  - матрица неизвестных коэффициентов; Y – результаты наблюдения при различных уровнях входных факторов; F – матрица плана проведения экспериментов.

1 – учитывает возможность определения постоянных составляющих.

1 Х₁₁Х₁₂…Х_1(m-1) – факторы уровня Х₁.

1 Х₂₁Х₂₂…Х_2(m-1) – факторы уровня Х₂.

1 Х₁₁Х₁₂…Х_1(m-1) – факторы уровня Х₁.

Матрица плана считается неслучайной.

Предпосылки регрессионного анализа.

1.  На значение векторов оценки  не накладывается никаких ограничений. - евклидово пространство результата m.

2.  Вектор помехи e - это n – мерная случайная величина, n – кол-во результатов измерения по у.

3.  Математическое ожидание от e = 0, то есть .

4.  Компоненты вектора e некоррелированы между собой и имеют одинаковую дисперсию s_e².

               i=j Þ d=1       i¹j Þ d=0.

Это аналог d-функции для дискретного случая. d_i,j = символ Кронекера.

, I – единичная диагональная матрица.

- математическое ожидание от у.        - дисперсия от у.

5.  Матрица плана (матрица регресса) – это не случайная матрица

6.  Случайная величина e  имеет нормальный закон распределения.

     e~N(0,s_e²) e~N(0,s_e²I)

7.  Ранг матрицы F равняется m. rank F = m, то есть все миноры отличны от нуля.

Существуют процедуры, которые позволяют оценить качество получаемых неизвестный параметров и их достоверность.