Модель парной линейной регрессии. Точечное и интегральное прогнозирование, страница 6

                                                  i=1                         i=1                    i=1                      

                                         = Nσ² − 2N ¹ σ² + N ¹ σ² = (N −1)σ².

                                                                                    N              N

Отсюда очевидно, что 

N

                                       ,

i=1

следовательно, несмещенная оценка дисперсии ошибок принимает вид

                                                      σˆ2 = S2 = 1 ∑N ei2 .                     (18) 

N − 2 _i=₁

Кроме того, можно показать (см. [14, 17]), что оценка дисперсии ошибки

S² и МНК-оценки θ^ˆ₀ и θ^ˆ₁ статистически независимы. 

3.7. Статистические свойства оценок параметров. Распределения основных статистик

Дальнейшее изложение будет справедливо только для нормальной линейной регрессионной модели, т.е. для случая выполнения условия о нормальном распределении случайных ошибок. В этом случае величины y_i также имеют нормальное распределение:

                                           y_i ~ N (θ θ σ₀ + ₁x_i; ²), i =1,2,…,N .

Так как МНК-оценки (13), (14) являются линейными функциями от y_i ,

то их распределение также будет нормальным
             N                                                                                                                  ∑xi2                                                  θ θσˆ0 ~ N  0,   2          i=N1  ,                                                                                                   N∑xi′2                                                                                                       i=1        	(19)
                                                                 θ θσˆ1 ~ N  1,     2 1 .	(20)

                                                                                                      N          

 ∑x_i′² 

                                                                                                     i=1        

Если по каким-либо причинам предположение о нормальности ошибок не выполняется, то утверждения (19), (20), вообще говоря, неверны. Однако если исходные данные удовлетворяют некоторым специальным условиям регулярности, то распределение оценок θ^ˆ₀ и θ^ˆ₁ будет асимптотически нормальным. То есть при N → ∞ распределение оценок будет стремиться к нормальному закону [1, 17].

Из (19), (20) следует, что 

	θ θˆ0 − 0 ~ N (0,σθ2ˆ0 ),	(21)
следовательно,	θ θˆ1 − 1 ~ N (0,σθ2ˆ1),	(22)
	θ θˆ0 − 0 ~ N (0,1), σθˆ0	(23)
	θ θˆ1 − 1 ~ N (0,1), σθˆ1	(24)
где σ θθ2ˆ0 = D( ˆ0), распределение.	σ θθ2ˆ1 = D( ˆ1), N (0,1)      – стандартное	нормальное

Оценки дисперсий оценок θ^ˆ₀ и θ^ˆ₁ могут быть получены из формул (16), (17) после замены дисперсии ошибок σ² на ее оценку (18):

S2

                                                                            ,                             (25) 

N

∑xi′2

i=1

N ∑xi2

                                                     σˆ2 =

                                                                                 θ θˆ0 S2ˆ0 = S2 i=N1         .                         (26) 

N∑x_i′²

i=1

Из теории математической статистики [1, 14] известно, что 

                                               (^N − ²2)^S2 ~ χ² (N − 2), (27)  σ

где χ²(N − 2) – распределение «хи-квадрат» с (N − 2) степенями свободы.

С учетом статистической независимости параметров линейной регрессионной модели, а также соотношений (23), (24), (27) будет справедливо записать, что

(θ θ σˆ1 − 1) θˆ¹