Прогнозирования для линейной модели парной регрессии

В результате регрессии у на 3 независимых переменных, включая константу, по 15 наборам значений (хi1=1,xi2,xi3,yi) получены следующие оценки: BT =(5.08;-0.409;0.602), s2=1.59. Известна матрица

(XTX)-1= 0.03935 0.00755 -0.03519
0.00755 0.01619 -0.01437
-0.03519 -0.01437 0.03584

Проверить гипотезу Н0: b3=1 на 5% - уровне значимости.
...

1. Прогнозирования для линейной модели парной регрессии. 2
2. Оценка дисперсии ошибок в линейной модели множественной регрессии 5
Задача 8
СПИСОК ЛИТЕРАТУРЫ 9

Точечный прогноз результативной переменной у на основе линейной модели парной регрессии при заданном значении факторной переменной хm будет осуществляться по формуле:

Для линейной модели множественной регрессии несмещённая оценка дисперсии случайной ошибки рассчитывается по формуле:
где k – число оцениваемых параметров модели регрессии.
Оценка матрицы ковариаций случайных ошибок Cov(ε) будет являться оценочная матрица ковариаций:
где In – единичная матрица.
Оценка дисперсии случайной ошибки модели регрессии распределена по ε2(хи-квадрат) закону распределения с (n-k-1) степенями свободы.
Для доказательства несмещённости оценки дисперсии случайной ошибки модели регрессии необходимо доказать справедливость равенства
Доказательство. Примем без доказательства справедливость следующих равенств:
где G2(ε) – генеральная дисперсия случайной ошибки;
S2(ε) – выборочная дисперсия случайной ошибки;
– выборочная оценка дисперсии случайной ошибки.
Тогда:
т.е.
что и требовалось доказать.
Следовательно, выборочная оценка дисперсии случайной ошибки является несмещённой оценкой генеральной дисперсии случайной ошибки модели регрессии G2(ε).
При условии извлечения из генеральной совокупности нескольких выборок одинакового объёма n и при одинаковых значениях объясняющих переменных х, наблюдаемые значения зависимой переменной у будут случайным образом колебаться за счёт случайного характера случайной компоненты ε. Отсюда можно сделать вывод, что будут варьироваться и зависеть от значений переменной у значения оценок коэффициентов регрессии и оценка дисперсии случайной ошибки модели регрессии.
Для иллюстрации данного утверждения докажем зависимость значения МНК-оценки от величины случайной ошибки ε.
МНК-оценка коэффициента ε1 модели регрессии определяется по формуле:
В связи с тем, что переменная у зависит от случайной компоненты ε (yi=ε0+ε1xi+εi), то ковариация между зависимой переменной у и независимой переменной х может быть представлена следующим образом:
Для дальнейших преобразования используются свойства ковариации:
1) ковариация между переменной х и константой С равна нулю: Cov (x,C)=0, C = const;
2) ковариация переменной х с самой собой равна дисперсии этой переменной: Cov(x,x)=G2(x).
Исходя из указанных свойств ковариации, справедливы следующие равенства:
Cov(x,ε0)=0 (ε0=const);
Cov(x, ε1x)= ε1*Cov(x,x)= ε1*G2(x).
Следовательно, ковариация между зависимой и независимой переменными Cov(x,y) может быть записана как:
Cov(x,y)= ε1G2(x)+Cov(x,ε).
В результате МНК-оценка коэффициента ε1 модели регрессии примет вид:
Таким образом, МНК-оценкаможет быть представлена как сумма двух компонент:
1) константы ε1, т. е. истинного значения коэффициента;
2) случайной ошибки Cov(x,ε), вызывающей вариацию коэффициента модели регрессии.
Однако на практике подобное разложение МНК-оценки невозможно, потому что истинные значения коэффициентов модели регрессии и значения случайной ошибки являются неизвестными. Теоретически данное разложение можно использовать при изучении статистических свойств МНК-оценок.
Аналогично доказывается, что МНК-оценка коэффициента модели регрессии и несмещённая оценка дисперсии случайной ошибки могут быть представлены как сумма постоянной составляющей (константы) и случайной компоненты, зависящей от ошибки модели регрессии ε.