Главная > Математика > Линейный регрессионный анализ
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

6.1. Смещение

6.1.1. Смещение, вызванное неполнотой модели

Если то имеем и оценка наименьших квадратов параметра не смещена. Однако если аппроксимирующая модель является неполной, т. е. если истинная модель имеет вид

где столбцы матрицы не зависят линейно от столбцов матрицы X, то ошибка оказывается смещенной и

где Таким образом, теперь представляет собой смещенную оценку вектора и ее смещение равно Это смещение зависит и от модели, которую мы постулируем, и от истинной модели. При этом матрицу С можно интерпретировать как матрицу коэффициентов регрессии переменных, не включенных в модель, на переменных х, действительно включенных в модель. При хорошем выборе плана смещение должно сохраняться минимальным даже в тех случаях, когда мы работаем с неправильной моделью. Например, если столбцы матрицы ортогональны столбцам матрицы и оценка не смещена. В ряде ситуаций ортогональность столбцов матриц может быть описана как нулевая корреляция между двумя регрессорами х и z [Malinvaud (1970)]. В таком случае неумышленное игнорирование некоррелированного с х регрессора может и не вызвать сколь-нибудь серьезных последствий.

Если истинная модель имеет вид (6.1), то при условии мы по-прежнему имеем Однако если то

поскольку матрица идемпотентна, а следовательно, положительно полуопределена, и (так как Поэтому является смещенной оценкой для

Чтобы выяснить, как влияет неполнота модели на качество предсказания, заметим, что

где Таким образом, то, что мы пренебрегли вкладом в регрессию составляющей привело

к использованию в оценке вместо матрицы ее "оценки" Z. Что касается остатков, то

(последнее равенство- справедливо в силу и

так что неполнота модели проявляется здесь только в смещении остатков: дисперсионная матрица не изменяется Ramsey (1969) использовал этот факт для построения критериев для проверки гипотезы о неполноте модели.

Другой подход к вопросу о пропущенных или "скрытых" регрессорах приведен в разд. 6.1.3.

Пример 6.1 (Draper, Smith (1966, с. 91)). Предположим, что модель имеет вид тогда как истинная модель имеет вид Какие мы получим смещения, если будем оценивать и в первой модели по наблюдениям У в точках

Решение. Представим истинную модель в матричной форме:

Далее,

и, согласно формуле (6.2), смещение оценки есть

Таким образом, смещение оценки равно а оценка не смещена.

<< Предыдущий параграф Следующий параграф >>
Оглавление