Главная > Математика > Линейный регрессионный анализ
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

3.8.2. Оцениваемые функции (функции, допускающие оценку)

Установив, что нормальные уравнения можно использовать для отыскания остаточной суммы квадратов и в случае неполноты ранга матрицы плана, обратимся теперь к задаче оценивания линейных комбинаций вида при неполноте ранга матрицы

Определение. Говорят, что функция от параметра оцениваема, если для нее существует линейная несмещенная оценка вида

Если функция оцениваема, то есть тождество относительно так что имеем или Поэтому функция оцениваема тогда и только тогда, когда в силу Применяя теорему 3.2 из § 3.2 к случаю, когда X имеет неполный ранг, получаем, что функция оцениваема.

Теорёма 3.12. Если функция оцениваема и произвольное решение нормальных уравнений, то

(i) оценка единственна;

(ii) является для

Доказательство. Если функция оцениваема, то Но правая часть последнего равенства определена однозначно, так как 8 является единственной проекцией на Кроме того, по теореме является для

Критерий для проверки оцениваемости приведен в упражнениях (см. упр. 6). Именно, функция оцениваема в

и только том случае, когда

Процедура вычислений для такой проверки описана в разд. "Упражнения к гл. 11" (упр. 11).

Предположим теперь, что матрица имеет положительные собственные значения (необязательно различные), и пусть соответствующие им ортонормированные собственные векторы т.е. Если функция оцениваема, то и поскольку является пространством, натянутым на эти собственные векторы, то вектор а можно представить в виде

Отсюда [Silvey (1969)]

поскольку

Silvey (1969) заключает из (3.49), что относительно точное оценивание возможно только в направлении тех собственных векторов матрицы которые соответствуют большим собственным значениям. В направлении же тех собственных векторов, которые соответствуют малым собственным значениям, оценивание оказывается довольно неточным.

Предположим, что матрица X имеет полный ранг, но ее столбцы "почти" линейно зависимы. Тогда матрица близка к вырожденной, одно или более ее собственных значений очень малы и оценивание в соответствующих направлениях оказывается весьма неточным. Если рассмотреть какой-нибудь предельный переход, в котором матрица приближается к вырожденной, то оценивание в этих направлениях становится в процессе такого перехода все более и более неточным и в пределе оказывается вовсе невозможным в направлении тех собственных векторов, которые соответствуют нулевым собственным значениям. При этом оцениваемые функции имеют представление (3.48).

Наличие линейных связей между регрессорами или наличие связей, "близких" к линейным, в эконометрических исследованиях описывается термином мультиколлинеарность. Крайней формой

мультиколлинеарности является случай, когда матрица X имеет неполный ранг. Silvey (1969) показывает, что влияние мультиколлинеарности можно уменьшить (или даже совсем исключить), производя дополнительные наблюдения в направлении тех собственных векторов, которые соответствуют малым (или нулевым) собственным значениям (см. упр. 8 ниже). Вопрос о выборе направления, в котором следует производить дополнительные наблюдения с целью повышения точности оценивания некоторой линейной комбинации также подробно обсуждается в работе Silvey (1969).

В заключение упомянем статью Webster и др. (1974), в которой регрессионный анализ основывается на вычислении собственных значений некоторых матриц.

Упражнения 3i

(см. скан)

<< Предыдущий параграф Следующий параграф >>
Оглавление