Главная > Математика > Линейный регрессионный анализ
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

3.3. Оценивание дисперсии

Обратим теперь внимание на оценивание параметра представляющего собой Несмещенная оценка для указывается следующей теоремой.

Теорема 3.3. Если где X — матрица размера ранга то

является несмещенной оценкой для

Доказательство. Согласно соотношению (3.7),

и из теоремы 3.1 получаем

Отсюда в силу теорем 1.7 (следствие 2) и имеем

Оказывается, что подобно обладает определенными свойствами оптимальности, которые частично приведены в следующей теореме.

Теорема 3.4. (Atiqullah (1962)). Пусть неза висимые случайные величины, имеющие одинаковые дисперсии и одинаковые третьи и четвертые центральные моменты и Если где матрица X размера имеет ранг то является единственной неотрицательной квадратичной несмещенной оценкой для имеющей минимальную дисперсию при или при равенстве всех диагональных элементов матрицы

Доказательство. Поскольку то не лишено смысла, следуя рассматривать только неотрицательные оценки. Пусть принадлежит классу неотрицательных квадратичных несмещенных оценок для Тогда в силу теоремы 1.7

для всех так что (полагаем ) и для всех Таким образом, или, поскольку матрица положительно полуопределена, Поэтому, если вектор а образован диагональными элементами матрицы то, согласно теореме 1.8,

Далее, оценка равная (где для краткости введено обозначение по теореме 3.3 принадлежит классу Кроме того, по теореме 3.1

подставляя это выражение в (3.13), получаем

Чтобы найти достаточные условия для минимальности дисперсии оценки в классе положим Тогда матрица симметрична и Таким образом, Поскольку то и использование этого уравнения совместно с соотношением т. е. приводит к равенствам

(последнее равно также Поэтому

и

Подставляя это выражение в (3.13), полагая и

используя (3.14), получаем

Чтобы найти оценку с минимальной дисперсией, нужно минимизировать при условиях . В общем случае выполнить такую минимизацию довольно трудно (см., например, Однако в двух важных частных случаях эта минимизация выполняется без труда. Первый случай — это ситуация, когда При этом

Последняя же величина достигает минимума, когда для всех т. е. когда Второй случай — это случай равенства всех диагональных элементов матрицы При этом все они равны (так как по теореме 3.1 (ii) имеем Поэтому для каждого и

поскольку Далее, так что достигает минимума, когда для всех Таким образом, в обоих случаях дисперсия оказывается минимальной тогда и только тогда, когда

Эта теорема проливает свет на тот факт, что несмещенная квадратичная оценка для обладающая равномерно минимальной дисперсией, существует только при определенных ограничениях, подобных тем, которые указаны в теореме. В предположении нормальности, т. е. при [Rao (1973, с. 319)], S2 оказывается несмещенной оценкой для обладающей минимальной дисперсией во всем классе несмещенных оценок (а не только в классе квадратичных несмещенных оценок).

Rao (1970, 1972b) предложил также другой критерий выбора оценки для состоящий в выборе так называемой

квадратичной несмещенной оценки с минимальной нормой Вне зависимости от того, предполагаем мы нормальность или нет, этот критерий опять приводит к .

Упражнения Зс

(см. скан)

<< Предыдущий параграф Следующий параграф >>
Оглавление