Главная > Математика > Линейный регрессионный анализ
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

11.2. Случай полного ранга

11.2.1. Метод исключения Гаусса

Этот, метод состоит в преобразовании матрицы В к верхней треугольной матрице

с положительными диагональными элементами (положительными в силу положительной определенности матрицы В). Последнее достигается при помощи цепочки невырожденных элементарных преобразований строк, при которых из каждой строки матрицы В вычитаются некоторые кратные ее выше расположенных строк, так что в результате обращаются в нуль все элементы, расположенные ниже диагонали [Fox (1964, гл. 3), Wilkinson (1965, 1967)]; Поскольку произведение невырожденных преобразований также не вырождено, мы, по существу, находим такую невырожденную матрицу К размера (которая оказывается нижней треугольной матрицей), что

и при этом наши нормальные уравнения равносильны уравнению

Если произвести эти преобразования над расширенной матрицей то в результате мы получим расширенную матрицу и элементы вектора х легко получаются обратной подстановкой, именно

и т.д. Такое решение уравнения по понятным причинам называют обычно обратным решением (обратным ходом) метода исключения Гаусса.

Для того чтобы можно было привести матрицу В к матрице V последовательно, строка за строкой, начиная первой и кончая строкой, необходимо, чтобы все главные миноры матрицы В порядков от 1 до включительно были отличными от нуля.

Но это условие выполняется, поскольку матрица В положительно определена

Если продолжить элементарные преобразования строк и привести матрицу В к единичной матрице то те же преобразования, примененные к матрице приведут к матрице из которой мы получим Подобную процедуру часто называют методом исключения Жордана.

Если нужно построить графики остатков, то для этого нет более короткого пути, чем просто вычислить и получить RSS. В то же время, если нас интересует только RSS (равная то мы можем найти ее и непосредственно, расширяя надлежащим образом матрицу В. При этом мы просто применяем метод исключения Гаусса к первым столбцам расширенной -матрицы

и получаем (см. упр. 2 в конце главы)

Эта процедура иногда называется методом Дулитла [см. Dwyer (1941)] по имени ее популяризатора [Doolittle (1878)].

<< Предыдущий параграф Следующий параграф >>
Оглавление