При условии извлечения из генеральной совокупности нескольких выборок одинакового объёма
Для иллюстрации данного утверждения докажем зависимость значения МНК-оценки
от величины случайной ошибки
МНК-оценка коэффициента 1 модели регрессии определяется по формуле:
В связи с тем, что переменная у зависит от случайной компоненты
Для дальнейших преобразования используются свойства ковариации:
1) ковариация между переменной
Исходя из указанных свойств ковариации, справедливы следующие равенства:
Следовательно, ковариация между зависимой и независимой переменными
В результате МНК-оценка коэффициента 1 модели регрессии примет вид:
Таким образом, МНК-оценка
может быть представлена как сумма двух компонент:
1) константы
2) случайной ошибки
Однако на практике подобное разложение МНК-оценки невозможно, потому что истинные значения коэффициентов модели регрессии и значения случайной ошибки являются неизвестными. Теоретически данное разложение можно использовать при изучении статистических свойств МНК-оценок.
Аналогично доказывается, что МНК-оценка
коэффициента модели регрессии и несмещённая оценка дисперсии случайной ошибки
могут быть представлены как сумма постоянной составляющей (константы) и случайной компоненты, зависящей от ошибки модели регрессии .
16. Состоятельность и несмещённость МНК-оценок
Предположим, что методом наименьших квадратов получена оценка
Для того, чтобы данная оценка могла быть принята за оценку параметра
необходимо и достаточно выполнения трёх статистических свойств:
1) свойства несмещённости;
2) свойства состоятельности;
3) свойства эффективности.
Сделаем следующие предположения об отклонениях
1) величина
2) математическое ожидание
3) дисперсия є постоянна:
4) значения
Если данные предпосылки выполняются, то оценки, найденные с помощью метода наименьших квадратов, обладают свойствами несмещённости, состоятельности и эффективности.
Если третье и четвёртое предположения не выполняются, т. е. дисперсия случайных компонент непостоянна и/или значения
Величина
называется несмещённой оценкой
параметраесли её выборочное математическое ожидание равно оцениваемому параметру генеральной совокупности:
Отсюда следует, что
где
Рассмотрим свойство несмещённости МНК-оценок на примере модели парной регрессии.
Необходимо доказать, что оценка
полученная методом наименьших квадратов, является несмещённой оценкой параметра
Доказательство
. Проведём доказательство утверждениячерез ковариационную матрицу:
То же самое утверждение
можно доказать в более развёрнутом виде:
Следовательно, оценка
полученная методом наименьших квадратов, является несмещённой оценкой коэффициента
Свойство несмещённости оценки
коэффициента
Для модели множественной регрессии доказательство свойства несмещённости оценок параметров
Следовательно, оценки
полученные методом наименьших квадратов, являются несмещёнными оценками коэффициентов
Величина
является состоятельной оценкой параметра
если она удовлетворяет закону больших чисел. Суть закона больших чисел состоит в том, что с увеличением выборочной совокупности значение оценки
стремится к значению параметра
генеральной совокупности:
Условие состоятельности можно также записать через теорему
т. е. значение оценки