Оценка параметров модели.

После того как выбрана модель и определен ее вид, следующим шагом является оценка параметров модели. Для линейной парной регрессии вида

необходимо оценить свободный член уравнения регрессии (константу) а и коэффициент регрессии b. Для определения параметров модели можно использовать следующие критерии:

1) сумму квадратов отклонений фактических значений результата у от рассчитанных с помощью уравнения регрессии :

Эта сумма, используется в методе наименьших квадратов, который является одним из основных методов эконометрики;

2) сумму модулей отклонений наблюдаемых значений зависимой переменной у от ее расчетных величин :

3) Сумма, включающая отклонения с определенной мерой,

Где g - мера, с которой отклонение для i-го наблюдения входит в функционал.

Построение линейной регрессии сводится к оценке ее параметров – и . Классический подход к оцениванию параметров линейной регрессии основан на методе наименьших квадратов (МНК). МНК позволяет получить такие оценки параметров и , при которых сумма квадратов отклонений фактических значений результативного признака от теоретических минимальна:

. (1.2)

Т.е. из всего множества линий линия регрессии на графике выбирается так, чтобы сумма квадратов расстояний по вертикали между точками и этой линией была бы минимальной (рис. 1.2):

Рис. 1.2. Линия регрессии с минимальной дисперсией остатков.

Как известно из курса математического анализа, чтобы найти минимум функции (1.2), надо вычислить частные производные по каждому из параметров и и приравнять их к нулю. Обозначим через , тогда:

При использовании МНК оптимальными будут значения параметров регрессии, минимизирующие функционал S.

Для оценки параметров модели линейной регрессии наиболее часто используется МНК, согласно которому в качестве оценок параметров принимают величины а и Ь, минимизирующие сумму квадратов отклонений наблюдаемых значений результативного признака у от расчетных (теоретических)

Значения рядов наблюдении х и у нам известны. В функционале S они являются константами, а оценки параметров а и b — переменными. Чтобы найти минимум функции двух переменных, необходимо вычислить ее частные производные по каждому из параметров и приравнять их к нулю (это необходимые условия для экстремума):

Из этих равенств получается система нормальных уравнений для оценки параметров а и Ь:

Решая данную систему, находим оценки параметров регрессии:

Так как ковариация признаков, а - дисперсия признака, то b можно представить несколько в ином виде:

Параметр b называют коэффициентом регрессии. Его величина показывает, насколько в среднем изменяется значение результативного признака при изменении факторного на единицу. Значения параметра b не имеют ограничений. Если коэффициент регрессии больше нуля, то при увеличении фактора результат повышается и линия регрессии является возрастающей. Если же коэффициент регрессии меньше нуля, то при увеличении фактора результат уменьшается и линия регрессии имеет отрицательный наклон.

Наклон линии регрессии в зависимости от значения параметра

Параметр а оценивается по следующей формуле:

Правильность расчета параметров уравнения регрессии может быть проверена с помощью сравнения сумм

На практике из-за округления при вычислениях возможно их некоторое расхождение.