2. Метод наименьших квадратов (МНК).
2.1.Свойства оценок на основе МНК
Возможны разные виды уравнений множественной регрессии: линейные и нелинейные.
Ввиду четкой интерпретации
параметров наиболее широко используется линейная функция. В линейной
множественной регрессии
параметры при
называются
коэффициентами «чистой» регрессии. Они характеризуют среднее изменение
результата с изменением соответствующего фактора на единицу при неизмененном
значении других факторов, закрепленных на среднем уровне.
Рассмотрим
линейную модель множественной регрессии
Классический
подход к оцениванию параметров линейной модели множественной регрессии основан
на методе наименьших квадратов (МНК). МНК позволяет получить такие оценки
параметров, при которых сумма квадратов отклонений фактических значений
результативного признака от расчетных минимальна:
.
Как
известно из курса математического анализа, для того чтобы найти экстремум
функции нескольких переменных, надо вычислить частные производные первого
порядка по каждому из параметров и приравнять их к нулю.
Итак.
Имеем функцию аргумента:
.
Находим
частные производные первого порядка:
После
элементарных преобразований приходим к системе линейных нормальных уравнений
для нахождения параметров линейного уравнения множественной регрессии (2.1):
Для
двухфакторной модели данная система будет иметь вид: