6.1. Классическая линейная модель регрессионного анализа

1p У, = B0 + B1 X +... + Bpxi + s,.

Традиционные названия «зависимая» для у и «независимые» для хк отражают не столько статистический смысл, сколько их содержательную интерпретацию.

Величина s, называется ошибкой регрессии.

нормально с параметрами N(0,c2). Кроме того, в данной модели мы рас-сматриваем переменные x как неслучайные значения. Такое на практике получается, когда идет активный эксперимент, в котором задают значения x (например, назначили зарплату работнику), а затем измеряют y (оценили, какой стала производительность труда). Поэтому зависимую переменную иногда называют откликом. Теория регрессионных уравнений со случайными независимыми переменными сложнее, но известно, что при большом числе наблюдений использование метода, разработанного для случайных X, корректно.

Для получения выборочных оценок bk коэффициентов Бк регрессии минимизируется сумма квадратов ошибок регрессии:

1 p 2

Е(Уі-b0 + b1Xi +...+bpX ) ^ min .

і

Решение задачи сводится к решению системы линейных уравнений относительно bk.

На основании оценок регрессионных коэффициентов рассчитываются оценки значений y:

yi = b0 + b1 X1 + b2 Ъ + ... + bpXi .

По сути дела, эти оценки являются оценками математического ожидания Y при заданных значениях X.

О качестве полученного уравнения регрессии можно судить, исследовав є,. = yt - yt - оценки случайных ошибок уравнения. Оценка дисперсии случайной ошибки получается по формуле S = ^Е (УІ - УІ ) - p -1).

Величина S называется стандартной ошибкой регрессии. Чем меньше величина S, тем лучше уравнение регрессии описывает независимую переменную y.

Так как мы ищем оценки bk, используя случайные данные, то они, в свою очередь, будут представлять случайные величины. В связи с этим возникают вопросы:

Существует ли регрессионная зависимость? Может быть, все коэффициенты регрессии в генеральной совокупности равны нулю, оцененные их значения ненулевые только благодаря случайным отклонениям данных?

Существенно ли влияние на зависимую переменную отдельных независимых переменных?

В пакете вычисляются статистики, позволяющие решить эти задачи.