4.5. Метод наименьших квадратов.
В задачах практики нередки случаи, когда известны дискретные значения yi некоторой функции при соответствующих значениях хi аргумента на интервале [a, b]. (Например, значения, полученные в ходе экспериментальных исследований).
Для определения значений функции у в других точках интервала, можно подобрать функцию j(х), в некотором смысле близкую к у(х) – аппроксимирующую её на этом интервале. В простейшем случае- полиномом вида j(х) = а0 + а1х + а2х2 + … + аnxn, коэффициенты аi которого определяются так, чтобы обеспечить необходимое приближение к функции у. (Число слагаемых определяется расположением точек (xi, yi) и требуемой точностью аппроксимации). Задача удовлетворительно решается методом наименьших квадратов, заключающемся в следующем. Рассмотрим сумму квадратов разностей значений функций у и j(х) при известных значениях аргумента xi. Очевидно, что и j(х) и S – функции параметров аi (в данном случае – коэффициентов полинома). Необходимо так подобрать эти параметры, чтобы сумма квадратов отклонений была минимальна, т.е. нужно найти минимум функции нескольких переменных S(a0, a1, a2, …, an). Необходимое условие экстремума имеет вид: ; ; … ; (1).и сводится к системе уравнений, число которых равно числу неизвестных параметров аi.
Пример: В ходе эксперимента получены значения yi функции при четырех (n = 4) значениях аргумента хi (см. таблицу)
xi | 1 | 2 | 3 | 5 |
yi | 3 | 4 | 2,5 | 0,5 |
Будем искать аппроксимирующую зависимость j(х) функции у(х) в виде полинома первой степени j(х) = кх + b (а0 = b, a1 = к) (линейная зависимость).
Получим .
Из условия (1) находим:
(Используя таблицу, найдем:
; ; ; )
k = -26/35, b=150/35.
Получена система двух линейных уравнений с двумя неизвестными, решая которую найдем: и .
Искомая функция j(х) принимает вид: .
На рис. 4.3. нанесены точки (xi, yi) и найденная прямая. В случае аппроксимации функции полиномом более высокого порядка и при ином задании аппроксимирующей функции j(х) метод отыскания ее параметров остается прежним, но усложняются необходимые вычисления (что может быть оправдано точностью аппроксимации). Отметим, что аппроксимацию табличной функции по методу наименьших квадратов (МНК) с помощью степенных многочленов обычно производят, когда степень многочлена не превышает шестую. При дальнейшем увеличении степени многочлена происходит, как правило, накопление вычислительных погрешностей решения системы. Избежать этого можно ища приближения табличной функции с помощью большого числа линеаризуемых функций.
И ещё - МНК применяется, когда число экспериментальных точек хотя бы на единицу больше числа определяемых коэффициентов степенного многочлена. При равенстве этих величин задача аппроксимации МНК трансформируется в задачу интерполяции.
Контрольные вопросы.
1) В чём состоит МНК?
2) При равенстве каких величин задача аппроксимации МНК трансформируется в задачу интерполяции?