Приближение функции. Аппроксимация. Интерполяция.
29
Лекция 7
Рассматриваются задачи, в которых необходимо найти способ приближенного вычисления значения функции в заданной точке. Эти задачи возникают в тех случаях, когда прямое вычисление данной функции
для произвольного аргумента невозможно или очень трудоемко. Если функция 
определяется как решение сложной задачи, требуется упрощение функциональной зависимости. Если значения функции определяются в результате дорогостоящих экспериментов и могут быть найдены ее значения только в некоторых точках, то для вычисления значения в произвольной точке требуется приближенный метод. Этой цели служит задача аппроксимации (approximation - приближение). Данную функцию (заданную аналитически или таблично) требуется приближенно заменить некоторой другой аппроксимирующей функцией 
так, чтобы отклонение (в некотором смысле) от в заданной области было наименьшим. Если аппроксимация проводится на непрерывном множестве точек (отрезке), она называется непрерывной или интегральной. При интегральной квадратичной аппроксимации функции на отрезке 
параметры аппроксимирующей функции 
определяются из условия: 
Если приближение строится на дискретном множестве точек 
, 
, аппроксимация называется точечной или дискретной. При точечной квадратичной аппроксимации параметры 
аппроксимирующей функции 
определяются из условия: 
Наиболее распространенным методом аппроксимации экспериментальных данных является метод наименьших квадратов (МНК) (в англоязычной литературе Ordinary Least Squares, OLS). 
Пусть заданы значения функции 
, соответствующие значениям 
,
. Пусть аппроксимирующая функция 
зависит от 
параметра ( ). При точечной квадратичной аппроксимации параметры аппроксимирующей функции определяются из условия минимума суммы квадратов отклонений значений аппроксимирующей функции от заданных значений функции:
Рис.1. Аппроксимирующая кривая, построенная по методу наименьших квадратов
Вид функции определяется особенностями решаемой задачи. Если аппроксимирующая функция линейно зависит от параметров, то метод наименьших квадратов приводит задачу их определения к решению СЛАУ.
Вид аппроксимирующей функции:
1) линейная регрессия 
;
2) полиномиальная регрессия
, 
3) линейная комбинация линейно независимых функций
где, φi(x) - заданная система достаточно гладких, линейно-независимых функций.
Рассматривается применение метода МНК для определения неизвестных параметров функции при аппроксимации полиномом 
степени:
Необходимым условием существования минимума функции является равенство нулю ее частных производных по неизвестным переменным . В результате получается следующая система уравнений:
Раскрывая скобки и перенося свободные слагаемые в правую часть выражения, полученная СЛАУ примет вид:
Данная система линейных алгебраических уравнений может быть переписана в матричном виде:
В результате получена СЛАУ размерностью с неизвестными. Данная система может быть решена с помощью любого метода решения линейных алгебраических уравнений (например, методом Гаусса). В результате решения будут найдены неизвестные параметры аппроксимирующей функции, обеспечивающие минимальную сумму квадратов отклонений аппроксимирующей функции от исходных данных, т.е. наилучшее возможное квадратичное приближение.
Линейная регрессия
Для аппроксимирующей функции, которая задана в виде линейной зависимости, условие минимума суммы квадратов отклонений записывается в следующем виде:
Необходимым условием существования минимума функции является равенство нулю ее частных производных по неизвестным переменным:
Полученная СЛАУ после преобразования:
Если зависимость аппроксимирующей функции от параметров нелинейна, то для определения параметров приходится решать нелинейные задачи. Иногда с помощью преобразований функцию с нелинейной зависимостью от параметров можно свести к функции с линейной зависимостью.
1) Экспоненциальная аппроксимация. Аппроксимирующая функция задана экспоненциальной функцией вида: 
Для применения метода наименьших квадратов экспоненциальная функция линеаризуется:
2) Степенная аппроксимация. Аппроксимирующая функция задана степенной функцией вида: 
Для применения метода наименьших квадратов степенная функция линеаризуется:
