Нелинейное программирование. Методы безусловной оптимизации в нелинейном программировании, страница 6

Таким образом, для нахождения точки экстремума функции одной переменной z(x) необходимо выполнить ее дифференцирование и получить уравнение

                                                 dz(x) / dx  = 0 ,                                                       ( 4.6 )

а для нахождения такой же точки для функции n переменных необходимо получить систему n уравнений вида:

                                       (4.7)

Совокупность частных производных функции n переменных может быть записана компактно с помощью специального вектора-градиента, который определяется как вектор,  компонентами которого являются частные производные первого порядка этой функции в точке X:

                                       (4.8)

При использовании градиента необходимое условие экстремума записывается в  виде 

grad z(X)=0 ,                                                                   (4.9)

где 0 – нулевой  n-мерный вектор.

В результате решения уравнения (4.6)  или системы уравнений (4.7) определяются одна или несколько стационарных точек.

Такие точки не обязательно будут являться точками экстремума ЦФ. (Такая точка для функции одной переменной может быть точкой перегиба, а для функции нескольких переменных так называемой седловой  точкой ). В связи с этим точки, найденные как решение уравнения (4.6) или системы (4.7), иногда называют точками, подозрительными  на экстремум.

Для того, чтобы найденная стационарная точка была точкой экстремума, необходимо выполнение достаточных  условий экстремума функции.

Для функции одной переменной такими условиями являются сравнение значений функции, сравнение знаков производных и исследование знаков высших производных [26].

Для функции n переменных достаточные условия определяются на основе анализа совокупности значений частных производных второго порядка  ЦФ в стационарной точке [26]. Такой анализ предполагает проверку положительной или отрицательной определенности специальной функции, имеющей вид квадратичной формы, рассчитанной в стационарной точке. Проверка предполагает расчет в стационарной точке значений частных производных, построение на их основе совокупности определителей  и оценку их знаков в соответствии с условиями Сильвестра [26]. Так, в случае положительной определенности квадратичной формы исследуемая стационарная точка является точкой минимума.

Отметим, что рассмотренная проверка может трактоваться также и как проверка положительной или отрицательной определенности матрицы Гессе G, вычисленной в стационарной точке  [54]. Тогда необходимым и  достаточным  условиями  минимума функции z(X) в точке X^*  будут следующие [54]: 1) gradz(X^*) = 0 ;  2) G(X^*) - положительно определена.

Таким образом, поиск экстремумов дважды дифференцируемой функции z(X) в неограниченной области осуществляется в два этапа:

1) в соответствии с необходимым условием определяется множество стационарных точек, где возможен экстремум;

2) в соответствии с достаточным условием выявляются экстремальные точки и устанавливается вид экстремума.

Выполнение первого этапа требует решения одного уравнения вида (4.6) или системы n уравнений с n неизвестными вида (4.7). Поскольку такая система обычно является системой нелинейных уравнений, то сложность ее решения может быть очень велика. В этом случае система решается  одним из численных методов.

4.2.3.  Численные методы решения задачи безусловной оптимизации

4.2.3.1. Численные методы одномерной оптимизации

Численные методы оптимизации функции одной переменной или методы одномерной  оптимизации являются составной частью многих методов многомерной оптимизации. В них выделяются  два этапа: 1)этап установления границ интервала, на котором находится точка экстремума  ЦФ, 2) этап уменьшения интервала для нахождения точки минимума с заданной точностью. (Такие этапы называются также этапами отделения точки экстремума  и уточнения точки экстремума).