Методы оптимизации композиционных систем, страница 6

называется квадратичной формой этих переменных, а матрица А - матрицей квадратичной формы.

Квадратичная форма Q(h) называется положительно определенной, если для всех h Ф О имеет место неравенство Q(h)> О.

Чи

1п а,,

Из курса линейной алгебры известен критерий Сильвестра положительной определенности квадратичной формы: для того, чтобы квадратичная форма Q(h)=(Ah,h) была положительно определенной, необходимо и достаточно, чтобы ее матрица A = {a,f) была положительно определена, т.е. все ее угловые миноры были положительными

А1 = а,,>0; А2 =

О .

,                                    аи   ...  а,

а

\а,,   и,,

'22

п]

>0;...: An

а.

Нулевой вектор £ для которого Л<£ - Я£ называется собственным вектором квадратной матрицы А, а число X - соответствующим ему собственным значением этой матрицы. Собственные  значения  находят из  характеристического  уравнения


clet(A-ХЕ)~0. Если Л - собственное значение матрицы А, то нетривиальное решение однородной системы линейных уравне-ний (А - %$)% ~ О дает соответствующий ему собственный век-тор.
Нормой матрицы А размером п х п называется число = тах\ А /;||.
Очевидно, для произвольного вектора хеЕя выполняется неравенство ||/1т|]<||/|||-||х||.
Норма симметрической положительно определенной матри¬цы удовлетворяет двойному неравенству
l<\\A\\<Ly
где liiL- ее наименьшее и наибольшее собственные значения. Справедлива оценка
I и    п

V   м


3.2. Минимум функции многих переменных

Пусть функция п переменных f(x) определена во всем про-странстве Еа,
1.	Точка х е Еп называется точкой глобального минимума
функции Дх), если для всех хе Еп выполняется неравенст-
во f(xr)<f(x). Значение /(**)= едП/(*)==/* называется
минимумом функции. Множество всех точек глобального ми¬нимума функции f(x) будем обозначать через (У*.
2,	Точка х называется точкой локального лтиниляул^а функцъш.
/(.*), если существует £- окрестность точки

х : Uе(х) = {х | р(х,х) < е} такая, что для всех х е Uе(х) вы-полняется неравенство f(x)< f(x). 3. Если допустимое множество U в задаче минимизации функ¬ции п переменных совпадает со всем пространством Еп, то говорят о задаче безусловной оптимизации

f(x) -> min(max
X € Е...
, ,Понятие минимума функции многих переменных можно на-глядно пояснить на примере функции одной переменной. у^
Л*)
,-7>,X,Рис. 3.1. Функция одной переменной: а - глобальный минимум функции у(х) (он же локальный); Ь - локальный минимум функции у(х).,3.3. Дифференцируемые функции многих переменных
Многие алгоритмы минимизации и критерии оптимальности в Еп используют только для функций, дифференцируемых не-обходимое число раз. Напомним некоторые факты, известные из курса математического анализа.
1. Если функция дифференцируема в точке х° е £*„, то ее при-ращение Af{x°)= f{x° + Ax)- f{x0) можно записать в виде


называется градиентомД/(х»)=#(х»)+0|Н|), /  \   " Ьу(т°)

где dfix0)— У—^—-Ах,   - первый дифференциал fix) в

н  5х/

точке х .

2.   Вектор /^=(М

функции f(x) в точке х°. В малой окрестности точки х° градиент указывает направление наискорейшего возрастания функции /(л), а его норма характеризует скорость этого возрастания. Градиент в точке х° перпендикулярен линии (поверхности) уровня f(x) = с, проходящей через эту точку.

Очевидно, #(х°)=(/,(г°)»Ах) , поэтому Af{X°)=(fix»\Ax} + o§\Axl).                                     (3.1)

3.   Если функция  f(x) дважды дифференцируема в точке х° еЕп>то

где

Af(x°) = df{x<>)+ X-d\f{x»)+ ojfcf),

d2f(x°) = У У   - ^ ; Axj Ах.  - второй дифференциал

f(x) в точке х°.

Используя матрицу вторых производных {матржу Гессе, гессиан)

, второй дифференциал можно записать так

d2f{x°)= (,Г(х{))ах, Ах) , поэтому

A4y^(/^1^) + |(/^°K^ + o(|Af).                                                  (3.2)

4. Из формул (3.1) и (3.2) следует, что для малых ||Дл|

/(*)* Л>)+(/'Идх)                                                                                               (3.3)

или

/(*)« /(x«)+{/'(/}Ax) + i{/"(x°)i.v,Av),                                    (3.4)

т.е. в малой окрестности точки х° поведение дифференцируемой функции f(x) приближенно описывается формулой (3.3), а дважды дифференцируемой - формулой (3.4).

3.4. Необходимые и достаточные условия минимума дифференцируемой функции

1. Если в точке х° е Еп функция /(л) дифференцируема и достигает локального минимума, то

/'(*°)=0 или ^^ = 0, ./ = !,...,п -                                               (3.5)

dXj

- необходимое условие минимума. Точки, в которых выполнено это условие, называются стационарными точками дифференцируемой функции f\x).

2.  Если в стационарной точке х° е Еи функция f(x) дважды

дифференцируема и матрица ее вторых производных /*{х°)

(гессиан) положительно определена, то х° есть точка локального минимума f(x) - достаточное условие минимума. Условия 1 и 2 лежат в основе классического метода минимизации функций, дифференцируемых во всем пространстве Еп.

Приведем алгоритм этого метода. Шаг 1. Решив систему уравнений (3.5), найти все стационарные точки функции f{x).


Шаг 2. Используя достаточные условия минимума, среди стационарных точек функции fix) найти точки локального минимума и, сравнивая значения функции в них, определить точки глобального минимума.

Пример 3.1

Решить задачу

f[x) = xf + xl + х2 - jcj - 2х3 - х2х3 -> min классическим методом минимизации.

Проверяем эту матрицу по критерию Сильвестра.

Так как она положительно определена, заключаем, что х° является точкой минимума функции f(x). Минимальное значение функции в этой точке

/*=Д>)=-§-