Необходимое условие экстремума — равенство нулю частных производных. Находим частные производные и приравниваем к нулю:
Сложив первое уравнение системы, умноженное на
, со вторым, умноженным на
, получим квадратное уравнение:
. Его корни:
и
.
Из первого уравнения системы
.
Получаем решение системы:
и
— точки подозрительные на экстремум.
Найдем производные второго порядка:
.
Составим из них
матрицу-Гессиан:
Найдем главные миноры Гессиана в точке
:
.
Все главные миноры положительные, поэтому по
критерию Сильвестра матрица-Гессиан положительно определена и в точке
достигается локальный минимум
.
Найдем главные миноры Гессиана в точке
:
.
Главные миноры знакочередуются, но
, поэтому по критерию Сильвестра матрица-Гессиан знаконеопределена в точке
, поэтому в этой точке нет экстремума, это седловая точка.