Необходимое условие экстремума — равенство нулю частных производных. Находим частные производные и приравниваем к нулю:
Сложив первое уравнение системы, умноженное на
, со вторым, умноженным на
, получим квадратное уравнение:
. Его корни:

и
.
Из первого уравнения системы
.
Получаем решение системы:

и

— точки подозрительные на экстремум.
Найдем производные второго порядка:
.
Составим из них
матрицу-Гессиан:
Найдем главные миноры Гессиана в точке
:
.
Все главные миноры положительные, поэтому по
критерию Сильвестра матрица-Гессиан положительно определена и в точке

достигается локальный минимум
.
Найдем главные миноры Гессиана в точке
:
.
Главные миноры знакочередуются, но
, поэтому по критерию Сильвестра матрица-Гессиан знаконеопределена в точке
, поэтому в этой точке нет экстремума, это седловая точка.