Градиент функции

Градиент — это вектор частных производных функции нескольких переменных, показывающий направление наибольшего роста функции.

Для функции \(f(x_1, x_2, \dots, x_n)\) градиент обозначается:

\[ \nabla f(x_1, x_2, \dots, x_n) = \left( \frac{\partial f}{\partial x_1}, \frac{\partial f}{\partial x_2}, \dots, \frac{\partial f}{\partial x_n} \right) \]

Смысл градиента

  • Направление вектора \(\nabla f\) — направление наибольшего возрастания функции.
  • Длина \(\|\nabla f\|\) — скорость изменения функции в этом направлении.
  • Перпендикулярно градиенту лежат линии уровня (уровни \(f(x_1, ..., x_n) = const\)).

Основные свойства

  1. Линейность
\[ \nabla (af + bg) = a \nabla f + b \nabla g \]

для скаляров \(a, b\) и функций \(f,g\).

  1. Произведение функций (правило Лейбница)
\[ \nabla(fg) = f \nabla g + g \nabla f \]
  1. Составная функция
    Если \(f = h(g(x_1, ..., x_n))\), то
\[ \nabla f = h'(g(x_1, ..., x_n)) \cdot \nabla g \]

Геометрический смысл

  • Градиент перпендикулярен поверхности уровня \(f(x_1, ..., x_n) = c\).
  • Направление градиента — стрелка к максимальному росту функции.
  • Пример: для функции \(f(x, y) = x^2 + y^2\)
\[ \nabla f = (2x, 2y) \]
  • В точке \((1,1)\):
\[ \nabla f(1,1) = (2,2) \]

→ показывает направление наибольшего роста от точки \((1,1)\).

Примеры

Пример 1: \(f(x,y) = 3x^2y + y^3\)

\[ \frac{\partial f}{\partial x} = 6xy, \quad \frac{\partial f}{\partial y} = 3x^2 + 3y^2 \]
\[ \nabla f = (6xy, 3x^2 + 3y^2) \]

Пример 2: \(f(x,y,z) = x e^{yz}\)

\[ \frac{\partial f}{\partial x} = e^{yz}, \quad \frac{\partial f}{\partial y} = x z e^{yz}, \quad \frac{\partial f}{\partial z} = x y e^{yz} \]
\[ \nabla f = \big(e^{yz}, x z e^{yz}, x y e^{yz}\big) \]

Использование градиента

  1. Максимум/минимум функции
    • На экстремумах \(\nabla f = 0\) (критические точки).
  2. Направление наибольшего роста/спуска
    • Вектор градиента → наибольший рост.
    • \(-\nabla f\) → наибольший спад.
  3. Оптимизация (градиентный спуск)
\[ x_{k+1} = x_k - \alpha \nabla f(x_k) \]

где \(\alpha\) — шаг (learning rate).

Связь с линиями уровня

  • Для линии уровня \(f(x,y)=c\) градиент \(\nabla f\) перпендикулярен касательной к линии.
  • Если \(f(x,y)=x^2+y^2\), линии уровня — окружности, градиент всегда из центра наружу.

Итог

  • Градиент — это векторное расширение производной на многомерные функции.
  • Показывает направление и скорость наибольшего роста функции.
  • Используется в оптимизации, анализе поверхности и приложениях физики.