Градиент функции

Градиент — это вектор частных производных функции нескольких переменных, показывающий направление наибольшего роста функции.

Для функции $f(x_1, x_2, \dots, x_n)$ градиент обозначается:

\[ \nabla f(x_1, x_2, \dots, x_n) = \left( \frac{\partial f}{\partial x_1}, \frac{\partial f}{\partial x_2}, \dots, \frac{\partial f}{\partial x_n} \right) \]

Смысл градиента

  • Направление вектора $\nabla f$ — направление наибольшего возрастания функции.
  • Длина $|\nabla f|$ — скорость изменения функции в этом направлении.
  • Перпендикулярно градиенту лежат линии уровня (уровни $f(x_1, …, x_n) = const$).

Основные свойства

  1. Линейность
\[ \nabla (af + bg) = a \nabla f + b \nabla g \]

для скаляров $a, b$ и функций $f,g$.

  1. Произведение функций (правило Лейбница)
\[ \nabla(fg) = f \nabla g + g \nabla f \]
  1. Составная функция Если $f = h(g(x_1, …, x_n))$, то
\[ \nabla f = h'(g(x_1, ..., x_n)) \cdot \nabla g \]

Геометрический смысл

  • Градиент перпендикулярен поверхности уровня $f(x_1, …, x_n) = c$.
  • Направление градиента — стрелка к максимальному росту функции.
  • Пример: для функции $f(x, y) = x^2 + y^2$
\[ \nabla f = (2x, 2y) \]
  • В точке $(1,1)$:
\[ \nabla f(1,1) = (2,2) \]

→ показывает направление наибольшего роста от точки $(1,1)$.

Примеры

Пример 1: $f(x,y) = 3x^2y + y^3$

\[ \frac{\partial f}{\partial x} = 6xy, \quad \frac{\partial f}{\partial y} = 3x^2 + 3y^2 \]
\[ \nabla f = (6xy, 3x^2 + 3y^2) \]

Пример 2: $f(x,y,z) = x e^{yz}$

\[ \frac{\partial f}{\partial x} = e^{yz}, \quad \frac{\partial f}{\partial y} = x z e^{yz}, \quad \frac{\partial f}{\partial z} = x y e^{yz} \]
\[ \nabla f = \big(e^{yz}, x z e^{yz}, x y e^{yz}\big) \]

Использование градиента

  1. Максимум/минимум функции
    • На экстремумах $\nabla f = 0$ (критические точки).
  2. Направление наибольшего роста/спуска
    • Вектор градиента → наибольший рост.
    • $-\nabla f$ → наибольший спад.
  3. Оптимизация (градиентный спуск)
\[ x_{k+1} = x_k - \alpha \nabla f(x_k) \]

где $\alpha$ — шаг (learning rate).

Связь с линиями уровня

  • Для линии уровня $f(x,y)=c$ градиент $\nabla f$ перпендикулярен касательной к линии.
  • Если $f(x,y)=x^2+y^2$, линии уровня — окружности, градиент всегда из центра наружу.

Итог

  • Градиент — это векторное расширение производной на многомерные функции.
  • Показывает направление и скорость наибольшего роста функции.
  • Используется в оптимизации, анализе поверхности и приложениях физики.