多變數極值與拉格朗日乘數

臨界點與二階判別式

一變數的函數在極值點導數是 0。兩變數亦然：若 $f$ 在 $(a, b)$ 有局部極值，且偏導數存在，則固定 $y = b$，$f(x, b)$ 在 $x = a$ 有極值，所以 $f_x(a, b) = 0$；同理 $f_y(a, b) = 0$。

$\nabla f = 0$ 或偏導數不存在的點稱為臨界點（critical point）。臨界點只是候選點，不一定是極值。

兩變數函數另有鞍點（saddle point）。$f(x, y) = x^2 - y^2$ 在原點 $\nabla f = 0$，沿 $x$ 軸方向原點是最低點，沿 $y$ 軸方向原點是最高點，形狀如馬鞍。兩變數的臨界點除了山頂和谷底，還包含這一類。

在 $\nabla f = 0$ 的點，切平面是水平的，決定形狀的是下一階，即二階偏導數。將 $f$ 在臨界點附近展開到二次（一次項皆為 0）：

$$\begin{aligned}&f(a+h, b+k) - f(a, b) \\ &\approx \frac{1}{2}\left(f_{xx} h^2 + 2 f_{xy} h k + f_{yy} k^2\right)\end{aligned}$$

此二次式對所有方向 $(h, k)$ 皆為正時是極小；皆為負時是極大；有正有負時是鞍點。配方後可得一個判斷標準。

二階判別式：$f_x(a, b) = f_y(a, b) = 0$，二階偏導數在附近連續，令 $D = f_{xx} f_{yy} - f_{xy}^2$（都在 $(a, b)$ 取值）。

$D = 0$ 並非表示「不是極值」，而是此方法無法得出結論。$x^4 + y^4$、$-x^4 - y^4$、$x^4 - y^4$ 在原點都是 $D = 0$，分別是極小、極大、鞍點，須回到函數本身判斷。

例如 $f = x^3 - 3x + y^2$。$\nabla f = (3x^2 - 3, 2y)$，臨界點是 $(1, 0)$、$(-1, 0)$。$f_{xx} = 6x$、$f_{yy} = 2$、$f_{xy} = 0$，所以 $D = 12x$。$(1, 0)$ 的 $D = 12 > 0$ 且 $f_{xx} = 6 > 0$，是局部極小；$(-1, 0)$ 的 $D = -12 < 0$，是鞍點。

閉有界區域上的最大最小值

局部極值只涉及鄰近的函數值。尋找整塊區域上的最大值與最小值時，有以下保證：連續函數在閉有界區域上一定取得到最大值和最小值（閉＝包含邊界，有界＝不延伸到無窮遠）。缺少任一條件都可能不成立：$\frac{1}{x^2+y^2}$ 在不含原點的開圓盤上沒有最大值；$x + y$ 在整個平面上也沒有。

步驟與一變數的閉區間法相同，只是「端點」變成整條邊界：

1. 找出區域內部的臨界點並計算函數值
2. 求邊界上的最大值與最小值，通常將邊界參數化，化為一變數問題
3. 比較所有函數值

例如 $f = x^2 + y^2 - x$ 在圓盤 $x^2 + y^2 \le 1$ 上。內部：$\nabla f = (2x - 1, 2y) = 0$，得到 $(\frac{1}{2}, 0)$，$f = -\frac{1}{4}$。邊界上 $x^2 + y^2 = 1$，所以 $f = 1 - x$，$x$ 從 $-1$ 到 1，最大值為 $f(-1, 0) = 2$，最小值為 $f(1, 0) = 0$。比較後，最大值 2 在邊界，最小值 $-\frac{1}{4}$ 在內部。只考慮內部會遺漏最大值。

拉格朗日乘數法

另一類問題是圍籬長度固定時求最大面積，亦即在限制 $g(x, y) = c$ 上求 $f(x, y)$ 的最大值。

沿限制曲線移動時，同時觀察 $f$ 的等高線。若移動方向穿過等高線，$f$ 仍在變化，該點不是極值。$f$ 達到極值時，限制曲線的切線方向上 $f$ 不變，即切線與 $\nabla f$ 垂直（此處需要 $g$ 的曲線在該點有切線，由 $\nabla g \neq 0$ 保證）。

同一條切線也與 $\nabla g$ 垂直，因為限制曲線是 $g$ 的等高線。平面上兩個向量垂直同一個非零方向時互相平行。由此得到拉格朗日乘數法（Lagrange multipliers）：$f$、$g$ 有連續的偏導數，若 $(a, b)$ 是 $f$ 在 $g = c$ 上的極值，且 $\nabla g(a, b) \neq 0$，則存在一個數 $\lambda$，

$$\nabla f(a, b) = \lambda \nabla g(a, b), \qquad g(a, b) = c$$

幾何意義是 $f$ 的等高線與限制曲線在該點相切。須解出所有候選點（連同 $\nabla g = 0$ 的點）。

此方法只說明「極值若存在，必在候選點之中」，並未保證極值存在。限制曲線閉有界（例如圓）時，連續函數一定取得到最大值與最小值，比較候選點的函數值即可決定。曲線延伸到無窮遠時須另行確認：$f = x + y$ 在 $xy = 1$ 上的候選點是 $(1, 1)$ 和 $(-1, -1)$，僅比較函數值會誤以為最大值是 2、最小值是 $-2$；實際上 $x > 0$ 的分支上 $f \ge 2$ 且沒有上界，$(1, 1)$ 只是局部極小，$(-1, -1)$ 是局部極大，$f$ 在這條曲線上沒有最大值也沒有最小值。

例如 $f = x + y$，限制 $x^2 + y^2 = 4$。$(1, 1) = \lambda(2x, 2y)$，所以 $x = y = \frac{1}{2\lambda}$；代入限制得 $x = y = \pm\sqrt{2}$。最大值 $2\sqrt{2}$ 在 $(\sqrt{2}, \sqrt{2})$，$\lambda = \frac{1}{2\sqrt{2}}$；最小值 $-2\sqrt{2}$ 在 $(-\sqrt{2}, -\sqrt{2})$，$\lambda = -\frac{1}{2\sqrt{2}}$。

條件 $\nabla g \neq 0$ 不可忽略。求 $f = x$ 在曲線 $y^2 - x^3 = 0$ 上的最小值：曲線上 $x = y^{2/3} \ge 0$，最小值 0 在原點。該處 $\nabla f = (1, 0)$，$\nabla g = (0, 0)$，$\nabla f = \lambda\nabla g$ 無解。只解方程組會遺漏此點，因此須將 $\nabla g = 0$ 的點也列入候選。

$\lambda$ 的意義：限制的右邊 $c$ 略為放寬時，最佳值 $f^*$ 的變化率等於 $\lambda$（最佳解隨 $c$ 平滑移動時成立）：

$$\frac{df^*}{dc} = \lambda$$

以總長 $c$ 公尺的圍籬圍成長方形花圃：$f = xy$，$g = 2x + 2y = c$。解出 $x = y = \frac{c}{4}$，$f^* = \frac{c^2}{16}$，$\lambda = \frac{c}{8}$，恰為 $\frac{df^*}{dc}$。$c = 40$ 時 $f^* = 100$、$\lambda = 5$：圍籬增加一公尺，面積約增加 5 平方公尺。

重點整理

• 局部極值的候選點是臨界點；臨界點也可能是鞍點
• 二階判別式 $D = f_{xx} f_{yy} - f_{xy}^2$：$D > 0$ 看 $f_{xx}$ 的正負，$D < 0$ 是鞍點，$D = 0$ 無法判斷
• 連續函數在閉有界區域上取得到最大最小值；內部臨界點與邊界都須比較
• 限制條件下的極值：$\nabla f = \lambda\nabla g$、$g = c$，前提是 $\nabla g \neq 0$，否則該點須另外列入候選；限制曲線閉有界時比較函數值即可，否則須另外確認極值存在
• $\lambda$ 是放寬限制時最佳值的變化率

下一課開始討論多變數的積分：將區域切成小方塊後求和。