EquationTest

以下の点xにおける１次近似を最小化する方向vを求める．

$$f(x + v) \approx f(x) + f'(x)^Tv$$

最適化問題：

$$\begin{align*} \min_{v} &\ f'(x)^T v \\ s.t. &\ \|v\|^2_2 \leq 1 \end{align*}$$

$$L(v, \alpha) = f'(x)^Tv + \alpha (\|v\|^2_2 - 1)$$
where $\alpha \geq 0$.

$$\begin{align*} \frac{\partial L}{\partial v} = 0 &\Rightarrow f'(x) + \alpha v = 0 \\ &\Rightarrow v = - \frac{1}{\alpha} f'(x) \end{align*}$$

ここから，$v \propto -f'(x)$とわかる．

Written with StackEdit.