経済学で出る数学

ワークブックでじっくり攻める:応用問題


凸関数と微分


【問】  微分可能な関数 $f:{\mathbb R}^n \to {\mathbb R}$ に対し,次は同値であることを示しなさい.
(1) $f(x)$は凸関数
(2) $f(y) \geq f(x) + \langle \nabla f(x), y-x \rangle$ for all $x,y$

【解答】
(1) $\Rightarrow$ (2)
${\alpha}\in (0,1)$に対し,$f(x)$は凸関数なので, \[ f(x+{\alpha}(y-x))-f(x)=f({\alpha}y+(1-{\alpha})x)-f(x)\leq {\alpha}f(y)+(1-{\alpha})f(x)-f(x)={\alpha}[f(y)-f(x)] \] なので,両辺を${\alpha}$で割り,${\alpha} \downarrow 0$とすればよい.
(1) $\Leftarrow$ (2)
$y_1, y_2$と${\alpha}\in (0,1)$に対し,$x={\alpha}y_1+(1-{\alpha})y_2$とおく. (2)式から,$f(y_i) \geq f(x) + \langle \nabla f(x), y_i-x \rangle$ for $i=1,2$ が成り立つので,これらの凸結合から \[ {\alpha}f(y_1)+(1-{\alpha})f(y_2)\geq f(x) + \langle \nabla f(x), {\alpha}y_1+(1-{\alpha})y_2 -x \rangle=f(x) =f( {\alpha}y_1+(1-{\alpha})y_2) \] が得られる.
【解答終】

【問】  $2$階連続微分可能な関数 $f:{\mathbb R}^n \to {\mathbb R}$ に対し,次は同値であることを示しなさい.
(1) $f(x)$は凸関数
(3) ${\nabla}^2 f(x)$ は任意の$x$に対して半正定値

【解答】
(3) $\Rightarrow$ (1)
Taylorの定理から,任意の$x,y$に対して,$\exists y\in (0,1)$が存在して, \[ f(y)-f(x)=\langle \nabla f(x), y-x \rangle +\dfrac{1}{2}\langle {\nabla}^2 f(x+r(y-x))(y-x), y-x\rangle \tag{a} \] ${\nabla}^2 f(x)$ は任意の$x$に対して半正定値なので, \[ f(y)-f(x)\geq \langle \nabla f(x), y-x \rangle \] となり,(2)が成り立っているので,凸関数である.
(1) $\Rightarrow$ (3)
対偶を示す. ${\nabla}^2 f(x)$ がある$x$に対して半正定値でないとすれば, \[ \langle {\nabla}^2 f(x)d, d\rangle < 0 \] となる$d\neq 0$が存在する.十分小さい${\alpha}>0$に対して,$y=x+{\alpha}d$とおくと, $y-x={\alpha}d$であることより, ${\nabla}^2 f(x)$の連続性から, \[ \langle {\nabla}^2 f(x+r(y-x))(y-x), y-x\rangle={\alpha}^2\langle {\nabla}^2 f(x+r(y-x))d, d\rangle <0 \] となるが(a)式より,(2)が成り立たないことがいえるので,$f$は凸関数ではない.
【解答終】

【Further Reading】
J.-B. Hiriart-Urruty, C. Lamaréchal, "Convex Analysis and Minimization Algorithms I", Springer (1993)
福島雅夫,『非線形最適化の基礎』朝倉書店(2001)
ふろく(2)応用問題 一覧へ