理論関連事項

統計学の基本事項,確率分布の詳細,各種データ解析法の理論的背景について.

大域最適解と局所最適解

最適化問題において,任意の $\boldsymbol{x}$ に対して以下の式が成り立つとき,$\boldsymbol{x}^*$ を大域的最適解という.

\begin{eqnarray*}f(\boldsymbol{x}^*)\leq f(\boldsymbol{x})\tag{1}\end{eqnarray*}

一方で,$\boldsymbol{x}^*$ に極めて近い $\boldsymbol{x}$ に対して以下の式が成り立つとき,$\boldsymbol{x}^*$ を局所最適解という.

\begin{eqnarray*}f(\boldsymbol{x}^*)\leq f(\boldsymbol{x})\tag{2}\end{eqnarray*}

有界と非有界

任意の $\boldsymbol{x}$ に対して,以下の関係を満たす任意の実数 $k$ が存在するとき関数 $f(\boldsymbol{x})$ を有界 (bounded) であるという.そうでない場合を,非有界 (unbounded) であるという.

\begin{eqnarray*}|f(\boldsymbol{x})|\leq k\tag{3}\end{eqnarray*}
Hatena Google+