数式の凡例

特に断りがない場合, 各数式や記号は以下のような意味を持ちます. ただし 10-13 章以外ではそこまで頻繁に数式は登場しません.

記号 解説
\(i\) 観測点のインデックス
\(N\) データの観測点の数
\(d\) 特徴量ベクトルのインデックス
\(D\) 特徴量ベクトルの次元
\(\boldsymbol{x}_i\) 観測点 \(i\) の特徴量ベクトル
\(\boldsymbol{\theta}\) パラメータのベクトル(または集合)
\(y_i\) 観測点 \(i\) のラベル
\(\bar{x}_d\) \(x_d\) の標本平均. つまり, \[\bar{x}_d:= \frac{1}{N}\sum_{i=1}^Nx_{d,i}\]
\(X\) (大文字) 確率変数
\(\boldsymbol{x}\) (太字, 小文字) (列)ベクトル
\(\mathbf{X}\) (太字, 大文字) 行列
\(\boldsymbol{x}^\top\) \(\boldsymbol{x}\) の転置, e.g., \(\left\langle \boldsymbol{x}, \boldsymbol{y} \right\rangle = \boldsymbol{x}^\top\boldsymbol{y}\)
\(\nabla\) 勾配ベクトル
\(\left\Vert \boldsymbol{x} \right\Vert_p\) \(\boldsymbol{x}\)\(L^p\) ノルム, \[\left\Vert \boldsymbol{x} \right\Vert_p := \left[x_1^p + x_2^p + \cdots + x_n^p \right]^{1/p}\]
\(\sharp A\) 集合 \(A\) の要素数 (cardinality)
\(\mathrm{P}\{A\}\) 事象 \(A\) の確率
\(\mathrm{E} X\) \(X\) の期待値,\[\mathrm{E} X := \int_x xf(x)dx, f(x) \text{ is probality density of } X \]
\(\mathrm{V}(X)\) \(X\) の分散, \(\mathrm{V}(X):=\mathrm{E}(X - \mathrm{E}(X))^2\)