教師あり学習

教師あり学習（きょうしありがくしゅう, 英: Supervised learning）とは、機械学習の手法の一つである。

既知の「問題」x_iに対する「解答」y_iを「教師」が教えてくれるという方法であり、「生徒」であるアルゴリズムが未知の「問題」xに対応する「解答」yを推論する事から名付けられたものである。そのような訓練に用いるデータを事を教師データとも呼ぶ。

概要

教師あり学習では、未知の確率分布$p(\mathbf {x} ,\mathbf {y} )$を対象に学習を行う。実応用上は何らかを入力(x)、出力(y)とみなせる事が多く、例えばyはxに未知の関数Fを施した値F(x)に小さなノイズが載ったものである。アルゴリズムには、$p(\mathbf {x} ,\mathbf {y} )$に従うxとyの組$(\mathbf {x} _{1},\mathbf {y} _{1}),\ldots ,(\mathbf {x} _{n},\mathbf {y} _{n})$が訓練データとして与えられる。アルゴリズムが解くべきタスクは訓練データに属していない（かもしれない）データxに対し、条件付き確率分布$p(\mathbf {y} \mid \mathbf {x} )$ないしそこから決まる値（たとえば$p(\mathbf {y} \mid \mathbf {x} )$の期待値）をよく近似することである。近似の精度は事前に定められた損失関数という関数を使って評価する。したがって損失関数の値の期待値を小さくする事が、教師あり機械学習の目標であると言える。

機械学習の定義に沿って言えば、教師あり機械学習は以下のような機械学習であるといえる：

タスク	経験	性能指標
$p(\mathbf {y} \mid \mathbf {x} )$ないしそこから決まる値をよく近似する事	訓練データ$(\mathbf {x} _{1},\mathbf {y} _{1}),\ldots ,(\mathbf {x} _{n},\mathbf {y} _{n})$	損失関数の期待値

アルゴリズム

教師あり学習では事前知識である$(\mathbf {x} _{1},\mathbf {y} _{1}),\ldots ,(\mathbf {x} _{n},\mathbf {y} _{n})$から、未知のxに対応するyの分布$p(\mathbf {y} \mid \mathbf {x} )$を当てる事が求められる。このため、アルゴリズムが未知のxから$p(\mathbf {y} \mid \mathbf {x} )$（ないしそこから決まる値）を求める操作を汎化もしくは推論（inference）と呼ぶ。タスクによっては「予測」「判断」「認識」等と呼ばれる事もある。

アルゴリズムは未知のデータxからxに対応するyの分布の情報を推測する必要があるが、この推論の為に事前知識として与えられる訓練データにはx_iから推論しなければならないy_iが「解答」としてついている。

訓練フェーズと汎化フェーズ

多くの教師あり機械学習のモデルでは、実際の汎化を行う前に訓練もしくは学習と呼ばれる作業が発生し、機械学習のモデルは「訓練アルゴリズム」と「汎化アルゴリズム」のペアとして捉える事ができる。訓練アルゴリズムは訓練データを入力として受け取り、パラメータと呼ばれる値θを出力する。パラメータは直観的には訓練データから有用な情報を引き出した「学習結果」であり、汎化の際にはこの「学習結果」であるθを使って汎化を行う。すなわち、汎化アルゴリズムは入力xの他にパラメータθをも入力として受け取り、$p(\mathbf {y} \mid \mathbf {x} )$（ないしそこから決まる値）を求める。

変数の名称

教師あり機械学習において、変数xを説明変数(explanation variable)、yを目的変数、目標変数(target variable)、もしくは標的(target)と呼ぶ。これらは別の名称で呼ばれる事も多く、xを予測変数(predictor)、yを応答変数（response variable）と呼んだり、xを独立変数（independent variable）、yを従属変数(dependent variable)と呼んだりする事もある。またタスクによってはこれら以外の名称で呼ばれる事もある。

タスク

教師あり学習に属する代表的なタスクとして回帰と分類がある。教師あり学習において、目的変数yが量的変数である場合を回帰(regression)、有限集合に値を取るカテゴリ型変数のである場合を分類(classification)もしくは判別と呼ぶ。

典型的な訓練データ（例題）はベクトル（問題）${\mathbf {x} }_{i}$ とラベル（回答）$y_{i}$の組として、$({\mathbf {x} }_{1},y_{1}),({\mathbf {x} }_{2},y_{2}),...$ のように与えられる。ここで、$({\mathbf {x} }_{i},y_{i})$は$i$ 番目のデータを表し、$y_{i}$ は0または1の2値を取るのラベルで、${\mathbf {x} }_{i}$ はベクトルを表す。

典型的な訓練データは分類問題では$y_{i}$ が離散値を、回帰問題では実数値を取る。

これらのデータに何らかの基準でもっとも合う関数関係 $y=f(x)$ を求める「学習」によって求められることで、未知のデータ ${\mathbf {x} }$ にに対して、予言 $y=f({\mathbf {x} })$ を得ることができる。$y=f(x)$を分類問題であれば分類器、回帰問題であれば回帰曲線などと称する。

回帰

回帰の目標は入力xが与えられたとき、$p(\mathbf {y} \mid \mathbf {x} )$に関する情報を予想する事である。典型的には $$\mathbf {y} =F(\mathbf {x} )+\mathbf {\varepsilon }$$

のようにyが未知の関数Fの像F(x)にランダムなノイズεを加えたデータであるケースにおいて、入力xからyの可能な限り正確な予想値${\hat {\mathbf {y} }}$を出力する事が求められる。なお回帰で扱う目的変数yは連続量であり、典型的には実数を複数並べた数値ベクトルである。

他の教師あり機械学習アルゴリズムと同様、回帰アルゴリズムは$p(\mathbf {x} ,\mathbf {y} )$に従って選ばれた訓練データの集合$D=\{(\mathbf {x} _{1},\mathbf {y} _{1}),\ldots ,(\mathbf {x} _{n},\mathbf {y} _{n})\}$をとして受け取る事ができ、これらの訓練データをヒントにして入力xに対応するyの予想値 $${\hat {\mathbf {y} }}={\hat {F}}_{D}(\mathbf {x} )$$

を出力する。予想の正確さは損失関数$L({\hat {\mathbf {y} }},\mathbf {y} )$によって測られる。回帰では損失関数$L({\hat {\mathbf {y} }},\mathbf {y} )$としては自乗誤差損失 $$L({\hat {\mathbf {y} }},\mathbf {y} )=||{\hat {\mathbf {y} }}-\mathbf {y} ||^{2}$$

を用いる事が多い。

回帰の目標は、汎化誤差（予測誤差、予測損失とも） $$E[L({\hat {\mathbf {y} }}(\mathbf {x} ),\mathbf {y} )]=\iint L({\hat {\mathbf {y} }}(\mathbf {x} ),\mathbf {y} )p(\mathbf {x} ,\mathbf {y} )\mathrm {d} \mathbf {x} \mathrm {d} \mathbf {y}$$

を小さく抑える事である。ここで${\hat {\mathbf {y} }}(\mathbf {x} )=M(\mathbf {x} ,\theta )$は汎化アルゴリズムの出力であり、E[・]は期待値を表す。

分類

分類タスクでは、事前に定められた有限個のクラスが定められていて、各クラスには、「ネコ」、「イヌ」などのクラスラベル（もしくは単にラベル）と呼ばれるクラス名が割り振られている。分類タスクの目的は与えられた入力xがのいずれに属するかを当てる事である。

分類タスクを解くアルゴリズムには大まかに「決定論的アプローチ」と「確率論的アプローチ」の２種類があり、前者は分類タスクでは入力xが与えられたとき、xが属すると思われるクラスラベルを出力するというものであり、損失関数としては典型的には0-1損失 $$L({\hat {y}},y)={\begin{cases}1&{\text{if }}{\hat {y}}\neq y\\0&{\text{otherwise}}\end{cases}}$$

を使う。

一方、後者はクラスラベルを直接出力するのではなく、確信度（confidence score）${\widehat {y_{1}}},\ldots ,{\widehat {y_{k}}}$を出力するというものである。ここで${\widehat {y_{j}}}$はxがj番目のクラスに属しているとどの程度確信しているかを表す尺度であり、$0\leq {\widehat {y_{j}}}\leq 1$と${\widehat {y_{1}}}+\cdots +{\widehat {y_{k}}}=1$を満たす。

確信度を出力させる分類タスクでは、訓練データ$(\mathbf {x} _{i},\mathbf {y} _{i})$のy_iも確信度と整合性が取れるように符号化する。すなわち、x_iがj番目のクラスに属している場合、$\mathbf {y} _{i}=\mathbf {e} _{j}$とする。ここでe_jはj番目の成分が1でそれ以外の成分が0のベクトルである（このように1つの成分だけが1でそれ以外は0となるベクトルをone-hotベクトルとい、one-hotベクトルによりデータを表現する事をone-hot表現 という）。損失関数としては典型的には交差エントロピー $$L({\hat {\mathbf {y} }},\mathbf {y} )=-\sum _{k}y_{k}\log {\widehat {y_{k}}}$$

を使う。

回帰と分類の関係性

確信度を使った分類タスクに対するアルゴリズムを設計する典型的な手法は、回帰タスクのアルゴリズムを流用するというものである。すなわちクラスをone-hotベクトルで符号化した訓練データ$(\mathbf {x} _{1},\mathbf {y} _{1}),\ldots ,(\mathbf {x} _{n},\mathbf {y} _{n})$を使って回帰タスクのアルゴリズムを訓練し、訓練結果のアルゴリズムを分類タスクに利用するという手法である。ただし、回帰タスク出力${\widehat {\mathbf {u} }}=({\widehat {u_{1}}},\ldots ,{\widehat {u_{k}}})$は、分類タスクの出力である確信度と違い、$0\leq {\widehat {u_{j}}}\leq 1$と${\widehat {u_{1}}}+\cdots +{\widehat {u_{k}}}=1$という条件を満たさないという問題が起こる。そこで一旦ソフトマックス変換 $$\mathrm {softmax} ~:~\mathbb {R} ^{k}\to [0,1]^{k},(u_{1},\ldots ,u_{k})\mapsto {1 \over \sum _{j=1}^{k}e^{u_{j}}}(e^{u_{1}},\ldots ,e^{u_{k}})$$

をかける事でこの問題を解決する。

逆に確信度を使った分類タスクを回帰タスクに流用する事もでき、この場合は上と同様の理由でソフトマックス変換の逆変換をかける必要がある。

バイアスと分散のトレードオフ

→詳細は「偏りと分散」を参照

回帰では、入力xに対応するyの予測値${\hat {\mathbf {y} }}={\hat {F}}_{D}(\mathbf {x} )$を出力する事を求められ、${\hat {\mathbf {y} }}$はyの期待値に近いことが望ましく、しかも${\hat {\mathbf {y} }}$のばらつきは小さい方が望ましい。しかし下記に示すようにこの２つの要件はトレードオフの関係にある：

定理 (バイアスと分散のトレードオフ) ― p(x,y)を$\mathbb {R} ^{\ell }\times \mathbb {R} ^{k}$上の確率分布とし、Dを$\mathbb {R} ^{\ell }\times \mathbb {R} ^{k}$上の何らかの確率分布に従って選ばれた訓練データの集合とし、${\hat {F}}$を回帰アルゴリズムとし、Dによってこの回帰アルゴリズムを訓練して得られた関数を${\hat {\mathbf {y} }}={\hat {F}}_{D}(\mathbf {x} )$とし、誤差関数を自乗誤差 $$L({\hat {\mathbf {y} }},\mathbf {y} )=||{\hat {\mathbf {y} }}-\mathbf {y} ||^{2}$$ により定義し、さらに$(\mathbf {x} ,\mathbf {y} )\sim p$をDとは独立に選び、 $${\bar {\mathbf {y} }}(\mathbf {x} )=E_{\mathbf {y} \sim p|_{\mathbf {x} }}[\mathbf {y} |\mathbf {x} ]$$ $${\bar {F}}(\mathbf {x} )=E_{D}[{\hat {F}}_{D}(\mathbf {x} )]$$ とする。

このとき、予測誤差の訓練データ集合Dに関する期待値（期待予測誤差） $$E_{D}[E_{(\mathbf {x} ,\mathbf {y} )\sim p}[L({\hat {F}}_{D}(\mathbf {x} ),\mathbf {y} )]=E_{(\mathbf {x} ,\mathbf {y} )\sim p,D}[||{\hat {F}}_{D}(\mathbf {x} )-\mathbf {y} ||^{2}]$$ は以下を満たす： $$E_{(\mathbf {x} ,\mathbf {y} )\sim p,D}[||{\hat {F}}_{D}(\mathbf {x} )-\mathbf {y} ||^{2}]={\mathsf {Var}}({\hat {F}})+{\mathsf {Bias}}^{2}({\hat {F}})+{\mathsf {Noise}}(p)$$ ここで、 $${\mathsf {Var}}({\hat {F}})=E_{\mathbf {x} \sim p|_{\mathbf {x} },D}(||{\hat {F}}_{D}(\mathbf {x} )-{\bar {F}}(\mathbf {x} )||^{2})$$ $${\mathsf {Bias}}^{2}({\hat {F}})=E_{\mathbf {x} \sim p|_{\mathbf {x} }}(||{\bar {F}}(\mathbf {x} )-{\bar {\mathbf {y} }}(\mathbf {x} )||^{2})$$ $${\mathsf {Noise}}({\hat {F}})=E_{(\mathbf {x} ,\mathbf {y} )\sim p}(||{\bar {\mathbf {y} }}(\mathbf {x} )-\mathbf {y} ||^{2})$$

証明

$${\begin{aligned}&{1 \over 2}(E_{(\mathbf {x} ,\mathbf {y} )\sim p,D}[||{\hat {F}}_{D}(\mathbf {x} )-\mathbf {y} ||^{2}]-{\mathsf {Var}}({\hat {F}})-{\mathsf {Bias}}^{2}({\hat {F}})-{\mathsf {Noise}}(p))\\&={1 \over 2}E_{(\mathbf {x} ,\mathbf {y} )\sim p,D}[||{\hat {F}}_{D}(\mathbf {x} )-\mathbf {y} ||^{2}-||{\hat {F}}_{D}(\mathbf {x} )-{\bar {F}}(\mathbf {x} )||^{2}-||{\bar {F}}(\mathbf {x} )-{\bar {\mathbf {y} }}(\mathbf {x} )||^{2}-||{\bar {\mathbf {y} }}(\mathbf {x} )-\mathbf {y} ||^{2}]\\&=E_{(\mathbf {x} ,\mathbf {y} )\sim p,D}[-{\hat {F}}_{D}(\mathbf {x} )\cdot \mathbf {y} +{\hat {F}}_{D}(\mathbf {x} )\cdot {\bar {F}}(\mathbf {x} )+{\bar {F}}(\mathbf {x} )\cdot {\bar {\mathbf {y} }}(\mathbf {x} )+{\bar {\mathbf {y} }}(\mathbf {x} )\cdot \mathbf {y} -||{\bar {F}}(\mathbf {x} )||^{2}-||{\bar {\mathbf {y} }}(\mathbf {x} )||^{2}]=(1)\end{aligned}}$$

ここで $${\begin{aligned}&E_{(\mathbf {x} ,\mathbf {y} )\sim p,D}[-{\hat {F}}_{D}(\mathbf {x} )\cdot \mathbf {y} +{\hat {F}}_{D}(\mathbf {x} )\cdot {\bar {F}}(\mathbf {x} )]\\&=-E_{(\mathbf {x} ,\mathbf {y} )\sim p}[E_{D}[{\hat {F}}_{D}(\mathbf {x} )]\cdot \mathbf {y} +E_{D}[{\hat {F}}_{D}(\mathbf {x} )]\cdot {\bar {F}}(\mathbf {x} )\\&=E_{(\mathbf {x} ,\mathbf {y} )\sim p}[-{\bar {F}}(\mathbf {x} )\cdot \mathbf {y} +||{\bar {F}}(\mathbf {x} )||^{2}]\end{aligned}}$$ なので、 $${\begin{aligned}(1)&=E_{(\mathbf {x} ,\mathbf {y} )\sim p}[-{\bar {F}}(\mathbf {x} )\cdot \mathbf {y} +{\bar {F}}(\mathbf {x} )\cdot {\bar {\mathbf {y} }}(\mathbf {x} )+{\bar {\mathbf {y} }}(\mathbf {x} )\cdot \mathbf {y} -||{\bar {\mathbf {y} }}(\mathbf {x} )||^{2}]\\&=E_{(\mathbf {x} ,\mathbf {y} )\sim p}[({\bar {F}}(\mathbf {x} )-{\bar {\mathbf {y} }}(\mathbf {x} ))({\bar {\mathbf {y} }}(\mathbf {x} )-\mathbf {y} )]\\&=E_{\mathbf {x} }[({\bar {F}}(\mathbf {x} )-{\bar {\mathbf {y} }}(\mathbf {x} ))({\bar {\mathbf {y} }}(\mathbf {x} )-E_{\mathbf {y} \sim p|_{\mathbf {x} }}[\mathbf {y} ])]\\&=0\end{aligned}}$$

上では回帰の場合について述べたが、確信度を出力する分類でも同様である。

ベイズ規則

L、p(x,y)をそれぞれ回帰や分類といった教師あり学習のタスクに対する損失関数、データ分布とし、関数Fに関する予測損失を$R_{L}(F)=E_{(x,y)\sim p}[L(F(x),y)]$と書き表す。このとき、予測損失の下限 $${\underset {F}{\mathrm {inf} }}R_{L}(F)$$ を損失関数Lのもとでのベイズ誤差(Bayes error)と呼び、下限を達成するFをベイズ規則(Bayes rule)という。ここで${\underset {F}{\mathrm {inf} }}$は可測関数全体の集合における下限である。

ベイズ規則は理論上の最良の予測関数であるが、実際には確率分布p(x,y)が未知なので、p(x,y)に関する予測損失$R_{L}(F)=E_{(x,y)\sim p}[L(F(x),y)]$を計算できず、ベイズ規則を求める事ができない。このため教師あり学習では既知のデータ$(\mathbf {x} _{1},\mathbf {y} _{1}),\ldots ,(\mathbf {x} _{n},\mathbf {y} _{n})$から可能な限りベイズ規則に近い値を出力するアルゴリズムを探索する事が求められる。

回帰

自乗損失を損失関数として選んだ場合、次の定理が成り立つ：

定理 (自乗損失に関する回帰のベイズ規則) ― p(x,y)を$\mathbb {R} ^{\ell }\times \mathbb {R} ^{k}$上の確率分布とし、 $$L({\hat {\mathbf {y} }},\mathbf {y} )=||{\hat {\mathbf {y} }}-\mathbf {y} ||^{2}$$ とする。このとき、汎化誤差$R_{L}(F)=E_{(x,y)\sim p}[L(F(x),y)]$を最小にする$F(\mathbf {x} )$は、 $$F(\mathbf {x} )=E[\mathbf {y} |\mathbf {x} ]$$ である。ここでEはp(x,y)から定まる条件付き確率分布$p(\mathbf {y} \mid \mathbf {x} )$からランダムにyを選んだときの期待値である。

証明

$$E[L(F(\mathbf {x} ),\mathbf {y} )]=\iint ||F(\mathbf {x} )-\mathbf {y} ||^{2}p(\mathbf {x} ,\mathbf {y} )\mathrm {d} \mathbf {x} \mathrm {d} \mathbf {y}$$$=\int \left(\int ||F(\mathbf {x} )-\mathbf {y} ||^{2}p(\mathbf {y} \mid \mathbf {x} )\mathrm {d} \mathbf {y} \right)p(\mathbf {x} )\mathrm {d} \mathbf {x}$ を最小にするには、各xに対し、 $$S=\int ||F(\mathbf {x} )-\mathbf {y} ||^{2}p(\mathbf {y} \mid \mathbf {x} )\mathrm {d} \mathbf {y}$$ を最小にすればよい。 $${\begin{aligned}S&=||F(\mathbf {x} )||^{2}\int p(\mathbf {y} \mid \mathbf {x} )\mathrm {d} \mathbf {y} -2F(\mathbf {x} )\cdot \int \mathbf {y} p(\mathbf {y} \mid \mathbf {x} )\mathrm {d} \mathbf {y} +\int ||\mathbf {y} ||^{2}p(\mathbf {y} \mid \mathbf {x} )\mathrm {d} \mathbf {y} \\&=||F(\mathbf {x} )||^{2}-2F(\mathbf {x} )\cdot E[\mathbf {y} \mid \mathbf {x} ]+\int ||\mathbf {y} ||^{2}p(\mathbf {y} \mid \mathbf {x} )\mathrm {d} \mathbf {y} \\&=||F(\mathbf {x} )-E[\mathbf {y} \mid \mathbf {x} ]||^{2}-||E[\mathbf {y} \mid \mathbf {x} ]||^{2}+\int ||\mathbf {y} ||^{2}p(\mathbf {y} \mid \mathbf {x} )\mathrm {d} \mathbf {y} \end{aligned}}$$ よりSが最小になるのは、 $$F(\mathbf {x} )=E[\mathbf {y} \mid \mathbf {x} ]$$ の場合である。

関数$f(\mathbf {x} )=E[\mathbf {y} |\mathbf {x} ]$を回帰関数と呼ぶ事もある。

分類

（確信度ではなくクラスを直接出力するタイプの）分類タスクにおいて、0-1損失関するベイズ規則は以下のようになる：

半教師あり学習

半教師あり学習の一種は部分のデータがラベルを付き、部分のデータがラベルを付かないこと。他の状況は、学習の目標はデータのラベルよりも多い場合。例えば、画像のボックスのラベルだけで、分割の役割を果たすこと。

参考文献

• Ian Goodfellow, Yoshua Bengio, Aaron Courville 翻訳：黒滝紘生, 河野慎, 味曽野雅史, 保住純, 野中尚輝, 冨山翔司, 角田貴大, 監訳：岩澤有祐, 鈴木雅大, 中山浩太郎, 松尾豊訳 (2018/8/27). 深層学習(kindle版). ドワンゴ. ASIN B07GQV1X76 
  • “Deep Learning An MIT Press book”. 2020年10月30日閲覧。同書原著のweb版
• Hastie, Trevor、Tibshirani, Robert、Friedman, Jerome『統計的学習の基礎 データマイニング・推論・予測』杉山将、井手剛、神嶌敏弘、栗田多喜夫、前田英作、井尻善久、岩田具治、金森敬文、兼村厚範、烏山昌幸、河原吉伸、木村昭悟、小西嘉典、酒井智弥、鈴木大慈、竹内一郎、玉木徹、出口大輔、冨岡亮太、波部斉、前田新一、持橋大地、山田誠 翻訳、共立出版、2014年6月25日。ISBN 978-4320123625。 
  • “The Elements of Statistical Learning: Data Mining, Inference, and Prediction.”. スタンフォード大学. 2020年11月10日閲覧。：上述の書籍の英語版公式サイト。無料pdfあり。
• 瀧雅人『これならわかる深層学習入門』講談社〈KS情報科学専門書 機械学習スタートアップシリーズ〉、2017年10月21日。ISBN 978-4061538283。 
• 金森敬文『統計的学習理論』講談社〈KS情報科学専門書 機械学習スタートアップシリーズ〉、2015年8月8日。ISBN 978-4061529052。 

関連項目

• バックプロパゲーション
• サポートベクターマシン
• ID3
• 単純ベイズ分類器
• 過剰適合
• 事例ベース推論
• ブースティング
• 教師なし学習