The jonki

呼ばれて飛び出てじょじょじょじょーんき

帰納バイアス (Inductive bias)

機械学習において,学習データに現れないデータを予測するためには,何らかの制約が必要となる.この制約のもと,モデルを一般化できる.この制約を帰納バイアス (Inductive bias)と呼ぶ.

例えば線形回帰のinductive biasを考える.入力xと出力yは線形の関係であり,その目的関数は二乗誤差を最小化することにある.という制約が線形回帰のinductive bias.データの分布に何らかの制約(仮定)をおかないと,任意の値を求めるのは事実上不可能である.

下記は各機械学習手法における帰納バイアスの一覧.
The Inductive Biases of Various Machine Learning Algorithms - Laura Diane Hamilton


参考
Inductive bias - Wikipedia



違ったらコメントください.