線形回帰で通常の最小二乗法が使用されるのはなぜですか?

線形回帰で通常の最小二乗法が使用されるのはなぜですか?
Anonim

回答:

Gauss-Markofの仮定が成り立つ場合、OLSは線形推定量の最小標準誤差を提供するので、最良の線形不偏推定量

説明:

これらの仮定を考える

  1. パラメータ共効率は線形であり、これは単に #beta_0とbeta_1# 線形ですが #バツ# 変数は線形である必要はありません #x ^ 2#

  2. データは無作為標本から取得されています

  3. 完全な多重共線性はないため、2つの変数は完全に相関していません。

  4. #EU#/#x_j)= 0# 条件付き仮定の平均がゼロであることを意味します。 #x_j# 変数は、観測されていない変数の平均についての情報を提供しません。

  5. 分散は、与えられたどのレベルに対しても等しくなります。 #バツ# すなわち #var(u)=シグマ^ 2#

その場合、OLSは線形推定量の母集団の中で最良の線形推定量、または(最良の線形不偏推定量)BLUEです。

この追加の仮定があるならば:

  1. 分散は正規分布しています

それから、それが線形または非線形推定量であるかどうかにかかわらず、OLS推定量は最良の推定量になります。

これが本質的に意味することは、仮定1〜5が成り立つならばOLSはあらゆる線形推定量の最低標準誤差を提供し、そして1〜6が成り立つならそれはあらゆる推定量の最低標準誤差を提供するということである。