普段Excelで機械的に処理しているときにはついつい忘れがちだが、回帰分析は「データのx軸成分にばらつきはない」という前提で行っている。
なので本来のx軸は誤差が生じ得ないものか、y軸に対して誤差が無視できるほど精度の高いデータでなければならない。
x軸とy軸を入れ替えて回帰をすると別の回帰直線になってしまうのも、この前提が理由だ。
例えばx軸がサンプル作成後の経過日数や、測定機の条件(測定角度や測定電圧等)の場合は誤差が生じにくいのでx軸として用いることが出来る。しかし現実的にはx軸にも誤差が含まれている方が多いかと思う。
x軸とy軸のデータのばらつきが同じであれば幾何平均回帰を用いることが出来る。通常の回帰かy軸方向の残差成分の二乗和を最小にするのに対して、幾何平均回帰は図で囲まれた部分の面積の総和が最小になるよう回帰直線を引く。
通常の回帰分析が残差の二乗和を最小化するのに対して、
幾何回帰分析では三角形の面積の和を最小化すればよいことになる。
冷静に考えると、x軸とy軸の誤差が等しい場合なんて限られるので使い道に困るのだが、例えば処理前後の物性を同じ測定機で測った場合なんかは幾何平均回帰のほうが(少なくとも理論的には)好ましい。
そんなわけでこの幾何平均回帰を自力で計算してみる。
データの準備
データはいつものこちらを利用する。
(説明変数) |
1 | 2 | 3 | 4 | 5 |
(被説明変数) |
2 | 6 | 6 | 9 | 6 |
図中にプロットされているのは通常の回帰によって得られた回帰直線である。
導出は参考サイトを見て頂くとして、幾何平均回帰の傾きは「y軸の誤差を最小化する回帰」と「x軸の誤差を最小化する回帰」の幾何平均になるという特徴がある。
y軸の誤差を最小にする回帰は過去の記事で計算しているので、これを参考に計算していく。x軸の誤差を最小にする回帰は、xとyの値を入れ替えて回帰を実施すればよい。
y軸の誤差を最小にする回帰:
x軸の誤差を最小にする回帰:
幾何平均回帰:
回帰式はxとyの平均値を通るので、切片は下記式に代入することで求めることが出来る。
切片:
このようにして、幾何平均回帰による回帰式が得られる。
「y軸の誤差を最小化する回帰」「x軸の誤差を最小化する回帰」と合わせてプロットするとちょうど中間を通っていることが分かる。
参考サイト
幾何平均回帰の回帰式の導出:
標準主軸回帰(幾何平均回帰) - Engineering Skills
参考データ
諸々の数値の計算
の平均値:
の平均値:
との偏差積和:
の偏差平方和:
の偏差平方和: