講座 3.3 · 全25講座中 15番目
最小二乗
内積が作る直角を、射影と最小二乗誤差へつなげます。
アニメーションを開く01 · Story
この場面で確かめること
説明と演算の順序を追い、最後の場面にどのような数学的証拠が残るかを確認してください。
- 01
目標bが方向a上にないとき、最も近い影pを選びます
- 02
残差eをpに足すと元のbが復元されます
- 03
dot(a, e) = 0
最小二乗の残差は部分空間に直交します
02 · Notebook
実際に動くノート
以下の原文が数学オブジェクトを作り、演算とアニメーションの順序を決めます。読んだ後、同じ場面を自分で再生できます。
2d
zoom 4/5
coordinates on
2, 1 #a@
point(2, 3) #b@
14/5, 7/5 #p@
// 目標{{b}}が方向{{a}}上にないとき、最も近い影{{p}}を選びます
focus a p b
checkpoint 最小二乗
focus -
-4/5, 8/5 #e@
// 残差{{e}}を{{p}}に足すと元の{{b}}が復元されます
sum(p, e) #rebuild@
dot(a, e) #ortho@
// `dot({{a}}, {{e}}) = 0`\n最小二乗の残差は部分空間に**直交**します
focus a e03 · 第3講
この単元の講座
直交・射影・最小二乗 — 内積が作る直角を、射影と最小二乗誤差へつなげます。