方法最小二乗の関数の近似値の中で最も重要なアプリケーションの一つです。アイデアは、順序付けられたペアのセットが与えられたときに、この関数がデータを最もよく近似するような曲線を見つけることです。関数は、線、二次曲線、三次などにすることができます。
この方法の考え方は、選択した関数によって生成された点とデータセットに属する点の間の縦座標（Y成分）の差の2乗の合計を最小化することで構成されます。
最小二乗法
メソッドを説明する前に、「より良いアプローチ」が何を意味するのかを最初に明確にする必要があります。nポイントのセットを最もよく表すラインy = b + mx、つまり{（x1、y1）、（x2、y2）…、（xn、yn）}を探しているとします。
前の図に示すように、変数xとyが線y = b + mxによって関連付けられている場合、x = x1の場合、yの対応する値はb + mx1になります。ただし、この値はyの真の値、つまりy = y1とは異なります。
平面では、2点間の距離は次の式で与えられることに注意してください。
これを念頭に置いて、与えられたデータに最も近い直線y = b + mxを選択する方法を決定するには、ポイント間の距離の二乗の合計を最小化する直線の選択を基準として使用するのが論理的であるように見えますそしてストレート。
ポイント（x1、y1）と（x1、b + mx1）の間の距離はy1-（b + mx1）であるため、問題は次の合計が最小になるように数mとbを見つけることに還元されます。
この条件を満たす線は、«最小二乗線の点（x1、y1）、（x2、y2）、…、（xn、yn）への近似»として知られています。
問題が取得されたら、最小二乗近似を見つける方法を選択するだけです。ポイント（x1、y1）、（x2、y2）、…、（xn、yn）がすべてラインy = mx + bにある場合、それらは同一直線上にあるyであることがわかります。
この式では：
最後に、点が同一線上にない場合、y-Au = 0となり、問題はユークリッドノルムが最小になるようなベクトルuを見つけることに変換できます。
最小化ベクトルuを見つけることは、あなたが考えるほど難しくはありません。Aはnx2行列、uは2×1行列であるため、ベクトルAuはR nのベクトルであり、次元が2以下のR nの部分空間であるAのイメージに属しています。
どの手順に従うかを示すために、n = 3と仮定します。n = 3の場合、Aのイメージは原点を通る平面または線になります。
vを最小化ベクトルとします。図では、Aのイメージに直交するときにy-Auが最小化されていることがわかります。つまり、vが最小化ベクトルの場合、次のことが起こります。
次に、上記を次のように表現できます。
これは次の場合にのみ発生します。
最後に、vを解くと、次のようになります。
データとして与えられたn個の点が同一線上にない限り、A t Aは反転可能であるため、これを行うことができます。
ここで、直線を探す代わりに、放物線（式はy = a + bx + cx 2の形式になります）をn個のデータポイントにより近いものにしたい場合、手順は次のようになります。
n個のデータポイントがこの放物線にある場合、次のようになります。
次に：
同様に、y = Auと書くことができます。すべての点が放物線内にない場合、ベクトルuのy-Auがゼロとは異なることになりますが、ここでも問題があります。R3でベクトルuを見つけて、そのノルム--y-Au--ができるだけ小さくなるようにします。 。
前の手順を繰り返すと、目的のベクトルは次のようになります。
解決された演習
演習1
ポイント（1,4）、（-2,5）、（3、-1）、および（4,1）に最適なラインを見つけます。
解決
するべき：
次に：
したがって、ポイントに最も適合するラインは次のように与えられると結論付けます。
演習2
物体が200 mの高さから落下したとします。それが下がると、次の手順が実行されます。
時間tが経過した後の上記オブジェクトの高さは、次の式で与えられることがわかります。
gの値を取得する場合は、表に示されている5つの点により近い近似である放物線を見つけることができます。したがって、t 2に付随する係数は、測定は正確です。
するべき：
以降：
したがって、データポイントは次の2次式で近似されます。
したがって、次のことを行う必要があります。
これは、かなり正確に近い値で、g = 9.81 m / s 2です。gのより正確な近似値を取得するには、より正確な観測から開始する必要があります。
それは何のため？
自然科学や社会科学で発生する問題では、いくつかの数式を使用して、さまざまな変数間に存在する関係を記述すると便利です。
たとえば、経済学では、単純な式を使用して、コスト（C）、収入（I）、および利益（U）を関連付けることができます。
物理学では、重力によって引き起こされる加速度、オブジェクトが落下している時間、および法則によるオブジェクトの高さを関連付けることができます。
前の式では、s oはオブジェクトの初期の高さであり、v oはその初期速度です。
ただし、このような数式を見つけることは簡単な作業ではありません。通常、多くのデータを処理し、さまざまなデータ間の関係を見つけるために（得られた結果が一定であることを確認するために）複数の実験を繰り返し実行することは、担当の専門家の責任です。
これを実現する一般的な方法は、平面で得られたデータを点として表し、それらの点を最適に近似する連続関数を探すことです。
与えられたデータを「最もよく近似する」関数を見つける方法の1つは、最小二乗法です。
さらに、演習でも見たように、このメソッドのおかげで、物理定数にかなり近い近似を得ることができます。
参考文献
- Charles W Curtis線形代数。Springer-Velarg
- カイライチョン。確率過程を伴う初等確率理論。Springer-Verlag New York Inc
- リチャーLバーデン&J.ダグラスフェアズ。数値解析（7ed）。トンプソン学習。
- スタンリー・I・グロスマン。線形代数のアプリケーション。MCGRAW-HILL / INTERAMERICANA DE MEXICO
- スタンリー・I・グロスマン。線形代数。MCGRAW-HILL / INTERAMERICANA DE MEXICO