【最小二乘公式】在數據分析和數學建模中，最小二乘法是一種常用的求解最優擬合曲線的方法。它通過最小化實際觀測值與模型預測值之間的平方誤差和，來找到最佳擬合參數。該方法廣泛應用于回歸分析、數據擬合、信號處理等領域。
一、最小二乘法的基本思想
最小二乘法的核心思想是：選擇一組參數，使得所有數據點到擬合曲線的垂直距離平方和最小。這一方法能夠有效減少隨機誤差對結果的影響，提高模型的準確性。
二、最小二乘公式的推導
設我們有 $ n $ 個數據點 $(x_i, y_i)$，其中 $ i = 1, 2, \dots, n $，并假設這些點可以用一個線性模型來擬合：
$$
y = a x + b
$$
我們的目標是找到參數 $ a $ 和 $ b $，使得殘差平方和最小，即：
$$
S = \sum_{i=1}^{n} (y_i - (a x_i + b))^2
$$
對 $ a $ 和 $ b $ 求偏導，并令其等于零，可得以下正規方程組：
$$
\begin{cases}
\sum_{i=1}^{n} (y_i - a x_i - b) x_i = 0 \\
\sum_{i=1}^{n} (y_i - a x_i - b) = 0
\end{cases}
$$
整理后得到：
$$
\begin{cases}
a \sum x_i^2 + b \sum x_i = \sum x_i y_i \\
a \sum x_i + b n = \sum y_i
\end{cases}
$$
解這個方程組可以得到 $ a $ 和 $ b $ 的表達式：
$$
a = \frac{n \sum x_i y_i - \sum x_i \sum y_i}{n \sum x_i^2 - (\sum x_i)^2}
$$
$$
b = \frac{\sum x_i^2 \sum y_i - \sum x_i \sum x_i y_i}{n \sum x_i^2 - (\sum x_i)^2}
$$
三、最小二乘公式的應用總結
| 公式名稱 | 公式內容 | 應用場景 |
| 殘差平方和 | $ S = \sum_{i=1}^{n} (y_i - (a x_i + b))^2 $ | 評估擬合效果 |
| 參數 $ a $ | $ a = \frac{n \sum x_i y_i - \sum x_i \sum y_i}{n \sum x_i^2 - (\sum x_i)^2} $ | 線性擬合斜率計算 |
| 參數 $ b $ | $ b = \frac{\sum x_i^2 \sum y_i - \sum x_i \sum x_i y_i}{n \sum x_i^2 - (\sum x_i)^2} $ | 線性擬合截距計算 |
| 正規方程組 | $ \begin{cases} a \sum x_i^2 + b \sum x_i = \sum x_i y_i \\ a \sum x_i + b n = \sum y_i \end{cases} $ | 解線性擬合參數 |
四、總結
最小二乘法是一種簡單而有效的數據擬合方法，尤其適用于線性關系的建模。通過合理的公式推導和計算，可以快速得到最佳擬合直線或曲線。雖然該方法在非線性問題中可能需要更復雜的處理，但在大多數線性回歸問題中具有良好的適用性和穩定性。
在實際應用中，建議結合可視化工具（如散點圖）進行驗證，以確保模型的合理性與有效性。