13_多元迴歸

核心表格

核心主題	主要觀點／方法	實務用途	重要條件／限制／延伸
Multiple regression	使用多個 independent variables x1、x2…共同預測一個 dependent variable y	同時考慮多個商務驅動因素	需要檢查各 x 是否真正提供獨立資訊
Regression coefficients	每個係數表示 holding other x variables constant 時，該 x 增加 1 單位所對應的 y 預測變化	量化各 predictor 的條件式影響	係數單位與輸入尺度必須一致
Adjusted R²	原書用來描述多個 x 對 y variation 的整體解釋力，並對單純增加變數作調整	比較多元模型 goodness of fit	高 adjusted R² 不保證每個 predictor 都顯著
Law of parsimony	最佳模型應用盡可能少的 independent variables	降低資料蒐集與模型維護負擔	需搭配 correlation 與 significance tests 決定刪哪些 x
Multicollinearity	兩個以上 x 高度相關，代表資訊可能重複	避免係數不穩定與難以解讀	原書主範例以 x-to-x
Overall F-test	檢查整體 regression model 是否顯著	判斷整體模型是否值得繼續使用	Significance F 應依事先設定的 α 判讀
Individual t-tests	檢查每一個 independent variable 是否個別顯著	辨認 weak predictors	原書建議一次移除一個弱 x，再重跑模型
Regression assumptions	Linearity、independence、homoscedasticity、normal residuals、no multicollinearity	確認係數與統計檢定可合理解讀	違反 assumptions 可能使 estimates／tests 不可靠

章節定位

第 13 章把第 10 章的 simple linear regression 從「一個 x 預測 y」擴展為「多個 x 同時預測 y」。原書以幾何比喻說明：simple regression 是在二維資料中配一條 line；multiple regression 則可視為在更高維度中配一個 plane。重點不只是把更多變數丟進模型，而是找出一個既能解釋資料、又不包含多餘 predictor 的模型。

Multiple regression equation

多元迴歸的形式可寫成 ŷ=b0+b1x1+b2x2+…+bkxk。每個 regression coefficient 代表在其他 predictors 保持不變時，該變數增加一單位所對應的預測 y 變化。這種「holding other variables constant」的解讀，是多元迴歸和單純兩變數相關最大的差異之一。

Adjusted R²

原書指出，在 simple linear regression 中 R² 描述一個 x 對 y variation 的解釋程度；multiple regression 則使用 adjusted coefficient of determination，目的在於對「只是多加入一些 x 就可能讓 fit 看起來更好」這件事做統計調整。因此看多元模型時，不應只因為變數更多、R² 更高，就認為模型一定更好。

Law of Parsimony

原書把 parsimony 定義為：最佳模型應使用最少數量的 independent variables。原因不只是統計，而是實務上每增加一個變數，就增加資料蒐集、品質控管與未來預測時的輸入成本。原書建議用兩步驟精簡模型：先看 x-to-x correlation，再看 significance tests。

Multicollinearity

當兩個以上 x 高度相關時，原書稱為 multicollinearity，認為這些 predictors 可能提供重複資訊。主範例使用 |r|>0.6 作為 possible multicollinearity 的 rule of thumb；Problem Solution 7 另外提到 correlation matrix 與 VIF 都可作為偵測方式，並指出較高 multicollinearity 會造成 standard errors 膨脹、coefficients 不穩定、individual effects 難以解讀。

原書的 7 步建模流程

Fit the model with selected independent variables。
Run a correlation matrix，檢查 multicollinearity。
Run the multiple regression model。