地特三等申論題
108年
[統計] 迴歸分析
第 一 題
📖 題組:
考慮一簡單線性迴歸模型 Y_i = \alpha + \beta X_i + \varepsilon_i, i=1,…,n, 其中 Y_i 為因變數,X_i 為自變數,\varepsilon_i 為誤差項且與 X_i 獨立。另外,也假設 \varepsilon_i(i=1,…,n)具有獨立且相同的常態分布 N(0,\sigma^2),其中 \sigma^2 表變異數。(每小題 5 分,共 20 分)
考慮一簡單線性迴歸模型 Y_i = \alpha + \beta X_i + \varepsilon_i, i=1,…,n, 其中 Y_i 為因變數,X_i 為自變數,\varepsilon_i 為誤差項且與 X_i 獨立。另外,也假設 \varepsilon_i(i=1,…,n)具有獨立且相同的常態分布 N(0,\sigma^2),其中 \sigma^2 表變異數。(每小題 5 分,共 20 分)
📝 此題為申論題,共 4 小題
小題 (一)
請導出參數 $\alpha, \beta$的最小平方估計式 $\hat{\alpha}, \hat{\beta}$,並證明其不偏性(unbiasedness)。
思路引導 VIP
看到此題,應立即聯想到利用「最小平方法(OLS)」的目標函數(誤差平方和)進行偏微分,解聯立方程式導出估計式。接著,利用期望值算子的線性運算性質,將模型與誤差項假設(E[ε]=0)代入估計式中,以證明其期望值等於真實參數,即滿足不偏性。
小題 (二)
如果其他假設不變,但 Var(\varepsilon_i) = $\sigma^2 X_i^2, i=1,$…,n。說明由(一)導出之 $\hat{\beta}$是否仍具有不偏性?在此情形下,是否可提供較佳的估計式(以式子說明概念或作法,無需列出詳細結果)?
思路引導 VIP
評估不偏性需檢視誤差項之一階動差(期望值),而異質變異(Heteroskedasticity)屬於二階動差問題,故不影響 OLS 的不偏性。但因喪失有效性,應聯想到利用變數轉換(同除以 X_i)消除異質變異,藉由加權最小平方法(WLS)重新尋找最佳線性不偏估計式(BLUE)。
小題 (三)
如果其他假設不變,但 Cov(\varepsilon_i, \varepsilon_{i+1}) = \rho$\sigma^2, i=1,$…,n-1。說明由(一)導出之 $\hat{\beta}$是否仍具有不偏性?試舉例說明何種類型的數據會較容易發現 \rho $\neq 0$的情形。如何檢定 \rho = 0(以式子說明概念或作法,無需列出詳細結果)?
思路引導 VIP
面對誤差項存在一階自我相關(AR(1))的問題,首先應回歸普通最小平方法(OLS)估計式不偏性的數學定義,利用期望值的線性運算性質進行推導。接著,聯想實務上具備時間或空間延續性的資料型態。最後,針對自我相關的檢定,直覺應想到利用殘差建構的 Durbin-Watson (DW) 檢定,寫出其核心概念公式即可。
小題 (四)
假設自變數 X_i 無法直接被觀察到,而是觀察到一個替代變數 W_i, i=1,...,n, W_i = X_i + $\delta_i$,$\delta_i$為白噪音(white noise)與其他變數均獨立,且 $\delta_i$(i=1,…,n)具有獨立且相同的常態分布 N(0,1)。此時若將 W_i 取代最小平方估計式 $\hat{\beta}$中的 X_i,並令所得之新估計式為 $\hat{\beta}_w$。說明此 $\hat{\beta}_w$是否仍具有不偏性?當 n 很大時,$\hat{\beta}_w$的漸近偏差為何?在此情形下是否可提供較佳的估計式(以式子說明概念或作法,無需列出詳細結果)?
思路引導 VIP
本題測驗「自變數存在測量誤差(Errors-in-Variables)」的經典計量經濟學問題。看到此題應直覺想到:當自變數有測量誤差時,會產生「內生性」問題,導致 OLS 估計量產生「向零偏誤(Attenuation Bias)」。補救措施通常依賴已知誤差變異數進行修正,或尋找合適的工具變數(IV)。
📜 參考法條
附表 A:t 分布 \alpha=0.025 與 \alpha=0.05 右尾臨界值, df 為自由度
附表 B:F 分布 \alpha=0.05 右尾臨界值, df1 為分子自由度, df2 為分母自由度