4.3 模型估计¶
| 原文 | Time Series for Data Science - R Code used in Time Series: A Data Analysis Approach Using R |
|---|---|
| 作者 | Guangyu Wei |
| 发布 | 2025-06-15 |
| 状态 | Done |
在本节中，假设我们从一个\(\text{ARMA}(p,q)\)过程中得到\(n\)个观测值\(x_1,\cdots,x_n\)，并且模型的阶参数\(p\)和\(q\)是已知的。我们的目标就是估计参数\(\mu,\phi_1,\cdots,\phi_p,\theta_1,\cdots,\theta_q\)和\(\sigma_w^2\)。
我们从矩估计开始。这些
因此，在讨论矩方法时，我们假设\(\mu=0\)。尽管矩估计方法可以产生好的估计量，但它们有时候会导致次优的估计量。我们首先考虑该方法导致最优(有效)估计量的情况，即考虑如下的\(\text{AR}(p)\)模型：
\[\begin{equation}
x_t=\phi_1 x_{t-1}+\cdots+\phi_p x_{t-p}+w_t,\tag{4.3.1}
\end{equation}\]
对于\(h=0,1,\cdots,p\)，如果将\(\text{AR}\)方程的每一边乘以\(x_{t-h}\)并取期望，则可获得以下结果。
Yule-Walker方程 由下式给出：
\[\begin{equation}
\rho(h)=\phi_1 \rho(h-1)+\cdots+\phi_p \rho(h-p), h=1,2,\cdots,p,\tag{4.3.2}
\end{equation}\]
\[\begin{equation}
\sigma_w^2=\gamma(0)[1-\phi_1\rho(1)-\cdots-\phi_p \rho(p)],\tag{4.3.3}
\end{equation}\]
guangyu 注: 动手推推不难得到
在\(\text{AR}(p)\)模型：
\[x_t=\phi_1 x_{t-1}+\cdots+\phi_p x_{t-p}+w_t\]
将方程两边同乘\(x_{t-h}\)并取期望，则有
\[E(x_tx_{t-h})=\phi_1E(x_{t-1}x_{t-h})+\cdots+\phi_pE(x_{t-p}x_{t-h})+E(w_tx_{t-h})\]
则有
\(\(\gamma(h)=\phi_1 \gamma(h-1)+\cdots+\phi_p \gamma(h-p)\)\) 同时除\(\gamma(0)\)
则有
\[ \rho(h)=\phi_1 \rho(h-1)+\cdots+\phi_p \rho(h-p), h=1,2,\cdots,p,\]
同时，有
\[E(x_tw_t)=E((\phi_1 x_{t-1}+\cdots+\phi_p x_{t-p}+w_t)w_t)=\sigma_w^2\]
于是对\(\text{AR}(p)\)方程两边同乘\(x_t\)并取期望，则有
\[E(x_tx_t)=\phi_1E(x_{t-1}x_t)+\cdots+\phi_pE(x_{t-p}x_t)+E(w_tx_t)\]
即
\[\gamma(0)=\phi_1\gamma(1)+\cdots\phi_p\gamma(p)+\sigma_w^2\]
则得到
\[\sigma_w^2=\gamma(0)[1-\phi_1\rho(1)-\cdots-\phi_p \rho(p)]\]
\(\text{AR}(1)\)过程的Yule-Walker估计¶
对于一个\(\text{AR}(1)\)过程，\((x_t-\mu)=\phi (x_{t-1}-\mu)+w_t\)，均值估计为\(\hat{\mu}=\bar{x}\)，式(4.3.2)为
\[\rho(1)=\phi \rho(0)=\phi\]
因此期望为
\[\hat{\phi}=\hat{\rho}(1)=\frac{\sum_{t=1}^{n-1}\left(x_{t+1}-\bar{x}\right)\left(x_t-\bar{x}\right)}{\sum_{t=1}^{n}\left(x_t-\bar{x}\right)^2}\]
误差方差估计为
\[\hat{\sigma_w^2}=\hat{\gamma(0)}[1-\hat{\phi}^2]\]
从式(4.3.3)可知，\(\gamma(0)=\sigma_w^2/(1-\phi^2)\)
未完待续...(因为就考到这...)