高级计量经济学 10:大样本OLS(下)
此文内容为《高级计量经济学及STATA应用》的笔记,陈强老师著,高等教育出版社出版。
我只将个人会用到的知识作了笔记,并对教材较难理解的部分做了进一步阐述。为了更易于理解,我还对教材上的一些部分(包括代码和正文)做了修改。
仅供学习参考,请勿转载,侵删!
目录
-
5 大样本OLS
-
5.7 大样本OLS的假定
- 5.7.1 线性假定
- 5.7.2 渐近独立的平稳过程
- 5.7.3 前定解释变量
- 5.7.4 秩条件
- 5.7.5 鞅差分序列
- 5.7.6 解释变量四阶矩存在
-
5.8 OLS的大样本性质
- 5.8.1 为一致估计量
- 5.8.2 位渐近正态
- 5.8.3 的一致估计
-
5.9 线性假设的大样本检验
- 5.9.1 单个系数的检验
- 5.9.2 线性假设的检验
-
5.7 大样本OLS的假定
5 大样本OLS
5.7 大样本OLS的假定
5.7.1 线性假定
5.7.2 渐进独立的平稳过程(ergodic stationarity)
维随机过程 是渐进独立的平稳过程
5.7.3 前定解释变量(predetermined regressors)
所有解释变量均前定
(predetermined),这就意味着他们与同期的扰动项正交,即 , 。由于方程通常都有常数项,所以总可以假设 ,故:
这个 的假设跟严格外生性 是不一样的,后者可以推出前者
这意味着 与同期的扰动项 不相关,就好像 产生以前, 就已经被确定了一样,故名前定解释变量。如果定义:
那么我们就有:
这一点比小样本的严格外生性的要求更低,因为后者要求 与过去、现在、未来的所有 都不相关;而现在只要求 与现在的 不相关即可!
5.7.4 秩条件
阶矩阵 为非退化矩阵,从而 存在,这保证了 存在
5.7.5 鞅差分序列
要求 是一个鞅差分序列,而且其协方差矩阵
是一个非退化矩阵。
这个假设比 5.7.3 的假设更强。前定解释变量保证了 是一致估计量,而鞅差分序列则进一步地保证了其渐进正态
5.7.6 解释变量的四阶矩存在
这是一个数学技巧的假定,不用太在意。即 , 存在且有限
我们发现,在上面的假定中,我们相比于小样本OLS,放松了:
- 严格外生性 -> 前定解释变量
- 正态随机扰动项 -> 独立平稳、鞅差分序列
这比小样本OLS的条件放宽了太多
5.8 OLS的大样本性质
为了便于使用渐近理论,我们需把估计量 写成 的函数。由于:
于是我们把 划为一组, 划为另外一组,并定义:
其中,由于数据矩阵 的结构是:
所以 就是:
同理 就是:
5.8.1 为一致估计量
在假设 5.7.1 到 5.7.4 (不包括 是鞅差分序列的情况下)下,有:
证明:抽样误差可以写为
其中, 是 的“均值”。我们的目标是证明 ,所以证明的思路是分别求 和 分别依概率收敛到什么。假定 5.7.2 意味着随机序列 也是一个渐进独立的平稳序列,所以根据渐进独立定理:
如果 渐进独立且平稳,那么样本矩依概率收敛到总体矩
假定 5.7.4 意味着 存在,所以:
另外,由于 是 和 的函数。而 是一个渐进独立的平稳序列,从而 也是一个渐进独立的平稳序列,于是假定 5.7.3 意味着:
所以我们发现:
于是:
证毕。
5.8.2 为渐近正态
如果把 假定5.7.3()强化为 假定5.7.5(),那么 是渐近正态分布:
其中 是 的渐近方差:
其中 是 的协方差矩阵:
证明:由于我们知道:
所以
根据 假定5.7.5 , 是鞅差分序列,于是根据鞅差分序列的中心极限定理,我们有:渐近独立的平稳的鞅差分序列 的样本均值以 的速度依分布收敛为均值为 协方差矩阵为 的正态分布
由于 是 的线性组合,所以它也会以 的速度依分布收敛为正态分布:
根据渐近正态的定义,那么 是渐近正态的。接下来我们计算 :由于 ,因此:
使用夹心估计量,
那么在 时, 和 分别收敛:
由于 是对称阵,所以 ,于是:
证毕。
我们发现,在这里不需要假设扰动项服从正态分布。这里的思路是:
- 我们假设 是渐近独立的平稳的鞅差分序列(假定5.7.5)
- 那么 依分布收敛到正态分布(鞅差分序列的中心极限定理)(这里是正态分布的来源)
- 建立起 与的 线性关系,那么 也依分布收敛到正态分布(正态分布的线性组合也是正态分布)(把要证明的目标绑到一个正态分布上)
- 也依分布收敛到正态分布本身就是 渐近正态的定义
- 下一步要计算 的方差
- 使用夹心估计量,并在 分别收敛
- 得证
5.8.3 的一致估计
如果存在 是 的一致估计量,那么 是 的一致估计,即:
证明:如果存在 ,已知 ,那么很自然地就有:
证毕。
为了求解 的一致估计量,我们要运用 假定5.7.6 ,从而可以证明(这个证明比较难,略):
即 是 的一致估计量,其中 为最小二乘法的残差??梢越徊街っ? 是 的一致估计。
性质: 是无条件方差 的一致估计量
证明:由有关消灭矩阵的知识(见《高级计量5》3.3):
继续计算下去:
由于我们知道:
其中,第二个等式运用了 是渐近独立的平稳列。 对 求 就有:
即 是 的一致估计量。证毕。
5.9 线性假设的大样本检验
5.9.1 单个系数的检验
在原假设 成立的条件下,我们有:
其中, 是 的第 个元素,而 是协方差矩阵 的第 个元素。由于 我们是未知的,所以考虑用它的一致估计 来替代它。那么我们可以定义 统计量为:
注意,虽然叫 统计量,实际上服从的是渐近正态!
这里的思想是简单的,回忆对任意 ,都有 ,其实两者的结构是一样的。
当然,为了便于描述,我们可以对 做进一步变形:
那么我们就定义:
为异方差稳健的标准误
(heteroskedasticiry-consistent standard erros),简称稳健的标准误(robust standard errors)。之所以这么称呼,是因为推导的过程中没有用到条件同方差的假定,所以在条件异方差下也能用。
性质:可以证明,在条件同方差的假设下,稳健的标准误退化为普通标准误
证明:如果假设 (条件同方差),那么使用迭代期望定律:
我们发现 , ,所以:
于是:
写这么多 一方面是为了装逼
但更重要的是让你看明白这个代换是怎么来的??
一定一定不要错过 的细节!
于是:
所以:
这就是普通的标准误了证毕。
5.9.2 线性假设的检验
思路与小样本OLS是类似的,对零假设 ,我们实际上要衡量 与 的距离??梢灾っ鳎臣屏? 满足:
证明:令 ,令 ,那么现在
如果 成立,那么
由于我们知道 ,而 是 的线性组合,所以 也是依分布收敛于正态分布的。而且:
设 ,从而在 时:
定义 ,由于 ,所以于是:
证毕。