陆铭:面板数据、工具变量选择和HAUSMAN检验的若干问题
此短文适用于对于面板数据和工具变量已经有初步了解的人士,阅读过中级教材的相关内容。本文仅供参考,请原谅中英文混用。中国科学院的徐志刚博士一一指明了此文存在的错误,并且对原文中存在的不足作了大量的补充,特表示感谢。
面板数据作为计量经济学中的一个小分支,多数本科学校没有学过,此课程主要面向研究生及以上,但是面板数据的实证分析在核心刊物上屡屡出现(例子:前天小编去市图书馆,看某经济类核心期刊,一共有10篇文章,其中3篇用的是面板数据,但不是简单的面板数据,主要面板数据和别的模型的结合)。
面板数据哪里好
一般而言,面板数据模型的误差项由两部分组成,一部分是与个体观察单位有关的,它概括了所有影响被解释变量,但不随时间变化的因素,因此,面板数据模型也常常被成为非观测效应模型;另外一部分概括了因截面因时间而变化的不可观测因素,通常被成为特异性误差或特异扰动项(事实上这第二部分误差还可分成两部分,一部分是不因截面变化但随时间变化的非观测因素对应的误差项Vt,这一部分一般大家的处理办法是通过在模型中引入时间虚拟变量来加以剥离和控制,另一部分才是因截面因时间而变化的不可观测因素。不过一般计量经济学的面板数据分析中都主要讨论两部分,在更高级一点的统计学或计量经济学中会讨论误差分量模型,它一般讨论三部分误差)。
非观测效应模型一般根据对时不变非观测效应的不同假设可分为固定效应模型和随机效应模型。传统上,大家都习惯这样分类:如果把非观测效应看做是各个截面或个体特有的可估计参数,并且不随时间而变化,则模型为固定效应模型;如果把非观测效应看作随机变量,并且符合一个特定的分布,则模型为随机效应模型。
不过,上述定义不是十分严谨,而且一个非常容易让人产生误解的地方是似乎固定效应模型中的非观测效应是随时间不变的,是固定的,而随机效应模型中的非观测效应则不是固定的,而是随时间变化的。
一个逻辑上比较一致和严谨,并且越来越为大家所接受的假设是(参见Wooldridge的教材和Mundlak1978年的论文),不论固定效应还是随机效应都是随机的,都是概括了那些没有观测到的,不随时间而变化的,但影响被解释变量的因素(尤其当截面个体比较大的时候,这种假设是比较合理的)。非观测效应究竟应假设为固定效应还是随机效应,关键看这部分不随时间变化的非观测效应对应的因素是否与模型中控制的观测到的解释变量相关,如果这个效应与可观测的解释变量不相关,则这个效应成为随机效应。这也正是HAUSMAN设定检验所需要检验的假说。
非观测效应模型因为对非观测效应假设的不同,因为使用面板数据信息的不同,可以用不同方法来估计并且得到不同的估计量,一般有四个:
(1)组内估计量(WITHIN ESTIMATOR)(FE或FD: FirstDifference)
(2)组间估计量(BETWEEN ESTIMATOR)
(3)混合OLS估计量(POOLED OLSESTIMATOR)
(4)随机效应估计量(RE,GLS或FGLS估计量)
这四个估计量因为假设和使用信息的不同而不同,各有优劣势,相互之间也有密切关系。3和4分别是1和2的加权平均;4在特定的假设分别可以转化成1和3;如果HAUSMAN检验表明4和1没有区别的时候意味着1和2没有区别。
RE假设未观察因素与解释变量是正交的,只不过在未观察因素里有两个部分,一是与个体单位有关的,二是完全随机的,RE在做估计的时候,是用这两个部分的方差计算出一个指数λ,来做quasi-demean,也就是说在去平均的时候是用原值的y或x减去λ乘以y或x的均值,然后用GLS估计。极端地,当λ为0时,非观测效应是一个常数,并且所有个体都一样,就等价于Pooled OLS,当λ为1时,说明完全随机的部分可以忽略,所有未观察因素都是与单位有关的,于是就等价于FE。但FE不需要假定未观察因素与解释变量是正交的,在做FE时,固定效应都被差分掉了,所以也可得到consistent的结果。
PANEL数据的好处之一是,如果未观察到的是固定效应,那么在做DEMEAN时,未观察因素就被差分掉了。这样就可以减少由于未观察的因素可能与解释变量相关而导致的内生性问题。
那么PANEL的FE或者RE分析九避免了内生性问题吗?
只能说好一些,如果内生的问题只是由于与单位有关的并不随时间变化的遗漏变量与解释变量有关造成的,这时,数据的差分就解决了问题,但是,别忘记还有一部分误差,如果这部分误差里包含的因素也可能影响解释变量,那么,差分只能解决前面讲的问题,由随机项里包括的因素与解释变量之间的关系导致的内生性问题还可能存在。
如何处理内生性问题
找IV解决。类似于在OLS基础上找IV,但对PANEL的工具应该具有PANEL结构,除非你基础的估计没有使用PANEL的方法,比如说对数据用了pooled OLS方法,但能够用pooled OLS方法分析PANEL DATA的条件是很严格的。
工具变量选择问题
1, IV应该尽量是外生的(如历史/自然/气候/地理之类),它应该在理论上对被解释变量(以下称Y)没有直接影响,但应该通过影响被工具的变量(以下称X)而间接影响被解释变量Y。
2, 如果上述理论逻辑通的话,将内生变量X作为解释变量,IV和其他变量(X2)作为解释变量,看IV是否显著,它应该显著。如果选了多个IV,就用F TEST看其是否都不显著。同时,如果在多个IV中,有一个是确定为外生的,那么,可以用Sargan test ofoveridentifying restrictions来检验其他的IV是不是确实是外生的。
3, 如果上述都没有问题,做一下IV回归。完成后,用HAUSMAN检验,这个检验的原假说是IV回归与原回归(不用IV的回归)的变量的系数并没有显著的不同。看一下P值,如果P小于比如说0.1,或者0.05,那么,说明IV回归与原来的回归显著不同,原来的方程的确有内生性问题导致的估计偏误。反之,如果P很高,超过0.1,或0.05,那说明IV回归与原来的回归没有显著不同,无法拒绝原来的回归没有显著的内生问题导致的估计偏误的原假设。
4, 如果选择的IV本身就影响Y,那它就不能被作为IV。例如,Y在左边,右边是X(被工具的),X2,IV。当IV被放在方程右边时,它最好是不显著影响Y的。在Acemoglu(2001)里,他就检验了他们的IV是否直接影响被解释变量,结果说明不直接影响,于是这个IV是好的。当然,一个好的IV在前面的回归中也可能是显著的(不过一般如果理论和逻辑上IV是通过被工具的内生解释变量间接影响被解释变量的话,一般来说应该是被工具的内生解释变量使得IV不显著,或者由于两者相关性很高,两者都不显著),但判断的标准还只是t值。这个变量显著完全有可能是因为它影响了其他显著的变量(比如被工具的变量),如果是这样,当包括了IV在原方程中以后,其他变量(特别需要注意的是被工具的变量X)的系数可能发生明显变化。
关于HAUSMAN TEST检验的若干问题
具体参见Statacorporation, 2001, STATA 7 Reference H-P, Stata Press
1,含义:“The null hypothesis is that the efficient estimator is a consistentand efficient estimator of the true parameters. If it is, there should be nosystematic difference between the coefficients of the efficient estimator and acomparison estimator that is known to be consistent for the true parameters. Ifthe two models display a systematic difference in the estimated coefficients,then we have reason to doubt the assumptions on which the efficient estimatoris based.”参见手册Statacorporation, 2001, STATA 7 Reference H-P, Stata Press。该方法是Hausman (1978)的程序化。所以,Hausman Test的命令(hausman)假设使用者知道需要比较的两个方程中哪一个是“无论原假说成立与否都是consistent”,哪一个“在原假说下不仅efficient而且consistent,但若原假说不成立,则inconsistent”,[1]然后,在STATA 8下,步骤是:
(1) obtain an estimator that is consistent whether or not the hypothesisis true;
(2) store the estimation results under a name-consistent using estimatesstore;
(3) obtain an estimator that is efficient (and consistent) under thehypothesis that you are testing, but inconsistent otherwise;
(4) store the estimation results under a name-efficient using estimatesstore;
(5) use hausman to perform the test
hausman name-consistentname-efficient [, options]
举例:
(1)在关于是FE还是RE的检验中,原假说是非观测效应与解释变量不相关,备择假说是两者相关。FE是无论原假说成立与否都是consistent,而RE在原假说下是consistent,并且Asymptotically efficient(样本越大越有效),但如果原假说被拒绝,则RE不是consistent的 (Hausman, 1978)。
所以做法应该是(STATA8的命令):
sort code year (排序)
tis year (时间变量是year)
iis code (表示单位的是code)
xtreg y x x2, fe(假设其中x是需要被工具的变量)
est store fixed (在STATA8里命令有变化,不再是HAUSMAN,SAVE了,这里的fixed实际上就是个变量名,用什么都行)
xtreg y x x2, re
hausman fixed
(2)比较OLS(或FE)和IV(或IVFE)
先做IV,因为,它无论如何都是consistent的,但OLS只有在原假设成立,即OLS结果与IV结果相同,内生性问题没有时,才是consistent的。所以,应该先做IV。
在老版本的STATA里,如果不加特殊说明,STATA就会默认为先写的回归命令得到的是总是一致的估计结果,后写的得到的是备择假设下不一致的估计结果。现在HAUSMAN命令规范了,而且扩展了。先跑哪个不重要,关键在于写最后HAUSMAN命令时候的顺序,而且如果最近跑的一个没有用EST存名字的话,要用“.”代替。
2.注意:
(1)对以上检验的理解的另一种方式是,我们先做一个假设条件要求更松的估计,然后再做一个假设条件更严格的。相比之下,IV(IVFE)比OLS(FE)要求更松。容易搞混的是FE比RE假设条件更松。RE假设未观察因素与解释变量是正交的,只不过在未观察因素里有两个部分,一是与个体单位有关的,二是完全随机的,RE在做估计的时候,是用这两个部分的方差计算出一个指数λ,来做quasi-demean,也就是说在去平均的时候是用原值的y或x减去λ乘以y或x的均值,然后用GLS估计。当λ为0时,就等价于pooled OLS,当λ为1时,说明完全随机的部分可以忽略,所有未观察因素都是与单位有关的,于是就等价于FE。但FE不需要假定未观察因素与解释变量是正交的,在做FE时,固定效应都被差分掉了,所以也可得到consistent的结果。当我们先做假设更严格的估计时,HT与一般检验一样,检验值大,P小,则原假说拒绝,应该接受假设更松的。在FE与RE的比较里,卡方大,接受FE。在OLS(FE)与IV(或IVFE)的比较里,当卡方值大时,P小时,拒绝原假说,IV结果和OLS(或FE)有不同,于是接受IV结果。
(2)从以上讨论可以看出,我们需要事先知道HT时两个方程的顺序和性质。在STATA7以下,当使用hausman命令时,它默认的顺利(缺省参数more)就是上面的顺序。如果你做的顺序相反,就应该加上参数,命令为hausman,less,如果没有写less,那么,STATA是不知道谁更efficient的,这时,你本来应该得到一个正的结果,就完全可能因为顺序错了,又忘记了参数less而得到一个相反的负数结果。
在STATA8里命令变化,可以变顺序,但要使用者注意正确使用参数:
The order of computing the two estimators may be reversed. You have tobe careful though to specify to hausman the models in the order "alwaysconsistent" first and "efficient under H0" second. It is possible to skip storingthe second model and refer to the last estimation results by a period (.).
(3)在其他可比较的情况下,顺序并不重要(如果没有谁更有效的差别)
hausman may be used in any context. The order in which you specify the regressors in each model does not matter, but it is your responsibility to assure thatthe estimators and models are comparable, and satisfy the theoretical conditions (see(1) and (3)above).
(4)当HT出现负值时
先看一下是不是方程顺序错了。如果没有错,那么在小样本数据下也并不是不可能得到负值。当HAUSMAN检验的X2值是负的时候,意思是强烈地表明两个被比较的回归结果系数相同(或者说无显著差异)的原假说不能被拒绝,尤其是小样本中很可能出现。这是STATA7的使用手册上的一个例子说的。但在STATA8里,又说,出现负值这种情况时,If this is the case, the Hausman test is undefined. Unfortunately, this is not a rare event. Statasupports a generalized Hausman test that overcomes both of these problems. Seesuest for details.可以通过help suest了解。
3.STATA命令
(1)比较FE和RE
sort code year (排序)
tis year (时间变量是year)
iis code (表示单位的是code)
xtreg y x x2, fe(假设其中x是需要被工具的变量)
est store fixed (在STATA8里命令有变化,不再是HAUSMAN,SAVE了,这里的fixed实际上就是个变量名,用什么都行)
xtreg y x x2, re
hausman fixed
(2)比较IVFE和IVRE
xtivreg y (x=iv) x2, fe
est store f1
xtivreg y (x=iv) x2, re
hausman f1
一般来说用不着这个比较,因为在这之前,你已经知道FE和RE谁好了,就将好的结果与它的IV结果比就行了。
(3)比较IVFE和FE
xtivreg y (x=iv) x2, fe
est store f2
xtreg y x x2, fe
hausman f2
再重复一遍,如果结果是P小,卡方大才说明IV回归是必要的,原来是有内生问题。
举例
Acemoglu等人(2001)的文章是非常有代表性的使用工具变量的论文。他们试图验证制度对人均收入有影响,显然,直接做回归的话,制度就是内生的,因为好的制度可能在人均收入高的地方产生。他们找的工具变量是殖民地时代一个国家的死亡率,死亡率高欧洲人就不会定居下来,于是就会在当时建议掠夺性的制度,反之就会建立好的制度,而那时的制度对现在仍然有影响。
特别值得注意的是论文的6.3部分对于工具变量的有效性的检验。首先,他们用其他可行的变量作为替代来反复做IV回归,发现得到的结果与用死亡率作IV得到的结果基本相同。(这当然是不错的结果,但是,我认为这不是必要的,因为你并不一定能够找到其他的IV。)然后,他们将死亡率本身作为外生变量放在原回归里,发现它不显著地影响被解释变量,这说明它并不直接影响被解释变量。第三,他们把只用死亡率的IV结果和同时用死亡率和其他IV的结果进行卡方检验,发现它们没有显著不同,再次说明死亡率没有直接影响,也不是通过影响制度以外的其他变量影响被解释变量的。我认为这一步也不是必要的,因为如果你没有其他IV,这一步也就没有办法做了。
参考文献
Acemoglu, Daron, Simon Johnson and James A.Robinson (2001) “The Colonial Origins of Comparative Development: An EmpiricalInvestigation,” American Economic Review, December, Volume 91, Number 5,1369-1401.
Stata corporation, 2001, STATA 7Reference H-P, Stata Press.
Hausman, Jerry A. and William E. Taylor, 1981, “PanelData and Unobservable Individual Effects,” Econometrica, Vol. 49, No. 6,1377-1398.
Hausman, Jerry A., 1978, “Specification Tests inEconometrics,” Econometrica, Vol. 46, No. 6, 1251-1271.
最新动态:群友最新上传了自己做的'应计盈余管理'code
欢迎热爱实证会计研究与Stata盟友
加入小鹅社群下载学习!
大家好!为了方便您在群里高效的学习,请耐心读完群公告,谢谢配合!
为了解决微信社群不能上传保存资料,QQ社群容量受限、缺少学习监督等问题,我们发起的“实证会计研究与Stata”小鹅通社群。
一、学习社群的权利
小社群是交流学习资料的网络空间,您有权利查看社群动态,接收社群信息, 下载社群资料, 分享干货学习资料或文章,分享仅用于学习的数据、统计或文献管理软件,培训的学习笔记,实证会计或财务的Stata相关程序do文件,如果想要下载社群的资料,请下载“桌面版本微信”或者准备一个百度网盘或360云盘等,请注意:下载社群资料,需要在windows系统下操作,请提前安装好。
二、学习社群的义务
本着我为人人,人人为我的原则,在享受社群权利的同时,应积极贡献自己的力量,多多上传学习资料或评论回答群友问题,资料上传的流程如下:需要您在PC版登陆微信,采用微信默认浏览器打开,相同的操作,手机也可以分享。如果您是用百度网盘或360云盘分享资料,务必设置永久分享链接)
三、我们的群规
凡是进入社群的盟友,请注意,自从你进入社群当天开始计算,三个月之内如果你没有分享过任何资料或相关文章,那我们将会停止对你服务(移出群)。花费门槛费进入社群,是借助同伴力量,激励自己好好学习、互相学习,自己同样也要为群贡献力量哦-分享资料,进群后三个月都没有行动的,视同您放弃本群学习机会,我们将依据群规处理。(我们的群规强制执行, 不再另行通知)
四、微信群加入方式
微信群用来及时发送学习通知,建议加入我们的微信群,添加群助理微信号:kongfu666666,加好友格式:姓名+单位,因人员较多,请耐心等待。有任何紧急问题,可联系我们会计学术联盟公邮:Accounting_AU@yeah.net
添加微信号:kongfu666666后,TA会统一邀请您进入微信群。群里的昵称必须跟小鹅社群保持一致,因为我们需要检查进入微信群的是小鹅社群成员。不允许私自拉人,拉人者将一同被清理。
五、其他优惠方式
限时优惠:原实证会计训练营01期、02期的学员,先付费进入小鹅社群,然后自入住三个月后,联系群管理人员,退您门票费用(仅限2019年1月份加入小鹅社群的学员,机会难得,抓紧时间,超过1月份不再享受优惠,请相互转告!感谢您的支持与配合!)
为联盟发展做出贡献的联合发起人、场外审稿人、联盟聘请的讲师等将享受免费待遇,先入群后返还。
进入本群的朋友视同成为我们的会员,将享受stata培训有关的优惠活动。
门票费用将用来cover群维护成本,激励热心人员、作为联盟发展基金,感谢朋友们对联盟发展的支持。
另外,如果你对会计学术联盟旗下的其他社群感兴趣,对于符合条件者,告诉我们的群助理,想办法邀请您入群。
实证会计研究与Stata社群
2019年1月2日
►陆正飞:北上南下 执著前行—“会计名家培养工程 ”系列报道
►排行榜|2018-2019年全国『会计专硕』研究生教育院校
►第十二届北美华人会计教授会征文启事(6月14-15日,哈工大)
►《当代会计评论》2019春季学术研讨会暨博士生工作坊征文启事
►征文启事|第八届“公共管理、公共财政与政府会计跨学科研究论坛”
►慕课推荐 | 对外经济贸易大学张新民教授的《财务报表分析》~免费听课!
►慕课推荐|中国石油大学(北京)许文静教授团队的《财务会计Ⅰ》
►慕课推荐:西安交通大学田高良教授的『国家级双语教学示范课ACCA财务管理 F9』免费听课~!
►慕课推荐:中南财经政法大学沈烈教授的《中级会计学》,免费听课~!
► 《中国工业经济》2018年第11-12期三篇会计与财务文章
► 基于文献综述和元分析视角『国外审计领域』文献 List (60篇)
本期编审人员
栏目策划|学术热点栏目组
执行编辑|华中科技大学在读 庞佩
审核编辑|某会计事务所 王宏斌
终审|北京交通大学 水皮(李高波)