如何控制或考虑“控制变量”的影响？(续篇)

keykure @ 2011-08-01:

非常感谢庄主的解答，我想我的问题应该是属于第三种情况，至少要先考虑交互影响。我还有一个非常简单的问题就是，在spss里输入自变量的时候怎么来区分fixed factors, random factors 和covariates，我经常搞混淆这三者。比如我的问题中X是连续变量，是不是就不能放到fixed factors中去，只能放到covariates中？

另外，因为涉及到的数据变量比较多，所以我主要用Matlab来做统计分析，我建立了如下模型(其中X为IQ)，不知道和您解释的模型是否一致？

1) to detect main effect of Age, using sex and IQ as covariates:
Yi= mean(Y)+ a1i*Age + a2i*Sex + a3i*IQ + ei;

2) to detect main effect of Sex, using IQ and Age as covariates, as well including interactions (Age*Sex, Sex*IQ):
Yi= mean(Y)+ a1i*Age + a2i*Sex + a3i*IQ + a4i*(Age*Sex) + a5i*(Sex*IQ) + ei;

3) to detect main effect of IQ, using Age and Sex as covariates, as well including interactions (Age*IQ, Sex*IQ):
Yi= mean(Y)+ a1i*Age + a2i*Sex + a3i*IQ + a4i*(Age*IQ) + a5i*(Sex*IQ) + ei.

特别是第三个模型，就是我在帖子里咨询的问题，这样的模型再做线性回归，然后考察IQ的系数a3i以及其它交互影响的系数a4i,a5i的统计意义，是否就能达到我希望分析的目的（IQ对Y的影响）？

庄主 @ 2011-08-03:

你有关如何区别fixed factors, random factors, covariates的问题，我过几天另外写个帖子回答。

你模型1是一个三项main effects模型 (”主影响“或我原文中说的”直接影响“模型），同时检验了三个自变量 (Age、IQ和Sex)的直接影响。

模型2是一个三项主影响加两项second-order interactions(二阶交互影响)的模型，这个模型其实是多余的（理由见下）。

模型3也是一个主影响加两项二阶交互影响模型，与模型2的区别在于其中一项交互影响涉及到不同变量。这个模型不是检验IQ的主影响（这在模型1中已检验）、而是检验IQ与其它两个自变量的交互影响。接下来是一个极其重要的技术细节：如何判断交互影响的显著性？这也就是你下面的问题。请往下看。

Keykure @ 2011-08-02:

庄主您好，关于上面的三个模型，再补充问一个问题，关于模型1的：模型1中没有包含任何交互影响，得到的结果是Age对Y有显著影响；但是如果在模型1中加入Age*IQ的交互影响，Age的影响就变得没有显著意义了；因此模型1（主要看Age对Y的影响）需不需要加入交互影响呢？如果加入的话，显著性消失，是否就能说明Age对Y无显著影响呢？

庄主 @ 2011-08-03:

Age对Y是否有显著的主影响？这个问题与如何检验交互影响直接有关。具体来说，有以下几个相关的问题需要考虑：

一、交互项Age*IQ与Age高度共线性，所以当Age和Age*IQ同时出现在模型3中时，低阶的Age会被人为的提高其p值（即变得不容易显著）而高阶的Age*IQ则会人为的降低其p值（即变得更容易显著）。结论：不要轻易相信模型3的各回归系数的显著性。

二、克服上述偏差的方法之一是先分别对Age和IQ进行centering（中心化转换），然后将两个中心化自变量以及它们的乘积输入模型3。我先后写过两、三个有关帖子，请参考具体操作。

三、中心化转换的前提是有关自变量的原始数值服从正态分布（至少要对称分布），否则，中心化值与其交互项之间还是有共线性，无法解决问题一。这时，可改用比较模型1与模型3的拟合度（即两个R平方）之间的差别。也请参考我的有关前贴。

四、有一种很流行的说法，即如果两个自变量之间有显著的交互影响，那么就不需要考虑自变量的主影响了。这种说法在ANOVA框架下有其道理，因为这时涉及到的是实验数据，自变量之间以及与其交互项是独立的；但在回归分析框架下是不对的，因为即自变量之间以及与其交互项之间往往存在共线性。我应该也写过一个有关帖子的。

五、重复一下：先对所有自变量做中心化转换，然后用模型1检验所有主影响，再与模型3比较来检验交互影响。

如何检验两个模型拟合度的差别？

Anonymous @ 2010-09-01:

祝老师您好！我看了您对“为何不同模型的路径系数和拟合度相同”一文的回复，有一处不明白。想向您请教。即，当两个模型对同一组数据的拟合都可以接受时，如何检验这两个模型的拟合度之间有没有显著差异呢？

庄主 @ 2010-09-02:

首先要分清这两个模型之间是否具有从属关系。如果是的，可以用常规的模型比较方法来检验；否则需要用非参数的统计量。下面分别说一下。

主从关系模型之比较

什么是模型之间的主从关系 (hierarchically nested)？如果两个模型（A和B）具有相同的变量（包括隐含因子和观测指标）、而其中模型B是在模型A的基础上减去若干参数，这两个模型就被认为是有主从关系。按参数的个数来看，模型A是主（full model）、模型B是从（reduced model）。请看以下例子：

上图中，A和B在measurement model（测量模型层面）上完全相同；但在structural model（结构模型层面）上则不同：在A中因子X对因子Y有直接影响（记为g2），而在B中X对Y没有直接影响（也即g2=0）。这两个模型之间就是具有上述的主从关系，所以可以直接用常规的模型比较方法对两者之间的差别进行显著性检验。

所谓“常规的模型比较方法”，是指计算两个具有主从关系的模型的卡方值（分别记为χ_Asup>2和χ_Bsup>2）之差（记为Δχ²），然后根据两个模型的自由度（分别记为df_A和dfχ_B）之差（Δdf），从卡方分布表中查出该Δχ²），所对应的显著水平（p-level）。

以上图中的模型A和B为例。假定A的χ_A² = 150.0而B的χ_A² = 145.0，Δχ² = 150.0 - 145.0 = 5.0，而df_A = 22（这不是假定而是实际的，因为该数据有45个已知值、23个参数；大家可参照前贴如何计算SEM中的自由度？来计算本例各模型的自由度）、df_B = 23（很显然，因为B少用了一个参数、因此多一个自由度）、Δdf = 1。根据卡方分布表（可参考以下http://www.fourmilab.ch/rpkp/experiments/analysis/chiCalc.html），如果df = 1而χ² = 5时，其对应的p-level = 0.0253。那么，我们的结论是什么呢？即，A和B之间是否有显著差别呢？或者，在A和B之间我们应该选择哪个呢？请大家自己得出结论。如果有疑问，请继续提出。

非主从关系模型之比较

如果两个具有同样变量的模型之间没有上述的hierarchical nested关系，就无法直接比较了。上图中，A和C也是有主从关系的，但B和C却不具备主从关系，尽管两者都是A的从属。两个非主从关系的模型之间的比较，一般是用Akaike Information Criterion (AIC)或类似的非参数统计量（non-parametric statistics）如Bozdogan's Consistent AIC (CAIC)或Browne-Cudeck Criterion (BCC)。所谓“非参数统计量”是指该统计量的概率分布（也就是说其显著性水平）是个未知数。所以比较两个非主从关系的模型之间AIC（或其它）的差别，我们只能知道其中那个模型对数据的拟合更好一些、但不能确定这种差别在总体里是否存在。

以上图的B和C为例，假定AIC_B = 120和AIC_C = 135，我们可以知道B对数据的拟合更好（因为AIC及其它类似统计量都是越小越好），但是我们无法得知ΔAIC = 15的p-level是什么。因此，非主从关系的模型之间的比较，只是非正式的研究。

如果一定要检验两个非主从关系模型之间差别的显著性，那就需要找到一个B的替身（且称为B’)，其即同时为B和C的主模型、但又与B没有显著差别。在本例中，A是B和C的主模型、但是与B有显著差别，所以不能承担B的替身。如果能找到B’，那么B’与C是主从关系，就可以按上述的常规模型比较方法来检验B’与C的差别了。

如何比较自变量与中介变量的解释力？

YF @ 2010-04-19：

庄主，非常感谢您对学生的慷慨指导，我想向您请教一个新问题。《管理世界》上有篇文章（见以下出处），是研究中介效应的，其自变量是家长式领导方式，应变量是团队绩效，团队冲突管理方式。作者按照Baron & Kenny（1986）检验中介变量的方法，分析结果用表2表示。

我的问题和该作者文章没有关系，是以该文章为例：（1）如果比较中介变量和自变量对应变量的解释力是否有意义？（2）如果有意义，是否根据下表2结果可以比较中介变量和自变量对应变量的解释力？如果可以根据下表2结果比较，那么看哪两个数据？例如：如果比较仁慈领导和合作型团队冲突解决方式对团队绩效的解释力，是根据0.726**（model 3）〉0.513**（model 2），还是根据0.662**（model 4）〉0.126（model 4），认为仁慈领导对团队绩效的解释力大于合作型团队冲突解决方式对团队绩效的解释力。

文献出处：张新安, 何惠, 顾锋. 家长式领导行为对团队绩效的影响：团队冲突管理方式的中介作用. 管理世界, 2009, 3: 121-133.

庄主 @ 2010-04-21：

问题1：比较中介变量与自变量之间对因变量的解释力之差别，是否有意义？有，但这只是检验中介效应的规定动作之一。强度版的中介效应要求自变量（X）对因变量（Y）的直接影响（Byx）= 0 而其通过中介变量（W）的间接影响（RwxByw) > 0；而弱度版的中介效应则要求Byx < RwxByw。也就是说，Byx < Byw是中介效应的必要条件（因为Rwx小于1.0）。所以两者的差别是不喻而言的。如果Byx大于或等于Byw，那就没有必要再谈中介效应了。

问题2：如果比较Byx与Byw的大小，应该看模型4。你的困惑来源于作者不合适、也无必要用了四步的hierarchical回归（“分批进入回归”，参见我数贴中对在类似场合下使用这种方法的批评），模型2（自变量模型）和模型3（中介变量模型）的系数是不能直接比较的，因为模型2中的Byx是在Byw缺席情况下估算的，其中含有通过Byw的间接影响，所以是夸大了的；同样，模型3中的Byw的影响也因为由于Byx的缺席而被夸大了。只有两者同时出席的模型4才是直接比较的地方。

当然，模型2和模型3也有其用此，就是通过计算模型4的R平方 - 模型2的R平方（= 0.505 – 0.307 = 0.198）来得知两个中介变量（合作型和竞争型）对因变量的联合解释力，并通过计算模型4的R平方 - 模型3的R平方（= 0.505 – 0.478 = 0.027）来得知三个自变量（权威、仁慈、德行）对因变量的联合解释力。而表中模型2和模型3的ΔR平方则是没有什么意义的。由于很多读者对此有困惑，我再重复一下这种“nested testing”（嵌镶式检验）与上述“分批进入回归”的区别：

假定模型为Y = b0 + b1X1 + b2X2 + b3X3，分批进入回归的做法是估计三个模型，分别为Y = b0 + b1X1, Y = b0 + b1 + X2, Y = b0 + b1X1 + b2X2 + b3X3，然后认为：模型1的R平方代表X1对Y的解释力、模型2的R平方与模型1的R平方的差别为X2对Y的解释力、模型3的R平方与模型2的R平方的差别为X3对Y的解释力。其问题是模型1的R平方中包含了X2和X3的贡献、模型2的R平方中包含了X3的贡献。

嵌镶式检验是估计四个模型，分别为1：Y = b0 + b1X1 + b2X2 + b3X3（全模型），2：Y = b0 + b2X2 + b3X3（X1缺席模型），3：Y = b0 + b1X1 + b3X3（X2缺席模型），4：Y = b0 + b1X1 + b2X2（X3缺席模型），然后认为：模型1与2的R平方之差为X1对Y的独立解释力、模型1与3的R平方之差为X2对Y的独立解释力、模型1与3的R平方之差为X3对Y的独立解释力。这里的最后一步与分批进入回归的最后一步相同、但其它比较有数量和质量上的区别。注意，嵌镶式检验的三个R平方差其实就是模型1中X1、X2和X3的semipartial correlation，在SPSS中叫做“part correlation”，可以只估算模型1而得知，不需再分别运行模型2-4的。对初学者来说，分别操作一下有助于从理念上认识上面讨论的各种问题的逻辑。

如何识别回归分析中的压抑效应？

DHF @ 2010-01-25：

祝老师，您好，我是心理学专业学生，想向您请教一下，如何identify a variable as a suppressor variable in regression analysis? 我的数据中出现了类似于classical suppression的效应，但不清楚IV的regression weight提高多少才可以认为是suppression effect. 多谢！虎年顺利！

庄主 @ 2010-02-06:

Suppression effects（压抑效应）是回归分析中的一个重要而又复杂但却不常见的概念。你提到classical suppression（经典压抑），自然也知道此外还有net suppression（净压抑）和cooperative suppression（合作压抑）。相比之间，经典压抑最罕见（以下会谈到），但最容易确认。我用模拟方法做过经典压抑数据，但在实际研究中从来没有遇到过这种数据。你好像中了彩票，值得庆贺。如不怕泄露学术机密，不妨描述一下你的数据以及你认为可能的原因。我相信很多读者都会有兴趣了解。

考虑到大多数读者可能对压抑效应知之甚少，我先讲一些基本概念（估计你已经知道其中的大部分）。

为了便于叙述，我们只讨论含有两个自变量的回归模型，即 Y = B₁X1 + B₂X2。其中，B1和B2是标准化回归系数，所以没有常数项），另外记X1与Y的相关系数为r_y1、X2与Y的相关系数为r_y2、X1与X2的相关系数为r₁₂。 习惯上一般将X1看做主要的自变量而将X2看做是压抑变量。当然，X1和X2是对称的，完全可以将X1看做压抑变量的。

统计文献中有过不少压抑效应的定义，其基本思想基本一致，但具体公式上有所不同（所以结果也略有不同，但我不准备涉及那些技术细节）。就基本思想而言，压抑效应是根据r_y2 与 B2之间（或者r_y1 与 B1之间）的差别来确定的。具体说来，r_y2 可以取正值、负值和零值三种可能性，B2则有正值和负值两中可能（但B2不能为零，详见下文）。这样我们就要3 X 2 = 6种情况，分别属于经典压抑、净压抑和合作压抑：

1. r_y2 = 0而B2 > 0，叫做 positive classical suppression（正向经典压抑）；
2. r_y2 = 0而B2 < 0，叫做 negative classical suppression（反向经典压抑）；
3. r_y2 > 0而B2 > r_y2 ，叫做 positive cooperative suppression（正向合作压抑）；
4. r_y2 < 0而B2 < r_y2 ，叫做 negative cooperative suppression（反向合作压抑）；
5. r_y2 < 0而B2 > -r_y2，叫做 positive net suppression（正向净压抑）；
6. r_y2 > 0而B2 < -r_y2，叫做 negative net suppression（反向净压抑）。

上述六种情况，都包含|B2|>|r_y2|的条件，即一个自变量的回归系数之绝对值必须大于其与因变量的相关系数之绝对值。这是压抑效应的必要和充分条件。这里的“大于”、“等于”、“小于”、“差别”等，都是在统计显著性检验的含义上说的。如，在一个样本中，r_y2的值可以不是0、而是一个与0没有显著差别的数值（当然是一个很小的数）；而B2绝对值与r_y2绝对值之间的差别一定要达到统计显著水平（至少为p < 0.05）。当然，如何进行这种统计检验则不是一个容易的事，因为检验H0：|B2|=|r_y2|的零假设，需要有B2和r_y2的联合标准误差SE_B2,ry2，而无论相关分析和回归分析都无法计算SE_B2,ry2。

所幸的是这种困难对于经典压抑并不存在，因为根据定义，经典压抑的前提是r_y2 = 0，所以检验经典压抑只须证明当r_y2 = 0时，|B2| > 0（即上述情况1和2）。这大概就是你想知道的答案了。这么简单？是的。至今为止我看到的所有文献 都是这个意思。当然，|B2| > 0 仅仅表明B2有统计意义上的显著压抑效应，至于这种压抑效应是否具有实际或理论意义，则取决于B2的大小。这时，我们可以按判断回归系数大小的传统标准（如0.1为弱、0.3为中、0.5为强）来解读B2的压抑效应。

虽然我们无法对净压抑和合作压抑的零假设做正式的统计检验，但我们也可以援引上述rule of thumbs（惯例）来解释|B2|-|r_y2|的大小。（我在写这个帖子时，突然想到，也许这个问题可以在SEM中通过equality constraint的方法来解决。我一下子没想好，如有进展，会在这里报告。）

最后再补充一下：所谓“压抑效应”，是指上述回归模型因为引入了X2而将X1的方差中与Y无关之部分压抑或过滤掉了，从而改进或提高了该回归模型对Y的解释力。(The inclusion of X2 in the regression model suppresses or removes the part of variance in X1 that is unrelated to Y, which results in enhancement of the explanatory power of Y by the model.) 早年（也许是由于计算能力的局限），很多研究建立在相关分析基础之上，所以很有必要关注压抑效应的可能性。现在，多元回归分析是很多研究的起点。既然回归模型中已经同时考虑了X1和X2对Y的影响，那么X2的压抑效应已经被过滤了（当然也许还有X3、X4等等的压抑效应没有被过滤掉）。再加上压抑效应的数据不常见，所以现在很少人会检验压抑效应。但是，如果数据中真有压抑变量，其成因是很有价值的问题，弃之不顾太可惜了。同时，压抑效应的知识还可以帮助我们在研究设计阶段（即收集数据之前）将表面上与Y无关但与X1有关的X2包括在问卷或其它数据采集工具中。

如何判断统计显著的差别是否具有实际意义？

丁丁 @ 2009-10-02：

老师，您好！我想问一个关于样本量的基础问题。通常我们有公式可以计算理论最小样本量。但我想问有没有最大样本量，不得因为如果样本量足够大，我可以证明任何没有实际意义的差别是不是statistically significant。比如说，3.75和3.50，SD 都为1.00，如果样本量个为100，不显著。如果是200，就显著了。同理，3.50和3.55，如各有10000，也显著了。但是没有实际意义。我看到很多研究就用这种方法，研究出了很多correlation significant的结果，或两者显著不同的结论。我觉得不对，却没有理论去说它不对。难道真如某人所说, 统计学家可以证明任何事吗?

庄主 @ 2009-10-31:

抱歉，拖了将近一个月才回复你的问题。最近较忙，忙的原因之一是做有关博客写作的可持续性研究（好像就是在研究我自己为什么不能持续写博客）。

你的问题涉及了样本量和统计显著性两个概念，为了理解两者之间的关系，还需要引入其它三个概念：errors in inferential decision（推断决策中的错误）、power of analysis （检验效能）、strength of relationship 或effect size（关系强度或效应规模，注1）。

我们从统计显著性开始，因为大家在看一个统计分析（如相关、回归、方差等）的结果时，总是首先看其显著性（即p值是否小于预设的α值，如 0.05），然后据此而做出相应的推断决策。如p<α则拒绝零假设、p>α则接受零假设。大家知道，尽管有上述p值做依据，这种决策还可能含有误差。如当p<α时，也许零假设还是对的，这时就有犯概率为p的Type I error（型一或“拒真”错误）。相反，如当p>α时，也许零假设却是错的，这时就有犯概率为1 - p的Type II error（型二或“纳伪”错误）。相信大家都看过这些老套的话，但也许不知道这些老土道理是解决很多困惑（包括丁丁的问题）的基本原理。

丁丁关心的是在大样本条件下犯型一错误的可能性。我们先看一下他（她）的例子：有两个均值，分别为3.7和3.5，各自的标准差均为1.0，由于不同样本量而出现了以下两种情况：

一、当N = 100时，两个均值的联合标准误差 = = 0.14（注2），检验两个均值之差的t = (3.7-3.5)/0.14 = 1.41，其相应的p = 0.160（注3）。

二、当N = 200时，两个均值的联合标准误差 = = 0.10，检验两个均值之差的t = (3.7-3.5)/0.10 = 2.00，其相应的p = 0.047。

可见，随着样本的增大，原来不显著的差别现在显著了，这合理吗？就型一错误而言，完全合理。当N = 100时，如果我们拒绝零假设（即3.7 = 3.5），拒真（“真”= 零假设）的风险由16.0%，太大了，不能容忍；而当N = 200时，拒真的风险降为4.7%，在可以容忍的范围内，所以是合理的。

那么，统计上显著的就一定是实际上重要或有意义的吗？自然不是。问题是我们如何判断一个统计显著的结果是重要或有意义？丁丁想知道的大概就是这种判断根据。这种根据，就是我们说的关系之强度或效应之规模（而不是样本最大量问题）。

判断关系强度或效应规模的一个直观（即非正式）准则是两个均值之差要大于均值的十分之一（注4）。如在本例中，均值之差为0.2、远小于均值的十分之一（0.35或0.37，取决于我们以那个均值为比较基准），显然，即使当N = 200时0.2的差别是统计显著的，但其差别还比较小（相对于均值的取值），没有特别的意义。

判断关系强度或效应规模，还有很多更正式的准则，如Pearson’s r（用于关系强度）或Cohen’s d（用于均值之差，注5），两者还可以互相转换（注6）。在本例中，Cohen’s d = 0.2（注7）。按照Cohen的说法，如果d值小于0.3，效应规模为small（小效应）、如果d值在0.5附近，效应规模为medium（中效应），而如果d值在0.8以上效应规模则为large（大效应）。

我们也可以将d转换成Pearson’s r = 0.1。一般说来，r = 0.1 也是一个弱相关。

下图是对以上讨论的一个小结（包括丁丁问题的反面，即如果统计分析的结果不显著时，大样本有什么好处或坏处）。

 

上图也间接回答了丁丁最后引用的问题“统计学家可以证明任何事吗？”。是的，统计学家可以通过提高样本来拒绝零假设，但是，统计学家无法控制关系的强度或效应的规模。如何提高关系的强度或效应的规模？这既是一个理论问题、也是一个（数据收集）方法问题。本庄以前曾有涉及、日后有机会还会讨论，这里就不扯开去了。

注释：

注1：两者同义。关系强度多半用于相关或回归分析而效应规模多半用于方差分析。

注2：丁丁没有交代是两个独立样本还是两个非独立样本，我们假定是前者。

注3：双尾检验。p值可以根据给定的t值和自由度数，用Excel里的TDIST函数求出。

注4：所以一般说来，做社会科学研究的学生最好分别修一门专讲数据收集方法课和一（至数）门统计课。

注5：, 此外还有其它很多与Cohen’s d大同小异的计算均值之差的效应规模的公式。

注6：

注7：算了老半天，d等于均值之差，这是因为两个组的样本量相等，否则会有所不同或很不相同。