广义回归模型与异方差性

在现实的经济世界中，数据往往远比我们理想中的模型更加复杂多变。经济指标、金融数据、企业产出等都常常受到外部环境、参与者行为和偶发事件的影响，使得这些数据展现出丰富的动态特征。就像股票市场的波动性会随着市场情绪和外部消息而大幅波动，实际经济数据中的误差项（即模型无法解释的随机成分）也难以保持恒定的方差。换句话说，误差项的“大小”本身可能随不同观测而变化。这种现象被称为“异方差性”（heteroskedasticity），它是广义回归模型（GLS等）需要特别关注和处理的核心统计问题之一。

以家庭消费为例：假设我们正在研究不同收入水平家庭的消费支出模式。经验上，高收入家庭在消费选择上拥有更高的灵活性，他们可以自由地分配支出于休闲、旅游、投资等各个方面，因此高收入群体的消费差异和波动常常明显大于低收入家庭。也就是说，收入越高，消费行为的不确定性（误差的方差）也越大。反之，低收入家庭的消费多受制于基本生活需求，支出模式相对稳定。这就是经典的异方差性例子——误差的方差随着解释变量（如收入）的变化而变化。异方差性的存在在很多领域都常见，比如企业规模影响利润波动率、金融资产价格变动的风险随着市场条件变化而变化等，都是广义回归模型必须应对的实际挑战。

从经典模型到广义模型的转变

经典回归模型的局限性

在经典线性回归模型中，我们通常假定每个观测值的误差项具有相同的方差，即“同方差性”（homoskedasticity），同时各观测间误差项也互不相关。然而，实际经济数据往往非常复杂，这些理想化的假设很容易被现实打破。例如，企业的利润、家庭的消费、股票收益等，其背后的不确定性常常随着规模、收入水平或外部冲击的变化而变化。

在广义线性回归（Generalized Least Squares, GLS）框架下，我们考虑更一般的情形。其数学表达式可以写成：

其中，$y$ 为 $n \times 1$ 向量，$X$ 为 $n \times k$ 矩阵，$\beta$ 为 $k \times 1$ 参数向量， 为误差项。

条件期望为

但协方差结构则更加一般：

这里的 $\Omega$ 不再是假设中的单位矩阵$I$，而是一个对称正定的 $n \times n$ 矩阵，反映了误差项可能存在的异方差性（方差不同）或自相关性（误差间相关）。

广义回归模型（GLS）的一个突出特征， 就是放宽了“同方差”和“无自相关”的假设，使得模型能够更好地捕捉经济数据中的异质性和动量特征，从而提升参数估计的有效性和稳健性。

两种主要的违背情况

异方差性的表现

异方差性（heteroskedasticity）通常出现于横截面数据（cross-sectional data）。例如，研究企业利润时，越大型的企业，其利润波动往往也越大。而小型企业利润较为稳定。此时，对于误差项的协方差矩阵 $\Omega$，它呈现如下“对角结构”：

此时，$\Omega$ 是一个主对角线上元素不等的对角阵，$\text{diag}(\sigma_1^2, \sigma_2^2, ..., \sigma_n^2)$，反映出每个观测的误差方差都可以不一样。这种异质性带来的一个直接后果是，如果我们继续使用经典OLS标准误，统计推断将出现偏误。

自相关性的特征

自相关性（autocorrelation，serial correlation）则更常见于时间序列数据（time series）。经济变量往往存在“惯性”或“记忆性”，即当期的误差会影响后续时期的表现。例如，GDP季度增长率在某一季度偏离平均水平后，通常下一季度也表现出一定的持续性。此时，误差项不仅具有时间上的相关性，其协方差矩阵 $\Omega$ 通常为带状或全矩阵，主对角线外的元素不为零。

例如，第$t$期误差与第$t-1$期误差可能存在线性相关， 即

因此，现实经济中无论是异方差性还是自相关性，都会导致协方差矩阵$\Omega$不再是单位阵。因此，经典模型得到的OLS估计虽然仍然无偏，但并非方差最小的线性无偏估计，模型检验与推断的标准也随之改变。这正是广义回归模型和方法提出的根源所在。

处理策略的系统性方法

面对这些复杂情况，我们需要采用系统性的处理方法：

最小二乘法在复杂环境下的表现

无偏性的坚韧特质

在存在异方差性或自相关性的复杂数据环境下，普通最小二乘法（OLS）依然展现出其核心优势——无偏性。也就是说，无论误差项的协方差结构 $\Omega$ 如何复杂，OLS 估计量的期望依然等于真参数：

即使 $\Omega$ 不是单位矩阵、误差项具有异方差性或序列相关性，只要回归模型的其他假设（如 $E[\varepsilon|X]=0$）成立，这一无偏结论仍然成立。

这种性质可以通过直观类比来理解：就像射箭时，虽然每次的箭矢可能受风影响（不同方差），但只要每一箭都瞄准靶心，平均下来弹道的中心仍然不会偏离目标。

$\text{OLS估计量的无偏性}$ 不受误差项的异方差或自相关影响，这为复杂环境下继续采用OLS提供了理论支撑。

方差估计的复杂化

虽然OLS的无偏性坚如磐石，但其方差的估计在非标准环境下就不再简单。对于经典同方差情况下，OLS估计量的方差为

但在广义回归模型（即误差项协方差为 $\Omega$）下，准确的方差公式变为：

如果仍然用传统的方差公式而忽视了 $\Omega$ 的存在，就会出现标准误低估或高估、置信区间错误以及检验失灵等问题。这就好比用“家用温计”去精确测量实验室高温，工具不合适自然数据也不可靠。

一致性的条件分析

OLS估计量的一致性要求更为严格。在异方差性或自相关下，一致性成立需满足下列条件：

进一步，只有当协方差矩阵 $\Omega$ 没有过度的相关性和发散性时，全部特征根都受控，OLS 才能收敛到真参数。

渐近性质的保持

在合理的正则条件下，即使 $\Omega$ 非单位阵，OLS估计量依然具有渐近正态性：

其中 $Q = \lim_{n \to \infty} \frac{1}{n} X'X$, 。

其含义是——在样本量足够大时，OLS估计量的分布仍可用正态近似，只是方差结构比经典模型更复杂。

这一结论在实践中十分重要，比如，中国各省份的经济增长数据存在明显的异方差性——发达地区波动大，欠发达地区波动小——但利用合适的方差估计，就能够对参数进行有效推断。

效率损失的代价

虽然OLS无偏且在合理假设下可一致，但在异方差性或自相关性存在时，它不再是最佳（最有效）的无偏估计量。此时，OLS与理论最优的GLS相比，会有效率损失，且误差结构越复杂，损失越大。这一效率损失体现在：

• 标准误差变大
• 置信区间变宽
• 显著性检验一致性下降

用经济学比喻来说，这正如用粗糙工具做精密加工作业，虽能完工，却牺牲了精度和效率。样本越小或异方差越严重，这种效率损失越明显。

下面的图形数据展示了不同方法置信区间的对比（红色为 OLS，绿色为 GLS）：

广义最小二乘法

核心思想的突破

广义最小二乘法（GLS, Generalized Least Squares）的核心思想，是通过对数据进行适当的线性变换，将原本不满足经典回归诸如同方差、无自相关等假设的数据，转化为满足这些假设的新数据。形象地说，这就像给每个观测值配上专属的“放大镜”或“缩小镜”，针对不同误差结构加以校正，使得分析更加精确。

当已知误差项的协方差结构 $\Omega$ 时，我们可以构造一个合适的非奇异矩阵 $P$，使得变换后的误差项方差-协方差矩阵变为单位阵，即“球形”（同方差且无自相关）。数学表达如下：

其中 $P$ 应被选择为 $P = \Omega^{-\frac{1}{2}}$，从而满足：

这样，变换后的回归模型可以直接套用OLS，获得最优估计。

变换的几何直观

这种变换具备直观的几何解释。试想我们在一块崎岖的地面上测量距离：有些区域（方差小）如同平原，位置容易测准；有些区域（方差大）如同山地、丘陵，测量波动更大。GLS的作用，就是通过"地图投影"将这片土地拉平，把原本“起伏不平”的误差面调整为“平坦”，让我们的统计算法能像在理想条件下那样高效可靠地工作。

最优性的理论保证

GLS估计量 $\hat{\beta}_{GLS}$ 在理论上具有四大优良性质，极大地优于在异方差或自相关情况下的OLS估计量：

特别地，GLS是所有线性无偏估计量中方差最小者（BLUE），适用于误差存在异方差性和自相关性的大量经济场景。

实际应用中的挑战

然而，GLS应用的前提——完全已知的误差协方差结构 $\Omega$——在现实中几乎不可获得。这类似于，我们知道应该“配镜矫正”才能看清楚，但往往不知道自己的具体"度数"是多少。

为此，可行广义最小二乘法（FGLS, Feasible GLS）应运而生，采用如下三步法：

1. 初步回归：先用OLS对原模型估计，得到残差 $\hat{\varepsilon}$。
2. 协方差矩阵估计：利用OLS残差对 $\Omega$ 进行一致性估计，记作 $\hat{\Omega}$。
3. GLS估计：以 $\hat{\Omega}$ 构造变换矩阵 $$，据此计算新的GLS估计量。

最终得到 FGLS 估计量：

稳健协方差矩阵的创新

在 $\Omega$ 结构完全未知时，我们则常用“异方差稳健”协方差矩阵估计。这类方法依赖于实际回归残差 $\hat{\varepsilon}_i$ 构造估计量，不对误差方差的形式强假设。

White（1980）的异方差稳健标准误（“白板”估计量）为典型代表，其渐近方差估计公式为：

该估计量具有以下突出优势：

• 无需指定异方差模型，不管其背后成因为何；
• 实现简单，仅依赖OLS回归与残差；
• 大样本下渐近一致，允许后续经济推断。

工具变量法的扩展

在广义回归模型下，工具变量（IV, Instrumental Variables）估计的思想仍然适用。IV估计量的一致性只要求工具变量与误差项不相关，对 $\Omega$ 没有严格依赖，但其渐近方差依赖于真实的协方差结构。

直观地，这就像指南针识别方向本身不变，但在雨林、沙漠、高原等不同区块，其误差可能大不相同。故在IV回归中，若误差结构疑似复杂，也应采用异方差稳健的标准误。

实际应用的策略选择

无论在理论还是实践中，方法选择均需因地制宜：

• 若误差结构已知且可精确建模，则GLS最优。
• 若误差结构形式大致可知但参数未知，可用FGLS——即先估协方差，再转GLS。
• 如误差结构完全未知，则最保险的是采用OLS配合White类型稳健标准误，保证推断稳健性。

总的来说，稳健与效率通常难以兼得。实际经济建模中，建议探索多种方法，权衡效率、稳健性与可解释性，择优采用——这也是计量建模的艺术所在。

异方差性的诊断与检验

识别异方差性的重要性

在实际经济分析中，异方差性往往是隐藏的。就像医生需要通过各种检查来诊断疾病一样，我们需要通过统计检验来识别数据中是否存在异方差性。如果忽视异方差性的存在，就可能得出错误的统计推断结论。

例如，高收入家庭的消费选择更加多样化，支出波动也更大；而低收入家庭的消费相对固定，波动较小。如果不考虑这种差异，我们对消费函数参数的统计检验可能会出现偏差。

White通用检验的创新思路

White检验是检测异方差性最通用的方法之一。这个检验的巧妙之处在于，它不需要我们事先指定异方差性的具体形式，而是采用一种“广撒网”的策略。

White检验的基本思路是：如果不存在异方差性，那么传统的方差估计方法应该与稳健的方差估计方法给出相似的结果。如果两者差异显著，就说明可能存在异方差性。

检验的操作步骤相对简单：首先进行OLS回归并保存残差，然后将残差的平方对所有解释变量及其交叉项进行回归，最后计算nR²统计量。在零假设下，这个统计量服从卡方分布。

Breusch-Pagan检验的针对性方法

相比之下，Breusch-Pagan检验采用了更有针对性的方法。这个检验假设异方差性具有特定的函数形式，比如方差与某些变量成比例关系。

检验的核心思想是：如果异方差性确实与特定变量相关，那么残差平方应该能够被这些变量很好地解释。检验统计量基于辅助回归的解释平方和构造。

检验结果的解读艺术

检验结果的解读需要结合经济理论和数据特征。单纯依赖统计检验可能导致误判。

考虑这样一个情况：我们在研究企业投资决策时发现了异方差性。这可能反映了不同规模企业在投资决策上的差异性，大企业可能面临更多的投资机会和更大的决策不确定性。这种异方差性实际上包含了有价值的经济信息。

检验异方差性不是目的，而是手段。关键是理解异方差性背后的经济机制，并选择合适的处理方法。

实际应用中的策略选择

在实际应用中，我们通常采用多重检验的策略：

首先进行图形诊断，通过残差图来直观判断是否存在异方差性。这是最简单也是最直观的方法。

然后进行正式的统计检验。如果对异方差性的形式有先验知识，可以使用Breusch-Pagan检验；如果没有特定假设，则使用White检验。

最后，结合经济理论来解释检验结果。统计显著的异方差性不一定意味着需要复杂的处理方法；有时候，简单的稳健标准误差就足够了。

检验功效的考虑

检验的功效（即正确识别异方差性的能力）取决于多个因素：

样本量是最重要的因素。在小样本中，即使存在异方差性，检验也可能无法识别出来。这就像用粗糙的仪器测量微小的变化，可能检测不到真实的差异。

异方差性的严重程度也影响检验功效。轻微的异方差性可能不会被检验识别，但这种情况下，异方差性对推断的影响也相对有限。

数据的结构特征同样重要。在时间序列数据中，异方差性往往与条件异方差性（如GARCH效应）相关；在横截面数据中，则可能与解释变量的分布特征相关。

加权最小二乘法的实践应用

权重设计的核心理念

加权最小二乘法（WLS）的核心思想是赋予每个观测不同的权重，使得信息价值高的观测在参数估计中起更大作用。其背后直观类比是，在集体决策时我们倾向于更重视专家的意见。WLS旨在优化估计效率，尤其在误差项存在异方差性时提升回归结果的可靠性。

在经济学实际建模中，权重的选择核心是对观测误差方差的理解。如果已知第 $i$ 个观测的误差方差为 $\sigma_i^2$，那么最优权重应取为

即方差越小的观测值权重越大，具有更高“信赖度”；方差较大的观测权重则较小。这种权重分配方式能最大限度降低估计方差，使参数估计达到最佳线性无偏。

常见权重设定方式

基于解释变量的权重

最常见的场景是误差方差与某一解释变量呈比例关系。例如，在家庭消费研究中，若假设

则理想权重就是

即高收入家庭的支出不确定性往往更大，相应权重更小；低收入家庭支出波动较小，权重更大。这类设置体现对数据经济含义的结合。

分组异方差性的处理

在很多实际应用中，观测自然分为若干组，每组内部同方差，但组间异方差。例如，不同行业的企业投资行为，其误差结构可能显著不同。此时若第 $g$ 组的误差方差为 $\sigma_g^2$，则该组观测权重为

组间异方差可通过对组指标变量进行方差分析或残差分组检验获得。

两步加权最小二乘法（Two-Step WLS）的实用策略

当误差异方差性的确切结构未知，但推测存在参数化模式时，可采用“两步法”进行WLS估计：

该流程可有效应对异方差的未知参数结构，是实际建模中常见的经验性方法。

Harvey乘性异方差性模型

Harvey（1976）提出了灵活的乘性异方差性模型：

这一框架的优势在于：

1. 方差恒正： 指数形式保证 $\sigma_i^2 > 0$，消除负方差风险；
2. 线性化便于估计： 取对数后为 $$\ln(\hat{e}_i^2) = z_i \alpha + \upsilon_i$$ 可直接用OLS估算 ；

实际应用流程一般为：先取残差平方对数，回归于 $z_i$；估算出 $\hat{\alpha}$ 后，用 $\exp(z_i \hat{\alpha})$ 计算权重，完成WLS。从而兼具经济解释与数学便利。

分组异方差性的加权处理

分组异方差性是实证研究中频繁遇到的情形。假定有 $G$ 个组，组内同方差、组间异方差。此时广义最小二乘（GLS）估计可表达为各组OLS估计的矩阵加权平均：

权重完全取决于各组的精度（$\frac{1}{\sigma_g^2}$），即误差方差越小的组会对整体结果贡献更大。实际操作中，组内残差平方均值可作为 $\sigma_g^2$ 的样本估计。

航空公司成本函数

例如，研究航空公司成本结构时，我们可建立如下模型：

假设误差项方差随载客率 $r_{it}$ 而变化。我们先用OLS获得残差，再对

进行回归，估算载客率对方差的影响，进而计算每观测的权重进行WLS重复估计。通常可以发现，考虑异方差性之后，参数估计的方差明显降低，显著提升模型解释力和预测精度。

稳健性与实践建议

在采用WLS或FGLS时，还需关注如下实际问题：

• 权重估计误差： 错误的权重设定可能会导致估计效率丧失，甚至偏误增大。因此，在权重形式不明确时，采用OLS结合稳健标准误（如White标准误）常常更加安全。
• 样本量限制： FGLS及两步WLS在小样本下可能表现不佳，参数方差的估计误差不能忽视。
• 模型诊断不可忽略： 即使使用了WLS，仍应检查残差异方差是否缓解，并确保线性、独立等假设成立。

总结与展望

广义回归模型为处理现实经济数据的复杂性提供了强大的工具箱。通过放宽经典回归模型的严格假设，我们能够更准确地刻画经济现象中的不确定性和异质性。

从理论角度看，我们学习了OLS在复杂环境下仍能保持无偏性和一致性，但需要调整方差估计方法。GLS提供了理论上的最优解，而FGLS则是实际可行的近似方法。异方差性检验帮助我们识别数据的特征，而加权最小二乘法则提供了具体的处理工具。

从实践角度看，方法选择需要在效率和稳健性之间权衡。在误差结构明确时，使用相应的GLS方法；在误差结构不明确时，使用稳健的标准误差。这种灵活的策略使得我们能够在各种情况下进行可靠的统计推断。

现代经济学研究中，数据的复杂性不断增加，广义回归模型的重要性也日益凸显。掌握这些方法不仅有助于提高分析的准确性，更重要的是培养了处理复杂经济问题的系统性思维。

可对

进行回归，来估计异方差参数 $\alpha$。$z_i$ 可以是收入、规模、时间等影响方差的变量。