广义线性模型

引言

广义线性模型 (GLM) 能够适应各种数据分布和链接函数，为建模响应变量和预测变量之间的交互作用提供了一个强大的统计框架。与经典的线性回归相比，GLM 适用于非正态和异质性数据，因为它放宽了恒定方差和残差正态性的要求。

GLM 主要包含三个部分：随机成分、系统成分以及链接函数。随机成分决定了所关心变量的概率分布，可以是伽马分布、泊松分布、二项分布或其他类型，因此可以对各种形式的数据进行建模。链接函数用于修改由系统成分组成的预测变量线性组合，以确保预测值保持在响应变量的允许范围内。

GLM 提供了选择合适的链接函数来模拟预测变量与响应变量之间关系的灵活性。常见的链接函数包括身份连接、对数几率连接、对数连接和倒数连接，它们可以适用于不同的数据类型和研究问题。

GLM 的前提条件

• 独立性： 假设每个观测值彼此独立。这意味着一个观测值的值与其他观测值的值无关。违反独立性可能导致不准确的标准误差和有偏的参数估计。
• 参数线性： GLM 假设线性预测变量（由系数加权的预测变量组合）与预测变量之间存在线性关系。即使 GLM 可以通过适当的变换处理非线性关系，响应变量与线性预测变量之间的关系也应该是线性的。
• 模型规范准确： 所选模型应与可用事实相符。这包括选择合适的链接函数和响应变量的正确分布。使用不正确的模型规范可能导致有偏的估计和不准确的结论。
• 方差齐性： 虽然 GLM 不强制要求经典线性回归的恒定方差假设，但它们仍然要求响应变量的方差在预测变量的各个水平上是恒定的。异方差可能导致不准确的标准误差和效率低下的参数估计。
• 无多重共线性： 当预测变量之间存在高度相关性时，称为多重共线性。尽管高多重共线性可能导致不稳定的参数估计和解释困难，但 GLM 通常对低度多重共线性具有鲁棒性。

GLM 组件包括

• 随机成分： GLM 的随机成分指定了响应变量的概率分布，该分布假定属于指数族分布。在高斯（正态）、二项、泊松、伽马和反高斯分布在 GLM 中经常使用。最佳分布取决于响应的类型和正在回答的研究问题。
• 系统成分： GLM 的系统成分由线性预测变量构成，它是一个由各个系数加权的预测变量组成的有序集合。它可以表示为 =X，其中 X 是系数向量，X 是预测变量的元的设计矩阵，X 是线性预测变量。
• 链接函数： GLM 中的链接函数描述了非线性预测变量与响应变量的预测值之间的关系。它通过变换线性预测变量来确保预测值落在响应变量的正确范围内。常用的链接函数包括身份连接、对数几率连接、对数连接和倒数连接，它们对应于不同的响应变量类型，如连续型、二元型和计数型。
• 响应变量： GLM 中正在建模的参数是响应变量，通常称为因变量或结果变量。假定它遵循指数族分布，由随机成分指定。
• 预测变量： 用于预测或解释响应变量变化的变量称为预测变量，通常称为自变量或协变量。它们可以是二元变量、分类变量和连续变量。

GLM 类型

• 线性回归模型： 尽管线性回归可以被视为 GLM 的一个特例，但它仍然是 GLM 的一个子集。当结果变量与预测变量之间存在直接关系，并且响应变量服从高斯（正态）分布时，则使用线性回归。
• 逻辑回归模型： 当变量的响应是二元的或二分变量（是/否、成功/失败等）时，则使用逻辑回归。逻辑回归的链接函数是逻辑函数，它将线性预测变量转换到概率尺度，并确保预测概率在 0 到 1 之间。
• 泊松回归： 当响应变量（例如电话呼叫次数或事故次数）表示遵循泊松分布的事件计数时，则泊松回归是合适的。它经常用于计数数据的建模。
• 伽马回归： 当响应变量服从伽马分布，并且是连续的且右偏时，则使用伽马回归。它经常用于建模严格为正的连续数据，如等待时间或医疗费用。
• 二项回归： 与逻辑回归类似，当响应变量（即二项分布数据）表示在一定数量的试验中成功的比例时，则使用二项回归。它适用于对比例或比率进行建模，其中试验总数已经确定。
• 负二项回归： 当响应变量表示遵循负二项分布的事件计数时，则使用负二项回归。当计数数据过度分散，即方差大于均值时，使用负二项回归是合适的。
• 多项回归： 当响应变量包含至少两个类别并且服从多项分布时，则使用多项回归。它通常用于类别分析，其中结果有多个无序类别。
• 有序回归： 当变量的响应是定序的，即具有有序类别但类别之间间隔不相等时，则使用有序回归。它适用于分析定序数据，如调查评分或李克特量表响应。

GLM 的实际应用

• 生物医学研究： 在生物医学研究中，GLM 被广泛用于分析临床试验、流行病学研究和患者结局数据。它们可以表示连续结果（如血压读数）、计数数据（如住院次数）以及对二元结果（如疾病存在或缺席）进行建模。
• 精算科学和保险： 在精算科学和保险领域，广义线性模型 (GLM) 用于对索赔频率和严重程度进行建模和预测。它们能够处理偏斜且非负的数据分布，因此适用于对保险相关的变量进行建模，例如索赔的数量和持续时间。
• 金融和风险管理： 在金融和风险管理中，GLM 用于估算保险费率、预测贷款违约和对信用风险进行建模。它们处理厚尾和偏斜分布的能力，使其在对资产价格和股票回报等金融数据进行建模时非常有用。
• 客户分析和营销： 在营销和客户分析中，GLM 用于根据客户属性对客户进行分类、对客户行为进行建模以及预测购买概率。它们能够对计数数据（如购买次数）和二元结果（如购买/不购买事件）进行建模。
• 环境科学和生态学： 在生态学和环境研究中，GLM 用于分析生物多样性趋势、物种分布和栖息地偏好。它们可以用于对物种丰富度、丰度和存在/缺席等生态数据进行建模。
• 社会科学领域： 在社会科学中，GLM 用于选民行为研究、教育成果建模和调查数据分析。由于它们能够处理二元结果、定序数据和分类数据，因此适用于分析各种社会科学现象。

示例与案例研究

• 保险索赔预测： 一家保险公司希望根据保单和人口统计数据预测保单持有人提出索赔的可能性。他们收集客户的年龄、性别、保险类型和过去的索赔状态等信息。通过开发基于逻辑回归的模型，他们可以确定每个客户的索赔概率，这有助于风险管理和设定公平的费率。
• 分析医疗结果： 一名医疗研究人员正在调查影响患者术后再次入院率的因素。他们收集手术类型、术后并发症以及患者特征（年龄、合并症）等信息。通过使用泊松回归或负二项回归模型，他们可以找出导致再次入院率的关键决定因素，并制定降低再次入院率的策略。
• 建模市场响应： 一家营销公司有兴趣了解各种广告平台如何影响消费者的购买决策。他们收集了通过不同媒体（印刷、网络和电视）进行的广告支出以及相关的销售数字。通过使用泊松回归或线性回归模型，他们可以优化广告投放，并衡量每个营销渠道对销售的影响。
• 模拟物种分布： 在一个自然保护区，一位生态学家正在研究一种濒危物种的分布情况。他们收集了物种出现记录以及环境数据，例如温度、降水和土壤类型。通过使用逻辑回归或二项回归模型，他们可以根据环境因素预测物种出现的可能性，从而有助于栖息地管理和保护工作。
• 运动表现分析： 一位足球教练有兴趣分析影响球队比赛表现的因素。他们收集了比赛结果、球员特征（年龄、位置）以及进球和助攻数据。通过构建多项回归或有序回归模型，他们可以确定影响比赛结果（赢、平、输）的关键因素，并做出明智的决策以提高球队的表现。