什么是人工智能偏见？

人工智能偏见（AI bias）是指人工智能系统中存在的、可归因于数据质量差、数据偏差或模型架构缺陷等问题的、不受欢迎的系统性偏见。当人工智能在医疗保健、就业和法律等领域参与决策时，存在偏见结果可能加剧社会经济不平等的风险。为了促进负责任和公正的人工智能，需要对人工智能偏见有广泛的认识。为了使人工智能的使用公平透明，识别、量化和减少人工智能模型中的偏见至关重要。

理解人工智能偏见

如果人工智能系统建立在错误的前提、损坏的数据或不足的算法设计之上，它们就会产生带有偏见的结果。这些系统性偏见通常会产生不公平或错误的结果，尤其会影响某些群体。人工智能偏见已经超越了技术领域，社会和文化偏见会通过数据集中嵌入的偏见而加剧。

识别和阻止人工智能偏见对于在医疗保健、司法和金融等人工智能发挥日益重要作用的领域中维护信任和公平结果至关重要。

人工智能偏见的类型

人工智能偏见存在多种形式，它们因特定的属性和产生的原因而异。如果训练数据缺乏多样性或受到刻板印象的污染，则可能导致数据偏见。算法偏见是指模型的结构或训练倾向于放大预先存在的差距。在数据收集和算法开发过程中，人为的因素可能会不知不觉地将社会或人为偏见引入人工智能系统。

为了制定适当的对策来解决单个系统或数据集中偏见的局部根源，识别人工智能偏见的具体变体至关重要。

人工智能偏见的来源

多种来源导致人工智能偏见，每种来源都直接与数据、算法程序或人员有关。数据可能因历史先例、遗漏代表性不足的人群或测试样本选择不均而产生偏见。算法决策可能会通过选择有偏见的目标或导致强化错误模式的循环来无意中加剧偏见。

在定义任务、选择特征和分配标签时，人类会以故意或偶然的方式将偏见引入人工智能系统。由于涉及多种因素，需要仔细权衡各种关联因素来处理人工智能偏见。

实际应用中的人工智能偏见

一些案例表明了人工智能偏见如何在日常生活中显现。在招聘过程中，基于人工智能的系统歧视女性，她们与男性相比几乎没有差别。有色人种的面部识别错误率明显更高，这个问题既威胁公平性，也威胁安全性。

有偏见的医疗保健算法可能会通过资源分配加剧不同人群之间的差距。这些案例表明，对抗人工智能偏见是必要的，并且迫切需要实施高水平的保护措施以确保公平的人工智能流程。

人工智能偏见的后果

容忍人工智能偏见可能导致严重的后果，包括限制个人机会、巩固刻板印象以及公众对新技术的信任丧失。有偏见的 AI 算法 可能延续不平等，导致法律纠纷，并引发关于技术伦理影响的讨论。公司和组织因其人工智能歧视行为而面临声誉损害和潜在的监管处罚。

人工智能偏见的检测和度量

系统化方法对于解决、量化和监控人工智能结果中的偏见至关重要。这些方法的例子包括通过人口统计类别审视性能差异，使用公平性指标（如差异影响或机会均等指标）以及创建模拟数据来测试模型行为。

专业人士正通过审计、基准测试和提高透明度来努力实现人工智能公平的新标准。这些策略对于帮助公司评估风险、履行道德考量以及验证人工智能实施是否能提高公平性和包容性至关重要。

人工智能偏见的原因

有偏见的训练数据

大多数 机器学习 算法依赖于在一段时间内收集的数据，这些数据可能包含固有偏见。数据集中的偏见可能是故意或无意注入的，并在人工智能算法在训练过程中对其进行处理时被放大。例如，面部识别算法在深色皮肤类型上表现出准确性问题，至少部分原因是训练数据中浅色皮肤类型的偏差很大。

这种类型的偏见尤其危险，因为它往往隐藏在大量的“客观”数据集中，直到部署后才显现出来。

不完整或不具代表性的数据集

人工智能系统需要能够准确描述其目标受众多样化特征的数据集才能正常运行。一个 数据库 如果遗漏或边缘化了特定群体，可能导致人工智能系统在它已被训练的案例上表现良好，但在各种条件和边缘案例上表现不佳，从而产生不公平和不可信的操作。在医疗保健领域，使用有限地理区域数据训练的人工智能诊断系统可能会产生意想不到的影响，导致不同族裔群体诊断不准确，并影响患者的治疗结果。

标注和注释错误

由于训练所需的标注是由人类进行的，人类可能会因为有意识和无意识的倾向而无意中将他们的偏见引入数据。如果标注有偏差或不公平，那么人工智能模型将采用并延续这些错误。例如，一个在有偏见的标注数据上训练的情感分析人工智能可能会错误地将某些方言或文化规范视为负面，从而导致不公平或歧视性的判断。

算法设计选择

关于算法的决策，例如确定目标函数、特征集或框架，既可能引入也可能放大偏见。通过设计算法，将某些性能指标与公平性进行权衡，可能导致意想不到的偏见和歧视。例如，如果一个模型重视总体准确性，它可能会因为少数群体在训练数据中占少数而忽略对该群体的错误。

自动化决策的反馈循环

人工智能驱动的决策的影响可能导致由于反馈循环而加剧先前的偏见。例如，如果警务人工智能基于历史犯罪信息来确定高风险区域，那么在这些区域可能会发生更多的监视和数据收集，以及持续甚至夸大当前的偏见。因此，由于递归强化的威胁，需要持续监控人工智能的输出和为对抗偏见而采取的行动。

不同行业的案例研究

医疗保健：诊断算法与种族偏见

人工智能驱动的诊断工具的使用已显示出改善医疗结果的可能性，但它们已以一种非故意的严重方式揭示了巨大的种族和民族偏见。一项重要调查强调，在美国各医院使用的一项算法对黑人患者的护理需求做出了不正确的判断和优先排序，而对白人患者则相反。

训练中涉及的数据集和成本衡量并未反映真实的患者健康状况，并产生了带有偏见的建议，从而揭示了在人工智能系统创建中对健康公平性的需求。

金融：信用评分和贷款审批

金融领域的人工智能涉及详细审查财务历史，以确定贷款资格和信用评分。然而，由于这些算法是用现有数据训练的，它们可能无意中保护了女性或代表性不足的少数群体的不当利益。

2019 年，苹果公司的信用卡算法因有人抱怨称，女性即使有可比的财务历史，其信用额度也总是低于男性，因此受到了严厉批评。这样的例子表明，如果隐藏的人工智能算法未经适当的偏见审查，它们就能维持金融差距。

刑事司法：预测性警务和量刑工具

许多不同类型的司法系统应用人工智能驱动的系统来预测犯罪和风险评估，以做出关于保释、假释或量刑的决定。在美国部分地区使用的 COMPAS 算法被发现低估了黑人被告相比白人被告再犯的可能性。这些不平等源于有偏见的犯罪和逮捕数据，这些数据训练的算法可能会导致不公正并延续现有的社会不平等。

教育：自动评分和招生

用于评估论文和决定哪些大学将录取学位获得者的机器也受到了类似的所谓偏见的批评。由于 COVID-19 导致 2020 年考试无法举行，英国政府的成绩分配算法因对来自低收入家庭的学生造成了不成比例的不公平而遭到广泛公众抗议。

该系统设计的决策方法依赖于过去的学业表现，因此，这对经济弱势学习者造成了重大打击，并证明了在评估教育潜力方面存在缺陷。

面部识别：不同群体的错误率差异

研究表明，用于安全、警务和商业的面部识别系统在识别女性和肤色较深的人方面存在很高的误识别率。2018 年的一项研究表明，来自麻省理工学院的研究人员发现，商业性别分类人工智能对深色皮肤女性的错误分类率高达 34.7%，而对浅色皮肤男性的错误率接近 1%。

由于训练集不具代表性而导致的错误可能导致错误的识别或被排除在服务之外——这突显了在可能出现生死攸关后果的情况下，需要包容性的数据和无偏见的算法。

广告：广告定位和群体排除

数字平台使用人工智能来根据推断的兴趣和个人资料详细信息为用户个性化广告定位。研究已揭示，此类算法会延续这种偏见，并且常常通过限制特定人口群体看到住房和就业广告。

Facebook 2019 年的数据显示，其平台上的算法偏见可能意外地导致广告投放中的种族或性别歧视，对就业和住房机会造成严重后果。

人工智能偏见的影响

社会不平等的延续

使用有偏见的数据进行人工智能训练，可能会强化当前的社会偏见和刻板印象。例如，使用一个从不良数据中学习的招聘算法，从而延续了某种性别或族裔在各种合适候选人中的代表性不足。这种延续加剧了就业、教育和金融准入的差距，违背了实现社会公平平等的努力。

对技术的信任丧失

它们不仅会破坏人们对特定人工智能系统的信任，也会破坏对人工智能行业本身的信任。当人工智能在贷款、招聘或警务方面做出不公平、有偏见的决定时，人们不会信任并继续允许这些系统运行。严重的信任危机可能会减缓人工智能的创新，并且先进、公平的人工智能技术可能为社会带来的积极影响的承诺可能无法实现。

法律和道德后果

组织使用有偏见的人工智能系统，如果因此对受保护群体产生歧视，则可能导致法律纠纷和/或监管处罚。企业需要通过遵守道德人工智能指令，确保公平、正义和责任始终处于自动化系统的核心，从而应对日益严峻的道德问题。

负面的经济影响

由于效率低下，浪费资源，并错失有利可图的机会，有效的 AI 系统可能不可用。例如，可能会做出错误的信贷判断，这将阻止信誉良好的借款人获得信贷机会，从而导致经济发展缓慢，并进一步加剧经济不平等。声誉损害、消费者信任丧失以及因有偏见的决策而产生的昂贵的合规成本，使组织有可能遭受经济损失。

识别偏见的技术

结果的人口统计学分析

检查人工智能系统是否存在偏见的一个好方法是，通过不同人口统计类别（如性别、种族或年龄）来审查性能指标。当按人口统计数据分层性能数据，并对准确性、误报和推荐等重要指标进行分析时，就可能出现潜在的由偏见引起的不平等。

差异化影响度量

差异化影响（Disparate impact）确定那些看似无害的做法最终是否会对特定受保护群体造成更大的损害。在人工智能中，这种分析是对不同群体中正面或负面结果发生的频率进行调查。不利影响比率或“五分之四规则”是一个常用的工具，它显示任何群体的选择率是否低于多数群体比率的 80%。如果是这样，则表明存在应仔细分析和纠正的潜在偏见。

公平性指标评估

研究人员提出了大量的数学公平指标，以揭示人工智能性能中的偏见。在众多指标中，有四个主要指标是机会均等、人口统计均等、预测均等和赔偿均等。通过系统地在人工智能输出中实施这些指标，开发人员和审计人员可以客观地说出算法在预测性能、错误频率和不同群体结果分布方面是否公平。

这些标准化基准是内部调查和监管标准得以实施的基石。

偏见审计工具和框架

有许多开源工具和平台，其目的是自动识别人工智能模型中的偏见。例如，IBM 的 AI Fairness 360、Google 的 What-If Tool、Microsoft Fairlearn 等工具提供了可视化、诊断功能和完整的公平性报告。

这些框架为结构化审查模型在不同人群细分市场的输出提供了支持机制，并就如何解决这些偏见提供了可操作的建议。这些工具对识别偏见的方法进行了标准化，减少了错误数量，并有助于更快地识别复杂模型中的问题。

结论

消除人工智能中的偏见是开发公平、可靠和高效的人工智能系统的基本要求。由于人工智能在医疗保健、金融和刑事司法等领域的广泛应用，缺乏偏见检查会进一步加剧不平等并损害公众信心。尽管在识别和预防偏见方面已取得进展，但与算法、各种数据集和复杂的社会框架相关的根本性复杂性仍然存在。

开发可靠、道德和原则性的人工智能系统需要技术人员、政策制定者和社区代表之间的协作努力。激励人工智能开发领域的透明度和问责制是实现人工智能积极发展并让每个人都能公平参与的关键。