AI 伦理（AI 道德准则）

人工智能 (AI) 是一项快速发展的技术，它改变了我们生活的许多方面，包括医疗保健、银行业、娱乐和交通。然而，巨大的潜力也伴随着巨大的伦理挑战。人工智能在我们社会中的日益普及，需要建立一套道德原则和标准，以确保其适当的发展和使用。这一框架通常被称为人工智能伦理或人工智能道德准则。

阿西洛马 AI 原则（Asilomar AI Principles）是一项重要的努力，它由 AI 研究人员、开发人员和跨学科的学者合作制定了 23 条指导方针。这些原则强调了安全、可靠、富有同情心和环境友好型 AI 发展的重要性，为负责任的 AI 开发奠定了基础。

除了理论讨论，人工智能伦理已成为组织和政府议程中的重要组成部分。IBM、Google 和 Meta 等领先的技术公司都设有专门的团队来解决 AI 应用提出的伦理问题。

人工智能伦理的重要性

人工智能伦理之所以至关重要，原因有很多：

• 减轻偏见和歧视：AI 系统通常从历史数据中学习，而这些数据可能包含偏见和歧视。如果没有伦理规则，这些偏见可能会持续存在，甚至加剧现有的不平等。AI 伦理有助于识别和纠正算法中的偏见，确保 AI 技术公平对待所有人。
• 隐私保护：AI 经常依赖大量个人数据。AI 伦理要求负责任地处理数据，尊重隐私权，并确保用户信息的安全，防止滥用或未经授权的访问。
• 问责制和透明度：由于许多 AI 系统都像“黑箱”一样运作，因此可能很难理解它们是如何做出决策的。道德 AI 原则强调了透明度和问责制的需求，迫使 AI 开发人员解释 AI 生成的结果。
• 以人为本的方法：AI 伦理强调了人类福祉的重要性。它们强调 AI 应服务于人类，避免可能伤害个人或社区的行为。
• 环境影响：对 AI 技术的伦理考量延伸到其环境影响。提倡可持续和环保的 AI 实践，以减少与 AI 研究和部署相关的碳足迹和其他环境影响。
• 技术滥用：AI 可能被用于恶意目的，如黑客攻击、深度伪造和宣传。AI 伦理关注技术的恰当使用，并防止其被用于破坏性目的。

AI 伦理的利益相关者：负责任的 AI 开发的协作者

建立负责任地使用和发展人工智能 (AI) 的道德准则，涉及广泛的利益相关者，他们必须共同努力，解决 AI 技术带来的复杂的社会、经济和政治挑战。每个利益相关者群体在促进公正、减少歧视和减轻与 AI 技术相关的风险方面都至关重要。

学术界

学术科学家和学者负责产生理论见解，进行调查，并提出作为 AI 伦理基础的理论。他们的工作可以为政府、企业和非营利组织提供有关 AI 技术最新进展和挑战的教育。

政府

政府机构和委员会在促进国家内部的 AI 伦理方面发挥着至关重要的作用。它们可以制定法律法规来控制人工智能技术，确保其负责任的使用并解决社会问题。

政府间组织

联合国和世界银行等国际组织在提高全球对 AI 伦理的认识方面发挥着至关重要的作用。它们制定全球协议和规范，以支持安全的 AI 使用。例如，教科文组织在 2021 年批准了首个关于人工智能伦理的全球协议，这强调了在 AI 开发和部署中维护人权和尊严的重要性。

非营利组织

Black in AI 和 Queer in AI 等非营利组织致力于促进人工智能领域的多元化和代表性。它们努力确保在开发 AI 技术时考虑到不同的观点和人群。诸如未来生命研究所 (Future of Life Institute) 等组织通过制定阿西洛马 AI 原则等建议，为 AI 伦理做出了贡献，这些原则确定了 AI 技术的具体风险、挑战和预期结果。

私营公司

私营企业，包括 Google 和 Meta 等大型 IT 公司，以及金融、咨询、医疗保健和其他 AI 赋能行业的组织，必须建立道德团队和行为准则。通过这样做，它们为各自企业内部负责任的 AI 研究和应用制定了指导方针。

AI 的伦理挑战

人工智能的伦理问题广泛而复杂，涉及 AI 技术及其应用的各个方面。

• 可解释性：AI 系统可能非常复杂，难以理解它们如何做出某些决策或预测。当这些系统出错或造成损害时，找出根本原因至关重要。AI 系统应以可追溯的方式开发，以便在出现问题时，可以追溯到特定的组件，如源数据、所使用的算法和 AI 决策逻辑。问责制和透明度需要可解释性。
• 责任：确定 AI 驱动的决策的责任可能很困难，尤其是在后果严重的情况下。AI 系统可能造成重大损害的潜力，包括经济损失甚至生命损失，需要各利益相关者的共同努力。这种协作努力包括法律专业人士、监管机构、AI 开发人员、伦理委员会和公众，以建立 AI 的问责制。在 AI 的好处（在某些情况下可能比人类操作更安全）与潜在的困难之间取得平衡是一项复杂的任务，需要妥善处理。
• 公平性：由于 AI 算法经常依赖数据，因此它们存在延续数据中与种族、性别或民族少数群体相关的偏见并产生不公正结果的风险。确保 AI 的公平性需要系统地评估和净化数据集以消除偏见。此外，开发人员应部署能够积极对抗偏见并促进所有人平等对待的算法和模型，而不管其背景如何。
• 滥用：AI 技术有可能被用于意想不到或不受欢迎的目的，例如虚假信息、恶意内容开发或不道德行为。为了减少滥用，在 AI 系统的设计过程中必须考虑潜在的风险和伦理后果。应实施安全措施、监控和保障措施，以防止负面后果并防范滥用。
• 生成式 AI：基于当前数据，生成式 AI 应用可以创建新内容。这引起了人们对虚假信息、抄袭、版权侵权和有害内容传播的担忧。生成式 AI 应用的广泛使用需要对伦理影响进行认真评估。应监控内容创建，并采取措施避免或纠正不准确和版权侵权等问题。

道德 AI 的好处

• 提高客户信任度和忠诚度：道德 AI 实践通过确保用户的数据和利益得到道德管理，从而提高客户的信任度和忠诚度。
• 改善品牌声誉：采用道德 AI 标准通过展示对负责任和可信赖的技术使用的承诺，从而增强公司的品牌声誉。
• 改善客户体验：道德 AI 通过确保个性化和互动是有礼貌的、公正的和针对个人偏好的，从而改善客户体验。
• 吸引和留住顶尖人才：优先考虑道德 AI 实践的组织通过建立符合员工信念的积极工作环境来吸引和留住顶尖人才。
• 法律和法规遵从性：道德 AI 能够遵守日益增长的 AI 相关法规，并保护企业免受法律纠纷和声誉损失。
• 社会责任和良好声誉：采用道德 AI 实践可以使公司成为社会负责任的企业，从而在消费者和整个社会中建立良好声誉。
• 风险缓解：道德 AI 有助于识别和减轻与偏见、歧视和意外后果相关的风险，从而降低出现不良后果和负面宣传的可能性。

AI 道德准则示例

万事达卡 (Mastercard) 的 AI 道德准则

• 包容性：根据万事达卡的 AI 道德准则，道德 AI 系统应无偏见，并在社会各界同样有效地运作。为此，组织必须深入了解用于训练 AI 模型的数据源。需要进行广泛的数据审计，以过滤掉可能导致偏见的任何有问题特性。需要对 AI 模型进行持续监控，以避免未来的偏见或损坏。
• 可解释性：道德 AI 系统必须是可解释的。这意味着组织必须使用易于理解和解释的算法和模型。虽然 AI 系统追求高性能，但为了选择优先考虑可解释性的算法以促进对系统行为的信任，可能需要做出权衡。
• 积极目的：AI 系统只能用于善。目标是利用 AI 造福人类，无论是减少欺诈、消除浪费、解决气候变化、治愈疾病还是实现其他可取的目标。挑战在于阻止人工智能被用于不道德或破坏性目的。
• 负责任的数据使用：数据对 AI 系统至关重要，必须负责任地使用。组织只应在必要时收集数据，避免收集冗余数据。收集数据的粒度应尽可能保持较低。为保护隐私和透明度，应系统地删除不再需要的数据。

使用 Lensa AI 转换图像

Lensa AI 是一个例子，说明了由于使用 AI 将普通图像转换为风格化的卡通式个人资料照片而引起的伦理问题。批评者们指出了许多道德问题：

• 缺乏署名：Lensa AI 因未给予其修改基础的原始数字艺术家足够认可或报酬而受到批评。
• 数据来源：据称，Lensa AI 在未经许可的情况下使用了数十亿张来自互联网的图片进行训练。这引发了关于知识产权和数据隐私的质疑。

ChatGPT 的 AI 框架

ChatGPT 是一个使用文本响应用户查询的 AI 模型；但是，其使用存在伦理问题。

• 滥用：人们使用 ChatGPT 来写论文和赢得编程竞赛，可能滥用了这项技术。这引发了关于 AI 的适当使用以产生意想不到结果的道德问题。

AI 伦理资源

大量的组织、立法者和监管机构正在积极致力于建立和推广道德 AI 实践。这些组织在负责任地使用人工智能、解决紧迫的伦理问题以及推动行业朝着更道德的 AI 应用发展方面发挥着重要作用。

Nvidia NeMo 限制

Nvidia 的 Nemo Guardrails 提供了一个可适应的接口，用于为 AI 机器人（尤其是聊天机器人）设置特定的行为规则。这些规则有助于确保 AI 系统遵守道德、法律或行业特定法规。

斯坦福大学以人为本的人工智能 (HAI) 研究所

斯坦福 HAI 持续进行研究，并为以人为本的 AI 最佳实践提供建议。其项目“安全公平健康的负责任 AI”解决了 AI 在医疗保健应用中的伦理和安全问题。

AI Now Institute

AI Now Institute 是一个致力于研究负责任的 AI 实践并分析 AI 社会影响的组织。他们的研究涵盖了广泛的主题，包括工人数据权、隐私、大型 AI 模型、算法问责制和反垄断问题。诸如“AI Now 2023 发展趋势：应对科技巨头”等研究提供了关于指导 AI 法规制定的伦理问题的深刻分析。

哈佛大学伯克曼·克莱因互联网与社会中心

该中心专注于调查 AI 治理和伦理方面的根本性问题。他们的研究领域包括算法问责制、AI 治理框架、刑事司法中的算法以及信息质量。该中心的资助研究有助于塑造人工智能的伦理标准。

CEN-CENELEC 的人工智能联合技术委员会 (JTC 21)

欧盟目前正通过 JTC 21 努力制定负责任的 AI 标准。这些指导方针旨在支持道德原则，指导欧洲市场，并为欧盟立法提供信息。JTC 21 还负责定义 AI 系统在准确性、鲁棒性和透明度方面的技术规范。

NIST 开发的 AI 风险管理框架 (RMF 1.0)

国家标准与技术研究院 (NIST) 的指南可供政府组织和商业部门用于管理新兴的 AI 风险并推广道德 AI 实践。它提供了关于如何在各种组织环境中实施规则和法规来管理 AI 系统的全面指导。

世界经济论坛发布的“关于负责任生成式 AI 的普雷西迪奥建议”

这篇白皮书提供了三十条实用建议，用于应对生成式 AI 的伦理复杂性。它涵盖了 AI 技术与社会进步、开放式创新、国际合作和负责任的开发。

AI 伦理的未来

需要采取更积极主动的方法来确保未来的道德 AI。仅仅尝试从 AI 系统中消除偏见是不够的，因为偏见可能根植于数据中。相反，重点应该放在建立社会规范和公平性，以指导 AI 做出道德决策。作为这种积极主动的方法的一部分，原则应该被确立，而不是一套“该做什么和不该做什么”的清单。

人类干预对于确保负责任的 AI 至关重要。商品和服务的编程应将人类的需求放在首位，避免歧视代表性不足的群体。由于 AI 的采用可能会加剧社会分歧，因此必须解决由此造成的经济不平等。

此外，为恶意行为者可能利用 AI 的可能性做好准备至关重要。随着 AI 技术快速发展，制定保障措施以防止不道德的 AI 行为至关重要。高度自主的、不道德的 AI 的未来发展可能会使制定保障措施以降低风险并确保道德 AI 的发展变得更加重要。