可解释的 AI

引言

可解释人工智能 (XAI) 是一系列流程和策略，它允许人类用户理解并相信人工智能算法生成的结果。

可解释人工智能描述了人工智能模型预测的影响和可能的偏差。它有助于模型的正确性、公平性、透明度，并最终实现人工智能驱动决策的制定。对于一个组织来说，在将人工智能模型投入生产时，可解释人工智能对于建立信心和信任至关重要。人工智能的可解释性还使组织能够以负责任的态度开发人工智能，因为随着人工智能的进一步发展，人们很难理解和追踪算法是如何得出结果的。整个计算过程被转换为通常难以理解的“黑箱”。这些黑箱模型直接从数据构建。此外，专家或信息研究人员即使进行计算，也无法理解或弄清其中发生了什么以及人工智能计算是如何得出特定结果的。

了解人工智能驱动的框架是如何产生特定结果的有很多好处。合理性可以帮助设计人员确保系统按预期运行，这对于满足监管标准可能很重要，或者对于允许受决策影响的人质疑或更改结果可能很重要。

为什么可解释人工智能很重要？

对于一个组织来说，充分理解人工智能的动态决策过程、进行模型检查和人工智能的责任至关重要，而不是盲目地信任它们。合理的人工智能可以帮助人们理解和解释人工智能和机器学习算法、深度学习和神经网络。

机器学习模型通常被认为是无法解释的黑箱。深度学习神经网络对于人类来说可能很难理解。偏差（通常与种族、性别、年龄或地区相关）在训练人工智能模型时一直是一个令人担忧的问题。此外，由于生产数据和训练数据之间的差异，人工智能模型的性能可能会漂移或下降。这使得公司必须定期监控和维护模型，以提高人工智能的可解释性，同时分析使用此类算法的财务影响。可解释人工智能还促进了最终用户的信心、模型可审计性和人工智能的有效利用。它还减少了制造人工智能的合规性、法律、安全性以及声誉方面的担忧。

可解释人工智能是采用负责任人工智能的主要标准，负责任人工智能是在现实组织中大规模部署人工智能的一种方法，它优先考虑公平、模型可解释性和问责制。为了促进负责任人工智能的采用，组织必须通过开发基于信任和透明度的人工智能系统，将道德概念融入人工智能应用和流程中。

可解释人工智能如何运作？

理解机器学习和可解释人工智能允许公司深入了解人工智能技术底层的决策过程，并相应地实施改进。可解释人工智能有可能通过提高最终用户对人工智能决策能力的信任来提高用户满意度。人工智能系统何时能够做出足够自信的决策，让您可以依赖它们，以及它们在出现错误时将如何纠正错误？

随着人工智能的进步，机器学习程序必须继续被理解和监管，以确保正确的人工智能模型结果。让我们看看人工智能和 XAI 之间的差异、用于将人工智能转换为 XAI 的方法和策略，以及解释和说明人工智能过程之间的区别。

人工智能与 XAI 的比较

“普通”人工智能和可解释人工智能有什么区别？可解释人工智能 XAI 采用专门的方法和方法来确保机器学习过程中做出的每个选择都可以被识别和解释。另一方面，人工智能通常使用机器学习算法来获得结果，但人工智能的设计者不完全理解算法是如何得出该结论的。这使得检查正确性变得困难，并导致控制、问责制和可审计性（审计师在检查公司财务报告时获得准确结果的能力）的丧失。

可解释人工智能方法

可解释人工智能 (XAI) 方法的结构包括三个主要策略。预测、准确性和问责制解决技术要求，而决策理解解决人类需求。可解释人工智能，特别是可解释机器学习，对于未来的作战人员理解、信任和成功处理新兴一代高度智能的机器伙伴至关重要。

1. 预测准确性
   预测准确性是人工智能在日常活动中有效利用的关键部分。通过运行模拟并将 XAI 输出与准备好的信息集中的结果进行比较，可以完全确定预测的准确性。最常用的方法是局部可解释模型无关解释 (LIME)，它解释了机器学习 (ML) 算法对分类器的预测。
2. 可追溯性
   可追溯性是实现 XAI 的另一种关键方法。例如，这通过限制决策制定方式以及为机器学习规则和功能设置更小的范围来实现。可识别 XAI 策略的一个例子是 Deep LIFT（深度学习显著特征），它将每个神经元的激活与其参考神经元进行比较，并显示每个激活神经元之间可见的连接，甚至显示它们之间的条件。
3. 决策理解
   这是人的因素。许多人对人工智能持怀疑态度，但要熟练地使用它，他们需要学会信任它。这通过教导与计算机辅助智能合作的团队来实现，以便他们能够理解人工智能如何以及为什么做出决策。

人工智能中的可解释性与可解释性

在人工智能中，可解释性是指解释模型决策过程的能力。可解释性更全面，包括了解模型的内部运作。可解释性侧重于结果，但可解释性探索模型的结构和操作，以提供对其工作方式的更深入理解。

观察者能够理解决策背后动机的程度称为其可解释性。这是人们可以预测人工智能输出结果的成功率，而逻辑则更进一步，着眼于模拟智能是如何得出结果的。

可解释人工智能与负责任人工智能有何关系？

可解释人工智能和负责任人工智能有相似的目标，但方法不同。负责任人工智能和可解释人工智能的主要区别如下：

• 可解释人工智能在计算结果后检查人工智能结果。
• 可解释人工智能在规划阶段检查人工智能，以使人工智能算法在计算结果之前负责任。
• 可解释人工智能和负责任人工智能可以协同工作，以创建更好的人工智能。

可解释人工智能的优势

1. 以信任和信心操作人工智能
   产生对持续人工智能的信心。快速将您的人工智能模型投入生产。确保人工智能模型的可解释性和逻辑性。简化模型评估过程，同时扩大模型的透明度和可识别性。
2. 加速人工智能结果的生成时间
   有效地筛选和管理模型以优化业务成果。持续评估和改进模型性能。根据持续评估校准模型开发工作。
3. 降低模型治理的风险和成本
   保持您的人工智能模型合理和透明。管理行政、合规、风险和其他要求。限制手动检查和昂贵错误的开销。缓解意外倾向的风险。

可解释人工智能的五项考虑

1. 公平性和去偏见：管理和监控合理性。检查您的安排是否存在预期偏差。
2. 模型漂移缓解：分析您的模型并根据最合理的结果提出建议。当模型偏离预期结果时发出警报。
3. 模型风险管理：评估和缓解模型风险。当模型表现不足时收到警告。了解偏差持续存在时发生了什么。
4. 生命周期自动化：作为集成信息和人工智能服务的一部分构建、运行和管理模型。在平台上统一工具和流程以监控模型并提供结果。解释人工智能模型的条件。
5. 多云就绪：在包括公共云、私有云和本地在内的混合云中发送人工智能项目。通过合理的人工智能促进信任和信心。

结论

总之，优先考虑可解释人工智能通过提供人工智能模型选择的解释来促进开放和信心。然而，实现完全的可解释性仍然是一项艰巨的任务。为了以道德和实际的方式部署人工智能，模型性能和透明度之间的平衡至关重要。这将确保问责制并帮助人工智能技术更广泛地被社会接受。