人工智能的局限性

引言

人工智能（AI）通过自动化解决方案、提高运营效率和解决难题，带来了重大的变革。它们涵盖医疗保健、金融、制造业等众多行业，展示了其分析大数据、发现模式和做出相当准确预测的能力。然而，尽管AI可以产生巨大的影响，但重要的是要记住它也有局限性。诸如依赖数据可信度、缺乏原创性、道德问题以及高昂的初始投资等障碍，都说明了使用AI所带来的挑战。这些局限性强调了了解AI无法做什么与了解AI可能做什么同样重要。

缺乏人类般的创造力

人工智能擅长处理和分析数据，并从中得出结果，但它缺乏创造力。与人类能够创作原创绘画、音乐、产生新想法或通过灵感和抽象思维解决问题不同，AI是基于数据和算法运行的。

示例：AI甚至可以创作出模仿某个特定艺术家风格的歌曲，但AI本身并不会创造出一种全新的音乐类型。这在营销和产品设计等领域尤为明显，这些领域需要不断更新各种原创策略。我们还发现，AI缺乏“跳出固有思维”的思考能力，因为它的创造力受限于用于训练AI的数据。

依赖数据质量

任何应用AI的系统都需要高质量且大量的数据在学习阶段输入系统。低质量的数据会导致错误的预测和错误的决策。“垃圾进，垃圾出”，如果输入AI模型的数据不足、有偏见或噪声过多，模型就无法做到完美。

示例：在招聘系统中，如果训练数据主要是简历，模型可能会学会主要选择该类别的简历，而忽略其他类别的应聘者。这使得AI的选择和招聘过程变得单调且不公平。对数据的依赖削弱了AI系统的能力，使其复制更多的偏见和错误。

决策中的伦理问题

AI在伦理上是盲目的，无法思考将其行为应用于伦理和道德的可能性。虽然其决策过程是健全的，并符合其中嵌入的原则，但它可能会做出被社会或个人标准判定为不道德的决定。这一局限性在无人机和其他自主平台、疾病早期诊断或执法等领域尤其不受欢迎。

示例：如果用于AI程序训练的数据与司法过程中的偏见相似，AI可能会建议对特定类别的个人施加更严厉的处罚。这不仅加剧了不平等，还引发了在决策影响个人或群体时责任归属的问题。

无法完全理解语境

AI系统通常难以解释语境信息，尤其是那些比较抽象、复杂或与系统训练时所使用的视角大相径庭的语境。这一局限性意味着，当语境对有效决策至关重要时，就会出现错误。

示例：客服聊天机器人可能无法理解俚语或幽默。例如，当用户说“谢谢，什么都没帮到”时，AI可能会将其理解为积极的含义。这种失败会严重影响用户体验，特别是在需要高图形界面性能、情感智能或情境感知能力的应用中。

算法偏见

当输入到AI系统的数据包含社会性或系统性偏见时，AI系统就会出现信息偏差。由于AI模型从历史数据中学习，它们固有的问题就是偏见，并将偏见延续下去，导致不公平或歧视性的结果。

示例：主要由白种人贡献训练数据的人脸识别算法，对于肤色较深的人效果不佳。这最终导致参数被操纵，直到某些群体出现非常高的假阳性率，从而引发公平性问题，尤其是在执法和安全领域。AI中的预设不公平性因此是一个社会性争论的问题。

有限的迁移能力

大多数人工智能系统被编程用于执行特定任务，而没有将知识共享给其他领域的灵活性。人们可以组合不同的想法并将它们从一个问题结构迁移到另一个共同的问题结构，而AI则局限于所学的领域。

示例：这意味着，一个经过专门训练用于使用胸部X光图像诊断肺部疾病的医疗AI，无法从同一张图片中学习骨折，而只能重塑其学习方式。这一局限性使得AI适应性较差，需要不同的模型，这反过来又增加了时间和资源。

资源间的相互依赖

AI系统很复杂，因此，它们需要大量的训练和基础设施资本来运行和支持整个组织。复杂的神经网络，例如深度神经网络，需要专用的硬件。大多数情况下，这些是GPU或TPU以及大量数据。这使得AI的开发和部署成本高昂，对于大多数企业、小型组织或资金不足的部门来说并不可行。

高昂的资源和计算成本

每个人都应该明白，为了利用这些系统，需要高度复杂的计算能力和资源效用来进行AI的维护。例如，深度学习需要GPU或TPU进行训练，以及大量训练数据。这可能会使新AI开发或现有AI系统扩展的投资回报变得昂贵，因此成为有财力支撑的机构或部门的专属。

示例：如训练任何模型时所述，与基础自然语言处理不同，模型的微调可能花费数亿美元和大量的能源。这些计算的高成本不仅阻碍了AI在资源受限环境中的传播和实施，而且考虑到这些计算通常伴随的巨大碳足迹，也对环境可持续性提出了重大问题。

易受安全风险影响

这表明，多种安全威胁会影响AI系统的部署：对抗性攻击、数据泄露和滥用。欺诈、滥用、颠覆预期AI模型能力以及数据损坏等有意义的风险无疑是可能的。

示例：这描述了图像识别系统如何通过轻微修改图像内容来被欺骗，从而误识别数据，例如，一个停车标志的细微变化可能被解释为限速标志，这可能对自动驾驶车辆的安全构成风险。这表明，在人工智能使用中，对更好的安全措施有着迫切的需求。

情感智能低下

即使AI已经开发多年，它仍然无法体验情感智能。虽然Eliza可以模仿理解并对人们的言语做出反应，但她并不理解感情并作出回应。

示例：心理健康聊天机器人的想法是，当用户以非传统的方式表达时，聊天机器人可能不会将其视为紧急情况。这甚至可能导致及时的干预不足，表明AI在深层情感分析方面并非如此高效。在人们必须在情感上进行交流的领域，如咨询、谈判或护理，情感智能变得至关重要。

可解释性问题

AI模型被视为端到端系统，这意味着它们做出决策的方法很难理解。缺乏透明度会带来不利后果，并可能导致结果不可信、难以检查或确认。

示例：在医疗保健领域，如果AI模型预测某个病人患病的概率，但没有详细说明它是如何得出这个概率分布的，医生可能不愿意根据这个预测采取行动。这可能会阻止人工智能在需要可信度和解释能力的敏感领域得到应用。

无法处理歧义

AI系统也未能理解不一致或模糊的数据，因为AI是基于标准化输入和既定规则工作的。虽然人们可以从周围的语境中猜测确切的含义，甚至适应模糊性，但AI框架常常无法正确理解这些任务，并且在这种情况下不采取措施。

示例：因此，语音助手可能会误解一个命令，例如“播放我上次喜欢的那个歌手的歌”，因为缺乏足够的信息来解析语音助手用户的偏好。由于这种限制使得处理明确的指示变得困难，因此在实际生活环境中，这种限制会降低可用性。

复杂的思维能力

AI系统尤其擅长解决具有明确先例或适用规则的问题，但对于需要决策、解决问题或跨领域知识的开放式问题则表现不佳。

示例：AI可以被编程来优化城市内的司机路线，但是，从经济、环境和社会角度规划世界范围内的产品、金钱和人员的物理流动是复杂的。将这些系统分解成子问题意味着它们无法为需要理解和大量规则推理的宏大问题提供最优解决方案。

无法在无监督的情况下完成任何工作

大多数AI模型需要大量的标记数据来提高其做出正确预测的概率，而这些资源大多是手动标注的。这限制了AI的可扩展性以及其自发适应或在无方向的情况下学习新条件的能力。

示例：一个为识别图像中的肿瘤而训练的AI模型，如果出现一种新的肿瘤形式，它将无济于事。这表明，如果系统无法适应并且没有接收到标记的示例，它在实际应用中表现会更差，因为在实际应用中不可能进行持续的手动干预。

与其他系统集成的挑战

AI集成通常是现有遗留系统的一个问题。当今大多数AI应用程序的设计架构都与当前技术兼容，而不是早期操作系统框架。当组织希望将AI集成到其现有业务模式中时，这会导致问题。

示例：AI用于处理客户关系，可能需要对组织当前使用的软件进行大量修改。此外，不兼容的数据格式或过时的硬件也构成了问题，这使得AI的部署成本和复杂性都非常高。因此，对于公司来说，在组织内部实际实施AI可能会出现严峻的挑战。

对复杂模型进行训练将耗时很长

执行其他任务所需的时间将大大增加，因此证明了这一点。训练复杂的AI模型，特别是深度学习模型，需要相当长的时间。这两种模型都需要大量数据和计算才能达到最佳基准。

示例：由于数据库的大小和创建模型的复杂性，训练一个用于图像识别的神经网络可能需要数周甚至数月。这种训练延长也意味着需要大量资源来获得强大的GPU或云CPU。进入新领域可能是一项有风险的事情，特别是对于资本不足的公司或研究团队来说，而漫长的训练时间往往会延长部署周期，从而阻碍创新。此外，由于不断变化的情况，为了达到理想的准确率而不断进行训练或微调，只会加剧效率低下。

管理异常事件的挑战

特定的AI模型会处理常规的大型数据集，其中事件最有可能在训练过程中发生。当它们面临概率较低且在训练过程中未被建模的事件时，它们就相对效率低下。

示例：一个在医疗保健系统中工作，并且经过常规疾病训练的AI，可能会错误地检测到一种临床上罕见的疾病，因为它在训练样本中只“见过”几次。这种局限性可能导致无法预测甚至无法识别父母应该干预的时间或情况，从而在关键情况下做出糟糕的决定。现实生活中的问题常常充满特殊性和不规则性，以及AI没有经验工作过或没有数字可以查看的场景。

解决问题中的困难

许多AI解决方案基于严格预先编程的算法和模型。虽然这使其非常适合特定功能，但它也削弱了模型应对变化的能力。例如，在客户服务中，AI聊天机器人可以帮助处理大量关于服务交付的查询，但如果客户提出一些非同寻常的查询，它就很难处理。这可能导致最终的负面影响，使客户体验不满意，并且解决方案不尽如人意，因为适应性AI系统无法根据提供的反馈调整其策略，甚至无法考虑非线性上下文。

过拟合和欠拟合

过拟合是指AI模型学习噪声而不是模式的能力，导致它难以泛化到后续数据。欠拟合是指模型对数据集的捕捉能力太弱，无法充分捕捉数据的实际趋势，因此在局部和整体上表现都很差。

示例：在预测股票市场的模型中，过拟合可能导致AI的响应过分强调股票价格中对预测未来趋势完全无用的特征。另一方面，模型使用的特征类型比必需的简单得多，例如线性模式，这种情况称为欠拟合，从而错过了重要的市场趋势。这就是为什么这两种情况都会导致不可靠的预测和决策。

缺乏常识推理

目前，AI系统仍然无法拥有常识推理能力，而常识推理是与日常生活知识相关的教育或假设。因此，这种局限性使得AI在解决日常事件方面的应用不切实际，因为它无法处理与模板或规则不同的日常事件。

示例：导航应用程序可能会推荐一条更快的路线，但它不会考虑道路因施工而封闭，因为它无法处理数据库以外的信息，其中可能包括施工通知。这可能会导致用户不满，并降低系统建议的实用性。

结论

AI无疑为技术世界带来了许多革命性的变化；使用大数据主要存在的问题包括对准确数据的依赖、缺乏人类判断以及伦理问题。此外，由于实施成本巨大且需要频繁的模型优化，其在某些行业的适用性值得怀疑。所有这些限制都让我们认识到，AI虽然很有用，但并非适用于所有人和所有企业。