ChatGPT 中的零样本、单样本和少样本学习是什么?

2025年7月2日 | 阅读 4 分钟

在 ChatGPT 中,零样本、单样本和少样本学习是提升 人工智能 模型能力的关键主题。 这些方法允许模型在少量训练数据上查找和分类新数据,从而使其高效且准确。 在本教程中,我们将学习零样本、单样本和少样本学习的关键特征,以及如何在使用这些方法时编写有效的提示。

什么是零样本学习?

零样本学习允许模型识别以前未见过的数据。 零样本学习不是为每个类别训练示例,而是借助语义信息来了解类别的上下文,从而进行预测。 这种方法利用了人类如何通过识别数据的细节来对新的 数据 进行分类。

零样本学习的关键特征

零样本学习在训练时不获取示例,而是使用先前的知识或语义信息来对新数据进行分类。

Prompt

什么是单样本学习?

单样本学习方法通过将单个示例作为输入进行训练。 开发此方法是为了管理提取每个可能类别的各种示例不切实际的情况。 单样本学习侧重于从有限的信息中进行概括,这模仿了人类仅通过一次观察来识别新类或概念的能力。

单样本学习的关键特征

在单样本学习中,模型在训练时仅针对每个类输入一个示例,从而概括了模型,并且仅根据单个示例即可准确地进行预测。 有些方法会实现相似性指标,以使用单个实例比较新示例并对新类进行分类。

Prompt

什么是少样本学习?

少样本学习采用一些示例来训练模型,并允许模型学习一些示例。 当提取大量数据面临挑战时,此方法很有帮助。 少样本学习借助以前的知识并进行相应调整,以有效地学习新问题。

少样本学习的关键特征

在少样本学习中,使用一些新数据的示例来训练模型,这使模型能够以最少的数据适应新情况。 有时它包含元学习方法,其中使用少量实例完成学习。 这种方法在收集数据非常耗时的领域中很有用,例如图像识别、NLP 任务以及任何医学数据的诊断。

Prompt

零样本学习、单样本学习和少样本学习之间的相似之处

零样本、单样本和少样本用于处理有限数据的可用性,旨在即使在可用数据较少的情况下也能实现有效的学习和预测。 所有这些方法都允许在较少的信息上学习该模式,并提供关于新数据的准确响应。 每种方法都侧重于调整模型以管理新类,无论是从外部来源获取知识还是从单个实例获取知识。

零样本、单样本和少样本学习之间的差异

以下是零样本、单样本和少样本学习之间的表格差异

特点零样本学习单样本学习少样本学习
训练样本数量不采用训练示例,而是依赖语义信息来对未见过的数据进行预测。仅采用示例进行预测。每个新类采用一些示例。
学习方法使用语义信息来推断未见过示例上的数据。实现基于相似性指标的方法(如 Siamese Networks),通过比较给定的单个示例来对新数据进行分类。实现元学习方法(如 MAML),以使用少量示例快速学习新示例。
训练数据要求新的类不需要训练数据,它依赖语义信息来进行预测。在评估结果时,每个新数据仅需要单个示例。需要少量数据,但数量足以训练每个类的模型。
应用在不需要示例时使用,例如对新想法进行图像分类或 NLP 任务。对于仅有一个实例的情况有效,例如在可用图像有限的情况下进行人脸识别。在提取一些示例时有效,例如使用少量示例进行对象检测。
挑战依赖语义信息。性能取决于单个实例,有时一个坏示例可能会给出不准确的结果。存在过度拟合少量数据的风险,性能质量可能对所提供示例的质量和多样性敏感。

结论

零样本、单样本和少样本学习提供了在 ChatGPT 中处理较少训练示例的不同方法。 零样本学习通过使用语义信息,在没有给出任何先验示例的情况下,在新数据的分类中表现出色,而单样本学习则侧重于借助相似性指标从单个实例中识别新类。 另一方面,少样本学习使用少量训练示例来预测新数据。

ChatGPT 中的零样本、单样本和少样本学习是什么? 常见问题解答

1) 为什么这些学习风格在提示工程中很重要?

它们有助于控制模型的响应方式

  • 零样本快速而简单。
  • 单样本提供了一个基本模式。
  • 少样本提供了更清晰的上下文并提高了准确性。

2) 这些方法可以与系统指令结合使用吗?

可以。 您可以在系统级提示(如语气或行为指令)旁边使用少样本示例来微调 ChatGPT 的输出。

3) 零样本、单样本和少样本仅限于语言任务吗?

不。 这些技术适用于各种各样的任务,例如

  • 代码生成
  • 文本分类
  • 摘要
  • 数据提取
  • 数学问题

下一个主题null