深度神经网络中的非线性边界

在感知器模型中，我们使用线性模型对数据的两个区域进行分类。 真实的数据要复杂得多，并且并非总是能用直线进行分类。 为此，我们需要一个非线性边界来分隔我们的数据。 感知器模型适用于最基本的神经网络形式，但对于真实数据的分类，我们使用深度神经网络。

当我们的模型无法表示一组数据时，我们会使用非线性模型来代替它。 非线性模型用于以下情况

在上图中，有一条曲线可以完美地对我们的数据进行分类，但是我们如何才能获得这条曲线呢？ 为此，我们将两个感知器组合成第三个。 这很容易理解，因此为了更好地理解，我们取两个线性模型并将它们组合起来形成一个非线性模型。

从上图中可以看出，两个模型都无法对我们的数据进行分类。 以下是用于从两个线性模型形成非线性模型的几个步骤

步骤 1

让我们从组合每个线性模型以形成非线性模型开始。 如果我们有两个线性模型，那么通过组合它们，生成的模型将如下所示

输出模型是其他两个模型的线性组合。

步骤 2

现在，我们需要做什么，我们将两个线性模型都视为一个包含某些线性方程的输入节点。 我们将第一个模型表示为 x1，第二个模型表示为 x2。

步骤 3

在下一步中，我们将使用一些权重（例如 w1 和 w2）来乘以我们的模型，并且我们还会考虑偏差，因此我们也将偏差值视为一个节点。

步骤 4

现在，将所有内容相加即可获得线性组合。 为此，我们将应用 sigmoid 激活函数，该函数为我们提供了期望的曲线。

步骤 5

我们将数学上将所有节点与其权重值（例如 w1=0.4、w2=1 和 b=0.5）相乘，并应用 sigmoid，然后生成的曲线如下所示

步骤 6

在第二个线性模型 x2 中，如果我们取权重值 3，则生成的模型将为我们提供一条意外的曲线，它看起来像

从步骤 5 和步骤 6 可以清楚地看出，使用权重值 1.5 和 1 创建的模型比使用权重值 1.5 和 3 创建的模型更好地对我们的数据进行分类。权重定义了非线性模型的非线性边界。

将两个线性模型组合起来形成非线性模型的过程并非易事。 了解神经网络的结构以实现深度神经网络的非线性边界至关重要。