激活函数¶
激活函数将非线性的特性引入到神经网络当中。
PaddlePaddle 对大部分的激活函数进行了支持，其中有:
PaddlePaddle 应用激活函数的方式如下：
PaddlePaddle 为每个 Activation 提供了接口，可以显式调用。以下是一个示例，展示如何在卷积操作之后应用 ReLU 激活函数：
conv2d = paddle.nn.functional.conv2d(x, weight, stride=1, padding=1) # 卷积
relu1 = paddle.nn.functional.relu(conv2d) # 使用 ReLu 激活函数