Keras的API详解（上）：卷积、激活、初始化、正则

人工智能

2023-11-08 02:53:13

前言

在本文中，我们将系统地学习一下Keras的一些关于网络层的API，本文的主要内容是围绕卷积展开的，包含以下的内容：

Keras的卷积层
激活函数
初始化方法
正则化

其他的常用层。

本文内容较多，对于API的学习了解即可。

Keras的卷积层

Keras的卷积层和PyTorch的卷积层，都包括1D、2D和3D卷积层，具体如下：

1D卷积层 ：适用于处理一维数据，如时间序列数据。
2D卷积层 ：适用于处理二维数据，如图像数据。
3D卷积层 ：适用于处理三维数据，如视频数据。

在Keras中，卷积层可以使用以下代码创建：

from keras.layers import Conv1D, Conv2D, Conv3D

# 创建一个1D卷积层
conv1d = Conv1D(filters=32, kernel_size=3, strides=1, padding='same', activation='relu')

# 创建一个2D卷积层
conv2d = Conv2D(filters=32, kernel_size=(3, 3), strides=(1, 1), padding='same', activation='relu')

# 创建一个3D卷积层
conv3d = Conv3D(filters=32, kernel_size=(3, 3, 3), strides=(1, 1, 1), padding='same', activation='relu')

其中，filters参数指定了卷积核的个数，kernel_size参数指定了卷积核的大小，strides参数指定了卷积步长，padding参数指定了填充方式，activation参数指定了激活函数。

激活函数

激活函数是非线性函数，用于将神经元的输入值转换为输出值。Keras中提供了多种激活函数，包括：

relu：整流线性单元（Rectified Linear Unit），是最常用的激活函数之一。
sigmoid：西格莫德函数（Sigmoid Function），用于二分类任务。
tanh：双曲正切函数（Hyperbolic Tangent Function），也用于二分类任务。
softmax：softmax函数，用于多分类任务。

在Keras中，激活函数可以使用以下代码设置：

from keras.layers import Activation

# 创建一个ReLU激活层
relu = Activation('relu')

# 创建一个Sigmoid激活层
sigmoid = Activation('sigmoid')

# 创建一个Tanh激活层
tanh = Activation('tanh')

# 创建一个Softmax激活层
softmax = Activation('softmax')

初始化方法

初始化方法用于初始化神经元的权重和偏置。Keras中提供了多种初始化方法，包括：

glorot_uniform：Glorot均匀初始化方法，是默认的初始化方法。
he_normal：He正态初始化方法，适用于ReLU激活函数。
lecun_uniform：LeCun均匀初始化方法，适用于sigmoid和tanh激活函数。

在Keras中，初始化方法可以使用以下代码设置：

from keras.initializers import GlorotUniform, HeNormal, LecunUniform

# 创建一个Glorot均匀初始化器
glorot_uniform = GlorotUniform()

# 创建一个He正态初始化器
he_normal = HeNormal()

# 创建一个LeCun均匀初始化器
lecun_uniform = LecunUniform()

正则化

正则化是一种防止过拟合的技术。Keras中提供了多种正则化方法，包括：

l1_regularizer：L1正则化，也称为Lasso正则化。
l2_regularizer：L2正则化，也称为Ridge正则化。
dropout：Dropout正则化，是一种随机失活正则化方法。

在Keras中，正则化方法可以使用以下代码设置：

from keras.regularizers import l1_regularizer, l2_regularizer, dropout

# 创建一个L1正则化器
l1_regularizer = l1_regularizer(l1=0.01)

# 创建一个L2正则化器
l2_regularizer = l2_regularizer(l2=0.01)

# 创建一个Dropout正则化器
dropout = dropout(rate=0.2)