### Tensorflow2学习笔记
#### 一、搭建神经网络八股六步法
在使用TensorFlow 2构建神经网络的过程中，通常遵循以下六个步骤来进行：
1. **Import相关包**
- 首先需要导入TensorFlow和其他必要的库，例如NumPy等。
```python
import tensorflow as tf
import numpy as np
```
2. **Train、test告知要喂入网络的训练集和测试集是什么、归一化**
- 在这一步骤中，你需要定义训练集和测试集，并对数据进行预处理，比如归一化处理。
```python
# 假设已经加载了数据
X_train, y_train = load_data(train=True)
X_test, y_test = load_data(train=False)
# 归一化处理
X_train = X_train / 255.0
X_test = X_test / 255.0
```
3. **model=tf.keras.models.Sequential在Sequential()中搭建网络结构逐层描述神经网络**
- 这一步是定义神经网络的结构，包括各种不同的层。
```python
model = tf.keras.models.Sequential([
# 拉直层
tf.keras.layers.Flatten(input_shape=(28, 28)),
# 全连接层
tf.keras.layers.Dense(128, activation='relu'),
# 输出层
tf.keras.layers.Dense(10, activation='softmax')
])
```
- **拉直层**: `tf.keras.layers.Flatten()`用于将输入的多维数据拉平成一维数组，方便后续的全连接层处理。
- **全连接层**: `tf.keras.layers.Dense`定义了神经网络中的全连接层，参数包括神经元数量、激活函数等。常用的激活函数有ReLU、Sigmoid、Tanh等。同时还可以设置正则化来防止过拟合。
4. **model.compile在compile()中配置训练方法**
- 在这里指定优化器、损失函数和评估指标。
```python
model.compile(optimizer='adam',
loss='sparse_categorical_crossentropy',
metrics=['accuracy'])
```
- **优化器**: 可以选择多种优化器，如`'sgd'`（随机梯度下降）、`'adagrad'`、`'adadelta'`、`'adam'`等。
- **损失函数**: 根据问题类型选择，例如对于多分类问题通常使用`sparse_categorical_crossentropy`。
- **评估指标**: 用于衡量模型性能，常见的有准确性（`'accuracy'`）等。
5. **model.fit在fit中执行训练过程**
- 使用训练数据训练模型。
```python
model.fit(X_train, y_train, epochs=10, batch_size=32)
```
6. **model.summary用summary()打印出网络的结构和参数统计**
- 查看模型的结构和参数数量。
```python
model.summary()
```
#### 二、具体网络层的介绍
- **拉直层**：`tf.keras.layers.Flatten()`，用于将多维数据转换为一维数据，通常用于图像数据处理之后。
- **全连接层**：`tf.keras.layers.Dense`，用于构建神经网络中的全连接层。
- 参数：
- `units`：输出维度，即该层的神经元数量。
- `activation`：激活函数，默认为None，可以选择`'relu'`、`'sigmoid'`、`'tanh'`等。
- `kernel_regularizer`：权重正则化函数，可以选择`tf.keras.regularizers.l1`、`tf.keras.regularizers.l2`等。
- **卷积层**：`tf.keras.layers.Conv2D`，用于构建卷积神经网络（CNN）。
- 参数：
- `filters`：卷积核的数量。
- `kernel_size`：卷积核的大小。
- `strides`：步长。
- `padding`：填充方式，可选`"valid"`或`"same"`。
- **循环层**：`tf.keras.layers.LSTM`，用于构建循环神经网络（RNN），特别是LSTM（长短时记忆）单元。
#### 三、优化器与损失函数
- **优化器**：选择合适的优化器对于提高训练效率和模型性能至关重要。
- `'sgd'`：随机梯度下降。
- `'adagrad'`：自适应梯度算法。
- `'adadelta'`：自适应学习率算法。
- `'adam'`：自适应矩估计算法，目前最常用的优化器之一。
- **损失函数**：损失函数用于度量模型预测值与实际值之间的差距。
- `'mse'`：均方误差，常用于回归问题。
- `'sparse_categorical_crossentropy'`：稀疏交叉熵损失函数，常用于多分类问题。
- `'binary_crossentropy'`：二元交叉熵损失函数，用于二分类问题。
#### 四、评估指标
- **accuracy**：准确性，是评估分类模型最常用的指标之一。
- 对于二分类问题，可以使用`binary_accuracy`。
- 对于多分类或多标签问题，可以使用`categorical_accuracy`。
通过以上内容，我们可以了解到在使用TensorFlow 2构建神经网络时，如何定义模型结构、选择合适的优化器、损失函数以及评估指标等关键步骤。这些基础知识对于理解和应用深度学习技术至关重要。
