一般使用
saver.restore(sess, modeldir + "model.ckpt")
即可加载已经训练好的网络，可是有时候想值使用部分层的参数，这时候可以选择在加载网络之后重新初始化剩下的层
var_list = [weights['wd1'], weights['out'], biases['bd1'], biases['out'], global_step]
initfc = tf.variables_initializer(var_list, name='init')
比如我们想从新初始化var_list中的各个层，在restore之后，再初始化即可
sess.run
在深度学习领域，模型训练完成后通常需要保存以便后续使用或微调。TensorFlow 提供了强大的模型保存和恢复机制，允许我们根据需求加载部分层的参数。本文将深入探讨如何在 TensorFlow 中实现这一功能。
当我们需要加载整个模型时，可以使用 `tf.train.Saver()` 类提供的 `restore()` 方法。例如，下面的代码会加载保存在 `modeldir + "model.ckpt"` 的完整模型：
```python
saver = tf.train.Saver()
with tf.Session() as sess:
saver.restore(sess, modeldir + "model.ckpt")
```
但是，有时我们可能只需要恢复部分层的参数，例如在微调预训练模型或进行迁移学习时。这时，我们可以指定要恢复的变量列表。我们需要获取到这些特定层的变量，如权重 `weights` 和偏置 `biases`，以及全局步数 `global_step`：
```python
var_list = [weights['wd1'], weights['out'], biases['bd1'], biases['out'], global_step]
```
然后，创建一个只针对这些变量的初始化器：
```python
initfc = tf.variables_initializer(var_list, name='init')
```
这样，我们可以在恢复模型后，通过运行这个初始化器来重置特定的变量：
```python
with tf.Session() as sess:
saver.restore(sess, modeldir + "model.ckpt")
sess.run(initfc)
```
这样，`var_list` 中列出的变量就会被重新初始化，而其他未包含在内的变量仍保持之前保存的状态。在执行 `sess.run(initfc)` 后，可以通过 `sess.run(global_step)` 查看 `global_step` 是否已被重置，以验证操作是否成功。
值得注意的是，这种方法适用于那些我们希望从头开始训练的层，或者需要调整其参数的层。对于其他层，特别是预训练的卷积层，通常我们会保留它们的参数不变，因为它们已经学习到了丰富的特征。
在实际应用中，我们还应考虑以下几点：
1. **模型版本管理**：如果模型多次保存，可能需要管理多个版本，确保加载正确的 checkpoint。
2. **变量命名**：为了能够准确地选择要恢复的变量，变量名必须清晰且一致。
3. **模型结构兼容性**：加载部分层时，确保模型的结构与原模型匹配，否则可能会引发错误。
此外，TensorFlow 提供了多种数据加载方式，如 `tf.train.batch()`, `tf.data.Dataset`，以及 `tfrecords` 文件格式等，可以根据实际应用场景选择合适的数据处理方式。
总结来说，TensorFlow 提供的加载部分层的方法是通过指定变量列表和创建相应的初始化器来实现的。这种方法灵活且实用，能够满足深度学习项目中的多种需求，包括模型微调、迁移学习等。理解并掌握这一技巧，对于提升模型训练效率和效果至关重要。
