从零点开始机器学习：将 TF1.0 版本 5 转换到 SavedModel

2023-10-25 09:31:47

机器学习模型的开发是一个迭代过程，需要不断地调整和改进。随着时间的推移，可能会出现需要更新底层框架或工具链的情况。在这种情况下，将现有模型转换为兼容格式非常重要。本教程将重点介绍如何将 TensorFlow 1.0 版本 5 模型转换为 SavedModel 格式，这是一种更现代、更有效率的模型部署格式。

为什么要转换到 SavedModel？

SavedModel 是 TensorFlow 引入的一种用于打包和部署机器学习模型的格式。与之前的格式相比，它提供了以下主要优势：

可序列化性： SavedModel 可以序列化为单个文件，便于分发和部署。
灵活性： SavedModel 允许灵活地选择要加载和执行的模型部分。
高性能： SavedModel 经过优化，可实现高效的推理性能。

转换步骤

1. 冻结计算图

要将 TensorFlow 1.0 模型转换为 SavedModel，第一步是冻结计算图。这涉及将模型的训练部分转换为静态计算图，以便在部署时可以更有效地执行。要冻结计算图，请使用以下代码：

import tensorflow as tf

# 加载模型
model = tf.keras.models.load_model('my_model.h5')

# 冻结计算图
frozen_graph = tf.compat.v1.graph_util.convert_variables_to_constants(
    sess.graph_def,
    sess.graph_def.node
)

# 序列化冻结图
with tf.io.gfile.GFile('frozen_model.pb', 'wb') as f:
    f.write(frozen_graph.SerializeToString())

2. 保存 SavedModel

冻结计算图后，下一步是保存 SavedModel。这涉及将冻结图和模型元数据打包到一个文件中。要保存 SavedModel，请使用以下代码：

# 创建 SavedModel 签名
signature = tf.compat.v1.saved_model.signature_def_utils.build_signature_def(
    inputs=None,
    outputs={'predictions': tf.compat.v1.saved_model.utils.build_tensor_info(tensor=model.output)},
    method_name=tf.compat.v1.saved_model.signature_constants.PREDICT_METHOD_NAME
)

# 创建 SavedModel 资产
asset_info = tf.compat.v1.saved_model.utils.build_asset_info(asset_file='frozen_model.pb')

# 创建 SavedModel 导出对象
export_path = 'saved_model'
builder = tf.compat.v1.saved_model.builder.SavedModelBuilder(export_path)

# 添加签名和资产
builder.add_meta_graph_and_variables(
    sess,
    tags=[tf.compat.v1.saved_model.tag_constants.SERVING],
    signature_def_map={'predict': signature},
    assets_map={'frozen_model.pb': asset_info}
)

# 保存 SavedModel
builder.save()

3. 加载 SavedModel

要加载 SavedModel，可以使用以下代码：

# 加载 SavedModel
saved_model_loader = tf.compat.v1.saved_model.loader.load(export_path, ['serve'])

# 获取预测函数
predict_fn = saved_model_loader.signatures['predict']

# 使用模型进行预测
predictions = predict_fn(tf.constant([[1.0, 2.0, 3.0]]))