微调后的Hugging Face模型：保存和加载指南

人工智能

2023-09-28 04:27:45

概览

微调是一种强大的技术，允许您利用预先训练的模型来执行特定任务。通过微调，您可以利用预先训练模型学到的知识，并针对手头的特定任务对其进行调整。

Hugging Face是一个受欢迎的库，用于自然语言处理（NLP）任务。它提供了许多预先训练的模型，您可以使用这些模型来执行各种任务，如文本分类、语言建模和机器翻译。

在某些情况下，您可能需要保存和加载经过微调的模型。例如，您可能希望在不同的设备上使用模型，或者您可能希望与他人共享模型。

保存微调模型

要保存微调模型，您需要执行以下步骤：

导入必要的库。
加载预先训练的模型。
微调模型。
保存模型。

以下是一个保存微调模型的示例代码：

import transformers

# 加载预先训练的模型
model = transformers.AutoModelForSequenceClassification.from_pretrained("bert-base-uncased")

# 微调模型
model.train()
for epoch in range(3):
    # 训练代码
    pass

# 保存模型
model.save_pretrained("./my_model")

加载微调模型

要加载经过微调的模型，您需要执行以下步骤：

导入必要的库。
加载经过微调的模型。
使用模型进行推理。

以下是一个加载经过微调的模型并使用它进行推理的示例代码：

import transformers

# 加载经过微调的模型
model = transformers.AutoModelForSequenceClassification.from_pretrained("./my_model")

# 使用模型进行推理
inputs = tokenizer("Hello, world!", return_tensors="pt")
outputs = model(**inputs)
predictions = torch.argmax(outputs.logits, dim=-1)
print(predictions)