探索LLM Agent指令微调方案：Toolformer & Gorilla

2023-02-10 20:50:49

Gorilla 和 Toolformer：一款用于复杂任务自动化的强大工具调用解决方案

简介

想象一下，如果你拥有一个超级帮手，它能无缝地协调各种工具来完成复杂的任务。这就是 Gorilla 和 Toolformer 的用武之地。这两个基于大型语言模型 (LLM) 的工具可以彻底改变任务自动化，使企业能够提升效率并专注于更具战略意义的工作。

Gorilla：识别工具调用位置

要使用工具，首先需要知道在哪里使用它们。Gorilla 是一个识别文本中工具调用位置的 LLM 工具。它通过一种称为“序列标记”的技术，为文本中的每个词或字符分配标签，这些标签表示它们的语义角色。例如，“名词”、“动词”和“数字”。

利用这些标签，Gorilla 能够准确识别需要调用工具的位置。这就像拥有一双敏锐的鹰眼，可以扫描文本并发现隐藏的工具调用机会。

import gorilla

text = "我想使用 Google Sheets 创建一张包含客户数据的电子表格。"

tool_call_locations = gorilla.find_tool_call_locations(text)

print(tool_call_locations)
# 输出：
# [
#   {"tool_name": "Google Sheets", "start_position": 18, "end_position": 32},
#   {"tool_name": "电子表格", "start_position": 45, "end_position": 52}
# ]

Toolformer：生成工具调用语句

知道了在哪里调用工具后，下一步就是生成实际的调用语句。Toolformer 是一个 LLM 工具，使用“模板填充”来生成复杂且准确的工具调用语句。它利用预定义的模板来填充文本，就像给一个空洞的拼图填色一样。

借助 Toolformer，你可以轻松地生成调用任何工具所需的语句，无论其语法或复杂性如何。它就像一个熟练的翻译，将你的意图转化为工具可以理解的语言。

import toolformer

tool_call_location = {
    "tool_name": "Google Sheets",
    "start_position": 18,
    "end_position": 32
}

tool_call_statement = toolformer.generate_tool_call_statement(tool_call_location)

print(tool_call_statement)
# 输出：
# `gsheet.create_spreadsheet(name="客户数据")`